A mesterséges intelligenciával kapcsolatos kritikára és a piacon lévő AI rendszerek értékelésének gyerekcipőben járó mivoltára hívja fel a figyelmet ez a beszélgetés. Rumman Chowdhury arról beszél, hogyan lehet átfogóbb, tudományosabb módszerekkel red teaming tesztelést alkalmazni, és miért veszélyes, ha minden generált tartalmat kritikátlanul elfogadunk.
Felszínre kerülnek különböző, hétköznapi és extrém szituációk, amelyekben az AI modellek hajlamosak téves válaszokat adni. Ezek közé tartozik például az, amikor egy AI modell a felhasználó határozott, téves előfeltevéseihez igazodik, ezzel veszélyes pontatlanságokat erősítve meg. A beszélgetés rávilágít arra is, hogy a legtöbb benchmark és értékelés a mai napig távol áll a tudományos megalapozottságtól.
Konkrét példákon keresztül bemutatják, hogy a társadalmi torzítások, például az előítélet, miként jelenik meg AI modellekben – legyen szó bőrszínről, nemről vagy fogyatékosságról. A Twitteren például az algoritmikus torzításokat úgy vizsgálták, hogy nyilvános hibakeresésre hívták a közösséget.
A beszélgetés központi kérdései: miként válhatunk kritikusabb információfogyasztóvá, hogyan kérdőjelezhetjük meg az AI válaszait, hogyan használhatjuk hatékonyan a red team szemléletet, és miért veszélyes, ha a mesterséges intelligencia gondolkodik helyettünk?
