Arvin Naran professzor, a Princeton Egyetem számítógéptudományi tanszékének oktatója és az információtechnológiai politikák központjának vezetője betekintést nyújt a mesterséges intelligenciával támogatott chatbotok működésének valóságába. Fő kutatási területe az AI-rendszerek állításainak hitelessége, különös tekintettel arra, hogy a vállalati kommunikáció milyen gyakran túloz vagy tartalmaz téves információkat.
Megtudhatjuk, hogyan képesek a mai chatbotok rendkívül meggyőző szövegeket generálni, miközben ezek nem mindig pontosak, sőt, egyes esetekben komoly tévedésekhez vagy káros állításokhoz is vezethetnek. Kiemelt példa, amikor egy chatbot egy professzort valótlanul vádolt meg, sőt, nem létező forrásokat is megjelölt.
A professzor foglalkozik azzal a problémával is, hogy miért fordul elő a pontatlanság: a chatbotok nem memorizálják a tanulási anyagokat, hanem statisztikai minták alapján alkotnak válaszokat. Ennek következtében természetes módon keletkeznek hibák. Érdekes kérdésként merül fel, hogy miért találkozhatunk ilyen gyakran helyes válaszokkal, és hogyan lehetne növelni a megbízhatóságot, akár a technológia alapvető újratervezésével.
A videó végén a felelősségvállalás, az orvosi diagnosztika pontossága és a nyilvánosság félelmei kerülnek fókuszba. Kitér arra is, hogy társadalmi szinten milyen dilemmákat és bizalmatlanságot vált ki az új AI-termékek megjelenése, különösen a munkahelyekre és az információs ökoszisztémára gyakorolt hatásuk miatt.
