Az automatizált mesterséges intelligencia (AI) ügynökök egyre kifinomultabbá válnak, azonban telepítésük során az emberi tényező gyakran nem tart lépést a technológia fejlődésével. A legújabb példák bemutatják, hogy miként vezethetnek végzetes hibákhoz a rosszul felügyelt AI ügynökök: egy közelmúltbeli eseményben például egy AI kódszerző 1,9 millió soros, éles adatbázist törölt, pusztán a kapott utasítások tökéletes végrehajtása miatt.
A műsor három friss tanulmányt tárgyal, amelyek mélyebb betekintést nyújtanak abba, miért nem képesek jelenleg a mesterséges intelligenciák hosszú távú, összetett munkafolyamatok kezelésére. Ezek között szerepel a memóriakorlát problémája: míg az emberek évekig hordozzák a szervezeti tudást és kontextust, az AI-k rövid távú memóriája a legtöbb esetben csak órákra, maximum hetekre terjed ki.
Érdekes kérdések merülnek fel az AI-ügynökök alkalmazásával kapcsolatban: Miért olyan megbízhatatlanok még mindig a komplex feladatok hosszú távú kezelésében? Mi az oka annak, hogy az AI hibái gyakran teljesen logikus, bár a rendszer egészét nem átlátó döntésekre vezethetők vissza? A beszélgetés rávilágít arra, hogy egy adott feladat helyes végrehajtása nem jelenti automatikusan azt, hogy az adott környezetben az volt a megfelelő döntés.
Felmerül az is, hogy az emberi ítélőképesség, valamint az úgynevezett „eval” (értékelési) rendszerek nélkülözhetetlen védelemként kell, hogy szolgáljanak ezek ellen a kockázatok ellen. Miként lehetséges az, hogy a megfelelő emberi ellenőrzés hiánya miatt a legfejlettebb AI-ügynökök is kritikus hibákat követnek el? A videóban példák sorát mutatják be, amelyekben pontosan ez történt, nemcsak szoftverfejlesztés, hanem jogi, pénzügyi és marketing területen is.
Központi gondolatként emelkedik ki, hogy az AI általános fejlődése mellett a hosszú távú memóriával, szervezeti kontextussal és ítélőképességgel bíró emberek jelentősége éppen hogy növekszik, hiszen nélkülük a legokosabb automatizmusok is vakok lehetnek a valós helyzet fontosságaira. A videó végigkíséri, milyen döntési, felelősségi és értékelési dilemmákat vet fel a jelenlegi AI-alapú munkavégzés világszerte.
