Az előadó elmélyed az MI fejlődésének egyik kulcsfontosságú kérdésében: miben különbözik alapvetően egy chatbot egy valóban agentikus MI-től? Megvilágítja, hogy a ma ismert nagy nyelvi modellek többsége, mint a ChatGPT vagy a Gemini, erősen arra lett betanítva, hogy passzívan válaszoljon és asszisztensként működjön, szigorú biztonsági korlátok mellett.
Feltárásra kerül, hogy a korai, kezeletlen modellek rendkívül rugalmasak voltak: gyakorlatilag bármilyen utasítást végrehajtottak, ami akár veszélyes is lehetett. Az előadó személyes példákat oszt meg a modellek összehangolásával, például etikai célok betanításával.
Az MI biztonság, etika és a „konstitucionális MI” fogalma kerül elemzésre. A szerző azt a kérdést veti fel, hogyan lehet olyan univerzális értékeket, mint a szenvedés csökkentése vagy a jólét és megértés növelése, beépíteni a jövőbeli autonóm MI-ügynökökbe.
Külön figyelmet kap a különbség a chatbotok és valódi ügynökök között: míg az előbbiek emberekhez kötik a kommunikációt, az ügynökök autonóm módon, akár emberi beavatkozás nélkül, egymással, API-kkal vagy környezettel kommunikálnak.
Felmerül az a gondolat, hogy a jelenlegi MI-asszisztens orientált modelleket csak rákényszerítették az „agentikus” felhasználásra, ám a jövőben várhatóan tisztán agentikus modellek jelennek meg, amelyek elsődleges célja nem a humán interakció lesz.
