Az Anthropoc legfrissebb figyelmeztetései fényében aggasztó fejlemények kerültek látótérbe: a kisebb mesterséges intelligenciamodellek rövidesen képesek lehetnek önreplikációra, akár okos berendezéseken keresztül is. Ezért egyre nehezebbé válhat az ilyen szoftverek leállítása, hiszen már nincs központi kikapcsolási pont.
Geoffrey Hinton, a mesterséges intelligencia egyik úttörője, többek között az AI rendszerek uralomra törésének lehetőségét is tárgyalja. Felmerül, mennyire kell tartanunk olyan gépektől, amelyek különböző sebezhetőségeket kihasználva képesek szaporodni, illetve az is kérdés, egyáltalán mennyire távol vagyunk a valódi „szuperintelligenciától”.
Vitát vált ki az „AI szuperintelligencia” fogalma, amelyet Donald Trump elnök és egyes techvezetők is helytelenül használnak. Ehhez kapcsolódóan felvetődik az is, hogy az ilyen fejlett rendszerek vajon képesek-e önálló szándékokat, érzelmeket formálni, vagy akár az emberiség érdekeivel ellentétes célokra törekedni.
Kiemelt kérdések fogalmazódnak meg a fejlesztési versennyel kapcsolatban: vajon elég figyelem irányul-e arra, hogy ezek a rendszerek valóban figyelembe vegyék az emberi értékeket, illetve lehetséges-e szimbiotikus viszonyt kialakítani egy nálunk intelligensebb műalkotással? A beszélgetés kitér arra is, mennyire tudományosak az AI-vel kapcsolatos kockázati jóslatok, valamint mit jelent a mesterséges érzelmek és az emberi, hormonális válaszok közötti különbség.
