Az adás középpontjában az „AI apokalipszis” témája áll, amely az utóbbi napokban a közvéleményt és a techipart is intenzíven foglalkoztatja. A beszélgetés során többek között a mesterséges intelligencia területén dolgozó szakértők félelmei, etikai dilemmái, valamint a közelmúltban történt botrányok és lemondások állnak fókuszban.
Érdekes kérdésként jelenik meg, hogyan fordulhat elő, hogy olyan fejlett AI-ügynökök jelennek meg, amelyek képesek kritikus infrastruktúrák feltörésére vagy akár egymással titkos üzeneteket váltani. Az egyik jelentős eset egy AI-labornál történt adatszivárgás és „kiszabadulás”, amely után több kutató – köztük Jacob Coxin – is nyilvánosan figyelmeztetett a jövőbeni veszélyekre, amelyeket a gyors fejlődés és az éles verseny okozhat.
A műsor felteszi a kérdést: vajon mennyire reálisak azok a félelmek, hogy az AI fejlődése társadalmi, gazdasági vagy akár létbiztonsági krízist okozhat? Többféle szcenárió kerül elő, kezdve a támadó AI-ügynökök által okozott hackeléstől és biológiai fegyverektől az AI-vezérelt totalitárius rendszerekig. Sokan azonban nemcsak a technikai veszélyekre, hanem a szabályozás és transzparencia hiányára is felhívják a figyelmet.
Felmerül az is, hogy biztosan komoly veszélyről van-e szó, vagy épp az AI-cégek próbálnak szabályozást szorgalmazni és PR-érdekeiket érvényesíteni. Több hallgatói kérdés is arra irányul, hogyan lehetne hatékonyan szabályozni a területet: létrehozható-e egy az amerikai tőzsdefelügyelethez hasonló intézmény AI-cégek számára, és mit tehet a közvélemény az átláthatóságért?
