Az Anthropic vezérigazgatója, Dario Amodei legfrissebb blogbejegyzését helyezi a középpontba a videó, amely a technológia ‘serdülőkorát’ vizsgálja. Ebben Amodei rámutat: az emberiség olyan korszakba léphet, ahol szinte elképzelhetetlen hatalom kerül a kezébe a mesterséges intelligencia fejlődésével. Az alapvető kérdés az, vajon a társadalmi, politikai és technológiai rendszereink felkészültek-e ekkora felelősség kezelésére.
Gondolatkísérletként a „zsenik országa” metaforát hívja elő: mi történik, ha milliónyi szuperintelligens AI párhuzamosan, emberfeletti tempóban és szinte végtelen erőforrásokkal működik? Ezen keresztül rávilágít az autonómia-kockázatokra, az esetleges gazdasági és hatalmi visszaélésekre, valamint a társadalmi stabilitás megingásának lehetőségére is.
Amodei nemcsak az ún. AI doomer narratíva kritikáját fogalmazza meg, hanem bevezeti az AI rendszerek „személyiségének” kérdését is. A videó többek között azt is felveti, mennyire lehet előre kiszámítani egy ilyen komplex rendszer viselkedését elméleti alapon, vagy inkább a gyakorlati kutatásé lesz a főszerep?
Külön kiemeli a szükségességét annak, hogy fejlesszük az AI modellek irányíthatóságát, átláthatóságát és értékek mentén történő vezérlésének tudományát. Az alkotók szerint a stabil, megbízható és etikus AI megalkotása csak rendkívüli közös erőfeszítés révén érhető el, ugyanakkor konkrét válaszokat vagy biztos végkimenetelt nem kínálnak.
