Az interjúban Yuval Noah Harari az AI által jelentett legnagyobb veszélyekről beszél, kiemelve, hogyan változtathatja meg alapjaiban a mesterséges intelligencia az emberi társadalmat. Egyik fókuszpontja az a kérdés, hogy vajon tényleg elkerülhetetlen-e az AI uralma, vagy még van választási lehetőségünk abban, hogy milyen irányba tartson a világ.
Az AI pénzügyi rendszerben és háborús döntésekben betöltött egyre növekvő szerepe kapcsán Harari óva int attól, hogy a felelősség elhárításával elfogadjuk az „elkerülhetetlen” narratíváját. Rávilágít olyan ellentmondásokra is, amelyek ismert vezetők gondolataiban fedezhetők fel. Ezek alapján felmerül a kérdés: miért aggódunk hosszú távú társadalmi folyamatokért, ha közben azt állítjuk, hogy az AI úgyis mindent meghatároz majd néhány éven belül?
Kiemeli a pénzügyi rendszerek, valamint a bizalom fogalmának átalakulását is. Különösen aggasztónak tartja, hogy már most megfigyelhető, hogy az emberek a hagyományos emberi intézmények helyett egyre inkább algoritmusoknak és mesterséges intelligenciának szavaznak bizalmat – legyen szó akár kriptovalutákról vagy a médiáról.
Harari hangsúlyozza annak veszélyét, hogy a mesterséges intelligencia a személyesség és a kapcsolatok tömeges előállítására is képessé válik. Az AI nemcsak barátként vagy partnerként jelenhet meg az emberek életében, hanem eddig elképzelhetetlen szinten épít ki intimitást és befolyást – mindezt személyre szabottan, akár politikai vagy kereskedelmi céllal.
A beszélgetés során felmerülnek olyan etikai és jogi dilemmák is, mint például: szükséges-e jogilag tiltani, hogy az AI-k embereknek adják ki magukat, vagy hogy jogi személyiséget kapjanak-e a mesterséges rendszerek? Mindehhez hozzátartozik a sürgetés, miszerint a politikusoknak és a társadalomnak most kellene ezekről lényeges döntéseket hoznia – mert hamarosan már késő lehet.
