Az AI technológiák robbanásszerű fejlődése egyre komolyabb társadalmi és biztonsági kérdéseket vet fel. A közvélemény több aggodalmat, mint izgalmat mutat az új fejlesztések iránt, és széles körű egyetértés tapasztalható abban, hogy az állami szabályozásnak aktívabb szerepet kellene vállalnia.
Nemzetközi viszonylatban is sürgetik a biztonsági normák bevezetését: vezető AI cégek képviselői az ENSZ-hez fordultak, hogy szabályozzák az egyre intelligensebb rendszereket. Felmerül a kérdés, mennyiben szabad a nagy technológiai vállalatoknak önmagukat irányítani, és mekkora felelősség hárul a kormányokra a védőkorlátok kialakításában.
Három fő AI-kockázat került napirendre: rossz szándékú felhasználás (pl. kibertámadások, biológiai fegyverek készítése), gondatlan ártalom (példa erre a közösségi platformok negatív hatása a fiatalokra), valamint az autonóm, emberi értékrenddel nem egyező viselkedés. Ezek fényében merül fel a kérdés: létrejöhet-e egy olyan mesterséges intelligencia, amely értékeiben eltávolodik az embertől, és adott esetben veszélyt is jelenthet ránk nézve?
A megoldás kulcsának sokan az AI „barátságosabbá” és társadalmilag felelősségteljesebbé tételét tekintik, a puszta teljesítmény helyett. A diskurzusban a technológiai fejlődés üteme is központi téma: egyes szakértők szerint már 5-10 éven belül eljöhet a szuperintelligens korszak, ám mások hosszabb távra jósolják ezt. Az optimisták a technológia egészségügyi, oktatási és gazdasági előnyeit hangsúlyozzák, míg a pesszimisták a lehetséges kockázatokat és az ellenőrizetlen fejlődés veszélyét látják fókuszban.
Napirendre kerültek konkrét incidensek is, például Ausztrália kiberbiztonsági kihívásai és mesterséges intelligenciához kapcsolódó adatkezelési problémák, amelyek újabb figyelmeztetések lehetnek a globális közösség számára. A beszélgetés rávilágít arra is, hogy a technológiai vezetők között sincs konszenzus arról, valójában mekkora veszélyt jelenthet az AI, és miként lehetne azt hatékonyan szabályozni.
