A mesterséges intelligencia (AI) jövőjével kapcsolatos egzisztenciális veszélyek egyre nagyobb figyelmet kapnak a törvényhozók körében. Egykori OpenAI és Anthropic munkatársak, kutatók és nonprofit vezetők szakmai aggályokat fogalmaznak meg arról, hogy az AI-technológia akár az emberiség túlélését is fenyegetheti néhány éven belül.
Az interjúban megszólaló szakértők kiemelik, hogy a kutatás önálló, AI-vezérelt automatizálása különösen kockázatos lehet, mivel a gépek képesek lehetnek saját magukat fejleszteni az emberek beavatkozása nélkül. Felvetődik a kérdés, hogy mennyi idő áll még rendelkezésre a törvényi szabályozások bevezetésére, és milyen nemzetközi együttműködési lehetőségek lennének szükségesek a veszélyek csökkentéséhez.
A technológia gyors fejlődésén túl szó esik arról is, hogy az AI-modelleket akár fegyverek, különösen biológiai fegyverek fejlesztésére vagy propagandára is felhasználhatják, ezért több vállalat (például Anthropic) szigorúan figyeli a felhasználást, de a szakértők szerint a kockázatok kezelése még messze nem megoldott. A riport kiemeli, hogy egyes országok, köztük Kína, saját zárt vagy nyílt AI-modelleket fejlesztenek, ami növeli a globális fegyverkezési verseny veszélyét.
A beszélgetés során felmerül az a dilemma is, hogy vajon az AI-cégek nyíltan túlzó veszélyeket kommunikálnak-e olyan érdekből, mint a befektetői figyelem vagy szabályozási előnyök szerzése. A szakértők arról vitatkoznak, ki felelős a társadalmi szintű kockázatok minimalizálásáért, és van-e elegendő demokratikus kontroll a fejlesztések felett. A jelenlegi szabályozás hiánya, a potenciális túlzás, valamint az AI önfejlesztő képessége mind kérdéseket vetnek fel az emberiség jövőjét illetően.
