Az utóbbi időben egyre több demokrata politikus vetette fel, hogy meg kellene tiltani az önfejlesztő, úgynevezett RSI (recursive self-improvement) mesterséges intelligenciákat. Például Greg Casar és Bernie Sanders olyan törvénytervezeteket mutattak be, amelyek szerint be kellene tiltani a szuperintelligenciát, illetve az önmagát fejleszteni képes AI-kat, amíg a kormány nem hoz részletes biztonsági irányelveket. Ezek a kezdeményezések új vitákat indítottak el a technológiai fejlődés szabályozásának lehetőségeiről.
Felmerül a kérdés, hogy az RSI valóban egyetlen leállítható technológiát jelent-e, vagy sok kis képesség összessége-e, amelyek számos területen – többek között kódírásban, kísérletezésben és biztonsági kutatásban – már most is jelen vannak a piacon. Az automatizált kutató AI-ügynökök például éppen az AI biztonságán dolgoznak, és időnként már most is túlszárnyalják az emberi kutatókat bizonyos feladatokban.
Sokan attól tartanak, hogy az önfejlesztő AI könnyen kicsúszhat az emberi irányítás alól, azonban jelenleg nincs bizonyíték arra, hogy teljes RSI valaha is megvalósult volna. További érdekesség, hogy a technológiai cégeket – a bíróságok, az ügyfelek, a katonai szféra és a befektetők – mind alapvetően a biztonságos és kontrollálható AI fejlesztése felé terelik anyagi és jogi ösztönzőikkel.
Végül geopolitikai kérdések is felmerülnek: ha az Egyesült Államok visszafogná saját AI-fejlesztéseit, Kína könnyedén átvehetné a vezetést az AI technológiák terén, hiszen Peking ambiciózus AI-terjesztési célokat tűzött ki magának 2030-ig. Ilyen nemzetközi versenyben vajon mennyire reális bármiféle teljes tiltás?
