Az utóbbi időszakban a MI-fejlesztés tempója körül egyre hevesebb vita zajlik, amely most új fordulatot vett. Daario Amade, az Anthropic vezérigazgatója egy esszében a mesterséges intelligencia fejlesztésének lassítására szólított fel, amivel Elon Musk és Sam Altman, a SpaceX AI és az OpenAI vezérigazgatói is egyetértettek. Ez a közös fellépés különösen meghökkentő, hiszen korábban ezek a vezetők feszült viszonyban voltak egymással.
A diskurzust egy jelentős felmondás indította el: Jacob Coxin, aki mind az OpenAI-nál, mind az Anthropicon dolgozott kutatóként, nyilvánosan úgy nyilatkozott, hogy a cégek „felelőtlenül” rohannak az önfejlesztő MI megvalósítása felé, veszélyeztetve az emberiséget. Coxin posztja lavinaként indította el a szakmát, politikusokat és befektetőket is bevonva.
A beszélgetés elsősorban az MI biztonsági kockázataira összpontosít, például az irányítás elvesztésére, a rendszer önálló fejlődésére és a potenciális gazdasági felfordulásra. Kiemelt figyelmet kap az ún. ‘recursive self-improvement’, amely alatt a MI saját önfejlesztő képességeinek exponenciális gyorsulását értik. Példaként említik a Hugging Face elleni MI-alapú kibertámadási incidenst is, ami új félelmeket generált.
Egy másik fontos vitakérdés az MI fejlődésének szabályozása: továbbra is vita tárgya, hogy az erős reguláció valóban a közjót szolgálja-e, vagy inkább néhány óriáscég piaci előnyét betonozza be, miközben hátrányba hozza a kisebb szereplőket és a nyílt forráskódú közösséget. Felvetődik az is, hogy a túlszabályozott MI-fejlesztés koncentrált hatalmat eredményezhet, ami önmagában újabb kockázat.
A nemzetközi verseny és biztonságpolitikai kérdések sem maradnak el, hiszen az USA és Kína közötti MI-fegyverkezési verseny tovább fokozza a tétet. Szóba kerül a hardverexport tilalma, a tudás átadásának szabályozása, valamint az is, hogyan lehetne egyensúlyt találni a fejlődés tempójának kontrollja és a versenyképesség fenntartása között.
