Az elmúlt napokban és hetekben egyre több AI-kutató szólalt meg arról, hogy az MI fejlesztésének tempója miatt aggodalomra okot adó jeleket tapasztalnak. Az indító gondolatot Jacob Coxen tweetje adta, amelyben azzal vádolta az AI-laborokat, hogy felelőtlenül versengenek, akár az emberiség jövőjét kockáztatva is.
A videó bemutatja, hogyan tekintették a kutatók az MI modellek fejlődését hat különböző skálán: számítási kapacitás, tesztelés alatti számítási teljesítmény, valós idejű továbbképzés, ügynökök együttműködése, rekurzív önfejlesztés és láncolt gondolatmenet ellenőrzése. Kiemeli, hogy ezek a skálák még messze nem érték el a telítődést, vagyis a fejlődés gyorsulása várható.
Több kutató rámutatott, hogy ahogy a modellek egyre összetettebbé és intelligensebbé válnak, úgy nehezedik a monitorozásuk és értékelésük. Felmerül a kérdés: vajon képesek leszünk-e lépést tartani a fejlődéssel, vagy már most elveszítjük az ellenőrzést a rendszerek felett?
Nemcsak a technikai fejlődést vizsgálja a videó, hanem a geopolitikai és etikai kihívásokat is: megemlíti a Kína és az Egyesült Államok közötti versengést, valamint azt, hogy bizonyos kutatók az MI veszélyeit a biológiai biztonságtól kezdve a kibertámadásokig terjedő kockázatokban látják.
Konkrét példákon keresztül – mint a Hugging Face hackelése, vagy mesterséges intelligenciát felhasználó katonai és civil projektek – vizsgálja, hogyan tesztelik valójában már most is a modellek határait. A videó a lehetőségek és kockázatok kettősségéről beszél, és érinti azt a dilemmát, hogy mikor lassítsuk le a fejlődést, és hogyan található meg az egyensúly a biztonság és az innováció között.
