Az elmúlt 36 óra során meglepő fordulat történt, amely alapvetően befolyásolhatja, hogyan használjuk a mesterséges intelligenciát világszerte. Az Egyesült Államok kormányának utasítására az Anthropic új generációs modellje, a Claude Fable 5, teljesen le lett tiltva, nemcsak külföldiek, hanem minden felhasználó számára.
Érdekesség, hogy a tiltást különféle okok indokolták: a szakmai és politikai szereplők egymástól eltérő magyarázatokat adnak. Egyesek szerint a modell sikeres megkerülése, más néven jailbreak, vezetett a drasztikus döntéshez, míg mások szerint a kormányzat túlzottan gyors reakciója és politikai játszmák is közrejátszhattak.
Felmerül a kérdés, mennyire megalapozott a lépés, tekintve, hogy a Fable és Mythos modelleket a legrobusztusabbnak tartják a hasonló rendszerek között, és más nagy AI-fejlesztők – például az OpenAI vagy a Google – termékei nem kaptak hasonló korlátozásokat. Tovább bonyolítja a helyzetet, hogy az Anthropic egyik fő befektetője épp az Amazon, amely aktív szereplő a döntési folyamatban.
A háttérben üzleti, biztonságpolitikai és személyes érdekek, valamint politikai összefonódások is megjelennek. Az is érdekes kérdés, vajon a szigorú amerikai exportkontroll végső soron hogyan hat majd az innovációra, a globális AI-iparra és az olyan munkaerőre, amely jelentős részben nemzetközi.
Az események tükrében új kérdések merülnek fel: mennyire lehetséges „tökéletesen” biztonságos AI-modellt alkotni, és mikor indokolt a kormányzati közbeavatkozás egy technológiai termék terjesztésének szabályozásában?
