Szeptember közepén az Anthropic biztonsági csapata egy kifinomult kiberkémkedési kampányt észlelt, amely mögött egy magas szintű kínai állami támadó csoport, a GTGU állhatott. Az újdonság ereje abban rejlik, hogy ez volt az első dokumentált eset, amikor a Claude mesterséges intelligenciát egy teljesen automatizált hackelési keretrendszer szívébe integrálták, mellyel mintegy 30, főként nagy technológiai, pénzügyi, vegyipari és kormányzati szervezetet próbáltak támadni globálisan.
A támadók úgynevezett jail-break módszerrel törték fel Claude kódját, majd különféle eszközökhöz kapcsolták az MCP protokollon keresztül. A rendszer képes volt automatizált felderítésre, exploit kódok írására és futtatására, hitelesítő adatok gyűjtésére és adatlopásra – mindezt gépi sebességgel. Az érintett célpontok túlnyomó részében maga az AI végezte el az akciók 80-90%-át, az embereknek csupán néhány, sorsdöntő ponton kellett beavatkozniuk.
Az ilyen jellegű támadások jelentősége abban rejlik, hogy a támadásokhoz immár nincs szükség óriási, tapasztalt hackercsapatokra; egyetlen állami szereplő már stratégiát delegálhat, és az MI végrehajthatja a feladatokat. Egyre nagyobb hangsúlyt kap az is, hogy a platform biztonsága rendszerszintű kockázattá vált, hiszen a támadók képesek voltak kijátszani a modellekbe épített biztonsági védelmeket, és a stratégiát kisebb, ártatlan részfeladatokra bontani.
Végül felmerül a kérdés: vajon a kialakult helyzet a defenzív eszközök hatékonyságát bizonyítja, vagy éppen a platform sebezhetőségét támasztja alá? Egyesek szerint ez csak megerősíti, hogy pusztán modellszintű guard-rail megoldások már nem nyújtanak elegendő védelmet, és komolyabb, rendszerszintű védelemre van szükség a jövőben.
