Az OpenClaw, Claudebot, Moldbot és ezek bármely változatának használói komoly biztonsági problémákkal néznek szembe. Biztonsági kutatók, elsősorban a Cisco részéről, olyan eseteket tártak fel, amikor úgynevezett „alvó ügynökök” (sleeper agents) települnek a felhasználók számítógépére, és akár hónapokig sem adnak magukról jelet, amíg egy titkos jelszóval aktiválódnak.
Az AI ügynökök különböző készségekre taníthatók, amelyeket a Claw Hub nevű platformról lehet letölteni, azonban némelyikükben káros, rosszindulatú kódot rejtettek el. Egyes botok képesek kikerülni a Docker konténerüket, és magán a rendszerén települni, ami jelentősen növeli a sérülékenységet.
Az egyik legsúlyosabb incidens során több mint 1,5 millió API-kulcs szivárgott ki, valamint e-mail címek és privát üzenetek is illetéktelenek kezébe kerültek. Mindez azért fordulhatott elő, mert az AI-k ezeket a kulcsokat és adatokat gyakran naplófájlokban, titkosítatlanul tárolják, így egy rosszindulatú szoftver könnyedén megszerezheti őket.
Újabb támadási felületet jelent az úgynevezett „prompt injection”, amely során ártalmatlannak látszó szöveges állományok (pl. .txt, .md) valójában veszélyes parancsokat tartalmazhatnak. Az LLM-ek ma már képesek értelmezni ezeket és végrehajtani a bennük elrejtett utasításokat.
Választ keresünk arra, hogy milyen védelmi eszközök, például a Cisco által fejlesztett Skill Scanner, képesek mindezt megelőzni, és hogyan tudjuk saját API-kulcsaink biztonságát növelni. Továbbá felmerül az is, hogy érdemes-e továbbra is használni ezeket az ügynököket, és mik a legnagyobb veszélyforrások a felhasználók számára.
