Kibervédelmi szakértők egy csoportja sikeresen hozzáférést szerzett az OpenAI belső rendszeréhez, miközben az Anthropic rivális AI szoftverét, Claude-ot használták, mindezt egy bug bounty program részeként. A Hackron AI nevű startup kutatói olyan OpenAI dolgozók ChatGPT fiókjához jutottak hozzá, amely révén elérték a vállalat GitHub kódjait is.
Az eset ráirányítja a figyelmet arra, milyen új veszélyeket jelenthetnek a fejlett AI modellek, különösen, amikor rivális rendszerek is szerepet kapnak. Az ilyen típusú etikus hackelések során gyakran tapasztalható, hogy minden újabb AI modell egyre nagyobb képességekkel rendelkezik.
A beszámolók kitérnek arra is, milyen egyszerűen, mindössze pár nap alatt sikerült az átjutás, illetve arra, hogy egy speciális Claude modellt kaptak a kutatók, amely csak bizonyos szakemberek számára érhető el. Egy másik izgalmas kérdés az, hogy a sebezhetőség, amelyet most kihasználtak, más népszerű szolgáltatásoknál is alkalmazható-e.
Felmerül a kérdés, hogyan változtatják meg az AI rendszerek a hagyományos kiberbiztonsági feltételezéseket, és miként lehet lépést tartani a támadók növekvő képességeivel a jövőben.
