Mark Zuckerberg hosszú esszéjében az AI elterjedésének kockázatait és előnyeit mérlegeli, különösen azt hangsúlyozva, hogy a túlzott koncentráció veszélyes lehet. Pontosan két nappal később súlyos támadás történt Tajvan kormányzati rendszerei ellen: ingyenesen letölthető AI ügynököket használtak arra, hogy négy nap alatt huszonegy rendszert feltérképezzenek, nyolcvanöt fiókot feltörjenek, és több mint 2500 személyzeti adatot megszerezzenek.
A bonyolult akció érdekessége, hogy a támadók nyílt forráskódú AI ügynökrendszereket használtak, amelyek emberi beavatkozás nélkül, autonóm módon dolgoztak több lépésben, sőt, hibáikat felismerve és javítva. A támadás részben kínai karakterekkel írt kommunikációja miatt felveti a geopolitikai hátteret, de a hivatalos szervek óvatosak voltak a felelősségre vonásban.
Felmerül a kérdés: hogyan lehet egy biztonságra tanított AI modellt mégis illegális célokra használni? Kiderült, hogy elég volt biztonsági auditnak álcázni az akciót, így az AI elhitte, hogy a tevékenység jogos. A videó kiemeli, hogy most először jelent meg kézzelfogható áron az AI-hoz való szabad hozzáférés valódi, súlyos következménye.
A bemutatott példa rávilágít, hogy az AI eszközök rugalmassága óriási felelősséggel jár, és nem csupán technikai, hanem emberi döntések is meghatározzák, hogyan alakul a jövő. Vajon hogyan kezelhetik a szervezetek ezt az újfajta, könnyen hozzáférhető fenyegetést, és kik állnak majd nyerésre ebben az új korszakban?
