Az elmúlt időszakban a Mythos nevű mesterséges intelligencia-modell a technológiai szektor figyelmének középpontjába került. Egy visszavonult Microsoft mérnök értelmezésében világossá válik, hogy a modell körül kialakult vita messze túlmutat egy átlagos AI-bejelentésen.
Felmerül a kérdés, miért volt szükség arra, hogy a készítők, az Anthropic, visszatartsák a nyilvános hozzáférést, és miért kötötték különféle nagy, védekező célú szervezetekhez a korai tesztelés jogát. A vállalat döntése arra utal, hogy maguk is meglepődtek a modell képességein – különösen azon, ahogy képes szoftveres sebezhetőségek felfedezésére és kiaknázására.
Sok szakértő hangsúlyozza, hogy a fő veszélyforrás nem egyetlen, mindenható hacker AI, hanem az, hogy az új generációs modellek a korábbinál jóval szélesebb rétegek számára teszik elérhetővé a kifinomult támadások lehetőségét. Mindez felgyorsíthatja a támadások fejlődését, miközben a védekezés továbbra is lassú és bürokratikus marad.
A videó többek között azt tárgyalja, hogyan alakult ki ez az aszimmetria az offenzív és a védelmi képességek között, milyen választ adtak minderre a kormányzati és pénzügyi szektor szereplői, és milyen dilemmákat vet fel az egyenlőtlen hozzáférés. Az is előkerül, hogy a „Mythos-osztályú” modellek fejlődése hova vezethet, és milyen következményekkel járhat az egész iparágra nézve a skálázható, automatizált exploit fejlesztés elterjedése.
