Az iparági figyelmet megragadó lépésként az Anthropic hivatalos IPO-bejelentésében (S-1) új részletek derülnek ki a vállalat pénzügyeiről és az AI-fejlesztés belső folyamatairól. Különösen érdekes, hogy a cég kódjának több mint 90%-át már házon belüli mesterséges intelligencia, a Claude írja. Ez a folyamat, amit „a kör bezárásának” neveznek, lehetővé teszi, hogy a Claude önállóan végezzen kutatási, fejlesztési és biztonsági feladatokat.
Feltárul továbbá, hogy a gyors AI-fejlesztési ütem nemcsak kiemelkedő előnyökkel jár, de komoly kockázatokat is rejt magában. Mivel az AI egyre inkább saját magát fejleszti tovább, könnyen előfordulhat, hogy a biztonsági és etikai kontroll lemarad a technológiai előretörésről. A dokumentumból kiderül, hogy a hibák vagy rosszul működő algoritmusok könnyen átörökíthetők a későbbi verziókra, így a lehetséges következmények súlyosabbakká válhatnak.
Kiemelt figyelmet érdemel az is, hogyan kezdte el az Anthropic alkalmazni AI-modelljeit tudományos kutatásban, például biológiai felfedezésekben vagy laborfelszerelések automatizált működtetésében. Ez azonban újfajta veszélyeket vet fel: az AI által irányított laborberendezések meghibásodása fizikai sérüléseket és anyagi károkat okozhat, sőt, elméletileg még veszélyes anyagok kiszabadításához is vezethet.
Felvetődik továbbá annak lehetősége, hogy a vállalat modelljei rossz kezekbe kerülve kémiai vagy biológiai fegyverek fejlesztésében is segíthetnek. Bár a cég hangsúlyozza a védekezési módszereit, elismerik, hogy a védelmi rendszerek nem mindig teljeskörűek vagy feltörhetetlenek. Mindez új globális együttműködés és biztonsági elvárások szükségességét veti fel az AI-fejlesztések terén.
