Felvetődik a kérdés, vajon szeretnénk-e, ha kormányaink teljesen autonóm, mesterséges intelligencia által vezérelt fegyvereket vetnének be, amelyek akár önállóan dönthetnének halálos kimenetelű helyzetekről is. Az ilyen technológiák bevezetését sokan elkerülhetetlennek tartják, miközben komoly aggodalmak merülnek fel a jog, etika, magánélet és társadalmi biztonság terén.
Az események középpontjában az Anthropic cég áll, amelynek Clawude-sorozatú MI-modelljeit az Egyesült Államok hadügyi minisztériuma (Department of War) szinte korlátlanul használná – főként autonóm fegyverek és tömeges hírszerzési megfigyelés céljára. Az ügy érdekessége, hogy a Pentagon jelenlegi igényei saját korábbi megállapodásaikkal, illetve irányelveikkel is ütköznek, amelyek elvileg felelősségteljes MI-használatot írnak elő.
További csavart ad a történethez, hogy a Google és az OpenAI dolgozóinak egyre növekvő számban aláírt petíciója támogatja az Anthropic álláspontját, valamint a technológiai versenyhelyzet is befolyásolja a cégek döntéshozatalát. Ugyanakkor a Pentagon fenyegetései is felmerülnek: egyrészt az ellátási lánc kockázataként minősítenék az Anthropicot, másrészt jogi eszközökkel kikényszerítenék a Clawude modellek átadását.
Komoly kérdések merülnek fel az MI-megoldások megbízhatósága kapcsán: vajon a jelenlegi rendszerek eléggé robusztusak, következetesek és előrejelezhetőek-e ahhoz, hogy emberek életéről vagy tömeges magánélet-korlátozásról döntsenek? Különösen, hogy a szakértők által kiemelt hiányosságok a megbízhatóság terén még mindig jelentősek.
Felkavarja a történetet az is, hogy az Anthropic maga is enyhítette saját korábbi, szigorú felelős fejlesztési irányelvét, utat engedve az üzleti verseny diktálta változásoknak. Az eseménysor így egyszerre teszi fel a jogi, etikai, technikai és társadalmi kérdéseket, és rávilágít a nagy technológiai szereplők közötti dinamikára, illetve a kormányokkal fennálló feszült viszonyokra.
