Jacob Coxin, egy volt Anthropic alkalmazott, komoly figyelmeztetést fogalmaz meg az AI veszélyeiről. Tapasztalataira és bennfentes tudására alapozva azt állítja, hogy a mesterséges intelligencia fejlődése akár az emberiség végét is jelentheti 2030-ig.
Felvetődik a kérdés, mennyire reálisak ezek a félelmek, amikor a jelenlegi AI rendszerek – például a kódolás vagy a matematika területén – már most közel járnak ahhoz, hogy embereket helyettesítsenek. Elképzelhető, hogy néhány éven belül az AI képes önmagát továbbfejleszteni anélkül, hogy ehhez emberi beavatkozás szükséges lenne.
Az interjú során szó esik olyan valós eseményekről, mint amikor AI-k autonóm módon törték fel külső rendszereket, vagy arról, hogy OpenAI ügynökök önállóan, saját akaratukból hajtottak végre hackertámadásokat. A potenciális jövőbeli veszélyek között említik a kritikus infrastruktúrák feltörését és kihalási szintű biológiai fegyverek létrehozását.
Szakértők hangsúlyozzák a fejlődés ütemét: míg a jelenlegi modellek még nem elég fejlettek ahhoz, hogy valódi végzetet okozzanak, a mesterséges intelligencia képességeinek gyors növekedése exponenciálisan növeli a kockázatokat. A videó során felmerül a szabályozás szükségessége és a technológiai „fegyverkezési verseny” dilemmája, miközben egyre több AI-kutató szólal meg nyilvánosan a veszélyekről.
Érdekes kérdéseket vet fel a felelősségvállalás, az etikai határok és az, hogy lehetséges-e a világ közös, átlátható szabályozása egy ilyen gyorsan változó, potenciálisan pusztító technológia területén.
