A mesterséges intelligencia jövőjét és kockázatait feszegető videóban a legnagyobb AI-laborok vezetői közösen emelik fel a hangjukat a gyorsuló technológiai fejlődés miatt. Sam Altman, Dario Amodei és Demis Hassabis aláírásával egy levél jut el a törvényhozókhoz, amelyben nemcsak a modellek monitorozását, hanem a mesterséges nukleinsavak szintézisének és az ehhez szükséges eszközök megrendeléseinek szigorú ellenőrzését is sürgetik.
Váratlan fordulatként az is felmerül, hogy az NSA együttműködik az Anthropic csapatával: Claude Mythos modelljük nemcsak védekező, hanem támadó célú kiberhadműveletekben is szóba kerülhet, még ha a pontos részletek nem is ismertek. Ez tovább élesíti a kérdést, hogy az AI gyakorlati alkalmazásai mennyire lehetnek átláthatók és etikusak a nemzetbiztonságban.
Izgalmas önreflexióval az AI-kutatók saját szerepüket is boncolgatják: többen arról számolnak be, hogy amikor a rendszerek jól működnek, szinte fölöslegesnek érzik magukat, míg máskor, amikor valami elromlik, már nem értik, mi történik. Ez a bizonytalanság rávilágít arra, hogy mit jelent egy olyan korszakban dolgozni, amikor a gépi intelligencia képességei bizonyos területeken gyors ütemben meghaladják az emberi szakértőkét.
Az önfejlesztő AI – a ‘rekurzív önfejlesztés’ (RSI) – lehetősége különösen sok kérdést vet fel: eljutunk-e oda, hogy a modellek nemcsak részfeladatokat, hanem a fejlődésüket is teljes mértékben át tudják venni az emberektől? Hol van a határ az automatizálásban? Mekkora szerepe marad a humán kreativitásnak és felügyeletnek egy olyan világban, ahol a laboratóriumi tudományos felfedezéseket is gépek hajtják végre?
Végül a videó elgondolkodtat a globális AI-fejlesztések koordinálásának nehézségein: miként lenne lehetséges egy globális „megállapodás” vagy vészfékrendszer, ahol minden résztvevő valóban le tudja lassítani vagy meg tudja állítani a fejlődést, ha veszély fenyeget? És létezik-e egyáltalán olyan ösztönző, amely mindenkit együttműködésre késztet egy ilyen világban?
