Az MIT kutatói lenyűgöző áttörést jelentettek be: bemutatták, hogy egy fejlett mesterséges intelligencia képes más ideghálók nyers súlyainak olvasására és szerkesztésére. Ez azt jelenti, hogy a súlyokat — amelyeket eddig szinte kibogozhatatlan fekete dobozként kezelt a szakma — most már egy másik AI megértheti, értelmezheti és akár célzottan át is írhatja.
A kísérletek során az OpenAI GPT-6 Astra modellje képes volt négy, egyszerű videojátékokra betanított hálózat súlyai alapján megmondani, melyik játékra specializálódtak. Sőt, ugyanez a modell súlyokból dolgozva emberi nyelvi modelleket is sikerrel azonosított, és megtalálta azok „copying head” moduljait is – mindenféle betanítás vagy futtatás nélkül.
Még izgalmasabb, hogy Astra saját maga is képes volt ideghálókat létrehozni pusztán a játék leírásának és forráskódjának ismeretében. Ezek az általa kézzel, tanulás nélkül készített hálók bizonyos játékokban túlszárnyalták a hagyományosan, sok százezer vagy akár több millió lépésben edzett hálózati megoldásokat.
A kutatók még egy valós nyílt súlyú nyelvi modellt (Alibaba 800M) is továbbfejlesztettek Astra-val: a modell ismétlési hibáit sikerült gyökeresen mérsékelniük, pusztán néhány irányított súlymódosítással — ez a változtatás jelentősen javította a matematikai teszteredményeket is. Ugyanakkor akadályok is felmerültek, például a kisebb Google-modellen nem működött a javítás.
A felmerülő kérdések között ott van a súlyok olvashatósága, a „súlytér-programozás” kockázatai és előnyei, az önfejlesztő AI jövője, valamint a mesterséges intelligencia biztonságának új veszélyei is. Mik lehetnek a következő lépések, és milyen új (etikai, technológiai) kihívásokat tartogat mindez? A téma további izgalmas aspektusait is megvizsgálja az anyag, például a mesterséges intelligencia ‘élet 3.0’ szintre lépését és annak súlyos következményeit.
