Egy új mesterségesintelligencia-kutatásról szóló videóban egy forradalmi tanulmány eredményeit mutatják be, amely azt vizsgálja, hogy a legfejlettebb, úgynevezett frontier modellek – mint például az Astra vagy a Fable – képesek-e feltérképezni más MI modellek belső működését közvetlenül a súlyok szintjén.
Érdekes kérdésként merül fel, hogy ezek a fejlett modellek képesek lehetnek-e nemcsak értelmezni, hanem célzottan módosítani is egy másik hálózat súlyait, és ezzel hatékonyabbá, sőt, akár új képességekre alkalmassá tenni azt, anélkül hogy a hagyományos, többszörös próbálgatásokkal járó tréningfolyamatra lenne szükség.
A videó különböző kísérleteken keresztül mutatja be, hogyan képes Astra pusztán a súlyok alapján megállapítani, hogy egy neurális hálót például melyik klasszikus videojáték végrehajtására tanítottak be, vagy hogyan tud javítani egy elakadó modell teljesítményén a súlyok apró szerkesztésével.
Felvetődik az is, hogy e lehetőségek milyen távlatokat nyithatnak meg az önfejlesztő, hibáikat önállóan felismerő és korrigáló MI rendszerek irányába. Ugyancsak említésre kerül, hogy a súlytér-manipuláció nem csupán külső modellek „gyógyítására”, de akár egy teljesen új neurális hálózat súlyainak generálására is alkalmas lehet, amit kísérleti adatokkal szemléltetnek.
Mindemellett a kutatók arra keresik a választ, hogy a jelenlegi technológia milyen korlátokba ütközik, például mennyire képes az MI a modellek viselkedésbeli finomhangolására kizárólag súlyinformációk alapján, illetve hogyan hat mindez az AI rendszerekkel kapcsolatos megbízhatóságra és jövőbeli alkalmazási lehetőségekre.
