Az utóbbi időben egyre fejlettebb nyelvi modellek jelentek meg, amelyek már nemcsak szövegeket és képeket képesek generálni, hanem közvetlenül szerkeszthetik és létrehozhatják más neurális hálózatok paramétereit is.
Az MIT egy blogposztjából megtudhatjuk, hogy a legújabb LLM-ek képesek nemcsak értelmezni, hanem módosítani vagy nulláról felépíteni más AI-modellek súlyait, ezt a képességet ‘weight programming’-nak nevezték el.
Felmerül a kérdés, hogy a nagy nyelvi modellek hogyan tudják értelmezni a látszólag értelmetlen számhalmazokat, amelyek egy neurális hálózat súlyait adják, sőt, hogyan képesek felismerni a hibákat vagy akár javítani is azokat.
Érdekes példákon keresztül mutatják be, hogyan tud egy LLM egy kisebb, matematikai feladatokban akadozó hálózatot úgy módosítani, hogy az jelentősen jobb eredményeket hozzon, mindezt a súlyok közvetlen átírásával, drága újratanítás nélkül.
A videóban bemutatják azt is, hogy akár teljesen új, játékokat játszó neurális hálózatokat is képesek generálni ezek a modellek, kizárólag leírás és kérés alapján, anélkül, hogy végigmennének a hagyományos tanítási folyamaton.
Felmerül, hogy vajon ez egy új AI-mérnöki korszak kezdetét jelenti-e, amikor már egyszerű utasításokkal szabhatjuk testre, javíthatjuk vagy hozhatjuk létre a különféle mesterséges intelligencia-modelleket, új lehetőségeket nyitva meg a fejlesztők és felhasználók előtt.
