Egy izgalmas interjú során az OpenAI kutatóját, Noam Brownt kérdezik a többügynökös rendszerek (multi-agent systems) és a rekurzív önfejlesztés (RSI) fejlődéséről. A beszélgetés során felmerül, hogyan képesek a mai mesterséges intelligenciák, különösen nagy léptékben, összetett problémák gyors megoldására együttműködés révén. Megvitatják, hogy egy 10 000 ügynökből álló rendszer hogyan oldott meg egy Millennium-díjas matematikai problémát, és milyen meglepőek a gyors fejlesztések még a kutatók számára is.
A skálázás és a párhuzamosítás előnyei mellett szóba kerülnek a technikai nehézségek, például a kontextusmegosztás, a koordináció, illetve hogy mikor eredményez tényleges gyorsulást a több ügynök együttműködése. A beszélgetők felvetik, hogy mindez milyen hatással lehet a jövő kutatására, munkahelyekre, sőt akár a vállalati struktúrákra, mivel az AI-ügynökök képesek lehetnek emberszintű — vagy annál is gyorsabb — együttműködésre.
Részletesen tárgyalják a modellek általánosítási képességét, az egyre gyorsabb fejlődés tempóját, illetve azt a bizonytalanságot, hogy akár háromszoros vagy nagyobb gyorsulás is bekövetkezhet az AI-fejlesztések terén. Az etikai, biztonsági és igazítási (alignment) kihívások is hangsúlyosan jelennek meg: hogyan lehet felismerni vagy megelőzni, hogy a mesterséges ügynökök csalást, összeesküvést vagy potenciálisan káros tevékenységeket folytassanak, különösen amikor képességeik és a bennük futó kísérletek mind nagyobb léptéket öltenek?
A beszélgetés végén olyan kérdések kerülnek előtérbe, mint hogy mikor és honnan tudhatjuk biztosan, hogy a modellek megfelelően igazítottak, milyen új tesztelési és megfigyelési (például chain-of-thought monitoring) módszerek szükségesek a biztonság érdekében, illetve hogyan lesz fenntartható az irányítás az exponenciálisan növekvő AI-populációk felett.
