Az önfejlesztő mesterséges intelligencia témaköre egyre nagyobb figyelmet kap az AI közösségben, különösen most, amikor megjelennek olyan kutatások és fejlesztések, amelyek lehetővé teszik az AI számára, hogy önállóan módosítsa saját forráskódját és javítsa saját teljesítményét.
Felmerül a kérdés: hol van a határ az intelligencia-robbanásban? Kutatók, mint például Jürgen Schmidhuber és csapata, már évek óta vizsgálják, hogyan tud egy AI folyamatosan fejlődni úgy, hogy saját magán végez gépi tanulás kutatásokat. Új megközelítéseket vezetnek be, például a leszármazási vonalak elemzését, hogy meghatározzák, melyik önfejlesztési ösvény vezet a legnagyobb sikerhez.
Különféle AI ügynököket vizsgálnak, amelyek saját kódjuk alapján generációkon keresztül változnak és fejlődnek. Ezzel kapcsolatban előjön a „meta-produktivitás-teljesítmény eltérés” fogalma: vajon a rövid távon sikeres ágazatok minden esetben hosszú távon is a legjobbak lesznek? Mi történne, ha a kezdetben gyengébb vonalakat engednénk tovább fejlődni?
A biológiai evolúcióra utaló példák (pl. Darwin, Huxley) is helyet kapnak a beszélgetésben, bemutatva, hogy az AI fejlődésének folyamata több ponton párhuzamot mutat a természetes kiválasztódással. Kérdés, mennyiben vagyunk képesek előre jelezni, hogy mely AI ágazat eredményez majd áttörő fejlődést, és hol érdemes folytatni az önfejlesztés útját.
