Az utóbbi időben hatalmas előrelépések történtek a mesterséges intelligencia önfejlesztő képességeiben. Egy új kutatás, a Darwin Girdle Machine (DGM), egyedi megközelítéssel közelíti meg a problémát: a jól ismert evolúciós mechanizmusokat és önfejlesztő kódot használ, hogy az AI önállóan tudjon fejlődni.
Felszínre kerülnek alapvető kérdések, mint például: mi történik, ha egy intelligens rendszer nemcsak tanulni, hanem teljesen önállóan, programkód-szintű változtatásokat végrehajtva fejlődni képes? A vizsgálat utal rá, hogy a jelenlegi AI-fejlesztés legfőbb korlátja az emberi beavatkozás: eddig minden jelentős fejlesztési lépést szakértők valósítottak meg, most viszont a DGM lehetőséget teremt a teljesen automatizált fejlődésre.
Megvitatásra kerül, hogyan tudja a DGM ötvözni az evolúciós biológia elveit az AI-val. Az új megközelítés lehetővé teszi, hogy a rendszer önmagát módosítsa, majd a valós teljesítmény alapján eldöntse, tényleg jobban működik-e, mint az előző generáció. Bemutatják, miként működik egy ilyen rendszert képező ügynök: hogyan archiválja a különböző fejlesztett verziókat, és hogyan alkalmazza a darwini szelekciót a továbbfejlődésben.
A technológia azonban új típusú kockázatokkal is jár, amelyek a biztonságot és az emberi értékekkel való összehangolást érintik. Hol a határ, ameddig az AI önállóan változtathat saját struktúráin, és hogyan védhetők ki a „jutalom-hackelés” jelenségei a folyamatos önfejlesztés során?
