Az Anthropic új kutatása betekintést enged az eddig fekete dobozban rejtőző mesterséges intelligencia működésébe, különösen a „JSpace” nevű belső tér vizsgálatával. Ez a felfedezés azt sugallja, hogy a mesterséges intelligencia gondolkodási folyamata sokkal inkább hasonlít az emberi gondolkodásra, mint azt korábban sejtettük.
Egyes példákon keresztül bemutatja, hogyan képes az AI „elméje” tudatosnak tűnő gondolatokat formálni, amelyek nem feltétlenül jelennek meg a kimenetben, de a modell belső súlyaiban világosan felismerhetők. A kísérletek azt vizsgálják, hogyan módosítható ez a JSpace, milyen tartalmakat őriz, és mennyire befolyásolja a modell válaszait.
Érdekes analógiák hangzanak el az emberi agy tudatos és automatikus folyamatai között: például bizonyos feladatokra aktívan „gondol” a modell, míg másokat automatikusan végez el. A videó számos kérdést vet fel az AI tudatosságáról, a gondolatok manipulálhatóságáról, valamint az úgynevezett „alignment” (megfeleltetés) kulcsfontosságú problémájáról.
A kutatás meglepő eredményeket mutat abban is, ahogyan a modell belső gondolkodása módosítható vagy kiolvasható, sőt, hogy mennyire fontos ez a réteg a komplex feladatok megoldásánál – miközben az alapvető tevékenységeket nélküle is képes elvégezni. A bemutatott példák rávilágítanak arra, hogy ez az új nézőpont nagymértékben segíti a mesterséges intelligencia megbízhatóságának és átláthatóságának kutatását.
