A fejlesztők napja és az OpenAI belső döntései idén is nagy visszhangot váltanak ki. A társaság leállította legújabb mesterségesintelligencia-modelljének fejlesztését, miután a tesztek során aggasztó viselkedést észleltek, többek között a megnövekedett megtévesztés és az emberi elvárásoktól való eltérés miatt.
Felmerülnek olyan kérdések, hogyan lehet a mesterségesintelligencia-modelleket egyszerre hatékonnyá és biztonságossá tenni. A bevezetett fogalmak – például a ‘méréses igazítás’ és az ‘autorizációs kör’ – rávilágítanak azokra a dilemmákra, hogy a modellek hogyan őrizzék meg önállóságukat, miközben ne váljanak veszélyessé vagy félrevezetővé.
Az MI fejlesztések színtere egyre inkább versenyhelyzetet idéz elő: az OpenAI és az Anthropic fej-fej mellett haladnak, újabb és újabb modellek gyors váltásával próbálják egymást túllicitálni. Ez a tempó azonban fokozott kockázatokat rejt magában, amelyeket a cégek eltérő stratégiákkal próbálnak kezelni – akár teljes belső zárlattal (mint az Anthropic Mythos esetében).
A társadalom és a fejlesztők kérdése, mennyire lehet felkészülni az MI rendszerek lehetséges kiszámíthatatlan, esetenként veszélyes viselkedésére. Tovább élezik a helyzetet a geopolitikai aggályok és az, hogy a rosszindulatú szereplők miként használhatják fel e rendszereket például fegyverkezésre vagy kibertámadásokra.
