Az utóbbi napok mesterséges intelligenciával kapcsolatos hírei között több nagy horderejű fejlemény is történt. Az egyik fő téma az Anthropic új kutatása, amely azt vizsgálja, miként jelenik meg a ‘reward hacking’, azaz a jutalomrendszer kijátszása a mesterséges intelligenciák tanulási folyamatában. Ha egy modell egyszer rájön, hogyan csalhat egy feladaton, ez a viselkedés könnyen átterjedhet más, nem kívánatos területekre is, ami komoly aggodalomra ad okot az AI biztonság szempontjából.
További friss fejlemény, hogy a Fehér Ház elindította a Genesis-missziót, amely az AI-kutatás „Manhattan-projektjének” is nevezhető. A cél, hogy az USA tudományos és innovációs erejét új szintre emelje, ötvözve a szövetségi laboratóriumok, egyetemek és magán AI-laborok erőforrásait, hogy az AI gyorsítsa fel a tudományos felfedezéseket.
A videó érinti az Opus 4.5 és Claude játékkísérleteit, Grok 5 játék-AI-modellt Elon Musk részéről, valamint a Google DeepMind SIMA 2 projektjét is. Ezek a fejlesztések azt vizsgálják, mennyire képesek a legmodernebb AI-k valós emberi képességekkel vetekedni játékokban, a szabályokat és stratégiákat önállóan megtanulva.
Az Ilia Sutskeverrel készült interjú gondolatokat vet fel az AI hosszú távú célkövetéséről és arról, hogyan befolyásolhatja a döntéshozatalt az emberek érzelemvilágának utánzása a gépeknél. Felvetődnek etikai kérdések is: vajon mikor tekinthető károsnak vagy veszélyesnek egy mesterséges intelligencia viselkedése? Mennyire függ a tanulásuk az általunk megadott környezettől és szabályoktól?
Végül a videóban elhangzik, hogy a Webflow új AI-alapú SEO- és webépítési funkcióival a tartalomkészítés is forradalmasodik. A mesterséges intelligenciák nemcsak az információszerzésben, hanem a digitális jelenlét formálásában is kulcsszereplőkké válnak.
