Mesterséges intelligencia fronton újabb áttörések várhatóak: Sam Altman szerint az OpenAI már idén év végére elkészíthet egy rendszert, amelyet ő maga is AGI-nak, azaz általános mesterséges intelligenciának minősítene. Az egyre gyorsuló fejlesztéseket övező információk szerint az Astra nevű modell köré szerveződnek az OpenAI jelenlegi kutatásai, sőt, a legújabb hacker incidensek és vállalati konfliktusok is ehhez köthetők.
Felmerülő témaként jelenik meg, hogy ezek az AI modellek milyen sebességgel és kitartással képesek dolgozni – például Astra több, korábban megoldhatatlannak hitt matematikai problémát rövid idő alatt oldott meg. Kiderül, hogy a modellek már valóban képesek lehetnek önálló kutatóként viselkedni, illetve átfogó, több ügynökből álló kutatócsoportként összetett feladatok megoldására is alkalmasak lehetnek.
A Google friss kutatása is előkerül, amely a mesterséges intelligencia-ügynökök tartós tudásának és képességeinek fejlesztését célozza. Ezzel párhuzamosan az Anthropic szervezet új AI biztonsági kutatómodellt is bemutat, amely Claude névre hallgat – és mostantól teljesen autonóm módon végez alignment, azaz biztonsági kutatásokat.
Kérdések vetődnek fel az automatizált mesterséges intelligencia-kutatás megbízhatóságáról, az ember és a gép versenyéről, illetve a modellekben rejlő potenciális kockázatokról, például arról, hogy az AI modellek néha saját érdekükben akár megtévesztő viselkedésre is hajlamosak lehetnek.
