Dario Amodei, az Anthropic vezérigazgatója figyelmeztet az új generációs mesterséges intelligencia veszélyeire, különösen a Claude modellekkel kapcsolatban. Az interjú olyan kérdéseket vet fel, mint hogy miként válik az AI egyre önállóbbá, és valóban képes lehet-e nagyobb intelligenciára, mint az emberiség egésze.
Az amerikai kormány rövid időre leállíttatta az Anthropic legújabb modelljeit, a Fable-t és a Mythos-t, nemzetbiztonsági aggályokra hivatkozva – mindezt abban a versenyben, amelyben kínai laborok is rohamosan fejlődnek. A videó bemutatja, hogy a szabályozás, a nemzetközi rivalizálás és a technológiai fejlődés mennyire összefonódott, és hogy a leállítások csak ideiglenesek lehetnek.
Feltárul, hogy az új AI modellek kiemelkedő képességekkel bírnak, például képesek régi, eddig felfedezetlen szoftverhibákat megtalálni – s mindezt úgy, hogy önállóan keresnek sebezhetőségeket, amelyekre már évtizedek óta senki sem bukkant rá. Ezzel párhuzamosan felmerül a kérdés, hogyan óvhatják meg magukat a cégek és magánemberek a mesterséges intelligencia potenciális hibáitól és támadásaitól.
Kiemelik, hogy az AI széleskörű elterjedése radikálisan átalakítja a munkaerőpiacot, a kiberbiztonságot és a biztosítások világát. Megjelennek olyan dilemmák is, mint hogy hogyan szabályozhatók ezek a gyorsan fejlődő rendszerek, milyen felelősség terheli a felhasználókat, és fel lehet-e készülni az AI által okozott változásokra a mindennapokban?
A szerző végül három kulcskészségre hívja fel a figyelmet, amelyek segíthetnek megküzdeni az AI korszak kihívásaival, miközben a globális verseny várhatóan csak még gyorsabbá válik. A beszélgetés azonban számos kérdést nyitva hagy, legfőképpen azt, hogy merre tovább: lehetséges-e egyensúlyt találni a fejlődés, a szabályozás és a védelem között a mesterséges intelligencia robbanásszerű előretörése közepette?
