A
A
Mustafa Suleyman: AI Is Starting to Improve Itself, and That's Dangerous

Mustafa Suleyman: AI Is Starting to Improve Itself, and That's Dangerous

Lejátszás
  • Angol
  • Magyar
  • 17 perc

Önfejlesztő AI: Kihívások és lehetőségek a technológia jövőjében

Az önfejlesztő mesterséges intelligencia új korszakot nyit a technológiai iparban, a Microsoft és más piacvezetők számára pedig komoly dilemmákat és lehetőségeket tartogat a gyorsuló innováció tempója.

A beszélgetés központi témája az AI-modellek gyors fejlődése, az egyre olcsóbb, de mégis hatékony speciális modellek megjelenése, valamint a nagyvállalatok – különösen a Microsoft – azon törekvései, hogy saját fejlesztéseikkel felvegyék a versenyt az olyan piaci szereplőkkel, mint az OpenAI vagy az Anthropic. Szó esik arról, hogy a vállalati felhasználók számára a teljesítmény és a költséghatékonyság egyensúlya kulcsfontosságú, emellett kiemelt szerepet kapnak a kiberbiztonsági és kódolási feladatokra optimalizált AI-k.

Folyamatosan nő a kereslet a hosszú távon, háttérfolyamatként működő „ügynökszerű” AI-k iránt, amelyek autonóm módon végeznek el összetett és rutinszerű tevékenységeket is. Érdekes kérdésként vetődik fel, hogy a kínai nyílt modellek és az amerikai fejlesztések milyen szerepet töltenek be ebben a versenyben, illetve hogyan biztosítják a felhasználók tulajdonjogát és kontrollját az általuk testreszabott modellek felett.

Súlyos dilemmaként jelenik meg az AI önjavító, önfejlesztő képessége. Kifejezett aggodalomként merül fel, hogy ezek a modellek saját fejlesztésük során már jelentős döntéseket hoznak, ezért biztonsági, etikai és szabályozási szempontból újfajta felügyeletre és óvatosságra van szükség. Felmerül a kérdés, hogyan lehet szilárd garanciákat teremteni arra, hogy a modellek használata biztonságos és átlátható lehessen.

Rámutatnak arra is, hogy a nyílt forráskód és a zárt rendszerek közötti egyensúly megtalálása döntő tényező lehet a jövőben. Vita tárgyává válik, hogy az iparág óriásai hogyan tudják megfelelően szabályozni, auditálni és felügyelni a mindenre kiterjedő „intelligencia termelést”, és milyen újfajta intézményrendszerekre, vállalati felelősségvállalásra lesz szükség. Mindezek mellett filozófiai kérdések is előkerülnek: vajon lehet-e, szabad-e az AI-t tudattal rendelkező entitásként kezelni, és milyen veszélyei vannak annak, ha emberek egy része hajlik erre.