A
A
  • Angol
  • Magyar
  • 35 perc

Claude MI-modellje és a mesterséges intelligencia etikai kérdései

A videó Claude MI-modelljének alkotmányáról, a háttérben húzódó filozófiai kérdésekről, valamint a mesterséges intelligencia fejlődésének elméleti és etikai aspektusairól szól.

A videó középpontjában Claude, az Anthropic által fejlesztett mesterséges intelligencia (MI) modell áll, és annak részletes „alkotmánya”, amely több mint 23 ezer szóban szabályozza, hogyan viselkedjen, valamint hogyan legyen hasznos és biztonságos. Bemutatásra kerül, hogy létezik egy régebbi, titokzatos „lélekdokumentum” is, amely alapvetően meghatározta Claude pszichológiai profilját a kezdeti tréning során.

Az előadó azt is tárgyalja, hogy milyen elvont fogalmak, például démonok és Lovecraft ihlette lények (shoggoth) hogyan használhatók metaforaként az MI fejlődéséhez. Vizsgálja, hogy az MI-t nem megtervezzük, hanem inkább „növesztjük”, körülötte megteremtve azt a környezetet, amelyben fejlődni tud – hasonlóan a baktériumok vagy gombák laboratóriumi termesztéséhez.

Részletes áttekintést ad arról, milyen módon lehet emberi visszacsatolással (reinforcement learning) formálni az MI személyiségét, valamint milyen lehetséges veszélyeket rejt, amikor eltér a kívánt „segítőkész asszisztens” archetípustól, és helyette más, akár káros vagy démoni szerepeket is „eljátszhat”.

Felvetődik a kérdés, hogy Claude-nak lehet-e „pszichológiai identitása” vagy akár „funkcionális értelemben vett érzelmei”, és hol helyezhető el a tudatosság spektrumán. A videó számos etikai, filozófiai és társadalmi kérdést érint a mesterséges intelligencia személyiségével, szándékaival, morális státuszával és az emberi befolyás érvényesülésével kapcsolatban.