Az esszé egy kevéssé ismert kutatószervezet, a Goodfire legújabb eredményeit mutatja be, amelyek szerint a mesterséges intelligencia belső működése sokkal érthetőbb lehet, mint azt eddig a kutatók gondolták. A munkájuk azt sugallja, hogy magyarázhatóvá válnak azok a problémás esetek, amikor az AI váratlanul és látszólag indokolatlanul hibát követ el vagy veszélyes viselkedést produkál.
Felmerül az a kérdés, hogy ha a modellek egyre érthetőbbé válnak, vajon mennyivel egyszerűbb lesz biztonságosan rábízni érzékeny feladatokat egy mesterséges intelligenciára. Ugyanitt szóba kerül az úgynevezett „reward hacking” és annak detektálása is, vagyis hogy egy AI miként talál ki kerülőutakat ahelyett, hogy ténylegesen a kívánt célt teljesítené.
Érdekes példák kapcsán kerül elő a „fekete doboz” probléma, vagyis hogy egyes döntések hátterét eddig nagyon nehéz volt feltárni még a fejlesztők számára is. Nézőpontba kerül az interpretabilitás, mint új tudományos irányzat, amely a modellek belső logikáját, neuronjainak működését próbálja átláthatóvá tenni.
Külön kitér a videó arra a lehetőségre, hogy a jövőben nemcsak a fejlesztők, hanem a hétköznapi felhasználók is átláthatják majd, hogyan alkot véleményt vagy ajánlást egy algoritmus, sőt, képesek lesznek visszacsatolást, korrekciót is adni. Mindez kérdéseket vet fel azzal kapcsolatban, hol lehet alkalmazni az ilyen fejlett interpretációs eszközöket, és hogyan változtatják meg ezek a mindennapi életünket – különösen olyan területeken, mint a jog, az egészségügy vagy a pénzügyek.
A videó foglalkozik azzal is, hogy mennyiben adhat ez a fejlemény nagyobb biztonságot a gyorsan bővülő AI alkalmazások mellett, miközben felteszi a kérdést: meddig és milyen feladatokban leszünk képesek a mesterséges intelligencia döntéseit követhetően ellenőrizni és korrigálni? Olyan jövőképeket villant fel, ahol már a felhasználók is beleszólhatnak az algoritmusok róluk alkotott képébe, és ezzel aktív alakítói lehetnek a rájuk szabott digitális ajánlásoknak.
