A mesterséges intelligencia (AI) biztonsága központi problémaként merül fel a kormányzati szabályozás és az iparági szereplők között. Gyors technológiai fejlődés tapasztalható, miközben az irányítás és a felügyelet próbál lépést tartani az új rendszerekkel – felmerül a kérdés, hogy egyáltalán létezik-e megoldás, amely tartósan garantálhatná a biztonságot.
Sokan hangsúlyozzák, hogy a szabályozás lassabb az innovációnál; példaként említik, hogy az autóiparban is csak komoly balesetek után érkezett szabályozói válasz (például a biztonsági övek kötelezővé tétele). Hasonlóan az AI jóval előbb jelenthet veszélyt, minthogy a társadalom és a jogrendszerek alkalmazkodnának.
Felmerül a kérdés, hogy az AI fejlődéséhez szükség van-e valamennyi kockázat vállalására – a szakmai álláspontok megoszlanak arról, elég-e vezérelvek mentén haladni, vagy szigorúbb, átfogóbb kontroll szükséges. Vita tárgyát képezi, ki tudja és kinek kellene megalkotnia ezeket a kereteket, különösen amikor a legnagyobb befolyással bíró cégek maguk is érintettek a problémában.
Az átláthatóság, a forráskódhoz való hozzáférés, illetve a „fekete doboz” típusú AI-modellek kezelése szintén központi kérdések. Ezek kezelése komoly üzleti és nemzetbiztonsági dilemmákat vet fel, különösen akkor, ha a piacvezető vállalatok példátlanul gyors ütemben növekednek és jelentős részben saját maguk szabják a játékszabályokat.
A beszélgetés kiemeli, hogy jelenleg inkább a technikai és közösségi próbálkozások jellemzőek a problémák orvoslására. Több példán keresztül látható, hogy a nyílt forráskódú fejlesztés vagy közös szabványalkotás lehetősége merül fel, azonban az út a konszenzushoz és hatékony védelemhez továbbra is kérdéses.
