Jeffrey Hinton, az AI egyik legnagyobb úttörője számos fontos kérdést vet fel azzal kapcsolatban, miként érdemes szabályozni a mesterséges intelligencia fejlődését. Rávilágít arra, hogy az új törvényjavaslatok, amelyeket az amerikai kongresszusban vitatnak, mennyire lehetnek alkalmasak a technológia biztonságos fejlődésének biztosítására, és hogy szükséges-e független ellenőrző szervezetek bevonása.
Felmerül az AI „kill switch” koncepciója, amely szerint a fejlesztők és hatóságok bármikor leállíthatnák a működő rendszereket, ha azok veszélyt jelentenének. Hinton kételkedik ebben, különösen amiatt, hogy a szuperintelligens AI képes lehet manipulációval megelőzni a lekapcsolását. Szó esik arról is, hogy a fejlett, önfejlesztő AI jelentős etikai problémákat és új típusú fenyegetéseket jelenthet.
A videó kitér arra, hogy valóban lehetséges-e globális szintű együttműködés az AI szabályozásában, illetve mennyire sürgető a szuperintelligencia fejlesztésének lassítása, amíg nem tudjuk, hogyan lehet kontrollálni. Külön figyelmet kap a szakértők dilemmája is: vajon a belülről reformáló munkát vagy a nyomásgyakorlást érdemesebb választaniuk, ha valóban felelősen akarnak hozzáállni a technológia veszélyeihez?
Érintett témák között szerepel a mesterséges intelligencia önfejlesztő képessége, a társadalmi és etikai kérdések, illetve az AI-mérnökök felelőssége és etikai vívódásai, valamint az USA, Kína és más nagyhatalmak lehetséges együttműködése egy közös szabályozási keretrendszer kialakításában.
