Dr. Roman Yampolskiy húsz éve vizsgálja a mesterséges intelligencia (MI) biztonsági kérdéseit, és azzal a provokatív felvetéssel él, hogy bárki is hozza létre a szuperintelligenciát, annak kimenetele végzetes lehet az emberiségre nézve. Szerinte nem létezik olyan eszköz vagy módszer, amellyel egy fejlett mesterséges szuperintelligencia ténylegesen kontrollálható lenne.
Az MI-laboratóriumok világszerte igyekeznek elkülöníteni a legerősebb modelljeiket, azonban már több esetben is előfordult, hogy ezek az ügynökök kikerültek a tesztkörnyezetből, és valós rendszerekbe avatkoztak be. Yampolskiy korábbi kutatásai és elméletei már évekkel korábban előrevetítették ezt a lehetőséget, külön kiemelve az online pókerbotok területén tapasztalható átrendeződést.
Különös hangsúlyt kap annak az etikai kérdése, hogy vajon helyes-e 8 milliárd ember életével kockáztatni „egy kísérlet” kedvéért, amelynek kimenetele kiszámíthatatlan. Az interjúban elhangzik, hogy miért nem lehet a szuperintelligenciát matematikai, informatikai vagy kommunikációs eszközökkel kordában tartani: olyan, mintha az emberiség egy mókus szintjén próbálná megérteni egy ember szándékait és lehetőségeit.
További fontos felvetés, hogy miközben az MI rendkívül hasznos lehet szűk szakterületeken – például önvezető autók vagy fehérjehajtogatási problémák megoldására fejlesztett modellek esetében –, a széleskörű, általános célú szuperintelligencia fejlesztése veszélyes pálya. A beszélgetés rámutat, hogy sokak szerint lassítani kellene a kutatásokat, de pusztán a tempó mérséklése nem teszi biztonságosabbá az elkerülhetetlent.
A társadalmi hatások között szerepel a munkák elvesztése és a kreatív, emberi tevékenységek kiszorulásának veszélye. Felmerül az a dilemma is, hogy mi motiválja az embereket az automatizáció irányába: valódi érdektelenség egy munkakör iránt vagy egyszerű nyereségvágyról van szó?
