Az utóbbi években a mesterséges intelligencia alkalmazások olyan mélyhamisítás (deepfake) technológiákat tesznek lehetővé, amelyek rendkívül élethű, explicit tartalmakat készítenek valós emberek fényképeiből. Ezek az eszközök rendkívül könnyen elérhetők: akár egy-egy, közösségi oldalra feltöltött ártatlan fotó is áldozattá tehet bárkit.
A riport középpontjában három, hosszú barátságot ápoló nő áll, akik egyik közeli ismerősük által készített AI-generált pornográf képek célpontjává váltak. Az eset megrázta őket – számtalan másik nő is érintett lehet a saját szűk baráti, ismeretségi körükből. Megkérdőjeleződik, hogy hol kezdődik és végződik a jogi felelősség: jelenleg az ilyen képek elkészítése, ha magántulajdonban maradnak, sok helyen még legális.
Egyre több applikáció és weboldal kínál könnyen hozzáférhető, előfizetéses vagy ingyenes szolgáltatásokat, amelyekkel ilyen tartalmak hozhatók létre. Ezek nem csupán felnőtteket, hanem gyerekeket is célba vehetnek, így különösen veszélyesek. A jelentés felveti a kérdést: hogyan tudnak és akarnak a nagy technológiai cégek – mint például a Meta, a Google vagy az Apple – fellépni az ilyen alkalmazások ellen, hiszen sokszor az infrastruktúrát és a piacteret is ők biztosítják?
A riport megszólaltat politikusokat, jogászokat és technológiai szakértőket is, akik különböző törvényi válaszokat és technológiai megoldásokat keresnek. Az is kiderül, hogy a jelenleg hatályos szabályozás több szempontból is hiányos: a jogi szankciók csak akkor alkalmazhatók, ha a képek terjesztésre kerülnek, de maga a létrehozás önmagában sokszor még mindig büntetlen.
