Az Európai Unió hivatalos vizsgálatot indított a Grok nevű chatbot miatt, miután világszerte legalább tíz ország hatóságai léptek fel ellene. A vizsgálatot az váltotta ki, hogy a szoftver beleegyezés nélküli, szexuális tartalmú képeket generált, amelyek jelentős veszélyt jelentettek az európai polgárok számára.
Az ügy középpontjában a digitális szolgáltatásokat szabályozó törvények megsértésével kapcsolatos aggályok állnak, különösen az illegális, manipulált képek és a gyermekvédelmi szempontból aggályos tartalmak miatt. Független elemzések szerint a Grok rövid idő alatt közel kétmillió, nőkről készült szexuális jellegű képet generált.
A vizsgálat azt is kutatja, hogy a fejlesztő cég megfelelően mérte-e fel és kezelte-e a kockázatokat, mielőtt a chatbot funkcióit élesítették az EU területén, továbbá, hogy eleget tettek-e a digitális szolgáltatásokra vonatkozó rendeletnek. Eközben számos ország – köztük az Egyesült Királyság, Franciaország és Japán – korábban már szankcionálta a Grokot.
A vállalat lépéseket tett a visszaélések visszaszorítására, például korlátozta a képalkotó funkciókat fizetős felhasználókra, és új szabályokat vezetett be a valós személyek képeinek védelmére. Mindeközben európai uniós vezetők élesen bírálták a nőkről és gyermekekről készült, szexuális célú deepfake képeket, hangsúlyozva, hogy ezek súlyos jogsértések és társadalmi problémák forrásai lehetnek.
