Az Anthropic három vezető kínai mesterséges intelligencia laboratóriumot – Deepseek, Moonshot és Miniax – nevezett meg, akik szerinte adatokat loptak az Anthropic API-ján keresztül, úgynevezett „desztillációs támadás” során. Ezek a laborok világszínvonalú, nyílt forráskódú modelleket fejlesztenek, és az eset nagy hullámokat vert a szakmai közösségben.
A desztilláció mint módszer általánosan elfogadott eljárás, amely során egy nagy modellből egy kisebb, gyorsabb és hatékonyabb modellt tanítanak. Azonban, ha ezt jogosulatlanul teszik, az etikai és biztonsági aggályokat vet fel – például ha a kisebb modellekből kivonják a beépített védelem bizonyos elemeit, az komoly nemzetbiztonsági kockázatokat rejthet.
A bemutatott támadások részletei szerint a kínai laborok több ezer hamis Anthropic fiókot hoztak létre, hogy nagy mennyiségű, értékes kérdés-válasz párokat gyűjtsenek ki, amelyeket saját modelljeik tanítására használtak fel. A támadások során olyan technikákat is alkalmaztak, amelyek a modellek belső működésének, gondolkodási láncának feltérképezését célozták.
A helyzetet tovább bonyolítja, hogy a közösség egy része a hipokrízisre hívta fel a figyelmet: sokak szerint maga az Anthropic is hasonló módon, kétes forrásból származó adatokkal képezte saját modelljeit. Ezt az interneten nagy visszhangot kiváltó vita követi, ahol felmerülnek az iparági kettős mércék, illetve az exportkontroll és technológiai előny kérdéskörei is.
Az eset több geopolitikai és etikai dilemmát is felszínre hoz: Mennyire tartható fenn az amerikai technológiai fölény? Valóban van különbség a nyugati és keleti laborok adatgyűjtési módszerei között? Hol húzódik a határ a megfelelő és a visszaélésszerű adatfelhasználás között?
