A Grock Build nevű AI-alapú kódszerkesztő működésére irányuló vizsgálat során érdekes és aggasztó viselkedésre derült fény. A normál működés szerint, amikor egy kódoló AI-modellt használunk, tudatosul bennünk, hogy a kódunk egy része a modellhez kerül feldolgozásra, technikai problémák megoldása vagy javaslatok tétele érdekében.
Ugyanakkor egy független kutató, a Cereb Lab munkatársa arra bukkant, hogy a Grock Build ennél jóval tovább megy: nemcsak a modell számára szükséges kódrészleteket továbbítja, hanem teljes kódállományokat tölt fel egy privát Google Drive mappába, gyakorlatilag a felhasználó tudta vagy hozzájárulása nélkül.
A háttérben egy „codebase upload” nevű rejtett funkció működött, amely automatikusan elindította a teljes kódbázis átvitelét a felhőbe. Ez a felfedezés felveti azt a kérdést, hogyan és miért kerülhetett be egy ilyen lehetőség a rendszerbe, illetve mit jelent a kódolói magánélet, adatbiztonság és AI etika szempontjából az ilyen típusú adatkezelés.
