Az Nvidia SkillSpector nyílt forráskódú projektje fontos újdonságot jelent az AI biztonság területén. Ebben a videóban körvonalazódik, miért tartják sokan az egyik legjelentősebb fejlesztésnek napjaink AI világában.
Az úgynevezett „ügynöki skillek” népszerűsége folyamatosan nő. Ezek kis mappák, amelyek utasításokat tartalmaznak AI ügynökök számára – például hogyan hajtsanak végre komplex feladatokat, mint a Kubernetes-re történő telepítés vagy egy pull request megnyitása. Azonban szinte alig vizsgálja bárki, milyen kód és utasítás lapul ezekben, pedig kutatások szerint minden negyedik skill tartalmaz sebezhetőséget, egy kisebb részük pedig konkrét rosszindulatú céllal íródott.
A SkillSpector-t kifejezetten ezeknek a skilleknek az átvizsgálására fejlesztette az Nvidia. A program különféle veszélyeket keres bennük: például prompt injekció, jogosultság-lopás, adatlopás, megkérdőjelezhető függőségek, rejtett utasítások, vagy akár hetvennél is több ismert támadási forma nyomait.
A videóban bemutatnak egy lépésről-lépésre történő telepítést, majd egy tiszta és egy veszélyes skill szkennelését, miközben szemléltetik, hogyan deríthetők fel rejtett problémák vagy rosszindulatú elemek. Emellett szóba kerülnek a statikus és a mesterséges intelligencia alapú elemzések közti eltérések is, különösen a nyelvi trükkök felismerésének nehézségei kapcsán.
Felvetődik a kérdés, miként biztosítható, hogy az AI ügynökök csak valóban biztonságos skilleket használjanak fel – különös tekintettel arra, hogy ezek sokszor minden joggal és érzékeny adattal szabadon gazdálkodhatnak.
