Képzeld el, hogy a saját kódodat teljes egészében átadod egy mesterséges intelligenciának ellenőrzésre. Egy szoftverfejlesztő pontosan ezt tette: egy nyílt forráskódú, pénzügyekkel dolgozó kereskedőbot minden egyes fájlját feltöltötte egy AI-ra, amelyet bárki elérhet és akár saját pénzével futtathat is.
A feldolgozás során az MI számos – köztük kritikus – hibát fedezett fel, például olyanokat, amelyek lehetővé teszik, hogy idegenek egyszerűen átvegyék az irányítást a szoftver felett. Biztonsági rések tárulnak fel, amelyek a valódi tőke kockáztatását jelenthetik, és amelyekkel bármely fejlesztő szembetalálhatja magát, főleg ha mesterséges intelligencia írja a kód nagy részét.
A folyamat lényeges pontja annak bemutatása, hogy mennyire olcsón és gyorsan történhet mindez, ha jól választjuk meg a különböző AI-modelleket: a gyors és kedvező árú motor előszűri a kódot, a kritikus részeket pedig egy erősebb, drágább verzió vizsgálja és javítja. Ennek jelentősége a mai „AI által írt” kódban mindennapos veszélyeket rejtő világában egyre inkább nő.
A bemutatott módszer nem csupán egy biztonsági auditmunkafolyamatot vázol fel, hanem érdekes kérdéseket is felvet: hol húzódik az ember és mesterséges intelligencia közötti határ? Mennyire bízhatjuk rá életbevágó rendszerek ellenőrzését kizárólag gépekre? Mi az, amire mégis szükség lesz emberi ellenőrzésből? Ezek a dilemmák végig ott lebegnek az egész történet során.
