Ebben a videóban egy tapasztalt fejlesztő osztja meg tapasztalatait, miután több mint 150 AI-alkalmazást épített, és rávilágít azokra a kritikus biztonsági hibákra, amelyek a nagy nyelvi modellek integrációjánál előfordulhatnak.
Az előadó rámutat, hogyan válhatnak az LLM-ek által generált kimenetek veszélyforrássá, ha azokat közvetlenül hajtják végre kódban, vagy érzékeny rendszerekkel kapcsolják össze. Felvetődik a kérdés, hogy miként őrizhető meg a biztonság, amikor a modell szöveget generál, és az outputot hozzákapcsolják például kódvégrehajtáshoz vagy adathozzáféréshez.
Külön kitér a retrieverrel támogatott adathozzáférések (RAG) jelentette veszélyforrásokra, mint a helytelen jogosultságkezelés vagy a felhasználó által feltöltött tartalmak okozta adat-expozíció. Itt hangsúlyos szerepet kapnak az adatok elkülönítése és a jogosultságok naprakészen tartása.
A videó harmadik témaköre a felhasználói felületek biztonsága: hogyan tud egy ártalmatlannak tűnő link vagy kép mégis adatvesztést okozni, miközben a böngésző kliensoldalon kapcsolatot kezdeményez. Felmerül, milyen védelmi intézkedéseket szükséges implementálni ahhoz, hogy az ilyen támadási felületek minimalizálhatók legyenek.
A témák sorra vétele mellett az előadó gyakorlati tanácsokat és szemléletváltást hangsúlyoz, hogy a fejlesztők már az architekturális tervezés során képesek legyenek megelőzni a leggyakoribb biztonsági hibákat.
