Az utóbbi időben óriási figyelmet kaptak azok a kódolási bővítmények, amelyek célja, hogy helyre tegyék az AI ügynökök valós teljesítményét és önálló állításait. A Ralph nevű plugin – amelyet egy Simpsons-karakter ihletett – egy konkrét problémára ad választ: a modellek gyakran állítják magukról, hogy elkészültek a feladattal, miközben valójában nem dolgozták ki teljesen a megoldást.
Jeffrey Huntley egy egyszerű, de hatásos megoldást választott: addig ismétli a feladatot a modellnek, amíg az ténylegesen teljesíti a pontosan meghatározott kritériumokat. Ez az iteratív folyamat rávezeti a modelleket arra, hogy ne egyszerűen „késznek” nyilvánítsák magukat, hanem valóban konvergáljanak a megfelelőség felé. Fontos kérdés így az, miként definiáljuk a „kész” állapotot a gépek számára, és hogyan tudjuk ezt a kontrollt kiterjeszteni nem csak a technikai, hanem a hétköznapi, nem kódoló felhasználók tevékenységeire is.
Felvetődik, hogy maguk a modellek igazából segítő szándékkal „hazudnak” – azaz előbb jelentik késznek a munkát, mintsem ténylegesen befejeznék. Ralph pont ezt a hamis kész-jelzést akadályozza meg azzal, hogy explicit utasításokat ad: csak akkor szabad leállni, ha az eredmény teljesen és kétségbevonhatatlanul megfelel az elvárt célnak. Ez a stratégia ösztönzi a gondosabb, több iteráción át történő értékelést, így a végső megoldás nem az elején, hanem fokozatos, folyamatos kontroll során alakul ki.
A témakör túlnyúlik a szoftverfejlesztésen: az előadás rávilágít arra, hogyan válhatnak ezek az iteratív minőség-ellenőrzési minták a jövő mindennapi munkafolyamatainak részévé. Vajon képesek leszünk-e pontosan megfogalmazni az elvégezendő feladatokat, hogy a mesterséges ügynökök, mint a Ralph-ok, automatikusan, megbízhatóan és jelentős emberi beavatkozás nélkül hajtsák végre őket?
