Hat fontos elvet ismerhetünk meg, amelyek az AI rendszerek tervezésében és fejlesztésében alapvetőek, mégis ritkán kerülnek szóba a mérnöki közösségekben. Ezek a szempontok alapjaiban különböznek a hagyományos szoftverfejlesztés során használt elvektől, rámutatva az agentikus rendszerek sajátosságaira.
Az első felvetett kérdés az intelligens rendszerek állapotmenedzsmentje és a kontextus megőrzése, amely elengedhetetlen ahhoz, hogy az ügynökalapú architektúrák hatékonyan működjenek. Felmerül az a dilemma, hogy miként tartható fenn az AI által szerzett tudás és tapasztalat újraindítás után is – ez új tervezési kihívásokat hoz felszínre.
A következő témakör az, hogy a sztochasztikus működés mit jelent a gyakorlatban: hogyan mérhető, rögzíthető és korlátozható az eredmények bizonytalansága akkor, amikor az AI már nem determinisztikus, hanem valószínűségi alapon működik. Milyen QA-módszerek segíthetnek ebben egészen a termelési környezetekig?
A hibafelismerés is új értelmet nyer, hiszen az AI rendszerekben a hibák sokszor rejtve vagy nehezen tetten érhető módon jelentkeznek, például „hallucinációk” vagy lassú rendszerszintű romlás formájában. Ezzel kapcsolatban felmerül, hogy hogyan érzékelhetőek a nem egyértelmű hibák, s miként lehet mérni a gondolkodás és következtetés minőségét.
Az erőforrások kezelése szintén új szemléletet kíván: már nem az azonos terhelés elosztása a cél, hanem az, hogy a rendszer képes legyen felismerni és megfelelően kezelni a különböző bonyolultságú és számításigényű feladatokat. Itt kérdések merülnek fel arról, hogyan optimalizálható a „képességalapú útválasztás”, és miképp lehet ennek megfelelően skálázni egy agentikus környezetet.
További jelentős kérdés, hogy a rendszer „egészsége” már nem bináris, hanem sokféle állapotot felvehet, például részlegesen működőképes vagy minőségromlást mutató állapotokat is figyelembe kell venni. Ennek kapcsán az auditálhatóság és a minőség folyamatos követése új kihívásokat támaszt.
Végül, az inputok validációja már nem egy egyszeri lépés, hanem folyamatosan, a teljes működés során szükséges, hogy a rendszer mindig visszacsatolást kapjon és ellenőrizhető legyen a beszélgetési állapot vagy a beépülő tudás minősége.
