Kétféle mesterséges intelligencia-ügynök létezik, amelyek közül jelenleg leginkább a személyes ügynökökre irányul a figyelem. Ezek különféle kódszerkesztő eszközöket, például Claude Code-ot vagy Hermes-t használnak, és a felhasználók helyi, markdown-alapú tudásbázisait kezelik. Az ilyen ‘második agyak’ rugalmasak és gyorsan használhatók egyéni célokra.
Ahogy az igények nőnek, és mások számára is elérhetővé szeretnénk tenni az ügynököt – például vállalati környezetben vagy szolgáltatásként –, a helyi, markdown-alapú megközelítés többé nem működik. Egy ponton túl skálázási, jogosultságkezelési és költségoptimalizálási problémák merülnek fel. Nagyobb rendszerek esetén elengedhetetlenné válnak az adatbázisok, például a Redis, az adatok kezeléséhez, visszakereséséhez és a memóriakezeléshez.
Az ügynök architektúrájának alapvető átalakítására van szükség ahhoz, hogy megfelelően skálázhassuk őket. Felmerülnek kérdések, például hogyan oldható meg a hozzáférés-szabályozás, hogyan kereshetünk hatékonyan nagy mennyiségű adat között, és hogyan érdemes kezelni a rövid- és hosszú távú memóriát. A videó példaként bemutatja a Redis Iris szolgáltatásait, amelyek ilyen problémákra kínálnak megoldást – például automatikusan generált keresőeszközökkel és memóriakezeléssel.
Az is szóba kerül, hogy miként lehet egy egyszerű, személyes ügynöktől eljutni egy teljes értékű vállalati ügynökig, amely képes rendeléseket, ügyfélinformációkat és támogatási jegyeket is kezelni, miközben minden releváns adatot és memóriát egy központi adatbázisban tárol, majd intelligensen visszakeres.
