Az újonnan bemutatott FastContext modellt a Microsoft fejlesztette ki, hogy megoldást nyújtson az AI programozói ügynökök egyik legnagyobb, rejtett költségére: a forráskód-repozitóriumok feltérképezésére. Az ilyen rendszerek jelentős része rengeteg időt és erőforrást pazarol a fájlok keresésére, mielőtt tényleges változtatásokat hajtanának végre.
A FastContext egy könnyű, mintegy 4 milliárd paraméteres modell, amely három olvasásra alkalmas eszközzel gyorsan, párhuzamosan dolgozik, majd a keresések eredményeit precízen, konkrét fájl- és sorszámokkal összegzi. Az eredmények fókuszált, releváns információkat biztosítanak a fő modell számára, így jelentősen csökkentik a működtetés költségeit.
A videó bemutatja a FastContext telepítését és használatát SG Lang alatt, mindezt egy Ubuntu rendszerű gépen, Nvidia RTX A6000 GPU-val. A folyamat magában foglalja az SG Lang telepítését, a FastContext repó klónozását, a szükséges függőségek letöltését, valamint a modell letöltését a Hugging Face-ről.
Külön figyelmet kap az, ahogyan a FastContext integrálható egy meglévő kódügynök-láncba, például a GLM 5.2 vagy a Hermes Agent rendszerekbe. A gyakorlatban a modell egy helyi World Cup 2026 kódbázison is tesztelésre kerül, ahol képes önállóan feltérképezni a back-end és front-end fájlokat, és végeredményként világos hibaleírásokat ad.
A bemutató rávilágít arra, hogy a FastContext ugyan jelentősen gyorsítja a repók átvizsgálását és csökkenti a nagy modellek erőforrásigényét, de időnként még hibázik is. Felveti annak kérdését, hogy a jövőben milyen további fejlesztések szükségesek ahhoz, hogy a nagy kódbázisokon dolgozó AI-ügynökök még hatékonyabbak legyenek.
