Bemutatásra kerül egy innovatív, 7 milliárd paraméteres kutatóügynök, amelyet a Pokei AI fejlesztett ki, és elsősorban mélyreható kutatás támogatására terveztek. Különlegessége, hogy kisméretű modellként meglepően nagymértékű VRAM-ot igényel, mintegy 80 GB-ot, és ennek okait, valamint jelentőségét is elemzik.
A rendszer képes összetett kérdések lebontására, információk felkutatására, források átfogó ellenőrzésére, valamint ezek alapján hivatkozásokkal ellátott, átfogó válaszok generálására. Több szálon futó kutatási folyamata megkülönbözteti a tipikus chatbotoktól, hiszen a hangsúly a tényszerűségre és az önkorrekció lehetőségére esik.
A telepítést lépésről lépésre mutatják be egy Ubuntu rendszeren, Nvidia H100 GPU-val. Az eljárás során bemutatják a szükséges környezet előkészítését, például a Docker használatát és a kulcsfájlok kitöltését online kutatásokhoz.
Felmerülnek olyan izgalmas kérdések, mint hogy miként képes a modell valós idejű, ellenőrizhető kutatási válaszokat adni, illetve mire lehet használni egy ilyen ügynököt tudományos vagy üzleti felhasználás esetén. Az architektúra és a tanulási elvek mélyebb ismertetése közben szó esik arról is, hogy milyen algoritmusok és komponensek teszik lehetővé az eredmények átláthatóságát és megbízhatóságát.
Egy valós példán keresztül, a modell teljesítményét zöld technológiák összehasonlításán demonstrálják, külön figyelmet szentelve annak, hogyan gyűjt, szintetizál és idéz megfelelő forrásokat. Végül kiemelik azokat a sajátosságokat, amelyek alkalmassá teszik magas szintű, átlátható elemzések végrehajtására.
