A
A
  • Angol
  • Magyar
  • 10 perc

Hierra: Újragondolt RAG rendszer a tudásgráfok erejével

Bemutatkozik a Hierra, egy újragondolt RAG rendszer, amely hierarchikus tudásgráffal kínál mélyebb szövegértelmezést, és szemlélteti, hogyan alkalmazható egy regény hosszúságú szövegen az üzleti adatok okos kiaknázása érdekében.

Sok vállalat számára az üzleti adatokból való értékkinyerés a mesterséges intelligencia terén kulcskérdéssé vált. Napjainkban a legelterjedtebb és legtöbbek számára reálisan megvalósítható megoldás az adathozzáférésen alapuló szövegalkotás, vagyis a Retrieval Augmented Generation (RAG), mely révén a vállalati adatokat valóban értelmezve képesek AI modellekkel üzleti értéket teremteni.

Az új Hierra nevű platform ezt a szemléletet emeli tovább: hierarchikus tudásgráfokat alkalmaz, hogy a nagyszabású modellek számára strukturáltabb és összefüggőbb kontextust biztosítson. Az eljárás három szinten – lokális, átvezető híd és globális – gyűjti össze az információkat, így igyekszik összefüggéseket teremteni a részletek és az átfogó témák között.

A bemutató során egy Ubuntu rendszerre kerül telepítésre a Hierra, és egy klasszikus regény – a Moby Dick – teljes szövegén keresztül szemléltetik, miként képes a rendszer egy komplex kérdésre a szöveg egészét átvizsgálni és a legrelevánsabb válaszokat összefoglalni. A bemutató kitér az API-alapú működés előnyeire és hátrányaira is, különösen a költségek és a sebesség korlátait illetően.

Érdekes kérdéseket vet fel az, hogy mennyire képes a rendszer a részletek és a nagyobb összefüggések közötti hidakat megtalálni, és milyen mértékben javítható a pontosság, ha a kontextus ilyen többrétegűen kerül bemutatásra. A videó azt is érinti, milyen további fejlesztési lehetőségek állhatnak rendelkezésre a platform előtt, például helyi modellek támogatása vagy a költséghatékonyság növelése terén.