A
A
  • Angol
  • Magyar
  • 9 perc

Új helyi AI modell többnyelvűségi és agent teszten

Az LFM2.5-8B-A1B modellt próbálják ki a helyi rendszeren, fókuszban a többnyelvűség és az agent típusú feladatvégzés gyakorlati teljesítménye.

Ebben a videóban egy újabb Liquid AI modellt vizsgálnak, amely az LFM2.5-8B-A1B nevet viseli. A műsorvezető összehasonlítja a korábbi Liquid AI modellekkel, és arról beszél, hogy ezek eddig nem hozták a várt eredményeket, de ez a kiadás ígéretesebbnek tűnik.

Technikai részletek is elhangzanak: a modellt egy modern Ubuntu rendszeren, Nvidia RTX 6000 GPU-n installálják, a VLLM keretrendszert használva. A videó során megismerhetjük a modell architektúrájának különlegességeit, például a 24 réteges szerkezetet és a bővített szókincset, amely szélesebb körű többnyelvű támogatást céloz.

Kiemelt figyelmet kap az ‘agentic workflow’ és annak tesztelése a Hermes agent segítségével. Egy Python projekt átvizsgálását és technikai riport elkészítését várják a modelltől, miközben szóba kerülnek a felmerülő technikai nehézségek is.

Megvizsgálják a többnyelvűséget: a fontosabb, támogatott nyelvek esetén elfogadható teljesítményt nyújt a modell, viszont a regionális nyelveknél már gyengélkedik. Felvetődik a kérdés, vajon elégséges-e ez a teljesítmény a mai LLM modellek mezőnyében, különös tekintettel a piacon található egyéb alternatívákhoz képest.