A bemutatott felvétel az LFM 2.5 család újdonságát, az 1,2 milliárd paraméteres hibrid AI modellt teszteli, amelyet kifejezetten laptopokra és egyéb végfelhasználói eszközökre terveztek. A Liquid AI által fejlesztett nyelvi modellt egyszerűen telepítik Ubuntu rendszeren, és már az is kiderül, hogy akár CPU-n is komolyan használható.
Az architektúra bemutatásánál hangsúly kerül arra, hogy a modell az alsó 10 rétegnél a megszokott transzformer blokkok helyett dupla-gate-elt, konvolúciós blokkokat alkalmaz. Ezek a rétegek gyorsabb működést és alacsonyabb memóriaigényt tesznek lehetővé, míg a felső rétegek megőrzik a hagyományos figyelmi mechanizmusokat.
Felmerül az a kérdés is, hogy mennyire teljesít pontosan a modell a különböző tesztelési helyzetekben. Egyszerű nyelvi felismerési és számolási feladatokat, valamint összetettebb, több lépéses eszközhasználathoz kapcsolódó teszteket is alkalmaznak. Az eredmények vegyesek, felvetve, hol lehetnek a határai, és mely területeken erős a modell, például a funkcióhívásoknál és a helyi eszközön történő gyors futtatásban.
A bemutató során kitérnek olyan gyakorlati kérdésekre, mint VRAM-felhasználás, CPU vs. GPU teljesítmény, valamint a modellel futtatható kódrészletek. Ezáltal nemcsak az architektúrát, hanem a gyakorlati használhatóságot is fókuszba helyezik a nézők számára.
