Az első bevezető blokkban az új Muse Glimmer 30B modell kerül bemutatásra, amely a Meta Super Intelligence Labs első, nyílt súlyokkal rendelkező modellje. Kitérnek arra, hogy képes szövegek mellett képeket is értelmezni, és kifejezetten arra tervezték, hogy saját hardvereken, autonóm ügynökként működjön, több lépéses tervezéssel és eszközhasználattal.
Az egyik legérdekesebb téma a DFlash technológia, amely jelentősen felgyorsítja a lokális inferenciát, miközben nem áldozza fel a válaszok minőségét. A Drafter nevű apró modell előre megtippeli a következő tokeneket, így az alapprogram gyorsabban, de változatlan hitelességgel dolgozik.
A telepítési és működtetési folyamat lépéseit is végigveszik Ubuntu szerveren, bemutatva a hardverkövetelményeket, VRAM-fogyasztást és kompatibilitást, például az Nvidia A6000 GPU-ra vonatkozóan. Fontos szempont a GGUF formátum és a Llama.cpp frissítésének szükségessége is.
Gyakorlati példákon keresztül szemléltetik, hogyan különbözik a modell sebessége Drafter módban és anélkül, illetve hogyan válik ez a különbség mérhetővé. Szintén kitérnek az alkalmazások minőségére kódhibák javításában, összetettebb matematikai-fizikai példák megoldásában, valamint multimodális feladatokban.
Az OCR-teszt során arra keresik a választ, hogy milyen nyelveket és mennyire pontosan képes felismerni a modell a képeken található kézírásból. Ráadásként kreatív történetíró és fordító funkciókat is próbára tesznek, amelyek további kérdéseket vetnek fel a kvantált verziók teljesítményével és pontosságával kapcsolatban.
