Ebben a bemutatóban a Calibri legújabb, 2.1-es verziója kerül fókuszba, amely lehetővé teszi nagy, nyílt forráskódú nyelvi modellek helyi futtatását egyetlen GPU-n. A videó ismerteti, miként lehet különböző mesterséges intelligencia modelleket – például DeepSeek, Qwen vagy Flint – telepíteni, futtatni és kezelni a Calibri eszközzel egy átlagos, jól felszerelt gépen.
Szemléletesen bemutatásra kerül, hogyan osztja el a Calibri a modellt a GPU, RAM és háttértár között, ezzel is optimalizálva a teljesítményt és hatékonyságot. Az új felhasználói felületet is kiemelik, amely valós időben képes követni az ‘expertek’ működését, így átláthatóvá válnak a modell részfolyamatai.
A tesztek részletesen megmutatják, hogyan lehet különféle modelleket importálni és futtatni – egyidejűleg akár több nagy modellt is. Külön érdekesség, ahogyan a rendszer valós időben monitorozható statisztikákat és hőtérképeket kínál, amelyek megmutatják az egyes modellek erőforrás-használatát és működési állapotát.
A videó érinti a felhasználói élményt, a telepítés és az importálás lépéseit, valamint praktikus tanácsokat is ad arra, hogyan lehet egy adott hardveres környezetben a legtöbbet kihozni ezekből a fejlett AI modellekből.
