Az LM Studio Bionic egy új fejlesztés, amely lehetővé teszi, hogy nagy nyelvi modelleket (LLM) teljesen helyileg, Windows rendszeren futtassunk, azaz minden számítás a saját számítógépünkön történik, és semmilyen adat nem kerül a felhőbe. A bemutató során részletesen ismertetjük, hogyan lehet letölteni és telepíteni az LM Studio Bionic alkalmazást, valamint hogyan lehet kiválasztani és letölteni különböző modelleket, figyelembe véve azok méretét és a grafikus kártya VRAM kapacitását.
Kiemelt figyelem irányul a Bionic beépített ún. agentikus képességeire, amelyek lehetővé teszik helyi szintű kódolási és fájlműveletek végrehajtását a projektmappák kezeléséhez és automatizált feladatokhoz. Többek között bemutatjuk, hogyan lehet C nyelvű programokat generáltatni, lefordítani és futtatni, illetve hogyan tárhatók fel különböző komplexitású feladatok megoldási módjai a választott modellek képességei alapján.
Elemzésre kerülnek a hardveres követelmények is: mennyire számít a GPU minősége és VRAM mennyisége, illetve hogyan befolyásolja mindez a futtatható modellek méretét és teljesítményét. Az előadó kitér arra is, hogy bizonyos nagyobb modellek esetén előfordulhatnak hibák, például memóriaszivárgás vagy programhibák, amikor összetettebb feladatokat kérünk a modelltől. Felmerül a kérdés, hogy meddig lehet eljutni helyi modellek segítségével, és hol húzódnak a jelenlegi technológia korlátai.
