Az új llama.cpp webes felület most már CPU-n is futtatható, így azok számára is elérhetővé vált, akik eddig technikai akadályokat láttak a helyi nagy nyelvi modellek használatában. Egy gördülékeny telepítési folyamat során bárki beállíthatja a rendszert Windows, Mac vagy Linux operációs rendszeren, akár GPU nélkül is.
Felhasználóbarát webes környezete révén adatainkkal, PDF-ekkel vagy képekkel is kommunikálhatunk, és számos újszerű funkcióval bővült a chatélmény, például a saját szövegállományokkal való interakció. Bemutatásra kerülnek a módok, ahogyan feltölthetünk különböző állományokat, szabadon cserélgethetjük a modelleket, és akár API-kulcsot is beállíthatunk fejlesztői célokra.
Részletesen megismerhető, hogyan zajlik a telepítés Nyx csomagkezelő használatával, továbbá, hogy milyen fejlett beállítási lehetőségek várnak ránk a felületen. A bemutató izgalmas kérdéseket vet fel a helyben futtatható AI-modellek és a felhasználói adatbiztonság, rugalmasság témáiban is.
Az érintett témák között szerepelnek a különböző platformok közötti kompatibilitás, az interaktív chatelés különféle formái, és hogy ez az eszköz milyen alternatívát jelenthet az eddig használt rendszerekhez képest.
