A
A
  • Angol
  • Magyar
  • 12 perc

Laguna XS.2: Új AI modell tesztje és telepítési tapasztalatai helyben

A videóban a Poolside új Laguna XS.2 AI modelljének helyi telepítését és valós körülmények közötti kódgenerálási tesztjét láthatjuk, kitérve a telepítés kihívásaira és a modell képességeire.

Az utóbbi időben egy új szereplő, a Poolside, került az AI piac reflektorfényébe két friss modelljével, amelyek közül a Laguna XS.2 kapja most a fókuszt. Ez a modell, amely 33 milliárd paraméterrel rendelkezik, szabadon felhasználható és módosítható, köszönhetően az Apache 2 licencnek. A fejlesztés kifejezetten az ügynöki jellegű programgenerálásra lett optimalizálva, hogy képes legyen önállóan, több lépésen keresztül gondolkodni és feladatokat végrehajtani.

A bemutató során a készítő saját gépén, helyben telepíti és teszteli a Laguna XS.2-t, miközben kihagyja a hivatalos benchmarkokat, hogy valós körülmények között próbálja ki a modellt. A folyamat során olyan technikai részletek is előkerülnek, mint a VLLM keretrendszerrel történő integráció, a különböző GPU-k használata, illetve az installálás nehézségei és a szükséges idő- és erőforrásigény.

A telepítést követően különféle programozási feladatokat ad a modellnek, például egy valós idejű kollaboratív kódszerkesztőt, egy kanban táblát, illetve homokszimulációt. Néhány feladatnál a modell nem tud teljesen működő megoldást adni, más esetekben azonban egészen jó eredmények születnek. A bemutatott tesztek során szóba kerülnek más AI modellek is, amelyekkel a Laguna XS.2-t összehasonlítják.

Végig izgalmas kérdések merülnek fel: mennyire képes egy új, nyílt, súlyú modell valódi szoftvermérnöki feladatokra? Hol vannak a határai a mostani verziónak, és milyen irányban fejlődhet tovább? Megéri-e önállóan telepíteni ilyen jellegű modelleket, vagy érdemesebb a felhőszolgáltatásokra hagyatkozni?