A
A
  • Angol
  • Magyar
  • 9 perc

Helyi nyelvi modellekkel válthatók ki a felhőalapú AI kódszerkesztők?

A videóban összehasonlításra kerül, mire képes egy helyi nagy nyelvi modell az OpenCode-dal, ha programírásról van szó, és milyen kompromisszumokat jelent ez a felhőalapú megoldásokhoz képest.

Ebben az anyagban a szerző azt vizsgálja, hogy lehetséges-e helyettesíteni a népszerű, felhőalapú AI kódszerkesztőket, mint a Claude Code vagy a Codex, egy helyben futtatott, nyílt forráskódú megoldással — konkrétan az OpenCode nevű ügynökkel, egy helyi nagy nyelvi modellel párosítva.

A kísérlet során több különböző hardveren, eltérő paraméterszámú és kvantizációs szintű modelleket próbál ki (például Quen 3.635 milliárd, 27 milliárd és Q8 verziók), és ezek teljesítményét, valamint kódminőségét elemzi, összehasonlítva a GPT 5.5-tel működő online Codex-szel.

A program célja egy saját, új szkriptnyelv (New Scrippy) értelmezőjének megírása, amely több programozási képességet tesztel: változók kezelése, függvények, feltételes elágazások, matematikai műveletek. Az elkészült interpretált kódot ChatGPT-vel is leellenőrizteti, ami több hibát, például memóriaszivárgást és logikai hiányosságokat is feltár.

Kiemeli a helyi LLM-ek lassúságát és a generált kód minőségi problémáit, miközben érdekes megfigyelés, hogy a magasabb kvantizációs szintű modellek (Q8) szofisztikáltabb visszakérdezéseket tesznek fel, és jobb eredményt nyújtanak. Ugyanakkor itt is akadnak hiányosságok, és felvetődik a kérdés: mennyire lehet helyettük valós fejlesztői munkában helyi modelleket használni?