A
A
Clover 35B-A3B Preview: A Diffusion Model on Top of Qwen Locally

Clover 35B-A3B Preview: A Diffusion Model on Top of Qwen Locally

Lejátszás
  • Angol
  • Magyar
  • 9 perc

Clover 35B-A3B: Az új diffúziós nyelvi modell képességei és tesztelése helyben

A Clover 35B-A3B diffúziós nyelvi modell működését, képességeit és valós példákon keresztüli teljesítményét mutatja be a videó.

A Clover 35B-A3B nevű nyelvi modellt vizsgálja ez a videó, amely egy diffúziós alapú modell. Különlegessége, hogy nem szóként generálja a választ, hanem egy blokkban egyszerre, majd lépteti ezt a blokkot, így a feldolgozás folyamata eltér a megszokott nyelvi modellekétől.

Részletesen bemutatásra kerül a modell működése: 35 milliárd paraméterrel dolgozik, de egyszerre csak 3 milliárd aktív, 128 ezres kontextusablakával pedig hosszú szövegek kezelésére is alkalmas. A szerző végigveszi, hogyan teszteli ezt a modellt helyi gépen, és hogyan kapcsolja össze egy Hermes nevű ügynökkel. Egy valós példa alapján, egy Docker-alapú éttermi szoftverben jelentkező hibát próbál megoldatni vele, amely a beszerzett és eladott hús mennyiségének ellentmondására mutat rá.

Az alkalmazások közé tartozik még HTML kódegenerálás rajzolóvásznakkal, valamint egy vegyes nyelvi teszt, ahol egy állatos-dokumentum csatorna nevét kell kitalálnia 80+ nyelven. Témaként előkerül a modell eredeti alapja, a Qwen, amelynek erős multilingvális képességeit összehasonlítják az új verzióval.

A nézők betekintést nyerhetnek a tesztelt logikai problémák, mint például a Zebra-logikai feladvány megoldásának keresésébe, valamint abba, hogy mennyire képes a Clover modell az élmezőnybe tartozó versenytársakhoz képest kiemelkedő teljesítményt nyújtani benchmarkokban és gyakorlati példákban.