A film egy 46 milliárd paraméteres, szakértői modellekből álló mesterséges intelligencia, a Klear-46B MoE telepítését és gyakorlati tesztelését mutatja be. Az érdeklődők megismerhetik, hogyan működik egy ilyen, részlegesen aktivált nagy nyelvi modell, amely csupán 2,5 milliárd paramétert használ fel minden egyes bemenetnél, így jelentősen csökkentve a hardverigényt.
Az előadó betekintést nyújt a modell architektúrájába és tanítási folyamatába, érdekességekkel szolgál a tokenizációról, a paraméterek működéséről és a teljesítménytesztek előkészítéséről. Felvetődik a kérdés, hogy egy ekkora modell hogyan képes gazdaságosan futni akár egyetlen GPU-n, és mennyire közelíthető meg vele a sűrű nagy modellek minősége.
Végigkövethetjük a gyakorlati telepítési lépéseket, beleértve a szükséges szoftverek és hardverek használatát, majd különböző képességek – például programkód generálása, kreatív szövegalkotás és többnyelvűség – kerülnek terítékre. Felmerül annak vizsgálata, hogy a modell mennyire pontosan fordít, vagy mennyire képes stratégiai gondolkodásra komplex üzleti helyzetekben.
Érdekes részletek merülnek fel a skálázhatóságról, a költséghatékonyságról, valamint a döntéstudomány és a narratív készségek összefonódásáról is – mindezt anélkül, hogy kifejtésre kerülne a végső következtetés vagy a konkrét eredmények. Az alkotó a nézőket is bevonja a tesztelésbe, például fordítási példák értékelésével.
