A
A
  • Angol
  • Magyar
  • 22 perc

Mistral Magistral: okos AI-modell helyi tesztelése és alkalmazása

A videó bemutatja a Mistral új, Magistral nevű okfejtő AI-modelljének helyi telepítését, tesztelését és főbb képességeit valós példákon keresztül.

A Magistral, a Mistral első okfejtő mesterségesintelligencia-modellje, mostantól elérhető helyi telepítésre is. Ez az eszköz képes lépésről lépésre érvelni, miközben átlátható módon követi le a problémamegoldás folyamatát.

A videó során bemutatásra kerül, hogyan lehet a Magistralt letölteni és futtatni VLLM segítségével, valamint részletesen ismerteti, milyen hardverigények merülnek fel a telepítés során. Bemutatásra kerül a megfelelő VRAM-szükséglet, és a konfigurációs beállítások is szóba kerülnek.

A szerző különböző tesztfeladatokon keresztül vizsgálja a modell gondolkodását: komplex üzleti döntéseket modellez, NPV (nettó jelenérték) számításokat futtat, valamint többnyelvű, technikai és gazdasági tartalmak megértését ellenőrzi. Felmerülnek olyan kérdések, hogy képes-e a mesterséges intelligencia kezelni összetett döntési helyzeteket, mennyire transzparens a következtetéseiben, illetve mennyire bánik jól bizonytalanságokkal, külső korlátokkal vagy akár etikai szempontokkal.

A modell különlegességét az adja, hogy natívan támogat több nyelvet, és professzionális területeken is hasznosítható, például jogi, pénzügyi, egészségügyi vagy szoftverfejlesztési szegmensekben. Emellett a kreatív történetmesélés vagy kódgenerálás is a repertoár része, amely során külön figyelmet fordítanak arra, mennyire képes a modell követni a korábban lefektetett mintákat, illetve szabályokat a programozásban.