Az Egyesült Államokból induló új trend szerint egyre több cég jelentet meg nyílt forráskódú, szabadon hozzáférhető mesterséges intelligencia modelleket. Ebben az ismeretterjesztő videóban az Acri AI által fejlesztett Trinity Mini modellt telepítik helyben, amely a Sparse Mixture of Experts (SMoE) modellek egy új generációját képviseli. A sorozatban több változat is elérhető, a Trinity Nano-tól a fejlesztés alatt álló, még nagyobb modellekig.
Megismerhetjük a Trinity Mini működését, főbb architekturális megoldásait és azt, hogyan lehet egy Ubuntu rendszeren, Nvidia H100 GPU-val futtatni, minden lépést részletesen bemutatva. Különféle eszközök – VLM, deep CX parser és Hermes – működésével ismerkedhetünk meg, ezek mind a modell használatát segítik kódolási és egyéb feladatokhoz.
A szerző kitér az AFM (AF Mixture of Expert) architektúra újdonságaira: például a grouped query attention technikára, a QK norm-ra és a különleges rétegstruktúrákra. Társadalmi és vállalati szempontból is fontosnak találja a modell szuverenitását és a teljes mértékben amerikai adatkezelést, ami egyedülálló lehetőségeket kínál fejlesztők és üzleti felhasználók számára.
A videó során a Trinity Minivel végrehajtott valós próbákat láthatunk. Megvizsgálják a modell programkód-generálási képességeit – például egy rakétát animáló p5.js HTML oldal elkészítését –, valamint a gyakorlati nyelvi és fordítási teszteket is. Felmerül a kérdés, hogy mennyire képes ez a nyílt modell felvenni a versenyt más, régiókból származó nyílt forráskódú AI megoldásokkal.
Az anyag rávilágít azokra a kihívásokra, amelyekkel a fejlesztők szembesülhetnek, legyen szó a helyi telepítésről, a rendszer erőforrásairól, vagy épp a különböző nyelvi képességek és kreatív feladatok során mutatkozó hiányosságokról. Az érdekes kérdések között szerepel: lehet-e valóban minden ország számára önálló és szabad AI modelleket építeni, illetve meddig fejleszthető tovább a jelenlegi architektúra?
