Milyen különbségek vannak az „open weight” modellek és az „open-source” modellek között? A videó ennek a kérdésnek jár utána, kitérve arra, pontosan mit jelent, ha egy mesterséges intelligencia modell „open weight” – vagyis a tanult súlyait szabadon letölthetjük, futtathatjuk, illetve akár tovább is finomhangolhatjuk, de a tanítási adatokat és forráskódot nem kapjuk meg.
A bemutató során részletesen megismerjük, hogyan lehet több mint 150 ilyen nyitott súlyú modellt kipróbálni, a Klein harness segítségével. Szó esik arról, hogyan működik a harness, és miért nélkülözhetetlen, ha bonyolultabb, valóban produktív AI-megoldásokat szeretnénk kipróbálni vagy készíteni. Felmerül a kérdés, hogy önmagában a súlyok megosztása mennyiben ad szabadságot a felhasználóknak, miközben a zárt rendszerek (mint az OpenAI vagy Anthropic) csak API-hozzáférést kínálnak.
Különös hangsúlyt kap, hogyan lehet ezeket a modelleket tesztelni anélkül, hogy kizárólag a szabványos benchmarkok eredményeire támaszkodnánk, és miként lehet akár saját gépen, akár felhőben futtatni vagy bérelni ezeket az AI-modelleket. A praktikus demó során bemutatásra kerül, hogyan lehet a Klein rendszerével egyszerűen és költséghatékonyan használni ezeket a mesterséges intelligencia modelleket, miközben a jelenlegi előfizetési árakra és licencelési kérdésekre is kitér a videó.
Felmerülnek licenckorlátok, adatvédelmi és testreszabhatósági kérdések, valamint az is, hogy mennyiben nevezhető egy modell valóban „open-source”-nak, és milyen buktatók vagy félreértések lehetnek ezen a területen. Végül szemlélteti a harness (azaz AI-keretrendszer) szerepét, például fejlesztői vagy automatikus prompt-újraírási képességeit, melyekkel az AI gyakorlatban jól integrálható fejlesztői környezetekbe.
