Az új Jev nevű mesterséges intelligencia modellt a Typesafe AI mutatta be, amelynek társalapítója a ChatGPT egyik feltalálója. A Jev a „system one” modellek közé tartozik, amelyek nem hagyományos nagy nyelvi modellek, hanem adott kérdésekre gyorsan és strukturáltan, JSON formátumban válaszolnak, nem pedig szöveges párbeszédben.
Ez a modell újfajta tanítási módszert használ, az úgynevezett „reinforcement learning for calibrated decisions” (RLCD) eljárást. Az eljárás lényege, hogy a Jev kidolgozott válaszaihoz valószínűséget is rendel, amely megmutatja, mennyire biztos a döntésben. Lehetőség van többféle válaszlehetőség – például többválasztós kérdések –, súlyozott értékelések (score) vagy egyszerű igen/nem (null) típusú kérdések kezelésére is.
Az egyik fő előnye, hogy hihetetlenül gyors és olcsó: a bemeneti tokenek ára töredéke a jelenleg népszerű modellek árának, az output pedig ingyenes. Ezáltal tömegesen és párhuzamosan is lehet lekérdezéseket végezni kis költséggel és késleltetéssel. Különösen automatizált rendszerek számára lehet ideális választás.
A videó példákon keresztül mutatja be, hogyan működik a Jev Python szkripttel interaktálva, és kiemeli azokat a helyzeteket, ahol az új modell kiemelkedően teljesít, illetve ahol még korlátozottak a képességei. Felveti azt a kérdést is, hogy a valószínűségi, strukturált válaszok mennyire hasznosak lehetnek a mindennapi alkalmazások során, illetve hol ütközhetnek a hagyományos LLM-ekhez képest nehézségekbe.
