Egy jelentős frissítés érkezett a Google nyílt multimodális családjába tartozó Gemma 4 modellhez, amelynek célja, hogy még fejlettebb élményt nyújtson fejlesztőknek és felhasználóknak egyaránt. A videóban bemutatásra kerül, mely öt ponton javult a rendszer, köztük a tool calling funkció, valamint a képértelmezés részletességét szabályozó vision token budget.
Különös hangsúlyt kap a tool calling hibájának kijavítása, hiszen korábban a strukturált parancsok kezelése nehézséget okozott a hosszú szövegkörnyezetekben. A bemutatott tesztek élőben, Nvidia H100 (Hopper architektúra) GPU-n futnak Ubuntu környezetben, vLLM szerverrel, így a nézők első kézből láthatják a legfrissebb fejlesztéseket működés közben.
A vision token budget működése is részletesen ismertetésre kerül, mely lehetővé teszi a felhasználónak, hogy pontosan beállítsa, mennyi információt nyer ki egy képből. Ez különösen érdekes OCR vagy finom szövegek olvasása esetén, de a gyorsabb, költséghatékonyabb működés érdekében kisebb költségkeretet is választhatunk.
Az újítások között megtalálható a Flash Attention 4 támogatás is, azonban ez kizárólag Hopper architektúrás GPU-kon érhető el, ami bizonyos felhasználók számára korlát lehet. A videó vizsgálatot folytat arra vonatkozóan is, hogy mennyire állják meg a helyüket a Google által közölt benchmark eredmények a valós használat során.
Több érdekes kérdés is felmerül: hogyan változtatja meg a hibajavítás a valódi alkalmazásokat, milyen kompromisszumot kell kötni különböző hardverek használatánál, illetve mennyire érezhető javulás tapasztalható az üzemeltetés során? Az elemzett fejlesztések igazi mélységét a tesztek világítják meg, miközben a néző betekintést kap a Google belső fejlesztési folyamataiba.
