A bemutatott videó fókuszában a MiniCPM-V 4.7 1B áll, egy rendkívül kompakt, 1 milliárd paraméteres mesterséges intelligencia modell, amely képes képek, többszörös képek és videók értelmezésére. A szerző kétféle módszert javasol a beüzemelésére: az Ollama és a llama.cpp alkalmazásával, így könnyen tesztelhető és akár edge eszközökön is futtatható.
Az összehasonlítás során érdekes kérdések merülnek fel a modell mérete és teljesítménye kapcsán. Mennyire lehet gyors és hatékony egy ilyen kis AI modell különböző képfeldolgozási vagy szövegfelismerési feladatoknál? Érdekes, hogy a VRAM fogyasztás mindössze 5 GB körül marad, és még tovább is csökkenthető, így kifejezetten előnyös lehet kisebb, gyengébb gépeken vagy mobil eszközökön.
Az AI rendszer változatos teszteken esik át: képes-e felismerni a hagyományos órák mutatóit egy analóg képen? Hogyan birkózik meg programozói feladattal, ha egy óra képét látja? Különböző országokból származó ruhadarabok és kulturális jegyek elemzése is előkerül, például az indiai és pakisztáni viselet eltéréseinek vizsgálata.
Lenyűgöző kérdés, hogy mennyire kezeli a kézírást vagy a több nyelvre lefordított szöveget, valamint mik a határai a matematikai problémák vagy kreatív feladatok esetén. Kiderül, hol ad pontos válaszokat, és hol hibázik nagyot, például hosszú, összetett nyelvi teszteknél vagy kreatív képleírásoknál.
A videó végig arra keresi a választ, mennyire használható ez a kisméretű modell a mindennapi gyakorlatban: mikor érdemes inkább egyszerűbb OCR, képszövegező vagy offline kódgeneráló eszközként tekinteni rá, és mikor érdemes inkább a nagyobb, komplexebb modelleket választani.
