A bemutatott videó izgalmas betekintést nyújt az IBM által fejlesztett Granite 4.2 modellek működésébe és képességeibe, különösképpen a 3 milliárd és a 8 milliárd paraméteres változatok összehasonlítása révén.
Az első részben megismerhetjük, hogyan zajlik a modellek letöltése, helyi telepítése és futtatása, akár egy átlagos felhasználó által is elérhető GPU-n. Elhangzik, hogy az IBM valóban nyíltan, Apache 2 licenccel tette közzé ezeket a modelleket, sőt a teljes tanítási eljárást és receptet is megosztják a közösséggel.
Érdekes kérdéseket vet fel a különböző méretű modellek képzési folyamata: csak a nagyobb, 8 milliárdos és 30 milliárdos verziók kapnak többlépcsős gyakorlati, feladat-alapú tréninget, így azok jobban boldogulnak összetett problémákkal, vagy például valós idejű eszközhasználattal. Felmerül, vajon mennyire lehet megbízni a kisebb modellek logikai képességeiben, és hogyan működnek különböző helyzetekben.
A tesztek során többféle, kihívást jelentő prompttal is próbára teszik mindkét modellt: például földrészek és országok nemzeti italainak többnyelvű HTML létrehozása, valamint életszerű döntéshozatali helyzetek, ahol egyszerre kell figyelembe venni biztonsági és gazdasági szempontokat – többek között egy szupermarketes ételvásárlási szimulációval.
Néhány meglepő vagy hiányos eredmény mellett végig foglalkoztató téma, hogy mennyire képesek ezek a modellek valóban követni a promptot, pontos, valós adatokat illeszteni, illetve érvelni vagy mérlegelni bonyolultabb élethelyzetekben is.
