Az egyik legújabb fejlesztés, a Microsoft Phi-4 reasoning modell új fejezetet nyit a mesterséges intelligencia terén, hiszen különlegessége, hogy képes logikai gondolkodásra, úgynevezett „chain of thought” eljárással. Ez azt jelenti, hogy a kérdésekre adott válaszok előtt ténylegesen végiggondolja a problémát, és lépésről lépésre következtetéseket von le.
Az anyag betekintést kínál abba, hogyan futtatható ez az LLM viszonylag szerény hardvereken is: akár egy Raspberry Pi-ról vagy átlagos laptopról is használható, valamint erősebb, RTX sorozatú GPU-val felszerelt gépeken is próbára tehető. Megismerhetjük, hogyan telepíthető különböző rendszerekre, és milyen sebességgel dolgozik eltérő hardverkonfigurációk mellett.
Felmerülnek olyan izgalmas kérdések, hogy tényleg helyesen oldja-e meg a trükkösebb logikai feladványokat, képes-e helyben választ adni klasszikusan félrevezető kérdésekre, vagy hogyan kezeli például a szövegösszegzéseket, újrafogalmazásokat és kisebb programozási feladatokat.
A videó érinti azt is, hogy a „gondolkodó” modellek miben mások, mint a hagyományosak. Kitérnek arra, hogy előfordulhat, a bonyolultabb problémák helyett éppen egy egyszerűbb kérdésnél fut tévútra, ha a láncolt gondolkodás nem indokolt. Külön hangsúlyt kap, hogy a felhasználó saját gépén, internetelérés nélkül futtathat erős, logikus szöveggeneráló modellt.
