Az Inkling nevű, a Thinking Machines által fejlesztett mesterséges intelligencia modellt, annak felépítését, teljesítménymutatóit és valós tesztjeit vizsgálja ez az anyag. A szerző külön kiemeli, hogy az utóbbi időben a legerősebb, nyílt súlyú modellek főként Kínából származnak, viszont az Inkling az első amerikai open weights versenyző, amely jelentős kihívót jelent ebben a mezőnyben.
Az elhangzottak szerint az Inkling 1 billió paraméterrel rendelkezik, 41 milliárd aktív, és az Apache 2 licenc alatt érhető el. Bemutatásra kerül az architektúra, amely 66 rétegű, kizárólag dekóderes Transformer modellt jelent, sparse mixture of experts felépítéssel. Minden token 6 a 256 szakértőből, plusz 2 megosztott szakértőhöz kerül, így a feldolgozás rendkívül rugalmas és komplex. Külön érdekesség, hogy a multimodális képességek – szöveg, kép, hang – natívan jelen vannak, és minden bemenet egy közös reprezentációs térbe vetül.
A műsorvezető szemléletes tesztekkel mutatja be a modell képességeit. Kiemelt egy kreatív feladatot, amelyben egy többszínű, csavarodó, vizuálisan igényes csúszdaparkjelenet HTML/CSS kódját kellett generálnia a modellnek, bonyolult térbeli logikát igénylő megoldásokkal. További próbák között szerepeltek többnyelvű kódírási feladatok, illetve valós, összetett élethelyzetekben való tanácsadás, amelyek során a modellnek magas szintű, többlépcsős kockázatértékelést kellett végeznie erősen korlátozott információk és feszültségek mellett.
A beszámolóban szó esik a benchmarkokról is, ahol az Inkling több kategóriában felülmúlja a korábbi amerikai modelleket (például a Demotron 3 Ultra), bár néhány területen, főleg a multimodális és ügynöki tesztekben, némileg elmarad a kínai csúcsmodelektől (GLM 5.2, Kim K2.6). A szerző kiemeli továbbá a modell fejlesztésének technikai részleteit is, például a nagy léptékű, aszinkron megerősítéses tanulást, amelynek jelentősége, hogy nagyságrendi előrelépést hozott a teljesítményben.
A témák között végig hangsúlyos marad, hogy mit jelent az új generációs nyílt modellek megjelenése, milyen következő lépcsőkre lehet számítani, és hogy az átlátható, jól dokumentált benchmarkok mennyire fontosak a tartós fejlődéshez az MI-szektorban.
