A Kibri, a német nevet viselő Kolibri (kolibrimadár) új, nyílt mesterséges intelligencia modell az LF Alpha csapatától érkezett, amely eddig is komoly figyelmet kapott. A fejlesztés főként a német és angol nyelvre koncentrál, de 78 milliárd paraméterével csak egy töredéke aktív egy adott token feldolgozásakor, ezáltal hatékonyabbá téve a működést. Emellett kiemelkedő, akár egymillió tokenes kontextus kezelésére is alkalmas, Apache 2 licenc alatt szabadon elérhető és helyi gépen is futtatható, bár komoly grafikus teljesítményt igényel.
A videó demonstrációkban a modell különféle kreatív, összetett és komplex feladatokat hajt végre: példaként Blender Python szkriptet generál, amely komplett trambulinparkot szimulál 3D-ben, illetve HTML-canvas és JavaScript segítségével valósághű döner kebab animációt alkot, lángokkal, füsttel, hőhullámokkal, mindössze egyetlen önálló fájlban bármiféle könyvtári vagy képi segítség nélkül.
Szóba kerül Kibri előzménye, az Origin, amely sosem jelent meg nyilvánosan, de kísérleti tréning pipeline-ként szolgált. A fejlesztési folyamat során a paraméterszám jelentősen nőtt, miközben az aktív paraméterek száma csak minimálisan változott, az adatmennyiség triplázódott, és nőtt a szakértőparaméterek (experts) száma, így a hosszú kontextusok kezelése hatékony maradt.
Fókuszba kerül a modell írott szövegek értelmezése és nyelvi kreativitása is egy filozófiai kihívás példáján keresztül, amely Hegel gondolataira épülve nehéz fordítási, értelmezési és stilisztikai feladatokat kombinál német és angol nyelven. A modell teljesítményét ilyen többrétegű nyelvi feladványokkal tesztelik, hangsúlyozva annak jelentőségét, hogy mennyire képes követni a komplex szabályokat és jelentésárnyalatokat.
A fejlesztés módszertana is bemutatásra kerül, ahol a „modell tréning mint kód” paradigmát követve több körös kísérletezéssel, számos kisebb tréning körrel iterálják a folyamatokat, mielőtt a nagy költségű végleges modellt elkészítik. Ez a megközelítés hangsúlyozza az aprólékos finomhangolást és a datacentrikus fejlesztési lépéseket.
