Egy új, nagy nyelvi modellt, a Kimmi-Dev-et mutatja be a videó, amelyet a Moonshot fejlesztett ki szoftverhibák felderítésére és javítására. Az alkotó bemutatja, hogyan lehet az akár 72 milliárd paraméterből álló modellt lokálisan, kvantált változatban telepíteni és tesztelni.
A modell felépítésében két fő komponens található: a hibaelhárító és a tesztíró egység, amelyek szakaszosan lokalizálják a hibákat és módosítják a kódot. A tréning során a Kimmi-Dev GitHub hibajegyekből és commitokból tanult, ráadásul a fejlesztők nem csak a kódszabványokat figyelték, hanem a Docker eredmények alapján értékelték a teljesítményt is.
Érdekes kérdések merülnek fel, például hogy mennyire hatékonyan azonosítja ez a modell a versenyhelyzeteket vagy a memória-szivárgást különböző kódrészletekben, illetve képes-e felismerni komplex, nehezen reprodukálható hibákat – ahogyan azt az OAuth vagy a JWT biztonsági problémáknál láthatjuk.
A teszteken keresztül a néző betekintést kap abba, milyen folyamatok játszódnak le a modell „gondolkodásában”, és hogyan értékeli a különböző javítási lehetőségeket. A videóban említett eszközök, telepítési lépések és gyakorlati példák révén az is látható, mennyire könnyű vagy nehéz ezt a nagyméretű modellt saját gépen futtatni, és mit igényel ehhez a hardver.
