Az utóbbi hónapokban Andrej Karpathy két projektje, az LLM Wiki és az AutoResearch, széles körben ismertté vált. Ezek a rendszerek egyéni tudásbázist építenek és képesek önálló kutatást végezni, de kevesen veszik észre, hogy mindkettő azonos gondolkodásmódra épül.
Karpathy szerint az eredményes AI-munka három alapvető elemre támaszkodik: a pontos specifikációra, az automatikus ellenőrzésre (verifier), és egy strukturált tudásbázisra. A specifikáció egy világos, részletes leírás arról, hogy pontosan mit várunk el a modelltől — hasonlóan egy részletes recepthez, ahol minden hozzávaló, mennyiség és lépés rögzítve van.
Egy érdekes kérdés körvonalazódik: miként lehet a folyamat elején megfogalmazott elvárásokat és a későbbi ellenőrzéseket úgy összekapcsolni, hogy az AI-eredmények következetesek és megbízhatók legyenek? Felmerül, hogy a munkafolyamat szűk keresztmetszete gyakran nem maga a nyelvi modell, hanem a pontatlan prompt, amelyet a felhasználók beírnak. Ez vezet oda, hogy különösen fontos a pontos specifikáció kidolgozása.
A videó bemutatja, hogyan lehet automatizált ellenőrző lépést (verifier) beépíteni az AI-munkafolyamatokba. A verifier lehet például egy kód, amely automatikusan elemzi a kimenetet, és eldönti, megfelel-e az előzetesen lefektetett követelményeknek. Ez a lépés választ ad arra a kihívásra, hogyan csökkentjük az emberi felügyelet szükségességét az automatizált rendszerekben.
A harmadik építőelem, a tudásbázis, egy strukturált hely, ahol az AI működéséből származó tanulságok, tapasztalatok gyűlnek össze. Az ilyen adatbázisnak nemcsak információgyűjtő, hanem fejlődési szerepe is van: a rendszer minden futtatás után tanul, és a korábbi tapasztalatokat beépíti a jövőbeli feladatokba. Ezt a felvetést vizsgálja meg részletesebben Karpathy két projektjén keresztül: hogyan járulhatnak hozzá a strukturált tudásbázisok a gépi tanulás megbízhatóságához és fejlődéséhez?
