Az OpenAI meglepte a technológiai világot az új, saját fejlesztésű AI chipjével, a Jalapeñóval. Eredetileg mindenki azt várta, hogy egy első generációs chip nem lesz versenyképes, azonban az első tesztek szerint teljesítménymutatókban felülmúlja az iparág vezető megoldásait.
Ez a chip nem általános célú GPU, hanem egy alkalmazás-specifikus integrált áramkör, amelyet nagy nyelvi modellek (LLM-ek) inferenciájára optimalizáltak. A kiemelten fontos mérőszám itt a teljesítmény wattfelhasználásra vetítve, vagyis hogy mennyi hasznos AI-munkát képes elvégezni adott energiafelhasználással – ez jelenleg a legnagyobb technológiai kihívás az iparágban.
Az OpenAI jelentős előrelépést tett azzal, hogy magát a chipet, illetve annak programozását is AI segítségével, kifejezetten a Codex nevű modellel oldották meg. Ez lehetővé tette, hogy egyedi, nagy teljesítményű szoftverkód (kernel) jöjjön létre rövid idő alatt, amely kikerüli a piacvezető Nvidia CUDA ökoszisztéma építése során kialakult akadályokat.
Felmerül a kérdés: ha egy AI képes ilyen gyorsan és hatékonyan programozni hardvereket, mi lesz a hagyományos fejlesztői tudással, és hogyan változik meg az iparági dominancia? Vajon végzetes kihívás éri az Nvidia és a Google hosszú éveken át épített előnyét? A videó ebbe a sűrű technológiai küzdelembe, valamint az AI által vezérelt technológiai önfejlesztés (RSI – recursive self-improvement) lehetőségeibe enged betekintést.
