Andrej Karpathy beszédében azt boncolgatja, hogyan változik alapjaiban a szoftverfejlesztés az AI megjelenésével, különös hangsúlyt fektetve az iparágba most belépő fiatalok lehetőségeire. Szemléletes példákat hoz a szoftver evolúciójáról: a klasszikus, kézzel írt kód (1.0), a súlyozott neurális hálók (2.0), majd a nagy nyelvi modellek (LLM – 3.0) világára, ahol már angol utasítások irányítják a programokat.
Rávilágít, hogy az LLM-ek infrastruktúrája és használata gyakran elektromos hálózatokhoz, gyárakhoz, de leginkább operációs rendszerekhez hasonlítható – központilag elérhető „szolgáltatások”, amelyekre egyre inkább építünk. Ugyanakkor ezeknek a rendszereknek még mindig vannak egyedi hiányosságaik, „emberi” hibáik és memóriakorlátaik, amelyek miatt nélkülözhetetlen az ember a döntéshozatalnál és az ellenőrzésnél.
Érdekfeszítő párhuzamokat von a szoftver részleges autonómiája – például a kódgeneráló eszközök használata –, a tanulás és a munka új formái, valamint az okosabb GUI-k (vizuális felhasználói felületek) és az „autonómia-csúszkák” tervezése között. Felveti, hogyan gyorsítható fel az AI által generált eredmények emberi ellenőrzése.
Felteszi a kérdést, hogyan lehetne a szoftver-ökoszisztémákat és a dokumentációt úgy fejleszteni, hogy ne csak embereknek, hanem LLM-eknek, „digitális emberszellemeknek” is könnyen fogyasztható legyen. Megvizsgálja azt is, milyen lehetőségek rejlenek a természetes nyelvű programozásban, amikor bárki „programozóvá” válhat az AI segítségével – és hogy ez hogyan formálja át a technológiai oktatást és fejlesztést.
