Dion Harris, az Nvidia vezetője betekintést nyújt abba, hogyan formálják a vállalat új AI chipjei az iparágat. Megtudhatjuk, miként zajlik a mesterséges intelligencia fejlesztésének és alkalmazásának három kulcsfontosságú szakasza: a tréning, a poszt-tréning és az inference (következtetés).
Az interjú rávilágít a különböző AI-feladatok technikai hátterére, például arra, hogy a klasszikus modellek tréningje mellett mekkora súllyal esnek latba az olyan speciális hardverek, mint az Nvidia új CPX és Rubin GPU-i, melyek célzottan optimalizáltak a különféle AI-munkafolyamatokra, mint például az extrém nagy ‘context window’-t igénylő alkalmazások.
Szó esik arról is, hogyan dolgozik együtt több különböző chip – például CPU, GPU, DPU, NVLink – egy átfogó, teljes infrastruktúrában annak érdekében, hogy a skálázhatóság és energiahatékonyság maximális legyen. Az elhangzottak alapján az Nvidia a teljes rendszer- és szoftverkörnyezet optimalizálásában látja a valódi versenyelőnyt, nem csupán a hardver fejlesztésében.
Felvetődik a kérdés, hogyan térül meg a vállalatok számára a folyamatos AI-technológiai beruházás, milyen metrikák alapján mérhető valós üzleti érték, valamint hogy miként hat az AI terjedése a költségekre, felhasználási lehetőségekre és cégprofitokra. A beszélgetés számos példát, analógiát és előremutató trendet tárgyal, anélkül, hogy konkrét iránymutatást, végkövetkeztetést adna.
