Ebben az epizódban a mesterséges intelligencia (AI) hardverpiacának aktuális kérdései és technológiai fejleményei kerülnek középpontba, fókuszban az adatközponti tréningchipekkel. A beszélgetés során több erős, globális szereplő – köztük az Nvidia, az AMD, a Google és a Huawei – megoldásait és stratégiáit veszik górcső alá, miközben felvetik, miért vált a tréningről az inferenciára a hangsúly az AI hardverek értékesítésében.
Szó esik arról, hogy a tréningmunkaterhelések más jellemzőkkel és kihívásokkal járnak, mint az inference, többek között teljesítmény, méret, fogyasztás és ellátási lánc szempontjából. A beszélgetők kitérnek arra, hogy az olyan vállalatok, mint az Nvidia, szinte teljhatalmat szereztek ebben a szegmensben. Ennek okait a szoftveres ökoszisztéma, az architektúra és az iparági tapasztalat taglalásával világítják meg.
Áttekintést nyújtanak a Google saját fejlesztésű TPU chipjeiről – különösen az Ironwood (TPU v7) generációról –, illetve a Huawei és más kínai cégek helyzetéről, akik a korlátozások miatt kénytelenek saját fejlesztésű tréningprocesszorokkal előállni. Megjelenik az is, mennyire fontos a szilíciumtervezésnél a kontroll, az ellátási lánc kezelhetősége, illetve, hogy bizonyos országok és vállalatok mennyire próbálnak függetlenedni az amerikai technológiától.
Felszínesen érintik az Amazon Tranium 2 chipjét, valamint több kínai gyártó – például az Illuvar és a Beron – próbálkozásait. Felmerülnek kérdések arról, hogy a külső politikai-gazdasági korlátok hogyan befolyásolják a piac fejlődését, illetve, hogy egy-egy cég milyen stratégiai döntések elé kerülhet, ha új hardverplatform kifejlesztéséről van szó. A beszélgetés végén szóba kerül, hogy léteznek alternatív AI tréninghardverek, és milyen irányba léphet előre a piac a közeljövőben.
