Az elmúlt években a mesterséges intelligencia fejlődése a modellek méretének növelésén, valamint a számítási teljesítmény fokozásán alapult. Ezt azonban hamarosan megtörheti a világ számos részén jelentkező energiakorlát, amely egyre komolyabb akadályt képez, elsősorban az Egyesült Államok adatközpontokkal terhelt térségeiben.
Az energiaigények növekedése miatt a nagy AI-laborok saját erőművek építésébe kezdtek, de a hosszú távú megoldás inkább a számítási architektúrák átgondolásában rejlik. June Paik, egy volt Samsung-mérnök, felismerte, hogy a hatékonyság válik meghatározó tényezővé, ezért megalapította a Furiosa AI vállalatot, amelynek célja egy új, energiahatékony chip létrehozása.
A videó részletezi, miként tér el a Furiosa által fejlesztett NPU, a Warboy, a hagyományos GPU-któl: az új chip kifejezetten az AI-inferencia feladatok ismétlődő, párhuzamos műveleteire optimalizált, és fejlett adatáramlási technikákat alkalmaz a memóriahasználat csökkentésére.
Bemutatásra kerül, hogyan gazdálkodnak a modern processzorok a különböző típusú memóriákkal, miként épülnek fel a többdimenziós tenzorok, illetve hogy a Furiosa chip tárolási és architekturális megoldásai milyen előnyöket kínálnak a klasszikus modellekkel szemben.
A műsor izgalmas versenyt vázol fel a különféle, kifejezetten mesterséges intelligencia számításokra fejlesztett chipek — például a Google, Amazon és más innovatív cégek megoldásai — között. Arra is kitér, hogy ezek a fejlesztések hogyan alakítják át a globális technológiai és energiafelhasználási stratégiákat.
