A videó bemutatja az AI főkeretrendszerek páratlan hatékonyságát, amelyek naponta több százmilliárd valós idejű döntést hoznak meg pénzügyi, biztosítási és egészségügyi tranzakciókban – akár egyetlen ezredmásodperc alatt. Nem a megszokott adatközpontokban összerakott GPU-clusterekről van szó, hanem egy olyan hardverarchitektúráról, ahol az AI gyorsítók közvetlenül a processzor mellé, a memóriába kerültek, ezzel minimalizálva a hálózati késleltetést.
A videó ritka betekintést enged az IBM Z17 főkeretrendszerek gyártásába, bemutatva, hogyan optimalizálták ezt a rendszert hat évtized alatt a nagy megbízhatóságot és elérhetőséget kívánó tranzakciókra. Felmerül, hogyan váltja le az adatközponti, felhős AI trendeket egy olyan megoldás, amely minden adatot a forrása mellett, extrém megbízhatósággal és biztonsággal dolgoz fel, és miért éri meg sokszor a modellt a gép közelében, a memórián futtatni.
A történet rámutat, mennyire elhanyagolt terület maradt az AI inference, miközben mindenki az egyre nagyobb gépi tanulási kapacitásokat hajszolja. A videó tapasztalati példákban, interaktív szemléltetésekkel és kulisszák mögötti tesztekkel mutatja be, hogy a fizikai távolság csökkentése hogyan hozhat forradalmat döntéseink gyorsaságában és megbízhatóságában.
Közben olyan gyártási részletek is feltárulnak, mint az extrém körülményekre való tesztelés, a redundancia, és a szállításig tartó minőségbiztosítás. A kérdés, hogy a következő néhány évben valóban általánossá válik-e az adat és AI-modell közelségére épülő rendszer, minden nézőnek gondolkodnivalót ad.
