Az elemzésben három modern, mesterséges intelligencia fejlesztésére és kutatására szánt gépet vetnek össze: az Nvidia Jetson Thor-t, a DJX Spark-ot és az Apple Silicon M4 Pro-t. Bár mindhárom 128 GB RAM-mal és 273 GB/s memóriasávszélességgel rendelkezik, árban és teljesítményben jelentős különbségek mutatkoznak közöttük.
Központi kérdéssé válik, hogy a memóriasávszélesség önmagában nem mond el mindent a gépek tényleges képességeiről, főként gépi tanulásnál. Felmerülnek kérdések a valós teljesítménybeli eltérésekről, például hogy miért reagál eltérően a Thor és a Spark különböző modellek futtatása során, miközben az elméleti paramétereik közel azonosak.
Érdekes betekintést nyerhetünk az egyes gépek energiafelhasználásába: a Spark nagyobb teljesítménye jóval magasabb fogyasztással jár, míg a Thor jelentősen energiatakarékosabb. Ugyanakkor szóba kerül, hogyan viselkednek a hardverek eltérő gépi tanulási modellek (ritka vs. sűrű, token generálás és prompt feldolgozás) futtatásakor, illetve miért lehet hatékonyabb egyik gép a másiknál egy adott feladatban.
A bemutatóban szó esik az architektúra és a processzor fejlesztési különbségeiről is: például a Thor 4, míg a Spark 3 nanométeres gyártástechnológiát használ a CPU esetében, ami hatással van a processzor és a GPU közötti kommunikációra, végső soron a teljesítményre is. Ezek a szempontok fontos döntési kérdések elé állítják a fejlesztőket és kutatókat, amikor a lehetséges platformok közül választanak.










