Az iparágban gyakran felmerülő kérdés, hogy az AI cégek miként tudnak ténylegesen profitot termelni a jelenlegi modellalapú, tokenalapú környezetben. Mostanában a teljesítménymutatók – például az egy másodperc alatt előállított tokenek száma vagy a tokenek számítása energiafogyasztás alapján – vannak a középpontban, azonban az összehasonlítások gyakran félrevezetők a különböző paraméterek miatt.
Felmerül, hogy mindezek mellett ki és mire használja valójában a generált tokeneket, milyen felhasználási területek léteznek, és kik a valós vásárlók. A hosszú távú fenntarthatóság szempontjából nemcsak a hardver teljesítménye, hanem annak ára, megtérülése és alkalmazhatósága is kiemelt szerepet kap. Az egyik új megközelítés egy token-gazdaság kalkulátor, amely segíthet a különféle hardverek összehasonlításában, figyelembe véve a modellek, felhasználók, energiaárak és tőkeköltségek sokféleségét.
A kalkulátor használata során számos változót – például modellméret, egyidejű felhasználók száma, hardvertípus, memória – lehet interaktívan állítani, és azok hatását vizsgálni a tokenenkénti költségre és megtérülésre. Ez nemcsak a végfelhasználók, hanem a hardvergyártók és üzemeltetők számára is értékes eszköz lehet ahhoz, hogy objektíven értékelhessék saját, illetve versenytársaik eszközeit.
Kérdések merülnek fel többek között a különböző hardverarchitektúrák, például HBM memóriás rendszerek vagy SRAM-alapú lapkák összehasonlíthatóságával kapcsolatban, valamint azzal is, hogy a piacon elérhető publikus benchmarking adatok mennyire teszik lehetővé a valós teljesítmény- és gazdaságossági különbségek feltárását. A videó bemutatja, hogyan igyekeznek a fejlesztők ennek a kalkulátornak a révén közvetlenül összevethető adatokat nyújtani, miközben bemutatják a jelenlegi ipari kihívásokat és dilemmákat is.
