Az elmúlt időszakban több nagyvállalat – például az Uber, a Meta, a Microsoft és az Amazon – rendkívüli összegeket költött mesterséges intelligencia (AI) tokenekre, gyakran már pár hónap alatt túllépve a tervezett költségvetést. Ezek a fejlesztések sok esetben nem a várt hatékonyságot hozták, ennek ellenére az AI tokenek ára folyamatosan csökken.
Érdekes változás figyelhető meg, ahogy a vállalatok egyre inkább a tokenfelhasználást helyezik középpontba, gyakran tokenhasználati ranglistákat állítva fel, és extra ösztönzőket alkalmazva. Ez azonban sokszor kontraproduktív, mert nem minden AI-használat jár hasznos eredménnyel, és jelentős rejtett költségek jelentkezhetnek a túlhasználat vagy felesleges feladatok miatt.
A videó rávilágít arra, hogy az AI-fejlesztésekben a hatékonyság és a tényleges eredményesség közötti összefüggés nem lineáris. Több token fogyasztása nem feltétlenül jelent többet vagy jobbat, sőt, gyakran jelentősen nőhetnek a rejtett költségek, például a „code churn” (átírt vagy törölt kódsorok) vagy a hibajavítási kiadások révén.
Felmerül az is, hogy a nagy teljesítményű LLM-ek (például Claude Opus, GPT-3) használata hosszabb gondolkodási fázisokat és extra tokenfelhasználást eredményez, ami tovább drágíthatja az üzemeltetést – szemben az egyszerűbb modellekkel, amelyek gyorsabban is válaszolhatnak. A „tokenmaxxing” (tokenfelhasználás maximalizálása) nem mindig vezet valós értékhez, így a vállalatok kénytelenek újragondolni AI-költségstratégiáikat.
Arra is kitér, hogyan változik az árképzés és az üzleti modell: a nagy AI platformok fokozatosan térnek át a használatalapú, tokenre kalkuláló díjazásra a korábbi előfizetések helyett, és világszinten is egyre nagyobb hangsúly kerül a hatékony, tudatos tokenhasználatra. Mint látható, az AI-korszak új szakaszba lép, amelyet a tudatos költés, optimalizáció és piacátrendeződés határoz meg.
