Az AI világában látványos sebességgel csökken a modellek működtetésének költsége, mivel az intelligencia/dollár arány jóval gyorsabban javul, mint ahogy azt korábban a Moore-törvény alapján megjósolták. Friss statisztikák szerint a fejlődés üteme három-nyolc havonta megduplázódik, és ezzel teljesen új gazdasági és fejlesztési lehetőségek nyílnak meg. Ilyen tempónál az infrastruktúra, azaz a számítási felhők, adatközpontok és energiaellátás lesznek a valódi korlátok – nem pedig a modellintelligencia.
A böngészők válhatnak az AI elterjesztésének fő platformjává, ahol az úgynevezett válaszadó motorok (answer engines) az információkeresés, sőt, a vásárlási döntések legfontosabb csatornáivá nőhetnek. Ez a trend komoly átrendeződést hozhat például az e-kereskedelemben, és új optimalizálási módszerek (AEO) bevezetését teszi szükségessé.
Hiába fejlődnek gyorsan a modellek, a fizikai infrastruktúra – főleg az energia- és vízellátás, valamint a helyi közösségek ellenállása – egyre keményebb határt szab az AI további bővülésének. Egy gigawattos adatközpont több tízmilliárd dollárt igényel, és akár egy városnyi energia szükséges hozzá, ráadásul az engedélyeztetés folyamata is kiszámíthatatlan lett. Az Egyesült Államokban jelentős, becslések szerint 68 gigawattos kapacitáshiány alakulhat ki már néhány éven belül.
Az AI-modellek értékelésének és valódi hasznosságának mérésével kapcsolatban is felmerülnek kérdések. A kiugró teljesítményeket sokszor felülértékelik, viszont a gyakorlati alkalmazások során gyakran derül ki, hogy a hirdetett előrelépések nem mindig nyújtanak hasonló mértékű hasznot a valós környezetben.
Szuverén AI rendszerek felértékelődnek ugyan, de még mindig jelentős a függőség az amerikai nagyvállalatok infrastruktúrájától és hardvereitől. Emellett a modellek között egyre nagyobb hangsúlyt kap a routing, vagyis az a képesség, amellyel dinamikusan olcsóbb-gyorsabb modellekhez lehet irányítani a különböző feladatokat, miközben a legkifinomultabb modelleket csak speciális esetekre tartják fenn.
A beszámoló számos dilemma és stratégiai kérdés elé állítja az AI-építőket és befektetőket: Hogyan lehet építeni ilyen gyorsan változó költség- és képességgörbe mellett? Meg lehet-e oldani az energiaellátás kérdését úgy, hogy közben dinamikusan bővülnek a kereslet és technológiai igények? Hogyan tartsuk a lépést, ha a fejlődés már nem csak biteken múlik, hanem egyre inkább atomokon, vagyis a valós fizikai korlátokon?
