Az iparági szereplők egyre többet költenek mesterséges intelligenciára, de a költségek gyors növekedése miatt új stratégiák kidolgozására kényszerülnek. Egy régi paradigma szerint minden feladatot a legerősebb, legdrágább AI modellel érdemes elvégezni, ám mostanra egyre többen fordulnak az olcsóbb, specifikusabb modellek felé—elsősorban az egyszerűbb, rutinszerű feladatokhoz.
Ezt az új megközelítést „model routing”-nak hívják, ahol az egyes feladatokat képesség és költség alapján különböző AI modellekhez irányítják. A beszélgetésben szó esik olyan cégek megoldásairól, amelyek automatikus modellek, sőt agentek közötti irányítást és ROI-garanciát vállalnak vállalati ügyfeleknek.
Felszínre kerül a nagyvállalati döntéshozók dilemmája is: a hatékonyság növelése mellett az is fontos, hogy az AI modellek értéket (megtérülést) termeljenek az árukhoz képest. Ugyanakkor felmerülnek olyan kérdések is, hogy vajon biztonságosak-e az olcsóbb, akár kínai nyílt forrású modellek, illetve hogyan változik a bizalom az automatizált agentek iránt.
Az AI-költségek gyors emelkedése nemcsak a cégek költségvetését terheli meg, hanem új kérdéseket is felvet a jövő AI-infrastruktúrájában. Egyesek már helyi (desk side) futtatásban gondolkodnak, míg mások az intelligens routing réteg saját fejlesztésében vagy külső partnereknél látják a megoldást. A beszélgetés több nagy AI labor (OpenAI, Anthropic stb.) üzleti modelljét is érinti, illetve azt, hogyan alkalmazkodnak az új kihívásokhoz.
