A harmadik nap hangulatával indítja útjára az AI Infrastructure Summit Notebook összefoglalóját, amelyben az esemény egyre bővülő startup zónáját járják végig. A látogatók ritkulnak, de a kiállítók változatossága sok izgalmas kérdést vet fel az AI-infrastruktúra világában. Szó esik például azokról az új, saját fejlesztésű chipekről, amelyek a mesterséges intelligencia alkalmazások gyorsítására születtek, sőt felmerül, hogy mennyire jelenthet összeférhetetlenséget, ha egy iparági szakértő befektet egy felkapott vállalatba.
Ismeretterjesztő beszélgetések zajlanak a CXL technológia aktuális reneszánszáról és szerepéről a memória-bővítésben, vagy a nagy sávszélességű flash-megoldásokról, amelyeket a vezető memóriagyártók, például az SK Hynix mutatnak be – ezek lehetnek a következő lépések a HBM és az SRAM evolúciójában. Többen kísérletet tesznek extra nagy LLM modellek futtatására ultrakompakt eszközökön, akár helyi, 30 wattos miniszámítógépeken is.
Az élő demókon keresztül betekintést nyerhetünk az edge inference chipek működésébe, valamint a memóriakezelés, hűtés vagy a mesterséges intelligenciára optimalizált rackek specialisták törekvéseibe. Felmerül, milyen piaci stratégiák mentén próbálják elérni a végfelhasználókat: közvetlen online értékesítés, Kickstarter-kampány, vagy tapasztalt fejlesztők megszólítása?
Közben reflektorfénybe kerülnek a frissen bejelentett AI processzorplatformok (például a chiplet architektúrára építő megoldások), de szó esik a rendezvény jövőjéről, a következő évek fő témáiról és a tervezett növekedésről is. A summiten nem csupán hardver szállítók, de ellátásilánc-, energia- és hűtésspecialisták is jelen vannak – mindezek együtt mutatják, mennyire összetett és kihívásokkal teli az AI-infrastruktúra ökoszisztémája.
