A
A
  • Angol
  • Magyar
  • 15 perc

Dell GB10: Új lehetőségek helyi mesterséges intelligencia feladatokhoz

Tesztelés közben kiderül, hogy a Dell GB10 milyen valós, gyakorlati AI- és fejlesztői feladatokra lehet alkalmas – felhő nélkül, helyben futó nagy modellekkel és beágyazott gépi tanulással.

Egy különleges asztali gép kerül nagyító alá, amely a Dell új GB10 platformjára épít, egyesítve az Nvidia Blackwell architektúráját és egy Grace ARM processzort. Mindez egyetlen egységként, 128 GB egységes memóriával működik, lehetővé téve, hogy egyszerre több nagy mesterséges intelligencia modellt futtassanak, és multimodális feladatokat végezzenek – anélkül, hogy állandóan az adatok mozgatásával kellene foglalkozni.

A demók között megjelenik a nagyméretű nyelvi modellek (például Llama) helyi futtatása, különféle AI ágens rendszerek kipróbálása, illetve egy valós idejű számítógépes játékban való tanulás: a Tempest nevű klasszikus játékban tanít gépi tanuló ügynököt sikeres játszmák elérésére. Külön kiemelt hangsúlyt kap, hogy minden mesterséges intelligencia és számítógépes látás feladat szigorúan helyben, felhőszolgáltatások használata nélkül történik – még az otthoni videómegjelenítőkön futó autófelismerő rendszer is teljes mértékben privát marad.

Felmerül a kérdés: vajon az új, egyesített memória és a Blackwell architektúra hoz-e annyi előnyt, hogy már nem éri meg hagyományos, erős, különálló GPU-kat használni ilyen célokra? Mit jelent az FP4 precizitás, és hogyan segítheti az AI modelleket abban, hogy gyorsan és hatékonyan fussanak kis méretű eszközökön is? A videó végigvezeti a nézőt a fejlesztői környezeten, és kiemeli, hogyan lehet egyszerűen asztali vagy „AI agy” módon beüzemelni ezt az új rendszert, a klasszikus Linux alapú fejlesztői élményt tovább csiszolva.