A
A

Csak YouTube-on nézhető meg

  • Angol
  • Magyar
  • 17 perc

Energiahatékony AI chipek forradalma az edge alkalmazásokban

Az epizód az új generációs, kifejezetten alacsony fogyasztású mesterséges intelligencia chipeket mutatja be, amelyek a hagyományos GPU-khoz képest hatékonyabbak, és forradalmi megoldásokat kínálnak az élvonalbeli edge alkalmazásokban.

Az adásban az élvonalbeli, alacsony fogyasztású mesterséges intelligencia (AI) hardverek sokszínű világába kalauzolnak el a műsorvezetők, akik számos új fejlesztést és áttörést mutatnak be a periférián, vagyis nem adatközpontokban futó MI chipek piacáról.

Bemutatkozik a Hailo Metis, amely saját, digitális memórián belül számoló architektúrájával magas teljesítményt és energiahatékonyságot kínál, főként számítógépes látási feladatokban. Kitérnek arra is, hogyan kapcsolható a chip különböző beágyazott alkalmazásokhoz, és miként integrálható ipari, logisztikai vagy intelligens városhálózatokba.

A Kinara Ara-2 chip kapcsán szóba kerül, hogyan teszi lehetővé generatív modelljeinek futtatását adatközponton kívül, valamint hogy miért jelent fontos áttörést többféle modell egyidejű futtatása az edge környezetben. A műsor rávilágít, hogy az új hardverek miként vonhatók be előremutató szemantikus és látási feladatokba egyszerre, alacsony késleltetéssel.

Megismerhetjük továbbá az EdgeCortix Secura 2 processzort, amely dinamikusan átkonfigurálható architektúrájával a különböző AI modellekhez igazítja a működését, valamint a MemryX3-at, amely úgy redukálja az adási mozgást, hogy a számítási egységeket közvetlenül a memóriába építi. Az adásban az is előkerül, milyen piaci résekre céloznak ezek az energiahatékony fejlesztések, például ipari automatizálásra, IoT-eszközökre vagy robotikára.

Végül a SiMa.ai által tervezett MLSoC-ról és a STMicroelectronics STM32 N6 mikrovezérlőről is szó esik: utóbbi forradalmasíthatja a legalacsonyabb energiafelhasználású beágyazott rendszerek gépi tanulását a széles körű eszközintegrációval és szuperalacsony fogyasztással. Az epizód fő kérdése, hogy a feltörekvő szereplők miként képesek lépést tartani vagy akár felülmúlni a jól ismert GPU-gyártók, például az Nvidia, megoldásainak hatékonyságát – és hogy a skálázhatóság, szoftveres támogatás és energiahatékonyság hármasa milyen lehetőségeket teremt az elosztott mesterséges intelligencia edge környezetben.