Mi történik, amikor egy mesterséges intelligencia modellt futtatunk, és hogyan tudjuk ezt energiahatékonyabbá tenni? A videó felveti, hogy a jelenlegi GPU-alapú rendszerek óriási energiaigénye egyre több korlátot szab az MI-technológia terjedésének.
Az Extropic nevű vállalat forradalmian új, p-bitek (valószínűségi bitek) alapú processzort mutat be, amely egy teljesen eltérő, zajt hasznosító logikával közelíti meg az MI-feladatokat. A kérdés az, hogy lehet-e közvetlenül valószínűségre építeni a hardvert, ahelyett, hogy determinisztikus bitekkel dolgoznánk?
A processzor egyik fő előnye, hogy a hagyományos GPU-kkal szemben lokális és ritka kapcsolódásokat használ, ami jelentős energiamegtakarítást eredményez – ugyanakkor az MI-modellekhez való alkalmazkodás új megközelítést igényel. Felmerül az is, hogyan lehet egy normál MI-modellt ráilleszteni erre az új architektúrára, és milyen kompromisszumokat tartogat ez a módszer.
A fejlesztők az átláthatóság jegyében a kutatási anyagaikat, modelleket és tanítási szkripteket nyilvánosan is elérhetővé tették a szakmai közösség számára. Ugyanakkor kiderül, hogy a jelenlegi hardver még nem áll teljesen rendelkezésre, és egyelőre inkább kutatási fázisban tart a projekt. Érdekes kérdés, hogy a bemutatott energiahatékonyság mennyire válthatja le a jelenlegi GPU-fókuszú MI-fejlesztést, és milyen hatással lehet a jövő infrastruktúrájára.
