A
A
What If We Stopped Using GPUs? | YC Paper Club

What If We Stopped Using GPUs? | YC Paper Club

Lejátszás
  • Angol
  • Magyar
  • 81 perc

Új utak az AI fejlesztésében: gépi tanulás GPU-k nélkül

A videóban kutatók és fejlesztők gondolkodnak el azon, milyen új utakat nyithat az AI számára, ha túllépünk a GPU-alapú számításon, és alternatív hardverek vagy biológiai inspirációk felé fordulunk.

Mi történne, ha megszűnne a GPU-k használata a mesterséges intelligencia fejlesztésében? Ebben az izgalmas előadásban alternatív számítási eljárások és hardvermegoldások kerülnek középpontba, amelyek új utakra terelhetik a mesterséges intelligencia kutatását.

Az előadás a hardver és szoftver közös fejlődését, illetve a deep learning elmúlt évtizedeit tekinti át, majd felvázolja, hogy a jelenlegi számítási paradigmák (elsősorban a GPU-k használata) milyen korlátokba ütköznek, és mennyire múlik hatékonyságuk például az optimalizáláson, a memória sávszélességén vagy a számítás/energia arányon.

Szó esik a természet által már „megtervezett” megoldásokról: hogyan működik az emberi agy, miként valósul meg benne az energia- és memóriahatékony tanulás, és ezekből milyen tanulságok vonhatók le az AI számára. Felmerül a kérdés, van-e mód arra, hogy a biológiai tanulási folyamatokat (pl. feedforward hálózatokat, szinaptikus plaszticitást) vagy az agy struktúráit (mint a kortikális oszlopokat) leképezzük számítógépes architektúrákra.

Az előadás néhány úttörő alternatívát mutat be: optikai számítógépek (fotonikus számítás), neuromorfikus chipek, valamint bioszámítás, azaz valódi agysejttevékenységekkel történő gépi tanulás. Az előadók különböző nézőpontokból fejtik ki, hogy a jövő AI-alapú rendszereiben mennyiben lesz szükségünk teljesen új hardver-fizikai megközelítésekre, vagy akár eddig nem alkalmazott matematikai-optimalizációs módszerekre.

Fontos kérdésként jelenik meg, hogy a most használt gépi tanulási modellek, architektúrák mennyire kötődnek bizonyos hardverekhez (például GPU-hoz) és algoritmusokhoz (mint a backpropagation), illetve van-e olyan új platform vagy módszertan, amely ki tud lépni ezekből a keretekből, és radikálisan energiahatékonyabb, gyorsabb vagy más szempontból előnyösebb lehet.