A
A
Why AI engineers are scared of self-building artificial intelligence | The Economist

Why AI engineers are scared of self-building artificial intelligence | The Economist

Lejátszás
  • Angol
  • Magyar
  • 10 perc

Önfejlesztő mesterséges intelligencia: veszélyek és kihívások mérnöki szemmel

Az önfejlesztő mesterséges intelligencia ötlete nemcsak technológiai áttörést, hanem komoly aggodalmakat is kivált a szakértők körében. A videóban az ezzel kapcsolatos tudományos, biztonsági és üzleti dilemmák kerülnek fókuszba.

A beszélgetés középpontjában az áll, hogy a mesterséges intelligencia (AI) új szintre léphet azzal, ha saját magát képes fejleszteni anélkül, hogy ehhez emberek közvetlen beavatkozására lenne szüksége. Az iparágban dolgozó mérnökök aggasztónak találják ezt a kilátást, és gyakran tapasztalható valódi félelem a folyamat kiszámíthatatlan következményei miatt.

Felmerül a kérdés, hogy mit is jelent pontosan a ‘rekurzív öntanulás’ (recursive self-improvement, RSI), és valóban elérkezhetünk-e arra a pontra, ahol az ember teljesen kikerül a fejlesztési folyamatból. Az elhangzó példák alapján olyan rendszerekről van szó, amelyek önállóan képesek felismerni, tervezni és végrehajtani saját fejlesztésüket, gyorsabb ütemben, mint ahogy emberek azt jelenleg igazgatni tudnák.

Az egyik témakör, amit érintenek, az AI biztonság: vajon képesek lesznek-e ezek a rendszerek önmagukban eldönteni, mi számít biztonságosnak, vagy a fejlődés gyorsulásával komoly kockázatok jelennek meg? A beszélők kételyeiket fogalmazzák meg azzal kapcsolatban, hogy a jelenlegi felügyeleti és monitoring rendszerek vajon lépést tudnak-e tartani egy ’ember nélküli hurokban’ fejlődő mesterséges intelligenciával.

Külön szó esik arról, hogy milyen üzleti és társadalmi következményekkel járhat, ha néhány nagy laborban ténylegesen létrejön az első valóban önmagát fejlesztő AI. A nyilvánosságra hozott jelentések és vizsgálatok (mint például a Meter elemzése) önmagukban is vitákat generálnak, hiszen a hozzáférhető információk gyakran szervezeti szinten szűrtek vagy szerkesztettek. Egy további, izgalmas aspektus pedig a kiberveszélyhelyzetek lehetséges súlyosbodása, ha a laborok igyekeznek elrejteni fejlesztéseik részleteit a külvilág elől.