A beszélgetés középpontjában a mesterséges intelligencia (MI) skálázhatósága és irányítása áll, amelyet nagyvállalatok – például a Microsoft, a Vanguard és az Elevance Health – gyakorlati tapasztalatai világítanak meg.
Felmerül a kérdés, hogyan lehet lépést tartani a mesterséges intelligencia fejlődésével, amikor a fejlesztési sebesség és az üzembe helyezett AI-megoldások száma robbanásszerűen nő: például a GitHubon egy év alatt több milliárd kódmódosítás történt, amit emberi szakértőkkel már nem lehet manuálisan követni. Emiatt automatizált biztonsági mechanizmusok, beépített kontrollok és AI-alapú ellenőrzések válnak nélkülözhetetlenné.
A vállalatok kihívásai között szerepel a biztonság, az adatvédelem és a felhasználói élmény optimális egyensúlyának megtartása, különösen érzékeny területeken, mint a pénzügyek vagy az egészségügy. Megvitatják, hogyan lehet biztosítani, hogy a humán felügyelet ne váljon szűk keresztmetszetté, miközben a rendszerek biztonságosak és hatékonyak maradnak. Szó esik az emberi szerep átalakulásáról: a hangsúly a keretek meghatározására, a kivételek felülvizsgálatára és a fontos döntések meghozatalára helyeződik át.
Különösen izgalmas kérdésként jelenik meg az MI modellek kiválasztásának dilemmája: mikor érdemes nyílt forrású, mikor zárt modellre támaszkodni, hogyan válasszunk különböző ügynöki vagy autonóm feladatokhoz, és mi alapján ítéljük meg a modellek megbízhatóságát. Szóba kerülnek a hamis vagy félrevezető adatok problémái, illetve az, hogy milyen tényezők fenyegetik a modelleket, amikor téves információk is bekerülhetnek a rendszerbe. Egyre hangsúlyosabbá válik az átláthatóság, az auditálhatóság és az adatvédelmi kontroll, különösen, ha külső szolgáltatók MI-megoldásai is szóba jönnek.
