Az ipari és fizikai mesterséges intelligencia bevezetése során a megbízhatóság és a biztonság alapvető követelmények, hiszen a hibák messzemenő következményekkel járhatnak, különösen autonóm járművek, robotok vagy védelmi rendszerek esetén. A beszélgetés kiemeli, milyen nagy különbség van a szoftveralapú, például nyelvi modellekre épülő AI-k és a valós fizikai rendszerekben alkalmazott fejlesztési megközelítések között.
Felmerül az a kérdés is, hogy mennyire lehet vagy kell gyorsan fejleszteni – hogyan lehet úgy haladni, hogy közben nem lazulnak a szigorú ellenőrzési és validációs folyamatok. Egyes vállalatok, mint például a Shield AI vagy a Wabi, már a kezdetektől nagy hangsúlyt fektetnek az infrastrukturális és biztonsági alapok lefektetésére, még mielőtt a tényleges algoritmikus fejlesztést megkezdenék.
Az autonóm járművek világában ismét más típusú kihívások jelennek meg: a biztonságot már a piacra lépés előtt bizonyítani kell, hiszen valós környezetben a hibák súlyosak lehetnek. Az ipari robotika területén külön szabályozások, jogi megfelelőségek, valamint determinisztikus és nem-determinisztikus algoritmusok biztonsági kérdései is napirendre kerülnek.
A beszélgetés arra is kitér, hogy a vállalati kultúra, az egyéni felelősségvállalás és a belső kommunikáció legalább annyira fontos a biztonság szavatolásához, mint maga a mérnöki tervezés. Kiemelten tárgyalják, mennyire fontos, hogy már a prototípus fejlesztésekor átgondolják a skálázhatóságot és a jövőbeli kockázatokat.
Gyakorlati példákon keresztül felvetődik, hogy a túl gyors demonstrációk és prototípusok veszélyesek lehetnek, ha nem megalapozott műszaki és biztonsági háttérrel kerülnek bemutatásra. Különféle iparági szereplők osztják meg tapasztalataikat arról, milyen innovációk születnek a szigorú korlátok és elvárások mentén, és miképpen lehet egyszerre gyorsan, mégis biztonságosan fejlődni ezen a magas tétű területen.
