Az 1990-es évek közepén egy mesterséges intelligencia algoritmus kórházi adatok alapján arra a félrevezető megállapításra jutott, hogy az asztma csökkenti a tüdőgyulladás miatti halálozás kockázatát. Az algoritmus félreértését a háttérben meghúzódó ok-okozati összefüggések figyelmen kívül hagyása okozta, ugyanis az intenzívebb orvosi beavatkozás javította ezen betegek túlélési esélyeit, és nem maga az asztma jelentett védőfaktort.
Az AI modellek gyakran csak mintákat és statisztikai összefüggéseket érzékelnek, de ezek nem feltétlenül jelentenek ok-okozati kapcsolatot. Ez különösen fontos ott, ahol élet-halál kérdésekben használnák döntéstámogatásra a mesterséges intelligenciát. Ezt szemlélteti egy 2021-es brit példa is, ahol a COVID-19 vakcinával kapcsolatos adatok félrevezető következtetésekhez vezettek, mert az életkor mint befolyásoló tényező kimaradt az elemzésből.
A videó rávilágít, hogy az ok-okozat megértésére képes AI modellek megbízhatóbb döntéseket hozhatnak, és ehhez a kauszális inferencia nevű matematikai keretrendszert használják. Bemutatja, hogy a kontrollcsoportok és az úgynevezett ok-okozati tanulás miként segíthet kiiktatni az adatokban jelen lévő torzításokat, és lehetővé teszi a különböző döntési forgatókönyvek szimulálását.
Az egészségügy példáján túl felveti annak kérdését is, hogy a különböző AI rendszerek (például hitelbírálatnál vagy zenei ajánlásoknál) csak akkor lehetnek valóban megbízhatóak, ha képesek felismerni, melyik statisztikai kapcsolat valós okozati összefüggés, és melyik puszta korreláció.
Kiemeli, hogy minden torzítás feltárásához és kezeléséhez emberi szempontokra is szükség van, ezért az emberi tényező kulcsszerepet kap az AI megbízhatóságában, akár a jövő gépi döntéshozó rendszereiben is.
