Egy pénzügyi elemzői rejtély áll a középpontban: miként lehet előre jelezni, ha egy vállalat a csőd szélére sodródik? A galíciai kutatók új szemszögből közelítették meg a kérdést, amikor nem a számviteli mutatókra, hanem a cégek viselkedésére, és különösen az auditorokkal való kapcsolataik mintázataira fókuszáltak. Olyan részleteket vizsgáltak, mint az auditóri cserék száma, a problémás jelentések halmozódása vagy a beszámolók hiánya — mindezek finom előjelei lehetnek egy közelgő pénzügyi összeomlásnak.
Két modellt építettek: az első, hagyományos statisztikai módszertan szerint átlátható és visszakövethető szabályokat használ, míg a második, egy neurális hálózat, rendkívül pontos előrejelzéseket ad, de működésének logikája az ember számára felfoghatatlan marad. Ez a „fekete doboz”-probléma ma már nem elméleti kérdés, hiszen a világ pénzügyi rendszereit egyre inkább ilyen modellek működtetik, miközben maga az átláthatóság elveszni látszik.
A film tovább mélyíti a témát: milyen veszélyeket és dilemmákat okoz, ha egy AI-alapú pénzügyi rendszer eredményes, de indoklásképtelen, miközben az életünket meghatározó döntéseket hoz kereskedelemben, hitelbírálatban vagy csalásmegelőzésben? Az átláthatóság és pontosság közötti ellentmondást a szakma már évek óta vizsgálja, most viszont szabályozási válasz is érkezik: az EU AI Act szigorúbb elszámoltathatóságot követelne meg, de a gyakorlati végrehajtás akadályokba ütközik.
Felmerülnek további alapvető kérdések is: vajon ki határozhatja meg, mit kell magyarázni egy algoritmusnak, és mennyire érdeke egyáltalán a piacnak felfedni a modellek belső logikáját? A technológiai, szabályozói és hatalmi viszonyok összefonódása új korszakot nyit: a döntések gyorsabbak és precízebbek lettek, magyarázat nélkül viszont a felelősség kérdése is új megvilágításba kerül.
