Az interneten terjedő álhírek és kitalált betegségek könnyen megtéveszthetik nemcsak az embereket, hanem a mesterséges intelligencia alapú chatbotokat is. Egy orvoskutató kifejezetten e célból hozott létre egy teljesen fiktív betegséget, amelyet csak néhány blogbejegyzésben publikált, majd figyelte, ahogy az MI-eszközök, például a Bing Copilot és a Google Gemini, valósnak kezelik azt.
A videó azt vizsgálja, hogyan képesek a chatbotok valótlan információk alapján diagnózisokat felállítani, és miként terjed ez a téves tudás egyre szélesebb körben – akár tudományos publikációkon keresztül is. Ezen keresztül rávilágít arra, hogy a laikusok gyakran vakon bíznak az MI-alapú orvosi tanácsokban, még akkor is, ha az alapul szolgáló információ teljesen hamis.
Felmerül az a kérdés is, milyen felelősségük van a chatbotokat fejlesztő cégeknek, amikor az MI hibás vagy veszélyes tanácsokat ad, illetve miként javíthatók ezek a rendszerek. Emellett bemutatja, hogy még akkor is, ha a chatbotok helyesen azonosítják a diagnózist, a megfelelő cselekvési tanácsok gyakran hiányosak vagy félrevezetőek lehetnek. Végül a nézőket önreflexióra ösztönzi arról, hogy mennyire erősen támaszkodhatunk MI-támogatott orvosi információkra a mindennapokban.
