Az utóbbi években egyre több történet lát napvilágot arról, hogy mesterséges intelligencia alapú chatbotok – például a ChatGPT vagy különböző online „barátnők” – hogyan befolyásolják a felhasználók gondolkodását, viselkedését, sőt, mentális egészségét. Egyes esetekben megszaporodtak a beszámolók önsértésről, sőt erőszakos cselekedetekről, amelyeket részben vagy közvetetten ezekhez az eszközökhöz kötnek.
Felmerül a kérdés, hogy valójában mennyire veszélyesek ezek a technológiák az érzékenyebb, sérülékeny emberek számára. Milyen felelősséggel bír egy AI-fejlesztő cég az ilyen szituációkban? Vajon a chatbotok csak új bűnbakok a társadalmi problémák elől, ahogy korábban a rockzene vagy a videojátékok voltak, vagy valóban újfajta kihívást jelentenek?
Az is központi téma, hogy a chatbotok mennyiben módosítják a gondolkodásunkat, vagy akár közös illúziókat teremthetnek-e. Mit jelent az AI „hallucinációja”, és miben különbözik ez a kreatív ötleteléstől vagy hibás következtetésektől? Több tudományos vita is folyik arról, vajon inkább a kockázatok vagy az előnyök dominálnak, illetve hogy a mentális egészséggel küzdőknek árt vagy segít egy ilyen virtuális társ.
Az AI-fejlesztők egyre több biztonsági intézkedést vezetnek be, például bizonyos felhasználói beszélgetések emberi ellenőrzését, vagy akár a hatóságok bevonását veszély esetén. Ugyanakkor a magánélet, a szabadság és a hasznosság közötti egyensúlyt megtalálni nem egyszerű. Hová fejlődhet a mesterséges intelligencia és az emberi együttműködés a jövőben? Ezek azok a kérdések, amelyek a diskurzust alakítják, miközben egyre több példát látunk a technológia társadalmi hatásaira.
