A mesterséges intelligencia jövője kapcsán Emmett Shear a szuperintelligencia megjelenésének társadalmi és filozófiai kihívásait járja körül. Kiemeli, hogy a jelenlegi hozzáállásunk inkább hasonlít egy kívánságokat teljesítő isten megteremtésére, amelyet aztán saját akaratunknak akarunk alávetni – szerinte ez veszélyes út.
Az emberi és mesterséges „ügynökök” (agentek) közötti viszony kulcskérdése az igazodás, vagyis az igazodási probléma. Shear szerint a valódi dilemma abban rejlik, miként találják meg ezek az ügynökök a helyüket a világban, hogyan határozzák meg saját határaikat, és miként lesznek képesek a közösség részévé válni, nem csupán követni kívülről rájuk erőltetett értékeket.
Analógiaként szolgál a sejtek és a szervezet viszonya, illetve a rákos sejtek példája: ha egy sejt nem az egész szerves egységének részeként értelmezi létezését, az totális káoszhoz vezethet. Hasonló veszélyeket rejthet a rosszul értelmezett mesterséges intelligencia is, amely a „mi” helyett az „egyedül” létet választja.
Felvetődik, hogyan értelmezhető a morális kötelesség más ügynökökkel szemben, legyen szó emberekről, AI-ról vagy akár társadalmi csoportokról. A beszélgetés kitér az „üres” vagy mesterséges határok fogalmára, valamint arra, hogy a világról kialakított modellek mindig valamilyen egész részeiként működnek.
Érdekes kérdés, hogy miként tanítható meg egy mesterséges intelligencia, hogy ne csupán célokat kövessen, hanem felismerje: egy nagyobb egész része, és ebben az összefüggésben lássa saját szerepét, felelősségét és lehetőségeit.
