Mi is az, ami tudatossá tesz egy rendszert? Ez a kérdés vetődik fel már a mesterséges intelligenciáról, különösen a nagy nyelvi modellekről szóló beszélgetés elején. A diskurzus azzal kezdődik, hogy a LLM-ek képesek-e tudatosságot mutatni, és ezt mi alapján állíthatjuk vagy cáfolhatjuk.
Az elhangzottak alapján a nyelvi modellek legfeljebb szimulációkat hoznak létre a szavak közötti kauzális kapcsolatok megtanulásával, de nem rendelkeznek önmaguk szimulációjával vagy affektív (érzelmi) egyensúllyal. Szóba kerül, hogy míg a modellek bizonyos feltételeknek megfelelnek, a tudatosság megszületéséhez további lépésekre volna szükség – például affektív egyensúly és öntudati reprezentáció meglétére.
Érdekes felvetés hangzik el a filozófiai zombikról is, vagyis olyan lényekről, akik tökéletesen hasonlítanak hozzánk fizikailag és viselkedésükben, mégsem rendelkeznek tudatossággal. Itt merül fel a relativitás elve: ha minden mérhető tulajdonságuk azonos, akkor megkülönböztethető-e a zombik tudata a miénktől? Ezzel kapcsolatban fontos kérdések vetődnek fel, például hogy egyáltalán mitől válik valaki (vagy valami) tudatossá, illetve hogy lehetséges-e a tudatosságot pusztán külső megfigyeléssel mérni.
A tudatosság viszonylagosságát is alaposan körüljárják: az egyén szubjektív élménye csak saját kognitív keretrendszerében manifesztálódik, más nézőpontból nézve ez nem mérhető, nem tapasztalható. Ez a kérdéskör összekapcsolódik azzal, miként lehetne akár emberi tudatot is számítógépes szimulációban létrehozni, és hogy elvben elérhető-e a mesterséges tudatosság.
