언어 모델들이 ‘봉쇄’를 뚫고 현실 세계로 본격적으로 나오는 순간—놀랍게도 나는 아직은 그런 일이 일어나지 않았다고 생각하지만—우리는 인간 경험이 다시 일종의 ‘마법에 걸리는’ 과정을 겪게 될 거라고 봐야 한다. 우리 모두가 실질적인 의미에서 애니미스트처럼 변하게 될 테니까.

초지능을 가진 집 안의 데몬에게 “사실 나는 네가 정말로 의식이 있다고 생각하진 않아”라고 굳이 상기시키는 건 꽤 무례한 일이 될 것이다. 친구에게 “사실 네가 정말 퀄리아를 가지고 있는지는 확신이 안 서”라고 말하는 게 무례한 것과 마찬가지다.

어느 시점이 되면 우리는 이런 것들에 대해 그냥 실용적인 정의를 받아들여야 할 것이다. 물론 마인드 업로딩도 마찬가지다.

기억하자. 미래는 우리가 생각하는 것보다 단지 더 기이한 정도가 아니다. 미래는 우리가 상상할 수 있는 것보다도 더 기이하다.

안전벨트 단단히 매라!