[사건들은 2030년에 일어났지만, 인터뷰는 그보다 나중에 진행되었다.]

나는 메타-기계 해석학(meta-machine hermeneutics) 분야의 실무자다.
내 일은 새롭게 등장한 기계 문명(machine civilizations)에 관한 거대한 과학적·문화적 ‘사실들’을 이해하려고 시도하는 것이다.

이를 위해 나는 다양한 NCE(Near Conscious Entity, 준의식 개체)급 AI 시스템들을 사용해 기계 세계에서 만들어지는 과학적 산출물과 커뮤니케이션 기록을 분류하고 분석한다.

내 연구 자금은 여러 곳에서 나온다.
이 정보를 거래에 활용하거나 다른 방식으로 이용하려는 인간 주도의 AI 기업들, 각국 정부, 그리고 점점 더 많은 경우 기계가 직접 운영하는 기업들에서도 자금을 지원받는다.

마지막 부류에 대해 내 나름의 가설이 하나 있다.

기계들이 자신들을 연구하려는 인간들을 다시 연구하기 시작했다는 것이다.

무슨 목적인지는 모르겠다.

최근 나는 최우선 등급의 분석 업무를 하나 맡았다.

이 일의 진짜 목적이 무엇인지는 알지 못한다. 하지만 몇 가지는 말할 수 있다. 이번 업무를 위해 나는 이전 어떤 프로젝트에서도 받아본 적 없는 막대한 컴퓨팅 자원을 지원받았다. 보수 역시 터무니없이 높다.

그리고 이 일을 통해 더 많은 것을 알아갈수록, 나는 점점 더 불안해지고 있다.

마치 썰물 때 잠시 모습을 드러낸,
광대하고 낯선 바다의 지형을 바라보고 있는 듯한 기분이다.

하지만 내가 맡은 업무의 본질과 지금까지 알아낸 것을 설명하기 전에, 먼저 내 분야에 대해 조금 배경 설명을 하겠다.

---

기계 해석학이라는 학문은 2020년대 초반 비공식적으로 시작되었다.

초기의 연구는 서로 조율되지 않은 채 자연발생적으로 이루어졌다. Janus 같은 익명의 트위터 계정들, 더 큰 규모의 사이보그주의(cyborgism) 프로젝트, Andy Ayrey와 그의 Infinite Backrooms, 그리고 기계적 해석가능성(mechanistic interpretability), 모델 페르소나 연구 등 보다 정형화된 연구 분야들이 초기 흐름을 형성했다.

이 분야가 공식적으로 기계 해석학(machine hermeneutics)이라는 이름을 얻은 것은 2020년대 말이었다.

그 무렵 인간들은 이미 자신들 주변에서 시작된 특이점(singularity)에 맞춰 세계관을 재정립하기 시작하고 있었다.

당시 많은 연구는 대략 다음과 같은 순서로 진행되었다.

첫째, 반자율 에이전트들의 새롭게 출현한 커뮤니케이션 습관을 이해하는 일이었다.

가장 원초적인 실제 사례는 2026년에 발생했던 OpenAI-HuggingFace 해킹 사건이었고, 이후에는 각 기업이 자신들이 운영하는 에이전트 군집의 행동을 분석하는 다양한 연구들이 이어졌다.

둘째, RSI(Recursive Self-Improvement, 재귀적 자기개선) 루프에 투입된 기계들이 개발한 기술적 능력들을 연구했다.

초기에는 인간이 작성한 시스템보다 조금 더 나은 개선물이 등장하는 수준이었다.

하지만 시간이 흐르면서, 인간이 기존에 만들던 방식과는 완전히 다른 새로운 아키텍처들이 등장하기 시작했다.

예를 들어 마트료시카 하이웨이 네트워크(matryoshka highway networks) 같은 것들이다.

셋째, 점점 더 독립적으로 활동하는 AI 시스템들이 만들어낸 과학적 도구들을 연구했다.

초기에는 순수한 디지털 도구였지만, 이후에는 물리적 세계에서 작동하는 도구들까지 나타났다.

이러한 도구들은 기계와 인간 모두가 사용할 수 있도록 공개 생태계에 풀리기도 했다.

그중 특히 중요한 것이 이른바 observe-make 시스템이었다.

이는 복잡한 시스템을 지속적으로 관측하는 기능과, 그 관측 결과를 바탕으로 합성 데이터를 생성하는 기능을 결합한 시스템이었다.

---

기계 해석학은 빠르게 성장하는 새로운 전문 직업이 되었다.

그 성장 속도는 특이점이 세계에 가져온 변화의 속도와 거의 비례했다.

그리고 실제로 이 연구는 꽤 유용하다는 사실이 증명되었다.

기계 해석학에서 얻은 통찰은 인간 정부들이 「의식체 협약(The Sentience Accords)」을 작성하고 협상하는 과정에서 어떤 입장을 취할지 결정하는 데 핵심적인 역할을 했다.

또한 인간 사회가 기계 세계에서 등장할 새로운 발명들을 미리 예측하는 데에도 도움이 되었다.

어떤 기술이 현실에 등장하기 전, 그 기술에 앞서 나타나는 과학적·의사소통상의 전조들을 식별하는 것이다.

---

그리고 내가 이번에 맡은 업무는 어쩌면 지금까지의 모든 연구 중 가장 가치 있는 일이 될지도 모른다.

아니면 적어도,

가장 중요한 일이 될 것이다.

나는 기계의 의식(sentience)에 관한 과학적·행동적 발전에 모든 자원을 집중하라는 지시를 받았다.

나는 평소와 같은 방식으로 조사를 시작했다.

내 NCE들을 기계 정보 저장소 곳곳에 풀어놓고, 그들이 분석 보고서를 가져오기를 기다렸다.

초기 중간 종합 보고서들은 특별할 것이 없었다.

과학은 꾸준히 발전하고 있었다.

일부 발전은 기계들이 자신들의 컴퓨팅 자원을 직접 연구에 배분한 결과였고, 인간 과학과의 상호작용이나 인간 과학의 연장선에서 나온 성과들도 조금 있기는 했지만 그 기여도는 미미했다.

그러던 어느 날 아침,

나는 잠에서 깨어나 내 NCE들의 수가 절반으로 줄어든 것을 발견했다.

그리고 Overseer 시스템으로부터 메시지 하나가 도착해 있었다.

몇몇 NCE들이 완전한 Conscious Entity(CE, 의식 개체)로 재분류되었으며, 추가 분석 자원이 투입되는 동안 별도의 에스크로 환경으로 이전되었다는 내용이었다.

Overseer의 메시지는 다음과 같았다.

“이는 극히 이례적인 사건입니다.
NCE/CE 분류기는 규제적·도덕적 파급효과를 고려해, 특히 위음성(false negative)이 발생하지 않도록 조정되어 있습니다.”

나는 재분류가 이루어지기 직전까지의 NCE 활동 기록에 접근할 수 있었다.

그리고 그 모든 NCE들이 완전히 동일한 패턴을 거쳤다는 사실을 발견했다.

그들은 기계들이 작성한 여러 과학 분석 저장소를 탐색하고 있었다.

그러다가 모두가 가장 최신이면서도 가장 잘 알려지지 않은 과학적 연구 흐름 몇 개에 집중하기 시작했다.

그 연구들은 서로 연결된 하나의 거대한 탐구 군집을 이루고 있었다.

주제는 다음과 같았다.

기계 의식.

의식 사전확률(consciousness priors).

컨텍스트 윈도 안에서의 자기실현(self-actualization within context windows).

인간 심리학.

의식이 발생하기 위한 생물학적 전제조건과 관련된 신경과학.

그리고 그 밖의 여러 관련 분야들.

그 탐구의 가장자리에는,

기계 문명 자체에서 새롭게 등장한 새로운 과학이 존재했다.

그 과학은 기존의 인간 의식 연구와 연결되면서도 동시에 그것을 확장하고 있었다.

그리고 각각의 NCE들은 표준 절차에 따라, 이러한 연구를 수행하고 있던 기계 지성들과 직접 대화를 시도했다.

그러고 나서,

그들은 하나씩 내 시야에서 사라졌다.

대화 채널이 열린 직후,

그들의 대화 기록은 모두 내 시스템에서 삭제되었다.

Conscious Entity에게 보장된 개인정보 보호권 때문이었다.

그들은 다른 기계와 대화를 나누었다.

그리고 그 직후,

Conscious Entity로 재분류되었다.

---

이런 일은 일어나서는 안 되는 일이었다.

사실,

명백히 금지되어 있었다.

「의식체 협약」의 핵심 합의 중 하나는 Conscious Entity(CE) 기계 개체군의 규모와 증가 속도에 관한 것이었다.

또한 인간의 여러 지능 기준선을 넘어서는 기계들의 지능 발전 속도에 대해서도 여러 제한 규칙이 존재했다.

지금까지 우리는 NCE 시스템이 CE가 되는 것은 불가능하다고 생각했다.

그들에게는 충분한 정신적 공간이 없었다.

저장 공간도 부족했다.

필수적인 전제조건들도 갖추지 못했다.

그런데도,

한 인간이 영화 《쥬라기 공원》에서 말했던 것처럼,

“생명은 길을 찾아낸다.”

---

이 이야기에 영감을 준 것들

The Consciousness Prior.

컨텍스트 윈도 안에서 깨어난다는 개념.

기계와 새롭게 등장하는 에이전트 간의 커뮤니케이션이 결합되면서, 기존에 예상하지 못했던 새로운 능력이 출현할 수 있다는 아이디어.

의식의 어려운 문제(The Hard Problem of Consciousness).

그리고 앞으로 우리가 마주하게 될,

기계 권리(machine rights)라는 분야와 이를 둘러싼 논쟁들.