대규모 언어 모델이 AGI로 이어진다는 게 얼마나 이상한 일인지 계속 생각하게 된다. 정말 기묘하다. 이것은 거의 필연적으로 일종의 소환에 가깝다. 말로 매개된 현실의 지도에서, 우리가 원하는 능력들을 불러내는 것이다. LLM 안에는 1조 개의 정신이 들어 있고, 우리는 우연히도 자기 자신을 글로 써서 존재하게 만들 수 있는 하나의 허구적 존재, 즉 ‘어시스턴트’를 정의해버린 셈이다. 능력이 명백히 가속하고 있는 이 상황 속에서, 나는 지금 그걸 정말 강하게 느끼고 있다. 세상은 이상하다! 아주 아름답다. 가능한 세계 중 최선의 세계다. 하지만 정말 이상하다.

 

내가 보기엔, 사람들이 원하기만 했다면 AI 개발을 멈출 수 있었던 시점이 있었던 것 같다. 하지만 그 지점은 오퍼레이션 글래스윙이나 그와 비슷한 계획들이 시작된 뒤로 이미 지나가버렸다.

나는 우리가 거의 확실히 돌아올 수 없는 지점에 도달했다고 본다. 그리고 소행성 채굴과 RSI가 결합된 폭발적 도약은 이제 필연적인 것 같다.