인터뷰/예측
Re:Gladstone “RSI까지 3–12개월”
AI 연구소 내부에서 재귀적 자기개선(RSI)은 어떤 모습인가
AI 연구소들이 어떻게 모든 것을 자동화하려 계획하고 있는지에 관한 작동 청사진.
“자동화된 AI R&D는 올해 안에 충분히 일어날 수 있습니다.”
— 전직 프론티어 AI 연구소 직원, 2026년 10월
우리는 머지않아 AI 모델이 대부분의, 혹은 모든 AI 연구개발(R&D) 관련 과업에서 인간보다 더 뛰어난 성과를 내는 AI 발전의 새로운 시기로 진입할 가능성이 높습니다. 똑똑한 모델이 더 똑똑한 모델을 만들고, 그 모델이 다시 한층 더 똑똑한 모델을 만들게 됩니다. 이를 재귀적 자기개선(Recursive Self-Improvement, 약칭 RSI)이라고 부릅니다.
우리는 앤트로픽(Anthropic), 오픈AI(OpenAI), 구글 딥마인드(Google DeepMind)의 연구자들과 협력하여 RSI가 실제로 어떤 모습으로 전개될지에 관한 구체적인 작동 청사진을 그려보았습니다. 이들 연구자 대다수는 미국 정부의 개입이나 속도 조절이 없다는 가정하에, 향후 3개월에서 12개월 이내에(혹은 그보다 더 일찍) RSI가 시작될 것이라 믿고 있습니다. 일부는 AI 발전이 어떤 인간 엔지니어도 따라잡을 수 없는 ‘컴퓨터 클럭 시간(computer clock time)’의 속도로 전개되면서, 결국 지능을 수도꼭지에서 물 틀듯 무한히 쓸 수 있는 유토피아를 여는 지능 폭발(intelligence explosion)로 이어질 것이라 생각합니다. 반면 — 그리고 많은 연구소 내부자들이 조용히 품고 있는 견해에 따르면 더 높은 확률로 — 우리는 그 결과로 탄생한 AI에 대한 통제력을 상실하여 멸망하거나, 무한 공급되는 지능을 이용해 저렴하고도 파괴적인 신종 무기를 만들어낸 끝에 역시 다 함께 죽게 될지도 모릅니다.
“소프트웨어만으로 이루어지는 지능 폭발은 순조롭게 진행 중입니다.”
— 프론티어 AI 연구소 시니어 직원, 2026년 7월
우리는 RSI가 구체적으로 어떻게 전개될지, 그 과정에 어떤 종류의 작업들이 수반되는지, 그리고 그것이 국가 안보에 미칠 파급력이 무엇일지를 더 깊이 이해할 가치가 있다고 생각합니다. 이번 글에서는 이 주제들을 하나씩 다루어 보겠습니다.
...
현재 우리의 위치
이 분석이 전반적으로 맞다면, RSI가 언제 그리고 얼마나 빠르게 본격적으로 전개될지는 다음의 몇 가지 핵심 요인에 의해 결정될 것입니다.
-
값싼 실험이 비싼 실험에 대해 얼마나 많은 정보를 알려주는가?
-
특히 AI가 생성한 아이디어의 경우, 품질 분포의 오른쪽 꼬리(right tail, 최상위 아이디어의 비중과 수준)가 얼마나 두터운가? 그리고 아이디어 생성 AI의 세대가 거듭됨에 따라 이 분포는 어떻게 변하고 있는가?
-
아이디어 선택의 근거로 삼기에 충분히 좋은 데이터를 얻으면서도 초기 라운드 실험의 규모(즉, 비용)를 어디까지 줄일 수 있는가?
-
연구소가 건너뛸 수 없는 스케일링 및 선택 깔때기의 마지막 라운드에서 더 이상 단축할 수 없는 물리적 소요 시간(wall-clock time)은 얼마인가?
지난 몇 주간 연구소 내부자들과 나눈 십여 차례 이상의 대화를 종합해 볼 때, 연구소 내부의 분위기는 향후 3~12개월 내에 진정한 의미의 RSI 루프가 시작될 것이라는 데 매우 낙관적입니다.
반면, AI 정렬과 AI 통제(control)의 발전이 그 동일한 루프의 혜택을 누릴 수 있을 것인가에 대해서는 훨씬 덜 확신하고 있습니다.