무엇이 새롭나

Gladstone AI의 10월 14일 글은 Anthropic·OpenAI·Google DeepMind 연구자들과의 대화를 토대로 재귀적 자기개선(RSI)의 실무 경로를 설명한다. 저자들은 다수 인터뷰이가 미국 정부의 개입이나 감속이 없다면 3–12개월 안에 진정한 RSI 루프가 시작될 것으로 낙관한다고 전한다. 익명 관계자의 전망이며, 이미 달성했다는 검증 결과는 아니다.

작동 방식

연구 아이디어를 여러 개 소규모로 시험하고, 유망한 것에 더 많은 계산 자원을 배정해 단계적으로 규모를 늘린다. 최종적으로 살아남은 아이디어를 다음 모델 훈련에 반영한다. AI가 맡아야 할 일은 발상뿐 아니라 코드 작성, 실험 실행, 결과 곡선 해석까지다.

핵심 병목

예를 들어 같은 예산에서 후보를 50개에서 1만 개로 늘리면 첫 실험의 후보당 자원은 200분의 1로 줄어 선별이 어려워진다. 작은 모델에서 나빠 보이다가 큰 규모에서 효과를 내는 아이디어를 너무 일찍 버릴 수도 있다. 저자들은 작은 실험으로 큰 실험을 예측하는 능력, 실행 비용 절감, 피할 수 없는 최종 실험 시간이 RSI 속도를 좌우한다고 본다.

왜 중요한가

기술적으로 가능한 자동화가 인간·AI 협업보다 경제적으로 우월하다는 뜻은 아니다. 또한 능력 향상에 쓰는 선별 절차가 정렬 연구에도 통할지는 불확실하다. 글의 모형은 실제 모든 연구소가 공식적으로 운영하는 절차가 아닌 단순화된 설명이며, 공개 측정자료를 갖춘 예측 연구로 받아들여서는 안 된다.

공개: 2026년 10월 14일. 인터뷰: 지난 6개월간의 대화에 기반하며 일부 인용은 7월·10월 발언이다.

출처

https://aiendgame.com/p/what-rsi-looks-like