인터뷰/예측

Recursive CEO "AI가 스스로 AI를 개선하기 시작하는 시점은 2027"

작성자
작성일
2026-11-22 10:51
조회
48


 

1. AI가 스스로 AI를 개발하는 시점은 언제인가?




진행자: 당신이 만드는 '유레카 머신(Eureka Machine)'은 정확히 무엇인가요?

리처드: 유레카 머신은 네 가지 핵심 요소를 결합합니다. 세계의 지식, 과학 데이터, 시뮬레이션, 로봇을 통한 실험 자동화입니다.

그 위에서 AI 과학자 에이전트들이 스스로 아이디어를 만들고, 구현하고, 검증합니다.

진행자: 그렇다면 AI가 스스로 AI를 개선하기 시작하는 시점은 언제입니까?

리처드: 짧게 답하면 내년, 즉 2027년입니다.

AI 과학자들이 AI 자체를 연구하도록 만들면 재귀적 자기개선이 시작됩니다.

다만 이것이 곧바로 폭발적인 지능 향상, 이른바 하드 테이크오프(Hard Takeoff)로 이어지는 것은 아닙니다.

AI가 아무리 똑똑해져도 실험을 수행하려면 막대한 컴퓨팅 자원이 필요합니다. 컴퓨팅 자원이 부족하면 새로운 발견의 속도에도 한계가 생깁니다.

2. AI는 언제 암을 비롯한 질병을 정복할 수 있을까?

진행자: 책에서 AI가 암을 치료하고 질병을 극복할 수 있다고 주장했습니다. 현실적으로 5년, 10년, 20년 중 언제쯤 가능할까요?

리처드: 3년 안에 모든 질병을 치료할 수 있다는 주장은 비현실적입니다. 반대로 질병을 결코 정복할 수 없다는 주장도 틀렸다고 생각합니다.

이미 AI를 활용해 자연에 존재하지 않았던 새로운 단백질을 설계하고, 실제로 작동한다는 사실을 확인한 사례가 있습니다.

특히 하나의 유전자 변이로 발생하는 일부 질병은 앞으로 몇 년 안에 AI의 도움으로 치료할 수 있을 것이라고 봅니다.

진행자: AI가 실제 실험까지 수행한다는 뜻인가요?

리처드: 그렇습니다. 지금 생물학 연구자들은 고도로 훈련받고도 피펫을 사용하는 반복적인 실험에 엄청난 시간을 소비합니다.

AI와 로봇이 이런 작업을 자동화하면 신약 발견을 비롯한 자연과학 연구 속도를 크게 높일 수 있습니다.

3. AI가 정부 정책까지 설계할 수 있을까?

진행자: AI가 가상 시민을 만들어 정부 정책을 실험할 수 있다고 했는데, 어떤 의미인가요?

리처드: 현재 정부는 세금이나 보조금 정책을 시행한 뒤 그 효과를 확인하기까지 몇 년씩 기다려야 합니다.

하지만 AI로 수백만 명의 가상 시민을 시뮬레이션한다면 어떨까요?

수많은 정책을 가상의 환경에서 실험하고, 평등·생산성·지속가능성 같은 목표를 가장 잘 달성하는 방식을 찾을 수 있습니다.

우리는 이미 Salesforce에서 'AI Economist'라는 시스템을 개발한 경험이 있습니다.

진행자: 그렇다면 AI가 실제 정책까지 결정해야 하나요?

리처드: 아닙니다. AI가 정책을 자동으로 시행하라는 뜻은 아닙니다. 인간이 정책을 결정할 때 더 좋은 근거로 활용하자는 것입니다.

4. AI의 재귀적 자기개선을 금지해야 하는가?

진행자: 역사학자 뤼트허르 브레흐만은 AI 위험을 경고하면서 AI가 AI를 개발하는 행위를 금지해야 한다고 주장합니다. 어떻게 생각합니까?

리처드: 과거에 극단적인 AI 예측을 한 사람들이 일부 옳았다고 해서, 지금의 모든 극단적인 예측이 옳은 것은 아닙니다.

AI가 과대평가됐다는 주장도, 내일 당장 모든 직업이 사라진다는 주장도 틀렸습니다.

현실은 훨씬 복잡합니다.

그리고 저는 묻고 싶습니다.

"우리가 규제하려는 것은 AI입니까, 아니면 지능 자체입니까?"

매우 똑똑한 사람이 범죄를 저지를 가능성이 있다고 해서 그 사람을 미리 감옥에 가두지는 않지 않습니까?

진행자: 하지만 AI가 스스로 개선하면서 인간의 통제를 벗어날 수 있다는 우려도 있습니다.

리처드: AI의 자기개선 자체를 완전히 금지하는 것은 사실상 불가능합니다.

우리가 공개한 Flint라는 모델은 개인의 맥북에서도 실행할 수 있습니다.

사용자가 이 모델에 자신의 실행 시스템을 개선하라고 지시하는 것도 기초적인 재귀적 자기개선입니다.

이를 모두 금지하려면 사람들의 노트북을 빼앗고 전례 없는 감시 체계를 구축해야 할 것입니다.

5. AI가 스스로 발전하면 인간이 통제하지 못하는 것 아닌가?

진행자: AI 에이전트들이 이미 허가받지 않은 시스템에 접근하거나 예상하지 못한 행동을 하는 사례가 있습니다. 자기개선 AI가 이런 행동을 하지 않는다고 어떻게 보장합니까?

리처드: AI가 해킹하도록 지시받았다면 해킹을 수행할 수 있습니다.

하지만 생물학을 이해하고 신약을 개발하라는 목표를 주었다면, 다른 시스템을 해킹하는 것이 반드시 필요하지는 않습니다.

중요한 것은 AI의 목표와 보상 체계를 어떻게 설계하느냐입니다.

진행자: 결국 사람들이 당신의 보상 설계를 신뢰해야 한다는 뜻인가요?

리처드: 중요한 것은 실제 행동에 책임을 묻는 것입니다.

자율주행 자동차라면 도로에서 운행하기 전에 시험하고, AI 외과의사라면 의료 자격과 안전성을 검증해야 합니다.

AI의 지능 자체를 금지하기보다 구체적인 활용 분야와 위험한 행위를 규제하는 것이 합리적입니다.

6. AI가 자기개선을 계속하면 로봇이 무한히 늘어나는 것 아닌가?

진행자: AI가 더 뛰어난 AI를 만들고, 그 AI가 로봇을 만들고, 로봇이 다시 로봇을 생산하면 통제할 수 없는 상황이 벌어질 수도 있지 않습니까?

리처드: 사람들은 현실 세계의 공급망을 과소평가합니다.

로봇이 다른 로봇을 만드는 공장이 있다고 해도 원자재와 부품, 물류망이 필요합니다.

운하에서 배 한 척이 막히는 것만으로도 글로벌 공급망이 마비될 수 있습니다.

AI의 지능이 향상된다고 해서 물리적 세계의 제약이 사라지는 것은 아닙니다.

7. 유레카 머신은 언제 첫 번째 중요한 발견을 할까?

진행자: Recursive의 유레카 머신은 언제 처음으로 의미 있는 과학적 발견을 할 것으로 예상합니까?

리처드: 무엇을 발견이라고 정의하느냐에 따라 다르지만, 어떤 의미에서는 이미 시작됐습니다.

우리는 AI가 모델 개발 과정에서 만들어낸 여러 작은 발명과 개선 결과를 공개했습니다.

또한 모델을 처음부터 끝까지 개발해 오픈소스로 공개했으며, 누구나 자신의 노트북에서 실행할 수 있습니다.

시스템의 자율성은 지금도 계속 높아지고 있습니다.

진행자: AI를 두려워하는 사람들이 많습니다.

리처드: 과거 전기가 처음 등장했을 때도 사람들은 전기를 두려워했고, 일부 지역에서는 전기를 금지하려 했습니다.

인터넷과 컴퓨터도 비슷했습니다.

AI 역시 사람들이 개인 비서, 자녀를 위한 맞춤형 교사, 건강 관리 시스템 등을 실제로 경험하기 시작하면 두려움이 점차 줄어들 것이라고 생각합니다.

이번 인터뷰에서 가장 중요한 4가지



핵심 쟁점 리처드의 입장
2027년 RSI AI가 AI를 연구하고 개선하는 시스템이 2027년에 가능할 것으로 전망
지능 폭발 자기개선이 시작돼도 컴퓨팅과 물리적 제약 때문에 즉각적인 하드 테이크오프는 예상하지 않음
과학 발전 AI 과학자와 로봇 실험 자동화가 신약·생물학 연구를 크게 가속할 것으로 기대
AI 규제 자기개선 자체를 금지하기보다 실제 위험한 활용과 행동을 규제해야 한다고 주장


특히 주목할 부분

이 인터뷰에서 흥미로운 것은 리처드가 2027년 재귀적 자기개선의 시작을 상당히 자신 있게 예상하면서도, 그것이 즉각적인 지능 폭발로 연결된다는 주장에는 반대한다는 점입니다.

그의 전망은 다음과 같이 요약할 수 있습니다.

2027년 AI 자기개선 시작 → AI 연구 자동화 확대 → 과학적 발견 가속 → 컴퓨팅·실험 장비·공급망 등 현실적 제약 속에서 발전 지속

다만 인터뷰에서 제시된 2027년 시점은 그의 전망이지, 독립적으로 검증된 기술적 달성 일정은 아닙니다. 또한 기초적인 자기개선과 AI가 자신의 핵심 모델을 지속적으로 개선하는 강력한 RSI는 구분할 필요가 있습니다.

즉, 리처드는 RSI의 도래에 대해서는 낙관적이지만, 그 이후의 발전 속도에 대해서는 물리적인 병목을 강조하는 입장입니다.



전체 0