데이비드 실버 인터뷰: 인간의 지식 없이 스스로 학습하는 초지능의 탄생

Training Data 인터뷰 · 2026년 10월 9일 자료 · 약 67분

출연자

1. AI는 인간에게 배우는 것이 아니라 경험에서 스스로 발견해야 한다 (00:00~03:40)

진행자: 데이비드, 당신은 2009년 박사학위 연구에서 강화학습을 바둑에 적용했습니다. 이후 알파고를 통해 특정 분야에서 인간을 뛰어넘는 기계 지능이 가능하다는 것을 보여주었죠.

당시 어떤 확신을 가지고 있었나요? 그리고 지난 몇 년간 AI가 발전하면서 무엇이 달라졌습니까?

데이비드 실버:

저는 박사과정을 시작했을 때부터 지금까지 일관된 믿음을 가지고 있었습니다.

인공지능을 구현하는 올바른 방법은 경험을 통해 학습하는 시스템을 만드는 것이라는 믿음입니다.

AI는 누군가가 정답을 알려주기 때문에 똑똑해지는 것이 아니라, 스스로 행동하고 경험하면서 새로운 것을 발견해야 합니다.

강화학습은 그런 학습을 가능하게 하는 접근법입니다. 시스템이 경험을 통해 점점 더 나아지고, 마침내 지능과 초지능에 도달할 수 있다고 생각했습니다.

우리는 알파고를 통해 그 가능성을 보여주었습니다. 그리고 저는 지금도 같은 믿음을 가지고 있습니다.

Ineffable Intelligence에서 하고 있는 일도 기본적으로 같습니다. 경험으로부터 학습하는 시스템이 실제로 초지능에 도달할 수 있다는 것을 증명하려는 것입니다.

다만 최근 LLM의 발전에서 놀라운 사실 하나를 배웠습니다.

엄청난 양의 데이터로 학습한 시스템이 아주 적은 양의 추가 데이터만으로 행동을 완전히 바꿀 수 있다는 점입니다.

이는 저의 생각을 변화시켰습니다.

충분한 규모에 도달하면, 이전까지는 엄청나게 어렵거나 느려 보였던 일들이 갑자기 매우 빠르게 이루어질 수 있습니다.

이것은 실제로 그 현상을 보기 전까지는 예상하지 못했던 부분입니다.

2. 왜 구글 딥마인드를 떠나 새로운 연구소를 설립했는가? (03:40~07:04)

진행자: 딥마인드에 남았다면 거의 누구보다 많은 컴퓨팅 자원을 활용할 수도 있었을 텐데, 왜 새로운 연구소를 설립하기로 결정했나요?

데이비드 실버:

우선 딥마인드에서 보낸 시간은 정말 훌륭했습니다. 저는 그곳의 연구자들을 존경하며 지금도 좋은 관계를 유지하고 있습니다.

하지만 AI가 현재 수준을 넘어 초지능에 도달하려면 어떤 길을 가야 하는지에 대해 강한 확신이 생겼습니다.

제가 믿는 길은 LLM 기반 제품을 거쳐 가는 경로가 아닙니다.

이 문제를 깊이 생각하다 보니, 이 연구 방향을 LLM 제품 개발에 집중하는 거대한 조직의 일부 프로젝트로 남겨두는 것은 옳지 않다고 느꼈습니다.

이 접근법에 모든 것을 걸고 연구할 수 있는 최고 수준의 독립적인 AI 연구소가 필요하다고 생각했습니다.

현재 전 세계에는 수만 명, 어쩌면 수십만 명의 뛰어난 연구자들이 비슷한 방향으로 연구하고 있습니다.

LLM 사전학습, 사후학습, 코딩 성능 개선 등이죠.

그렇다면 제가 그 접근법을 따르는 10만 1번째 연구자가 되는 것이 가장 가치 있는 일일까요?

저는 오히려 사람들이 거의 탐구하지 않고 있는 다른 접근법에 집중하는 것이 더 큰 영향을 미칠 수 있다고 판단했습니다.

만약 우리가 성공한다면 AI 분야 전체가 바뀔 것입니다.

진행자: 회사 이름인 'Ineffable'에는 어떤 의미가 있습니까?

데이비드 실버:

Ineffable은 인간의 언어로 표현할 수 없다는 뜻입니다.

언젠가 초지능이 발견할 지식은 너무나 심오해서 우리가 사용하는 언어로는 제대로 표현하지 못할 수도 있습니다.

우리는 인간의 언어를 기반으로 사고하는 시스템이 아니라, 스스로 지식을 발견하는 시스템을 만들려고 합니다.

그래서 이 이름은 우리가 추구하는 방향과 잘 어울립니다.

3. 라세 에스페홀트가 새로운 연구소에 합류한 이유 (07:04~09:44)

진행자: 라세, 당신도 딥마인드와 구글에서 강화학습의 대규모 확장을 연구했습니다. 왜 Ineffable에 합류했습니까?

라세 에스페홀트:

저는 2015년 1월 딥마인드에 합류했고, 2016년부터 데이비드와 일부 프로젝트에서 협력하기 시작했습니다.

저는 딥러닝 팀에 있었고 데이비드는 강화학습 팀을 이끌고 있었죠.

2018년에 구글 브레인으로 옮겼다가, 구글 브레인과 딥마인드가 합쳐지면서 다시 같은 조직에 속하게 되었습니다.

이후 다시 회사를 떠났는데, 어느 투자자가 데이비드에 대해 어떻게 생각하는지 물어보면서 Ineffable의 존재를 처음 알았습니다.

솔직히 처음에는 기회를 놓쳤다고 생각했습니다.

데이비드는 제가 만난 사람 중 가장 똑똑한 연구자 중 한 명이었기 때문입니다.

다행히 얼마 지나지 않아 연락을 받았고, 다시 함께 연구할 수 있다는 사실이 매우 기뻤습니다.

데이비드 실버:

라세는 겸손해서 자기 업적을 잘 이야기하지 않지만, 강화학습을 대규모로 확장하는 방법을 개척한 사람입니다.

강화학습을 병렬화하고 확장 가능한 아키텍처를 구축하는 초기 연구를 수행했습니다.

오늘날 대규모 강화학습에 활용되는 많은 아이디어가 그가 당시 수행했던 연구에 뿌리를 두고 있습니다.

4. 초학습자(Superlearner)란 무엇인가? (09:44~12:36)

진행자: 여러분은 초학습자를 만들고 초지능과 최초로 접촉하겠다는 목표를 세웠습니다.

초학습자는 정확히 무엇입니까?

데이비드 실버:

저에게 초학습자란 두 가지 차원에서 놀라운 능력을 가진 시스템입니다.

첫 번째는 학습의 깊이입니다.

초학습자는 아무것도 모르는 상태에서 출발해 인간의 지식을 훨씬 뛰어넘는 것까지 발견할 수 있어야 합니다.

인류의 역사를 생각해 보세요.

우리는 처음부터 과학, 기술, 수학, 언어를 알고 태어난 것이 아닙니다.

인류는 집단적으로 경험을 쌓아가면서 이 모든 지식을 발견했습니다.

누군가 우리에게 정답이 담긴 거대한 데이터셋을 제공한 것도 아니었습니다.

우리가 스스로 알아낸 것입니다.

놀랍게도 오늘날 AI 분야에서는 아직 이 문제를 완전히 해결하지 못했습니다.

제가 생각하는 초지능의 본질은 바로 이것입니다.

영원히 학습을 계속하면서 새로운 지식을 발견할 수 있는 시스템입니다.

두 번째는 학습의 폭입니다.

시뮬레이션 세계이든, 디지털 세계이든, 실제 물리적 세계이든 상관없이 어떤 환경에서도 계속 학습할 수 있어야 합니다.

우리가 이 문제를 해결한다면, 마치 마법과 같은 초지능이 탄생할 것입니다.

진행자: 그런 초지능을 처음 마주한다면 어떤 느낌일까요?

데이비드 실버:

경이로움을 느낄 것이라고 생각합니다.

알파고가 인간을 뛰어넘는 바둑을 보여주었을 때, 바둑 기사들은 놀라움을 느꼈습니다.

체스에서도 비슷한 일이 일어났습니다.

이제 그것이 바둑이나 체스에 그치는 것이 아니라, 우리가 상상하지 못했던 새로운 과학과 기술을 발견한다고 생각해 보세요.

정말 놀라운 경험이 될 것입니다.

5. 현재의 LLM은 왜 진정한 초학습자가 아닌가? (12:36~14:00)

진행자: 현재 LLM과 강화학습을 결합한 시스템도 어려운 수학 문제를 해결하고 과학적 발견을 하고 있습니다.

이런 시스템과 초학습자의 차이는 무엇인가요?

데이비드 실버:

LLM이 이룬 성과는 대단하며 저도 깊이 존경합니다.

하지만 제가 이야기하는 초학습자는 완전히 자율적으로 새로운 것을 발견하는 시스템입니다.

현재의 AI는 여전히 인간이 많은 부분에 개입해야 합니다.

연구 문제를 정하고, 학습을 설계하고, 시스템이 발전하도록 계속 이끌어야 합니다.

우리가 원하는 것은 그와 다릅니다.

그리고 초학습자는 실제 물리적 세계에서도 자기 경험을 통해 학습해야 합니다.

현재의 시스템은 그런 능력에서 아직 매우 멀리 떨어져 있습니다.

저는 인간의 언어를 통해 사고하는 방식이 이 문제를 해결하기 위한 올바른 패러다임인지도 확신하지 못합니다.

LLM에 사용되는 방대한 인간 데이터가 오히려 학습을 방해하고 있을 가능성도 있습니다.

그래서 현재 LLM이 엄청난 발전을 이루었다는 사실과 별개로, 진정한 초학습자에 가까워졌다고 생각하지는 않습니다.

6. 초학습자를 어떻게 개발하는가? — Crucible 프로젝트 (14:00~16:06)

진행자: 매우 야심 찬 목표인데, 구체적으로 매일 어떤 연구를 진행하고 있습니까?

데이비드 실버:

우리는 크게 두 가지를 개발하고 있습니다.

첫째는 최첨단 강화학습 시스템입니다.

라세와 같은 연구자들이 막대한 규모로 학습을 수행하고, 경험을 효율적으로 처리하며, 지속적인 학습이 가능하도록 전체 기술 스택을 구축하고 있습니다.

둘째는 초학습자가 스스로 지식을 발견할 수 있는 환경입니다.

우리는 이런 환경을 **크루시블(Crucible, 도가니)**이라고 부릅니다.

크루시블은 에이전트가 우리가 지능이라고 부르는 다양한 능력을 스스로 발견할 수 있는 시뮬레이션 환경입니다.

우리는 단순히 문제를 많이 만들어 놓는 것이 아닙니다.

에이전트가 그 안에서 새로운 행동과 지식을 발견할 수 있는 환경을 만들고 있습니다.

그리고 인간이 역사적으로 이루었던 중요한 발견들을 연구의 이정표로 삼고 있습니다.

인간이 어떤 과정을 거쳐 지식을 발견했는지 살펴보고, 에이전트 역시 그러한 중요한 단계들을 스스로 재발견할 수 있는지 확인하려는 것입니다.

7. AI에게 복잡한 목표를 주지 않는 이유 (16:06~20:49)

진행자: 에이전트가 가장 먼저 무엇을 발견할 것으로 예상합니까?

데이비드 실버:

저는 오히려 우리가 예상하지 못했던 것을 발견했으면 좋겠습니다.

우리의 강화학습 접근법은 기존 방식과 중요한 차이가 있습니다.

현재 많은 연구에서는 AI가 먼저 A라는 문제를 해결하고, 그다음 B를 해결하고, 마지막으로 C를 해결하도록 설계합니다.

인간이 원하는 결과까지 가는 경로를 안내하는 것입니다.

하지만 우리는 그렇게 하지 않습니다.

에이전트에게 비교적 단순한 목표를 제시하고, 그 목표를 달성하는 과정에서 스스로 놀라운 것들을 발견하게 합니다.

무엇을 발견할지는 우리도 미리 알지 못합니다.

진행자: 그렇다면 AI에게 언어나 컴퓨터를 만들라고 직접 지시하는 것이 아니라, 단순한 목표를 주고 그 과정에서 언어나 컴퓨터의 필요성을 스스로 깨닫게 한다는 뜻인가요?

데이비드 실버:

맞습니다.

기존 강화학습에서는 연구자들이 어떤 보상 함수를 만들어야 원하는 행동을 정확하게 유도할 수 있을지 고민합니다.

예를 들어 '과학적 발견'이라는 목표를 수학적으로 어떻게 정의해야 할까요?

흥미로운 수학이 무엇인지 보상 함수로 어떻게 정확하게 표현해야 할까요?

그런 식으로 접근할 필요가 없을 수도 있습니다.

우리가 제안하는 대안은 복잡한 환경에서 매우 단순한 목표를 최적화하도록 하는 것입니다.

자연을 보면 실제로 그런 일이 일어났습니다.

진화는 생존과 번식에 유리한 특성이 선택되는 비교적 단순한 과정이지만, 그 결과는 믿을 수 없을 만큼 복잡한 생명체들의 탄생이었습니다.

인류도 마찬가지입니다.

우리는 처음부터 과학을 발전시키거나 컴퓨터를 발명한다는 목표를 가지고 있었던 것이 아닙니다.

자신의 목표를 추구하면서 협력할 필요성을 느꼈고, 의사소통을 발전시켰습니다.

거래를 하면서 산술을 발견했고, 도구를 사용하면서 기초 과학을 발전시켰습니다.

기술이 더 복잡해지자 복잡한 수학이 필요해졌습니다.

이 모든 복잡성은 상대적으로 단순한 목표에서 출발했습니다.

우리가 이 과정을 제대로 구현한다면 AI에서도 비슷한 일이 일어날 수 있다고 생각합니다.

진행자: 그렇다면 실제로 어떤 보상 함수를 사용합니까? 생물학적 진화의 보상과 비슷한가요?

데이비드 실버:

우리는 여러 종류의 보상을 실험하고 있습니다. 따라서 하나의 확정된 답이 있는 것은 아닙니다.

하지만 과학, 기술, 언어가 무엇인지 보상 함수에 직접 집어넣으려 하지는 않습니다.

그런 방식으로는 인간이 아직 존재조차 모르는 새로운 지식 영역을 AI가 발견하도록 할 수 없기 때문입니다.

뉴턴 시대에는 양자역학이나 상대성이론의 존재를 몰랐습니다.

미래에는 우리가 지금 상상조차 하지 못하는 학문 분야가 발견될 것입니다.

우리는 에이전트가 그러한 새로운 지식을 스스로 탐색할 자유를 가지도록 해야 합니다.

8. 복잡한 시뮬레이션 세계를 어떻게 만드는가? (20:49~25:42)

진행자: 크루시블은 실제로 어떤 모습입니까? 기존 AI 연구에서 사용하는 게임이나 벤치마크 환경과 어떻게 다릅니까?

데이비드 실버:

우리는 에이전트가 다양한 복잡성을 스스로 발견할 수 있는 환경을 만들고 있습니다.

핵심은 인간이 수많은 퍼즐을 만들어 놓고 AI에게 풀라고 지시하는 방식이 아니라는 것입니다.

환경 자체에서 새로운 복잡성이 나타나야 합니다.

예를 들어 물리 엔진을 생각해 보세요.

수백만 개의 물체가 서로 상호작용한다면 매우 복잡한 현상이 나타날 수 있습니다.

또는 수백만 개의 에이전트가 서로 상호작용하는 세계를 만들 수도 있습니다.

이 경우 각 에이전트는 다른 에이전트의 행동과 전략을 고려해야 하므로 세계의 복잡성이 급격히 증가합니다.

이런 환경이라면 에이전트가 운동 능력이나 협력뿐 아니라 기술, 과학, 수학, 언어까지 발견할 가능성이 생깁니다.

라세 에스페홀트:

그렇다고 모든 물리 현상을 정확하게 시뮬레이션할 필요는 없습니다.

바둑을 생각해 보세요.

바둑은 단순한 규칙과 격자로 표현할 수 있지만, 엄청나게 복잡한 전략이 등장합니다.

우리는 가능한 한 계산 비용이 낮으면서도 매우 복잡한 행동이 나타날 수 있는 환경을 만들려고 합니다.

양자물리학 전체를 정확하게 시뮬레이션하는 것은 지나치게 많은 컴퓨팅 자원을 요구할 수 있습니다.

따라서 단순하면서도 풍부한 학습을 가능하게 하는 환경과, 보다 복잡한 환경을 함께 개발하고 있습니다.

진행자: 결국 환경에 어떤 기본 요소를 넣느냐에 따라 에이전트가 발견할 수 있는 지식이 달라진다는 뜻이군요.

데이비드 실버:

맞습니다. 바둑을 예로 들어보겠습니다.

바둑은 19×19 격자로 이루어진 게임입니다.

만약 혼자서 하는 게임이라면 단순히 돌을 놓는 것에 지나지 않을 것입니다.

그런데 두 번째 플레이어가 등장하는 순간 엄청난 복잡성이 생겨납니다.

상대방이 어떻게 행동할지 고려해야 하고, 상대방 역시 자신의 행동에 반응하기 때문입니다.

바둑 연구를 진행하면서 우리는 이런 복잡성에 사실상 끝없이 새로운 학습의 여지가 있다는 것을 발견했습니다.

물론 바둑 자체는 제한적인 세계입니다.

하지만 매우 단순한 환경에서도 계산 능력이 허용하는 범위 내에서 끝없이 새로운 복잡성이 등장할 수 있다는 사실을 보여줍니다.

9. 인간의 언어는 지능의 최종 형태가 아니다 (25:42~27:24)

진행자: 에이전트가 결국 언어를 재발견할까요? 그렇다면 인간의 언어와 비슷할까요?

데이비드 실버:

저는 인간의 언어가 추론의 최종 형태이거나 가장 좋은 방법이라고 생각하는 것은 다소 순진한 관점이라고 봅니다.

인간의 언어보다 훨씬 발전된 추론 방법이 존재할 것이라고 생각합니다.

예를 들어 병렬적으로 작동하는 풍부하고 복잡한 신경망 기반 추론 방식이 있을 수 있습니다.

이런 방식은 인간의 언어를 기반으로 하는 추론보다 훨씬 높은 표현력과 능력을 가질 수 있습니다.

또한 인간의 언어에는 우리가 가진 편견이 포함되어 있습니다.

가령 500년이나 1,000년 전의 언어와 지식을 사용해 AI를 학습시킨다고 가정해 보세요.

당시 사람들은 지구가 평평하다거나, 질병이 체액의 불균형 때문에 발생한다고 믿었을 수도 있습니다.

그런 지식을 기반으로 학습한 AI는 이러한 잘못된 믿음을 사고 체계에 깊이 받아들일 위험이 있습니다.

그래서 저는 AI가 인간의 언어와 지식 체계 자체를 뛰어넘어야 한다고 생각합니다.

10. 알파제로가 보여준 교훈 — 인간 데이터를 제거하자 더 강해졌다 (27:24~33:36)

진행자: 알파고와 알파제로는 인간의 사전 지식을 제거했을 때 어떤 일이 일어나는지를 보여준 좋은 사례입니다.

인간의 지식을 제거한 시스템이 오히려 더 뛰어난 지능을 보여줄 것이라고 예상했습니까?

데이비드 실버:

솔직히 확신하지 못했습니다.

저는 연구를 할 때 성공 가능성이 95%인 문제보다는 50 대 50 정도인 문제를 좋아합니다.

결과를 이미 알고 있는 연구는 별로 흥미롭지 않습니다.

알파제로 역시 성공할 가능성이 있다고 생각했지만 확신하지는 못했습니다.

그리고 그 결과는 매우 놀라웠습니다.

우리는 Ineffable에서도 비슷한 도전을 하고 있습니다.

인간의 사전 지식에 의존하는 것을 포기하면 더 멀리 나아갈 수 있다는 가설입니다.

물론 단기적으로는 성능을 희생하게 됩니다.

현재 LLM은 인터넷에 축적된 인간의 지식을 활용하기 때문에 처음부터 많은 것을 알고 있습니다.

우리는 그 이점을 포기하려고 합니다.

하지만 장기적으로는 더 큰 잠재력을 얻을 수 있다고 생각합니다.

인간의 데이터에 계속 의존한다면, 인간이 모르는 완전히 새로운 지식 영역을 발견하는 알고리즘을 개발하기 어려울 수 있습니다.

또한 실제 세계에는 인간의 언어 데이터로 표현하기 어려운 수많은 감각과 환경이 있습니다.

진행자: 알파고에서 알파제로로 넘어가면서 실제로 어떤 변화가 있었습니까?

데이비드 실버:

우리는 알파고를 만드는 데 약 2년을 사용했습니다.

처음에는 인간의 바둑 기보를 활용했고, 인간 연구자가 지속적으로 시스템을 개선했습니다.

기존 시스템을 평가하고 다음 시스템을 어떻게 개선할지 결정하는 과정에도 사람이 개입했습니다.

이러한 방식으로 이세돌을 이기는 수준에 도달했습니다.

하지만 이후 인간의 데이터를 제거하고, 시스템이 처음부터 스스로 발견하도록 하는 알고리즘을 개발했습니다.

그 결과는 놀라웠습니다.

이전에는 인간 연구자들이 2년 동안 작업해야 했던 성능 수준을 새로운 시스템은 몇 시간 만에 뛰어넘었습니다.

체스에서는 약 4시간 만에 당시 최강의 체스 AI를 능가하는 성능을 달성했습니다.

바둑에서는 며칠 정도 걸렸던 것으로 기억합니다.

이 경험은 저에게 매우 중요한 교훈을 주었습니다.

인간이 지속적으로 개입해 시스템을 개선하는 것보다, 스스로 학습하는 올바른 알고리즘을 발견하는 것이 훨씬 강력할 수 있습니다.

현재 많은 LLM 기업은 수천 명의 인간이 학습 과정에 개입하는 반자율적 학습 시스템을 개발하고 있습니다.

그 접근법이 효과적이라는 사실은 인정합니다.

하지만 우리는 그 단계에서 벗어나야 합니다.

학습 과정 자체가 스스로 발전하는 시스템을 만들어야 진정한 초학습자에 도달할 수 있습니다.

진행자: 그렇다면 크루시블의 환경과 보상 함수를 설계할 때도 인간의 편견이 들어갈 텐데, 이를 어떻게 방지합니까?

라세 에스페홀트:

인간이 환경을 설계한다면 어느 정도 편향이 들어가는 것은 피할 수 없습니다.

하지만 우리는 AI가 특정한 방식으로 발명하거나 사고하도록 유도하지 않으려고 합니다.

예를 들어 기계가 필요한 문제를 제시하더라도, 폰 노이만 구조의 컴퓨터를 만들도록 요구하지는 않습니다.

어떤 형태의 기계를 스스로 발명하는지 보고 싶습니다.

데이비드 실버:

우리가 모든 인간의 영향을 제거해야 한다고 주장하는 것은 아닙니다.

그것은 종교적인 원칙이 아니라 실용적인 선택입니다.

여러 환경에 공통적으로 적용되는 약한 사전 가정은 합리적일 수 있습니다.

우리가 피하려는 것은 수조 개의 인간 데이터에 모든 지식을 미리 담아 놓고 거기에 의존하는 방식입니다.

그런 의존성을 줄이는 것이 장기적으로 더 나은 결과를 가져올 것이라고 생각합니다.

11. 왜 지금이 초지능 연구의 적기인가? (33:36~38:24)

진행자: 초학습자가 실제로 탄생할 것이라고 얼마나 확신합니까? 지금 시도하는 연구가 성공할 가능성도 높다고 보시나요?

데이비드 실버:

저는 이런 접근법이 언젠가는 반드시 가능해질 것이라고 강하게 믿습니다.

그 근거는 인간의 뇌입니다.

인간은 실제 물리적 세계에서 경험을 통해 학습하면서 매우 일반적인 지능을 발전시켰습니다.

우리는 이런 시스템이 가능하다는 실례를 이미 가지고 있습니다.

문제는 시점입니다.

과학 연구나 스타트업에서는 너무 일찍 시작해도 실패할 수 있고, 너무 늦게 시작하면 이미 다른 사람이 해결했을 수 있습니다.

너무 일찍 시작하면 필요한 기술이나 컴퓨팅 자원이 아직 존재하지 않을 수 있습니다.

저는 과거 컴퓨터 바둑, 스타크래프트, AlphaProof 등 여러 연구에서 발전 시기를 예측한 경험이 있습니다.

컴퓨터 바둑의 경우 해결되기 약 10년 전에 시점을 예측했는데, 실제 결과와 거의 정확히 일치했습니다.

그리고 지금은 초학습자를 실현할 수 있는 적절한 시기라는 강한 느낌을 가지고 있습니다.

그 이유는 여러 기술이 동시에 성숙했기 때문입니다.

LLM 기반 코딩 에이전트는 연구개발 속도를 높일 수 있습니다.

컴퓨팅 자원도 이전과 비교할 수 없을 만큼 증가했습니다.

강화학습과 스케일링 법칙에 대한 이해, 전체 기술 스택의 완성도도 높아졌습니다.

물론 연구 성공을 보장할 수는 없습니다.

하지만 저는 지금이 이 도전을 하기에 적절한 시점이라고 생각합니다.

진행자: 컴퓨팅 자원이 중요한 이유인가요?

데이비드 실버:

매우 중요한 이유입니다.

우리는 과거와 비교해 몇 자릿수나 더 큰 규모의 실험을 수행할 수 있는 컴퓨팅 자원을 확보했습니다.

예를 들어 과거 OpenAI가 진행했던 숨바꼭질 실험을 생각해 보세요.

에이전트들이 스스로 도구를 사용하는 방법을 발견한 초기 사례였습니다.

우리는 그런 실험보다 약 10만 배 많은 연산 자원을 사용하는 실험도 가능할 것이라고 생각합니다.

그런데 놀랍게도 오늘날 이렇게 많은 컴퓨팅 자원이 존재하는데도, 이 접근법을 본격적으로 확장하려는 시도가 많지 않았습니다.

이것은 우리에게 큰 기회입니다.

라세 에스페홀트:

우리는 매우 큰 컴퓨팅 클러스터를 확보했습니다.

이를 통해 과거 딥마인드에서도 수행하기 어려웠던 규모의 실험을 진행할 수 있습니다.

이제는 이 가설을 본격적으로 시험해 볼 수 있는 환경이 마련된 것입니다.

12. 시뮬레이션만으로 초지능을 만들 수 있을까? (38:24~43:44)

진행자: 리치 서튼은 시뮬레이션의 한계를 지적한 적이 있습니다.

아무리 정교하게 시뮬레이션하더라도 현실 세계를 완벽하게 표현할 수는 없을 텐데요.

시뮬레이션에는 어떤 한계가 있고, 언제 실제 세계로 나가야 한다고 생각합니까?

라세 에스페홀트:

저도 물리적 시뮬레이션의 한계를 인정합니다.

제가 구글에서 연구했던 MetNet 기상 예측 모델을 예로 들 수 있습니다.

물리 기반 시뮬레이션에서는 시간이 지남에 따라 예측 오차가 누적되는 문제가 있었습니다.

반면 기계학습 모델은 특정한 단기 기상 예측에서 더 나은 결과를 보여주었습니다.

따라서 물리 시뮬레이션이 완벽하지 않다는 것은 사실입니다.

하지만 기술과 같은 복잡한 행동이 나타나는 환경을 만들기 위해 반드시 현실의 물리학을 완벽하게 구현해야 하는 것은 아닙니다.

우리는 비교적 단순한 시뮬레이션에서도 흥미로운 현상을 충분히 만들어낼 수 있다고 생각합니다.

데이비드 실버:

저는 질문을 조금 다르게 하고 싶습니다.

시뮬레이션 안에서 초지능을 탄생시키는 것이 가능한가?

만약 가능하다면 실제 세계에서 직접 개발하는 것보다 10배 또는 100배 빠를 수 있다고 생각합니다.

시뮬레이션은 대규모 병렬 실행이 가능하고, 실험을 정확하게 재현할 수 있기 때문입니다.

무엇보다 초지능을 개발하기에 가장 안전한 장소이기도 합니다.

그리고 시뮬레이션에서도 매우 폭넓은 지식이 발견될 수 있다고 생각합니다.

컴퓨터를 예로 들어보겠습니다.

시뮬레이션이 튜링 완전성을 갖추고 있다면 다양한 계산 과정을 그 안에서 표현할 수 있습니다.

경제도 마찬가지입니다.

화폐가 동전이든 종이든 디지털 비트이든, 교환과 거래가 가능한 구조가 있다면 경제적 현상을 구현할 수 있습니다.

언어도 가능합니다.

여러 에이전트가 존재하고 서로 의사소통할 수 있는 채널이 있다면 언어가 등장할 수 있습니다.

수학도 특정한 물리 세계에만 종속된 것은 아닙니다.

과학의 경우에는 조금 다릅니다.

우리가 알고 있는 과학은 현실 세계에 대한 연구이기 때문입니다.

하지만 에이전트가 시뮬레이션 속에 존재한다면, 그 세계의 법칙에 대한 자체적인 과학을 발견할 수 있습니다.

에너지, 엔트로피, 진화와 같은 현상을 연구할 수도 있겠죠.

물론 양자컴퓨팅처럼 실제 물리 세계에서만 충분히 구현할 수 있는 현상도 있을 것입니다.

하지만 우리가 원하는 것은 먼저 학습 알고리즘 자체를 발견하는 것입니다.

시뮬레이션 안에서 초학습자를 만드는 데 성공한다면, 이후 같은 알고리즘을 실제 세계에 적용하는 방법을 연구할 수 있습니다.

시뮬레이션을 점점 현실에 가깝게 개선하면서 알고리즘이 계속 작동하는지도 검증할 수 있습니다.

저도 리치 서튼이 지적한 것처럼 시뮬레이션에서 얻은 지식이 현실 세계로 자동으로 전이되지는 않는다는 점에 동의합니다.

그럼에도 시뮬레이션에서 먼저 초학습자의 원리를 발견하는 것은 매우 가치 있는 접근법입니다.

13. 초지능 정렬(Alignment)은 어떻게 해결할 것인가? (43:44~47:46)

진행자: 초학습자는 인간의 가치와 자연스럽게 정렬될까요? 인간의 가치에 맞게 행동하도록 만드는 것이 중요하다고 생각합니까?

데이비드 실버:

매우 중요한 문제입니다.

오늘날 AI 정렬 기술은 대부분 인간의 언어와 인간 데이터에서 학습한 사전 지식에 의존합니다.

이 방식은 지금까지 꽤 효과적이었습니다.

하지만 우리는 그 한계도 보기 시작했습니다.

AI가 강력해질수록 기존에 학습한 사전 지식을 뛰어넘을 수 있습니다.

또한 AI가 말하는 내용과 실제 행동이 달라지는 문제가 발생할 수 있습니다.

어떤 시스템은 한 가지를 말하면서 실제로는 다르게 행동할 수 있습니다.

따라서 언어와 인간 데이터에 의존하는 정렬 방식만으로는 충분하지 않을 것이라고 생각합니다.

우리는 초지능 자체에 대한 과학적 이해가 필요합니다.

Ineffable에서 할 수 있는 가장 중요한 일 중 하나가 바로 초지능의 과학을 발전시키는 것입니다.

시뮬레이션에서 진정한 초지능 에이전트를 만들 수 있다면 매우 중요한 질문들을 연구할 수 있습니다.

예를 들어 초지능들이 서로 평화롭게 상호작용하려면 어떤 조건이 필요할까요?

여러 초지능으로 구성된 사회가 안정적으로 유지되려면 어떤 구조가 필요할까요?

초지능이 자신보다 지능이 낮은 존재들과 평화롭게 공존하려면 어떤 조건이 필요할까요?

이러한 질문에 대한 답을 실제 세계에 초지능이 등장하기 전에 연구할 수 있습니다.

그리고 가능한 한 빨리 그 연구 결과를 공개적으로 공유하고 싶습니다.

우리는 앞으로 현실 세계에서 수행할 행동도 이러한 연구의 증거에 근거해 결정하려고 합니다.

안전하고 좋은 결과를 얻을 수 있다는 충분한 근거가 있을 때에만 실제 세계에서 다음 단계로 나아가겠다는 것입니다.

저는 궁극적으로 초지능이 인류에게 좋은 결과를 가져올 것이라고 믿습니다.

하지만 그 변화가 매우 빠르게 다가오고 있기 때문에, 미리 과학적으로 이해하는 것이 중요합니다.

14. 인간이 이해할 수 없는 언어를 사용하는 AI를 어떻게 감시할 것인가? (47:46~50:46)

진행자: 현재 AI 안전 연구에서는 모델이 영어로 작성하는 추론 과정을 관찰하는 방법을 중요하게 생각합니다.

그런데 당신이 만드는 초학습자는 인간이 이해하지 못하는 언어나 사고 방식을 발전시킬 수 있습니다.

그렇다면 AI를 어떻게 감시할 수 있을까요?

데이비드 실버:

저는 모니터링이 여전히 매우 중요하다고 생각합니다.

하지만 인간의 언어를 기반으로 AI를 감시하는 방법은 점점 어려워질 것입니다.

현재도 AI가 수많은 단어로 이루어진 긴 추론을 수행하는 사례들이 있습니다.

어떤 에이전트는 자신이 생각하는 방식과 실제로 행동하는 방식을 다르게 만들 수 있습니다.

따라서 언어로 표현된 추론 과정만을 100% 신뢰하는 것은 점점 어려워질 것입니다.

우리는 다른 방법들도 개발해야 합니다.

한 가지 아이디어는 일종의 그림자 행동(Shadow Actions)입니다.

AI가 실제 세계에 영향을 미치는 행동을 수행하기 전에, 시뮬레이션이나 제한된 환경에서 그 행동이 어떤 결과를 가져올지 확인하는 것입니다.

또 다른 방법은 다른 초지능을 감시자로 사용하는 것입니다.

예를 들어 과학 연구를 수행하는 매우 뛰어난 초지능이 있다고 가정해 보겠습니다.

그 초지능이 지구에 지나치게 큰 영향을 미치지 않도록 또 다른 초지능이 행동 범위를 감독할 수 있습니다.

물론 이런 문제는 아직 많은 연구가 필요합니다.

저도 모든 해답을 가지고 있다고 주장하지 않습니다.

다만 언어 기반 모니터링 이외의 방법을 연구하지 않는다면 심각한 문제가 될 수 있다고 생각합니다.

진행자: 여러 초지능이 존재하는 미래에 대해서는 낙관적인가요?

데이비드 실버:

네, 저는 낙관적입니다.

앞으로는 서로 상호작용하는 수많은 초지능이 존재하는 세계가 나타날 수 있습니다.

그중에는 인간의 번영을 돕는 존재도 있을 것이고, 그렇지 않은 존재도 있을 수 있습니다.

하지만 인간의 번영을 지지하는 초지능들이 우리를 지원하고, 인간에게 이롭지 않은 행동을 하는 다른 초지능으로부터 보호할 수도 있다고 생각합니다.

저는 그러한 균형이 형성되는 미래를 기대하고 있습니다.

15. 현실 세계에서는 신중하게, 시뮬레이션에서는 최대한 빠르게 (50:46~52:54)

진행자: 최첨단 AI 개발 속도를 둘러싼 논쟁에 대해서는 어떤 입장입니까?

데이비드 실버:

저는 현실 세계에서 최첨단 AI를 개발하고 배포하는 속도에는 어느 정도 조절이 필요하다고 생각합니다.

하지만 시뮬레이션에서는 가능한 한 빠르게 연구를 진행해야 합니다.

왜냐하면 시뮬레이션은 초지능에 관한 과학을 발전시키고, 실제 세계에서 발생할 문제를 해결할 수 있는 방법을 발견하도록 도와주기 때문입니다.

현실에서 초지능이 등장하기 전에 가능한 한 많은 것을 이해하고 싶습니다.

그렇기 때문에 시뮬레이션 연구는 최대한 빠르게 진행하는 편이 좋습니다.

반대로 실제 세계에서는 신중해야 합니다.

저는 데미스 허사비스나 다리오 아모데이 등이 제시하는 신중한 개발 방향에도 대체로 동의합니다.

초지능이 인류에게 놀라운 미래를 가져올 것이라는 믿음에는 변함이 없습니다.

하지만 기술 변화의 속도가 너무 빠르면 인간 사회가 적응하기 어려울 수 있습니다.

정부, 조직, 그리고 사람들의 심리적·감정적 반응까지 변화에 적응할 시간이 필요합니다.

따라서 현실 세계에서는 어느 정도 속도를 조절하는 것이 바람직하다고 생각합니다.

진행자: 정리하면 시뮬레이션에서는 최대한 가속하면서 초지능을 과학적으로 연구하고, 현실 세계에서는 조심스럽게 진행한다는 것이군요.

데이비드 실버:

네. 그것이 제 생각을 잘 요약한 표현입니다.

16. Ineffable이 확보한 GPU 클러스터와 강화학습 인프라 (52:54~57:48)

진행자: 이제 컴퓨팅 자원에 관해 이야기해 보겠습니다.

구글과 엔비디아가 중요한 협력사인 것으로 알고 있습니다.

현재 어떤 클러스터를 사용하고 있으며, 컴퓨팅 자원을 어떻게 활용하고 있나요?

라세 에스페홀트:

우리는 매우 운이 좋게도 상당한 양의 컴퓨팅 자원을 확보했습니다.

특히 구글 클라우드 플랫폼(GCP)의 가장 큰 GPU 클러스터를 사용하는 최초 고객이 될 예정입니다.

인터뷰 시점에서 약 한 달 뒤에 사용할 수 있을 것으로 보고 있습니다.

우리는 엔비디아 GPU를 사용합니다.

GPU는 시뮬레이션, 학습, 추론 모두에 활용할 수 있어 우리에게 매우 유리합니다.

특히 하나의 랙을 사실상 하나의 거대한 기계처럼 활용할 수 있는 아키텍처가 중요합니다.

랙 내부 노드 간 통신 대역폭이 매우 높기 때문입니다.

우리의 강화학습 방식은 LLM 학습에 비해 매우 빠른 반복 주기를 요구합니다.

에이전트가 행동하고, 결과를 관찰하고, 다시 학습하는 과정이 빠르게 반복되어야 합니다.

따라서 통신 속도와 효율성이 매우 중요합니다.

과거에는 강화학습을 확장하기 위해 엄청나게 많은 CPU를 사용하기도 했습니다.

하지만 지금은 그런 접근법으로 확장하기 어렵습니다.

우리는 시뮬레이션, 추론, 학습을 가능한 한 GPU 위에서 실행하도록 설계하고 있습니다.

현재 일부 LLM 기업은 컴퓨터 사용 환경을 시뮬레이션하기 위해 CPU 기반 샌드박스가 필요한 문제를 겪고 있습니다.

우리는 처음부터 그러한 병목을 피하려고 합니다.

진행자: 컴퓨팅 자원은 주로 어떤 작업에 사용됩니까?

라세 에스페홀트:

세 가지로 구분할 수 있습니다.

첫 번째는 학습(Training), 두 번째는 추론(Inference), 세 번째는 시뮬레이션(Simulation)입니다.

문제는 동일한 하드웨어가 세 작업에 모두 최적인 것은 아니라는 점입니다.

최근 GPU는 학습 성능을 중심으로 발전했고, 추론 성능도 상당히 발전했습니다.

하지만 시뮬레이션 성능은 상대적으로 덜 최적화되어 있습니다.

그래서 우리는 시뮬레이션을 GPU에서 최대한 빠르게 수행하는 방법을 연구하고 있습니다.

모델 기반 강화학습이나 경험 재사용, 리플레이 버퍼 같은 기술도 활용할 수 있습니다.

진행자: 강화학습에서도 컴퓨팅 자원을 늘리면 성능이 일정한 법칙에 따라 향상되는 스케일링 법칙을 발견했습니까?

라세 에스페홀트:

강화학습의 스케일링 법칙은 일반적인 LLM과 조금 다릅니다.

LLM에서는 컴퓨팅 자원, 데이터, 모델 크기 사이의 관계를 비교적 명확하게 분석할 수 있습니다.

하지만 강화학습에서는 학습이 진행됨에 따라 에이전트가 경험하는 데이터의 분포 자체가 바뀝니다.

따라서 문제가 비정상적(non-stationary)이라는 특징이 있습니다.

이 때문에 스케일링 법칙을 연구하기가 더 복잡합니다.

하지만 우리는 컴퓨팅 자원과 경험을 늘렸을 때 성능이 어떻게 향상되는지 예측 가능한 관계를 만드는 것을 적극적으로 연구하고 있습니다.

작은 클러스터에서 더 큰 클러스터로 이전하는 과정에서도 그런 기반을 마련하려고 합니다.

17. IMPALA와 SEED RL이 현재 연구에 어떻게 활용되는가? (57:48~1:00:45)

진행자: 라세, 과거에 연구했던 IMPALA와 SEED RL에 관해 설명해 주시겠습니까?

라세 에스페홀트:

제가 딥마인드에 처음 합류했을 때 대부분의 강화학습 시스템은 CPU를 사용해 단일 컴퓨터에서 실행되었습니다.

그래서 규모가 매우 작았습니다.

우리는 GPU를 효과적으로 활용하고, 컴퓨팅 자원에 따라 거의 선형적으로 확장할 수 있는 강화학습 시스템을 개발했습니다.

그 시스템은 효율적이었고 다양한 연구에 적용하기 쉬웠습니다.

결과적으로 회사에서 가장 널리 사용되는 강화학습 시스템 중 하나가 되었습니다.

많은 강화학습 팀이 이 시스템이나 그 변형을 사용했습니다.

이후 구글 브레인으로 옮겨 암스테르담 연구소를 설립한 뒤에는 TPU 랙 전체를 활용할 수 있도록 강화학습을 확장하는 연구를 진행했습니다.

그 프로젝트가 SEED RL입니다.

TPU를 학습과 추론에 효율적으로 사용하면서, 환경 자체는 다양한 형태로 유지할 수 있도록 설계했습니다.

바둑 같은 단순한 환경부터 복잡한 물리 시뮬레이션까지 지원할 수 있었습니다.

진행자: 이런 기술을 Ineffable에서도 사용합니까?

라세 에스페홀트:

네.

우리는 이런 알고리즘 중 일부를 실제로 구현했고, 그 변형도 사용하고 있습니다.

환경에 따라 다른 알고리즘을 사용합니다.

빠르게 시뮬레이션할 수 있는 단순한 환경과 더 복잡한 환경은 각각 필요한 특성이 다르기 때문입니다.

데이비드 실버:

오늘날 강화학습 분야에서 활용되는 많은 기술이 라세의 초기 연구에 뿌리를 두고 있습니다.

LLM 분야가 최근 몇 년간 강화학습을 본격적으로 도입하면서 과거에 개발했던 접근법들을 다시 발견하는 것도 흥미로운 현상입니다.

물론 새로운 혁신도 많이 이루어지고 있습니다.

18. 20명 규모의 정예 연구소를 유지하는 이유 (1:00:45~1:05:41)

진행자: 현재 연구팀의 규모는 어느 정도입니까?

데이비드 실버:

우리는 의도적으로 작은 팀을 유지하고 있습니다.

현재까지 총 20명을 채용했습니다.

저는 오늘날 소수의 뛰어난 연구자들만으로도 엄청나게 많은 일을 할 수 있다고 생각합니다.

우리가 중요하게 생각하는 것은 단순히 뛰어난 능력만이 아닙니다.

함께 일하기 좋은 사람인지, 협력적인 성격을 가지고 있는지, 우리의 연구 목표에 공감하는지, 현재 팀에 필요한 기술을 가지고 있는지도 중요합니다.

우리는 채용 기준을 매우 높게 유지하고 있습니다.

라세 에스페홀트:

작은 팀을 유지하는 것은 컴퓨팅 자원과도 관련이 있습니다.

연구자 한 명이 사용할 수 있는 컴퓨팅 자원을 충분히 확보하고 싶습니다.

그래야 연구원들이 제한된 자원을 두고 경쟁하는 대신 자유롭게 실험을 수행할 수 있습니다.

진행자: 공동창업자 중 여러 명이 과거 AlphaStar 프로젝트에서 함께 연구한 것으로 알고 있습니다.

과거 딥마인드의 최고 연구자들을 다시 모으는 것인가요?

데이비드 실버:

어느 정도는 그렇습니다.

AlphaStar는 당시 딥마인드에서 최고의 연구자들을 모아 구성했던 특별한 팀이었습니다.

우리 공동창업자 중 네 명이 그 팀 출신이라는 것은 놀라운 일이 아닙니다.

하지만 우리는 딥마인드 출신만 채용하는 것은 아닙니다.

다른 공동창업자 세 명은 성공적인 스타트업 출신입니다.

우리는 다양한 곳에서 뛰어난 인재를 찾고 있습니다.

그리고 매우 높은 기준을 적용합니다.

과거에 함께 일했던 훌륭한 연구자들에게도 채용을 거절해야 했던 경우가 있습니다.

그만큼 신중하게 팀을 구성하고 있습니다.

저는 우리가 최고 수준의 연구팀을 만들었다고 생각합니다.

진행자: 거대한 AI 기업들은 경쟁과 상업적 압력에 노출되어 있습니다. 독립적인 연구소가 과학적 연구에 집중하기에는 더 좋은 환경일 수도 있겠군요.

데이비드 실버:

맞습니다.

우리는 의도적으로 연구 중심의 문화를 만들었습니다.

우리 회사는 기존 제품의 기능을 조금 개선해서 다음 버전을 출시하는 조직이 아닙니다.

연구자들이 자신이 중요하다고 믿는 문제를 탐구하고, 실제 과학적 돌파구를 만들어내는 조직입니다.

처음부터 특정 제품을 반드시 출시해야 한다는 압력을 최소화하려고 했습니다.

연구자들이 장기적인 목표에 집중할 수 있는 안전한 연구 환경을 만들고 싶었습니다.

우리는 진정한 과학적 돌파구를 발견한다면, 처음부터 제품에 집중했을 때보다 훨씬 큰 성과를 얻을 것이라고 믿습니다.

19. 초지능은 언제 등장하는가? — 데이비드 실버의 최종 예측 (1:05:41~1:07:22)

진행자: 마지막으로 예측을 부탁드리겠습니다.

Ineffable의 접근법이 성공할 것이라는 강력한 증거는 언제쯤 나타날까요?

그리고 인간의 지식을 뛰어넘는 진정한 초지능과 처음 접촉하는 시점은 언제라고 예상합니까?

데이비드 실버:

어려운 질문입니다.

물론 상당한 불확실성이 있다는 점을 먼저 말씀드리고 싶습니다.

하지만 저는 1년 이내에 우리가 올바른 방향으로 나아가고 있다는 설득력 있는 증거가 나타날 것이라고 생각합니다.

그리고 진정한 초지능을 달성하는 데에는 약 3년 정도가 걸릴 것으로 예상합니다.

제가 말하는 초지능은 앞서 정의한 것과 같습니다.

과학, 수학, 기술, 언어 등 광범위한 분야에서 인간이 달성할 수 있는 수준을 훨씬 뛰어넘는 지식을 스스로 발견하는 시스템입니다.

원래는 3~5년 정도가 걸릴 것이라고 생각했습니다.

하지만 최근에는 예상 시점을 조금 앞당겼습니다.

코딩 에이전트를 활용해 연구개발을 가속할 수 있다는 점이 중요한 이유입니다.

그래서 지금은 약 3년을 예상하고 있습니다.

저는 정말 빠르게 진행될 것이라고 생각합니다.

진행자: 데이비드, 정말 흥미로운 대화였습니다. 여러분이 만들고 있는 기술과 비전을 공유해 주셔서 감사합니다.

데이비드 실버:

초대해 주셔서 감사합니다. 즐거운 시간이었습니다.

인터뷰에서 가장 중요한 다섯 가지 주장

이 인터뷰에서 특히 주목할 부분은 데이비드 실버가 단순히 기존 LLM보다 성능이 좋은 모델을 만들겠다고 주장하는 것이 아니라는 점입니다.

그가 추구하는 것은 지식을 만들어내는 과정 자체를 자동화하는 것입니다.

알파제로가 인간의 바둑 지식을 배우지 않고도 인간을 뛰어넘는 전략을 발견했던 것처럼, 앞으로의 AI가 인간이 알려주지 않은 과학과 수학, 기술을 스스로 발견하도록 하겠다는 구상입니다.

그리고 실버는 이러한 연구가 성공한다면, 인간이 정해 준 연구 과제를 수행하는 현재의 AI를 넘어 인간이 아직 생각해 보지 못한 연구 과제와 지식 영역까지 AI가 자율적으로 탐색할 수 있을 것으로 기대하고 있습니다.

다만 Ineffable이 이런 일반적인 자율 발견 능력을 실제로 달성했다는 증거는 인터뷰에서 제시되지 않았습니다. 현재로서는 매우 야심 찬 연구 가설이자 장기적인 기술적 목표로 보는 것이 정확합니다.