인터뷰/예측
데미스 하사비스 "지난 1년은 체감상 10년치 진보가 압축된 해"
《The Future of Intelligence》
Demis Hassabis (DeepMind 공동창업자·CEO) 인터뷰 정리
Q1. 지난 1년, AI에서 가장 큰 변화는 무엇이었나?
Demis Hassabis:지난 1년은 체감상 10년치 진보가 압축된 해였다. 특히 멀티모달 모델과 에이전트형 AI의 발전이 눈에 띄며, 우리에게는 Gemini 3의 출시와 세계 모델(world model)의 진전이 가장 큰 전환점이었다. 단순한 언어 모델을 넘어, 세상을 “이해하고 시뮬레이션하는 모델”로 중심이 이동하고 있다.
Q2. AlphaFold 이후, ‘루트 노드 문제’는 어디까지 왔나?
Demis Hassabis:AlphaFold는 “근본 문제(root node problem)를 AI로 풀 수 있다”는 증명이었다. 이제 우리는 그 다음 단계로 이동하고 있다.
재료과학에서는 상온 초전도체, 배터리 혁신을 보고 있고, 에너지 분야에서는 핵융합을 다루고 있다. Commonwealth Fusion과의 협력은 플라즈마 제어, 자석 설계, 소재 문제를 AI로 가속하려는 시도다.
양자컴퓨팅에서도 오류 정정 코드에 머신러닝을 적용하고 있으며, 언젠가는 그 반대도 가능해질 것이다.
Q3. 핵융합이 왜 그렇게 중요한가?
Demis Hassabis:핵융합은 에너지 문제를 넘어서 문명 전체의 제약을 해제한다.
만약 에너지가 거의 무한하고, 깨끗하며, 저렴해진다면 담수화, 로켓 연료 생산, 기후 문제 등 수많은 문제가 연쇄적으로 풀린다. 그래서 핵융합은 단순한 기술 문제가 아니라 인류 문명의 ‘잠금 해제 키’에 가깝다.
Q4. AI는 왜 IMO 금메달을 따면서도 간단한 수학 실수를 하나?
Demis Hassabis:현재 AI는 “톱니 모양의 지능(jagged intelligence)”을 가진다.
어떤 영역에서는 박사급 이상이지만, 다른 영역에서는 고등학생 수준에도 못 미친다. 이는 AGI가 아직 아닌 핵심 이유다.
일관성(consistency)이 부족하고, 추론을 스스로 점검하는 능력이 아직 충분하지 않다. 생각 시간(thinking time)을 주더라도 그것을 항상 유효하게 쓰지 못한다.
Q5. AlphaZero처럼 ‘인간 지식 없이 스스로 발견하는 AI’는 가능한가?
Demis Hassabis:지금의 시스템은 AlphaGo 단계에 가깝다. 인간 지식을 대규모로 압축한 뒤, 그 위에서 추론한다.
다음 단계는 AlphaZero처럼 스스로 지식을 발견하는 것이다. 하지만 현실 세계는 게임보다 훨씬 복잡하다.
또 하나의 큰 결손은 지속적 온라인 학습이다. 현재 모델은 배포 후에 더 이상 배우지 않는다. AGI에는 필수적인 능력이다.
Q6. “AI를 더 오래 실험실에 두었어야 했다”고 말한 이유는?
Demis Hassabis:순수 과학적 관점에서는 그게 이상적인 경로였다.
AGI를 향해 천천히, 신중하게 가며, 그 부산물로 AlphaFold 같은 과학적 돌파를 계속 내놓는 방식 말이다.
하지만 챗봇과 파운데이션 모델이 예상보다 빠르게 대중화되었고, 이는 엄청난 자원과 관심을 불러왔다.
속도는 빨라졌지만, 과학적 엄밀함을 유지하는 일은 더 어려워졌다. 우리는 지금 두 가지를 동시에 하려 애쓰고 있다.
Q7. “스케일링은 한계에 부딪혔다”는 말은 틀렸나?
Demis Hassabis:우리는 아직 어떤 벽도 보지 못했다. 다만 수익 체감(diminishing returns)은 있다.
예전처럼 매번 두 배씩 성능이 오르지는 않지만, 여전히 투자 대비 의미 있는 진전이 있다.
데이터 부족 문제도 합성 데이터와 자기 생성 데이터로 상당 부분 해결 가능하다. 특히 수학과 코딩처럼 검증 가능한 영역에서는 사실상 무한 데이터가 가능하다.
Q8. 환각(hallucination)은 왜 아직 남아 있나?
Demis Hassabis:모델은 “모를 때 멈추는 법”을 아직 완전히 배우지 못했다.
토큰 확률은 있지만, 문장 전체의 신뢰도나 사실성에 대한 메타 판단이 부족하다.
AlphaFold처럼 신뢰도 점수를 출력하는 방향은 반드시 필요하며, 추론 후 자기 검증 단계가 핵심이 될 것이다.
Q9. 왜 월드 모델(world model)이 그렇게 중요한가?
Demis Hassabis:언어는 생각보다 많은 세계 지식을 담고 있지만, 공간·물리·감각 경험은 언어만으로는 부족하다.
로봇, 현실 보조 AI, 증강현실 비서에는 직관적 물리학과 인과적 세계 이해가 필수다.
Genie, Veo 같은 모델은 “생성할 수 있으면 이해한 것이다”라는 원칙을 보여준다.
Q10. 시뮬레이션 속 에이전트는 어디까지 갈 수 있나?
Demis Hassabis:Genie가 세계를 만들고, SIMA가 그 안에서 행동하는 구조는 사실상 무한한 학습 루프를 만든다.
에이전트가 시도하면, 세계는 즉석에서 생성되고, 난이도는 점점 올라간다.
이는 게임, 로보틱스, 과학 실험 모두에 엄청난 가능성을 연다.
Q11. 시뮬레이션이 현실 물리를 틀리게 배울 위험은?
Demis Hassabis:겉보기엔 그럴듯하지만 실제로는 틀린 물리는 위험하다.
그래서 우리는 게임 엔진 기반의 물리 벤치마크를 만들고 있다.
단순한 진자, 공의 운동부터 뉴턴 법칙을 정확히 학습했는지를 검증한다.
지금 모델들은 “그럴듯한 근사” 수준이지, 아직 로봇에 쓰기엔 부족하다.
Q12. 의식은 시뮬레이션으로 나타날 수 있을까?
Demis Hassabis:나는 의식이 진화의 산물이라는 관점에 끌린다.
타인의 내적 상태를 추론하는 능력이 자기 자신에게도 적용되며 의식이 생겼다는 가설이다.
시뮬레이션은 생명, 사회, 의식의 기원을 실험적으로 탐구할 수 있는 거의 유일한 도구다.
Q13. AGI는 사회를 어떻게 바꿀까?
Demis Hassabis:산업혁명보다 10배 크고, 10배 빠를 것이다.
노동, 경제, 목적의 개념 자체가 변한다.
UBI는 하나의 아이디어일 뿐이며, 더 나은 시스템이 필요할 가능성이 크다.
포스트 AGI 사회는 경제 문제를 넘어 철학적 문제로 이어진다.
Q14. 인간만 할 수 있는 것이 남을까?
Demis Hassabis:그건 튜링 머신의 한계 문제다.
지금까지 비계산적인 현상은 발견되지 않았다.
의식, 감정, 창의성조차 정보 처리의 형태일 가능성이 있다.
내 개인적 추측은 “우주는 계산 가능하다”는 쪽에 가깝다. 적어도 물리학이 반박하기 전까지는.
Q15. 이 모든 것을 이끄는 개인적 부담은?
Demis Hassabis:엄청나게 흥분되지만, 동시에 무거운 책임감이 따른다.
나는 평생 이 순간을 준비해왔다.
AGI를 인류 전체를 위해 안전하게 넘기는 것, 그것이 내 인생의 미션이다.
🔚 한 줄 요약
데미스 하사비스의 AGI 비전은 “스케일 + 과학 + 시뮬레이션 + 책임”의 결합이며, 그는 AGI를 기술이 아니라 문명 전환점으로 보고 있다.
전체 대화
[00:00] (하이라이트 및 인트로)
데미스 하사비스: 사실상 (우리의) 노력의 50%는 규모 확장(scaling)에, 나머지 50%는 혁신(innovation)에 있다고 생각할 수 있습니다. 제 생각에는 AGI(범용 인공지능)에 도달하려면 두 가지 모두 필요할 것입니다.
데미스 하사비스: 저는 항상 이렇게 느꼈습니다. 만약 우리가 AGI를 만들고, 그것을 마음의 시뮬레이션으로 사용한 뒤, 실제 마음과 비교해 본다면 그 차이점을 알게 될 것이라고요. 그리고 인간의 마음만이 가진 특별하고 남겨진 것이 무엇인지 알 수 있겠죠. 그게 창의성일 수도, 감정일 수도, 꿈일 수도 있습니다.
데미스 하사비스: 의식에 대해서는 무엇이 계산 가능하고 무엇이 그렇지 않은지에 대한 수많은 가설들이 존재합니다. 이것은 결국 튜링 머신(Turing machine)의 한계가 무엇인가 하는 질문으로 귀결됩니다.
해나 프라이: 그러니까 이 계산 기계들 안에서 할 수 없는 일은 없다는 건가요?
데미스 하사비스: 음, 아무도 발견하지 못했죠. 이렇게 말씀드리죠. 아직까지 우주에서 계산 불가능한 것은 발견되지 않았습니다.
해나 프라이: 아직까지는요.
데미스 하사비스: 아직까지는 말이죠.
[00:50]
해나 프라이: '구글 딥마인드: 더 팟캐스트'에 오신 것을 환영합니다. 저는 해나 프라이 교수입니다. 올해는 AI에게 있어 정말 놀라운 한 해였습니다. 우리는 무게 중심이 거대 언어 모델(LLM)에서 에이전트형 AI(Agentic AI)로 이동하는 것을 목격했습니다. AI가 신약 개발을 가속화하고, 멀티모달(복합정보처리) 모델이 로봇 공학 및 자율 주행 자동차에 통합되는 것도 보았죠.
해나 프라이: 이 모든 주제들은 이 팟캐스트에서 깊이 있게 다루었던 내용들입니다. 하지만 올해의 마지막 에피소드를 맞아, 우리는 헤드라인이나 제품 출시를 넘어 훨씬 더 큰 질문을 던져보고 싶었습니다. 이 모든 것이 실제로 어디로 향하고 있는 걸까요? 다음 단계를 정의할 과학적, 기술적 질문들은 무엇일까요? 이에 대해 아주 많은 시간을 고민해 온 분, 바로 구글 딥마인드의 CEO이자 공동 창업자인 데미스 하사비스를 모셨습니다. 팟캐스트에 다시 오신 것을 환영합니다, 데미스.
데미스 하사비스: 다시 오게 되어 기쁩니다.
해나 프라이: 지난 1년 동안 정말 많은 일이 있었죠?
데미스 하사비스: 네, 그렇습니다.
해나 프라이: 가장 큰 변화는 무엇이라고 생각하시나요?
데미스 하사비스: 와, 말씀하신 대로 너무 많은 일이 있어서 마치 1년 안에 10년 치 일을 꽉 채워 넣은 것 같아요. 제 생각에는 많은 일이 있었습니다. 우리에게는 모델들의 진보가 있었죠. 방금 제미나이 3(Gemini 3)를 출시했는데 결과가 아주 만족스럽습니다. 멀티모달 기능 등 모든 면에서 정말 잘 발전했습니다. 그리고 여름 동안 제가 가장 흥분했던 부분은 아마도 '월드 모델(World Models)'의 발전일 겁니다. 이따가 이야기하겠지만요.
해나 프라이: 네, 물론이죠. 잠시 후에 그 부분에 대해 자세히 이야기 나누겠습니다. 제가 이 팟캐스트를 위해 처음 당신을 인터뷰했을 때가 기억나는데요, 그때 당신은 '루트 노드(Root Node, 근본적) 문제'들에 대해 이야기했습니다. AI를 사용해 하위 단계의 이점들을 잠금 해제할 수 있다는 아이디어였죠. 그리고 당신은 그 약속을 꽤 잘 지켜온 것 같습니다.
데미스 하사비스: (웃음)
해나 프라이: 그 부분에 대한 업데이트를 좀 해주시겠어요? 무엇이 바로 코앞에 다가왔고, 무엇이 해결되었거나 거의 해결되었나요?
데미스 하사비스: 네, 물론 가장 큰 증명 사례는 '알파폴드(AlphaFold)'였습니다. 알파폴드 2가 세상에 발표된 지 벌써 5년이 다 되어간다는 게 믿기지 않네요. 그것은 우리가 이런 루트 노드 유형의 문제들을 해결할 수 있다는 증거였습니다. 이제 우리는 다른 모든 문제들을 탐구하고 있습니다. 재료 과학 분야라든지, 저는 상온 초전도체를 정말 만들어보고 싶어요. 그리고 더 나은 배터리 같은 것들도 계획에 있습니다. 모든 종류의 더 나은 재료들이죠. 또한 핵융합(Fusion) 연구도 하고 있습니다.
해나 프라이: 핵융합과 관련해서 새로운 파트너십이 발표되었죠?
데미스 하사비스: 네, '커먼웰스 퓨전(Commonwealth Fusion)'과의 파트너십을 막 발표했습니다. 이미 협력 중이었지만 훨씬 더 깊은 관계가 되었죠. 저는 그들이 전통적인 토카막(Tokamak) 반응로 방식에서 최고의 스타트업이라고 생각합니다. 그들이 실행 가능한 무언가를 만드는 데 가장 근접해 있을 겁니다. 우리는 자석 내부의 플라즈마 제어를 돕거나, 어쩌면 그곳에 필요한 재료 설계를 도우며 그 과정을 가속화하고 싶습니다. 정말 흥미진진한 일이죠. 그리고 구글의 양자 AI 팀과도 협력하고 있는데, 그들도 놀라운 일을 해내고 있습니다. 우리는 머신러닝을 사용해 그들의 오류 정정 코드를 돕고 있습니다. 언젠가는 그들이 우리를 돕게 되겠죠.
해나 프라이: 완벽한 선순환이네요.
데미스 하사비스: 네, 맞습니다.
해나 프라이: 특히 핵융합은, 그것이 세상에 가져올 변화가 엄청날 겁니다.
데미스 하사비스: 네, 핵융합은 언제나 성배(Holy Grail)와도 같았죠. 물론 태양광도 유망합니다. 사실상 하늘에 떠 있는 핵융합로를 이용하는 셈이니까요. 하지만 만약 우리가 모듈형 핵융합로를 가질 수 있다면, 거의 무제한적이고 재생 가능하며 깨끗한 에너지라는 약속은 모든 것을 변화시킬 겁니다. 그것이 기후 문제를 도울 수 있는 방법 중 하나가 되겠죠.
해나 프라이: 우리가 가진 기존 문제들의 상당수가 사라지겠군요.
데미스 하사비스: 물론입니다. 이것이 바로 우리가 이것을 '루트 노드'라고 생각하는 이유입니다. 에너지와 오염, 기후 위기를 직접적으로 돕는 것은 물론이고, 만약 에너지가 정말로 재생 가능하고 깨끗하며 거의 공짜에 가깝게 저렴해진다면, 다른 많은 것들이 가능해집니다. 예를 들어, 거의 모든 곳에 담수화 플랜트를 세울 수 있으니 물 접근성 문제가 해결되겠죠. 심지어 로켓 연료를 만드는 것도요. 바닷물은 수소와 산소를 포함하고 있는데, 그게 기본적으로 로켓 연료거든요. 단지 수소와 산소를 분리하는 데 많은 에너지가 들 뿐이죠. 하지만 에너지가 저렴하고 깨끗하다면, 왜 안 되겠습니까? 24시간 내내 생산할 수도 있겠죠.
[05:15]
해나 프라이: 수학 분야에 적용되는 AI에서도 많은 변화가 보입니다. 국제 수학 올림피아드에서 메달을 따기도 했죠. 하지만 동시에, 이 모델들은 고등학교 수준의 수학 문제에서는 꽤 기본적인 실수를 하기도 합니다. 왜 이런 역설이 발생하는 건가요?
데미스 하사비스: 정말 매력적인 부분이라고 생각합니다. 아마 우리가 아직 AGI에 도달하지 못한 핵심 이유 중 하나이자 해결해야 할 과제일 겁니다. 말씀하신 대로 국제 수학 올림피아드에서 금메달을 따는 등 큰 성공을 거두었죠. 그 문제들은 정말 어렵고 전 세계 최상위 학생들만 풀 수 있는 문제입니다. 반면, 챗봇과 대화하며 실험해 본 우리 모두가 겪었듯, 특정 방식으로 질문하면 꽤 사소한 논리 문제에서 실수를 하기도 합니다. 아직 체스 게임도 제대로 못 한다는 건 놀라운 일이죠.
데미스 하사비스: 시스템의 '일관성(consistency)' 측면에서 여전히 무언가 빠져 있습니다. 이것이 바로 우리가 범용 지능, AGI 시스템에서 기대하는 것이죠. 전반적으로 일관성이 있어야 합니다. 사람들은 이것을 '들쑥날쑥한 지능(jagged intelligence)'이라고 부르기도 합니다. 특정 분야에서는 박사 학위 수준으로 뛰어나지만, 다른 분야에서는 고등학교 수준도 안 되는 거죠. 성능이 여전히 매우 불균형합니다. 특정 차원에서는 매우 인상적이지만 다른 차원에서는 여전히 기초적입니다.
데미스 하사비스: 우리는 이 격차를 줄여야 합니다. 그 이유에 대해서는 여러 이론이 있습니다. 상황에 따라 이미지를 인식하고 토큰화(tokenized)하는 방식 때문일 수도 있습니다. 가령 단어에 포함된 글자 수를 셀 때 틀리는 경우가 있는데, 실제로는 개별 글자 하나하나를 보지 못하고 있을 수도 있습니다. 이런 각각의 원인들은 고쳐질 수 있고, 그 뒤에 무엇이 남는지 봐야겠죠. 하지만 저는 일관성, 그리고 또 하나는 '추론(reasoning)'과 '사고(thinking)'가 중요하다고 생각합니다.
데미스 하사비스: 지금 우리는 추론 시점에 더 많은 시간을 들여 생각하는 시스템을 가지고 있고, 답을 내놓는 데 더 능숙해졌습니다. 하지만 그 생각하는 시간을 유용하게 쓰고 있는지, 도구를 사용해 자신의 답을 재확인(double check)하고 있는지에 대해서는 아직 완전히 일관적이지 않습니다. 우리는 그 길로 가고 있지만, 아마 50% 정도 온 것 같습니다.
[07:33]
해나 프라이: 알파고에서 알파제로로 넘어갈 때의 이야기도 궁금합니다. 인간의 경험(기보)을 모두 배제했더니 모델이 오히려 향상되었잖아요. 당신이 만들고 있는 모델들에서도 그런 과학적 혹은 수학적 버전의 사례가 있나요?
데미스 하사비스: 현재 우리가 만들고 있는 것들은 '알파고'에 더 가깝습니다. 거대 언어 모델이나 파운데이션 모델들은 인터넷에 있는 거의 모든 인간의 지식에서 시작하여 그것을 유용한 결과물로 압축합니다. 검색하고 일반화할 수 있게요. 하지만 우리는 아직 '알파고'처럼 그 위에 검색이나 사고 과정을 얹어서 유용한 추론 경로와 계획 아이디어를 지시하고, 그 시점에 가장 최선의 해결책을 도출하는 초기 단계에 머물러 있습니다.
데미스 하사비스: 현재 우리가 인터넷 같은 인간 지식의 한계에 갇혀 있다고는 생각하지 않습니다. 지금의 주된 이슈는 알파고 때처럼 이런 시스템을 완전히 신뢰할 수 있는 방식으로 사용하는 방법을 아직 모른다는 점입니다. 물론 알파고는 게임이었기 때문에 훨씬 쉬웠죠. 알파고를 갖게 되면, 우리가 알파 시리즈에서 했던 것처럼 다시 돌아가서 스스로 지식을 발견하는 '알파제로'를 만들 수 있습니다. 그것이 다음 단계가 될 것입니다. 하지만 그건 분명 더 어렵기 때문에, 먼저 알파고 같은 시스템으로 첫 단계를 밟는 것이 좋습니다. 그 후에 알파제로 같은 시스템을 생각할 수 있겠죠.
데미스 하사비스: 또한 오늘날 시스템에서 빠진 것 중 하나는 '온라인 학습(online learning)'과 '지속적인 학습' 능력입니다. 우리는 시스템을 훈련시키고, 균형을 맞추고, 사후 훈련을 시킨 뒤 세상에 내놓지만, 그것들은 우리처럼 세상 속에서 계속 학습하지는 않습니다. 이것 또한 AGI를 위해 필요한 중요한 누락된 조각입니다.
[09:30]
해나 프라이: 말씀하신 누락된 조각들과 관련해서, 현재 상업용 제품을 출시하려는 거대한 경쟁이 벌어지고 있잖아요. 하지만 구글 딥마인드의 뿌리는 과학 연구에 있다는 것도 알고 있습니다. 최근 당신이 한 인터뷰에서 "내 방식대로 했다면 AI를 실험실에 더 오래 두고 알파폴드 같은 것을 더 많이 만들어서 암을 치료했을 것"이라는 취지의 말을 한 것을 보았습니다. 더 느린 경로를 택하지 않음으로써 잃은 것이 있다고 생각하시나요?
데미스 하사비스: 잃은 것도 있고 얻은 것도 있다고 생각합니다. 원래 제 계획은, 15년이나 20년 전 아무도 AI를 연구하지 않을 때 딥마인드를 시작하면서 생각했던 순수 과학적 접근 방식이었습니다. 사람들이 AI 연구를 미친 짓이라고 생각했던 때였죠. 우리의 아이디어는 진전을 이루면서 점진적으로 AGI를 향해 나아가고, 각 단계와 안전성 측면을 매우 주의 깊게 살피는 것이었습니다. 그러면서 AGI가 도래하기 전이라도 그 기술을 과학과 의학 발전에 사용하여 사회에 유익하게 쓰자는 것이었죠. 알파폴드가 바로 그 예시입니다. 알파폴드는 파운데이션 모델 자체는 아니지만 트랜스포머 같은 동일한 기술을 사용하고 특정 도메인 지식을 결합한 것입니다.
데미스 하사비스: 저는 우리가 실험실에서 AGI 트랙을 연구하는 동안, 그런 류의 일들이 많이 일어나서 세상에 공개되고 암 치료 같은 일을 해낼 거라고 상상했습니다. 하지만 결과적으로 챗봇이 대규모로 가능하고 사람들이 유용하게 생각한다는 것이 밝혀졌죠. 그리고 그것들은 텍스트뿐만 아니라 이미지, 비디오 등을 처리할 수 있는 제미나이 같은 파운데이션 모델로 변모했습니다. 그리고 이것은 상업적으로, 제품으로서도 매우 성공적이었습니다.
데미스 하사비스: 저도 그것을 좋아합니다. 저는 일상을 더 생산적으로 만들고, 주의력을 보호해 주어 몰입(flow) 상태에 있게 해주는 궁극의 비서를 항상 꿈꿔왔습니다. 오늘날 소셜 미디어는 소음 투성이니까요. AI가 그런 부분에서 우리를 도울 수 있다고 생각합니다.
데미스 하사비스: 하지만 이것은 꽤 미친듯한 '레이스 컨디션(race condition, 경쟁 상태)'을 만들어냈습니다. 수많은 상업 조직과 심지어 국가들까지 서로를 앞지르려고 경쟁하고 있죠. 이는 엄격한 과학을 동시에 수행하는 것을 어렵게 만듭니다. 우리는 두 가지 모두를 하려고 노력하고 있고 균형을 잘 맞추고 있다고 생각합니다. 반면에 긍정적인 면도 많습니다. 엄청난 자원이 이 분야로 유입되면서 발전이 가속화되었죠.
데미스 하사비스: 그리고 흥미롭게도 일반 대중들이 최첨단 기술과 불과 몇 달 차이밖에 나지 않는 기술을 사용할 수 있게 되었습니다. 모든 사람이 AI가 어떤 것인지 직접 느껴볼 기회를 얻게 된 거죠. 저는 이것이 좋은 일이라고 생각하며, 정부도 이를 더 잘 이해하게 되었습니다.
[12:42]
해나 프라이: 이상한 점은, 작년 이맘때만 해도 '데이터 고갈'이나 '확장의 한계(hitting a wall)'에 대한 이야기가 많았다는 겁니다. 하지만 지금 제미나이 3가 출시되었고 수많은 벤치마크에서 선두를 달리고 있습니다. 이게 어떻게 가능한 건가요? 확장의 한계 문제는 없었던 건가요?
데미스 하사비스: 많은 사람들이 그렇게 생각했던 것 같습니다. 특히 다른 회사들의 발전이 더뎌지면서요. 하지만 우리는 '벽'을 본 적이 없습니다. '수확 체감(diminishing returns)'이 있을 수는 있겠죠. 제가 이렇게 말하면 사람들은 "아, 그럼 수확이 없다는 거냐(0 아니면 1)"라고 생각하는데, 실제로는 지수함수적 성장과 점근적 성장 사이에는 많은 공간이 있습니다. 새로운 버전을 낼 때마다 모든 벤치마크 성능이 두 배가 되지는 않을 수 있습니다. 초창기 3~4년 전에는 그랬을지 몰라도요.
데미스 하사비스: 하지만 제미나이 3에서 보듯이 여전히 투자 가치가 충분한 상당한 개선이 이루어지고 있습니다. 그래서 우리는 둔화를 겪지 않았습니다. 가용 데이터가 고갈되는 문제는 있지만, 합성 데이터(synthetic data)를 생성하는 방법 등으로 극복할 수 있습니다. 시스템이 충분히 좋아져서 스스로 데이터를 생성할 수 있게 된 거죠. 특히 코딩이나 수학처럼 답을 검증할 수 있는 영역에서는 사실상 무제한의 데이터를 생성할 수 있습니다.
데미스 하사비스: 하지만 이 모든 것은 연구 과제들입니다. 딥마인드와 구글이 가진 장점은 우리가 항상 '연구 우선(research first)'이었다는 점입니다. 우리는 가장 폭넓고 깊이 있는 연구 인력을 보유하고 있습니다. 지난 10년 트랜스포머, 알파고, 알파제로 같은 발전들을 보면 모두 구글이나 딥마인드에서 나왔습니다. 저는 더 많은 과학적 혁신이 필요하다면 우리가 그것을 해낼 수 있는 곳이라고 믿습니다.
데미스 하사비스: 사실 저는 지형이 험난해지는 것을 정말 좋아합니다. 왜냐하면 그럴 때 단순히 세계적 수준의 엔지니어링만 필요한 게 아니라, 우리가 전문으로 하는 세계적 수준의 연구와 과학이 결합되어야 하거든요. 거기에 TPU 같은 세계적 수준의 인프라라는 장점도 있죠. 이 조합 덕분에 우리는 규모 확장(scaling)뿐만 아니라 혁신(innovation)의 최전선에 있을 수 있습니다. 사실상 노력의 50%는 확장에, 50%는 혁신에 쏟고 있다고 보면 됩니다. 저는 AGI에 도달하려면 두 가지가 다 필요할 거라고 봅니다.
[15:32]
해나 프라이: 제미나이 3 같은 뛰어난 모델에서도 여전히 '환각(hallucinations)' 현상을 봅니다. 어떤 지표를 보니 답변을 거절해야 할 때도 여전히 답을 내놓는다고 하더군요. 알파폴드처럼 제미나이도 신뢰도 점수(confidence score)를 줄 수 있을까요?
데미스 하사비스: 그럴 수 있다고 생각하고, 실제로 필요합니다. 그것이 빠진 부분 중 하나죠. 모델이 좋아질수록 자신이 무엇을 아는지 더 잘 알게 됩니다. 일종의 '내성(introspect)'을 하거나 더 많이 생각하게 해서, 자신의 불확실성을 깨닫게 할 수 있습니다. 그리고 그것을 합리적인 답변으로 출력하도록 훈련시키는 방법을 찾아야 합니다.
데미스 하사비스: 우리는 점점 더 나아지고 있지만, 여전히 시스템은 답을 내지 말아야 할 때도 억지로 답을 하려는 경향이 있고 이것이 환각으로 이어집니다. 알파폴드에서 해결했던 것처럼, 물론 훨씬 제한적인 방식이었지만, 이 문제를 해결해야 합니다.
데미스 하사비스: 그 이면에는 다음 토큰에 대한 확률 측정값이 있긴 합니다. 하지만 그것이 전체적인 사실이나 진술에 대해 얼마나 확신하는지를 알려주지는 않죠. 그래서 저는 사고 단계와 계획 단계를 통해 자신이 방금 내놓은 결과를 다시 검토하는 과정이 필요하다고 봅니다.
데미스 하사비스: 지금은 마치 기분이 안 좋은 사람과 대화하는 것과 비슷해요. 머릿속에 떠오른 첫 번째 생각을 그대로 말해버리는 거죠. 대부분의 경우엔 괜찮지만, 어려운 문제일 때는 잠시 멈춰서 자신이 하려던 말을 검토하고 조정해야 합니다. 요즘 세상에서 그런 일이 점점 줄어들고 있긴 하지만요(웃음). 어쨌든 모델은 그 작업을 더 잘 수행해야 합니다.
[17:44]
해나 프라이: 시뮬레이션 세계와 에이전트(지니, Genie)에 대해 이야기하고 싶습니다. 왜 시뮬레이션에 그렇게 신경 쓰시나요? 언어 모델이 할 수 없는 무엇을 월드 모델이 할 수 있나요?
데미스 하사비스: 월드 모델과 시뮬레이션은 AI와 더불어 저의 가장 오래된 열정입니다. 최근 지니(Genie) 같은 작업에서 이 둘이 합쳐지고 있죠. 언어 모델은 세상에 대해 예상보다 훨씬 더 많은 것을 이해하고 있습니다. 언어 자체가 우리가 생각했던 것보다 더 풍부한 정보를 담고 있기 때문이겠죠.
데미스 하사비스: 하지만 여전히 공간적 역학, 공간 지각, 우리가 처한 물리적 맥락과 그것이 기계적으로 어떻게 작동하는지에 대해서는 말로 설명하기 어렵고, 텍스트 말뭉치에도 잘 묘사되어 있지 않습니다. 또한 경험을 통한 학습(online experience)과 관련된 많은 것들, 예를 들어 센서 감각, 냄새, 움직임의 각도 같은 것들은 언어로 표현하기 매우 어렵습니다.
데미스 하사비스: 로봇 공학이나, 컴퓨터뿐만 아니라 안경이나 폰 등을 통해 일상생활에서 우리를 돕는 유니버설 어시스턴트가 작동하려면 이러한 '세상에 대한 이해(world understanding)'가 필요합니다. 월드 모델의 핵심은 세상의 인과관계와 메커니즘, 직관적 물리학, 사물의 움직임과 행동을 이해하는 모델입니다.
데미스 하사비스: 비디오 모델에서도 이를 확인할 수 있습니다. 그런 이해도를 테스트하는 방법 중 하나는 현실적인 세계를 생성할 수 있는지 보는 것입니다. 생성할 수 있다는 건 세상의 많은 메커니즘을 내재화했다는 뜻이니까요. 그래서 지니나 Veo 같은 모델들이 중요합니다. 이것들이 일반화된 월드 모델을 보여주는 중요한 단계들이죠. 그리고 언젠가 이것을 로봇 공학이나 유니버설 어시스턴트에 적용할 수 있기를 바랍니다.
데미스 하사비스: 그리고 물론 제가 정말 좋아하는 것 중 하나인데, 언젠가는 이것을 다시 게임에 적용해서 게임 시뮬레이션과 궁극의 게임을 만들고 싶습니다. 어쩌면 그게 제 잠재의식 속의 계획이었는지도 모르겠네요.
해나 프라이: 과학 분야는 어떤가요?
데미스 하사비스: 과학 분야도 마찬가지입니다. 원자 수준의 재료, 생물학, 혹은 날씨 같은 물리적인 것들과 같이 과학적으로 복잡한 도메인의 모델을 만드는 것이죠. 이런 시스템을 이해하는 한 가지 방법은 원시 데이터로부터 시뮬레이션을 학습하는 것입니다. 예를 들어 날씨 데이터가 있다면, 모델이 그 역학을 학습하고 무차별 대입(brute force) 방식보다 더 효율적으로 그 역학을 재현할 수 있게 하는 거죠. 시뮬레이션과 특화된 월드 모델은 과학과 수학에 엄청난 잠재력이 있습니다.
[21:16]
해나 프라이: 지니 팀이 이런 말을 했어요. "주요 발명품 중 그 발명품을 염두에 두고 만들어진 전제 조건은 거의 없다." 그들은 에이전트를 시뮬레이션 환경에 떨어뜨리고 호기심을 주된 동기로 탐험하게 하는 것에 대해 이야기했습니다.
데미스 하사비스: 맞습니다. 월드 모델의 또 다른 흥미로운 용도는 바로 그것입니다. 우리는 최근 SIMA 2라는 시뮬레이션 에이전트를 발표했습니다. 에이전트(아바타)를 가상 세계, 예를 들어 '노맨즈 스카이' 같은 복잡한 상용 게임의 오픈 월드에 떨어뜨립니다. 그리고 제미나이가 탑재되어 있으니 말로 지시를 내릴 수 있죠.
데미스 하사비스: 그런데 우리는 '지니를 SIMA에 연결하면 어떨까?' 하고 생각했습니다. SIMA 에이전트를, 즉석에서 세상을 창조하는 또 다른 AI(지니) 속에 떨어뜨리는 거죠. 이제 두 AI가 서로의 마음속에서 상호작용하게 됩니다. SIMA는 세상을 탐험하려 하고, 지니 입장에서 SIMA는 그냥 플레이어일 뿐이니 SIMA가 하려는 행동에 맞춰 세상을 생성해 줍니다. 이 둘이 상호작용하는 걸 보는 건 정말 놀랍습니다.
데미스 하사비스: 이것은 흥미로운 훈련 루프(training loop)의 시작일 수 있습니다. 거의 무한한 훈련 예시를 얻을 수 있죠. SIMA가 배우려는 것에 맞춰 지니가 즉석에서 생성해 주니까요. 자동으로 수백만 개의 과제를 설정하고 해결하며 점점 더 어려워지는 과제를 상상해 볼 수 있습니다. 이런 SIMA 에이전트는 게임의 훌륭한 동반자가 될 수도 있고, 여기서 배운 것들이 로봇 공학에도 유용할 수 있습니다.
해나 프라이: 그야말로 '지루한 NPC(Non-Player Character)의 종말'이군요.
데미스 하사비스: 정확합니다. 게임에서 정말 놀라운 일이 벌어질 겁니다.
[23:27]
해나 프라이: 그런데 그 생성된 세계들이 정말 현실적인지 어떻게 확인하나요? 그럴듯해 보이지만 실제로는 틀린 물리학을 갖게 되지 않으려면요?
데미스 하사비스: 좋은 질문입니다. 그것도 일종의 환각 문제일 수 있죠. 창의적인 작업을 할 때는 환각이 좋을 수도 있습니다. 하지만 SIMA 에이전트를 훈련시킬 때 지니가 잘못된 물리학을 환각해 내는 건 원치 않겠죠.
데미스 하사비스: 그래서 우리는 지금 게임 엔진을 사용하여 일종의 물리학 벤치마크를 만들고 있습니다. 고등학교 물리 실험실에서 할 법한 간단한 것들, 예를 들어 공 굴리기나 진자 운동 같은 것들을 통해 뉴턴의 운동 법칙 등을 아주 기본적인 수준에서 분석하는 거죠. Veo나 지니 같은 모델들이 물리학을 100% 정확하게 캡슐화했는지 확인하는 겁니다.
데미스 하사비스: 지금은 완벽하지 않고 근사치(approximation) 수준입니다. 대충 보기엔 그럴듯해 보이지만 로봇 공학에 의존할 만큼 정확하지는 않습니다. 그것이 다음 단계입니다.
[25:31]
해나 프라이: 지난번 인터뷰에서 당신은 의식이 진화의 결과라는 이론을 좋아한다고 했습니다. 타인의 내부 상태를 이해하는 것이 생존에 유리했고, 그 후 그것을 우리 자신에게 돌렸다는 것이죠. 시뮬레이션 안에서 에이전트의 진화를 돌려보고 싶은 호기심은 없나요?
데미스 하사비스: 물론입니다. 언젠가 그 실험을 꼭 해보고 싶습니다. 진화를 다시 돌려보고, 사회적 역학 관계도 다시 돌려보는 거죠. 샌타페이 연구소(Santa Fe Institute)에서 경제학자들이 작은 그리드 월드에서 인공 사회 실험을 하곤 했는데, 적절한 인센티브 구조를 주면 시장이나 은행 같은 것들이 발명되곤 했죠. 그런 게 정말 멋지다고 생각합니다.
데미스 하사비스: 생명과 의식의 기원을 이해하는 것은 제가 처음 AI를 시작할 때부터 가졌던 큰 열정 중 하나였습니다. 시뮬레이션은 그것을 이해하는 가장 강력한 도구 중 하나입니다. 통계적으로 수행할 수 있으니까요. 초기 조건을 약간씩 다르게 해서 수백만 번 시뮬레이션을 돌리고 그 차이를 이해할 수 있습니다. 현실 세계에서는 통제된 실험으로 하기 매우 어려운 일이죠. 정확한 시뮬레이션은 과학에 믿을 수 없는 혜택이 될 겁니다.
[28:30]
해나 프라이: 셰인 레그(Shane Legg)와 이야기했을 때, 그는 노동을 자원과 교환하는 현재의 경제 시스템이 AGI 이후 사회에서는 똑같이 작동하지 않을 것이라고 했습니다. 사회가 어떻게 재구성되어야 하는지, 혹은 재구성될 수 있을지에 대한 비전이 있으신가요?
데미스 하사비스: 네, 지금 그 부분에 대해 더 많이 생각하고 있고, 셰인도 그에 관한 노력을 이끌고 있습니다. AGI 이후의 세상이 어떤 모습일지, 무엇을 준비해야 할지에 대해서요. 저는 사회 전반, 경제학자, 사회과학자, 정부가 이 문제에 대해 더 많이 고민해야 한다고 생각합니다.
데미스 하사비스: 산업혁명 때와 마찬가지로 노동 세계, 주당 근무 시간 등 모든 것이 농경 사회에서 산업 사회로 바뀌었죠. 이번에도 최소한 그 정도 수준의 변화가 일어날 것입니다. 새로운 경제 시스템과 모델이 필요할 것이라는 점은 놀라운 일이 아닙니다. 혜택이 널리 분배되도록 해야겠죠. 보편적 기본 소득(UBI) 같은 것들이 해결책의 일부가 될 수는 있겠지만, 그것이 완전한 해결책이라고 생각하지는 않습니다.
데미스 하사비스: 그리고 더 나은 시스템이 있을 수도 있습니다. 일종의 직접 민주주의 시스템처럼, 자신이 원하는 것에 대해 투표권을 행사하는 방식 말이죠. 지역 사회 수준에서는 이미 이런 일이 일어나고 있습니다. 예산을 가지고 놀이터를 만들지, 테니스장을 만들지 주민들이 투표하는 것처럼요.
데미스 하사비스: 또한 철학적인 측면도 있습니다. 직업이 바뀌고, 핵융합 등으로 에너지가 풍부해져 '탈 희소성(post-scarcity)' 사회가 된다면 돈은 어떻게 될까요? 모두가 더 잘 살게 되겠지만, 사람들의 '목적(purpose)'은 어떻게 될까요? 많은 사람들이 직업과 가족 부양에서 삶의 목적을 찾으니까요. 이런 질문들은 경제적 질문에서 철학적 질문으로 섞여 들어갑니다.
[31:37]
해나 프라이: 사람들이 당신이 원하는 만큼 빠르게 주의를 기울이지 않는 것 같아 걱정되시나요? 국제적인 협력이 필요하다는 것을 인식하게 하려면 어떤 계기가 필요할까요?
데미스 하사비스: 걱정이 됩니다. 이상적인 세상이라면 이미 훨씬 더 많은 국제적 협력과 연구, 논의가 있었을 겁니다. 5년에서 10년이라는 우리의 타임라인은, 제도를 만들고 대비하기에는 그리 긴 시간이 아닙니다.
데미스 하사비스: 기존 제도들은 매우 파편화되어 있고 필요한 만큼 영향력이 있어 보이지 않습니다. 게다가 현재 전 세계적인 지정학적 긴장 상태를 보면 협력이 그 어느 때보다 어려워 보입니다. 기후 변화 문제만 봐도 합의를 도출하기가 얼마나 어려운지 알 수 있죠.
데미스 하사비스: 시스템이 더 강력해지고, 제품을 통해 일반인들도 그 위력을 느끼게 되면서 정부에까지 그 영향이 닿아 AGI에 가까워질수록 사람들이 정신을 차리게(see sense) 되기를 희망합니다. 어떤 사건(incident)이 필요한지는 모르겠지만, 그러지 않기를 바랍니다. 대부분의 주요 연구소들은 꽤 책임감 있게 행동하고 있습니다.
데미스 하사비스: 하지만 상업적인 이유로도 책임감이 필요합니다. 기업들이 에이전트를 도입할 때, 그것이 멋대로 행동해서 데이터를 망치지 않도록 안전장치와 한계를 알고 싶어 할 테니까요. 자본주의 시스템이 책임감 있는 행동을 강화하는 데 도움이 될 것이라고 봅니다.
데미스 하사비스: 문제는 '로그 액터(rogue actors, 통제 불능의 행위자들)'입니다. 불량 국가나 조직, 혹은 오픈소스를 기반으로 한 누군가가 될 수도 있겠죠. 이것을 막기는 어렵습니다. 무언가 잘못될 수 있고, 부디 그것이 중간 규모 정도여서 인류에게 경고 사격(warning shot)이 되길 바랍니다. 그러면 그것이 국제적인 표준이나 협력을 옹호하는 계기가 될 수 있겠죠. 그것이 가능하기를 희망합니다.
[36:20]
해나 프라이: 장기적으로, AGI를 넘어 초지능(ASI)으로 갈 때, 기계가 절대 할 수 없는 인간만의 무언가가 있다고 생각하시나요?
데미스 하사비스: 그것이 가장 큰 질문이죠. 이것은 튜링 머신과 관련이 있습니다. 저는 항상 이렇게 생각했습니다. AGI를 만들어 마음의 시뮬레이션으로 삼고 실제 마음과 비교해 보면 그 차이를 알 수 있을 거라고요. 창의성, 감정, 꿈, 의식 같은 것들 말이죠.
데미스 하사비스: 핵심 질문은 '튜링 머신의 한계는 무엇인가?'입니다. 아무도 우주에서 계산 불가능한 것을 발견하지 못했습니다. 지금까지는요. 고전 컴퓨터의 한계(P=NP 등)를 이미 넘어선 것들도 많습니다. 저는 튜링 머신이 우주의 모든 것을 모델링할 수 있을 것이라는 쪽에 걸겠습니다. 물리학이 그렇지 않다는 것을 보여주기 전까지는요.
데미스 하사비스: 물론 로저 펜로즈(Roger Penrose)처럼 뇌에 양자 효과가 있고 그것이 의식과 관련이 있다고 믿는 사람들도 있습니다. 만약 그렇다면 고전적 기계는 그것을 복제할 수 없겠죠. 하지만 그렇다 해도 양자 컴퓨터의 데이터가 있으면 고전적 시뮬레이션을 만들 수 있을지도 모릅니다.
데미스 하사비스: 결국 '우주의 가장 근본적인 단위는 무엇인가?' 하는 물리학 이론으로 돌아갑니다. 물질이나 에너지가 아니라 '정보(information)'가 가장 근본적인 단위일 수 있습니다. 어쩌면 이 모든 것이 상호 교환 가능할지도 모르고요. 하지만 우리가 아는 한, 우리가 가진 이 놀라운 감각들은 튜링 머신으로 계산 가능합니다. 시뮬레이션이 중요한 이유가 바로 그것이죠. 시뮬레이션할 수 있다면 어떤 의미에서는 이해한 것이니까요.
[39:06]
해나 프라이: 마지막으로 개인적인 소감을 여쭙고 싶습니다. 이 모든 것의 최전선에 있다는 것은 어떤 느낌인가요? 감정적인 무게감 때문에 고립감을 느끼지는 않나요?
데미스 하사비스: 잠을 잘 못 잡니다. 일이 너무 많아서이기도 하지만, 잠을 이루기 힘들 때가 있습니다. 매우 복합적인 감정입니다. 한편으로는 믿을 수 없을 정도로 흥분됩니다. 제가 꿈꿔왔던 모든 것을 하고 있고, 응용 과학과 머신러닝의 절대적인 최전선에 있으니까요. 과학자로서 최초의 발견을 한다는 것은 짜릿한 일입니다.
데미스 하사비스: 하지만 셰인과 저처럼 오랫동안 이 일을 해온 사람들은 다가오는 것의 거대함을 누구보다 잘 이해하고 있습니다. 10년 뒤에 일어날 일들, 인간이란 무엇인가에 대한 철학적 질문들 같은 것들이요. 이것은 큰 책임입니다. 하지만 훌륭한 팀이 함께 고민하고 있고, 제 평생을 훈련해 온 일이기도 합니다. 체스, 게임, 시뮬레이션, 신경과학 등 제 모든 과거가 이 순간을 위한 것이었던 것 같습니다. 그것이 제가 버티는 방법입니다. 그냥 훈련이라고 생각하는 거죠.
해나 프라이: 은퇴해서 "할 일 다 했다"라고 말할 수 있는 날이 올까요? 아니면 평생을 바쳐도 모자란 일인가요?
데미스 하사비스: 안식년(sabbatical)은 확실히 필요할 것 같아요(웃음). 안식년에도 과학을 하겠지만요. 하지만 제 사명은 AGI를 안전하게 완성하고 인류를 돕는 것입니다. 그 지점에 도달하면, 초지능이나 그 이후의 경제적, 사회적 문제들에서도 제가 도울 수 있는 부분이 있겠지만, 제 핵심적인 인생의 미션은 완수되는 셈이죠. 물론 앞서 말했듯 협력이 필요할 겁니다. 저는 협력적인 사람이니 제가 가진 위치에서 도움이 될 수 있기를 바랍니다.
해나 프라이: 그러고 나서 휴가를 가시면 되겠네요.
데미스 하사비스: 네, 그땐 충분히 자격 있는 안식년을 갖겠습니다.
해나 프라이: 데미스, 정말 감사합니다. 언제나처럼 즐거운 시간이었습니다.
데미스 하사비스: 감사합니다.
[41:34]
해나 프라이: 이번 시즌 '구글 딥마인드: 더 팟캐스트'는 여기까지입니다. 저는 해나 프라이 교수였습니다. 2025년에 돌아올 때 가장 먼저 소식을 들으시려면 구독을 잊지 마세요. 그동안 방대한 에피소드 라이브러리를 다시 들어보시는 건 어떨까요? 자율 주행 자동차부터 로봇 공학, 월드 모델, 신약 개발까지, 여러분의 호기심을 채워줄 많은 내용이 준비되어 있습니다. 곧 다시 만나요!
Demis Hassabis:
산업혁명보다 10배 크고, 10배 빠를 것이다.
노동, 경제, 목적의 개념 자체가 변한다.
UBI는 하나의 아이디어일 뿐이며, 더 나은 시스템이 필요할 가능성이 크다.
포스트 AGI 사회는 경제 문제를 넘어 철학적 문제로 이어진다.
개 멋있네 역시 허사비스경 ㅠㅠ