---

AGI의 정의와 시기

진행자:
데미스, 오늘 함께해주셔서 정말 감사합니다. 이야기를 어디서부터 시작할까 생각했는데, 최근에 당신이 참여한 다큐멘터리를 봤어요. 정말 훌륭하더군요. 그래서 AGI 이야기부터 시작하고 싶었습니다.
AGI에 대한 정의는 사람마다 꽤 다르잖아요. 당신은 이 개념을 굉장히 신중하게 다뤄왔고요.
그래서 먼저 지금 당신이 AGI를 어떻게 생각하는지 설명해줄 수 있을까요? 그걸 기준점으로 삼고 싶습니다.

하사비스:
네. 우리는 AGI를 꽤 일관되게 정의해왔습니다.
기본적으로 인간의 마음이 가진 모든 인지 능력을 보여줄 수 있는 시스템이죠.
이게 중요한 이유는, 우리가 아는 한 일반지능이 가능하다는 유일한 존재 증명이 바로 인간의 뇌이기 때문입니다. 어쩌면 우주 전체를 통틀어도요.
그래서 저에게 AGI의 기준은 바로 그것입니다.

진행자:
가장 어려운 질문일 수도 있겠네요.
우리는 얼마나 가까이 와 있나요?
모두가 다른 말을 하고, 2026년이나 2027년처럼 아주 이른 시기를 말하는 아주 저명한 인물들도 있으니까요.

하사비스:
네, 저는 그 시점에 대해 일종의 확률 분포를 가지고 생각합니다.
하지만 앞으로 5년 안에 올 가능성이 매우 높다고 말하고 싶습니다.
그건 정말 얼마 남지 않았다는 뜻이죠.

진행자:
그건 당신이 예전보다 더 가깝다고 느끼게 된 건가요? 시간 전망이 바뀌었나요?

하사비스:
그렇지는 않습니다.
재미있는 얘기인데, 제 공동창업자이자 여기의 수석 과학자인 셰인 레그가 2010년 우리가 DeepMind를 시작했을 때 AGI가 언제 올지에 대한 블로그 글을 쓰곤 했어요.
당시를 생각해보면, 거의 아무도 AI를 하지 않았고, 다들 AI는 끝났다고 생각하던 시절이었죠. 정말 사장된 분야처럼 여겨졌습니다.
그런데 그 글들이 아직도 인터넷에 남아 있어서 사람들이 확인할 수 있어요.
당시 우리는 컴퓨트와 알고리즘 진보를 외삽해서 계산했는데, 우리가 시작한 시점으로부터 대략 20년 정도 걸릴 것이라고 봤습니다.
그리고 지금 보면, 거의 그 예상 경로 위에 있다고 생각합니다.

---

병목: 컴퓨트, 스케일링, 실험

진행자:
지금 시점에서 가장 큰 병목은 무엇인가요?
다큐멘터리에서 “컴퓨트는 늘 부족하다”고 말한 걸 봤거든요.
오늘 기준으로 봤을 때 가장 큰 병목은 뭐라고 생각하나요?

하사비스:
저는 컴퓨트가 가장 큰 병목이라고 생각합니다.
단지 obvious한 이유, 그러니까 아이디어와 시스템을 더 크게 스케일링해야 하기 때문만은 아닙니다. 흔히 말하는 스케일링 법칙에 따라, 더 큰 아키텍처와 더 많은 파라미터를 계속 구축하면 더 지능적인 시스템을 얻게 되죠.

그런데 또 하나 중요한 이유가 있습니다.
우리는 실험을 하기 위해서도 엄청난 컴퓨트가 필요합니다.
컴퓨터, 즉 클라우드는 우리의 작업대이자 실험실입니다.
새로운 아이디어가 있고, 새로운 알고리즘 아이디어가 있어도, 그걸 테스트하려면 어느 정도 규모에서 시험해야 합니다. 그렇지 않으면 실제 주 시스템에 넣었을 때 성립하지 않을 수 있거든요.
그래서 연구자들이 새로운 아이디어를 많이 가지고 있다면, 그것들을 검증하기 위한 상당한 컴퓨트가 필요합니다.

진행자:
방금 스케일링 법칙이라는 말을 하셨는데요.
많은 사람들이 지금 스케일링 법칙의 한계에 부딪히고 있고, 이제 점점 plateau에 접어드는 것 아니냐고 말합니다.
그게 맞다고 보시나요?

하사비스:
아니요, 그렇게 생각하지는 않습니다.
좀 더 미묘한 문제라고 봐야 합니다.
물론 선도 기업들이 처음 대규모 언어 모델을 만들기 시작했을 때는, 세대가 바뀔 때마다 엄청난 도약이 있었죠. 거의 성능이 두 배씩 뛰는 느낌이었을 수도 있습니다.
그런데 어느 시점에서는 그 증가 속도가 둔화될 수밖에 없었어요. 그러니까 계속 지수적으로 가는 건 아닙니다.

하지만 그렇다고 해서 기존 시스템을 더 크게 스케일링하는 데서 여전히 큰 수익이 나오지 않는다는 뜻은 아닙니다.
우리도 그렇고 다른 프런티어 연구소들도 그런 컴퓨트 확장에서 여전히 많은 성과를 얻고 있습니다.

그래서 저는 이렇게 말하고 싶습니다.
그 수익률은 여전히 매우 상당합니다. 다만 당연히 초기처럼 폭발적이지는 않을 뿐입니다.

---

무엇이 아직 부족한가: 지속적 학습, 메모리, 계획, 일관성

진행자:
당신이 예전에 생각했던 것보다 지금 뒤처져 있는 영역이 있다면 어디인가요?

하사비스:
사실 대부분의 영역에서는 제가 예상했던 것보다 더 앞서 있다고 생각합니다.
비디오 모델 같은 것들을 보세요.
혹은 우리의 최신 시스템인 Genie 같은 인터랙티브 월드 모델도 있습니다.
한 걸음 물러서서 보면, 그건 정말 놀라운 일입니다.
만약 누군가가 5년 전이나 10년 전에 저에게 그런 걸 보여줬다면, 저는 정말 깜짝 놀랐을 겁니다.
그래서 대부분의 영역에서는 이 분야가 예상보다 앞서 있다고 봅니다.

하지만 아직도 빠져 있는 큰 것들이 있습니다.
예를 들면 지속적 학습(continual learning) 입니다.
이 시스템들은 훈련을 마치고 세상에 배포된 뒤에는 더 이상 잘 배우지 못합니다.
그러니까 새로운 것을 계속 습득하는 데 서툴죠.

진행자:
굉장히 직설적이고 기본적인 질문일 수도 있는데요.
왜 우리는 아직 지속적 학습을 갖고 있지 못한 건가요?

하사비스:
아직 사람들은 그걸 완전히 해결하지 못했습니다. 그리고 모든 선도 연구소들이 이 문제를 연구하고 있습니다.
즉, 몇 달 동안 훈련한 기존 시스템에 새로운 학습을 어떻게 통합할 것인가 하는 문제죠.

우리의 뇌는 이걸 아주 우아하게 해냅니다.
아마 수면이나 강화학습 같은 메커니즘을 통해서일 겁니다.
하루 동안 겪은 기억들이 재생되고, 그중 일부 정보가 기존 지식 기반에 정교하게 통합되죠. 이를 consolidation이라고 합니다.
저는 한동안 우리가 아마 비슷한 무언가가 필요할지도 모른다고 생각했습니다.
새로운 정보를 기존 정보 기반과 함께 잘 통합할 수 있는 그런 구조 말입니다.

진행자:
비디오 모델, 이미지, 미디어 얘기를 하셨는데요. DeepMind는 최근 몇 년 사이 아주 빠르게 따라잡았고, 어떤 면에서는 다른 제공업체들을 추월한 것처럼 보입니다.
제가 트윗한 적도 있는데, 리서치나 새 프로그램 조사에 쓸 때 지금은 DeepMind가 제 1순위라고요. 예전에는 그렇지 않았거든요.
2~3년 전과 달리 DeepMind가 이렇게 가속하고 발전하게 된 이유는 무엇인가요?

하사비스:
조직적인 변화를 좀 만들었습니다.
저는 Google과 DeepMind가 늘 가장 깊고 넓은 연구 인력을 가지고 있었다고 생각합니다.
지난 10년, 아니 15년을 돌아보면 현대 AI 산업을 떠받치는 돌파구의 약 90%는 Google Brain, Google Research, 혹은 DeepMind에서 나왔다고 말하고 싶습니다.

AlphaGo와 강화학습, 그리고 물론 Transformer까지요. 이런 것들이 모두 핵심 돌파구였습니다.
그래서 앞으로도 혹시 아직 빠진 중요한 돌파구가 있다면, 그걸 우리가 만들어낼 수 있다고 저는 믿습니다.

그리고 회사 전반에 흩어져 있던 인재들을 하나의 방향으로 모았습니다.
또 우리가 조금 전에 말했던 컴퓨트 자원도 마찬가지예요.
회사의 여기저기에서 모델을 두세 가지씩 따로 만드는 대신, 모든 자원을 모아서 가장 큰 모델을 만들 수 있게 한 거죠.

기존에 이미 갖고 있던 재료들을 다시 하나로 모으고, 그다음 스타트업처럼 집요한 집중력과 속도로 밀어붙인 것, 그게 큰 이유라고 생각합니다.
프런티어로 다시 돌아오고, 여러 영역에서 앞서가기 위해서요.

진행자:
“돌파구를 만들 사람은 우리일 수 있고, 또 우리여야 한다”고 하셨죠.
그렇다면 당신이 가장 기대하는 다음 돌파구는 지속적 학습인가요?

하사비스:
빠져 있는 건 꽤 많습니다.
지속적 학습도 있고요.
또 다양한 메모리 시스템을 살펴보는 데도 아직 여지가 많다고 생각합니다.
지금은 긴 컨텍스트 윈도우를 쓰고 있는데, 사실 그건 다소 brute force 방식입니다. 그냥 모든 걸 밀어 넣는 거죠.
거기에는 아직 발명될 만한 흥미로운 아키텍처들이 많이 있다고 봅니다.

그리고 장기 계획(long-term planning), 계층적 계획(hierarchical planning) 같은 것도 있습니다.
지금 시스템들은 수년 뒤를 내다보는 계획을 잘 세우지 못합니다.
반면 인간은 그런 걸 할 수 있죠.

아직 해결해야 할 문제는 꽤 많습니다.
그중에서도 가장 큰 것 하나는 일관성(consistency) 입니다.
저는 이런 시스템들을 가끔 “들쭉날쭉한 지능(jagged intelligences)”이라고 부릅니다.
특정한 방식으로 질문하면 정말 놀랍도록 잘하는데, 질문을 조금만 다르게 바꾸면 아주 기초적인 것에서도 실패할 수 있거든요.
진정한 일반지능이라면 그런 식의 들쭉날쭉함이 있어서는 안 됩니다.

진행자:
파일 위치를 다시 잡고, 에이전트가 특정 방식으로 행동하도록 세팅해두면, 파일 하나만 넘어져도 전체 설정이 완전히 무너지는 것과 비슷하군요.

하사비스:
맞습니다.

진행자:
그건 재앙이죠.

하사비스:
그렇죠.
일반지능이라는 것은, 우리 마음이 작동하는 방식을 생각해보면, 그런 식의 구멍이 있어서는 안 됩니다.

---

모델의 상품화, 프런티어 격차, 오픈소스

진행자:
스케일링 법칙 plateau 이야기를 했는데요.
사람들은 또 모델 능력이 점점 상품화되고 있다고 말합니다.
모델 간 능력 차이가 줄어들고 있다고 보시나요? 아니면 한두 곳이 계속 더 앞서 나갈 거라고 보시나요?

하사비스:
지금은 세 개 내지 네 개 정도의 선도 연구소가 있고, 우리도 그중 하나라고 생각합니다.
그런데 그 격차는 점점 벌어지기 시작할 것 같습니다.
왜냐하면 이런 도구들은 다음 세대 모델을 만드는 데도 도움을 주기 때문입니다.
코딩 도구, 수학 도구 같은 것들이요.

그리고 이제는 같은 아이디어만 가지고 이전과 같은 성과를 뽑아내기가 점점 더 어려워지고 있습니다.
그래서 새로운 알고리즘 아이디어를 발명할 수 있는 능력을 가진 연구소들이 앞으로 몇 년 동안 더 큰 우위를 갖게 될 겁니다.
기존 아이디어들에서는 이미 뽑아낼 수 있는 과즙을 거의 다 짜냈기 때문이죠.

진행자:
당신은 오랫동안 연구를 많이 공개해왔고, 그 덕분에 품질 좋은 오픈 모델들도 많이 나왔습니다.
앞으로 오픈 모델의 미래를 어떻게 보시나요?
제 포트폴리오 회사들 중 많은 곳이 프런티어 모델을 기준점으로 삼고, 그걸 바탕으로 더 비용 효율적인 오픈 모델을 최대한 비슷하게 만들려고 하거든요.
이 미래는 어떤 모습일까요?

하사비스:
아마 지금 우리가 보는 것과 비슷할 것 같습니다.
우리는 오픈 과학과 오픈 모델의 큰 지지자입니다.
원래 Transformer부터 AlphaFold까지, 우리는 많은 것들을 세상에 내놓았고, 연구 커뮤니티를 돕기 위해 그렇게 해왔습니다.
앞으로도 특히 응용 분야, 과학에 AI를 적용하는 영역에서는 계속 그럴 계획입니다. 그건 제 열정이기도 하고요.

하지만 점점 더, 오픈소스 모델은 아마 절대적인 최전선보다는 한 단계 뒤에 있게 될 것 같습니다.
보통 오픈소스 커뮤니티가 그 아이디어를 재구현하고 파악하는 데는 약 6개월 정도가 걸리거든요.

그와 동시에 우리는 Gemma라는 오픈소스 모델 계열도 강하게 밀고 있습니다.
각 크기에서 최고 수준이 되도록 만들겠다는 목표입니다.
작은 개발자, 학계, 혹은 스타트업 초기 단계에는 아주 적합하다고 생각합니다.
엣지 컴퓨팅에도 좋고요.
그래서 특정 유형의 응용에서는 오픈소스 모델이 아주 중요하다고 봅니다.

---

LLM 이후, 미래의 AGI 시스템

진행자:
LLM 이후의 세상은 어떻게 생각하시나요?
Yann LeCun처럼 완전히 다른 견해를 가진 사람들도 있잖아요.

하사비스:
저는 몇 가지 점에서 Yann과는 견해가 다릅니다.
예를 들면, 아직 빠져 있는 게 있을 가능성이 50 대 50 정도는 있다고 생각합니다.
아마 월드 모델 같은 접근이 추가적인 돌파구가 될 수 있겠죠.

하지만 저의 베팅은 꽤 분명합니다.
우리는 이미 이 파운데이션 모델들이 얼마나 성공적인지 봤습니다. 이들은 정말 인상적인 일들을 할 수 있습니다.
이건 사라지지 않을 겁니다.
그리고 스케일링 법칙에서도 여전히 수익을 보고 있죠.

그래서 미래의 AGI 시스템을 생각할 때 진짜 질문은 이겁니다.
LLM 기반의 파운데이션 모델이 유일한 핵심 구성요소일 것인가, 아니면 전체 시스템의 한 부분일 것인가?
저는 그것이 대체될 거라고 생각하지 않습니다.
오히려 파운데이션 모델 위에 더 많은 것들이 얹혀지는 방향일 거라고 봅니다.
우리가 월드 모델을 붙이는 방식처럼요.

---

AGI 이후 세계, 과학, 의학, 신약 개발

진행자:
당신이 말한 대로 5년 안팎에 AGI가 올 수 있다면, 그 세상은 어떤 모습일까요?
사람마다 여러 걱정이 있는데요.
일단 전반적으로, 당신 눈에 그 세계는 어떤 모습인가요?

하사비스:
긍정적인 측면에서 말하자면, 그리고 제가 제 인생 전체를 AGI를 향해 일해온 이유이기도 한데, 저는 AGI가 과학과 의학을 위한 궁극의 도구가 될 거라고 생각합니다.
과학적 발견을 진전시키고, 질병 치료법을 찾는 데 있어서 그런 기술이 필요합니다.
그래서 저는 5년 이상이 지나면 우리가 새로운 과학적 발견의 황금기에 들어서기를 바라고 있습니다.

진행자:
제 어머니는 다발성 경화증을 앓고 계세요. 그래서 저는 그 부분에서 늘 가장 기대하게 됩니다.
다만 제가 걱정하는 건 약물 발견 자체보다도, 임상시험을 통과하는 과정입니다. 결국 어머니가 그 혜택을 실제로 받기까지는 10년이 걸릴 수도 있으니까요.
그건 어떻게 해결하나요?

하사비스:
곧 그 지점에 도달할 수 있을 거라고 생각합니다.
우리가 AlphaFold로 단백질 접힘 문제를 푼 뒤에, Isomorphic Labs라는 회사를 분사시켰습니다. 아주 잘 되고 있고요.
그 회사의 목표는 신약 개발 과정의 나머지 부분을 해결하는 겁니다.
거기에는 화학, 화합물 설계, 독성 검증, 안전한 약이 되기 위해 필요한 여러 특성 검토 등이 포함됩니다.

저는 향후 5년, 길게는 5~10년 안에 그 전체 약물 설계 엔진이 준비될 수 있다고 생각합니다.
그다음 문제는 말씀하신 대로 임상시험입니다. 여전히 수년이 걸리죠.

하지만 거기에서도 AI가 도움이 될 수 있습니다.
예를 들면 인간 대사의 일부를 시뮬레이션한다거나, 환자를 더 정밀하게 분류해서 특정 환자에게 유전체적으로 맞는 약을 정확히 투여하는 식으로요.
그래서 AI는 그 부분에서도 도움이 될 겁니다.

다만 진짜 혁명은, 아마 AI가 설계한 약물이 몇 개, 어쩌면 10여 개 정도 실제로 전 과정을 통과했을 때 올 것입니다.
그때 정부와 규제기관이 충분한 데이터를 얻게 되고, 모델의 예측을 사후 검증할 수 있게 되면, 미래에는 그 예측을 더 신뢰할 수 있게 되겠죠.
그러면 동물실험을 일부 생략한다거나, 투약 용량을 더 빠르게 올린다거나 하는 것도 가능할 수 있습니다.
그래서 이건 두 단계로 가야 한다고 생각합니다.
먼저 약물 설계 문제를 풀고, 그다음 규제와 시간 문제를 다루는 것이죠.

---

AI 안전과 국제 규제

진행자:
규제 얘기를 해보죠. AI 안전은 큰 주제이고 큰 걱정거리이기도 합니다.
다큐멘터리에서 스티븐 호킹이 “우리는 이것을 제대로 해내야 한다. 두 번째 기회는 없을 수도 있다”고 말했던 장면이 기억납니다.
그 말이 맞다고 생각하시나요?

하사비스:
네, 맞다고 생각합니다.
정말 그 정도로 stakes가 큰 문제입니다.
제가 걱정하는 건 두 가지입니다.

첫째는 악의적인 행위자에 의한 악용입니다.
이 시스템은 이중용도 기술입니다. 과학과 건강 분야에서는 엄청난 선을 이룰 수 있지만, 나쁜 의도를 가진 사람이 해로운 목적으로 재사용할 수도 있습니다.

둘째는 기술적 문제입니다.
지금 당장의 시스템이 아니라, 아마 1~2년 뒤 더 에이전트적이고 자율적이 되어 AGI에 가까워질 시스템들이, 우리가 원하는 가드레일 안에 머물도록 유지할 수 있을까 하는 문제죠.

그리고 여기서 적절한 규제가 도움이 될 수 있다고 생각합니다.
최소한 주요 제공자들이 따라야 하는 최소 기준을 마련하는 방식으로요.
다만 이상적으로는 국제적인 기준이어야 합니다.

진행자:
어떤 종류의 규제가 “올바른 규제”일까요?
다큐멘터리에서 당신은 더 많은 글로벌 조정이 필요하다고 했죠. 그런데 그 말이 걱정스럽기도 해요. 우리가 요즘은 그런 국제 협력을 점점 더 못하고 있으니까요.

하사비스:
네, 맞습니다.
정말 이상한 타이밍이죠.
아마 세계 역사상 가장 중대한 기술일지도 모르는 것을 다루는 이 순간에, 국제 질서는 이렇게 조각나 있고 분열되어 있으니까요. 이상적인 상황은 아닙니다.

그래도 최소한의 기준, 그리고 바람직하지 않은 속성을 테스트하는 벤치마크 정도는 만들어야 한다고 생각합니다.
예를 들면 기만(deception) 입니다.
아무도 기만 능력을 가진 시스템을 만들어서는 안 됩니다. 그런 시스템은 다른 안전장치를 우회할 수 있으니까요.

그리고 일이 잘 풀린다면, 어떤 인증 절차 같은 것이 생길 수도 있다고 생각합니다.
일종의 품질 인증 마크 같은 거죠.
이 모델은 특정한 안전장치와 보장을 갖추고 있으니, 소비자나 기업이 그 위에 안전하게 구축할 수 있다는 식의요.
저는 이상적으로 그런 방향으로 가야 한다고 생각합니다.
하지만 이런 시스템은 국경을 넘고 영토를 넘나드니, 국제적이어야 합니다.

진행자:
궁극적인 검증 체계는 누가 맡아야 할까요?
저는 미디어 회사를 운영하면서도 늘 “이게 진짜인가 가짜인가”를 묻게 되거든요.
누가 최종적인 검증자 역할을 해야 할까요?

하사비스:
궁극적으로는 정부여야 한다고 생각합니다.
하지만 실제 기술 작업을 할 수 있는 기관은 예를 들어 AI Safety Institute 같은 곳일 수 있겠죠.
영국에는 훌륭한 기관이 하나 있고, 미국에도 있습니다.
연구력이 뛰어난 주요 국가들은 비슷한 기관을 가져야 한다고 생각합니다.
그리고 그곳에는 고급 연구자들이 배치되어, 이런 시스템들을 특정 벤치마크에 따라 평가하고 감사할 수 있어야 합니다.
독립적으로 기준 충족 여부를 점검하는 것이죠.

진행자:
만약 제가 AI 안전에만 쓸 수 있는 마법 지팡이를 하나 드린다면, 어떤 제도나 프로그램을 구현하고 싶나요?

하사비스:
어떤 국제기구가 필요하다고 생각합니다.
원자력 기구 같은 모델과 비슷한 것이요.
각국의 AI Safety Institute들이 거기에 정보를 제공하고, 연구 커뮤니티도 참여해서 어떤 특성, 어떤 능력, 어떤 벤치마크를 검사해야 하는지 정의하는 구조가 좋겠습니다.

그리고 다른 안전장치들도 있을 수 있습니다.
예를 들어 AI가 사람이 읽을 수 없는 토큰, 즉 우리가 이해할 수 없는 기계 언어 같은 형태로 출력을 내는 것은 바람직하지 않습니다.
그건 새로운 취약점을 도입할 수 있으니까요.
이런 것들에 대해서는 주요 연구소들 대부분이 “그건 피하는 것이 좋다”고 동의할 수 있을 겁니다.

그런 다음 이런 기관들이 그런 항목들을 검사하고, 대중이 이 시스템들이 독립적으로 점검되고 감사받았다는 확신을 가질 수 있게 해야 합니다.
학계와 시민사회도 여기에 참여할 수 있고요.
이 시스템들은 엄청나게 강력해질 것이기 때문에, 독립적 검증이 정말 중요합니다.

진행자:
좋습니다. 마법 지팡이는 다 쓰셨네요.

하사비스:
엉뚱한 데 쓴 건 아닐지 모르겠네요.

진행자:
시간이 지나면 알겠죠.

하사비스:
맞습니다.

---

일자리, 불평등, 부의 재분배

진행자:
조금 전에 5년 후 과학 분야를 굉장히 기대한다고 하셨는데요.
그와 동시에 가장 큰 우려 중 하나는 역시 노동 대체 문제입니다.
얼마 전에 마크 안드리센이 제 프로그램에 나와서, 제가 그런 걱정을 제기하니까 저를 마르크스주의자라고 부르더군요.
그는 “완전히 말도 안 되는 걱정이다. 우리는 항상 이런 기술 변화를 극복해왔다”고 했습니다.
이 시스템들이 정말 강력해질 때 노동 시장에 어떤 일이 벌어질지, 그 문제를 어떻게 보시나요?

하사비스:
과거를 보면, 새로운 혁명적 기술이 등장할 때마다 분명히 일자리의 큰 혼란이 있었습니다.
그래서 이번에도 그건 निश्चित히 일어날 겁니다.
많은 오래된 직업들은 사라지거나 더 이상 유지되지 못하게 되겠죠.

하지만 역사적으로 보면, 그 뒤에는 이전에는 상상조차 하지 못했던 새로운 종류의 고품질, 고임금 일자리가 생겨났습니다.
그게 일반적인 경로입니다.

물론 “이번은 다르다”고 말하는 데는 신중해야 합니다.
마크 같은 사람들이 말하는 건, 결국 인터넷이나 모바일 같은 지난 혁신과 본질적으로 같다는 것이겠죠.

하지만 저는 이번 변화가 그 모든 이전 기술 혁신들보다 더 클 것이라고 생각합니다.
저는 가끔 이렇게 표현합니다.
AGI의 도래는 산업혁명의 10배 규모가, 10배 빠른 속도로 오는 것이라고요.
즉, 한 세기가 아니라 10년 안에 전개되는 산업혁명 같은 겁니다.

산업혁명에 관한 책들을 많이 읽어봤는데, 거기에도 엄청난 혼란이 있었습니다. 동시에 굉장한 진보도 있었죠.
오늘날의 현대 의학도 없었을 겁니다. 산업혁명 이전에는 아동 사망률이 40%에 달했으니까요.
즉, 산업혁명이 일어나지 않았어야 했다고 말할 수는 없습니다.
하지만 이번에는 최소한, 그때보다 부작용을 더 잘 완화할 수 있기를 바랍니다.

진행자:
저도 당신 같은 목소리를 들으면 너무 흥분됩니다. 변화가 빠르게 오는 것이 너무 기대되죠.
하지만 동시에 스스로를 붙잡고 “좀 더 지혜로워져야 하지 않을까” 생각합니다.
우리가 흔히 “1년 안에 가능한 것을 과대평가하고, 10년 안에 가능한 것을 과소평가한다”고 하잖아요.
이번에도 그 말이 맞나요? 아니면 정말 더 빠르게 오고 있나요?

하사비스:
저는 여전히 그 말이 맞다고 생각합니다.
아마 단기와 장기 모두 다른 기술들보다 더 가까이 와 있는 것은 사실일 수 있습니다.
하지만 문자 그대로 오늘, 그리고 앞으로 1년을 놓고 보면 AI에는 과장이 좀 있습니다.
사실 더 과장되기도 어렵다 싶을 정도죠.

그런데 한편으로는, 10년 정도의 시간축에서 이것이 얼마나 혁명적일지에 대해서는 여전히 과소평가되고 있다고 생각합니다.
그래서 지금도 여전히 그 이중성이 존재합니다.

진행자:
노동 시장 걱정과 함께, 소수 플레이어에게 부와 권력이 집중되고 불평등이 심해질 것이라는 우려도 있습니다.
산업혁명과 비교했을 때, 이건 어떻게 전개될까요?

하사비스:
여러 방식으로 전개될 수 있다고 생각합니다.
예를 들면 연기금이 대형 AI 기업에 투자해서 모든 사람이 그 성과의 일부를 갖도록 만드는 방식도 있을 수 있습니다.
국부펀드도 마찬가지고요. 모든 나라가 그런 펀드를 가져야 할지도 모릅니다. 그게 투자 측면의 접근이죠.

또 만약 엄청난 생산성 향상이 생기는데, 그것이 아주 좁은 영역에서만 발생한다면,
그 이익을 어떻게 분배하고 재분배할 것인가를 고민해야 합니다.
그래야 모두가 그 엄청난 생산성 향상의 혜택을 누릴 수 있겠죠.

그 방식은 여러 가지일 수 있습니다.
추가 생산성 이익을 이용해 인프라나 다른 공공재를 제공하는 방식도 있을 것입니다.
그리고 5~10년 안에는 정말 믿을 수 없을 정도의 일도 벌어질 수 있습니다.
예를 들어 어떤 형태의 재생 가능하고 사실상 자유로운 에너지의 돌파구가 생길 수도 있죠.
핵융합을 해결할 수도 있고요. 우리는 Commonwealth Fusion과 함께 그 문제를 연구하고 있습니다.
AI는 새로운 초전도체, 더 나은 배터리, 재료과학 혁신을 이끌 수도 있습니다.
그렇게 되면 경제의 성격 자체가 완전히 바뀔 수 있습니다.

---

에너지와 AI

진행자:
AI 혁명에 따라 에너지 수요가 전례 없이 증가한다는 점도 걱정입니다.
이 전례 없는 에너지 수요 문제를 어떻게 해결할 수 있을까요?

하사비스:
저는 사실 중장기적으로는 AI가 자기 자신이 소비하는 에너지 비용 이상을 충분히 갚아낼 것이라고 생각합니다.

예를 들어 우리는 기존 인프라를 최적화하는 여러 프로젝트를 하고 있습니다. 전력망 최적화 같은 것이죠.
저는 국가 전력망에서 30~40% 더 높은 효율을 끌어낼 수 있다고 생각합니다.

그다음에는 기후와 날씨 모델링도 있습니다. 우리는 세계 최고의 날씨 모델링 시스템을 가지고 있습니다.
그건 실제 영향이 어디서 일어나는지 파악하고, 완화 조치를 더 잘 취하는 데 도움이 됩니다.

그리고 아마 가장 흥미로운 것은, 핵융합이나 새로운 배터리, 초전도체 같은 돌파형 기술입니다.
이런 것들에 도달하는 데 AI는 필수적일 것이라고 생각합니다.
그리고 그렇게 되면 인류는 지금까지와는 완전히 다른 에너지 상황에 들어가게 될 겁니다.
그건 기후와 환경 문제 해결에도 도움이 되고, 결국 우주로 더 저렴하게 나아가는 데도 도움이 될 겁니다.
만약 핵융합 같은 엄청난 에너지원이 생긴다면, 사실상 무한한 로켓 연료를 갖게 되는 셈이니까요.

진행자:
우주 문제까지 풀라고는 하지 않겠습니다. 안심하세요.

---

왜 미국이 아니라 영국인가, 유럽의 기회와 약점

진행자:
당신은 런던에 있고, 저도 런던에 있습니다. 저도 영국에 있다는 게 자랑스럽습니다.
하지만 분명 미국으로 옮기라는 제안을 수도 없이 받았을 텐데요.
왜 계속 남아 있나요?

하사비스:
그 질문은 오히려 당신에게도 하고 싶네요.
하지만 저는 DeepMind를 시작할 당시 런던과 영국, 그리고 어느 정도 유럽이 엄청난 인재를 가진 곳이라고 봤습니다.

우리는 늘 세계 최고의 대학 10개 중 3~4개를 가지고 있었죠. Cambridge, Oxford, Imperial, UCL 같은 곳들 말입니다.
그래서 전 세계가 부러워할 만한 훌륭한 졸업생들과 박사과정 학생들을 계속 배출하고 있습니다.
과학자들도 뛰어나고, 튜링, 호킹, 다윈, 뉴턴에 이르는 풍부한 유산도 있습니다.
위대한 사고와 과학적 돌파구의 전통이 있는 곳이죠.

그래서 저는 우리가 필요한 재료와 인재, 훌륭한 엔지니어들을 모두 갖고 있다고 느꼈습니다.
다만 그것이 아직 야심찬 딥테크 스타트업 아이디어로 결집되지 않았을 뿐이라고 생각했습니다.
저는 그게 가능하다고 봤고, 또 이런 재능을 놓고 경쟁이 미국보다 덜 치열하다고 느꼈습니다.
유럽 최고의 대학들에서 최고의 인재를 끌어올 수도 있었고요. 초기 DeepMind가 실제로 그랬습니다.

그건 우리에게 큰 구조적 이점이었습니다.
그리고 마지막으로, 밸리에서 조금 떨어져 있다는 점도 있습니다.
물론 단점도 있죠. 네트워크, 소문, 최신 트렌드와 분위기에서 약간 멀어지니까요.
하지만 한편으로는 깊이 생각하고, 더 독창적으로 사고하기에 아주 좋은 환경입니다.
딥테크에서는 최신 유행에 휩쓸리면 안 됩니다.
우리는 처음부터 20년짜리 미션을 한다는 걸 알고 있었으니까요.
그 소용돌이에서 조금 떨어져 있는 건 오히려 좋다고 생각합니다.

진행자:
Palmer Luckey도 늘 밸리에서 400마일 떨어져 있는 것이 자기 혁신적 사고의 핵심이라고 말하죠.

하사비스:
우리는 몇 천 마일 떨어져 있긴 하지만요.

진행자:
유럽이 1조 달러 기업을 가질 수 있을까요?
미국인들은 늘 “유럽엔 초대형 기업이 없다”고 놀리잖아요.

하사비스:
아직은 없죠.
하지만 Daniel Ek는 언젠가 자기 회사들 중 하나로 그 지점에 갈 수도 있습니다. Spotify나 Helsing도 좋은 후보죠.
저는 우리가 그렇게 못할 이유가 없다고 생각합니다.
저는 Isomorphic로 그걸 해보려고 합니다. 이 회사는 여기 본사를 두고 있고, 그 잠재력이 있다고 생각합니다.

다만 유럽의 단점 중 하나는, 여러 개의 작은 시장이 결합된 형태라는 점입니다.
그건 극복해야 할 문제죠.
EU Inc 같은 발상이 좋은 혁신이 될 수도 있을 겁니다.

진행자:
다시 마법 지팡이를 드리죠. 이번엔 유럽 기술 산업에만 적용할 수 있습니다.
성장 마인드셋, 그리고 1조 달러 기업을 만들 수 있는 환경을 구축하려면 무엇을 바꾸고 싶나요?

하사비스:
영국에 특히 해당하는 얘기지만 다른 유럽 국가에도 비슷할 겁니다.
저는 연기금이 무엇에 투자할 수 있는지를 더 열어주는 것, 특히 성장 단계 자금 측면이 중요하다고 생각합니다.

우리는 스타트업 아이디어를 만들어 일정 수준까지 키우는 건 정말 잘합니다. DeepMind도 그랬죠.
하지만 거기서 진짜 1조 달러 규모의 글로벌 플레이어로 도약하려면, 수십억 달러 단위의 라운드는 어디서 나와야 하나요?
기존 대기업들과 정면으로 붙을 수 있으려면 그런 자본이 필요합니다.

제가 10년 전 DeepMind 자금조달을 할 때도 그게 부족했어요.
그리고 오늘날에도 여전히 어느 정도 부족하다고 생각합니다.
그 정도의 야망과, 자본시장이 뒷받침해줄 수 있는 규모가요.

---

일론 머스크, 질병 치료, 철학적 질문, 유산

진행자:
초반 투자 유치 때 말리부 가족들의 아이들을 상대로 돈을 모았다는 얘기를 읽었어요.

하사비스:
맞습니다.

진행자:
좋아요, 이제 빠른 질문으로 넘어가죠.
일론 머스크를 처음 만났을 때는 어땠나요?

하사비스:
정말 대단했죠.
우리가 둘 다 Peter Thiel의 Founders Fund 포트폴리오에 있었을 때였어요. SpaceX와 DeepMind가 같은 포트폴리오에 있었죠.
아마 2011년이나 2012년이었을 겁니다. 아주 초기였어요.
우리는 작은 신생 회사였고, 저는 짧은 발표 슬롯이 있었고, 일론은 그 포트폴리오의 거대한 스타였죠. 그는 키노트를 맡았고요.

그 후에 만났는데, 일론의 말로는 화장실에서 스쳐 지나가다가 인사했다고 하더군요.
우리는 바로 통했습니다.
아마 지나치게 야심찬 생각을 하는 사람들끼리, 그리고 공상과학을 좋아하는 사람들끼리 서로 통했던 것 같아요.
저는 그의 로켓 공장을 정말 가보고 싶었고, 그래서 SpaceX 공장에 초대받으려고 슬쩍 각을 보고 있었죠.
그 만남 끝에 초대를 받았고, 두 번째 만남은 LA의 SpaceX 공장이었습니다.

진행자:
멋지네요. 당신 발표 슬롯이 그보다 더 컸던 건 아니겠지만요.

하사비스:
그건 모르겠네요.

진행자:
당신이 가장 기대하는 의료 혁명, 질병 퇴치 분야는 무엇인가요?
저는 개인적으로 다발성 경화증에 가장 관심이 큽니다.

하사비스:
저는 말 그대로 암을 치료하고 싶습니다.
많은 사람들이 그 말을 너무 흔한 표현이라고 생각하겠지만, 저는 진심입니다.
Isomorphic에서 우리가 만들고 있는 것은 범용적인 플랫폼입니다.
즉, 어떤 특정 질환 하나가 아니라, 모든 치료 영역에 적용 가능한 약물 설계 플랫폼을 만들고 있는 겁니다.

그래서 이상적으로는 신경퇴행성 질환, 심혈관 질환, 면역 질환, 암 모두에 도움이 되어야 합니다.
지금은 우선 그 분야들에 집중하고 있지만, 결국에는 모든 질병 영역에 적용 가능해야 합니다.

진행자:
지금 사람들이 잘 이야기하지 않거나, 많이 읽지 않는 주제 중에서 당신이 생각하고 있는 것은 무엇인가요?

하사비스:
저는 사람들이 AGI의 경제적 질문에 대해서는 많이 걱정하고 있다고 생각합니다. 아까도 이야기했죠.
하지만 저는 철학적 질문들도 많이 걱정합니다.

기술적 문제를 해결했다고 가정해봅시다.
경제적인 문제도 해결했다고 가정해봅시다. 둘 다 어렵지만요.
그다음에는 철학적 질문이 옵니다.
의미란 무엇인가? 목적이란 무엇인가? 의식이란 무엇인가? 인간이라는 건 무엇을 뜻하는가?
이런 질문들이 앞으로 다가오고 있다고 생각합니다.
그리고 우리는 그것을 헤쳐 나갈 수 있도록 도와줄 훌륭한 새로운 철학자들이 필요할 겁니다.

진행자:
마지막으로 어려운 질문입니다.
당신이 하는 일을 설명하는 방식은 많겠지만, 당신은 어떤 유산으로 기억되고 싶나요?

하사비스:
저는 과학을 진전시키고,
그리고 끔찍한 질병들을 치료하는 등 세상에 엄청난 혜택을 가져오는 기술을 만든 사람으로 기억되고 싶습니다.

진행자:
데미스, 제 이리저리 흘러가는 질문들에 끝까지 함께해주셔서 정말 감사합니다. 정말 훌륭했습니다.

하사비스:
감사합니다.