0:00 인터뷰어: 밤에 잠 못 이루게 하는 것은 무엇인가요?

0:03 데미스 하사비스: 저에게는, 음... 국제적인 기준과 협력에 대한 문제입니다. 그리고 이는 국가 간뿐만 아니라 기업 간, 연구자들 간의 문제이기도 합니다. 우리가 AGI(인공 일반 지능)의 마지막 단계로 다가가면서요. 그리고 저는 우리가 바로 그 문턱에 와 있다고 생각합니다. 아시다시피, 어쩌면 5년에서 10년 정도 남았을 수도 있고요, 어떤 사람들은 더 짧다고 말하는데, 놀랍지 않습니다. 일종의 확률 분포 같은 것이죠. 하지만 어느 쪽이든, 다가오고 있습니다. 매우 빨리요. 

Hassabis: "For me, it's um this question of international uh standards and cooperation and and and also not just between countries, but also between companies, as we get and researchers as we get um towards the final steps of um uh AGI. And and I think we're on the cusp of that, you know, maybe we're 5 to 10 years out, some people say shorter, I wouldn't be surprised, there's I've you know, sort of like a probability distribution. But it's coming either way, it's coming very soon."

(0:30 영상 전환 - 딥마인드 소개)

0:33 내레이션: 데미스 하사비스는 2010년에 딥마인드를 공동 창업했으며, 현재는 2014년 구글에 매각된 이 회사의 CEO입니다. 2024년, 하사비스는 단백질의 3D 구조를 예측하는 AI 시스템인 알파폴드 개발 공로로 노벨 화학상을 공동 수상했습니다. 지난 3월, 타임 기자 빌리 페리고는 2025년 타임 100 리스트를 위해 런던에서 하사비스를 인터뷰했습니다.

0:56 인터뷰어: 영상을 위해, A.G.I.가 무엇의 약자이고 문장 속에서 어떤 의미인지 설명해주실 수 있나요?

1:02 데미스 하사비스: AGI는 인공 일반 지능(Artificial General Intelligence)의 약자입니다. 저희는 이를 인간이 가진 어떤 인지 능력이라도 발휘할 수 있는 시스템으로 정의합니다.

1:11 인터뷰어: AGI에 대해 이야기해주실 수 있나요? 그리고 언제 처음으로 그것이 단지 개별적인 과학적 발견뿐만 아니라, 그 전체를 열 수 있는 열쇠가 될 수도 있겠다고 깨달으셨나요?

1:22 데미스 하사비스: 저희는 딥마인드 초기부터 항상 범용 AI 또는 AGI를 구축하는 데 관심이 있었습니다. 그것이 항상 목표였습니다. 사실, 그것은 1950년대 AI 분야의 원래 목표였습니다. 그래서 어떤 면에서는, 저희가 그 거창한 꿈을 실현하고 있는 셈입니다. 그 과정에서, 그러한 일반적인 기술들을 문제에 대한 전문적인 해결책으로 사용할 수 있습니다. 그래서 알파폴드가 좋은 예시입니다. 문제가 잘 명시되어 있고, 사회에 엄청난 가치를 지니며, 이 경우에는 생물학 및 의학 연구 분야 자체에 그 기능만으로도 큰 가치가 있습니다. 그래서 어떤 방법을 사용하든 사실 중요하지 않지만, 일반적인 방법으로 시작해서 그 위에 전문화된 것을 추가하는 것입니다. 음, 그래서 여전히 신경망과 저희가 게임을 위해 구축한 모든 기술을 사용하고, 거기에 단백질에 특화된 새로운 것들을 추가합니다. 음, 물론 동시에 저희는 범용 AI 기술도 발전시켜 왔습니다. 그리고 이제는 분명 언어의 세계에 있지만, 더 최근에는 언어뿐만 아니라 게임을 하거나, 실제로는 당신이 처한 전체 공간적 세계 맥락을 이해하고, 세상의 물리 법칙 같은 것들을 이해하기 시작하며, 이미지, 비디오, 소리 같은 것들을 처리할 수 있는 멀티모달 파운데이션 모델들도 있습니다.

2:32 인터뷰어: 분명히 이 기술은, 만약 만들어진다면, 매우 영향력이 클 것입니다. 저에게 최상의 시나리오를 그려주실 수 있나요? 만약 우리가 A.G.I.를 만든다면 이 세상은 어떤 모습일까요?

2:43 데미스 하사비스: 제가 제 인생과 경력 전체에 걸쳐 AI와 AGI에 매달려온 이유는, 만약 이것이 적절하고 책임감 있게 수행된다면, 역사상 발명된 가장 유익한 기술이 될 것이라고 믿기 때문입니다. 그래서 우리가 이것을 사용할 수 있을 것이라고 생각하는 종류의 일들은, 지금부터 10년 이상 미래로 가보면, 잠재적으로 AI로 모든 질병을 치료하는 것일 수 있습니다. 음, 그리고 새로운 에너지원을 찾거나 개발하는 것을 돕는 것, 예를 들어 핵융합이나 최적의 배터리, 새로운 초전도체 같은 신소재 등이 있습니다. 음, 저는 오늘날 사회로서 우리가 직면한 가장 큰 문제들 중 일부, 기후 문제든 질병이든, AI 솔루션의 도움을 받을 것이라고 생각합니다. 그래서, 음, 만약 우리가 10년 후 미래로 가본다면, 그것에 대한 낙관적인 관점은 우리가 인간 번영이 극대화되고, 별들을 여행하며, AI가 가져올 모든 기술과 함께하는 그런 세상에 살게 될 것이라는 점입니다.

3:41 인터뷰어: 또한 위험을 피하기 위해 이를 책임감 있게 수행해야 할 필요성에 대해 꽤 목소리를 내오셨습니다. 어, 저에게 최악의 시나리오를 그려주실 수 있나요?

3:50 데미스 하사비스: 물론이죠. 음, 보세요, 최악의 경우는 과학 소설에서 많이 다뤄졌다고 생각합니다. 음, 제가 가장 걱정하는 두 가지 문제는... AI는 올바른 방식으로 사용된다면 환상적인 기술이 될 것이지만, 이는 이중 용도 기술이며 믿을 수 없을 정도로 강력합니다. 믿을 수 없을 정도로 강력해질 것입니다. 그래서 음, 이것이 의미하는 바는 악의적인 행위자나 잠재적 악의적 행위자가 그 기술을 잠재적으로 해로운 목적으로 용도를 변경할 수 있다는 것입니다. 음, 그래서 분야로서 그리고 사회로서 우리가 가진 한 가지 큰 도전 과제는, 어떻게 선한 행위자들이 끔찍한 질병을 치료하는 것과 같은 놀라운 일을 할 수 있도록 이 기술에 접근하게 하면서, 동시에 잠재적 악의적 행위자들에게는 동일한 기술에 대한 접근을 제한할 수 있느냐는 것입니다. 음, 그것이 개인이든 불량 국가에 이르기까지 말입니다. 어, 그리고 그것은 해결하기 정말 어려운 난제입니다. 음, 두 번째는 AGI 위험 그 자체입니다. 즉, 기술 자체로부터의 위험인데, 이것이 더 자율적이 되고, 더 에이전트 기반처럼 되면서 발생합니다. 이는 앞으로 몇 년 동안 일어날 일인데, 모든 좋은 용도에 더 유용해질 것이기 때문입니다. 음, 하지만 어떻게 우리가 그 시스템들을 계속 통제하고, 제어하며, 그들이 무엇을 하는지 해석하고, 이해하며, 스스로 개선하는 매우 능력 있는 시스템에 의해 움직여지지 않는 올바른 가드레일을 설치할 수 있음을 보장할 수 있을까요? 그것 또한 극도로 어려운 도전 과제입니다. 그래서 이것들이 위험의 두 가지 주요 범주입니다. 만약 우리가 이것들을 제대로 관리할 수 있다면, 저는 우리가 이 놀라운 미래에 도달할 것이라고 생각합니다.

5:13 인터뷰어: 하지만 그건 최악의 시나리오는 아니네요. 최악의 시나리오는 어떤 모습인가요?

5:17 데미스 하사비스: 글쎄요, 만약 그것을 잘못 다루게 된다면, 음, 아시다시피, 이 시스템들로 온갖 해로운 사용 사례들이 행해질 수 있습니다. 아시다시피, 그것은 우리가 치료법을 찾으려는 노력과 정반대의 일을 하는 것, 예를 들어 독소를 찾아내는 것 같은 일들에 이를 수 있습니다. 바로 그 동일한 시스템으로요. 그래서 많은 경우, 모든 좋은 사용 사례들도 시스템의 목표를 뒤집으면 해로운 사례가 될 수 있습니다. 음, 그리고 사회로서 우리는... 제가 이 문제에 대해 국제 협력을 지지해 온 이유가 바로 이것입니다. 왜냐하면 이 시스템들은 어디서 어떻게 만들어지든 전 세계로 배포될 수 있고, 거의 모든 곳의 모든 사람에게 영향을 미칠 것이기 때문입니다. 그래서 음, 제 생각에는 이 시스템들이 어떻게 구축되고, 어떤 종류의 설계와 목표를 부여받으며, 어떻게 배포되고 사용되는지에 대한 일종의 국제 표준이 필요합니다.

6:15 인터뷰어: AI 안전 분야에서는 이 시스템들이 권력 추구, 속임수, 인간의 힘을 약화시키고 통제에서 벗어나려는 행동 등을 할 가능성이 어느 정도인지에 대한 논의가 많습니다. 그것이 기본 경로라고 보시는지, 아니면 일종의 테일 리스크(낮은 확률의 극단적 위험)라고 보시는지에 대한 확고한 견해가 있으신가요? 확률은 어느 정도로 보시나요?

6:39 데미스 하사비스: 제 제 제 느낌은 현재로서는 그 위험이 알려지지 않았다는 것입니다. 그래서 저희, 아시다시피, 제 동료들과 유명한 튜링상 수상자들을 포함해 많은 사람들이 그 논쟁의 양쪽에 있습니다, 그렇죠? 어떤 사람들은, 아시다시피 얀 르쿤처럼, 여기에는 위험이 없고, 그냥 과장된 것이라고 말할 것입니다. 그리고 또 다른 사람들은 우리가 기본적으로 파멸할 운명이라고 생각합니다, 그렇죠? 제프 힌튼이나 요슈아 벤지오 같은 분들 말입니다. 그리고 음, 저는 이분들을 모두 잘 압니다. 제 생각에 올바른 답은 그 중간 어디쯤에 있는데, 그 논쟁을 보면 양측에 매우 똑똑한 사람들이 있다는 것입니다. 그래서 이것이 저에게 말해주는 것은, 우리가 아직 위험을 실제로 정량화할 만큼 충분히 알지 못한다는 것입니다. 이 시스템들을 더 발전시키다 보면, 이 시스템들을 정렬하거나 통제하는 것이 우리가 여기서 가설적으로 생각하거나 예상했던 것보다 훨씬 더 쉬울 수도 있습니다. 지금까지 꽤 많은 것들이 그런 식으로 밝혀졌습니다. 사람들이 생각했던 것보다 더 쉬웠죠. 예를 들어 이 모델들 위에 꽤 간단한 RLHF 미세 조정을 더하는 것만으로 세상을 이롭게 만들고, 갑자기 유용한 챗봇이 되는 것처럼요.

7:43 데미스 하사비스: 그래서 흥미롭습니다. 그래서 어떤 가장 비관적인 사람들이 생각했던 것보다 상황이 조금 더 쉬울 수도 있다는 사실에 대한 약간의 증거가 있습니다. 하지만 제 관점에서는 여전히 상당한 위험이 있으며, 우리는 그 위험이 무엇인지 정량화하고, 사후가 아니라 가능한 한 많은 선견지명을 가지고 미리 대처하기 위해 신중하게 연구를 수행해야 합니다. 음, 아시다시피, 이렇게 강력하고 변혁적인 기술에서는 그것이 극도로 위험할 수 있습니다.

8:06 인터뷰어: 그 질문에 대한 답이 무엇이든, 사회에 미치는 영향은 우리가 살아오면서 보지 못했던 수준으로 변혁적일 것 같습니다. 아버님이시잖아요. 네. 부모로서, 이렇게 많은 것이 급진적으로 변할 가능성이 있는 세상에서 아이를 어떻게 키워야 할지에 대해 어떻게 생각하시나요?

8:32 데미스 하사비스: 글쎄요, 우리 세대에서도 이미 많은 변화를 겪었다고 생각합니다. 음, 예를 들어 제 어린 시절을 돌이켜보면, 컴퓨터 시대의 여명기였고, 제가 어렸을 때 처음 얻은 ZX 스펙트럼으로 프로그래밍을 시작했을 때부터, 그리고 오늘날 우리가 있는 곳까지, 심지어 제가 '테마파크' 같은 게임의 AI를 만들던 초기 게임 산업 시절까지도요. 그리고 오늘날에는 Veo 같은 시스템이 완전히 현실적인 비디오를 만들어냅니다. 음, 아시다시피, 20, 30년 전에는 그런 것을 꿈꾸기 어려웠을 것입니다. 하지만 우리는 그것에 대처하고 적응하는 것 같습니다. 그리고 음, 저는 인간이 어느 정도 무한히 적응력이 있다고 생각합니다. 그것이 우리의 장점이라고 생각합니다. 우리는 어떤 일이 일어나든 그것에 어느 정도 익숙해집니다. 오늘날 우리 주변의 기술, 스마트폰, 컴퓨터, 인터넷을 요즘 아이들은 당연한 것으로 여깁니다. 그리고 저는 이것(AI)도 그렇게 될 것이라고 생각합니다. 하지만 제가 추천하는 것은, 우리가 컴퓨터 시대에 했던 것처럼, 다가오는 변화를 받아들이고, 도구에 대해 배우고, 효과적으로 작업하는 방법을 배우며, 그것들을 최대한 활용해야 한다는 것입니다. 그리고 올바른 방식으로 사용한다면, 창의적으로나 생산성 면에서나 어떤 면에서는 초능력을 갖게 될 것이라고 생각합니다.

9:42 인터뷰어: 부모로서, 만약 AGI가 임박하지 않았다면 하지 않았을, 다르게 하는 행동이 있나요?

10:03 데미스 하사비스: 아니요, 저는 여전히... 이런 질문을 많이 받습니다. 예를 들어, 자신의 정신을 훈련하기 위해 프로그래밍, 수학, 심지어 체스 같은 것을 배울 가치가 있느냐는 질문이죠. 저는 그렇다고 생각합니다. 왜냐하면, 음, 예를 들어 프로그래밍을 봅시다. 프로그래밍의 본질이 변하고 있고, 앞으로 몇 년 안에 매우 급진적으로 변할 수 있으며, 어떤 면에서는 이를 민주화할 수도 있습니다. 왜냐하면 프로그래밍 언어 대신 자연어로 프로그래밍을 시작할 것이기 때문입니다. 그러면 그 가치 부분은 더 창의적인 사람들과 디자이너들에게 돌아가기 시작할 것입니다.

10:08 데미스 하사비스: 그래서 꽤 흥미로운 시기가 될 것입니다. 음, 하지만 그로부터 가장 많은 것을 얻는 사람들은 여전히 이 도구들이 무엇을 하고 있는지, 어떻게 만들어졌는지, 따라서 그 한계는 무엇이며, 당신이 사용할 수 있는 강점은 무엇인지에 대한 깊은 기술적 이해를 가진 사람들일 것이라고 생각합니다.

10:23 인터뷰어: 마지막 질문입니다. 꿈의 저녁 파티를 열 기회가 있다고 가정해 봅시다. 살아있거나 죽은 사람 누구든 초대할 수 있습니다. 어, 손님 네 명을 꼽는다면요. 누구를 선택하시겠어요?

10:31 데미스 하사비스: 오 와, 이건 어... 그걸로 좁히기가 정말 어렵네요... (인터뷰어: 원하시면 여섯 명도 괜찮습니다.) 네, 제 말은, 아마 제 과학 영웅들 중 많은 분들을 초대할 것 같습니다. 그러니 확실히 앨런 튜링, 음 리처드 파인만, 음 그리고 어쩌면 뉴턴과 아리스토텔레스요.

10:39 인터뷰어: 저녁 식사 자리의 대화는 어떨 것이라고 예상하시나요?

10:41 데미스 하사비스: 글쎄요, 그분들과 함께라면 아마 이 AI 시스템의 한계는 무엇인지, 그리고 그것이 현실의 본질에 대해 우리에게 무엇을 말해주는지에 대한 이런 질문들을 중심으로 매우 철학적인 대화가 될 것이라고 확신합니다. 그리고 어, 아시다시피, 저는 그것이 우리 주변 우주에서 무슨 일이 일어나고 있는지에 대해 많은 것을 알려주고, 또 알려줄 것이라고 생각합니다. 저는 AI가 과학을 위한 궁극적인 도구가 될 것이라고 생각하며, 확실히 그것이 항상 제 열정이었고 제가 그것을 사용하려는 계획입니다. (인터뷰어: 사실 영상 촬영 중에 한 가지 질문 더 드리겠습니다. 음, 스스로를 무엇보다 과학자로 여기시는 것이 분명해 보입니다. 뭐라고 말씀하시겠어요, 스스로를 더 과학자로 보시나요, 기술자로 보시나요? 실리콘 밸리와는 멀리 떨어져 계시고 런던에 계시잖아요. 제 말은, 어떻게 자신을 정의하시나요?)

11:23 데미스 하사비스: 네. 저 저 저는 무엇보다 먼저 저 자신을 과학자로 여깁니다. 음, 제가 인생에서 해온 모든 일을 하는 이유는 지식을 추구하고 우리 주변 세상을 이해하려고 노력하기 위해서입니다. 저는 어렸을 때부터 모든 큰 질문들에 대해 집착해왔다고 생각합니다. 그리고 저에게는 AI를 구축하는 것이 그러한 질문들에 답하는 저만의 방식입니다. 즉, 우선 도구를 만드는 것인데, 음, 그 자체로도 꽤 매력적이고 지능과 의식, 그리고 이미 가장 큰 미스터리 중 일부인 이것들에 대한 진술입니다. 그리고 어, 그것은 이중 목적을 가집니다. 왜냐하면 화학이나 물리학처럼 여러분 주변의 자연 세계를 조사하는 도구로도 사용될 수 있기 때문입니다. 생물학도요. 그러니 이보다 더 흥미진진한 모험과 추구가 어디 있겠습니까? 그래서 저는 저 자신을 첫째로 과학자로 보고, 그 다음 아마 두 번째로 기업가로 봅니다. 주로 그것이 일을 가장 빨리 처리하는 방법이기 때문이죠. 어, 그리고 마지막으로 아마 기술자, 엔지니어일 것입니다. 왜냐하면 결국 실험실에서 이론화하고 생각만 하고 싶지는 않고, 실제로 세상에 실질적인 변화를 만들고 싶기 때문입니다. 제 안의 엔지니어링 부분이 바로 거기서 나온다고 생각합니다.