"알다시피, 우리는 아마도 그로부터 10년 안에 있을 것 같아요."

 

AI의 위험성에 대한 경고

Hassabis는 AI의 잠재적 위험성에 대해서도 경고했습니다. 그는 "이 시스템은 엄청나게 강력하기 때문에 신중하게 다루어야 합니다."라고 말했습니다. 그는 또한 AI 시스템이 윤리적이고 책임감 있게 개발되어야 하며, 그렇지 않으면 사회에 해로운 영향을 미칠 수 있다고 경고했습니다. 그는 "우리는 AI 시스템이 항상 인간의 통제 하에 있도록 해야 합니다."라고 말했습니다.

AI와 인간의 가치

Hassabis는 AI가 인간의 가치를 대체할 것이라는 생각에 반대했습니다. 그는 "AI는 인간의 능력을 향상시키고 더 나은 세상을 만드는 데 도움이 되는 도구입니다."라고 말했습니다. 그는 또한 AI가 인간의 창의성과 혁신을 대체할 것이라는 생각에도 반대했습니다. 그는 "AI는 인간의 창의성을 위한 도구일 뿐입니다."라고 말했습니다.

AGI의 미래

Hassabis는 AGI의 미래에 대해서도 이야기했습니다. 그는 "AGI는 인간 지능과 유사한 수준의 지능을 가진 AI 시스템입니다."라고 말했습니다. 그는 AGI가 인류에게 엄청난 혜택을 가져다줄 수 있다고 믿고 있습니다. 그는 "AGI는 우리가 가장 큰 문제 중 일부를 해결하는 데 도움이 될 수 있습니다."라고 말했습니다. 그러나 그는 또한 AGI가 잠재적 위험성도 가지고 있다고 경고했습니다. 그는 "AGI가 우리의 통제를 벗어나지 않도록 해야 합니다."라고 말했습니다.

DeepMind의 역할

Hassabis는 DeepMind가 AGI 개발에 중요한 역할을 할 것이라고 믿고 있습니다. 그는 "DeepMind는 AI 연구 분야의 선두 주자입니다."라고 말했습니다. 그는 또한 DeepMind가 AI를 책임감 있고 윤리적으로 개발하는 데 전념하고 있다고 말했습니다. 그는 "우리는 AI가 항상 인간의 통제 하에 있도록 해야 합니다."라고 말했습니다.

이러한 언급 외에도 Hassabis는 AI 연구의 중요성, AI의 사회적 영향, AI와 윤리 등에 대해서도 이야기했습니다. 그의 인터뷰는 AI의 미래에 대한 통찰력을 제공하며, AI가 우리 사회에 미칠 수 있는 잠재적 영향에 대해 생각해 볼 수 있게 합니다.

 

원문

00:00:00초
저는 이 방에 있는 거의 모든 사람이 DeepMind에 대해 알고 있으며 현재 무엇을 하고 있는지 알고 있다고 생각합니다.

00:00:08초
여러분의 이야기로 간단히 시작해 보겠습니다. 흥미로운 점 중 하나는 여러분이 2010년경에 사업을 시작했는데, 그 전부터 아이디어를 가지고 있었다는 것입니다.
00:00:18초
그리고 우리는 40년 동안 AI의 겨울을 겪었고 AI는 전혀 발전하지 않았습니다.
00:00:23초
그리고 당시 과학을 다루는 사람으로서 저는 AI에 대해 전혀 생각하지 못했습니다.
00:00:28초
하지만 시대정신이 당신에게 유리했던 것 같아요. 아니면 왜 딥마인드가 일어났을까요?
00:00:35초
사실 저는 30년 넘게 AI에 대해 작업해 왔고 우선 게임을 만드는 데 주력했습니다.
00:00:43초
게임과 시뮬레이션 게임을 위한 게임 ai 그리고 컴퓨터 과학과 신경 과학을 공부했습니다.
00:00:49초
그리고 저는 90년대에 AI 분야가 어떻게 발전했는지 내내 관찰하고 있었습니다.
00:00:57초
당신이 말하는 이런 종류의 AI 겨울에는,
00:00:58초
그것은 모두 논리 체계였습니다.
00:01:00초
그래서 이를 전문가 시스템이라고 불렀습니다.
00:01:02초
여러분 중 많은 분들이 Deep Blue를 기억합니다.
00:01:03초
가리 카스파로프를 체스에서 이긴 사람입니다.
00:01:05초
그래서 이것들은 미리 프로그래밍된 시스템이에요
00:01:06초
실제로 프로그래머들은
00:01:09초
그리고 시스템의 설계자들
00:01:10초
문제를 해결하다
00:01:11초
그것을 규칙으로 캡슐화합니다.
00:01:13초
그리고 컴퓨터,
00:01:14초
AI 시스템은 실제로 전혀 지능적이지 않습니다.
00:01:16초
그냥 멍청하게 그런 경험적 방법을 실행하는 것일 뿐입니다.
00:01:19초
그리고 그 문제는
00:01:21초
결국 취약한 시스템이 생겨난다는 것입니다.
00:01:23초
그들은 새로운 것을 배울 수 없습니다
00:01:24초
그리고 그들은 확실히 새로운 것을 발견할 수 없습니다
00:01:26초
당연히 디자이너나 프로그래머가 이미 알고 있는 것에 따라 본질적으로 제한을 받기 때문입니다.
00:01:33초
그래서 저에게는 90년대 내내 그리고 제가 공부했던 케임브리지와 MIT에서도 분명했습니다.
00:01:38초
이것이 지배적인 견해였으며, 일부 지역에서는 여전히 논리 체계가 최선의 방법이라는 견해가 지배적입니다.
00:01:44초
그리고 저는 AI가 본질적으로 취약하고 제한적이었기 때문에 이런 겨울이 많았다고 생각합니다.
00:01:50초
그래서 2010년 DeepMind의 아이디어는, 딥러닝이 학계에서 막 발명되었다는 것을 알 수 있었습니다.
00:01:58초
강화 학습은 뇌가 사용하는 것으로 밝혀졌는데, 뇌의 도파민 시스템도 마찬가지입니다.
00:02:04초
따라서 인간을 포함한 동물은 강화 학습을 통해 학습합니다.
00:02:07초
그래서 우리에게 필요한 것은 스스로 학습하고 보편적인 학습 시스템을 만드는 것이라는 게 분명했습니다.
00:02:13초
그리고 그것이 DeepMind의 시작이었습니다.
00:02:16초
그리고 GPU와 하드웨어 가속도 볼 수 있을 겁니다.
00:02:20초
그래서 저는 GPU를 처음에는 컴퓨터 그래픽, 컴퓨터 게임에 사용했습니다.
00:02:26초
하지만 그들은 매우 일반적인 목적을 가지고 있었습니다.
00:02:27초
아시다시피, 세상의 모든 것은 행렬 곱셈으로 이루어집니다.
00:02:30초
그렇죠. 그래서 우리는 일찍부터 시작했고, 이 모든 새로운 아이디어와 요소들을 한데 모으는 것이 일종의 아폴로 프로그램 노력이라고 생각했습니다.
00:02:41초
그러면 우리는 매우 빠른 진전이 이루어질 수 있을 것이라고 생각했습니다.
00:02:44초
그리고 결과는 다음과 같습니다.
00:02:46초
그리고 2010년에 이러한 비전을 가지고 있었을 때 이것이 당신이 기대했던 곳이었나요?
00:02:49초
15년이라는 시간이, 아시다시피, 여러 가지 약속 사이에,
00:02:53초
저는 사람들로 가득 찬 방에서 이야기할 것입니다. AI가 핵심입니다.
00:02:56초
그러면 단백질 접힘의 문제를 해결할 수 있을까?
00:03:00초
실제로는 우리가 계획한 대로 대략적으로 진행되었습니다.
00:03:04초
물론, 그 과정에서 난항도 있었고 예상치 못한 일도 있었습니다.
00:03:08초
하지만 2010년에 시작했을 때는 대략 20년이 걸릴 거라고 생각했어요.
00:03:12초
AGI(인공 일반 지능)에 도달하는 임무.
00:03:15초
알다시피, 우리는 아마도 그로부터 10년 안에 있을 것 같아요. 그래서 여기에서 대략적으로 그
00:03:23초
타임라인과 예, 단백질 접힘과 AGI로 가는 길에 AI 시스템을 사용한 과학 수행
00:03:28초
그것은 항상 내 주요 열정이었고 단백질 접힘은 항상 목록의 맨 위에 있었습니다.
00:03:34초
우리가 발견할 수 있다면 혁신적일 수 있는 과학적 문제를 해결하고 싶었습니다.
00:03:39초
돌파구 좋아, 그럼 다시 그 문제로 돌아가서 AGI에 대해서도 좀 이야기해야 할 것 같아
00:03:44초
흥미로운 점 중 하나는 우리 사회가 AI에 대해 이야기하고 있다는 것입니다.
00:03:51초
ChatGPT가 나타난 이후로 정말 강렬해졌어요.
00:03:55초
이건 여러분이 하던 것과는 매우 다른 종류의 AI예요.
00:04:00초
그리고 지금까지 관찰자의 입장에서 보면, 여러분의 AI는 모두 매우 구체적이었습니다.
00:04:05초
그것을 보는 건 조금 이상하더군요.
00:04:08초
당신은 꽤 무의미한 일을 하기 시작했습니다.
00:04:10초
당신은 컴퓨터 게임을 정말 잘하군요.
00:04:12초
당신은 체스를 정말 잘하군요.
00:04:13초
그것들이 무의미하다고는 말할 수 없지만, 아마도 즐거움을 위한 것이라고 말할 수는 있을 겁니다.
00:04:17초
응.
00:04:17초
그래서, 저희는 게임부터 시작했어요. 부분적으로는 제가 게임을 만들고 체스 같은 걸 아주 진지하게 하는 배경이 있었기 때문이었죠.
00:04:26초
하지만 저는 게임이 AI와 오랜 역사를 가지고 있다는 걸 알 수 있었습니다.
00:04:30초
아시다시피 튜링과 AI의 시작, 섀넌 시대부터 이런 위대한 인물들은 모두 체스 프로그램부터 시작했습니다.
00:04:38초
아시다시피, 거의 모든 AI 선구자들이 그런 일을 했던 거죠.
00:04:42초
그리고 AI와 체스는 AI 시스템을 위한 일종의 초파리 훈련장으로 여겨졌습니다.
00:04:48초
그리고 아시다시피 그들은 항상 우리에게 시험장과도 같아요.
00:04:51초
알고리즘에 대한 아이디어를 빠르게 발전시킬 수 있나요?
00:04:55초
그러면 자신이 어디에 있는지 기준을 정하는 게 매우 쉽습니다.
00:04:57초
세계 챔피언이나 가장 뛰어난 컴퓨터를 이긴다면 자신이 잘하고 있다는 걸 알 수 있죠.
00:05:02초
하지만 중요한 점은 그것들이 그 자체로 목적이 아니라 어떤 목적을 달성하기 위한 수단이라는 점입니다.
00:05:06초
그래서 아이디어는 단지 바둑이나 체스 또는 그 게임의 세계 챔피언을 이기는 것만을 목표로 개발하는 것이 아니라, 실제로 일반적인 방식으로 개발하여 과학과 상업적 응용 프로그램 모두와 같은 다른 영역에도 적용될 수 있는 방식으로 개발하는 것이었습니다.
00:05:24초
그리고 그게 바로 우리가 심층 강화 학습에서 한 일이고, 알파고에서도 한 일입니다.
00:05:29초
이 모든 것은 우리가 오늘날에도 여전히 사용하는 매우 일반적인 목적의 시스템과 기술입니다.
00:05:34초
이제 AlphaFold와 같은 것 또는 단백질 접힘과 같은 문제를 해결하는 과학 프로그램에 도달하면
00:05:42초
그러면 당신은 솔루션 자체에 정말 관심이 있는 거예요.
00:05:46초
암을 치료할 수 있는 방법이 있다면 그 방법이 어떻게 되었는지는 중요하지 않습니다.
00:05:49초
당신은 단지 암에 대한 치료법을 원할 뿐입니다.
00:05:50초
그러니 그냥 주방 싱크대를 던져버리고 싶은 거죠.
00:05:52초
그러니 여러분이 시작하는 것은 기본적으로 가지고 있는 모든 일반적인 기술입니다.
00:05:58초
그리고 도메인 자체를 살펴보세요.
00:06:00초
그리고 해당 도메인이 사회적 또는 상업적으로 충분히 가치가 있다면, 그 위에 맞춤형 요소를 추가합니다.
00:06:08초
그렇게 해서 AlphaFold 같은 획기적인 프로그램이 탄생하게 된 거예요.
00:06:15초
하지만 결국 DeepMind의 목표는 인공 일반 지능을 달성하는 것이며, 우리가 시작했을 때와 오늘날에도 여전히 그렇습니다.
00:06:22초
즉, 인간이 할 수 있는 모든 인지 작업을 상자 밖에서 수행할 수 있는 일반 시스템을 의미합니다. 따라서 완전히 일반적인 튜링 머신은 앨런 튜링이 50년대에 지정한 바와 같습니다.
00:06:35초
계산 가능한 모든 것을 계산할 수 있는 능력을 갖춘 사람입니다.
00:06:38초
그리고 그것이 바로 AI 분야의 원래 목표였습니다.
00:06:42초
그리고 그것이 바로 DeepMind의 목표입니다.
00:06:45초
그리고 물론, 여러분이 최근에 본 것은 이런 언어 모델과 같은 것입니다.
00:06:48초
분명히 ChatGPT는 대중 시장에 진출했습니다.
00:06:52초
그리고 일반 대중의 의식.
00:06:54초
하지만 실제로 구글과 딥마인드를 포함한 모든 최고 연구소는 언어 모델을 개발하고 있었습니다.
00:07:00초
아시다시피, 우리 회사에는 Chinchilla라는 내부 서비스가 있었고, Google에도 그들만의 서비스가 있었습니다.
00:07:04초
물론, 이 모든 것은 구글 리서치에서 발명한 아키텍처인 트랜스포머에 기반을 두고 있습니다.
00:07:12초
현재의 모든 모델은 이를 기반으로 합니다.
00:07:15초
언어가 분명히 일반적인 목적의 역량이기 때문에 흥미로운 시기입니다.
00:07:20초
그래서 모두가 챗봇에 열광하는 거예요.
00:07:23초
그리고 그 기술이 얼마나 확장될 수 있었는지가 매우 흥미롭고 예상치 못한 부분입니다.
00:07:29초
그래서 저는 우리가 그 어느 때보다 이런 종류의 일반화된 시스템을 구축할 수 있는 수준에 가까워졌다고 생각합니다.
00:07:34초
하지만 현재로서는 특정 도메인을 가장 높은 수준으로 처리하기 위한 전문화된 시스템이 여전히 필요합니다.
00:07:41초
LLM이 AGI에 더 가까운가요?
00:07:45초
제 생각에는 인간과 상호작용하는 것에 더 가깝게 느껴지고, AGI가 그런 것 같습니다.
00:07:51초
하지만 정말 그럴까?
00:07:51초
저는 멀티모달, 요즘의 LLM이라는 단어 자체가 적절하지 않다고 생각합니다. 왜냐하면 LLM은 그저 대규모 언어 모델이 아니라 멀티모달이기 때문입니다.
00:08:00초
예를 들어, 우리의 등대 모델인 제미니는 처음부터 다중 모드이기 때문에 어떤 입력에도 대처할 수 있습니다.
00:08:09초
그러니까, 시각, 오디오, 비디오, 코드 등 모든 것과 텍스트도 포함되죠.
00:08:14초
그래서 저는 그것이 AGI 시스템의 핵심 구성 요소가 될 것이지만, 그 자체로는 충분하지 않을 것이라고 생각합니다.
00:08:20초
AGI에 도달하기까지는 아직 두세 가지 큰 혁신이 더 필요하다고 생각합니다.
00:08:26초
그래서 저는 다른 사람들보다 10년 단위의 시간 척도를 더 선호합니다.
00:08:30초
나의 동료와 동업자 중 일부와 경쟁자 중 일부는 그보다 훨씬 더 짧은 타임라인을 가지고 있습니다.
00:08:35초
하지만 제 생각에는 10년 정도가 적당할 것 같아요.
00:08:38초
그리고 이게 DeepMind 내부의 갈등과 어떻게 연관이 있을까요?
00:08:44초
내가 초창기에 확실히 느낀 것 중 하나는
00:08:47초
당신은 Bell Labs와 같은 세계에서 가장 자금이 잘 지원되는 대학 연구소 중 하나였습니다.
00:08:53초
어떤 종류의 위대한 상업 연구 기관이지만 지금은 뭔가를 하고 있어요.
00:08:59초
매우 유용하고, 단백질에 대해 언급했다고 말씀하셨듯이 파이프라인이 있습니다.
00:09:04초
접는 중이지만 날씨 예보가 있어서 방금 은메달을 땄어요.
00:09:10초
국제수학올림피아드 미안해요 데미스, 당신이 노력한다면 금메달을 딸 수 있을 거라고 확신해요
00:09:16초
하지만 귀사의 시스템은 은메달을 받았습니다.
00:09:19초
당신은 이런 다른 일들도 다 하고 있죠.
00:09:21초
당신도 배경에 있나요?
00:09:23초
팀이 생각하고 있습니까?
00:09:24초
하지만 이제 우리는 계속해서 AGI를 만들어야 합니까?
00:09:28초
네, 그래서 우리는 큰 조직을 가지고 있어요.
00:09:31초
그래서 우리는 당신이 말한 대로 할 수 있어요.
00:09:34초
우리는 Bell Labs와 비슷한 원래 DeepMind를 모델로 삼았습니다.
00:09:38초
세계 최고의 산업 연구소 중 하나
00:09:41초
미래를 창조할 수 있고, 장기적으로 생각할 수 있는 사람이었습니다.
00:09:45초
그리고 저는 우리가 그런 종류의 설정이 무엇을 할 수 있는지 실제로 보여줬다고 생각합니다.
00:09:50초
저는 그것이 오늘날 여러분이 볼 수 있는 종류의 기술을 위한 토대를 마련하는 데 매우 효과적일 수 있다고 생각합니다.
00:09:57초
그래서 저는 모든 종류의 딥테크 스타트업은 기술을 개발하고 성숙시키는 데 시간이 필요하다고 생각합니다.
00:10:03초
그리고 저는 지난 2, 3년 동안 이 기술이 꽤 성숙해져서 매우 흥미로운 시점에 이르렀다고 생각합니다.
00:10:10초
그리고 이것은 온갖 것에 적용될 준비가 되었습니다.
00:10:13초
당연히 과학, 수학, 의학이 발전하고 모든 분야가 발전하죠.
00:10:19초
그러니까 응용 과학이라고 할 수 있겠네요.
00:10:21초
하지만 생산성과 상업적 응용 프로그램도 있습니다.
00:10:26초
채팅봇과 같은 것, 워크플로우와 이메일 재구성 등
00:10:31초
아직 초기 단계이며 코딩 지원 등의 용도로 도움이 됩니다.
00:10:35초
그러니 당연히 우리도 그 모든 것에 노력하죠.
00:10:37초
그리고 우리는 힘을 얻습니다.
00:10:38초
우리는 구글의 엔진실과 같습니다.
00:10:40초
그러니까 Google은 놀랍게도 150억 명 이상의 사용자와 표면, 제품을 보유하고 있습니다.
00:10:48초
그리고 이 모든 것의 중심에는 AI가 있습니다.
00:10:50초
그리고 DeepMind에서 개발하고 있는 일부 기술에서는 항상 새로운 기능이 추가되고 있습니다.
00:10:57초
그리고 이제 어떤 면에서는 굉장한데, 왜냐하면 제품에 필요한 기술 유형이 AGI를 위해 어차피 수행할 연구 유형과 실제로 약 90%나 유사하기 때문입니다.
00:11:09초
그래서 그런 것들이 많이 수렴되었습니다. 반면에 5년 전이나 10년 전에 AI를 제품으로 만들고 싶었다면, 일반 시스템과 학습 시스템이 아직 충분히 좋지 않았기 때문에 논리 네트워크, 전문가 시스템으로 돌아가야 했습니다.
00:11:25초
예를 들어 Alexa 시대의 지원 유형이 모든 청구서에 여전히 적용된다는 것을 알고 있습니까?
00:11:30초
그 오래된 유형의 기술 때문에 취약했고 그렇게 하지 않았습니다.
00:11:34초
일반화하면 결국 그다지 유용하지 않은 반면 새로운 것은
00:11:37초
이러한 학습 시스템을 기반으로 한 지원 생성은 방법이 될 것입니다.
00:11:40초
더 유능해서 실제로 매우 흥미롭고 실제로 다음과 같은 것을 봅니다.
00:11:44초
쌍둥이자리와 또한 미래의 멀티모달 보조원에 대한 우리의 비전
00:11:48초
현재 AGI 시스템을 향한 중요한 경로에 있는 Astra라고 불립니다.
00:11:54초
그들은 실제로 그 방향으로 연구를 추진하고 있거든요.
00:11:57초
아스트라 영상을 보실까요?
00:11:58초
확신하는.
00:11:59초
아스트라가 작동하는 모습을 담은 영상이 있어요.
00:12:05초
내 생각에는, 오, 기다리는 동안에.
00:12:11초
좋습니다. 몇 가지 테스트를 해볼까요.
00:12:14초
소리가 나는 것을 보면 말해주세요.
00:12:19초
소리를 내는 스피커가 보입니다.
00:12:21초
스피커의 그 부분은 무엇이라고 불리나요?
00:12:27초
트위터입니다. 고주파 소리를 생성합니다.
00:12:34초
이에 대한 창의적인 두문자 반복법을 알려주세요.
00:12:39초
창의적인 크레용은 쾌활하게 색칠합니다. 그들은 확실히 다채로운 창조물을 만들어냅니다.
00:12:44초
코드의 그 부분은 무슨 역할을 하나요?
00:12:54초
이 코드는 암호화 및 복호화 기능을 정의합니다. 키와 초기화 벡터 IV를 기반으로 데이터를 인코딩 및 디코딩하기 위해 AESCBC 암호화를 사용하는 것으로 보입니다.
00:13:08초
좋아요.
00:13:11초
내가 어느 동네에 있는 줄 알아?
00:13:16초
이곳은 런던의 킹스크로스 지역인 것 같습니다.
00:13:19초
이 도시는 기차역과 대중 교통망으로 유명합니다.
00:13:22초
내 안경을 어디서 봤는지 기억나?
00:13:26초
네, 그렇습니다. 당신의 안경은 빨간 사과 옆 책상 위에 있었습니다.
00:13:32초
그러니까, 그건 기본적으로 일상생활에 도움을 줄 수 있는 보편적인 조수의 시작일 뿐이에요.
00:13:45초
이 시스템을 더 빠르게 만들기 위해 여기에 무엇을 추가할 수 있나요?
00:13:47초
영상을 여기서 멈출 수 있을 것 같아요.
00:13:48초
그러니까, 알다시피, 다양한 폼 팩터가 있을 거예요.
00:13:52초
그래서 휴대폰에서도 볼 수 있고, 유리에서도 볼 수 있죠.
00:13:54초
아시다시피, 그것이 얼마나 놀라운 일인지 말로 표현할 수 없어요.
00:13:58초
만약 우리가 5년 전으로 돌아가서 당신이 우리가 지금 이 지경에 있을 것이라고 말했다면, 당신은 알겠죠,
00:14:02초
카메라로 무언가를 가리키기만 하면 주변의 공간적 맥락을 완벽하게 이해합니다.
00:14:07초
정말 놀라운 일이죠?
00:14:08초
마치 개념이 있고 사물이 무엇인지 이해하고 있는 것 같아요.
00:14:13초
창밖으로 보이는 우연한 풍경 때문에 우리가 있는 동네가 어디인지 알아볼 수도 없었습니다.
00:14:17초
당신이 어디에 두었는지 알 수 있는 기억과 같은 것들은 매우 유용할 수도 있습니다.
00:14:22초
보조자로서 당신은 개인화가 모든 것을 포함하고 있다는 것을 알고 있습니다. 내가 이것을 부를 것입니다.
00:14:29초
다음 세대의 보조자를 나는 그것을 일종의 범용 보조자라고 부르는데, 왜냐하면 당신이 그것을 맡을 것이라고 상상하기 때문입니다.
00:14:34초
당신이 다른 기기에서 알고 있는 모든 곳에서 그것은 동일한 도우미입니다
00:14:38초
당신과 함께 게임을 하거나 데스크탑에서 당신의 작업에 도움이 되거나 여행을 다닐 때
00:14:44초
당신과 함께 모바일 기기에서 알고 있고 그것이 내가 올바르게 특성화한다고 생각하는 것입니다.
00:14:49초
그렇게 말함으로써 당신을 보는 사람들이 있을 것이라고 바랍니다. 그것은 길로 나아가는 한 걸음입니다.
00:14:55초
일반 정보부와 본질적으로 이러한 격차가 있다고 말하는 다른 사람들이 있습니다.
00:15:00초
우리가 현재 사용하고 있는 방법으로 연결할 수 없는 소스가 있습니까?
00:15:05초
당신은 이미 70%까지 왔고 80%까지 왔다고 생각하며 90%까지 왔다고 생각합니다.
00:15:10초
아니면 해결해야 할 다른 것이 있는지요? 우리에게는 확실히 이러한 시스템이 필요합니다.
00:15:15초
그리고 여러분 모두는 오늘날 최첨단 채팅 상자를 사용했을 것이라고 확신합니다.
00:15:21초
이 시스템은 매우 수동적입니다. 이 시스템은 QA 시스템이기 때문에 질문에 대답하는 데 매우 유용합니다.
00:15:25초
질문: 아마도 약간의 연구를 해서 어떤 텍스트를 요약하는 것과 같은 것일 수도 있고, 우리가 다음에 원하는 것은 무엇인지에 대한 것일 수도 있습니다.
00:15:30초
특정 목표나 작업을 달성할 수 있는 에이전트 기반 시스템입니다.
00:15:35초
그게 바로 유용한 비서, 디지털 비서에게 필요한 일이죠.
00:15:39초
알다시피, 휴가를 계획하고, 도시를 돌아다니는 여행을 계획하고, 무언가의 티켓을 예약하는 거죠.
00:15:46초
그래서 그들은 세상에서 행동하고, 행동을 수행하고, 계획을 세울 수 있어야 합니다.
00:15:50초
그러니 계획, 추론, 행동이 필요합니다.
00:15:53초
우리는 더 나은 기억력이 필요합니다.
00:15:54초
사용자의 선호도를 이해하고 사용자가 말한 내용과 사용자가 좋아하는 내용을 기억할 수 있도록 개인화가 필요합니다.
00:16:00초
그래서 그 모든 기술이 필요하죠.
00:16:03초
이제 제가 그에 대해 제공하는 속기는 바둑 세계 챔피언을 이긴 AlphaGo와 같은 우리의 게임 프로그램 중 일부입니다.
00:16:10초
게임이라는 좁은 영역 내에서이기는 하지만 계획과 추론이 필요합니다.
00:16:15초
그래서 우리는 이러한 기술을 가져와 지금 Gemini와 같은 멀티모달 모델에 적용해야 합니다.
00:16:21초
이는 기본적으로 여러분이 방금 본 것처럼 세계의 모델입니다.
00:16:24초
그것은 주변 세계를 이해합니다.
00:16:26초
하지만 게임처럼 깔끔한 환경이 아닌 지저분한 현실 세계에서 어떻게 계획을 세울 수 있을까요?
00:16:32초
그래서 제 생각엔, 다음에 필요한 큰 혁신은 바로 이거예요.
00:16:35초
그리고 그 조수는 알파고 수준의 체스 플레이와 약간의 단백질도 적용할 수 있을까요?
00:16:43초
네, 정확히 그렇습니다. 그래서 일어날 수 있는 두 가지 방법이 있습니다.
00:16:46초
현재 우리 내부와 연구 커뮤니티에서 매우 흥미로운 토론이 진행되고 있습니다.
00:16:51초
그래서 일반 에이전트 시스템에서 가장 중요한 것 중 하나는 도구를 사용하는 것이라고 상상할 수 있을 겁니다.
00:16:58초
그리고 그 도구는 하드웨어일 수도 있고,
00:17:02초
그래서 로봇공학이나 물리적 세계의 사물과 같이,
00:17:05초
물론 다른 소프트웨어도 될 수 있습니다.
00:17:08초
그래서 계산기 같은 거, 그런 거,
00:17:11초
하지만 다른 AI 시스템일 수도 있습니다.
00:17:13초
그래서 당신은 뇌와 같은 일반적인 AI 시스템을 상상할 수 있습니다
00:17:16초
그런 다음 Alpha Fold 또는 Alpha Go와 같은 것을 호출합니다.
00:17:20초
바둑을 두거나 단백질을 접는 것,
00:17:23초
아니면 모든 것이 디지털이기 때문일 수도 있고,
00:17:24초
그 기능을 일반적인 뇌, 즉 제미니에 접목할 수 있다고 상상해 보세요.
00:17:30초
하지만 그러면 전문적인 정보로 과부하를 일으키기 때문에 상쇄 효과가 있습니다.
00:17:36초
체스 게임을 너무 많이 하면 언어 능력이 더 떨어지게 됩니다.
00:17:39초
그래서 당신은 그것을 도구로 분리할 것인지 여부는 개방된 연구 문제입니다.
00:17:44초
일반 AI가 그 특수한 상황에서 사용할 수 있는 AI 도구조차도,
00:17:50초
아니면 그것을 메인 시스템으로 업스트림하시겠습니까?
00:17:54초
코딩이나 수학과 같이 메인 시스템으로 업스트림하고 싶은 몇 가지 사항이 있습니다.
00:17:57초
왜냐하면 그것을 메인 시스템에 넣으면 실제로 모든 면에서 더 좋아지기 때문입니다.
00:18:02초
그래서 그들은 마치 많은 사람들이 학습 이론과 아동을 연구하는 것과 같습니다.
00:18:08초
개발 및 이와 유사한 것들을 실제로 어떤 종류의 것들이 실제로 일어날 수 있는지 생각해 보는 것입니다.
00:18:12초
주변 도구보다 주 시스템에서 더 나은 범용 도구가 되려면 얼마나 많은 것이 필요합니까?
00:18:19초
당신은 아직도 과학 단체인가요?
00:18:21초
당신들은 아직도 벨 연구소가 되기 위해 얼마나 노력하고 있나요?
00:18:23초
글쎄요, 우리는 언제나 연구 중심 조직이 될 겁니다.
00:18:27초
구글 딥마인드에서는 지금 바로 그런 일을 하고 있습니다.
00:18:31초
하지만 우리는 점점 더 크고 더 큰 종류의 제품을 가지고 있습니다.
00:18:35초
Google의 나머지 부분과 상호 작용하는 그룹을 제공합니다.
00:18:38초
하지만 우리는 여전히 기초 연구를 유지하려고 노력합니다.
00:18:41초
좀 더 장기적으로 생각할 수 있도록 그런 것들로부터 보호해줘
00:18:44초
그리고 우리의 연구 로드맵에 따르면 더욱 푸른 하늘이 될 것입니다.
00:18:48초
단순히 제품 로드맵에 의해서만 이끌리는 것은 아닙니다.
00:18:50초
네, 네.
00:18:51초
그리고 당신은 개인적으로 어떻게 그걸 따라가시나요...
00:18:53초
음, 노력은 하고 있어요.
00:18:54초
내 말은, 18개월 전까지는 그랬어요.
00:18:58초
저녁 시간을 예약해 주세요.
00:19:00초
그리고 나는 야행성 사람이야,
00:19:01초
그래서 나는 자정부터 오전 3시까지 시간을 예약하곤 했어
00:19:05초
생각하고, 논문을 읽고, 아이디어를 내는 데 적합합니다.
00:19:08초
하지만 점점 더 많은...
00:19:10초
나는 아직도 런던에 살고 있어요.
00:19:11초
하지만 지금은 캘리포니아에 많은 팀이 있습니다.
00:19:14초
그래서 그 시간의 대부분은 황금같은 생각의 시간이에요.
00:19:16초
지금은 미국 전화로만 통화가 가능합니다.
00:19:18초
그래서 저는 그것을 어떻게 해결할지 생각해야 할 것 같아요.
00:19:23초
가능하다면 여기에 타이머를 설치할 수 있나요? 그렇지 않으면 우리가 당신을 음료수에서 멀리 떨어뜨릴 것입니다. 얼마나 더 오래 남았는지 모르겠고 미래는 어떻게 될지 모르겠습니다. 당신은 ~의 일부였던 것 같습니다.
00:19:36초
너는 내가 생각하기에 네가 계약한 사람 중 하나였어
00:19:38초
이런 종류의 공개 서한 중 하나는 다음과 같은 경고를 담고 있습니다.
00:19:40초
알다시피, 진정한 종류의 실존적 위험이에요.
00:19:44초
특별히 정의되지는 않았습니다.
00:19:47초
당신은 희망과 과장이 횡행하는 종말에 대해 어떻게 생각하시나요?
00:19:51초
보세요, 당신이 예상했듯이,
00:19:52초
저는 이 방정식의 양쪽에 엄청난 과장된 선전이 있다고 생각합니다.
00:19:57초
사람들은 이제 두마 캠프라고 불리는 듯한 생각을 합니다. 이건 틀림없이 잘못될 거라고 생각하는 거죠.
00:20:03초
그리고 일종의 폴리애나 캠프에 있는 사람들이 있습니다. "이건 다 그저 또 다른 기술일 뿐이야."
00:20:10초
이런 일은 모바일 인터넷에서도 이미 본 적이 있습니다.
00:20:13초
알다시피, 그렇게 되면 정말 큰 일이 될 거예요.
00:20:14초
하지만 아시다시피 우리는 사회적으로나 인간적으로 매우 적응력이 뛰어납니다.
00:20:19초
그리고 그건, 아시다시피, 별로 특별한 일은 아닐 거예요.
00:20:21초
나는 그것이 분명히 틀렸다고 생각한다
00:20:24초
이건 인터넷보다 훨씬 더 큰 것 같아
00:20:27초
아니면 모바일이나 그런거
00:20:29초
나는 그것이 획기적인 정의라고 생각한다
00:20:31초
나는 항상 그렇게 생각했어요
00:20:33초
점점 더 많은 사람들에게 그것이 분명해지고 있다고 생각합니다.
00:20:34초
하지만 나는 어렸을 때부터 그렇게 생각했어요
00:20:37초
그래서 내가 평생 이 일에 매달렸어
00:20:38초
만약 그것이 가능하다면
00:20:40초
믿을 수 없을 만큼 큰 영향을 미칠 거야
00:20:42초
물론 내가 이 모든 일을 하는 이유는
00:20:45초
AI가 세상에 엄청나게 긍정적인 영향을 미칠 것이라고 생각하기 때문입니다.
00:20:48초
저는 AI로 모든 질병을 치료하고, 재료 과학과 새로운 에너지원을 통해 기후 문제를 해결하는 등 AI가 발명할 수 있는 다른 것들을 실현할 수 있을 것으로 생각합니다. 또한 AI가 우리 일상생활에 적용해 생산성을 높이고 일상 생활을 풍요롭게 하며 지루한 행정 업무도 자동으로 처리할 수 있게 될 것입니다.
00:21:11초
저는 그 모든 것이 놀랍다고 생각하고, 그것들은 모두 곧 나올 것이라고 생각합니다.
00:21:14초
하지만 이러한 시스템에는 위험이 있습니다. 새로운 기술을 갖춘 새로운 시스템이 있는 곳을 알고 계신가요?
00:21:21초
그들은 엄청나게 강력해요. 저는 이것을 게임의 축소판에서 봤어요. 아시죠?
00:21:27초
체스를 하는 것과 같이 잘 이해하십시오. 체스에서는 무작위로 알파 0 시스템부터 시작합니다.
00:21:32초
아침이 되면 아침 커피 브레이크가 나를 이길 수 있는 것보다 낫고 점심이 되면
00:21:39초
시간이 지나면 세계 챔피언보다 좋아지고 오후 8시간 후에는 더 좋아집니다.
00:21:43초
최고의 하드코딩 체스 컴퓨터.
00:21:46초
그래서 그것은 가장 위대한 체스를 두는 존재입니다.
00:21:48초
8시간 만에 세상을 무작위로 보았다.
00:21:51초
그래서 저는 실제로 그 과정을 지켜보았습니다.
00:21:53초
8시간 동안.
00:21:55초
그리고 그것이... 참 놀라운 일이죠.
00:21:58초
물론 그것은 단지 게임일 뿐이고 범위가 좁습니다.
00:22:01초
하지만 그 기능이 왜 필요한지 알 수 없어요.
00:22:04초
이러한 보다 일반적인 시스템에는 일반화될 수 없습니다.
00:22:07초
그리고 언어와 세계 모델 등등.
00:22:09초
그래서 그것은 엄청나게 강력할 것입니다.
00:22:11초
하지만 주의해서 다루어야 합니다.
00:22:13초
그리고 저는 우리가 그것을 모른다고 생각합니다.
00:22:15초
그래서 내가 그 편지에 서명한 이유는
00:22:17초
나는 단지 약간의 무게를 주고 싶었을 뿐입니다
00:22:18초
폴리애나주의와 같은 것에 반대하여,
00:22:20초
여기에는 볼 것이 아무것도 없습니다.
00:22:22초
사실 알려지지 않은 위험이 있다는 거야
00:22:24초
그리고 우리는 정의해야 합니다.
00:22:26초
시간이 충분하다고 생각해요.
00:22:27초
하지만 10년은 긴 시간이 아니다
00:22:29초
앞으로 그렇게 기념비적인 일이 일어날 줄은 몰랐어요.
00:22:31초
그래서 우리는 훨씬 더 많은 연구를 해야 합니다.
00:22:34초
제어 가능성과 같은 것에 대해
00:22:37초
이 시스템이 무엇을 하는지 이해하다
00:22:39초
이론적인 수준에서
00:22:40초
그리고 우리가 시스템의 목표를 어떻게 정의하는지와 같은 매우 중요한 것들
00:22:45초
그리고 시스템에 대한 가치와 이를 어떻게 고수시킬 것인가에 대한 것입니다.
00:22:48초
이런 것들은 모두 현재 초기 기술로는 알 수 없는 부분입니다.
00:22:52초
그러니 저는 신중한 낙관주의자라고 말하고 싶습니다.
00:22:55초
그러니까 우리가 힘을 합치면 문제가 해결될 거라고 생각해요.
00:22:57초
우리는 이를 국제적으로 수행하고 있으며, 이에 대해 최고의 인재를 모두 투입합니다.
00:23:00초
이제 출발하겠습니다.
00:23:01초
AI 안전 연구소가 생겨서 매우 기쁘다
00:23:03초
영국과 미국에 설립된
00:23:05초
그리고 우리는 그것이 일어나기를 강력히 지지합니다
00:23:09초
최신 모델을 테스트하고 있지만, 그보다 훨씬 더 많은 것이 필요합니다.
00:23:12초
그래서 저는 그 일이 실제로 일어나기를 격려했습니다.
00:23:16초
그리고 나는 충분한 시간과 충분한 두뇌력이 주어진다면,
00:23:20초
저는 인간의 독창성을 믿습니다. 우리가 이 문제를 올바르게 해결할 수 있을 거라고 생각합니다.
00:23:24초
하지만 위험이 있고 우리는 지름길을 택할 수 없습니다.
00:23:28초
그리고 우리는 그것을 존중해야 한다고 생각합니다.
00:23:30초
그리고 이 기술이 받을 만한 존경심과 거의 맞먹는다고 생각합니다.
00:23:34초
우리가 바로 그 직전에 있습니다.
00:23:36초
당신이 한 말은, 저는 약간 무섭게 느껴졌습니다.
00:23:39초
제 말은, 체스에서 일어난 일을 일반화한다면,
00:23:42초
체스에서는 괜찮지만, 내가 매일 사무실에 출근해서 생계를 이어간다고 가정해보자.
00:23:47초
그리고 다른 사람을 이기는 것이 아니라 체스를 해서 돈을 벌고 싶어요.
00:23:50초
하지만 체스를 두는 데는 어떤 종류의 실용적인 가치가 있기 때문입니다.
00:23:53초
당신이 말하는 건 거의 모든 인간적 가치를 없애버릴 수 있는 시스템이에요.
00:23:58초
저는 그렇게 생각하지 않아요.
00:23:59초
저는 곧 중요한 철학적 토론이 있을 것이라고 생각합니다.
00:24:04초
알다시피, 우리는 어떻게 퍼져나가나요?
00:24:06초
AGI가 작동한다면 우리는 급진적인 풍요의 시대에 살게 될 것입니다.
00:24:09초
그렇죠, 에너지 같은 것에 대한 부족이나 희소성은 없어야 합니다.
00:24:12초
따라서 자원과 다른 것들도 있습니다.
00:24:14초
그래서 저는 그것이 경제의 역학을 변화시킬 것이라고 생각합니다.
00:24:17초
제가 말하는 건 장기적인 관점이에요.
00:24:19초
그래서 우리는 지금부터 그것에 대해 생각하고 준비를 시작해야 합니다.
00:24:22초
우리는 그 여분의 풍요와 부를 어떻게 분배하고 싶은가?
00:24:28초
알다시피, 그게 일종의 보편적 기본 조항이든
00:24:32초
또는 그와 비슷한 것.
00:24:33초
우리는 지금부터 이에 대해 생각해야 합니다.
00:24:35초
그리고 경제학자나 그런 사람들도,
00:24:37초
저는 그들이 지금부터 그 부분에 대한 작업을 시작해야 한다고 생각합니다.
00:24:39초
마지막 질문 하나만 더.
00:24:40초
영국, 뭐, 우리는 영국에 있어요
00:24:41초
그리고 미국은 의심할 여지 없이 AI의 중심지입니다.
00:24:47초
우리는 이런 토론을 하고 있어요
00:24:48초
영국에 더 많은 컴퓨팅이 필요한지에 대한
00:24:50초
정부의 지원이 필요한지 여부.
00:24:53초
그게 필요한 거야?
00:24:54초
그리고 우리가 뒤처질 수 있는 방법은 무엇일까요?
00:24:57초
저는 그것이 엄청나게 성장할 분야라고 생각합니다
00:25:02초
저는 영국 정부가 장려해야 할 것이 있다고 생각합니다.
00:25:05초
저는 그것이 국가에 대한 투자를 장려하는 것과 같은 것에 관한 것이라고 말하고 싶습니다.
00:25:09초
지역 투자, 브라운필드 부지에 대한 계획 허가
00:25:13초
아마도 그들을 나라의 더 가난한 지역에 위치시키고 있을 것입니다.
00:25:16초
해상 풍력과 같은 재생 에너지도 마찬가지입니다.
00:25:20초
그래서 저는 거기에 큰 기회가 있다고 생각합니다.
00:25:22초
그리고 저는 많은 대기업들이 영국을 매력적인 곳으로 여긴다고 생각합니다.
00:25:27초
연구를 하고, 사업을 해요.
00:25:30초
그리고 우리는 훌륭한 생태계를 갖추고 있습니다.
00:25:32초
우리는 세계적 수준의 대학을 가지고 있습니다.
00:25:33초
DeepMind가 존재하는 이유 중 하나입니다.
00:25:36초
그리고 저는 우리가 여기 있는 것이 영국에서 AI를 기반으로 하거나 AI와 관련된 훌륭한 스타트업 생태계를 구축하는 데 도움이 되었다고 생각합니다.
00:25:45초
그래서 저는 정부가 그런 가능성을 열어두고 기업들이 여기에 투자하고 물건을 짓는 걸 정말 쉽게 만들어야 한다고 생각합니다. 대규모 데이터 센터도 포함해서요.
00:25:55초
훌륭해요. 정말 고맙습니다, 데미스.
00:25:57초
여러분을 여기 모실 수 있어 기쁘네요.
00:25:59초
좋아요. 고맙습니다.