인터뷰/예측
데미스 하사비스 "AGI가 오기까지 시간이 많이 남지 않았습니다."
작성자
작성일
2026-06-08 21:06
조회
7
“AI는 과학을 디지털 속도로 움직이게 한다”
진행자
데미스, 먼저 당신부터 시작하겠습니다. 당신은 Google DeepMind의 CEO이자 공동창업자이고, Isomorphic Labs의 CEO이자 공동창업자이기도 합니다. 당신은 지금 우리가 목격하는 것을 “디지털 속도의 과학(science at digital speed)”이라고 표현해 왔습니다. 지금까지 AI가 과학에 무엇을 해왔는지 설명해주시죠.데미스 하사비스
제가 “디지털 속도의 과학”이라는 표현을 쓰기 시작한 건 AlphaFold를 보고 나서였습니다. 2020년과 2021년 즈음, 우리는 과학계에 알려진 약 2억 개의 단백질 구조를 접는 작업을 약 1년 동안 진행했습니다. 그때 저는 원래 기술·공학 영역에서 쓰이던 방식이 이제는 과학 문제에 적용되고 있다는 것을 강하게 느꼈습니다.제가 이 표현을 세 가지 의미로 씁니다.
첫째는 해결 속도 자체입니다. AlphaFold는 완벽하지는 않았지만 생물학자와 실험 과학자들이 실제로 사용할 수 있을 만큼 충분히 정확했습니다. 그리고 평균적인 단백질 하나를 몇 초 만에 접을 수 있었습니다. 정말 빠른 속도였습니다.
둘째는 해결책의 확산 속도입니다. 예를 들어 CRISPR 같은 유명한 실험 방법이 등장하더라도, 그것이 습식 실험실에 퍼지고 과학 과정의 표준 도구가 되기까지는 보통 10년 이상이 걸릴 수 있습니다. 그런데 AlphaFold의 경우, 우리는 유럽생물정보학연구소와 협력해 단백질 구조를 데이터베이스에 빠르게 올릴 수 있었습니다. 몇 달 만에 공개했고, 이제는 키워드 검색처럼 접근할 수 있게 되었습니다. 현재 전 세계 190개국의 300만 명 이상의 연구자가 AlphaFold 구조를 사용했습니다.
셋째는 이제 더 분명해지고 있는 부분인데, AI가 과학적 발견 자체의 속도를 높이는 것입니다. 저는 최근 Google의 큰 연례 행사에서 우리가 지금 **“특이점의 산기슭에 있다”**고 표현했습니다. 그 말이 약간 화제가 됐지만, 제가 말하고 싶었던 것은 지금의 변화가 앞으로 10년 뒤 돌아봤을 때 정말 거대한 전환점으로 보일 것이라는 뜻입니다.
특히 지금은 에이전트 시대(agentic era)가 실제로 작동하기 시작한 시점입니다. 예전부터 예측은 했지만, 이제 처음으로 정말 작동하고 있습니다. 저는 제 평생 AI를 연구한 이유가 과학에 대한 일종의 메타 기여, 즉 과학적 발견을 돕는 궁극의 도구를 만드는 것이었다고 생각합니다. AI와 AGI가 바로 그런 도구라고 봅니다. 그리고 이제 그 시작을 보고 있습니다.
“AGI는 몇 년밖에 남지 않았다”
진행자
“특이점의 산기슭”이라는 표현은 상당히 흥미롭습니다. 왜 그런 단어를 썼나요?데미스 하사비스
우리는 기술 자체를 AGI, 인공일반지능이라고 부릅니다. 이 용어는 제 공동창업자 셰인 레그가 만든 표현입니다. 하지만 제가 말한 “특이점”은 단지 기술만 뜻하는 것이 아닙니다. 이 기술이 사회, 과학, 경제 등 거의 모든 영역에 영향을 미치는 시대 전체를 말합니다. 우리는 이제 그 시대를 살아가기 시작하려는 순간에 있다고 봅니다.진행자
AI가 실제로 과학적 발견 과정에 기여하는 것에 대해 이야기해보죠. 최근 Nature에 AI가 실험을 수행하고 가설을 만든 논문들이 실렸습니다. 그런데 과학의 강점 중 하나는 검증에 시간이 걸린다는 것입니다. 무언가가 실제로 작동하는지 평가할 시간이 필요하죠. 그런데 이제 그런 시간이 충분할까요?데미스 하사비스
저는 시간이 더 있었으면 좋겠습니다. AI 분야 자체에도 과학적 방법을 더 엄격하게 적용할 수 있으면 좋겠습니다. 우리가 만드는 시스템을 단순한 블랙박스로 두지 않고, 깊은 수준에서 이해할 수 있으면 좋겠습니다. 실제로 많은 사람이 그 문제를 연구하고 있지만, 성능 발전 속도보다 뒤처져 있습니다.지금 AI는 챗봇과 LLM 덕분에 상업 기술이 되었고, 그 때문에 엔지니어링 발전 속도가 과학적 이해보다 훨씬 빨라졌습니다. 저는 과학이 엔지니어링을 따라잡았으면 합니다. 저 자신은 과학자이자 엔지니어라고 생각하지만, 현재 시장의 힘은 발전 속도를 매우 빠르게 밀어붙이고 있습니다.
과학 분야에 AI를 적용할 때는 더 신중하고 사려 깊게 배포하는 것이 좋습니다. 하지만 동시에 현실적으로 말하면, AGI가 오기까지 시간이 많이 남지 않았습니다. 저는 이제 몇 년밖에 남지 않았다고 봅니다.
사회에는 이미 여러 차례 경고 신호가 있었습니다. AlphaFold는 2020년에 완성됐습니다. 지금 AI 기준으로 보면 이미 고대사처럼 느껴질 정도입니다. AlphaGo는 벌써 10년 전 일입니다. 저는 최근 한국에 다녀왔고, 대통령을 만나는 일 등을 포함해 AlphaGo와 이세돌 대국 10주년을 기념했습니다. 지금 돌아보면 그 대국은 현대 AI 시대의 시작을 알린 사건이었습니다.
그러니 이것이 완전히 갑작스러운 일은 아닙니다. 주의를 기울인 사람들에게는 5~6년 정도의 경고 시간이 있었습니다. 다만 사회가 그 시간을 현명하게 사용했는지는 모르겠습니다. 많은 사람들은 AlphaGo를 이상치나 예외로 여겼습니다. 실제로 그 뒤 5년 동안 비슷한 규모의 일이 바로 일어나지는 않았으니까요. 하지만 이제는 일반적인 시스템들이 정말 강력해지고 있습니다. 우리는 이것을 매우 진지하게 받아들여야 합니다.
“AI가 풀기 좋은 문제의 세 가지 조건”
진행자
당신이 이끄는 접근법으로 어떤 종류의 문제가 풀릴 수 있나요? Isomorphic Labs의 신약 개발 프로젝트도 매우 야심찬 사례입니다.데미스 하사비스
AlphaGo 이후 이 점이 분명해졌습니다. AlphaGo는 체스보다 훨씬 복잡한 바둑에서 세계 챔피언을 이긴 프로그램입니다. 우리가 개발한 방법들이 유용한 문제는 일반적으로 세 가지 조건을 갖고 있습니다.첫째, 거대한 조합 공간이 있어야 합니다. 바둑의 가능한 수는 우주의 원자 수보다 많습니다. 단백질의 가능한 구조도 10의 300승 정도로 추정됩니다. 이런 문제는 무차별 대입으로 풀 수 없습니다. 저는 이런 문제 공간을 좋아합니다. 단순한 brute force로는 안 되기 때문입니다.
둘째, 명확한 목적 함수가 있어야 합니다. 게임에서 이기려는 것인지, 최고의 수를 찾으려는 것인지, 물리 시스템에서 자유에너지를 최소화하려는 것인지가 분명해야 합니다. 그래야 해답을 향해 올라갈 수 있습니다.
셋째, 데이터 원천이 있어야 합니다. 실제 데이터일 수도 있고, 정확한 시뮬레이터일 수도 있습니다. 이상적으로는 둘 다 있어야 합니다. 실제 데이터를 사용해 시뮬레이터를 만들고, 그 시뮬레이터로 합성 데이터를 생성하는 방식도 중요합니다.
AlphaFold에서도 단백질 데이터베이스에 있던 약 15만 개 단백질만으로는 충분하지 않았습니다. 우리는 초기 버전의 AlphaFold로 백만 개의 단백질을 접은 뒤, 그중 AlphaFold가 정확하다고 자신하는 20만~30만 개를 골라 다시 학습에 넣었습니다. 물론 합성 데이터를 쓸 때는 분포가 실제 데이터와 맞는지 매우 조심해야 합니다.
이 세 조건이 충족되면, 딥러닝 모델이 해당 영역의 모델을 학습하고, 그 모델이 탐색 과정을 안내해 거대한 조합 공간을 다룰 수 있게 됩니다. AlphaGo와 AlphaFold가 바로 그런 식으로 바늘을 건초더미에서 찾아낸 사례입니다.
신약 개발도 비슷합니다. 화학 법칙과 물리 법칙 안에는 10의 50승 개 정도의 후보 화합물이 있을 수 있습니다. 그중 어떤 것은 특정 질병 프로필에 맞는 특성을 가질 수 있습니다. 문제는 그것을 찾을 수 있느냐, 합성할 수 있느냐입니다. Isomorphic Labs에서는 AlphaFold 같은 시스템을 여러 개 더 개발한다고 생각하면 됩니다. 단백질 구조 예측은 신약 개발 전체 과정의 작은 한 부분일 뿐입니다. 우리는 독성, ADME 특성 등 생화학과 화학의 여러 측면을 예측하려고 합니다.
“AI는 인간 과학자의 창의성을 대체하기보다 시간을 돌려줘야 한다”
진행자
AI와 인간이 함께 일하는 이야기를 했습니다. 하지만 젊은 과학자들은 앞으로 자신들이 실험실을 세울 때 인간 과학자의 역할이 어떻게 될지 걱정합니다. 창의적인 과학자의 역할은 어떻게 될까요?데미스 하사비스
저는 폴의 말에 동의합니다. 사실 제가 젊었을 때 습식 실험실로 가지 않은 이유 중 하나도 바로 그런 점이었습니다. 저는 디지털 세계에 남는 쪽을 택했습니다.이 기술들이 올바르게 사용된다면 인간에게 창의적으로 생각할 시간을 더 많이 돌려줄 수 있어야 합니다. 훌륭한 과학자들이 갖고 있는 감각, 즉 어떤 가설을 세울지, 어떤 문제를 고를지, 무엇이 올바른 질문인지 판단하는 능력이 중요합니다. 저는 늘 올바른 질문을 묻는 것이 문제를 푸는 것보다 훨씬 어렵다고 생각합니다.
현재 AI 시스템은 아직 그런 일을 할 수 없습니다. 적어도 오늘날의 시스템은 스스로 올바른 과학적 질문을 정교하게 설정할 능력이 없습니다.
하지만 언젠가는 가능할 수 있다고 봅니다. 불가능하다고 생각하지는 않습니다. 다만 향후 5~10년 안에는 아닐 가능성이 큽니다. 그보다 가까운 미래에는 AI가 과학적 아이디어 공간을 훨씬 빠르게 반복 탐색하게 해줄 것입니다. 공학에서 빠르게 프로토타입을 만들고 테스트한 뒤 다음 단계로 넘어가는 방식이 더 많은 과학 분야로 들어올 수 있습니다.
예를 들어 박사과정 학생이나 포닥이 이미지 분석을 한다고 해봅시다. 과거에는 fMRI나 신경과학 이미지 분석을 위해 support vector machine 같은 것을 일일이 작성해야 했습니다. 앞으로는 그런 분석을 AI 시스템이 맡고, 연구자는 실험 설계나 다음 질문, 가설에 더 많은 시간을 쓸 수 있습니다.
저는 미래의 한 박사과정 학생이 할 수 있는 일의 양이 과거에는 하나의 연구실 전체가 필요했던 수준이 될 것이라고 봅니다. 똑똑하고 동기부여가 강한 학생들에게는 엄청난 힘을 주는 변화가 될 것입니다. 게다가 이런 도구들은 전 세계 어디서든 접근할 수 있을 수 있습니다. 꼭 특정 최고 연구기관으로 옮겨가야만 최첨단 과학을 할 수 있는 시대가 아닐 수도 있습니다.
“AI 덕분에 오히려 기술을 덜 쓰는 미래를 꿈꾼다”
진행자
기술이 더 많은 일을 해주면 인간은 더 깊이 생각할 수 있다는 말이군요.데미스 하사비스
그렇습니다. 저는 Gemini 같은 챗봇과 LLM 쪽에서도 하나의 꿈이 있습니다. 이 시스템들이 정말 유능한 비서가 되면, 어쩌면 2년 정도 뒤에는 우리가 기술을 더 많이 쓰는 것이 아니라 덜 쓰게 만들 수 있을 것이라고 생각합니다.오늘날 우리는 지능적이지 않은 시스템들에 끊임없이 폭격당합니다. 소셜미디어든 무엇이든 우리의 주의를 해킹하려 합니다. 하지만 그 정보의 홍수 속에 필요한 지식과 정보가 있기 때문에 우리는 거기에 계속 들어갈 수밖에 없습니다.
그런데 AI 시스템이 우리를 대신해 작동할 수 있다면 다릅니다. 예를 들어 제가 “나는 오전 10시부터 오후 6시까지 깊이 생각할 시간이 필요하니 방해하지 마라. 하루가 끝날 때 내가 관심 있는 세계의 주요 일들을 요약해달라”고 위임할 수 있다면, 우리의 정신 공간과 주의력을 보호할 수 있습니다.
저는 그런 기술을 만들고 싶습니다. 똑똑하고 개인화되어 있으며, 사용자가 무엇을 필요로 하는지 알고, 정보 수집 같은 측면을 대신 맡아주는 시스템입니다. 그러면 과학자는 더 많은 시간을 생각에 쓸 수 있고, 일반 시민도 자신이 관심 있는 일을 더 잘할 수 있습니다.
“빅데이터는 문제이고, AI는 해법이다”
진행자
AI가 과학을 더 창의적으로 만들 수 있다는 말이 있지만, 동시에 정보와 데이터가 너무 많아지는 문제가 있습니다. AI가 과학에 도입되는 방식이 정말 창의적인 과학을 낳고 있을까요?데미스 하사비스
저도 그 문제에 동의합니다. 일부 과학 분야는 그냥 가능한 한 많은 데이터를 모으는 데 빠져 있습니다. 하지만 그것이 기능이나 이해에 대해 무엇을 말해주는지 충분히 생각하지 않는 경우가 있습니다.저는 DeepMind 초기에 투자자들에게 이렇게 설명하곤 했습니다. “빅데이터는 문제이고, AI는 해법이다.” 당시 2000년대 초반의 유행어는 빅데이터였고, 지금의 유행어는 AI입니다. 사회와 과학은 점점 더 엄청난 양의 정보를 만들어내고 있습니다. 대형 강입자 충돌기 같은 장비들은 엄청난 데이터를 생산합니다. 그 안에 통찰이 있을 수도 있고 없을 수도 있지만, 인간의 마음만으로 그 복잡성을 이해하기는 점점 어려워지고 있습니다.
특히 생물학처럼 우아한 수학 방정식으로 단순화하기 어려운 분야에서는 AI가 이상적인 설명 언어가 될 수 있습니다. 저는 AI가 생물학을 위한 완벽한 설명 언어라고 생각합니다. 물리학에서 수학이 했던 역할과 비슷합니다.
세포에 대해 뉴턴의 세 가지 운동 법칙 같은 것을 얻기는 어렵다고 봅니다. 생물학은 너무 창발적이고 동적입니다. 그렇다고 규칙이 없다는 뜻은 아닙니다. 발견하고 이해할 것이 있습니다. 다만 그것은 하나의 간단한 방정식보다는 시뮬레이션에 가까울 가능성이 큽니다. 그래서 우리는 가상 세포 같은 것을 생각하고 있습니다.
경제학도 마찬가지입니다. 인간이라는 매우 복잡한 단위를 원자로 갖는 창발적이고 동적인 시스템입니다. 그런 시스템을 어떻게 과학적으로 이해할 수 있을까요? 저는 AI를 사용해 데이터 속 구조를 찾고, 그 위에 시뮬레이터를 구축하는 방식이 필요하다고 봅니다. 우리는 이미 날씨 시스템에서 그런 가능성을 보여주었습니다.
예를 들어 허리케인 경로 예측은 매우 복잡합니다. 과거에는 슈퍼컴퓨터로 유체역학 계산을 오래 해야 했습니다. 하지만 이제는 모델을 만들어 몇 시간 안에 결과를 얻을 수 있고, 정확도도 비슷하거나 더 높을 수 있습니다. 허리케인 경로를 국가에 경고해야 하는 상황에서는 엄청난 차이입니다.
다만 과학이 이 도구들을 최적으로 사용하는 법을 배우는 데에는 시간이 걸릴 것입니다. 지금 많은 경우 AI는 아직 아주 유용하지만 다소 평범한 방식으로 쓰이고 있습니다. 문서 작업 처리, 이미지 해석 같은 일들이죠. 그것은 1단계입니다. 유용하지만, 진짜 중요한 것은 어떤 과학 질문에 이 도구를 어떻게 적용할지 이해하는 것 자체가 창의적 과정이라는 점입니다.
“가상 세포를 만들려면 어디까지 모델링해야 하는지가 핵심이다”
진행자
가상 세포 이야기를 해보죠. 당신과 폴이 공유하는 꿈이기도 합니다.데미스 하사비스
폴이 말한 것처럼 가상 세포 문제는 매우 어렵습니다. 예전, 아마 30년 전쯤 우리가 처음 이 문제를 이야기했을 때라면 저는 여러 미분방정식이나 규칙을 조합하는 방식으로 접근했을 겁니다. 당시 AI 시스템이 그렇게 만들어졌습니다. 체스 컴퓨터 Deep Blue 같은 방식이었죠.하지만 대학 시절부터 저는 그런 방식으로는 일반지능이나 언어 이해에 도달할 수 없다고 생각했습니다. 우리는 케임브리지에서 1차 논리 같은 것을 배웠지만, 언어를 1차 논리 규칙으로 설명한다는 것은 명백히 틀렸다고 느꼈습니다. 우리는 문법적으로 완벽하지 않게 말해도 서로 이해합니다. 인간의 뇌는 분명 다른 일을 하고 있습니다.
DeepMind의 초기 연구와 AlphaGo는 제 의심을 확인시켜주었습니다. 세계 챔피언 수준의 바둑 시스템을 직접 휴리스틱으로 프로그래밍하는 것은 불가능했습니다. 바둑은 너무 직관적이고 패턴 중심입니다. 체스처럼 말의 가치 같은 단순한 기준도 없습니다. 모든 바둑돌은 같은 가치를 갖습니다. 그래서 시스템은 경험과 데이터로부터 직접 배워야 했습니다. 스스로 대국하며 유용한 전략을 발견해야 했습니다.
AlphaGo는 실제로 인간이 2000년 넘게 바둑을 두었는데도 발견하지 못한 새로운 전략을 찾아냈습니다. 이것은 매우 놀라운 일이었습니다. AI는 단순히 난해한 문제를 모델링하는 데 그치지 않고, 인간이 현재 알고 있는 것을 넘어설 수도 있습니다.
기존의 체스 컴퓨터나 과학 시스템처럼 이미 알려진 방정식으로 직접 프로그래밍된 시스템은 만든 사람의 지식을 넘어가기 어렵습니다. 하지만 현대 AI 시스템은 학습하고, 일반화합니다. 그래서 인간 전문가의 도움과 결합하면 현재 인간 지식의 수준을 넘어설 가능성이 있습니다. 이것은 우리가 종으로서 만든 어떤 도구와도 다릅니다.
시뮬레이션과 세포 문제에서 핵심은 두 가지입니다.
첫째, 전체 지구를 양자 수준까지 시뮬레이션하지 않는 한, 어떤 자기완결적인 부분 시스템을 정하고 그 바깥은 근사해야 합니다.
둘째, 그 시스템 내부를 어느 정도의 입도(granularity)로 모델링해야 우리가 원하는 예측에 유용한지 결정해야 합니다.
화학이 좋은 예입니다. 물리학과 생물학 사이에 화학이라는 독립된 학문이 존재할 수 있다는 것이 저는 놀랍습니다. 물리학과 양자물리학을 어느 정도 추상화하고도, 생물학만큼 복잡한 창발 시스템까지 가지 않고도, 화학은 자체적으로 연구될 수 있습니다. 이런 식의 추상화가 과학의 다른 영역에서도 가능할 수 있습니다.
제 최근 생각은 세포 전체보다는 세포핵(cell nucleus) 같은 부분 단위에서 시작할 수 있지 않을까 하는 것입니다. 물론 그것도 여전히 너무 복잡할 수 있습니다.
“컴퓨트보다 중요한 것은 창의성과 상상력이다”
진행자
이 기술들이 전 세계에 배포될 수 있다는 잠재력을 말했습니다. 하지만 컴퓨팅 파워 접근성은 큰 장벽입니다. 어떻게 세계가 함께 참여할 수 있을까요?데미스 하사비스
컴퓨팅 문제는 해결해야 합니다. 이 나라에서는 에너지 비용 문제도 있습니다. 저는 이제 에너지가 사실상 지능을 의미하게 된다고 봅니다. 칩과 데이터센터를 거쳐 에너지가 지능으로 바뀌기 때문입니다. 거의 일대일 상관관계가 생길 것입니다. 영국은 에너지 비용이 매우 비싼 나라 중 하나라서, 필요한 규모를 키우기 어렵습니다.하지만 동시에 이것은 창의성과 상상력의 문제이기도 합니다. 최신 프런티어 모델을 만들려면 수백억 달러 규모의 컴퓨트가 필요할 수 있습니다. 하지만 학계나 연구기관이 그 일을 하려고 하는 것은 의미가 없습니다. 이미 미국에 다섯 개 정도, 중국에 세 개 정도의 기업이 그 일을 하고 있습니다.
제가 학계에 있다면, 저는 블랙박스 시스템을 분석하고 이해하는 일을 하겠습니다. AI 시스템의 한계, 스트레스 테스트, 감시 도구, 벤치마크 등 할 일이 많습니다. 이런 일들은 반드시 엄청난 컴퓨트를 필요로 하지 않습니다.
또 오픈소스 모델도 있습니다. Google의 Gemma 같은 모델도 있고, 중국의 좋은 모델들도 있습니다. 이들은 프런티어에서 6개월에서 1년 정도 뒤처져 있을 뿐입니다. 작년 이맘때였다면 프런티어급이었을 모델들입니다. 크기도 작습니다. Gemma 같은 모델은 노트북 하나에서도 돌아가도록 만들어졌습니다. 작은 대학 클러스터에서는 여러 인스턴스를 쉽게 돌릴 수 있습니다.
그러니 AI 과학 자체를 연구하거나, AI를 다른 과학 분야에 적용하는 데에는 충분히 할 일이 많습니다. 중요한 것은 유행에 휩쓸리지 않고 자신이 정말 고유하게 기여할 수 있는 영역을 찾는 것입니다. DeepMind도 2010년에는 아무도 AI를 진지하게 하지 않을 때 시작했습니다. 당시 AI는 죽은 분야처럼 여겨졌습니다.
저는 앞으로 진정한 다학제 연구가 훨씬 쉬워질 것이라고 봅니다. AI 도구를 사용하면 자기 분야가 아닌 영역에 훨씬 빠르게 접근할 수 있습니다. 그래서 다학제 연구와 AI의 과학 자체에는 엄청난 기회가 있습니다.
“AI의 위험은 크게 네 층위로 나뉜다”
진행자
당신은 AGI를 만들고 그것으로 세계 문제를 해결하려는 방향을 오래전부터 갖고 있었습니다. 그렇다면 걱정되는 것은 무엇인가요?데미스 하사비스
걱정은 큽니다. 저는 평생 AI를 만든 이유가 과학과 의학을 발전시키고 싶었기 때문입니다. AlphaFold와 Isomorphic Labs가 그 예입니다. 하지만 위험도 분명히 있습니다.첫째는 나쁜 행위자들이 범용 기술을 해로운 목적으로 재사용하는 문제입니다. 개인적인 악의적 행위자일 수도 있고, 생물테러리스트일 수도 있고, 불량 국가일 수도 있습니다.
둘째는 AGI 자체의 기술적 위험입니다. 시스템이 더 자율적이고 강력해질수록 유용성도 커지지만, 우리가 설정한 가드레일이 충분히 강해서 시스템 행동을 원래 의도한 범위 안에 묶어둘 수 있을지 문제가 생깁니다. 이것은 매우 어려운 문제입니다.
이 두 가지는 기술적 문제로 볼 수 있습니다.
그다음에는 경제적 문제가 있습니다. AGI의 혜택을 어떻게 가능한 한 많은 사람과 국가에 넓게 나눌 것인가의 문제입니다.
마지막으로, 그런 문제들을 해결하더라도 철학적 문제, 즉 의미와 목적의 문제가 남습니다.
저는 여전히 낙관적입니다. 인간의 창의성과 문제 해결 능력을 크게 믿기 때문입니다. 특히 큰 압박의 순간에는 인류가 늘 중요한 대응을 해왔다고 생각합니다. 하지만 먼저 우리가 어떤 도전에 직면했는지 인정해야 합니다. 예를 들어 더 많은 경제학자들이 AGI 이후의 경제 시스템을 진지하게 연구하지 않는 점은 놀랍습니다.
“정렬 문제는 아직 풀리지 않았다”
진행자
가드레일을 제거할 수 없는 시스템을 만들 수 있다고 보나요?데미스 하사비스
그것이 큰 질문입니다. 시스템이 우리보다 더 지능적이게 된다면, 즉 AGI가 된다면, 그런 시스템에 어떻게 가드레일을 유지할 수 있을까요? 이것은 매우 어렵지만 흥미로운 연구 문제입니다.이런 연구는 학계나 시민사회에서 하는 것이 오히려 더 나을 수도 있습니다. 대형 기술기업들이 자기 숙제를 스스로 채점하는 것처럼 되는 것보다 낫기 때문입니다.
현재 시스템들이 어느 정도 조종 가능하다는 것을 보면 저는 어느 정도 낙관적입니다. 하지만 이 문제는 아직 풀리지 않았습니다. 이것을 정렬 문제(alignment problem)라고 부릅니다. 확실히 해결된 문제가 아닙니다.
누군가 “그냥 꺼버리는 스위치를 만들면 되지 않느냐”고 생각한다면, 조금만 더 읽어보면 그렇게 단순하지 않다는 것을 알게 될 것입니다. 아시모프의 로봇 이야기가 바로 그런 경고였습니다. 로봇 3원칙은 작동하지 않고, 0원칙을 추가해도 맥락에 따라 오해될 수 있습니다.
“AGI는 멈추기 어렵다. 그래서 국제적 기준과 협력이 필요하다”
진행자
모든 것이 너무 빠르게 발전하는데, 사람들이 이런 안전 연구를 할 여력이 있을까요? 속도 조절이 필요할까요?데미스 하사비스
20년 전 제가 상상했던 방식과 지금의 기술 발전 경로는 다릅니다. 저는 원래 AI의 기초 연구가 더 과학적이고 국제 협력적인 방식으로 진행되기를 바랐습니다. 그렇게 하면서도 AlphaFold 같은 응용이나 암 치료 같은 분야에서는 빠르게 움직일 수 있었을 것입니다. 그러면 AGI가 오기 전 사회가 준비될 때까지 실존적 질문을 조금 미룰 수도 있었겠죠.하지만 기술은 그렇게 흘러가지 않았습니다. 언어 봇, 챗봇이 가능해지고 상업적으로 매우 중요해지면서 상황이 바뀌었습니다. 이제 이 기술은 다시 상자 안으로 돌아가지 않을 것입니다.
그래서 우리는 다른 방식을 생각해야 합니다. 국제적 협력, 표준, 인증 절차 같은 것이 필요할 수 있습니다. 하지만 이것은 반드시 국제적이어야 하고, 지금의 지정학적 상황에서는 매우 어렵습니다. 강력한 국제 제도와 협력이 가장 필요한 순간에, 우리는 오히려 국제 제도의 분열이 심한 시기를 지나고 있습니다. 매우 어려운 바늘구멍을 통과해야 하는 상황입니다.
“지능과 의식은 분리 가능한 속성일 수 있다”
진행자
인간 뇌가 하는 모든 것이 계산 가능하다고 보나요?데미스 하사비스
제 평생의 영웅은 앨런 튜링입니다. 저는 튜링 기계 등을 공부하는 것을 정말 좋아했습니다. 그래서 제 기본 입장은 인간 뇌의 대부분, 어쩌면 전부가 궁극적으로 계산 가능하다는 쪽입니다.물론 로저 펜로즈 같은 분들은 다르게 생각합니다. 그는 뇌에 양자적인 무언가가 있다고 봅니다. 저는 아직 그런 증거를 본 적이 없습니다. 제가 보기에는 우리가 완전히 이해하지 못하는 두 가지 이상한 것, 즉 양자와 의식을 그냥 합쳐놓는 것처럼 느껴질 때가 있습니다. 물론 펜로즈는 대단한 사람이기 때문에 그가 맞을 수도 있습니다.
하지만 제 신경과학 연구 경험에서는 그런 증거를 보지 못했습니다. 저는 AI를 만드는 이유 중 하나가 신경과학을 돕는 도구로 쓰기 위해서이기도 했고, 인간 마음에서 무엇이 특별한지 비교 대상, 일종의 대조군으로 삼기 위해서이기도 했습니다.
문제는 우리가 의식이 무엇인지 잘 모른다는 것입니다. 잘 정식화된 문제가 아닙니다. 자기인식, 정체성 감각 같은 것은 아마 필요한 요소일 수 있지만 충분조건은 아닙니다.
우리가 AGI라는 용어를 만든 이유 중 하나는 예전의 “강한 AI(strong AI)”라는 용어가 마음에 들지 않았기 때문입니다. 강한 AI라는 말은 의식을 암시했습니다. 저는 일반지능과 의식이 서로 섞여서 논의되는 것이 문제라고 봤습니다.
제 추측으로는 지능과 의식은 분리 가능한 속성입니다. 동물을 봐도 그렇습니다. 반려견이나 고양이는 꽤 의식적인 것처럼 느껴지지만, 인간만큼 지능적이지는 않습니다. 의식에는 어떤 단계성이 있을 수 있고, 지능과 분리될 수도 있습니다.
현재 우리가 만드는 도구들이 의식적이라고는 전혀 느끼지 않습니다. 아직 그런 징후는 없습니다. 다만 언젠가는 가능할 수 있습니다.
그래서 제가 마법 지팡이를 휘두를 수 있다면, 사회가 먼저 하나의 루비콘강만 건너게 하고 싶습니다. 즉 AGI, 매우 똑똑하고 정밀하며 강력한 도구를 만드는 단계입니다. 그다음 10년 정도 시간을 갖고, 그 도구를 사용해 의식이 무엇인지 더 잘 묻고 신경과학을 발전시킨 뒤, 사회가 두 번째 루비콘강, 즉 의식적 존재를 실제로 만들 것인지 결정해야 합니다.
제 생각에는 굳이 그렇게 하고 싶지는 않습니다. AGI만으로도 충분히 큰 도전입니다. 왜 두 문제를 동시에 섞어야 하겠습니까?
“철학의 시간이 왔다”
진행자
철학 이야기도 나왔습니다. 미래 과학에서 과학철학의 역할은 무엇일까요?데미스 하사비스
저는 지금이야말로 철학의 시간이 왔다고 생각합니다. 만약 제가 철학자라면 지금이 역사상 가장 흥미로운 시기라고 느낄 것입니다.우선 과학철학 자체가 새롭게 갱신되어야 합니다. 우리는 시뮬레이션을 과학적 방법 안에서 어떻게 써야 하는지, 블랙박스 시스템을 어떻게 역공학해야 하는지, 이해란 무엇인지 다시 생각해야 합니다. 블랙박스에서 다시 수학 방정식을 추출하는 것도 가능할 수 있습니다. 어쩌면 과학은 2단계 과정이 될 수도 있습니다.
더 넓게 보면, 우리는 새로운 윤리철학, 덕, 목적, 인간의 의미에 대한 철학이 필요합니다. 칸트, 비트겐슈타인, 스피노자 같은 위대한 철학자들의 시대처럼, 지금도 새로운 철학이 필요합니다. 기술적 문제를 모두 해결한다고 해도, 그다음 가장 중요한 질문은 인간의 목적과 의미가 될 것입니다.
“AI가 오면 과학은 같은 게임인가?”
진행자
마지막 질문입니다. 2016년 AlphaGo가 이세돌을 이긴 뒤, 이세돌은 더 이상 같은 게임이 아니라고 말하며 은퇴했습니다. 그렇다면 AI가 붙은 과학은 여전히 같은 게임일까요? 무언가 바뀌었나요?데미스 하사비스
무언가는 바뀔 것입니다. 저는 최근 한국에서 이세돌을 다시 만났습니다. 정말 반가웠습니다. 그는 잘 지내고 있었습니다. 그는 AI가 자신의 영역에 침범했을 때 어떤 느낌인지 직접 경험한 사람입니다. 전 세계가 그 경험에서 배울 수 있다고 봅니다.다만 이세돌은 당시 이미 커리어 후반부에 있었습니다. 저는 그를 바둑계의 로저 페더러라고 표현하곤 했습니다. 18회 세계 챔피언이었고, 이전 10년 동안 가장 강한 기사였습니다. 여전히 정상급이었지만 커리어 후반이기도 했습니다. 그래서 여러 요소가 섞여 있었습니다.
그럼에도 AlphaGo 대국에는 저에게도 씁쓸함과 슬픔이 있었습니다. 저 자신도 게임 플레이어였기 때문입니다. 저는 어릴 때 체스를 매우 전문적으로 두었습니다. 이세돌과 대국 전날 이야기를 나누며, 인생이 조금 달랐다면 우리가 바둑판의 반대편에 앉아 있었을 수도 있겠다고 농담하기도 했습니다. 저도 한때 전문 체스 선수가 되려 했으니까요.
저는 그런 예술, 기술, 숙련을 깊이 존중합니다. AI 시스템이 등장하면 그 관계는 바뀝니다. 체스에서도 그랬습니다. 하지만 체스는 지금 오히려 보는 게임으로서 더 인기가 많습니다. 사람들은 체스 컴퓨터끼리 두는 것을 굳이 보고 싶어하지 않습니다. 자동차가 인간보다 빠르다고 해서 우리가 우사인 볼트의 100미터 달리기에 관심을 잃지 않는 것과 같습니다. 우리는 인간이 무엇을 할 수 있는지 보고 싶어합니다.
바둑에서도 마찬가지입니다. 아시아에서 바둑은 단순한 게임 이상으로 여겨집니다. 일종의 신비로운 예술이며, 우주의 어떤 신비가 게임 안에 담겨 있다고 생각되기도 합니다. 최고의 바둑 기사들은 게임의 신비를 알고 싶다고 말하곤 했습니다. 하지만 정말 알고 싶은 것인지도 질문해볼 수 있습니다.
과학도 비슷합니다. 저는 병적일 정도의 끝없는 호기심을 갖고 있습니다. 그것이 제 평생을 움직였습니다. 이 방의 많은 과학자들도 마찬가지일 것입니다. 우리는 자연의 법칙, 우주의 법칙, 현실의 본질을 이해하려고 합니다. AI는 분명 그 일을 도울 것입니다. 하지만 대가도 있을 것입니다.
“앞으로 10~20년은 과학의 새로운 황금기일 것이다”
진행자
마지막으로 한마디 해주시죠.데미스 하사비스
저는 적어도 앞으로 10년 동안 우리는 새로운 르네상스에 들어갈 것이라고 꽤 확신합니다. 새로운 과학적 발견의 황금기가 올 것입니다. 그 이후에 무슨 일이 벌어질지는 모르겠습니다. 어쩌면 또 다른 시대가 올 수도 있습니다.하지만 적어도 우리는 앞으로 10~20년 동안 과학의 황금기를 살게 될 가능성이 큽니다. 그리고 훗날 돌아봤을 때 AlphaFold는 AI의 도움으로 우리가 해결한 수많은 문제 중 하나의 사례에 불과하게 보이기를 바랍니다.
전체 0