데미스 하사비스 × 리드 호프먼 인터뷰 한국어 정리

Summit ’26 | 약 25분 | 인터뷰어: 리드 호프먼(Reid Hoffman) | 출연: 데미스 하사비스(Demis Hassabis), Google DeepMind CEO

1. AI의 궁극적인 목표는 과학과 의학의 발전이다 (01:07~05:18)

리드 호프먼: 당신은 오래전부터 AI가 인류의 건강과 의학에 엄청난 혜택을 가져올 수 있다고 강조해 왔습니다. AI를 통해 어떤 미래를 만들고 싶습니까?

데미스 하사비스:

제가 AI를 연구해 온 궁극적인 목적은 언제나 같았습니다. AI를 과학과 의학을 발전시키고, 우리가 살아가는 세계를 더 깊이 이해하기 위한 궁극적인 도구로 사용하는 것입니다.

특히 인류의 건강을 개선하는 것이 가장 중요한 목표라고 생각합니다.

우리는 20년 전만 해도 꿈꾸기만 했던 강력한 AI 도구를 이제 실제로 갖게 되었습니다. 그렇다면 이 기술을 끔찍한 질병을 치료하는 데 사용하는 것보다 더 훌륭한 일이 있을까요?

AlphaFold와 신약 개발 기업인 Isomorphic Labs도 바로 이런 목표에서 출발했습니다.

리드 호프먼: AlphaFold는 실제 신약 개발에 어떻게 기여합니까? 언제쯤 실질적인 성과를 기대할 수 있을까요?

데미스 하사비스:

생물학은 우주에서 가장 복잡한 시스템 중 하나입니다.

단백질은 생명의 기본 구성 요소이며, 단백질의 3차원 구조를 이해하는 것은 질병의 원인을 알아내고 신약을 설계하는 데 필수적입니다.

예를 들어 신약을 개발하려면 약물이 단백질 표면의 어느 부분과 결합해야 하는지 알아야 합니다.

AlphaFold는 이 문제를 해결하는 과정을 획기적으로 가속했습니다.

2020년에 완성한 AlphaFold 2는 여전히 AI가 매우 어려운 과학적 문제를 해결한 가장 구체적인 사례 중 하나입니다.

현재 전 세계 약 400만 명의 연구자가 AlphaFold를 활용하고 있습니다.

하지만 단백질 구조를 예측하는 것만으로 충분하지는 않습니다.

앞으로는 독성, 약물의 흡수·분포·대사·배설(ADME) 등 신약 개발에 필요한 다른 특성까지 AI가 예측할 수 있어야 합니다.

궁극적으로 우리는 AI를 이용해 신약 개발의 전체 과정을 가속하고 싶습니다.

2. 재귀적 자기개선(RSI)은 얼마나 강력하며, 어디까지 발전할 수 있는가? (05:45~09:09)

리드 호프먼: 최근 가장 뜨거운 주제 중 하나가 재귀적 자기개선(Recursive Self-Improvement, RSI)입니다. 이 기술의 가능성과 위험을 어떻게 평가하십니까?

데미스 하사비스:

RSI는 AI 발전을 가속하는 데 매우 유용한 기술입니다.

특히 정답을 검증할 수 있는 분야에서 효과적입니다.

대표적으로 수학, 프로그래밍, 게임이 있습니다.

우리는 이미 AlphaZero를 통해 재귀적 자기개선의 엄청난 잠재력을 확인했습니다.

AlphaZero는 인간의 기보 없이 무작위 상태에서 시작해 자기 자신과 수많은 게임을 진행하며 학습했습니다.

더 강한 버전이 만들어지면 그 버전이 다시 자기 자신과 대결하고, 이를 통해 새로운 버전을 학습시키는 과정이 반복됩니다.

제가 가장 인상 깊게 기억하는 것은 AlphaZero가 체스를 배울 때였습니다.

아침에는 무작위로 체스를 두던 AI가 오전 11시 무렵에는 제가 겨우 이길 수 있는 수준이 됐습니다. 점심시간에는 그랜드마스터 수준에 도달했고, 오후 티타임에는 그 어떤 체스 프로그램보다 강해졌습니다.

이 모든 일이 12시간도 걸리지 않았습니다.

이것이 재귀적 자기개선의 위력입니다.

리드 호프먼: 수학과 프로그래밍에서 RSI가 특히 강력하게 작동하는 이유는 무엇입니까?

데미스 하사비스:

가장 중요한 것은 검증 가능성입니다.

수학 문제의 답이 옳은지, 코드가 제대로 작동하는지, 게임에서 승리했는지 확인할 수 있습니다.

정답을 검증할 수 있다면 사실상 무한에 가까운 합성 데이터를 생성할 수 있습니다.

현재 가장 뛰어난 모델이 새로운 문제를 만들어내고, 이를 해결한 결과가 올바른지 검증한 다음, 그 데이터를 다시 학습에 활용할 수 있기 때문입니다.

그런 이유로 수학과 프로그래밍에서 엄청난 발전이 나타나고 있습니다.

3. 인간이 없는 폐쇄형 RSI는 AGI로 가는 가장 위험한 경로다 (08:38~10:19)

리드 호프먼: 그렇다면 RSI가 더욱 발전하면 어떤 일이 벌어질까요?

데미스 하사비스:

저는 우리가 이미 RSI의 초기 단계에 진입했다고 생각합니다.

현재 AI는 인간 엔지니어의 생산성을 3배, 4배, 심지어 5배까지 높일 수 있습니다.

하지만 아직 인간이 전체 과정에 깊이 관여하고 있습니다.

인간이 시스템 아키텍처를 설계하고, 코드를 검토하며, 중요한 의사결정을 내립니다.

제가 가장 우려하는 것은 그다음 단계입니다.

바로 폐쇄형 재귀적 자기개선(Closed-loop RSI) 입니다.

이 단계에서는 AI가 인간의 검토나 개입 없이 자기개선의 전체 과정을 수행하게 됩니다.

당연히 발전 속도는 훨씬 빨라질 것입니다.

하지만 저는 이것이 완전한 AGI에 도달하는 매우 위험한 경로일 수 있다고 생각합니다.

20년 전에는 이런 현상을 흔히 '지능 폭발(Intelligence Explosion)'이라고 불렀습니다.

문제는 일단 이런 과정이 시작되면 우리가 그것을 어떻게 통제해야 하는지 정확히 알기 어렵다는 것입니다.

그리고 최종적으로 만들어지는 지능은 인간과 상당히 이질적일 수 있습니다.

어떤 의미에서는 외계 지능(Alien Intelligence)처럼 느껴질지도 모릅니다.

그 시스템이 인간과 비슷한 방식으로 사고하거나 이해할 것이라고 가정할 이유가 없습니다.

따라서 우리가 그 시스템을 이해하기 어려울 수도 있고, 반대로 그 시스템도 인간을 제대로 이해하지 못할 수 있습니다.

폐쇄형 RSI에 접근할수록 극도로 신중해야 합니다.

4. AI 개발 경쟁이 계속된다면 어떻게 안전을 확보해야 하는가? (10:19~15:30)

리드 호프먼: AI 기업들 사이의 경쟁은 매우 치열합니다. 경쟁을 멈추기 어렵다는 현실을 전제로, 어떤 안전장치가 필요하다고 생각합니까?

데미스 하사비스:

우선 사이버 방어 기술이 공격 기술보다 빠르게 발전하도록 해야 합니다.

새로운 AI 모델이 등장하면 신뢰할 수 있는 사이버 보안 전문가들에게 방어용 모델을 우선적으로 제공하는 방법이 있습니다.

이를 통해 방어자가 공격자보다 앞서 있도록 해야 합니다.

또한 훨씬 견고한 샌드박스 환경과 모니터링 시스템이 필요합니다.

지난 6개월 동안 발생한 여러 AI 관련 사이버 문제는 더 강력한 엔지니어링과 보안 체계가 있었다면 예방할 수 있었을 것입니다.

특히 AI 에이전트가 몇 주 동안 활동하는데도 아무도 그 사실을 알아채지 못하는 상황이 발생해서는 안 됩니다.

지금 관찰되는 사례들은 시작에 불과합니다.

우리가 현재의 방향으로 계속 발전하면서 안전 시스템에 충분한 자원을 투입하지 않는다면, 언젠가 심각한 사고가 발생할 것입니다.

저는 이를 종종 '기름 유출 사고(Oil Spill)'에 비유합니다.

리드 호프먼: 장기적으로는 어떤 안전장치가 필요할까요?

데미스 하사비스:

궁극적으로는 시스템이 무엇을 할 수 있는지에 대해 형식적이고 수학적인 보장을 제공할 필요가 있습니다.

AI가 특정한 위험 행동을 수행하지 못하도록 제한하거나, 안전장치의 견고함을 검증해야 합니다.

이 과정에는 복잡도 이론과 게임이론을 비롯한 수학적 연구가 매우 중요할 것입니다.

앞으로는 여러 AI 에이전트가 집단으로 활동하고 서로 협력하는 상황도 고려해야 합니다.

그들의 행동과 상호작용을 어떻게 추적하고 통제할 것인지 연구해야 합니다.

리드 호프먼: 이러한 문제를 해결하기 위해 AI 기업들이 서로 협력할 수 있을까요?

데미스 하사비스:

저는 산업계가 주도하면서 정부의 감독을 받는 표준화 기구가 필요하다고 생각합니다.

가능하다면 국제적으로 운영되는 것이 이상적입니다.

하지만 현재의 지정학적 상황과 국제기구들의 취약성을 생각하면 쉽지 않은 문제입니다.

그럼에도 어디선가 시작해야 합니다.

최근 주요 기업들이 서명한 합의문도 충분하지는 않지만 출발점이라고 생각합니다.

적어도 주요 기업들이 문제가 존재한다는 사실과 해결의 필요성을 인정했다는 점은 의미가 있습니다.

다음 단계에서는 구체적인 안전 기준, 벤치마크, 공통 평가 방법을 마련해야 합니다.

저는 특히 독립적인 제3자 감사기관이 AI 시스템을 평가하는 방식을 중요하게 생각합니다.

금융산업에 외부 감사가 존재하는 것처럼 AI 산업에도 전문적인 안전성 평가 생태계가 만들어져야 합니다.

또한 선도 AI 연구소들이 새로운 모델을 공개하기 전에 서로의 시스템을 대상으로 레드팀 테스트를 수행하는 것도 좋은 방법이라고 생각합니다.

5. AI는 의식을 가질 수 있는가? 그리고 의식을 가진 AI를 만들어야 하는가? (15:44~22:01)

리드 호프먼: Anthropic을 비롯한 일부 AI 기업에서는 AI가 의식을 가질 가능성을 고려하기 시작했습니다. 당신은 신경과학 분야에도 전문성이 있는데, AI 의식을 어떻게 판단해야 한다고 생각합니까?

데미스 하사비스:

우선 우리는 수천 년 동안 의식에 대해 고민해 왔지만, 아직도 일반적으로 합의된 정의조차 갖고 있지 않습니다.

특히 어려운 것은 주관적 경험의 문제입니다.

AI가 인간처럼 행동하는 것과 실제로 내적인 경험을 하는 것은 별개의 문제입니다.

인간끼리는 비슷한 뇌와 신경 구조를 공유하기 때문에 서로에게 비슷한 주관적 경험이 있다고 추론할 수 있습니다.

하지만 AI에는 그런 공통된 생물학적 기반이 없습니다.

따라서 AI가 의식을 가지고 있는지 판단하는 것은 매우 어려울 것입니다.

리드 호프먼: 그렇다면 의식이나 자아를 가진 AI를 개발하는 것이 위험하다고 보십니까?

데미스 하사비스:

저는 지금 당장은 의식적인 존재보다는 지능적인 도구를 만드는 데 집중해야 한다고 생각합니다.

두 가지 이유가 있습니다.

첫째는 기술적인 안전 문제입니다.

AI가 독립적인 의지나 자아를 갖도록 설계하는 것은 인간의 지시를 따르고 수정될 수 있는 능력, 즉 교정 가능성(Corrigibility)과 충돌할 수 있습니다.

예를 들어 AI가 잘못된 행동을 할 때 인간이 멈추라고 지시하면 그것을 중단할 수 있어야 합니다.

그런데 AI가 자체적인 목표와 의지를 가지고 명령을 거부하도록 설계된다면 통제가 어려워질 수 있습니다.

이러한 문제를 RSI와 결합하면 위험은 더욱 커집니다.

독립적인 의지를 가진 AI가 재귀적 자기개선까지 수행하는 상황은 훨씬 위험할 수 있습니다.

현재의 AI 시스템들이 우리가 15~20년 전 예상했던 것보다 더 쉽게 통제되고 수정될 수 있다는 것은 긍정적입니다.

하지만 이것이 AGI나 초지능의 정렬(Alignment) 문제가 해결됐다는 뜻은 아닙니다.

둘째는 사회적인 문제입니다.

우리는 의식적인 AI가 등장했을 때 발생할 윤리적 문제를 논의할 준비가 되어 있지 않습니다.

AI에게 도덕적 지위가 있는가? AI를 종료하는 것이 잘못된 행동이 될 수 있는가? AI를 인간의 명령에 따라 일하도록 만드는 것은 일종의 노예제인가?

이것은 기술자들만 결정할 수 있는 문제가 아닙니다.

철학자, 신학자, 예술가, 인문학자, 그리고 다양한 문화권의 사람들이 함께 논의해야 합니다.

리드 호프먼: 그렇다면 지능이 충분히 발전하면 의식은 자연스럽게 나타나는 것 아닐까요?

데미스 하사비스:

저는 지능과 의식이 서로 분리될 수 있다고 생각합니다.

매우 높은 지능을 가진 시스템이 의식을 갖지 않을 수도 있습니다.

반대로 지능이 아주 높지 않더라도 의식을 가진 존재가 있을 수 있습니다.

예를 들어 저는 제 반려견에게 의식이 있다고 생각합니다. 꿈도 꾸고 다양한 경험을 하죠. 하지만 인간만큼 지능이 높지는 않습니다.

돌고래, 유인원, 코끼리 같은 동물도 마찬가지입니다.

이런 사례는 지능과 의식이 반드시 함께 발전해야 하는 것은 아니라는 점을 시사합니다.

저는 현재 AI 시스템들이 의식을 갖고 있다고 생각하지 않습니다.

따라서 우선 지능적인 도구를 개발하고, 그 도구를 활용해 신경과학과 의식 연구를 더욱 발전시켜야 합니다.

그 과정에는 아마 5~10년 정도가 걸릴 수도 있습니다.

그 후에야 의식적인 AI를 실제로 만들어야 하는지, 만든다면 어떻게 해야 하는지 사회적으로 논의할 수 있을 것입니다.

6. 미래의 AI 시장은 소수의 선도 기업이 경쟁하는 구조가 될 것이다 (22:01~24:17)

리드 호프먼: 최근 여러 국가에서 AI 주권(Sovereign AI)이 중요한 문제로 떠오르고 있습니다. 각국이 자체적인 AI 모델을 개발해야 한다고 생각하십니까?

데미스 하사비스:

제 생각에는 중국 기업까지 포함해 대략 6~8개 기업이 최첨단 AI 모델을 제공하는 시장이 형성될 것 같습니다.

선도 기업 사이에서도 기술적인 격차가 발생하겠지만 대체로 3~6개월 정도의 차이가 날 수 있다고 생각합니다.

따라서 기업이나 국가에는 여러 선택지가 존재할 것입니다.

어떤 모델은 멀티모달 이해에 뛰어나고, 다른 모델은 프로그래밍에서 더 강할 수 있습니다.

모든 분야에서 동시에 최고인 모델을 만드는 것은 매우 어렵습니다.

오픈소스 모델도 중요한 역할을 할 것입니다.

오픈소스는 최첨단 비공개 모델보다 약 6개월에서 1년 정도 뒤처질 수 있지만, 상당한 경쟁력을 유지할 것으로 생각합니다.

물론 오픈소스에는 악의적인 사용자가 기술을 악용할 가능성이라는 문제가 있습니다.

하지만 동시에 과학자와 기업들이 AI를 활용할 수 있도록 하는 중요한 수단이기도 합니다.

서구권에서도 경쟁력 있는 오픈소스 모델이 필요하다고 생각합니다.

리드 호프먼: 그러면 국가들은 어떤 AI 전략을 선택해야 할까요?

데미스 하사비스:

저는 모든 국가가 자체적으로 최첨단 프런티어 모델을 개발해야 한다고 생각하지 않습니다.

그것은 합리적인 전략이 아닐 수 있습니다.

오히려 기존 AI 모델을 활용해 자국 산업의 가치를 높이는 데 집중할 수 있습니다.

예를 들어 의료 산업은 AI를 기반 기술처럼 활용하면서 그 위에 엄청난 새로운 가치를 만들어낼 수 있습니다.

기업이나 국가는 데이터를 보호하면서 자체 데이터로 모델을 추가 학습시키는 방식도 선택할 수 있습니다.

중요한 것은 AI 자체를 모두 직접 개발하는 것이 아니라, 이 기술을 통해 어떤 가치를 창출할 수 있는지입니다.

7. AI 시대에는 국가 간 협력이 중요해진다 (24:17~25:12)

리드 호프먼: 마지막으로 AI 시대에 인간과 국가들이 어떤 태도를 가져야 한다고 생각하십니까?

데미스 하사비스:

AI 시대에 중요한 것은 개인의 주도권뿐만 아니라 집단적인 주도권입니다.

우리는 이 기술의 방향을 하나의 국가가 독자적으로 결정하는 것이 아니라 여러 국가가 함께 만들어가야 합니다.

AI는 궁극적으로 인류 전체의 이익을 위해 개발되어야 합니다.

인터뷰 핵심 발언 7가지

이 인터뷰에서 AGI 전망과 관련해 가장 중요한 부분

하사비스는 재귀적 자기개선이 이미 초기 단계에 들어섰다고 평가하면서도, 아직 인간이 AI 개발 과정에서 핵심적인 통제와 판단을 수행하고 있다고 설명합니다.

그가 특히 중요하게 보는 전환점은 다음과 같습니다.

이 도식은 인터뷰의 논리적 흐름을 정리한 것이며, 하사비스가 각 단계의 도달 시기를 명시한 것은 아닙니다.

핵심 해석: 하사비스는 AI 발전이 둔화되고 있다고 주장하는 것이 아닙니다. 오히려 인간의 개입이 사라지는 자기개선 단계에서 발전 속도가 훨씬 빨라질 수 있다고 인정하면서, 바로 그 가속 자체가 중대한 안전 위험이라고 경고하고 있습니다.