인터뷰/예측
2026.3.20 Shane Gu×Shane Legg 일본 인터뷰
작성자
작성일
2026-06-21 22:26
조회
4
세인 레그 인터뷰 대담형 상세 정리
1. 도입: 왜 AGI를 추구하게 되었나
사회자:오늘 G1 Summit에 DeepMind 공동창업자인 세인 레그 박사를 모시게 되어 기쁘다. 그는 현실 세계 로보틱스와 AI를 연결해온 인물이고, AGI 논의의 선구자이기도 하다. 먼저 묻고 싶다. 박사님은 원래 어떻게 AGI라는 목표에 끌리게 되었나? 그리고 DeepMind 초기에 AGI를 정의했을 때와 비교하면, 어떤 기술적 장벽이 예상보다 어려웠고, 어떤 돌파구는 예상보다 빨랐나?
세인 레그:
내가 AGI에 본격적으로 관심을 갖게 된 결정적 순간은 2000년이었다. 그때 레이 커즈와일의 『The Age of Spiritual Machines』를 읽었다. 그 책은 시간이 지날수록 컴퓨팅 파워가 증가하고, 데이터 양도 늘어나며, 이런 흐름이 계속되면 매우 강력한 인공지능이 가능해질 것이라고 설명했다.
그 책을 읽고 나는 확신하게 되었다. 컴퓨팅 능력과 데이터의 증가가 앞으로 몇십 년 더 이어질 것이고, 그렇다면 2020년대와 2030년대에는 매우 강력한 AI가 가능해질 것이라고 봤다. 그래서 내 커리어를 그 예측에 걸기로 했다. 이후 스위스로 가서 인공지능 박사과정을 시작했다.
돌이켜보면 그 판단은 꽤 좋은 예측이었다. 실제로 지금 우리가 보는 AI 발전은 당시 내가 기대했던 방향과 상당히 맞아떨어지고 있다.
초기 DeepMind에서 AGI를 만들려고 할 때 가장 중요한 기술적 도전은 매우 큰 AI 모델, 특히 신경망이 추상 개념을 형성할 수 있느냐였다. 단순히 데이터를 외우는 게 아니라, 그 안에서 추상적 개념을 만들고, 그것을 바탕으로 이해하고 일반화할 수 있어야 했다.
그 점에서 가장 중요한 돌파구는 Transformer였다. Transformer는 구글에서 발명된 구조이고, 오늘날 모든 LLM 챗봇의 기반이 되었다. 이 구조는 수십억 개 이상의 파라미터로 확장될 수 있었고, 대규모 데이터 속에서 충분한 추상 개념을 형성할 수 있게 해주었다. 이것이 현재 AI 발전의 핵심적인 기술적 기반이었다.
반면 지금도 가장 큰 문제로 남아 있는 것은 continual learning, 즉 지속학습이다. 현재 AI는 문맥창 안에서 짧은 기간 동안은 어느 정도 배울 수 있지만, 인간처럼 몇 년에 걸쳐 계속 경험을 축적하고, 스스로 학습하며, 장기적으로 능력을 갱신하는 수준에는 아직 도달하지 못했다. 인간 수준으로 진짜 유용한 AI가 되려면 장기간 계속 학습할 수 있어야 한다. 우리는 아직 이 문제를 완전히 해결하지 못했다.
2. DeepMind는 어떻게 시작되었나
사회자:DeepMind를 창업한 과정도 궁금하다. 어떻게 시작하게 되었고, 왜 학계가 아니라 회사를 만들기로 했나? DeepMind는 이후 OpenAI와 Anthropic 같은 회사들이 뒤따르는 AI 역사의 선구자가 되었다.
세인 레그:
스위스에서 박사학위를 마친 뒤 나는 AI와 신경과학의 연결에 관심을 갖게 되었다. 그래서 런던 UCL의 Gatsby Unit으로 갔다. 그곳은 신경과학과 인공지능을 함께 연구하는 곳이었다.
그곳에서 데미스 허사비스를 만났다. 데미스와 나는 인공 일반지능이 10년에서 20년 안에 가능할 수 있다는 믿음을 공유했다. 처음에는 이것을 학계에서 해볼 수 있을지 생각했다. 하지만 곧 학계에서 하기에는 필요한 자원과 스케일이 너무 크다고 판단했다. 그래서 이것은 기업으로 해야 한다고 봤다.
솔직히 나는 조금 더 회의적이었다. 2009년이나 2010년에 AI 회사를 시작한다는 것은 매우 어려운 일이었다. 특히 AGI 회사를 한다고 하면 투자자들이 쉽게 믿지 않았다. 실제로 초기 자금 조달은 매우 힘들었다. 하지만 결국 미국에서 자금을 유치할 수 있었고, 그렇게 DeepMind가 시작되었다.
우리는 AI가 강력해지려면 몇 년이 걸릴 것이라는 점을 알고 있었다. 하지만 AI 물결이 오기 전에 먼저 시작하고 싶었다. 우리는 너무 일찍 시작한 셈이다. 일찍 시작하면 기회도 있지만, 투자받기는 훨씬 어렵다.
나중에는 구글에 회사를 팔아야 했다. 당시 우리는 여전히 작은 회사였고, 약 100명 정도 규모였다. 그런데 AI 분야가 빠르게 뜨기 시작했고, 대형 테크 회사들이 우리의 연구자들을 원했다. DeepMind에는 딥러닝 인재들이 많았기 때문이다. 독립적으로 계속 가려면 엄청난 자본이 필요했다. 그래서 구글과 결합하게 되었다.
흥미로운 점은 일론 머스크도 DeepMind 투자자 중 한 명이었다는 것이다. 그런데 DeepMind가 구글에 인수되면서 그는 더 이상 DeepMind 지분을 갖지 않게 되었고, 이후 경쟁자가 필요하다고 생각하게 되었다. 그 흐름에서 OpenAI가 등장했다. 그런 식으로 이후 여러 일이 이어졌다.
3. 초기 투자와 피터 틸 일화
사회자:창업자들이라면 누구나 초기 투자 유치가 얼마나 어려운지 안다. 영국에서는 자금을 많이 받지 못하고, 미국에서 받았다고 했는데, 구체적으로 어땠나?
세인 레그:
영국에서는 약 20만 달러 정도밖에 모으지 못했다. 대부분 데미스를 개인적으로 알고 있던 사람들이었다. 첫 번째 큰 투자자는 피터 틸이었다.
우리는 샌프란시스코에서 피터 틸을 만났다. 우리는 그에게 인공 일반지능 회사를 만들고 싶다고 말했다. 그는 여러 교수들에게 이 아이디어에 대해 물어봤다. 교수들은 대부분 “이건 끔찍한 아이디어다. 절대 투자하면 안 된다”고 했다.
그런데 피터 틸은 우리에게 다시 연락해서 말했다. “당신들은 똑똑해 보이고, 모두가 하지 말라는 일을 하고 있다. 그래서 투자해보겠다.” 그는 원래 반대 방향에 베팅하는 성향이 강한 사람이었다.
하지만 그 반대적 성향이 나중에는 문제도 되었다. 2013년쯤 AI가 뜨거운 분야가 되자, 우리는 DeepMind가 독립적으로 계속 가려면 큰 투자가 필요하다고 말했다. 그런데 그는 이제 AI가 너무 뜨거운 분야가 되었다고 생각했고, 오히려 흥미를 잃었다. 결국 그는 팔았다. 돌이켜보면 계속 보유했어야 했을 것이다.
4. AlphaGo 이전의 돌파구와 AlphaGo가 탄생한 배경
사회자:사업을 하다 보면 “이제 잘될 수 있겠다”고 느끼는 순간이 있다. DeepMind에서는 언제 그런 느낌을 받았나? 그리고 AlphaGo 이야기도 듣고 싶다.
세인 레그:
흥미로운 순간은 여러 번 있었다. 첫 번째 큰 돌파구는 DQN이 Atari 게임을 플레이한 것이었다. AI가 게임 화면과 점수만 보고 스스로 게임하는 법을 배웠다. 우리가 어떤 규칙을 따로 알려줄 필요가 없었다. 그것이 첫 번째 큰 성과였다.
그다음 AlphaGo가 나왔다. 데미스는 게임을 매우 좋아한다. 체스, 바둑, 포커, 컴퓨터 게임 등 거의 모든 게임을 좋아한다. 바둑은 당시 컴퓨터가 잘하지 못하는 대표적인 게임이었다. 체스나 체커 같은 게임은 이미 컴퓨터가 잘했지만, 바둑은 훨씬 복잡했다. 가능한 수가 너무 많고, 깊이가 매우 컸다.
그래서 데미스는 “가장 어려운 게임을 해보자”고 생각했다. 바둑이 바로 그런 게임이었다.
우리는 딥러닝 접근법이 충분히 성숙해지고 있다고 봤다. 기존 방식처럼 모든 가능성을 탐색하는 것은 바둑에서는 불가능했다. 경우의 수가 너무 많기 때문이다. 그래서 딥러닝을 이용해 현재 판세가 얼마나 좋은지 더 직관적으로 평가하고, 탐색할 만한 좋은 후보 수를 추천하게 했다.
여기에 자기 자신과 대국하면서 배우는 self-learning loop, 즉 자기학습 루프가 결합되었다. 자신이 둔 수에서 배우고, 실수를 통해 개선하는 방식이다. 이 조합이 AlphaGo의 돌파구로 이어졌다.
5. DeepMind의 사업모델과 구글 인수
사회자:창업자로서 나는 늘 현금흐름을 걱정한다. DeepMind는 AlphaGo 전까지 뚜렷한 비즈니스 모델이 있어 보이지 않았다. 어떻게 현금흐름을 해결했나? 그리고 DeepMind의 문화는 어땠나?
세인 레그:
구글에 인수되기 전에는 AI 연구자들이 지금처럼 비싸지 않았다. 지금은 상황이 많이 바뀌었다. 연구자들의 몸값도 매우 높아졌고, 컴퓨팅 비용도 엄청나게 커졌다.
이것이 우리가 구글에 가야 했던 이유 중 하나다. 우리는 이 분야가 점점 거대한 자본과 컴퓨팅을 요구하게 될 것이라는 것을 알고 있었다. 그래서 이를 감당할 수 있는 회사와 파트너가 되어야 했다.
구글과 함께하게 된 핵심 이유는 래리 페이지였다. 그는 처음부터 AI를 믿었다. 그는 구글의 미래가 AI 회사가 되는 것이라고 생각했다. 검색도 결국 지능적인 정보처리의 한 단계이고, 그 끝에는 인공지능이 있다고 본 것이다.
래리 페이지는 우리가 하려는 일을 강하게 믿었고, 구글의 재정적 힘을 활용해 AGI라는 미션을 추구할 수 있게 해주었다. 그래서 현금흐름 문제는 구글과의 결합을 통해 해결되었다.
6. 다른 패널의 발언: Gemini, VEO, 시각·공간 추론
사회자:최근 OpenAI와 Google 등에서 벌어지는 일 중 무엇이 흥미로운가? 그리고 세인 레그와 함께 일하는 것은 어떤 의미인가?
공동 패널:
나는 기술적으로 Gemini와 VEO 사이에 있는 프로젝트를 하고 있다. Gemini는 언어 모델이고, VEO는 비디오 생성 모델이다. 내가 6개월 전쯤 평가에 관한 논문을 썼는데, 세상의 모든 정보와 지능을 포착하려면, 특히 AGI를 생각하면 시각적·공간적 학습이 중요하다. 세인도 지속학습과 함께 이 부분에 동의할 것이다.
나는 Gemini와 VEO 사이의 reasoning 프로젝트를 공동으로 이끌고 있다. 모델링과 협업을 포함해 이런 것들이 작동하게 만드는 일을 하고 있다. 또 작은 팀으로 Gemini의 reasoning model, thinking model도 작업하고 있다. 코딩에서는 우리가 조금 뒤처져 있을 수 있지만, 빠르게 따라잡을 것이다.
내가 비즈니스 리더나 정책결정자들과 이야기하는 이유는 AGI가 단순히 기술자들만의 문제가 아니기 때문이다. AGI는 모든 분야의 최고의 지능을 이해해야 하는 문제다. 비즈니스 리더들이 어떻게 생각하는지, 미디어 리더들이 어떻게 생각하는지, 정책결정자들이 어떻게 생각하는지 듣는 것이 중요하다.
또 AGI 이후 사회를 준비해야 한다. AGI는 사회를 움직이는 인간 지능을 복제하는 것이기 때문에 모든 사회를 바꿀 것이다. 그래서 대화를 시작해야 한다. 그리고 AGI 이후 가장 가치 있는 자산은 결국 사람, 인간관계, 신뢰라고 생각한다. AI가 많은 코딩과 생산적 작업을 대체하더라도, 인간관계와 신뢰는 시간이 걸려 형성되는 고유한 자산이다.
7. 일본과 AI: 소비자에서 리더로 갈 수 있는가
사회자:일본은 고령화, 재난, 에너지 회복력 같은 문제에서 세계적 실험실로 여겨진다. 일본은 어떻게 AI 소비자에서 벗어나, 이런 현실 문제에 AI를 적용하는 리더가 될 수 있을까?
무라카미 패널:
일본은 여러 어려운 문제의 최전선에 있는 나라다. 고령화, 재난 회복, 적은 인구로 많은 일을 해야 하는 문제 등이 있다. AI는 이런 문제를 해결하는 데 큰 도움을 줄 수 있다.
나는 원래 자연어처리 연구자였기 때문에, 지금의 AI 기술에 큰 충격을 받았다. 통역과 번역도 매우 좋아졌다. 일본은 더 적은 사람으로 더 많은 일을 해야 하므로 AI의 지원이 중요하다.
다만 통계 모델 시대의 AI와 생성형 AI 시대의 AI는 다르다. 과거 통계 모델은 데이터에서 과거에 있었던 답을 뽑아내는 성격이 강했다. 하지만 생성형 AI는 이전에 없던 답을 생성한다. 이것은 좋은 점이자 위험한 점이다.
좋은 점은 AI가 새로운 세계를 만드는 데 도움을 줄 수 있다는 것이다. 하지만 나쁜 점은 AI가 우리가 기대하는 행동 범위 안에 머물도록 해야 한다는 것이다. AGI 시대의 AI는 인간처럼 행동할 수 있다. 인간 행동을 완전히 통제할 수 없는 것처럼, AGI도 완벽히 통제할 수 없다. 그래서 AI safety와 데이터 거버넌스를 계속 고민해야 한다.
8. AlphaGo와 현실 세계 AI의 안전성 차이
사회자:AlphaGo는 닫힌 환경의 게임에서 승리하는 문제였다. 하지만 오늘날 AI는 훨씬 넓고 복잡한 현실 문제를 다룬다. 이런 열린 환경에서 인간에게 이익이 되도록 하고 안전하게 만들려면 어떻게 해야 하나?
세인 레그:
이것은 매우 중요한 질문이다. 과거 AI 시스템은 특정한 하나의 일만 했다. AlphaGo는 바둑 수만 둘 수 있었다. 바둑 수를 두는 것에서 오는 위험은 매우 제한적이다.
하지만 AI가 점점 일반화되고 현실 세계의 많은 것들과 상호작용하기 시작하면, 문제가 되는 행동의 범위가 매우 넓어진다. 우리는 세상의 모든 가능한 상황에서 모든 행동을 테스트할 수 없다. 그것은 불가능하다.
그래서 다른 접근이 필요하다.
우선 모델의 robustness, 즉 견고성을 확인해야 한다. 모델이 세상을 제대로 이해하고 있는지 봐야 한다. 또 적대적 상황에서 테스트해야 한다. 일부러 모델이 나쁘게 행동하도록 유도해보고, 그래도 적절한 행동을 유지할 수 있는지 확인해야 한다.
또 interpretability, 즉 해석가능성이 중요하다. 모델 내부에서 무슨 일이 벌어지는지 들여다봐야 한다. 모델이 말하고 행동하는 것과 내부에서 실제로 처리되는 내용이 일치하는지 봐야 한다. 사람의 말만 듣는 것이 아니라, 머릿속을 들여다보고 생각이 일관적인지 확인하는 것과 비슷하다.
그리고 배포 이후에는 monitoring이 필요하다. AI가 현실 세계에서 행동할 때, 다른 시스템이 그것을 관찰하고 문제 행동을 빠르게 감지할 수 있어야 한다.
또 하나 중요한 것은 AI 시스템의 constitution, 즉 일종의 헌법이다. AI가 어떤 가치와 선호, 사회적 규범을 가져야 하는지 적어주는 원칙 체계가 필요하다.
여기에는 어려운 철학적·윤리적 문제가 있다. 어떤 행동은 법 때문에 금지되어야 한다. 어떤 행동은 비윤리적이기 때문에 피해야 한다. 어떤 행동은 문화에 따라 다를 수 있다. 일본에서는 이렇게 행동해야 하지만 다른 나라에서는 다르게 행동해야 할 수도 있다. 기업 입장에서는 브랜드에 맞지 않는 행동을 제한하고 싶을 수도 있다.
따라서 AI의 가치와 행동 원칙을 어떻게 정할 것인가는 정부, 사회, 철학자, 윤리학자, 기업이 함께 고민해야 할 문제다.
9. AGI라는 단어를 만든 사람으로서, 지금 우리는 AGI에 얼마나 가까운가
사회자:검색해보면 박사님은 AGI라는 개념을 만든 사람으로 나온다. 실제로 AGI라는 단어를 만든 것인가? 그리고 우리는 AGI에 얼마나 가까운가? AGI에 도달하면 그 다음에는 무슨 일이 벌어지는가?
세인 레그:
나는 2002년에 AGI라는 용어를 제안했다. 당시 AI 연구는 매우 구체적인 문제를 다루는 경우가 많았다. 나는 오래된 꿈, 즉 다양한 일을 할 수 있는 일반적인 사고 기계를 가리킬 용어가 필요하다고 생각했다. 그래서 AGI라는 표현을 제안했다.
지금은 AGI에 대한 정의가 너무 많다. 그래서 혼란이 생긴다. 어떤 사람은 이미 AGI가 왔다고 하고, 어떤 사람은 2년 뒤라고 하고, 어떤 사람은 20년 뒤라고 한다. 하지만 서로 다른 정의를 쓰고 있기 때문에 혼란스럽다.
그래서 나는 최근 minimal AGI라는 표현을 쓴다. 내가 AGI라고 부르기 위해 필요한 최소 조건이라는 뜻이다.
minimal AGI는 AI가 보통 인간이 일반적으로 할 수 있는 모든 인지적 일을 할 수 있는 상태다. 어떤 영역에서는 인간보다 더 잘할 수도 있다. 하지만 적어도 보통 인간의 인지능력보다 아래에 있는 영역이 없어야 한다. 인간에게 일반지능이 있다고 말하듯이, 그 수준에 도달하면 AI에도 일반지능이 있다고 말할 수 있다.
몇 년 전만 해도 우리는 그 수준에서 매우 멀리 있었다. 그런데 최근 Claude, ChatGPT, Gemini 같은 AI 시스템들이 일반적인 인간이 할 수 있는 많은 인지적 일에 점점 가까워지고 있다. 물론 전문가 수준이 아니라, 일반적 인간 수준을 말하는 것이다.
아직 약점이 있다. 하나는 시각 이해다. 또 하나는 내가 앞서 말한 지속학습이다. AI는 아직 인간처럼 오랜 기간 계속 배우는 능력이 부족하다. 이것이 AI 능력을 크게 제한한다.
하지만 나는 앞으로 2년 안에 인간 수준의 지속학습과 시각 이해에 도달할 확률이 50% 정도라고 본다. 빠르면 1년일 수도 있고, 늦으면 3년, 4년, 5년이 걸릴 수도 있다. 하지만 5년보다 더 오래 걸린다면 나는 놀랄 것이다.
그렇다고 minimal AGI가 온 순간 세상이 하룻밤 사이에 완전히 바뀌지는 않는다. AI가 보통 인간이 할 수 있는 인지적 일을 한다는 뜻이지, 보통 사람이 양자이론의 후속 이론을 발명할 수 있는 것은 아니기 때문이다.
중요한 점은 AI 능력이 매우 jagged, 즉 들쭉날쭉하다는 것이다. 예를 들어 Gemini는 이미 150개 언어를 말할 수 있다. 언어 능력과 일반 세계지식에서는 이미 인간 평균을 넘어선다. 수학에서도 국제 수학대회 수준이나 일부 연구수학 수준에 이르는 경우가 있다.
하지만 어떤 영역에서는 아직 보통 인간보다 못하다. 그래서 minimal AGI에 도달한다는 것은 AI가 더 이상 인간이라면 하지 않을 이상한 실패를 하지 않는 수준의 견고성을 갖게 된다는 뜻이다. 그리고 산업 혁명은 특정 분야에서 AI가 전문가 수준이나 초인간 수준에 도달할 때 일어날 것이다.
10. AI 멸종 위험 서명과 세인 레그의 걱정
사회자:박사님은 AI가 인류 멸종 위험을 초래할 수 있다는 취지의 서명에 참여했다. 왜 그런 입장을 갖게 되었나? 무엇이 걱정되나?
세인 레그:
분명히 말하자면, 나는 앞으로 몇 년 동안의 AI에 대해 지나치게 걱정하지는 않는다. minimal AGI에 도달하더라도 당장 극단적인 위험이 생긴다고 보지는 않는다.
물론 강력한 기술에는 항상 오용 가능성이 있다. 어떤 사람들은 AI를 사이버 공격에 사용할 것이고, 범죄 활동에 사용할 것이고, 여러 나쁜 일에 사용할 것이다. 동시에 다른 사람들은 의료 연구, 과학 문제 해결, 사회 문제 해결에 사용할 것이다. 강력한 기술은 항상 이런 양면성을 가진다. 그래서 사회가 주의를 기울이고, 적절한 규칙과 규제를 만들어야 한다.
더 극단적인 위험은 미래에 AI가 매우 지능적이고, 초인간적으로 지능적인 존재가 될 때의 문제다. 인간 수준의 지능을 가진 AI를 안전하고 윤리적이고 신뢰할 수 있게 만드는 방법은 알 수 있을지도 모른다. 하지만 인간보다 훨씬 뛰어난 지능을 가진 시스템에 대해서도 그 방법을 아는가? 현재 우리는 답을 모른다. 그래서 위험 요소가 있다.
내 희망은 우리가 minimal AGI에 가까워지면서 이 시스템들을 인간 가치에 잘 정렬시키는 방법도 매우 잘 알게 되는 것이다. 실제로 지금은 정렬이 점점 나아지고 있다. 몇 년 전 사람들이 걱정했던 것보다 긍정적인 방향으로 가고 있다고 본다.
이 추세가 계속된다면 미래에는 초인간적 AI가 초인간적으로 윤리적이고 책임 있는 존재가 될 수도 있다. 그러면 우리는 엄청난 능력을 가진 동시에, 대부분의 인간보다 더 일관되게 윤리적인 AI와 함께 사는 좋은 세계를 가질 수 있다. 그것이 이상적인 미래다.
하지만 아직은 너무 먼 미래이고, 우리가 모든 답을 아는 것은 아니다. 그래서 위험은 남아 있다.
11. 교육은 어떻게 바뀔 것인가
사회자:나는 비즈니스 스쿨을 운영하고 있다. AI 시대에는 교육이 바뀔 것이라는 말이 많다. 필요한 스킬셋도 달라질 것이다. 학교는 어떻게 바뀌어야 한다고 보는가? 자녀나 손주가 있다면 어떻게 교육받기를 원하는가?
세인 레그:
좋은 질문이고 어려운 질문이다. 변화가 매우 많을 것이기 때문이다.
사회의 여러 영역을 생각해보자. 법, 회계, 금융, 교육, 문학, 의학, 수학, 대학의 거의 모든 학과에서 인간 지능이 중요하다. 그런데 값싸고 빠른 기계지능이 풍부해지면 이 모든 영역이 변한다. 법이 변하고, 경제가 변하고, 교육도 변한다.
교육에서 가장 큰 가능성 중 하나는 개인화된 튜터링이다. 예를 들어 내가 일본어를 배우고 싶다면, 꼭 일본인 선생님이 옆에 있을 필요가 없다. AI가 나와 대화하면서 일본어를 가르칠 수 있다. AI는 150개 언어를 알고 있고, 내가 무엇을 이해하고 무엇을 어려워하는지 파악할 수 있다. 발음, 문법, 개념 이해 등에서 내가 약한 부분에 맞춰 학습을 조정할 수 있다.
수학, 미적분, 프로그래밍 언어도 마찬가지다. 교육의 가능성은 엄청나다. 지금은 부유한 가정의 아이들이 개인 과외를 받을 수 있다. 하지만 미래에는 AI 덕분에 훨씬 더 많은 아이들이 저렴하게 개인 맞춤형 교육을 받을 수 있다.
하지만 또 다른 질문도 있다. 지금까지 교육은 문화적 풍요와 사고 확장을 위한 목적도 있었지만, 동시에 직업을 얻고 생계를 유지하기 위한 실용적 목적도 컸다. 그런데 미래에 AI가 많은 인지 노동을 잘하게 되면, 소프트웨어 엔지니어링이나 수학을 배우는 경제적 가치가 달라질 수 있다. AI가 회계, 금융, 세법, 이민법, 수학 등 많은 일을 하게 될 수 있기 때문이다.
따라서 우리는 교육의 우선순위와 목적 자체를 다시 생각해야 한다. 기계지능이 풍부한 사회에서 교육은 무엇을 위한 것인가? 이 질문이 중요해질 것이다.
12. 왜 AI 능력은 들쭉날쭉한가
공동 패널:세인 레그가 말한 AI 능력의 jaggedness, 즉 들쭉날쭉함에 대해 덧붙이고 싶다. 기술 발전 속도를 결정하는 요인은 두 가지다.
하나는 그 기술을 만드는 것이 얼마나 어려운가다. 어떤 영역은 데이터가 부족할 수 있고, 좋은 아키텍처가 없을 수 있고, GPU나 TPU 같은 하드웨어가 충분하지 않을 수 있다. 그래서 어렵다.
다른 하나는 그 기술이 얼마나 큰 경제적 가치를 가져오는가다. 이 두 축이 발전 속도를 결정한다.
예를 들어 시각 추론에서는 아직 약한 부분이 있다. 어떤 최근 벤치마크에서는 최고 모델이 Gemini였지만, 그래도 어린아이 수준의 시각 이해보다 못한 사례가 있다. 반면 같은 모델이 Google DeepMind, OpenAI 등의 최고의 소프트웨어 엔지니어보다 더 나은 경우도 있다. 이것이 AI 능력이 들쭉날쭉한 이유다.
13. AGI 자체가 위험한가, 인간의 사용이 위험한가
무라카미 패널:AGI 안전과 위험에 대해 하나 덧붙이고 싶다. 나는 세계경제포럼의 AGI 관련 위원회에서도 논의했는데, 결론은 AGI 자체가 위험이라기보다는, 인간이 AI를 어떻게 사용하느냐가 위험이라는 것이다.
기술은 항상 중립적이다. 인간이 좋은 방식으로 사용하면 좋은 것이 되고, 나쁜 방식으로 사용하면 나쁜 것이 된다. 그러므로 AGI 자체가 위험이라기보다, AGI를 어떻게 다루고, 어떻게 사용하고, 어떻게 함께 살아갈지가 중요하다.
세인 레그:
나도 하나 더 추가하고 싶다. AGI가 오고, 많은 인지 노동을 할 수 있게 되고, 로보틱스까지 결합될 수 있다면 사회에 큰 혼란이 생길 수 있다. 이것은 정치적·사회적 불안정의 위험이다.
정부는 이 변화를 관리해야 한다. 새로운 기술을 받아들이지 않으면 뒤처진다. 엄청난 생산성 향상을 놓치게 된다. 하지만 동시에 변화가 너무 크기 때문에 사회가 적응할 수 있도록 관리해야 한다. 그렇지 않으면 여러 문제가 생길 수 있다.
그래서 나는 이런 사회적·정치적 위험도 매우 중요하다고 본다.
14. 일본 정부는 무엇을 해야 하는가
사회자:여기에는 정치인들도 많다. 일본 정부가 AI와 관련해서 무엇을 해야 한다고 조언하겠나?
세인 레그:
정부의 역할은 매우 중요하다. 이 기술은 특정 산업이나 특정 응용에만 국한된 기술이 아니다. 사회 전체를 변형시키는 기술이다. 따라서 국민을 대표하는 정부가 이 변화를 이끌 책임이 있다.
기업들도 책임 있게 행동하려고 하겠지만, 궁극적으로는 선출된 정부가 국민을 대표한다. 그래서 정부가 매우 중요한 역할을 해야 한다.
지금 가장 중요한 변화는 정신적 태도의 변화다. 강력한 인공지능은 더 이상 흥미로운 아이디어나 개념적 가능성이 아니다. 그것은 이미 오늘 현실로 나타나고 있고, 앞으로 몇 년 동안 계속 전개될 것이다. 이것이 지금 오고 있다는 사실을 진지하게 받아들여야 한다.
그렇게 받아들인다면, 안전 연구기관을 강하게 지원해야 한다. AI에 대해 진지하게 논의하는 포럼도 있어야 한다. 고용 변화에 어떻게 대응할 것인지, 국가 전략에 어떤 영향을 줄 것인지, 어떤 조직을 만들어야 할지, 핵심 개발자들과 어떻게 상호작용해야 할지, 일본 안에서 무엇을 해야 하고 신뢰할 수 있는 국가들과 무엇을 협력해야 할지 논의해야 한다.
이 모든 질문을 지금부터 진지하게 다뤄야 한다. 그래야 AI가 계속 전개될 때 일본이 그 혜택을 제대로 얻을 수 있다.
15. minimal AGI 이후 경쟁 구도
질문자:나는 벤처캐피털리스트다. minimal AGI 이후 비즈니스와 경쟁 구도는 어떻게 변할까? AGI들 사이의 경쟁, 애플리케이션 레이어의 경쟁, 수직통합은 어떻게 될까?
세인 레그:
프런티어 모델 개발자는 앞으로도 많지 않을 것이다. 특히 중국 같은 곳에서도 플레이어들이 나오겠지만, 전 세계적으로 최전선에 있는 frontier lab의 수는 당분간 많아지기 어렵다. 비용이 너무 높기 때문이다.
최전선에서 경쟁하려면 매년 수십억 달러를 써야 한다. 그런 일을 100개 회사가 동시에 하는 것은 경제적으로 말이 안 된다. 그래서 현재는 OpenAI, Anthropic, Google DeepMind 정도가 진짜 프런티어에 있다고 볼 수 있다. 앞으로 5개가 될 수도 있고, 10개가 될 수도 있지만, 100개는 아닐 것이다. 만약 너무 많아지면 서로 합병해서 자원을 합칠 것이다.
다만 한 세대 뒤처진 모델을 쓰는 것은 훨씬 저렴해질 수 있다. 컴퓨팅 비용도 낮아지고, 알고리즘 효율도 매년 좋아진다. 6개월이나 1년 뒤처진 수준이면 훨씬 싸게 사용할 수 있다.
또 경쟁이 치열하기 때문에 프런티어 모델 접근 가격도 현재는 상당히 낮다. 회사들이 시장점유율을 얻기 위해 경쟁하고 있기 때문이다. 모델 접근 비용은 개발 고정비 전체보다는 실제 배포의 한계비용에 가까워지고 있다. 물론 미래에 발전 속도가 느려지면 경쟁 구조가 달라질 수 있다.
16. 양자컴퓨팅은 AI에 얼마나 중요한가
질문자:양자컴퓨팅이 예상보다 빨리 오고 있다는 말을 들었다. IBM 연구소에서도 초기 프로토타입이 나오고, 2028년쯤 은행 산업에 영향을 줄 수 있다고 하더라. 양자컴퓨팅의 발전은 AI에 어떤 영향을 줄까?
세인 레그:
개인적인 견해로는, 양자컴퓨팅은 대부분의 영역에서 그렇게 중요하지 않을 가능성이 크다.
양자컴퓨팅을 공부해보면, 대부분의 일반 알고리즘을 양자컴퓨터에서 그대로 실행할 수 없다. 양자 알고리즘은 잘못된 답들이 서로 상쇄되고 올바른 답이 남도록 매우 영리하게 설계해야 한다. 이것은 매우 어렵다.
양자컴퓨팅이 할 수 있는 몇 가지 특정한 일이 있다. 예를 들어 큰 수의 소인수분해는 일부 암호체계를 깨는 데 사용될 수 있다. 그런 일이 벌어지면 여러 암호체계가 깨질 수 있다. 하지만 사람들은 양자공격에 취약하지 않은 암호체계로 옮겨갈 것이다.
또 다른 예로 테이블 조회 같은 작업이 있지만, 이미 고전 컴퓨터에서도 이진트리 인덱싱 같은 방식으로 매우 빠르게 처리된다. 그래서 양자컴퓨팅으로 복잡도를 더 낮추는 것이 실제로는 큰 차이를 만들지 않을 수 있다.
내가 양자컴퓨팅이 정말 중요할 수 있다고 보는 분야는 재료과학이다. 분자 상호작용은 양자적 성격을 가지기 때문에, 양자컴퓨터가 고전컴퓨터보다 훨씬 효과적으로 탐색할 수 있다. 재료과학에서는 중요한 혁신이 될 수 있다.
하지만 대부분의 다른 분야에서는 그렇게 큰 영향을 주지 않을 수 있다. 그리고 앞으로 몇 년 동안은 고전적 컴퓨팅이 엄청나게 증가할 것이기 때문에, 그것만으로도 놀라운 결과가 나올 것이다.
17. 개발도상국의 빅테크 의존 문제와 일본의 역할
질문자:개발도상국과 이야기하다 보면, 미국이나 중국의 거대 기술기업에 너무 의존하게 되는 것에 대한 우려가 크다. 일본 산업의 어떤 제품이나 서비스가 이런 의존을 줄이는 데 도움이 될 수 있을까?
공동 패널:
한 줄로 답하면, 특히 로보틱스 영역에서는 미국과 유럽만으로는 중국과 경쟁하기 어렵다고 본다. 제조 공급망 전체가 중요하기 때문이다. 서방이 physical AI에서 중국과 경쟁하려면 일본 같은 나라가 반드시 필요하다. 일본은 거의 유일하게 그런 역할을 할 수 있는 동맹국이라고 생각한다.
18. 인간이 AI에 제약을 거는 것이 AGI·ASI의 최대 장벽인가
질문자:일부 전문가들은 AGI나 ASI 실현의 가장 큰 장벽은 인간이 AI에 부여하는 여러 제약이라고 말한다. 이 주장에 대해 어떻게 생각하나? 우리는 어떻게 해야 하나?
세인 레그:
전사본에서는 이 질문에 대한 직접 답변이 길게 나오지는 않는다. 다만 전체 맥락상 세인 레그의 입장은, AI에 아무 제약도 주지 말자는 쪽은 아니다. 오히려 그는 AI가 현실 세계에서 폭넓게 행동할수록 안전성, 견고성, 해석가능성, 모니터링, constitution이 필요하다고 본다.
즉 인간이 부여하는 제약이 발전을 늦출 수는 있지만, 강력한 AI가 사회 전체에 영향을 미치는 기술인 이상, 제약과 규범 설계는 피할 수 없는 문제라고 보는 쪽에 가깝다.
19. Anthropic과 미국 정부·국방부의 관계
질문자:최근 Anthropic과 미국 정부, 특히 국방부 사이의 상호작용을 어떻게 보는가? 그 함의는 무엇인가?
세인 레그:
우리는 큰 관심을 갖고 지켜보고 있다. 앞서 말했듯이 어느 시점이 되면 정부들은 이 기술에 관심을 갖게 된다. AI는 사회 변혁에 매우 중요한 기술이고, 전략적으로도 중요하며, 군사, 금융, 의학 등 거의 모든 영역에 중요하기 때문이다.
그래서 정부와 군이 점점 더 관심을 갖게 되는 것은 예상 가능한 일이다. 이것은 매우 강력하고 범용적인 기술의 현실이다.
다만 우리는 이 문제에 적극적으로 관여하고 있지는 않다. 현재로서는 Anthropic과 미국 정부 사이의 일이다. 우리는 관심 있게 지켜보고 있다.
20. Human-centric AI와 human-in-the-loop
질문자:AGI 시대에 human-centric AI 또는 human-in-the-loop에서 가장 중요한 것은 무엇인가? EU AI Act처럼 사전에 설계하려는 접근이 실패하고 있는 것처럼 보이기도 한다. 법과 정부는 무엇을 해야 하나?
무라카미 패널:
인간을 어떻게 포함시킬 것인가는 매우 중요한 주제다. 인간이 AI를 오용할 수 있기 때문이다. 모든 질문과 관련된 문제이기도 하다. 우리는 첨단기술과 관련된 문제를 어떻게 다룰지 계속 생각해야 한다.
전사본상 이 부분은 시간이 부족해서 짧게만 답변된다. 하지만 전체 대담의 흐름을 보면, 핵심은 인간이 통제권을 형식적으로 갖는 것만으로는 부족하고, 안전기관, 법, 윤리, 모니터링, 사회적 합의가 함께 필요하다는 방향이다.
21. 마지막 메시지: 일본 지도자들에게 하고 싶은 말
사회자:마지막으로 일본의 리더들에게 한마디씩 해달라.
공동 패널:
일본은 AI 시대를 맞이하는 데 매우 독특하게 기여할 수 있다. 우리는 함께 일하기를 기대한다.
무라카미 패널:
일본 정부에 말하고 싶은 것은 AI sovereignty를 너무 좁게 생각하지 말라는 것이다. 일본만의 기술, 일본 안에서만의 기술이라는 식으로 제한해서 생각해서는 안 된다. 더 글로벌하게 생각해야 한다. 일본만 생각하는 것이 아니라, 세계 속에서 일본의 역할을 봐야 한다.
세인 레그:
나도 두 사람의 말에 동의한다. 나는 전 세계에서 앞으로 올 일을 제대로 보고, 그것을 진지하게 받아들이고, 사회 전체가 구조적이고 계획적으로 대응할 수 있는 곳을 찾고 있다.
일본은 그런 능력을 가진 나라일 수 있다. 그래서 나는 일본의 비즈니스 리더와 정부 리더들이 이 기술이 매우 강력하며 일본을 변화시킬 것이라는 생각에 열려 있는지 보러 왔다.
일본은 지금부터 AI가 가져올 여러 측면을 진지하게 생각해야 한다. 그렇게 제대로 준비한다면 일본은 다른 나라의 모델이 될 수 있다.
다른 나라들이 나중에 “우리는 AI가 이렇게 올 줄 몰랐다. 이제 어떻게 해야 하지?”라고 할 때, 그들은 일본을 볼 수 있다. “일본은 좋은 계획을 갖고 있고, 올바른 정책과 조치를 마련하고 있다. 일본이 어떻게 생각하는지 배워야겠다”고 말할 수 있다.
내 꿈은 일본이 이 변화를 정말로 받아들이고, 다른 나라들의 롤모델이 되는 것이다.
전체 핵심 요약
이 인터뷰에서 세인 레그는 매우 짧은 AGI 타임라인을 제시한다. 그는 지속학습과 시각 이해가 해결되면 minimal AGI에 도달할 수 있으며, 그 가능성이 2년 안에 50% 정도 있다고 본다. 다만 AGI가 온다고 해서 세상이 하루아침에 완전히 바뀌는 것은 아니고, 산업별로 AI가 전문가·초인간 수준에 도달하는 영역부터 혁명이 일어날 것이라고 본다.그는 AI 발전에 낙관적이지만 무책임한 낙관론자는 아니다. 안전성, 정렬, 해석가능성, 모니터링, AI의 constitution, 정부의 역할, 교육 변화, 사회적 불안정까지 모두 중요하게 본다.
가장 중요한 메시지는 이거야.
AGI는 더 이상 먼 미래의 철학적 가능성이 아니라, 지금 전개되고 있는 현실이다. 정부와 사회는 AI를 단순한 산업기술이 아니라 사회 전체를 바꾸는 범용 지능 인프라로 보고 지금부터 준비해야 한다.
전체 0