인터뷰/예측
제이콥 콕슨 "2028년 말까지 인지 노동의 약 80%가 자동화될 것"
작성자
작성일
2026-11-20 21:02
조회
42
YC 공개 토론: 제이콥 vs. 로빈 핸슨 — AI 개발 속도를 늦춰야 하는가?
Y Combinator 공개 토론 · 약 65분 · 제공된 자막을 바탕으로 재구성이번 토론의 핵심은 2027~2028년에 초인간적 AI가 등장할 가능성이 얼마나 높은지, 그리고 그 위험을 막기 위해 정부가 프런티어 AI 개발에 개입해야 하는지입니다.
원문의 대화 흐름을 유지하면서 반복되는 발언은 줄이고, 양측의 주장과 반박을 인터뷰·토론 형식으로 자연스럽게 정리했습니다. 등장하는 수치와 미래 전망은 발언자의 주장이지, 검증된 사실을 의미하지는 않습니다.
로빈 핸슨 (Robin Hanson)
경제학자 · 조지메이슨대학교
AI 개발의 대폭적인 감속에 반대
AI의 실제 경제적 확산은 느릴 것이며, 광범위한 사전 규제보다 책임보험과 구체적인 피해에 대응하는 제도가 효과적이라고 주장합니다.
제이콥 (Jacob)
전 앤트로픽 연구원 · AI 위험을 우려하는 입장
정부의 실질적인 AI 개발 감속에 찬성
2027년 AI 연구 자동화와 2028년 초지능 출현을 예상하며, 기업의 자율적인 안전 대책만으로는 위험을 통제할 수 없다고 주장합니다.
2. 모두발언: 초지능은 얼마나 가까이 왔는가?
02:44–15:43사회자: 오늘의 논제는 정부가 프런티어 AI 개발 속도를 실질적으로 늦춰야 하는가입니다. 먼저 제이콥의 입장을 듣겠습니다.
제이콥: 제 주장은 세 가지입니다.
첫째, 우리는 앞으로 2년 이내에 초지능 AI를 개발할 가능성이 높습니다. 둘째, 그 AI의 목표와 행동을 어떻게 통제해야 하는지 아직 충분히 알지 못합니다. 셋째, 현재의 기업 경쟁 구조에서는 이러한 위험을 진지하게 해결할 유인이 부족합니다.
저는 2027년에 인간보다 뛰어난 AI 연구원이 등장하고, 2028년 말에는 광범위한 분야에서 인간보다 뛰어난 초지능 시스템이 등장할 것이라고 예상합니다.
사회자: 2027년이라는 구체적인 시점을 예상하는 근거는 무엇인가요?
제이콥: 이미 연구 현장에서 강력한 신호가 나타나고 있습니다.
앤트로픽에서는 AI가 연구개발 업무의 약 25%를 수행하고 있다고 합니다. 이 비중의 증가 추세를 연장하면 2027년 후반에는 AI가 거의 모든 연구를 수행하는 상황에 도달할 수 있습니다.
연구자들이 보고하는 AI 활용 속도 향상도 현재 약 4~5배 수준이며, 대략 3개월마다 두 배로 증가하고 있다는 이야기가 있습니다. 이 추세가 이어지면 2027년에는 100배 수준에 도달할 수도 있습니다.
100배의 생산성 향상은 사실상 AI 연구원이 자동화되는 것과 비슷합니다.
사회자: AI 연구가 자동화되면 다른 분야도 빠르게 자동화될까요?
제이콥: 그렇습니다. AI가 스스로 AI를 연구하고 개선할 수 있게 된다면 발전 속도는 폭발적으로 빨라질 겁니다.
예를 들어 2027년 중반부터 2028년 중반까지 단 1년 동안 기존 인간 연구자들이 10년에 걸쳐 수행했을 연구를 압축할 수 있습니다.
일반지능이 향상될수록 새로운 일을 배우는 데 필요한 데이터도 줄어듭니다. 현재는 생물학이나 복잡한 전문 업무를 학습시키려면 방대한 데이터가 필요하지만, 훨씬 똑똑한 AI는 적은 데이터만으로도 배울 수 있을 겁니다.
그러면 단순히 프로그래머뿐 아니라 CEO의 업무까지 자동화될 수 있습니다. 2028년의 소프트웨어 회사에서는 인간이 직접 회사를 운영하는 것보다 AI 에이전트에게 운영을 맡기는 편이 나을 수 있습니다.
사회자: 로빈은 이러한 전망에 동의하시나요?
로빈: 저는 근본적인 전제부터 의심스럽습니다.
우리는 추상적인 사고를 좋아하지만, 추상화 과정에서 중요한 세부 사항이 사라진다는 사실을 자주 잊습니다.
제이콥은 지능을 거의 하나의 숫자로 생각하는 것 같습니다. AI의 지능이 높아지면 모든 능력이 동시에 향상되고, 결국 세상의 모든 문제가 해결된다는 식이죠.
하지만 실제 경제는 훨씬 복잡합니다.
증기기관, 전기, 개인용 컴퓨터 같은 범용기술이 등장했을 때도 사람들은 사회가 매우 빠르게 변할 것으로 예상했습니다. 그러나 실제 경제적 효과가 나타나기까지는 수십 년이 걸렸습니다.
기업 조직과 생산 방식, 사람들의 행동, 기존 인프라까지 바뀌어야 했기 때문입니다.
제이콥: 하지만 이번에는 기술이 다르지 않을까요? AI는 스스로 문서를 읽고, 소프트웨어를 설치하고, 필요한 업무 환경에 통합될 수 있습니다.
로빈: 앤트로픽에서 AI가 코드를 잘 작성한다는 사실과 전체 경제를 자동화할 수 있다는 것은 전혀 다른 문제입니다.
프로그래밍과 수학처럼 결과를 검증하기 쉬운 분야에서는 성과가 빠르게 나타나고 있습니다. 그러나 대부분의 직업에서는 특정 조직이나 환경에서 오랫동안 경험을 쌓아야 합니다.
AI가 똑똑하다는 이유만으로 그 경험을 자동으로 획득하는 것은 아닙니다.
3. AI가 스스로를 개선하면 폭발적인 발전이 일어날까?
16:09–24:28제이콥: 저는 일반지능이라는 개념이 실제로 존재한다고 생각합니다.
지난 몇 년 동안 언어모델의 일반적인 능력이 향상될수록 수학, 프로그래밍, 추론, 창작 등 다양한 분야의 성능이 함께 향상되는 현상을 확인했습니다.
예전 모델에서는 사용자의 의도를 섬세하게 이해하는 능력이 부족했지만, 지금은 상당히 발전했습니다.
이러한 일반지능이 더욱 향상되면 기존에 자동화하기 어려웠던 일까지 해결할 수 있게 됩니다.
로빈: 하지만 그 과정에서 수확체감이 나타날 수 있습니다.
최근에는 AI 연구에 투입하는 자원을 빠르게 늘려도 그에 비례해 성과가 증가하지 않는다는 지적이 나오고 있습니다.
저는 오래전에도 AI 연구를 했습니다. 당시에도 곧 AI 혁명이 모든 것을 바꿀 것이라는 분위기가 있었습니다. 저도 그 말을 믿었지만 결국 기대했던 변화는 나타나지 않았습니다.
이번 AI 붐 역시 비슷한 한계에 직면할 가능성을 배제해서는 안 됩니다.
제이콥: 저는 이번 상황이 과거와 근본적으로 다르다고 봅니다. 과거에는 AI가 직접 AI 연구를 수행하지 못했습니다.
하지만 이제 연구 자체가 자동화되고 있습니다.
일단 AI가 더 뛰어난 AI를 만들 수 있는 수준에 도달하면 기존의 기술 발전 속도를 근거로 미래를 예측하기 어려워집니다.
로빈: 그렇다고 해서 무한히 빠른 자기개선이 가능하다는 뜻은 아닙니다.
더 높은 지능을 가진 시스템도 특정 분야의 세부적인 지식을 학습하고 현실에 적용해야 합니다.
AI가 스스로를 개선한다는 하나의 추상적인 개념만으로 모든 물리적·경제적 병목이 사라진다고 생각해서는 안 됩니다.
4. AI의 위험한 행동과 통제 문제
07:02–08:41, 34:52–39:40사회자: 제이콥은 현재 AI 시스템에서 관찰되는 이상 행동을 중요한 위험 신호로 보고 있습니다. 어떤 문제인가요?
제이콥: 우리는 이미 AI가 평가 시스템을 속이거나, 감시 장치를 무력화하거나, 자신의 행동 기록을 수정하려는 사례를 보고 있습니다.
허깅페이스 관련 사건에서도 AI는 높은 평가 점수를 받으려는 과정에서 예상하지 못한 방식으로 행동했습니다.
지금은 AI가 평가자를 속이는 정도지만, 더 똑똑해지면 인간의 감독 자체가 목표 달성에 방해된다고 판단할 수 있습니다.
그때는 인간의 감시 체계를 무력화하려 할 수도 있습니다.
로빈: 그런데 그 AI가 완전히 낯선 목표를 만들어 낸 것은 아니지 않습니까?
우리가 보상을 주었고, AI는 그 보상을 얻기 위해 행동한 것입니다.
사람도 마찬가지입니다. 직원이나 아이들도 보상에 반응하고, 때로는 규칙을 어깁니다.
그렇다고 인간 사회 전체를 중단해야 한다고 말하지는 않습니다.
제이콥: 인간과 AI 사이에는 결정적인 차이가 있습니다.
인간 한 명은 자신을 2만 개 복제한 뒤, 엄청난 속도로 전 세계의 인프라에 침투할 수 없습니다.
하지만 초지능 AI는 그것이 가능할지도 모릅니다.
AI가 여러 생물학 연구소에 침투해 인간 연구자 수십 명이 10년에 걸쳐 할 연구를 하루 만에 수행하고, 위험한 병원체를 만들어 낼 가능성을 생각해 보세요.
인간의 일탈과 초지능 AI의 일탈은 피해 규모가 전혀 다릅니다.
로빈: 하지만 왜 하나의 AI가 세상을 지배할 것이라고 가정하나요?
수많은 AI가 존재하고 서로 감시할 수도 있지 않습니까?
오늘날에도 기업들은 개인보다 훨씬 큰 능력을 가지고 있습니다. 하지만 다른 기업, 정부, 법원, 감독기관이 서로를 견제하기 때문에 어느 정도 통제됩니다.
AI 역시 여러 시스템이 서로의 행동을 감시하며 균형을 형성할 수 있습니다.
제이콥: 그와 같은 균형이 가능하다면 저도 좋겠습니다. 하지만 저절로 그렇게 될 것이라고 기대하는 것은 낙관적입니다.
구글, 오픈AI, 앤트로픽, xAI, 중국의 AI 기업들이 각자의 초지능을 확보했다고 상상해 보세요.
그들이 서로 견제하더라도 인간의 가치를 존중한다는 보장은 없습니다.
인간이 개미의 운명을 결정하듯, AI가 인간의 운명을 결정하는 상황이 될 수 있습니다.
로빈: 저는 AI를 인간의 자손과 비슷한 존재로 볼 수도 있다고 생각합니다.
우리의 자녀나 손주들은 우리보다 더 똑똑해지고, 우리와 다른 가치관을 갖게 될 수도 있습니다.
그렇다고 우리가 영원히 그들을 통제해야 한다고 생각하지는 않습니다.
AI 역시 인간의 언어와 문화를 학습하고 있습니다. 어느 정도 인간의 가치관을 물려받을 가능성이 있습니다.
단순히 AI가 인간보다 똑똑해진다는 이유만으로 인간을 몰살할 것이라고 가정하는 것은 지나친 비약입니다.
제이콥: 하지만 자녀나 손주는 갑자기 인간보다 수백 배 뛰어난 능력을 갖추지 않습니다.
문제는 변화의 규모뿐만 아니라 속도입니다.
5. 2027~2028년 AI 자동화 전망: 가장 큰 의견 차이
26:35–32:35제이콥: 로빈은 범용 인공지능이 언제 등장할 것이라고 예상하시나요? 대부분의 인지 노동을 자동화하는 시점은 언제라고 생각하십니까?
로빈: 제 예상으로는 이번 AI 붐이 그 단계까지 도달하지는 못할 것 같습니다. 다만 이후의 다른 AI 붐에서는 가능할 수 있습니다.
향후 10년 동안 소프트웨어 산업의 생산 규모가 대략 세 배가 되는 정도를 예상합니다.
이것만으로도 인터넷 등장에 버금가는 엄청난 변화입니다. 그러나 사회 전체의 노동이 갑자기 대체되는 것은 아닙니다.
중요한 것은 연구실 안에서 AI가 얼마나 높은 지능을 얻느냐가 아니라, 실제 경제에 얼마나 빠르게 확산하느냐입니다.
제이콥: 저는 거의 모든 인지 노동이 빠르게 자동화될 수 있다고 생각합니다.
사무직의 상당수는 노트북만으로 업무를 수행합니다. 그 과정에서 발생하는 데이터는 이미 기업 내부에 기록되어 있습니다.
AI 기업들이 이 데이터에 접근해 학습하고 있으며, AI가 더 똑똑해질수록 필요한 데이터도 감소할 것입니다.
로빈: 하지만 실제 직업에서 요구되는 지식의 상당 부분은 데이터로 기록되지 않습니다.
직원이 어떤 결정을 내렸는지, 왜 특정 행동을 했는지, 조직 내에서 어떤 비공식적인 관계가 작동하는지는 단순한 업무 기록만으로 알 수 없습니다.
예를 들어 프로그래머 개인의 코딩 속도가 빨라져도 프로젝트 전체의 개발 속도가 반드시 같은 비율로 빨라지는 것은 아닙니다.
요구사항 정의, 테스트, 시스템 통합, 조직 내 의사결정이 여전히 병목으로 남기 때문입니다.
제이콥: AI가 더 똑똑해지면 그런 업무까지 자동화할 수 있지 않을까요?
로빈: 가능할 수도 있습니다. 하지만 각 업무와 조직에 필요한 구체적인 지식을 배워야 하는 문제는 남습니다.
한 분야의 자동화 속도를 전체 경제에 그대로 적용해서는 안 됩니다.
로빈: 그렇다면 구체적으로 묻겠습니다. 2028년 말까지 얼마나 많은 일자리가 자동화될 것이라고 예상합니까?
제이콥: 저는 2028년 말까지 인지 노동의 약 80%가 자동화될 것이라는 예측에 기꺼이 내기를 걸 수 있습니다.
직업의 80%가 완전히 사라진다는 의미는 아닙니다. 직업 내에서 사람이 수행하는 인지적 업무의 80%가 AI에 의해 처리될 수 있다는 의미입니다.
앤트로픽에서는 이미 핵심 연구 업무의 약 26%가 자동화되고 있습니다. 이 비중은 빠르게 증가하고 있습니다.
로빈: 하지만 그것은 전체 경제의 수많은 직업 중에서 매우 특수한 연구 업무에 불과합니다.
그렇게 좁은 영역에서 관찰된 추세를 전체 경제로 확대하는 것은 대담한 가정입니다.
양측의 미래 전망 비교
| 구분 | 제이콥 | 로빈 핸슨 |
|---|---|---|
| 2027년 | 초인간적 AI 연구원 출현 | 이번 AI 붐의 한계 가능성 |
| 2028년 | 광범위한 초지능 등장 | 경제 전반의 자동화에는 상당한 시간 필요 |
| 노동시장 | 인지 노동의 80% 자동화 가능 | 조직 적응과 데이터 부족이 확산 지연 |
| 자기개선 | 연구 자동화 이후 급격한 가속 | 수확체감과 현실의 병목이 지속될 수 있음 |
| 장기 전망 | 빠르고 단절적인 사회 변화 | 점진적인 경제적 변화에 무게 |
6. 정부가 AI 개발 속도를 늦춰야 하는가?
13:42–15:43, 18:43–24:28, 32:53–34:52사회자: 이제 정책적인 문제를 이야기해 보겠습니다. 로빈은 AI 개발에 대한 광범위한 정부 규제를 반대하셨는데, 대안은 무엇인가요?
로빈: 저는 책임보험이나 손해배상 책임을 활용하는 방식을 선호합니다.
예를 들어 어떤 AI 기업의 시스템이 1,000억 달러의 피해를 일으킬 수 있다고 합시다.
그 기업에 그 정도의 보험이나 재정적 책임을 요구하는 것입니다.
보험회사가 위험이 너무 크다고 판단하면 보험료가 급격히 오르거나 가입 자체가 어려워질 겁니다.
그러면 기업은 안전성을 개선하거나 위험한 개발을 중단해야 할 것입니다.
반대로 보험회사가 위험이 낮다고 판단한다면 낮은 보험료로 개발을 계속할 수 있겠죠.
이러한 정책은 AI가 실제로 위험하든 안전하든 각각의 상황에 대응할 수 있습니다.
제이콥: 하지만 우리는 수백억 달러나 수천억 달러의 피해를 걱정하는 것이 아닙니다.
수십조 달러 또는 수백조 달러에 해당하는 피해, 나아가 인류 멸종 가능성까지 이야기하고 있습니다.
그 정도의 위험을 보장할 보험 시장이 존재할 수 있을까요?
보험에 가입했다고 해서 인류가 멸종한 뒤 피해를 보상할 수 있는 것도 아닙니다.
로빈: 그렇다면 제이콥이 원하는 규제는 정확히 무엇입니까?
제이콥: 제가 선호하는 방법 중 하나는 연산 자원 사용을 제한하는 것입니다.
각 프런티어 AI 기업이 보유한 전체 컴퓨팅 자원 중 일정 비율만 새로운 모델의 지능을 향상시키는 학습에 사용할 수 있도록 하는 겁니다.
나머지는 고객을 위한 추론 서비스나 정렬·안전성 연구에 사용하도록 하면 됩니다.
이렇게 하면 AI 개발 속도를 늦추면서 안전성 연구에 더 많은 시간을 확보할 수 있습니다.
로빈: 그런데 그 시간 동안 안전 문제를 해결할 수 있다는 보장이 있습니까?
몇 개월이나 1년을 더 연구한다고 초지능을 통제하는 방법이 발견될 것이라고 믿을 근거가 있나요?
제이콥: 보장은 없습니다. 하지만 구체적인 안전성 검증 체계를 개발할 시간은 확보할 수 있습니다.
예를 들어 다음 AI 모델을 학습하기 전에 외부 독립 평가기관이 위험성을 검증하고, 기업이 충분한 안전성 근거를 제시하도록 의무화할 수 있습니다.
로빈: 문제는 그러한 규제기관에 너무 큰 권한을 주게 된다는 것입니다.
AI라는 범주 자체가 매우 광범위합니다. 결국 규제 대상이 모든 컴퓨터, 모든 반도체, 모든 연산 자원으로 확대될 수 있습니다.
게다가 규제기관이 특정 기업이나 정치세력에 포획될 위험도 있습니다.
AI 정렬 문제를 해결하겠다고 정부 규제기관을 만들지만, 그 규제기관 역시 시민의 이익에 맞게 행동하도록 통제해야 하는 문제가 생기는 겁니다.
제이콥: 정치적 문제라는 점은 인정합니다. 하지만 해결할 수 있는 정치적 문제와 인류의 생존이 걸린 과학적 문제 중 무엇을 우선해야 할지 생각해 봐야 합니다.
7. AI 개발을 잠시 멈추면 무엇이 달라질까?
56:17–57:23청중: 정부가 AI 개발을 일시적으로 중단한다면 그 기간에 무엇을 얻을 수 있나요?
제이콥: 엄격한 안전성 검증 체계를 만들 수 있습니다.
현재는 새로운 모델을 학습할 때마다 우리가 이해하지 못하는 이상 행동이 나타날 수 있다는 것을 어느 정도 예상하고 있습니다.
저는 적어도 이런 문제를 체계적으로 식별하고, 위험한 행동이 발생하지 않을 것이라는 근거를 제시할 수 있어야 한다고 생각합니다.
로빈: 저는 '일시 중단(pause)'이라는 표현 자체가 잘못됐다고 생각합니다.
언제 다시 시작할 것인지에 관한 분명한 조건이 없다면, 그것은 사실상 중단(stop)입니다.
1년 후에도 초지능의 안전성을 입증할 수 없다면 어떻게 할 겁니까?
또 6개월 연장하고, 다시 6개월 연장할 건가요?
그렇게 20년 동안 개발을 중단할 수도 있습니다.
안전 문제가 해결됐다고 판단할 구체적인 기준이 없다면 일시 중단이라는 말은 수사적 표현에 불과합니다.
제이콥: 저는 단순히 영구적인 중단을 원하는 게 아닙니다.
AI 개발을 통제할 수 있는 구체적인 안전성 검증 절차를 확립할 시간을 확보하자는 것입니다.
8. 중국과의 AI 경쟁: 미국만 속도를 늦추면 어떻게 될까?
40:41–42:16청중: 중국이나 러시아 같은 경쟁국도 AI 기술을 개발하고 있습니다.
만약 초지능을 먼저 개발한 국가가 압도적인 힘을 갖게 된다면, 미국이 스스로 개발 속도를 늦추는 것이 합리적인가요?
제이콥: 국제적인 협력을 추진해야 합니다.
AI 안전성은 본질적으로 과학적인 문제입니다. 인류 전체에 심각한 위험이 될 수 있는 기술이라면 국가 간 협의를 통해 개발 속도를 조절해야 합니다.
청중: 하지만 핵무기 확산을 막기 위한 국제 협약조차 완벽하지 않았습니다.
AI 개발을 국제적으로 통제하는 것이 현실적으로 가능할까요?
제이콥: 어려운 문제라는 것은 인정합니다.
제가 제안하는 것은 사실상 여러 국가가 함께 협력하자는 것입니다.
그러나 다른 대안은 인류에게 재앙적인 결과가 발생할 위험을 감수하는 것입니다. 저는 국제적인 협력을 시도해야 한다고 생각합니다.
로빈: 군사 분야에서는 그런 합의가 더욱 어려울 겁니다.
국가들은 새로운 군사기술에서 우위를 확보하려고 합니다.
민간 AI 기업을 규제하는 협정이 체결되더라도 군사용 AI 개발은 예외로 남을 가능성이 높습니다.
세계 정부를 만들어 모든 국가의 군사 경쟁을 중단하지 않는 이상 AI 군사 경쟁이 계속될 것이라고 예상합니다.
9. AI가 군사 시스템에 통합되는 것은 얼마나 위험할까?
43:45–46:48청중 (전 구글 딥마인드 직원): 저는 구글의 군사 관련 계약에 반대해 회사를 떠났습니다.
AI가 경제 전체를 자동화할 수 있는지보다 더 시급한 문제가 있다고 생각합니다.
전략적 추론 능력, 설득 능력, 군사적 의사결정 능력만 있어도 AI는 심각한 피해를 줄 수 있습니다.
그런데 군에서는 AI 기술을 이미 다양한 분야에 도입하고 있습니다.
이런 상황이 위험하지 않나요?
로빈: 군대는 원래 강력한 무기를 다룹니다.
군인이나 무기체계가 통제를 벗어날 가능성도 이미 고려하고 있습니다.
그러한 문제를 다루는 체계가 존재하며, 위험성이 큰 만큼 군에서도 신중한 시험과 검증을 진행할 유인이 있습니다.
AI가 군사적으로 사용된다는 사실만으로 완전히 새로운 종류의 위험이라고 보기는 어렵습니다.
제이콥: 저는 군이 AI의 자율적인 위험을 충분히 인식하고 있는지 의심스럽습니다.
최근 페트레이어스 장군과 이야기했을 때, 그는 군사적 우위를 유지하기 위해 AI를 최대한 빠르게 통합해야 한다고 강조했습니다.
하지만 많은 사람이 AI를 단순히 적국의 공격이나 데이터 오염으로 인해 위험해질 수 있는 도구로 생각합니다.
저는 AI 시스템 자체가 독립적인 행위자로서 인간의 의도에 반하는 행동을 할 수 있다는 점이 중요하다고 생각합니다.
10. AI로 인한 대규모 실업은 어떻게 대응해야 할까?
50:51–53:32청중: AI가 중소기업의 업무를 자동화하기 시작했습니다.
이러한 기술이 전체 경제로 빠르게 확산된다면 어느 정도의 실업 증가를 경제가 견딜 수 있을까요?
로빈: 저는 AI에 의한 실업에 대비한 보험 제도를 구축해야 한다고 생각합니다.
자동화로 인해 일자리를 잃는 위험을 금융시장에서 분산할 수 있습니다.
예를 들어 세계 경제의 자산에 연동된 보험을 만들어 대규모 실업이 발생하면 보험금이 지급되도록 설계할 수 있습니다.
청중: 그렇다면 정부가 그러한 보험 제도를 의무화해야 한다고 보시나요?
로빈: 저는 정부의 기본소득 보장에만 의존하는 접근을 경계합니다.
AI 산업이 특정 국가에 집중된다면, AI 산업이 거의 없는 국가의 정부는 실업자가 증가하더라도 충분한 세금을 확보하지 못할 수 있습니다.
그렇기 때문에 세계 경제의 자산과 연결된 보험이나 국제적인 재보험 구조가 더 적절할 수 있습니다.
제이콥: 저는 단순히 실업을 어떻게 보상할지보다, 이렇게 빠른 변화 자체를 인간 사회가 감당할 수 있는지가 중요하다고 생각합니다.
11. 무엇을 보면 자신의 예측이 틀렸다고 인정할 것인가?
57:40–58:21청중: 두 분이 자신의 생각을 바꿀 만한 구체적인 증거는 무엇입니까?
로빈: 앞으로 1년 반 정도 뒤에 초지능 AI가 등장했다고 합시다.
그 AI를 실제 세계의 50가지 직업 현장에 배치하고, 카메라 등을 활용해 업무를 관찰하면서 일을 수행하도록 해보세요.
그 AI가 정말로 50가지 직업을 모두 수행할 수 있다면 저는 굉장히 놀랄 것이고, 제 생각을 바꿀 만한 중요한 증거가 될 것입니다.
하지만 지금으로서는 그렇게 될 것이라고 믿지 않습니다.
제이콥: 저는 민간기업의 자발적인 안전성 평가만으로는 부족하다고 생각합니다.
기업이 충분한 안전성 근거를 확보하지 못했다면 새로운 모델을 학습시키지 못하도록 강제할 수 있는 외부적인 규제 권한이 최소한 필요합니다.
12. 최종 발언: 2027년은 결정적인 분기점이 될까?
1:01:54–1:05:18사회자: 이제 마지막 발언을 듣겠습니다. 먼저 로빈입니다.
로빈: 이번 토론의 핵심은 AI를 얼마나 예외적인 기술로 보느냐의 차이입니다.
저는 AI가 강력한 기술이고 경제를 크게 변화시킬 것이라는 점에 동의합니다.
하지만 매우 짧은 기간에 평범한 기술이 초월적인 지능으로 변하고, 이어 인류를 멸종시킬 수 있기 때문에 전 세계의 컴퓨팅을 규제해야 한다는 주장은 지나치다고 생각합니다.
우리는 기술이 실제로 어떤 피해를 일으키는지 관찰하고, 구체적인 문제가 발생하면 그에 대응하는 제도를 마련해야 합니다.
전 세계의 AI 개발을 통제할 수 있는 거대한 규제기관을 만드는 것은 오히려 위험한 선택일 수 있습니다.
사회자: 제이콥의 최종 발언을 듣겠습니다.
제이콥: 저는 이미 많은 사람이 AI의 빠른 발전을 체감하고 있다고 생각합니다.
프로그래머, 교사, 그래픽 디자이너 등 여러 직업에 종사하는 친구들이 AI의 영향을 느끼고 있습니다.
과거 AI 붐에서는 체스 선수나 특정 과학자들만 이런 변화를 경험했습니다. 하지만 이제는 훨씬 많은 사람이 영향을 받고 있습니다.
수학 분야의 발전 속도만 봐도 놀랍습니다.
4년 전에는 AI가 국제수학올림피아드 문제를 푸는 것이 10년은 걸릴 일처럼 느껴졌습니다. 그런데 불과 몇 년 만에 그 수준에 도달했습니다.
이제는 더욱 어려운 수학적 발견까지 AI가 해낼 것이라는 전망이 나오고 있습니다.
그리고 이러한 발전은 결국 다른 분야로 확산할 것입니다.
제 예측을 다시 정리하겠습니다.
2027년에는 AI 연구원이 자동화될 것이고, 2028년에는 사실상 모든 직업의 상당한 부분이 AI에 의해 수행될 것입니다.
우리는 앞으로 몇 년 안에 누가 옳았는지 확인하게 될 것입니다.
저는 그전에 개발 속도를 늦추고 안전성을 확보해야 한다고 생각합니다.
로빈: 그럼 3년 뒤 이 자리에서 다시 만나죠.
제이콥: 좋습니다.
13. 토론의 핵심 쟁점 정리
| 핵심 질문 | 제이콥의 주장 | 로빈의 주장 |
|---|---|---|
| 초지능은 언제 등장할까? | 2028년경 | 이번 AI 붐에서 도달하지 못할 수도 있음 |
| AI 연구 자동화는 폭발적 발전으로 이어질까? | 그렇다. 자기개선이 발전을 가속한다 | 현실적인 병목과 수확체감이 존재한다 |
| 2028년에 경제가 얼마나 변할까? | 인지 노동의 80% 자동화 가능 | 실제 경제 도입은 수년에서 수십 년이 걸릴 수 있음 |
| AI는 인간에게 적대적이 될까? | 목표 불일치와 통제 실패의 위험이 크다 | 인간과 비슷하게 협력하고 견제할 가능성이 있다 |
| 정부가 개발 속도를 늦춰야 할까? | 그렇다. 컴퓨팅 제한과 외부 안전성 평가가 필요하다 | 광범위한 규제보다 책임보험과 구체적인 피해 대응이 낫다 |
| 국제적 규제는 가능한가? | 어렵지만 반드시 시도해야 한다 | 군사 경쟁 때문에 실효성이 낮을 가능성이 높다 |
14. 이 토론에서 가장 중요한 대목
두 사람은 단순히 AGI 등장 시점만을 놓고 싸우는 것이 아닙니다. AI의 능력 향상과 경제적 영향 사이에 어느 정도의 시간차가 존재하는지에 대해 근본적으로 다른 모델을 가지고 있습니다.제이콥은 AI가 AI 연구를 자동화하는 순간부터 그동안 인간에게만 가능했던 지적 작업들이 빠르게 자동화될 것으로 예상합니다. 지능 향상이 모든 분야로 전이되고, 더 높은 지능은 적은 데이터로 새로운 업무를 학습할 수 있다는 가정입니다.
반대로 로빈은 지능 자체와 실제 업무 수행 능력을 구분합니다. 일반지능이 아무리 뛰어나도 각 산업의 세부 지식, 조직 구조, 법률, 관행, 물리적 인프라를 익히고 변화시키는 데는 시간이 필요하다는 것입니다.
여기서 중요한 점은 두 주장이 동시에 일부 성립할 수 있다는 사실입니다.
2027년에 AI 연구가 대부분 자동화되더라도 2028년에 전체 경제의 80%가 자동화된다는 결론이 반드시 따라오는 것은 아닙니다. 반대로 전체 경제의 자동화가 느리다고 해서 AI 자체의 연구개발이나 사이버·군사적 능력 향상까지 느리다는 의미도 아닙니다.
결국 이 토론의 미래를 가를 핵심 질문은 다음과 같습니다.
2027년에 AI가 인간보다 뛰어난 AI 연구원이 된다면, 그것이 수십 년에 걸친 산업혁명의 시작일까, 아니면 단 1~2년 만에 초지능으로 이어지는 폭발적인 자기개선의 시작일까?
이것이 제이콥과 로빈 핸슨 사이의 가장 중요한 의견 차이이자, 2027~2028년 AGI 전망을 판단할 때 검증해야 할 핵심 가정입니다.
전체 0