https://80000hours.org/podcast/episodes/will-macaskill-century-in-a-decade-navigating-intelligence-explosion/#the-industrial-intelligence-explosion-is-the-most-certain-and-enduring-004023



 

---

1. AGI(사람 수준 인공지능) 시점에 대한 예측

• 5년 내지 10년이라는 비교적 짧은 기간에 AGI가 등장할 가능성을 “진지하게 받아들여야 한다(take seriously)”고 말한다.
  
  • 예) “인간 수준 AI가 3~5년, 혹은 길어도 5~10년 안에 나타날 가능성이 꽤 높다.”
  • 윌 매캐스킬은 과거에는 AI가 이 정도로 빠르게 발전하리라 보지 않았으나, 최근 거대 언어 모델(GPT 등)의 급성장과 투자 규모 확대, 다양한 벤치마크 테스트 성과 등을 보고 개인적 판단을 크게 수정했다고 밝힌다.
• 단, AGI 등장 시점을 정확히 예측하기는 여전히 어렵고, 불확실성이 매우 크다고 강조한다.
  
  • “당장 3~5년 안에 가능성이 있다고는 해도, 10년 이상 걸릴 수도 있고, 더 늦어지거나 빠를 수도 있다”는 식으로 폭넓은 분포를 인정한다.
  • 슈퍼포캐스터(superforecaster)나 일반적인 통계 추세로 보면 훨씬 긴 시간이 걸릴 것이라 보는 견해도 있지만, 최근 AI 스케일링 추이와 실제 모델 성능을 보면 단기적 AGI 가능성을 무시하기 어렵다는 취지이다.

---

2. “100년치 기술 진보가 10년에 압축” 시나리오

• 만약 AGI가 등장해 AI가 AI 연구·개발 속도를 가속한다면, **짧은 기간(대략 10년 안팎)**에 “1세기 분량의 진보”가 이뤄질 가능성을 제기한다.
• 이보다 더 극단적으로는, 100년치 이상의 진보(“수백~수천 년치 진보”)가 단기간에 몰아칠 수도 있다고 본다.
  
  • 예) AI가 하드웨어·소프트웨어를 동시에 개선하는 “지능 폭발(Recursive self-improvement)”이 실제로 일어나면, 1~2년 혹은 더 단기간에 전례 없는 혁신이 일어날 가능성도 배제하기 어렵다고 언급한다.

---

3. 지능 폭발이 일어날 “정도”와 “속도” 예측

• 소프트웨어 피드백 루프(AI가 알고리즘을 직접 개선)만으로는, 극적인 지능 폭발이 일어나지 않을 수도 있다.
  
  • 예) AI가 “AI 연구자” 역할을 자동화해 연구 효율을 높이지만, 어느 지점에서 수확 체감(diminishing returns)에 부딪혀 가속이 점차 둔화될 가능성.
• 그러나 여기에 칩 설계 개선(하드웨어 피드백 루프) + 산업 자동화(로봇 공장·무인 생산)까지 결합되면 매우 급진적인 성장도 가능하다고 본다.
  
  • “산업 폭발(industrial explosion)” 단계에서는 공장·로봇·칩을 스스로 대량 생산하여, 연쇄적으로 자원을 늘리는 형식의 기하급수적 확장이 일어날 수 있음.

---

4. 대체로 불안정하며, ‘긴박성’을 띤 예측

• 이런 극적 시나리오가 “소수 연구소나 기업, 혹은 특정 국가의 주도로 단숨에 추진될 수 있다”는 점이 윌 매캐스킬이 우려하는 핵심.
• 예측 시나리오에서 **“가장 빠른 경우 수 년 이내”**라는 가능성을 무시하기 힘들기에, 각국·기업·학계가 AI 안전·거버넌스·윤리 문제를 시급히 다뤄야 한다고 강조한다.
• 완만하게 진행되어도 대략 10년 안팎에 거대한 변화를 맞을 수 있다는 관측이므로, 지금부터 단 몇 년이 ‘미래를 결정지을 수도 있는 시점’이라 본다.

---

5. 윌 매캐스킬의 정서적 태도

• “완전히 낙관도, 완전히 비관도 아니다.”
  • 최근 AI 발전 속도를 보며 놀라워하는 동시에, 그로 인해 발생할 만한 여러 리스크(권력 집중, 잘못된 가치의 영속화 등)를 심각하게 우려한다.
  • “이제부터 몇 년간 우리가 어떤 결정을 내리느냐가 매우 중요하다”는 절박감을 갖고, 기회와 위험을 동시에 강조한다.

---

결론

윌 매캐스킬은 “5~10년 안에 상당한 수준의 AI(AGI)가 도래할 수 있다”는 관측을 진지하게 받아들이고, 그럴 경우 기술·지식 진보의 폭발적 가속(“10년 만에 100년치 진보” 등)도 실제로 가능하다고 본다.

정확한 연도나 확률은 여전히 불확실하지만, 단기 시나리오 또한 배제할 수 없으므로 지금부터 AI 안전·거버넌스·윤리체계 준비가 시급하다는 것이 그의 주된 메시지다.