대화 요약: AGI 타임라인에 대한 대조적 관점 (Ege & Matthew)

이 대화는 Epoch 연구소 소속인 Ege와 Matthew가 인공일반지능(AGI) 개발 및 그 영향에 대한 서로 다른 타임라인 예측을 중심으로 진행됩니다. Matthew는 Epoch 내에서 비교적 공격적인(빠른) 타임라인을, Ege는 보수적인(느린) 타임라인을 가지고 있습니다.

주요 논점:

1. 타임라인 정량화:

   
   

   • GDP 성장률 5% 이상 지속 시점을 기준으로, Ege는 중앙값을 30년 이상(약 35년)으로, Matthew는 10-15년으로 예측하여 약 3배의 차이를 보입니다.

   • Ege는 AI가 원격 근무 가능한 모든 직업을 수행할 수 있는 시점의 중앙값을 약 30년으로 예측합니다 (과거 40년에서 단축).

2. 타임라인 예측 근거 (Ege의 보수적 관점):

   
   

   • 에이전시(Agency) 병목현상: 현재 AI가 복잡한 추론(수학, 코딩 등)에서는 큰 발전을 보였지만, 실제 경제적 가치 창출에 중요한 에이전시(계획 수립 및 실행, 상황 적응 능력, 상식적 판단, 장기적 일관성 유지) 능력에서는 발전 속도가 훨씬 느리다고 지적합니다. 이는 모라벡의 역설(인간에게 쉬운 일이 AI에게는 어렵다)과도 관련됩니다.

   • 불분명한 발전 추세: 에이전시 능력 향상에 대해서는 수학/추론 능력처럼 명확하게 외삽할 수 있는 추세가 부족하다고 봅니다. 현재 방식(GPT-N 스케일링)만으로는 한계가 있으며, 새로운 패러다임이 필요할 수 있다고 예측합니다.

   • 효율성 및 데이터 문제: 현재 AI 학습 방식이 인간 두뇌보다 덜 효율적이며, 실제 세계 상호작용 데이터 확보의 어려움이 병목이 될 수 있다고 봅니다.

   • 과거 예측 업데이트: AI 선두 기업들의 매출 성장 속도가 예상보다 빨랐던 점 등을 인정하며 타임라인을 일부 단축했지만, 근본적인 에이전시 문제 해결 속도에 대한 비관론은 유지합니다.

3. 타임라인 예측 근거 (Matthew의 공격적 관점 및 반론):

   
   

   • 컴퓨팅 파워 증가: 향후 10년간 막대한 컴퓨팅 파워 증가는 AI 능력 발전을 가속화할 것이라고 봅니다.

   • 순차적 능력 확보: 게임, 자연어 처리, 추론 등 여러 영역이 순차적으로 AI에 의해 "정복"되었으며, 남은 영역(에이전시, 멀티모달 등)이 몇 개 없다면 예상보다 빨리 AGI에 도달할 수 있다고 봅니다.

   • 장기적 일관성 해결의 파급력: LLM의 장기적 맥락 유지 및 일관성 문제만 해결되어도, 완전한 에이전시 없이도 막대한 경제적 가치를 창출할 수 있다고 주장합니다.

   • 벤치마크에서의 빠른 발전: GPQA 등 추론/지식 벤치마크에서 AI가 빠르게 인간 수준을 넘어서는 것은 단순히 좁은 문제를 해결하는 것을 넘어 일반적인 추론 능력의 진정한 발전을 시사한다고 봅니다.

   • 전이 학습(Transfer Learning) 낙관론: 사전 학습된 방대한 지식이 에이전시나 추론 같은 특정 능력을 미세 조정/강화 학습하는 데 큰 도움이 될 것이라고 기대합니다.

4. 경제적 영향 모델 비판:

   
   

   • "데이터 센터 안 천재들의 나라" 모델 비판: AI의 주요 경제적 영향은 소수의 천재 AI가 R&D를 주도하는 것이 아니라, 다수의 AI가 경제 전반의 평범한 인지적/물리적 작업을 자동화하는 데서 올 것이라고 주장합니다. 연구 개발 중심 모델은 실제 경제 활동의 대부분을 간과한다고 비판합니다.

   • 규모와 점진적 혁신의 중요성: 기술 혁신은 소수 천재의 연구뿐 아니라, 경제 규모, 우연한 발견, 보완적 혁신, 현장에서의 점진적 개선 등 다양한 요인에 의해 크게 좌우된다는 점을 강조합니다.

   • 주류 경제학 예측 비판: 현재 AI 역량만을 기준으로 미래를 예측하는 방식(Acemoğlu 등)은 기술 발전 속도를 과소평가하는 오류(0차 예측)가 있다고 비판합니다.

5. AI 정렬 및 미래 시나리오 비판:

   
   

   • 유토피아/멸망 이분법 비판: AI의 미래를 극단적인 유토피아나 완전한 멸망 중 하나로 보는 단순 이분법적 시각을 비판하며, 더 복잡하고 미묘한 결과가 가능하다고 봅니다.

   • "공유된 인간 가치" 개념 회의론: 인간 사이에도 가치관(이기심, 도덕적/정치적 견해 등) 차이가 막대하므로, AI가 정렬될 수 있는 명확하고 "공유된 인간 가치"라는 개념 자체에 의문을 제기합니다. 오히려 현재 LLM이 평균적인 인간보다 더 바람직한 가치(이타심, 사려 깊음 등)를 보이는 측면도 있다고 지적합니다.

   • 가치 고정(Value Lock-in) 회의론: 정보 보존 기술(문자, 인쇄술, 컴퓨터)의 발달이 오히려 문화/가치 변화를 가속화시킨 역사를 볼 때, AI를 통해 특정 가치가 영구히 고정될 것이라는 생각에 회의적입니다.

   • 단순한 갈등 모델 비판: AI와 인간의 갈등을 단순히 가치 차이나 자원 경쟁("종이클립 최대화")으로 설명하는 것은 실제 역사 속 갈등의 원인(상호 신뢰 부족, 인식 불일치, 협상 불가한 가치 등)에 대한 경제학/정치학적 분석을 무시하는 것이라고 비판합니다. 또한 현재 정렬 기술이 예상보다 효과적임을 지적합니다.

   • 동일 결론, 다른 논거의 문제점: AI 멸망론자들이나 AI 비관론자들이 동일한 결론에 도달하면서도 서로 다른, 때로는 모순적인 논거를 제시하는 것은 동기 부여된 추론(motivated reasoning)의 징후일 수 있다고 지적합니다.

결론:

Ege와 Matthew는 AGI 타임라인에 대해 상당한 견해차를 보입니다. Ege는 에이전시 능력 확보의 어려움과 과거 데이터 부재를 근거로 신중한 입장을 취하는 반면, Matthew는 컴퓨팅 파워 증가, 순차적 능력 확보, 벤치마크에서의 빠른 진전을 근거로 더 낙관적인 예측을 합니다. 두 사람 모두 AI의 미래를 단순한 유토피아/멸망 이분법으로 보거나, 소수의 천재 AI가 모든 것을 바꿀 것이라는 시각보다는, 경제적, 구조적 요인과 광범위한 자동화가 미래를 형성할 것이라는 복잡하고 경제학적 틀에 기반한 분석을 선호합니다. 또한, AI 관련 논의에서 종종 나타나는 추상적 추론에 대한 과도한 의존이나 관련 분야(경제학, 정치학 등)의 기존 지식을 무시하는 경향을 비판적으로 바라봅니다.