AGI 진행 측정

• Dwarkesh Patel는 Shane Legg와 인터뷰를 시작합니다. Shane Legg는 Google DeepMind의 창립자이자 최고 AGI 과학자입니다.
• 첫 질문은 AGI 진행을 어떻게 구체적으로 측정할 수 있는지에 대한 것입니다.
• Shane Legg는 AGI가 일반적인 인지 능력을 갖춘 기계를 의미하며, 이를 테스트하기 위해서는 인간의 인지 작업과 비교할 수 있는 다양한 테스트가 필요하다고 설명합니다.

구체적인 측정 방법

• Dwarkesh는 현재 사용되는 벤치마크가 인간 인지 능력을 충분히 측정하지 못한다고 질문합니다.
• Shane Legg는 언어 모델이 스트리밍 비디오 이해나 에피소드 기억과 같은 인간의 특정 인지 기능을 측정하지 못한다고 설명합니다.
• 에피소드 기억은 샘플 효율성과 관련이 있으며, 현재 모델은 컨텍스트 윈도우를 늘려 이 문제를 해결하려고 노력하지만 근본적으로는 아키텍처적 변화가 필요하다고 언급합니다.

새로운 아키텍처의 필요성

• Shane Legg는 현재의 아키텍처가 이러한 문제를 해결할 수 없으며, 에피소드 기억과 시스템 2 사고와 같은 기능을 추가해야 한다고 설명합니다.
• 에피소드 기억은 인간이 정보를 빠르게 학습할 수 있게 하는 중요한 요소입니다.
• Shane Legg는 현재의 모델들이 이미 상당히 인상적인 성과를 내고 있지만, 인간 수준의 AI에 도달하기 위해서는 보다 포괄적인 테스트와 분석이 필요하다고 강조합니다.

DeepMind의 역할과 기여

• Dwarkesh는 DeepMind가 AGI와 안전성 연구에 미친 영향을 묻습니다.
• Shane Legg는 DeepMind가 AGI 안전성 연구에 큰 기여를 했으며, 이를 통해 AGI 안전성 분야의 신뢰성을 높이는 데 도움이 되었다고 언급합니다.
• 그러나 DeepMind의 연구가 능력 향상에 더 큰 영향을 미쳤는지에 대한 평가에는 확신을 가지지 못합니다.

AGI의 타임라인

• Dwarkesh는 2011년에 Shane Legg가 예측한 AGI 도달 시점이 상당히 정확하다고 언급하며, 이에 대한 배경을 묻습니다.
• Shane Legg는 컴퓨팅 파워와 데이터 양의 기하급수적인 증가를 기반으로 예측했으며, 이로 인해 확장 가능한 알고리즘의 필요성이 높아질 것이라고 설명합니다.
• AGI가 2028년까지 도달할 확률을 50%로 예측하며, 이 시점까지 큰 경제적 영향을 미칠 것이라고 예상합니다.

멀티모달 AI

• Shane Legg는 다음 주요 발전이 멀티모달 AI가 될 것이라고 예측합니다. 이는 텍스트 외에도 이미지, 비디오 등을 이해할 수 있는 AI 시스템을 의미합니다.
• 현재 멀티모달 기능이 초기 단계에 있지만, 향후 몇 년 동안 다양한 애플리케이션과 가능성이 열릴 것이라고 설명합니다.

결론

• 인터뷰는 Shane Legg가 AGI와 관련된 여러 중요한 주제에 대해 자신의 견해를 공유하며 마무리됩니다.
• 특히 AGI의 안전성과 윤리적 문제, 그리고 향후 발전 방향에 대한 논의가 이루어졌습니다.