나는 항상 Anthropic에서 일하는 친구들보다 AGI 도달 시점을 훨씬 더 먼 미래로 예상해 왔다.

그동안 나는 그들이 자기들만의 확증편향적인 환경(에코 챔버)에 갇혀 자신들의 AI 모델에 대한 과장된 기대를 지나치게 믿고 있는 것은 아닌지, 그리고 기술적 병목현상이나 우리가 아직 알지 못하는 미지의 변수들(unknown unknowns)을 과소평가하고 있는 것은 아닌지 걱정해 왔다.

실제로 그들이 자신들의 AI 모델을 통해 얻고 있는 생산성 향상 효과를 과장했던 구체적인 사례들도 분명히 있었다.

그럼에도 불구하고 이번 METR의 분석이 정확하다면(나는 METR을 이 분야에서 가장 신뢰할 수 있는 기관 중 하나라고 생각한다), AGI 도달 시점에 관해서는 Anthropic의 친구들이 나보다 훨씬 더 정확했던 셈이다.

이번 보고서는 또한 소프트웨어만으로도 특이점(Software-only Singularity)에 도달하는 것이 가능하다는 가설을 뒷받침하는 하나의 근거이기도 하다.

이제 나는 기술 발전을 늦추는 조치가 없다면, 앞으로 18개월 이내에 완전한 초지능(Full-blown Superintelligence)이 등장할 확률이 50%를 넘는다고 생각한다.

가족들에게 전화해야겠다.

 

마지막 문장인 "I need to call my family"는 상당히 의미심장해.

단순히 가족들과 통화하겠다는 뜻을 넘어, 자신이 예상했던 것보다 훨씬 빠르게 초지능이 등장할 수 있다는 판단에 도달했고, 이것이 가족들의 미래에도 중대한 영향을 미칠 수 있다고 느낀다는 표현이야.

특히 주목할 부분은 18개월 안에 AGI가 아니라 완전한 초지능이 등장할 확률을 50% 이상으로 본다는 점이야.

이는 AGI 도달 이후 인간을 크게 뛰어넘는 초지능으로 발전하는 과정까지 매우 빠르게 진행될 수 있다는, 상당히 급진적인 전망이야. 다만 어디까지나 발언자의 주관적인 확률 판단이지, METR이 초지능의 등장 확률을 50% 이상이라고 검증했다는 뜻은 아니야.