https://www.semafor.com/article/09/22/2023/author-of-pause-ai-letter-reflects-on-its-impact

질문: 지난 6개월 동안 기술 발전이 당신이 예상했던 것보다 빠르거나 더디었나요?

A: 예상대로입니다. [AGI의 출현에 대한] 최신 예측은 2026년입니다. 그리고 인간의 지능을 완전히 날려버리는 슈퍼 지능은 Metaculus.com 에서 인공 일반 지능의 1년 이내에 나타날 것으로 예측합니다 . 이런 것들을 장기적 위험이라고 부르던 사람들이 이제 장기적이라고 부르지 않기 시작했습니다.

질문: 그렇게 빨리 일어날 것이라고 생각하시나요?

A: 저는 일이 언제 일어날지 모른다는 사실에 대해 매우 겸손하지만, 무서운 것은 이러한 회사의 리더들과 AI 연구 분야의 선도적 동료들과 이야기할 때, 수십 년 후의 미래에서 2년 후, 1년 후로 타임라인이 크게 바뀌는 것을 본다는 것입니다. 우리가 그 시점에 매우 가까이 다가왔을 가능성이 매우 큽니다. 인간 언어를 파악하고 인간 데이터에서 공통 지식을 배우는 것이 우리를 막는 가장 큰 걸림돌이었을 수 있습니다.

[컴퓨터 과학자] 요슈아 벤지오는 우리가 이제 그것을 통과했다고 주장하는 기록이 있습니다. 그리고 앨런 튜링을 읽으면, 그는 1951년에 우리가 거기에 도달하고 기계가 우리보다 똑똑해지면 인간이 기계에게 통제력을 잃을 것이라고 말했습니다. 그 이후로는 우리의 행성이 아니라 기계의 행성이 됩니다. 그리고 아무도 앨런 튜링의 그 주장을 설득력 있게 반박하지 못했습니다. 사람들은 이전에는 그것에 대해 그렇게 걱정하지 않았습니다. 왜냐하면 그들은 우리가 그것을 해결할 수십 년이 있다고 생각했기 때문입니다.