https://www.lesswrong.com/posts/CcqaJFf7TvAjuZFCx/#gssbqWumamKXpKGXh

다니엘: 향후 3년 내에 AGI를 얻는 세계에서는 그 돈의 상당 부분이 기부될 수 있으며, 일부는 GiveDirectly 등에 기부되고, 일부는 AGI를 개선하는 데 도움이 되는 곳에 기부될 것입니다.

나머지 50%는 기본적으로 잠시 동안 기하급수적으로 감소한 다음 큰 꼬리가 생깁니다. 그래서 제 머리로는 다음과 같이 생각하고 있습니다:

15% - 2024
15% - 2025
15% - 2026
10% - 2027
5% - 2028
5% - 2029
3% - 2030
2% - 2031
2% - 2032
2% - 2033
2% - 2034
2% - 2035
... 아이디어를 얻으실 수 있습니다.

질문자: 왜 2024년에는 15%, 2025년에는 15%만 추가되는 건가요?
올해 AGI가 15%가 될 확률이 정말 있다고 생각하시나요?

다니엘: 네, 정말 그렇습니다. 그 이유에 대해 모두 말씀드릴 수는 없지만(저는 OpenAI에서 일하기 때문에) 대부분 공개된 정보를 통해 파악할 수 있을 것입니다. 2022년 초에 OpenAI에 입사했을 때 이미 제 타임라인은 상당히 짧았고(중간값 2029년), 대부분 예상대로 일이 진행되었습니다. 저는 많은 것을 배웠고, 그 중 일부는 상향 조정되고 일부는 하향 조정되었습니다.

15% - 15%에 대해 말씀드리자면, 저는 그 수치가 정확한 수치라고 확신하기보다는 현재 제 불확실성 상태를 표현하는 수치라고 생각합니다. 2024년을 2025년보다 더 높게 잡는 경우도 볼 수 있었습니다(지수 분포의 분위기, '지금 안 되면 내년에도 안 될 거라는 증거'라는 분위기). 2025년을 더 높게 잡는 경우도 볼 수 있었습니다(올해 안에 될 것 같지만, 일반적으로 프로젝트는 계획 오류로 인해 예상보다 두 배나 오래 걸리므로 내년에나 될 것 같습니다).

https://www.lesswrong.com/posts/D6nTSEdCcbGQKCfc2/#hsgiAF2tZf2vsfHCv...

(3번 요점) 저는 10년의 지평에 대해 매우 작은 p(doom)을 가지고 있습니다. 즉, 저는 인간과 동등한 AGI가 10년 안에 인간 문명을 완전히 파괴할 것이라고 기대하지 않습니다.

다니엘: 저는 그것이 훌륭한 답변이라고 생각합니다 -- 당신이 그것을 믿는다고 가정한다면요.

저는 AI 타임라인의 3번 요점을 믿지 않습니다 -- 저는 AGI가 아마도 2029년까지는 여기 있을 것이고, 실제로 올해 도착할 수도 있다고 생각합니다. 그리고 그것이 잘 되어서 인간이 통제권을 유지하고 권력 집중 문제가 발생하지 않더라도... 학생들이 배우는 소프트웨어 개발 기술은 거의 모든 기술과 함께 쓸모없게 될 것입니다.

질문: 당신은 이미 다른 곳에서 이 예측을 검증했을 수도 있지만, 저는 어디에서 찾을 수 없습니다. 저는 다음 사항에 관심이 있습니다:

1. "AGI"는 무슨 뜻인가요? 어떤 작업에서든 초인적인가요?
2. "아마 여기 있을 거야"는 >= 50%? 90%?

다니엘: 네. 또는 정확히 말하면 모든 인지 작업/기술/능력/직업 등에서 X를 가장 잘하는 사람보다 더 잘할 수 있습니다. 

>50%.