폴 크리스티아노 "2025년 말까지 IMO 금메달을 딴다면"
- 나는 IMO 챌린지가 강력한 인공지능이 더 일찍, 혹은 최소한 기술적으로 더 일찍 가능할 것이라는 직접적인 증거가 될 것이라고 생각한다. 나는 이것이 상당히 중요한 증거가 될 것이라고 생각하며, 아마도 2040년 TAI 확률을 25%에서 40%로 올릴 수 있을 것 같다.
- 나는 이것이 기계 학습의 부드러운 확장보다는 사회학적 사실과 엔지니어링 노력이 제한될 것이라는 증거가 될 것이라고 생각한다. 아마도 나는 하드 테이크오프의 확률을 30%에서 50%로 올릴 수 있을 것이다.
-
