최근 우리는 기후 변화부터 일반 인공지능(AGI)의 등장까지 다양한 실존적 위험에 집착하고 있습니다. 특히 실리콘 밸리에서는 AI 안전주의가 매우 지배적이어서, 인간과 AI 사이의 '정렬'(alignment)에 대한 집착이 이 분야의 빠른 발전을 저해함으로써 오히려 새로운 실존적 위험이 될 수 있다는 의견이 있습니다.

하지만 반대로 저는 정렬과 실존적 위험에 대한 연구와 문헌이 AI 발전을 백배로 가속화했다고 생각합니다. 엘리에저 유드코우스키가 데미스 하사비스를 피터 틸에게 소개한 것은 우연이 아닙니다. 실존적 위험에 대한 사고방식은 근본적으로 미래를 내다보고, 멀리 바라보며, 심지어 낙관적이라고 주장하고 싶습니다.