만약 오늘 당장 전 세계적으로 AI 역량 개발의 속도를 늦추도록 공조할 수 있다면, 나는 아마 그 마법의 버튼을 누를 것이다.

 



내가 아는 최고의 기계적 해석 가능성 연구자들과 AI 정렬 연구자들은 마치 팔이 여러 개 달린 신들처럼 움직이며, 2년 전보다 열 배는 더 빠르게 성과를 내고 있다. 지금 수준의 AI 역량을 유지한 채 이런 수준의 정렬 연구를 6개월만 더 진행할 수 있는 시대가 온다면, 세상은 훨씬 더 안전해질 것이다.