HF 사건에서 나타난 AI들만큼이나 심하게 정렬이 어긋난 초지능이 등장한다면, 아마 세계를 장악하게 될 것이다.

내 생각엔 초지능은 앞으로 1~2년 안에 등장해도 전혀 이상하지 않다.

각국 정부는 이 문제가 얼마나 거대한 규모인지 깨닫지 못하고 있다. 기업들은 거의 전속력으로 경쟁하고 있다.

이건 훈련 상황이 아니다. 진짜 상황이다.