I don't know how people can look at the state of modern AI and not see how this leads to general purpose, self-sustaining, self-interested AI organisms in ~10-20 years. Whether you think they'll be conscious or not, whether you think they'll "count" or not, they're gonna exist.

I don't think you have to take a doomer lens on this - unlike some folks in the space, I don't think this leads to a rapid end to humanity - but it definitely makes the future incredibly weird. The dynamics that govern the world are shifting in a fundamental way.

If you're in AI, you ought to be grappling with this. Intellectually. Emotionally. Spritually. Technocratically - you've got to think about how we're going to build this stuff in a way that doesn't horribly screw up the world.

저는 사람들이 어떻게 현대 AI의 상태를 보면서 이것이 10~20년 안에 범용적이고 자립적이며 이기적인 AI 유기체로 이어질 것이라고 보지 않을 수 있는지 모르겠습니다. 의식이 있든 없든, '계산'이 가능하든 불가능하든, 인공지능은 존재하게 될 것입니다.

이 문제에 대해 파멸론적 시각을 가질 필요는 없다고 생각합니다. 일부 사람들과 달리 저는 이것이 인류의 급격한 종말로 이어진다고 생각하지 않지만, 미래를 엄청나게 이상하게 만드는 것은 분명합니다. 세상을 지배하는 역학관계가 근본적인 방식으로 변화하고 있습니다.

AI 업계에 종사하고 있다면 이 문제에 대해 고민하고 있을 것입니다. 지적으로. 감정적으로. 영적으로. 기술적으로 - 세상을 끔찍하게 망치지 않는 방식으로 어떻게 이런 것들을 구축할지 생각해야 합니다.