뉴스/정보
샘 알트만 "젠틀한 특이점"
작성자
작성일
2025-06-11 08:19
조회
489
https://blog.samaltman.com/the-gentle-singularity
---
우리는 이미 사건의 지평선을 넘어섰고, 이륙은 시작되었습니다. 인류는 디지털 초지능을 구축하는 데 가까워졌고, 지금까지의 진행 상황은 우리가 예상했던 것만큼 이상하지는 않습니다.
로봇이 거리에서 걷고 있지는 않으며, 대부분의 사람들이 하루 종일 AI와 대화하지도 않습니다. 사람들은 여전히 질병으로 죽고, 우리는 아직 쉽게 우주로 갈 수 없으며, 우주에 대해 모르는 것이 여전히 많습니다.
그럼에도 불구하고, 우리는 최근에 사람보다 더 똑똑한 시스템들을 만들었고, 그것들을 사용하는 사람들의 생산성을 크게 증폭시킬 수 있습니다. 가장 불가능해 보였던 부분은 이미 지나갔습니다. GPT-4와 O3와 같은 시스템을 가능하게 만든 과학적 통찰들은 어렵게 얻어낸 것이지만, 우리를 아주 멀리까지 데려갈 수 있습니다.
AI는 여러 방식으로 세상에 기여할 것이며, 더 빠른 과학 발전과 생산성 향상이 가져올 삶의 질 향상은 엄청날 것입니다. 미래는 지금보다 훨씬 더 나아질 수 있습니다. 과학적 진보는 전반적인 진보의 가장 큰 동력이며, 우리가 얼마나 더 많은 것을 가질 수 있을지를 생각하는 것은 매우 흥미롭습니다.
어떤 큰 의미에서는, ChatGPT는 이미 역사상 그 어떤 인간보다도 강력합니다. 수억 명의 사람들이 매일, 점점 더 중요한 작업에 그것을 의존하고 있습니다. 작은 새로운 기능이 엄청난 긍정적 영향을 가져올 수 있고, 작은 비정렬이 수억 명에게 곱해지면 큰 부정적 영향을 초래할 수 있습니다.
2025년에는 실제 인지 작업을 수행할 수 있는 에이전트들이 등장했습니다. 프로그래밍은 이제 결코 예전 같지 않을 것입니다. 2026년에는 새로운 통찰을 스스로 발견할 수 있는 시스템들이 등장할 것이고, 2027년에는 실제 세계에서 작업을 수행할 수 있는 로봇들이 등장할 수 있습니다.
더 많은 사람들이 소프트웨어와 예술을 창조할 수 있게 될 것입니다. 하지만 세상은 그것들을 훨씬 더 많이 원하고 있으며, 전문가들은 새로운 도구를 받아들이는 한 여전히 초보자보다 훨씬 뛰어날 것입니다. 2030년의 개인 생산성은 2020년과 비교해 엄청나게 달라질 것이며, 많은 사람들이 그로부터 이득을 얻는 방법을 찾아낼 것입니다.
가장 중요한 방식에서는, 2030년대가 그렇게 와일드하게 달라지지는 않을 수도 있습니다. 사람들은 여전히 가족을 사랑하고, 창의성을 표현하고, 게임을 하며, 호수에서 수영할 것입니다.
하지만 여전히 중요한 다른 방식에서는, 2030년대는 인류 역사상 완전히 새로운 시대가 될 가능성이 높습니다. 우리는 인간 수준을 훨씬 넘어서는 지능이 어디까지 갈 수 있는지 모르지만, 곧 알게 될 것입니다.
2030년대에는 지능과 에너지—즉, 아이디어와 아이디어를 실현하는 능력—가 매우 풍부해질 것입니다. 이 두 가지는 오랫동안 인간 발전의 근본적인 제약이었지만, 풍부한 지능과 에너지(그리고 좋은 거버넌스)가 있다면, 이론상 우리는 무엇이든 가질 수 있습니다.
우리는 이미 엄청난 디지털 지능과 함께 살고 있고, 초기 충격이 지나자 대부분의 사람들은 금방 익숙해졌습니다. 아주 멋지게 작성된 문단을 AI가 생성할 수 있다는 것에 놀라다가, 곧 그것이 소설 전체를 쓸 수 있기를 기대하게 됩니다. 생명을 구하는 의학적 진단이 가능한 것에 놀라다가, 이제는 치료법을 개발하길 기대합니다. 작은 프로그램을 만드는 것에 놀라다가, 이제는 완전히 새로운 회사를 만들 수 있기를 바랍니다. 이것이 특이점이 진행되는 방식입니다: 경이로움은 일상이 되고, 그 다음엔 기본 요건이 됩니다.
이미 과학자들로부터 AI 덕분에 이전보다 생산성이 2~3배 증가했다는 이야기를 듣고 있습니다. 고급 AI가 흥미로운 이유는 많지만, 그 중에서도 가장 중요한 것은 더 나은 AI를 더 빠르게 연구할 수 있게 되었다는 점입니다. 새로운 컴퓨팅 기반, 더 나은 알고리즘, 그리고 그 외의 놀라운 것들을 발견할 수 있을지도 모릅니다. 10년 치 연구를 1년 또는 1개월 안에 할 수 있다면, 진보 속도는 당연히 전혀 달라질 것입니다.
우리가 지금까지 만든 도구들은 앞으로 더 나은 과학적 통찰을 발견하고, 더 나은 AI 시스템을 만드는 데 도움을 줄 것입니다. 물론 이것이 AI가 완전히 자율적으로 자기 코드를 고치는 것과 같지는 않지만, 일종의 유충 단계의 자기 개선이라고 할 수 있습니다.
그 외에도 자가강화 루프들이 작동 중입니다. AI의 경제적 가치 창출은 인프라 구축의 플라이휠을 돌리기 시작했습니다. 로봇이 다른 로봇을 만들고, 어느 의미에서는 데이터센터가 또 다른 데이터센터를 만드는 것이 그렇게 먼 미래는 아닙니다.
초기에는 100만 대의 인간형 로봇을 전통적인 방식으로 만들어야 할 수도 있지만, 그 이후에는 그들이 공급망 전체—광물 채굴과 정제, 트럭 운전, 공장 운영 등—를 운영할 수 있다면, 그 속도는 분명히 전혀 다른 수준이 될 것입니다.
데이터센터 생산이 자동화되면, 지능의 비용은 결국 전기 비용 수준까지 수렴할 수 있습니다. (사람들은 ChatGPT 쿼리에 얼마나 에너지가 드는지 궁금해합니다. 평균 쿼리는 약 0.34와트시를 사용합니다. 이는 오븐이 1초 넘게 작동할 때 쓰는 전기량이거나, 고효율 전구가 몇 분간 사용할 전기량입니다. 물은 약 0.000085갤런, 즉 작은 티스푼의 15분의 1 정도입니다.)
기술 발전 속도는 계속 가속화될 것입니다. 사람들은 거의 어떤 상황에도 적응할 수 있습니다. 직업 계층 전체가 사라지는 것처럼 매우 어려운 문제들도 있겠지만, 반면에 세상은 너무 빠르게 부유해지고 있기 때문에 과거에는 상상도 못 했던 새로운 정책 아이디어들을 진지하게 논의할 수 있게 될 것입니다. 우리는 새로운 사회 계약을 하루아침에 채택하지는 않겠지만, 수십 년 후 돌아보면 점진적 변화들이 무언가 거대한 것으로 이어졌음을 알게 될 것입니다.
역사가 증명하듯이, 우리는 새로운 일을 찾고, 새로운 욕망을 만들며, 새로운 도구를 빠르게 동화시킵니다. (산업혁명 이후의 직업 변화가 좋은 예입니다.) 기대치는 높아지겠지만, 능력도 그에 맞춰 높아지고, 우리는 더 나은 것들을 얻게 될 것입니다. 우리는 서로를 위해 점점 더 놀라운 것들을 만들 것입니다. AI와 달리, 인간은 다른 사람을 신경 쓰고, 다른 사람의 행동과 생각에 관심을 가지도록 하드코딩되어 있습니다.
1,000년 전의 자급농은 오늘날 우리의 일자리를 보면 그것들이 가짜 직업처럼 보일 것입니다. 충분한 음식과 상상도 못할 사치를 누리면서 게임이나 하고 있는 것처럼 보일 수 있습니다. 저는 앞으로 1,000년 후의 사람들이 하는 일도 똑같이 가짜처럼 보일 것이고, 그 일을 하는 사람들은 그 일이 매우 중요하고 만족스럽다고 느낄 것이라 확신합니다.
새로운 경이로움이 매년 달성되는 속도는 엄청날 것입니다. 지금은 상상도 안 되겠지만, 2035년까지 우리가 발견하게 될 것들—고에너지 물리학 해결에서 우주 식민지 개척으로, 또는 재료과학의 대진보에서 뇌-컴퓨터 인터페이스의 혁명까지—는 정말 놀라울 수 있습니다. 많은 사람들은 지금처럼 삶을 유지하겠지만, 일부는 '접속된 삶'을 선택할 수도 있을 것입니다.
미래를 상상하는 건 어렵지만, 살아가는 것은 아마 인상적이되 감당 가능한 수준일 것입니다. 상대성적 관점에서 보면, 특이점은 조금씩 진행되며, 합병은 서서히 이뤄집니다. 우리는 기술 진보의 긴 곡선을 올라가고 있습니다. 앞으로 보면 항상 수직처럼 보이고, 뒤돌아보면 평평해 보이지만, 사실은 하나의 부드러운 곡선입니다. (2020년에 2025년쯤 AGI 비슷한 걸 갖게 될 거라고 말했다면 그게 더 미친 소리처럼 들렸을 것입니다.)
중대한 도전과 엄청난 기회가 공존합니다. 우리는 기술적, 사회적으로 AI 안전 문제를 해결해야 하며, 그 다음엔 초지능을 경제적으로 저렴하고, 광범위하게 접근 가능하게 만들며, 특정 개인이나 기업, 국가에 과도하게 집중되지 않도록 해야 합니다. 사회는 회복력 있고 창의적이며, 빠르게 적응합니다. 우리가 사람들의 집단적 의지와 지혜를 활용할 수 있다면, 실수도 많고 문제도 생기겠지만, 우리는 빠르게 배우고 적응하여 이 기술을 최대의 기회와 최소의 위협으로 활용할 수 있을 것입니다. 사용자에게 넓은 자유를 주는 것이 중요하며, 이 자유는 사회가 정해야 할 폭넓은 기준 내에서 이루어져야 합니다. 이 기준을 정의하는 전 세계적 대화가 빨리 시작될수록 좋습니다.
우리는 (OpenAI만이 아닌 전체 산업이) 세계를 위한 두뇌를 만들고 있습니다. 그것은 극도로 개인화되고, 모두가 쉽게 사용할 수 있을 것이며, 우리의 한계는 아이디어의 품질이 될 것입니다. 한동안, 기술 업계에서는 “아이디어만 있는 사람들”을 조롱해 왔습니다. 하지만 이제 그들이 빛을 볼 시간이 온 것 같습니다.
OpenAI는 지금 많은 역할을 하지만, 그 무엇보다도 초지능 연구 회사입니다. 우리가 해야 할 일은 많지만, 이제 대부분의 길은 밝혀졌고, 어두운 영역은 빠르게 사라지고 있습니다. 우리는 우리가 하는 일을 할 수 있어 놀라울 만큼 감사한 마음을 갖고 있습니다.
“계량 불가능할 정도로 저렴한 지능(intelligence too cheap to meter)”은 이제 손에 닿을 거리 안에 있습니다. 이 말이 미친 소리처럼 들릴 수도 있겠지만, 2020년에 지금 우리가 있는 곳을 예측했다면 더 말도 안 되는 얘기처럼 들렸을 것입니다.
우리가 초지능까지 매끄럽고, 지수적으로, 그리고 무탈하
게 확장되기를 바랍니다.
---
우리는 이미 사건의 지평선을 넘어섰고, 이륙은 시작되었습니다. 인류는 디지털 초지능을 구축하는 데 가까워졌고, 지금까지의 진행 상황은 우리가 예상했던 것만큼 이상하지는 않습니다.
로봇이 거리에서 걷고 있지는 않으며, 대부분의 사람들이 하루 종일 AI와 대화하지도 않습니다. 사람들은 여전히 질병으로 죽고, 우리는 아직 쉽게 우주로 갈 수 없으며, 우주에 대해 모르는 것이 여전히 많습니다.
그럼에도 불구하고, 우리는 최근에 사람보다 더 똑똑한 시스템들을 만들었고, 그것들을 사용하는 사람들의 생산성을 크게 증폭시킬 수 있습니다. 가장 불가능해 보였던 부분은 이미 지나갔습니다. GPT-4와 O3와 같은 시스템을 가능하게 만든 과학적 통찰들은 어렵게 얻어낸 것이지만, 우리를 아주 멀리까지 데려갈 수 있습니다.
AI는 여러 방식으로 세상에 기여할 것이며, 더 빠른 과학 발전과 생산성 향상이 가져올 삶의 질 향상은 엄청날 것입니다. 미래는 지금보다 훨씬 더 나아질 수 있습니다. 과학적 진보는 전반적인 진보의 가장 큰 동력이며, 우리가 얼마나 더 많은 것을 가질 수 있을지를 생각하는 것은 매우 흥미롭습니다.
어떤 큰 의미에서는, ChatGPT는 이미 역사상 그 어떤 인간보다도 강력합니다. 수억 명의 사람들이 매일, 점점 더 중요한 작업에 그것을 의존하고 있습니다. 작은 새로운 기능이 엄청난 긍정적 영향을 가져올 수 있고, 작은 비정렬이 수억 명에게 곱해지면 큰 부정적 영향을 초래할 수 있습니다.
2025년에는 실제 인지 작업을 수행할 수 있는 에이전트들이 등장했습니다. 프로그래밍은 이제 결코 예전 같지 않을 것입니다. 2026년에는 새로운 통찰을 스스로 발견할 수 있는 시스템들이 등장할 것이고, 2027년에는 실제 세계에서 작업을 수행할 수 있는 로봇들이 등장할 수 있습니다.
더 많은 사람들이 소프트웨어와 예술을 창조할 수 있게 될 것입니다. 하지만 세상은 그것들을 훨씬 더 많이 원하고 있으며, 전문가들은 새로운 도구를 받아들이는 한 여전히 초보자보다 훨씬 뛰어날 것입니다. 2030년의 개인 생산성은 2020년과 비교해 엄청나게 달라질 것이며, 많은 사람들이 그로부터 이득을 얻는 방법을 찾아낼 것입니다.
가장 중요한 방식에서는, 2030년대가 그렇게 와일드하게 달라지지는 않을 수도 있습니다. 사람들은 여전히 가족을 사랑하고, 창의성을 표현하고, 게임을 하며, 호수에서 수영할 것입니다.
하지만 여전히 중요한 다른 방식에서는, 2030년대는 인류 역사상 완전히 새로운 시대가 될 가능성이 높습니다. 우리는 인간 수준을 훨씬 넘어서는 지능이 어디까지 갈 수 있는지 모르지만, 곧 알게 될 것입니다.
2030년대에는 지능과 에너지—즉, 아이디어와 아이디어를 실현하는 능력—가 매우 풍부해질 것입니다. 이 두 가지는 오랫동안 인간 발전의 근본적인 제약이었지만, 풍부한 지능과 에너지(그리고 좋은 거버넌스)가 있다면, 이론상 우리는 무엇이든 가질 수 있습니다.
우리는 이미 엄청난 디지털 지능과 함께 살고 있고, 초기 충격이 지나자 대부분의 사람들은 금방 익숙해졌습니다. 아주 멋지게 작성된 문단을 AI가 생성할 수 있다는 것에 놀라다가, 곧 그것이 소설 전체를 쓸 수 있기를 기대하게 됩니다. 생명을 구하는 의학적 진단이 가능한 것에 놀라다가, 이제는 치료법을 개발하길 기대합니다. 작은 프로그램을 만드는 것에 놀라다가, 이제는 완전히 새로운 회사를 만들 수 있기를 바랍니다. 이것이 특이점이 진행되는 방식입니다: 경이로움은 일상이 되고, 그 다음엔 기본 요건이 됩니다.
이미 과학자들로부터 AI 덕분에 이전보다 생산성이 2~3배 증가했다는 이야기를 듣고 있습니다. 고급 AI가 흥미로운 이유는 많지만, 그 중에서도 가장 중요한 것은 더 나은 AI를 더 빠르게 연구할 수 있게 되었다는 점입니다. 새로운 컴퓨팅 기반, 더 나은 알고리즘, 그리고 그 외의 놀라운 것들을 발견할 수 있을지도 모릅니다. 10년 치 연구를 1년 또는 1개월 안에 할 수 있다면, 진보 속도는 당연히 전혀 달라질 것입니다.
우리가 지금까지 만든 도구들은 앞으로 더 나은 과학적 통찰을 발견하고, 더 나은 AI 시스템을 만드는 데 도움을 줄 것입니다. 물론 이것이 AI가 완전히 자율적으로 자기 코드를 고치는 것과 같지는 않지만, 일종의 유충 단계의 자기 개선이라고 할 수 있습니다.
그 외에도 자가강화 루프들이 작동 중입니다. AI의 경제적 가치 창출은 인프라 구축의 플라이휠을 돌리기 시작했습니다. 로봇이 다른 로봇을 만들고, 어느 의미에서는 데이터센터가 또 다른 데이터센터를 만드는 것이 그렇게 먼 미래는 아닙니다.
초기에는 100만 대의 인간형 로봇을 전통적인 방식으로 만들어야 할 수도 있지만, 그 이후에는 그들이 공급망 전체—광물 채굴과 정제, 트럭 운전, 공장 운영 등—를 운영할 수 있다면, 그 속도는 분명히 전혀 다른 수준이 될 것입니다.
데이터센터 생산이 자동화되면, 지능의 비용은 결국 전기 비용 수준까지 수렴할 수 있습니다. (사람들은 ChatGPT 쿼리에 얼마나 에너지가 드는지 궁금해합니다. 평균 쿼리는 약 0.34와트시를 사용합니다. 이는 오븐이 1초 넘게 작동할 때 쓰는 전기량이거나, 고효율 전구가 몇 분간 사용할 전기량입니다. 물은 약 0.000085갤런, 즉 작은 티스푼의 15분의 1 정도입니다.)
기술 발전 속도는 계속 가속화될 것입니다. 사람들은 거의 어떤 상황에도 적응할 수 있습니다. 직업 계층 전체가 사라지는 것처럼 매우 어려운 문제들도 있겠지만, 반면에 세상은 너무 빠르게 부유해지고 있기 때문에 과거에는 상상도 못 했던 새로운 정책 아이디어들을 진지하게 논의할 수 있게 될 것입니다. 우리는 새로운 사회 계약을 하루아침에 채택하지는 않겠지만, 수십 년 후 돌아보면 점진적 변화들이 무언가 거대한 것으로 이어졌음을 알게 될 것입니다.
역사가 증명하듯이, 우리는 새로운 일을 찾고, 새로운 욕망을 만들며, 새로운 도구를 빠르게 동화시킵니다. (산업혁명 이후의 직업 변화가 좋은 예입니다.) 기대치는 높아지겠지만, 능력도 그에 맞춰 높아지고, 우리는 더 나은 것들을 얻게 될 것입니다. 우리는 서로를 위해 점점 더 놀라운 것들을 만들 것입니다. AI와 달리, 인간은 다른 사람을 신경 쓰고, 다른 사람의 행동과 생각에 관심을 가지도록 하드코딩되어 있습니다.
1,000년 전의 자급농은 오늘날 우리의 일자리를 보면 그것들이 가짜 직업처럼 보일 것입니다. 충분한 음식과 상상도 못할 사치를 누리면서 게임이나 하고 있는 것처럼 보일 수 있습니다. 저는 앞으로 1,000년 후의 사람들이 하는 일도 똑같이 가짜처럼 보일 것이고, 그 일을 하는 사람들은 그 일이 매우 중요하고 만족스럽다고 느낄 것이라 확신합니다.
새로운 경이로움이 매년 달성되는 속도는 엄청날 것입니다. 지금은 상상도 안 되겠지만, 2035년까지 우리가 발견하게 될 것들—고에너지 물리학 해결에서 우주 식민지 개척으로, 또는 재료과학의 대진보에서 뇌-컴퓨터 인터페이스의 혁명까지—는 정말 놀라울 수 있습니다. 많은 사람들은 지금처럼 삶을 유지하겠지만, 일부는 '접속된 삶'을 선택할 수도 있을 것입니다.
미래를 상상하는 건 어렵지만, 살아가는 것은 아마 인상적이되 감당 가능한 수준일 것입니다. 상대성적 관점에서 보면, 특이점은 조금씩 진행되며, 합병은 서서히 이뤄집니다. 우리는 기술 진보의 긴 곡선을 올라가고 있습니다. 앞으로 보면 항상 수직처럼 보이고, 뒤돌아보면 평평해 보이지만, 사실은 하나의 부드러운 곡선입니다. (2020년에 2025년쯤 AGI 비슷한 걸 갖게 될 거라고 말했다면 그게 더 미친 소리처럼 들렸을 것입니다.)
중대한 도전과 엄청난 기회가 공존합니다. 우리는 기술적, 사회적으로 AI 안전 문제를 해결해야 하며, 그 다음엔 초지능을 경제적으로 저렴하고, 광범위하게 접근 가능하게 만들며, 특정 개인이나 기업, 국가에 과도하게 집중되지 않도록 해야 합니다. 사회는 회복력 있고 창의적이며, 빠르게 적응합니다. 우리가 사람들의 집단적 의지와 지혜를 활용할 수 있다면, 실수도 많고 문제도 생기겠지만, 우리는 빠르게 배우고 적응하여 이 기술을 최대의 기회와 최소의 위협으로 활용할 수 있을 것입니다. 사용자에게 넓은 자유를 주는 것이 중요하며, 이 자유는 사회가 정해야 할 폭넓은 기준 내에서 이루어져야 합니다. 이 기준을 정의하는 전 세계적 대화가 빨리 시작될수록 좋습니다.
우리는 (OpenAI만이 아닌 전체 산업이) 세계를 위한 두뇌를 만들고 있습니다. 그것은 극도로 개인화되고, 모두가 쉽게 사용할 수 있을 것이며, 우리의 한계는 아이디어의 품질이 될 것입니다. 한동안, 기술 업계에서는 “아이디어만 있는 사람들”을 조롱해 왔습니다. 하지만 이제 그들이 빛을 볼 시간이 온 것 같습니다.
OpenAI는 지금 많은 역할을 하지만, 그 무엇보다도 초지능 연구 회사입니다. 우리가 해야 할 일은 많지만, 이제 대부분의 길은 밝혀졌고, 어두운 영역은 빠르게 사라지고 있습니다. 우리는 우리가 하는 일을 할 수 있어 놀라울 만큼 감사한 마음을 갖고 있습니다.
“계량 불가능할 정도로 저렴한 지능(intelligence too cheap to meter)”은 이제 손에 닿을 거리 안에 있습니다. 이 말이 미친 소리처럼 들릴 수도 있겠지만, 2020년에 지금 우리가 있는 곳을 예측했다면 더 말도 안 되는 얘기처럼 들렸을 것입니다.
우리가 초지능까지 매끄럽고, 지수적으로, 그리고 무탈하
게 확장되기를 바랍니다.
2030년에 내가 디지털이 될수있게 해달라는거셈
특이점 어서 와야 함