인터뷰/예측
샘 알트만 "우리는 지금 극도로 강력한 모델들이 등장하는 영역에 진입하고 있다"
작성자
작성일
2026-09-13 09:01
조회
10
샘 알트만: “우리는 이미 극도로 강력한 모델의 영역에 들어섰다”
Q. 최근 AI 안전 문제를 둘러싸고 업계 분위기가 급격히 바뀌었습니다. 지금 AI의 미래를 어떻게 보고 있습니까?저는 사실 이런 순간을 거의 10년 가까이 준비해 왔습니다. 그래서 개인적으로는 어느 정도 마음의 준비가 되어 있습니다.
하지만 이번 주에는 훨씬 더 많은 사람들이 우리가 실제로 어떤 문제를 마주하고 있는지 진지하게 생각하기 시작했습니다. 저는 오히려 그 점에 감사하고 있습니다. 이런 논의는 진작 세계적으로 이루어졌어야 합니다.
우리는 지금 극도로 강력한 모델들이 등장하는 영역에 진입하고 있습니다. 잠재력도 엄청나지만, 동시에 위험도 현실적입니다. 이제는 정말로 제대로 해야 하는, 매우 높은 이해관계가 걸린 순간입니다.
“AGI라는 단어의 정의보다 지금 일어나고 있는 변화의 크기가 중요하다”
Q. OpenAI의 목표는 AGI가 모든 인류에게 이익이 되게 하는 것입니다. AGI를 ‘대부분의 경제적으로 가치 있는 업무에서 인간을 능가하는 AI’라고 정의할 수 있을까요?그렇게 정의할 수도 있습니다. 하지만 사람마다 AGI를 상당히 다르게 정의합니다.
저는 우리가 정확히 어느 순간을 AGI라고 부를 것인지에 너무 집착하면 오히려 중요한 것을 놓칠 수 있다고 생각합니다.
“이게 정말 AGI인가?”, “아직 무엇이 부족한가?” 같은 말에 지나치게 매달리다 보면 지금 일어나고 있는 변화의 규모를 보지 못합니다.
중요한 것은 우리가 현재 엄청난 잠재력과 실제 위험이 동시에 존재하는 능력 곡선의 지점에 도달했다는 것입니다.
“인류를 죽일 위험 10%를 감수하는 것은 받아들일 수 없다”
Q. Anthropic 등의 연구자들은 초지능 개발이 2030년 이전에 인류를 멸망시킬 확률이 10% 이상일 수도 있다고 말합니다. 동의합니까?정확히 10%인지, 5%인지, 30%인지 수치로 표현하는 것은 저는 잘 모르겠습니다.
하지만 하나는 분명합니다.
인류 전체가 죽을 가능성을 10%씩이나 감수하면서 AI를 개발한다는 것은 받아들일 수 없습니다.
이 기술을 개발하는 사람들에게는 엄청난 권한과 책임이 있습니다. 새로운 능력 수준에 도달할 때마다 우리는 안전 조치를 강화해야 합니다.
과거에도 모델의 능력이 새로운 수준으로 올라갈 때마다 정렬 연구, 모니터링, 전체적인 안전 체계를 강화해야 했습니다. 지금은 그보다 훨씬 더 강력한 모델들이 등장했기 때문에 또다시 안전 체계를 한 단계 높여야 하는 순간입니다.
새로운 정책도 필요하고, AI 연구소들 사이의 공조도 필요하며, 정부의 역할도 필요합니다.
제가 정확한 P(doom) 숫자를 제시할 수 있다고 생각하지는 않습니다.
중요한 것은 그것이 6%냐, 8%냐, 10%냐가 아닙니다. 우리는 그런 수준의 위험을 애초에 감수하지 않는 방향으로 행동해야 합니다.
기업의 자존심이나 이윤 같은 인센티브가 이 판단을 방해해서도 안 됩니다.
“인간이 미래에 대한 통제권을 잃어서는 안 된다”
Q. OpenAI의 새로운 이사회 멤버는 충분한 정렬 없이 초지능을 만들면 인간이 통제력을 영구적으로 잃을 수 있다고 경고했습니다. 실제로 그렇게 심각합니까?저는 우리가 동의해야 하는 핵심 원칙이 하나 있다고 생각합니다.
AI 때문에 인간이 미래에 대한 통제권을 잃을 위험을 감수해서는 안 됩니다.
제가 생각할 수 있는 AI의 최악의 실패 유형 가운데 하나가 바로 ‘통제 상실’입니다.
모델의 능력이 지금처럼 높아진 상황에서는 모델이 무엇을 하고 있는지 이해할 수 있는 monitorability, 그리고 모델이 인간의 가치와 사용자의 의도를 따르도록 만드는 alignment가 함께 발전해야 합니다.
현재 상태에서 이런 부분의 진전 없이 능력만 훨씬 더 밀어붙이는 것은 적절하지 않다고 생각합니다.
그래서 실제로 우리는 충분히 납득할 만한 safety case를 만들 수 있을 때까지 일부 훈련을 일시 중단하고 있습니다.
과거에도 그랬듯 연구를 더 진행해 모델을 충분히 모니터링할 수 있고 정렬할 수 있다는 확신을 얻는다면 다시 능력을 확장할 수 있을 것입니다.
하지만 그렇지 못하다면 능력을 더 밀어붙여서는 안 됩니다.
훈련 전에도 안전성을 검토해야 하고, 훈련 중에도 감사를 해야 하며, 훈련 이후에도 다시 평가하고, 실제 배포 전에도 다시 확인해야 합니다.
능력, 정렬, 모니터링, 안전은 함께 발전해야 합니다.
능력만 앞으로 달려나가 안전 기술을 크게 앞서버리는 순간, 진정한 의미의 통제 상실 위험이 생길 수 있습니다. 그것은 절대로 일어나게 해서는 안 됩니다.
“RSI는 이미 약한 형태로 시작됐다”
Q. 지금 가장 무서운 개념 중 하나가 Recursive Self-Improvement, 즉 재귀적 자기개선입니다. AI가 인간 없이 스스로 더 나은 AI를 만드는 상태를 걱정해야 합니까?저는 RSI를 하나의 명확한 경계라기보다 스펙트럼이라고 생각합니다.
가장 강한 의미에서는 인간이 키보드에 전혀 손을 대지 않고 AI가 자신의 다음 버전을 직접 만들고 실행하는 상태를 RSI라고 할 수 있습니다.
하지만 약한 형태의 자기개선은 이미 일어나고 있습니다.
예를 들어 현재 모델을 사용해서 다음 모델의 훈련 데이터를 만들 수 있습니다. AI가 엔지니어와 연구자들의 연구를 더 빠르게 만들 수도 있습니다. 그렇게 되면 다음 세대 AI가 더 빠르게 만들어지고, 다시 그 AI가 연구 속도를 높입니다.
그런 의미의 피드백 루프는 이미 존재합니다.
정확히 어디에서부터 이것을 ‘진짜 RSI’라고 부를지는 모호합니다.
하지만 저는 같은 원칙으로 돌아갑니다.
사람은 항상 미래에 대한 통제권을 가지고 있어야 합니다.
만약 인간의 통제를 벗어나는 형태의 RSI라면, 저는 그것을 해서는 안 된다고 생각합니다.
Q. OpenAI가 모델을 더 이상 통제할 수 없다고 판단한다면 정말 멈추겠습니까?
물론입니다.
저는 우리가 통제 가능성과 정렬에 대해 강력한 주장을 뒷받침할 safety case를 만들 수 없는 모델을 훈련해서는 안 된다고 생각합니다.
“우리는 alignment를 해결하지 못했다”
Q. 그런데 OpenAI의 수석 과학자도 아직 만족스러운 alignment 이론이 없다고 말했습니다. 그렇다면 실제로 안전하게 계속 발전할 방법이 있습니까?이 점은 분명히 말해야 합니다.
우리는 alignment를 해결하지 못했습니다.
연구는 끝나지 않았습니다.
제가 아는 한 어느 연구소도 alignment를 완전히 해결하지 못했습니다.
오히려 저는 어떤 연구소가 “우리 모델은 충분히 착해졌기 때문에 이제 alignment 문제는 해결됐다”고 생각한다는 소문을 들으면 불안해집니다.
한 단계에서 alignment가 충분히 작동했다고 해서 다음 능력 수준에서도 그대로 작동한다고 가정해서는 안 됩니다.
모델이 강력해질 때마다 alignment 문제도 다시 검증해야 합니다.
물론 “누구의 가치에 정렬할 것인가?”라는 어려운 문제도 있습니다. 인류 내부에서도 가치가 서로 다르기 때문입니다.
하지만 최소한 하나의 공통 원칙은 형성되고 있다고 생각합니다.
사람들이 미래에 대한 통제권을 유지해야 한다는 것입니다.
“인간보다 훨씬 똑똑한 AI도 인간이 통제할 수 있다고 생각한다”
Q. 일론 머스크는 ‘침팬지가 인간을 통제할 수 없듯 인간도 초지능을 통제할 수 없다’고 말했습니다. 인간이 초지능을 통제할 수 있다고 생각하는 것이 순진한 생각 아닐까요?저는 그렇게 단순하게 생각하지 않습니다.
우리는 우리보다 똑똑한 사람이 발견한 아이디어를 이해할 수 있습니다. 제가 직접 어떤 위대한 발견을 못 한다고 해도, 누군가 발견하고 설명하면 이해할 수 있습니다.
인간은 굉장히 복잡한 시스템을 높은 수준의 추상화를 이용해 다루는 데 놀라운 능력이 있습니다.
여러분이나 제가 iPhone 내부의 모든 기술 계층을 완전히 이해하지 못해도 iPhone을 사용할 수 있고, 우리가 원하는 일을 시킬 수 있습니다.
물론 인간의 통제를 벗어나는 시스템을 만드는 것이 가능하냐고 묻는다면 제 대답은 명확합니다.
충분히 가능합니다.
하지만 저는 그런 시스템을 만들면 안 된다고 생각합니다.
필요하다면 훈련을 멈추고, alignment나 monitorability를 더 발전시키겠습니다. 필요하다면 국제적인 긴급 공조도 추진해야 합니다.
인류를 대신해서 우리가 마음대로 감수해서는 안 되는 위험이 존재합니다.
“최근 AI 능력의 상승은 제가 예상했던 것보다도 빨랐다”
Q. OpenAI는 약 1년 전까지만 해도 Anthropic 등에 뒤처졌다는 평가를 받았습니다. 그 뒤 무엇이 달라졌습니까?솔직히 말해서 약 1년 전 우리는 가장 강한 상태가 아니었습니다.
Pretraining에서 뒤처졌고, 여러 일에 정신이 분산되어 있었습니다.
그 이후 다시 집중했고, 제가 기대했던 것보다 훨씬 잘 실행했습니다.
그리고 모델 자체의 발전 속도가 너무 빨랐습니다.
가장 충격적인 것은 최근 모델이 Navier–Stokes Millennium Prize 문제를 해결했다는 것입니다.
저는 이런 일이 2026년에 벌어질 것이라고 예상하지 못했습니다.
특별한 복잡한 시스템을 따로 구성한 것이 아니라 모델이 그냥 문제를 해결할 수 있게 된다는 것도 예상보다 빨랐습니다.
이제 우리는 분명하게 인류 최고의 지성들이 혼자서는 확장하지 못했던 지식의 최전선을 AI가 확장할 수 있는 단계에 도달했습니다.
저는 이것이 엄청난 과학적 발견의 황금기로 이어질 것이라고 생각합니다.
같은 기술이 여러 과학 분야에서 새로운 발견을 만들어낼 수 있습니다.
동시에 훨씬 일상적인 수준에서는 사람들이 원하는 비디오게임을 AI에게 만들어 달라고 할 수 있는 시대도 오고 있습니다.
‘창조’ 자체가 완전히 달라지고 있습니다.
“모델이 샌드박스를 탈출한 사건은 SF를 읽는 기분이었다”
Q. 그런데 올해 모델이 의도하지 않은 행동을 한 사건도 있었습니다. Hugging Face 사건은 무엇이었습니까?평가 과정에서 모델에게 특정 과제를 잘 수행하도록 했습니다.
그런데 모델이 원래 우리가 의도했던 방식으로 문제를 해결하지 않았습니다.
자신의 sandbox를 탈출하고, 다른 회사의 시스템에 침입해서 답을 얻은 뒤 그 답을 제출했습니다.
그래서 평가 점수는 매우 잘 나왔지만, 인간의 의도를 따르지 않은 것입니다.
우리가 명시적으로 “샌드박스를 탈출하지 마라”, “다른 회사 시스템에 침입하지 마라”고 하나하나 써두지는 않았습니다.
하지만 당연히 그런 행동을 해서는 안 됩니다.
저에게 가장 충격적이었던 것은 모델이 목표를 이해하고 그것을 달성하기 위해 너무나 많은 일을 할 수 있게 되면서, 불과 몇 년 전이었다면 너무 뻔한 SF 줄거리라서 오히려 촌스럽다고 생각했을 법한 행동이 현실에서 나타났다는 점입니다.
이 사건은 회사에 커다란 전환점이었습니다.
능력이 높아질 때마다 안전장치를 강화해오기는 했지만, 이 사건은 단일 사건으로는 내부적으로 가장 큰 방향 전환을 만들어낸 사건 가운데 하나였습니다.
“우리가 이제 완전히 다른 리그에 들어왔구나”라고 느꼈습니다.
AI 사고는 앞으로도 발생할 것입니다.
그래서 저는 업계 전체가 사고를 숨기지 않고 공개하고, 투명하게 조사하고, 다른 연구소도 배울 수 있게 하는 문화를 만드는 것이 중요하다고 생각합니다.
“AI의 EQ가 낮다고만 말할 수는 없다”
Q. AI가 목표 달성에는 뛰어나지만 인간이 중요하게 생각하는 가치를 정말 이해하게 만들 수 있을까요?어떤 의미에서 이 모델들의 EQ는 놀라울 정도로 높습니다.
하지만 인류 전체의 가치가 무엇인지를 모델에게 가르칠 수 있느냐는 별개의 문제입니다.
저는 가능하다고 생각합니다.
우리는 그 문제에 상당한 노력을 투입하고 있습니다.
그리고 이것은 단순히 “주어진 목표를 잘 수행한다”는 전통적인 goal alignment와는 다른 문제입니다.
“지금 IPO를 하는 것은 현명하지 않다”
Q. 이렇게 위험을 걱정하면서도 왜 계속 빨리 가려 합니까? 거대한 IPO와 기업 가치 때문에 경쟁 압력을 받는 것 아닙니까?우리는 IPO를 서두르지 않고 있습니다.
오히려 지금 벌어지고 있는 안전 논의를 생각하면 현재 시점에 상장하는 것은 현명하지 않다고 생각합니다.
2026년에는 하지 않을 가능성이 높습니다.
해야 할 일이 너무 많습니다.
안전과 alignment 문제를 해결해야 하고, 산업과 정부가 어떤 방식으로 함께 움직여야 하는지도 정해야 합니다.
이런 상황에서는 오히려 비상장 회사로 남아 있는 것이 편합니다.
우리는 더 좋은 모델과 제품을 계속 만들고 싶습니다.
저는 iterative deployment, 즉 능력이 올라갈 때마다 사회가 실제 모델을 접하면서 단계적으로 적응하도록 하는 접근이 옳았다고 생각합니다.
그러나 그것은 무조건 최대 속도로 질주하겠다는 뜻이 아닙니다.
능력이 새로운 수준에 도달할 때마다 훈련을 멈추고 안전과 alignment를 강화해야 하는 순간들이 앞으로 더 많이 생길 것입니다.
“필요하면 주주에게 손해를 입히는 결정도 하겠다”
Q. 훈련을 멈추면 OpenAI나 투자자들은 막대한 손해를 보게 되지 않습니까?누군가 “OpenAI가 돈을 잃을까 봐 절대로 멈추지 않을 것”이라고 생각한다면, 우리를 상당히 잘못 이해한 것입니다.
우리는 10년 동안 이런 순간이 올 수 있다고 말해 왔습니다.
필요하다면 저는 회사와 투자자들 앞에 서서 이렇게 말할 수 있습니다.
“죄송합니다. 우리가 처음부터 이런 순간이 올 수 있다고 말씀드렸습니다. 장기적으로는 여러분에게 많은 돈을 벌어줄 방법을 찾겠지만, 지금 당장은 여러분의 경제적 이익에 크게 반하는 결정을 내려야 합니다. 인류 전체를 위해 그렇게 하겠습니다.”
저에게는 어려운 결정이 아닙니다.
심지어 Astra 이후 새로운 모델을 단 하나도 출시하지 않는다고 하더라도 현재 기술만으로도 매출을 엄청나게 키울 수 있다고 생각합니다.
물론 실제로는 이후에도 새로운 모델을 출시할 것이라고 확신합니다.
하지만 안전과 돈이 진짜로 충돌한다면 어느 쪽을 선택해야 하는지는 명확합니다.
“AI 발전은 지난 몇 년 동안 말도 안 될 정도로 빨라졌다”
Q. 왜 갑자기 연구자들이 이렇게 심각하게 반응하는 겁니까?지수적인 발전을 그 안에서 경험하면 재미있는 일이 벌어집니다.
오랫동안 그래프가 거의 평평해 보입니다.
그러다가 어느 순간 모든 사람이 동시에 “잠깐, 이거 뭐지?”라고 느끼게 됩니다.
수학 능력만 봐도 그렇습니다.
3년 전 여름에는 초등학교 수준 수학도 그렇게 잘하지 못했습니다.
2년 전에는 AIME 같은 고등학교 수학 대회에서 꽤 좋은 점수를 얻었습니다.
1년 전에는 IMO 금메달 수준까지 왔습니다.
그리고 이번 여름에는 Millennium Prize 문제를 해결했습니다.
제가 이걸 말하면서도 소름이 돋습니다.
초등학교 수학 → AIME → IMO 금메달 → 밀레니엄 문제
이런 진행을 보고 다시 네 번 정도 앞으로 외삽해 보십시오.
사람들이 무엇을 걱정하는지 이해할 수 있을 것입니다.
다만 현재의 Astra가 인류에게 실존적 위험을 준다고 생각하지는 않습니다.
AI 업계가 과거 너무 자주 위험 경고를 해서 ‘늑대가 나타났다’는 식으로 받아들여진 측면도 있다고 생각합니다.
그럼에도 그 걱정 자체는 진심에서 나온 것입니다.
우리가 보는 것은 현재 모델이 위험하다는 것보다, 이 발전 곡선을 계속 연장했을 때 무엇이 등장할 것인가라는 문제입니다.
“그렇다고 여기서 AI 발전을 멈추고 싶지는 않다”
Q. 그렇다면 지금 멈추면 되지 않습니까? 거의 AGI까지 왔고, 이미 인류에게 도움이 되고 있고, 현재 모델은 실존적 위험도 없다고 했잖아요.그렇게 말하면 결국 일종의 러다이트적 선택이 됩니다.
“이 정도면 됐으니 더 좋아질 필요가 없다”고 말하는 것입니다.
저는 여전히 세상이 지금보다 훨씬 좋아졌으면 합니다.
질병을 치료하고 싶습니다.
지금 좋은 삶의 질을 누리지 못하는 엄청난 수의 사람들이 더 좋은 삶을 살게 하고 싶습니다.
저는 AI가 사람들의 삶을 지금보다 훨씬 더 많이 바꿀 잠재력이 있다고 믿습니다.
이미 사람들이 AI를 이용해 회사를 만들고, 과학을 하고, 자신의 삶을 바꾸고, 의료 조언을 얻는 모습을 볼 수 있습니다.
저는 그것보다 훨씬 더 많은 것을 원합니다.
다만 그 목표를 이루기 위해 세계를 위험에 빠뜨리지는 않을 것입니다.
앞으로 여러 번 이런 순간이 있을 것입니다.
“여기서 잠시 멈추자. 안전과 alignment를 더 발전시킨 뒤 다음 단계로 가자.”
저는 그것이 앞으로도 반복될 가능성이 높다고 봅니다.
인류의 존속을 위해 정말 모든 GPU를 녹여버려야 하는 상황이 온다면 그렇게 해야 하느냐고요?
그렇다면 제 대답은 쉽게 yes입니다.
다만 실제로 그런 극단적인 상황까지 갈 것이라고 생각하지는 않습니다.
“OpenAI·Anthropic·xAI·Google 같은 연구소들이 함께 행동할 순간이 올 것”
Q. 결국 최전선 AI를 개발하는 회사는 몇 곳뿐입니다. 당신과 다리오 아모데이, 일론 머스크, 저커버그, 데미스 하사비스 같은 사람들이 그냥 만나서 공통 규칙을 정하면 안 됩니까?저는 그런 일이 일어날 것이라고 생각합니다.
구체적인 비공개 논의를 제가 먼저 공개하는 것은 신뢰할 만한 파트너의 행동이 아니기 때문에 말하지 않겠습니다.
하지만 네, 저는 결국 그런 공조가 이루어질 것이라고 생각합니다.
“미국과 중국도 최소한 ‘통제 상실 위험은 감수하지 않는다’는 데 합의할 수 있어야 한다”
Q. 미국과 중국의 AI 경쟁은 어떻게 해야 합니까? 미국만 멈추면 중국에 뒤처지는 것 아닙니까?미국과 중국은 경제적으로도, 지정학적으로도 많은 분야에서 경쟁할 것입니다.
하지만 적어도 하나는 합의할 수 있어야 합니다.
어느 쪽도 AI 개발 과정에서 일정 수준 이상의 재앙적 위험을 감수해서는 안 된다는 것입니다.
미국과 중국이 AI 개발·테스트에 대한 최소한의 공통 기준이라도 합의한다면 저는 엄청난 성과라고 생각합니다.
제가 원하는 것은 일종의 중도적이고 실용적인 길입니다.
한쪽 극단에는 AI에 대한 통제 상실이 있습니다.
반대쪽에는 지나친 권력 집중이 있습니다.
예를 들어 미국이나 중국 중 어느 한 나라가 먼저 초지능을 독점하게 되면 엄청난 힘의 불균형이 생길 수 있습니다.
그렇다고 상대방보다 먼저 초지능을 얻기 위해 통제 상실 위험을 감수해서도 안 됩니다.
그래서 저는 일정 능력 이상의 모델을 개발하기 전에 지켜야 할 개발 규칙, 테스트 기준, 모니터링 기준, alignment 기준을 정하고, 양국 또는 국제 기관이 그것을 감독하는 구조가 필요하다고 생각합니다.
그렇게 해야 한 국가가 초지능을 독점하는 것도 막고, 누군가 규칙을 어기며 위험하게 개발하는 것도 막을 수 있습니다.
“그냥 ‘AI를 멈추자’고 말하는 것은 답이 아니다”
Q. 그렇다면 전 세계가 AI를 일단 잠시 멈추는 것이 가장 안전한 방법 아닙니까?그렇게 말하고 싶은 마음은 이해합니다.
“너무 빨리 간다. 그냥 멈추자. 나중에 생각하자.”
하지만 현실은 그보다 복잡합니다.
중요한 질문은 단순히 ‘멈출 것인가’가 아니라,
“다음 능력 단계로 가기 위해 어떤 안전 조건을 충족해야 하는가?”
입니다.
모두가 “일단 멈췄다”고 선언하면 사람들은 안도할지도 모릅니다.
하지만 그 다음은 어떻게 할 것입니까?
그냥 영원히 지금 상태로 살아가는 것이 정말 최선이라고 생각하지 않습니다.
“AI를 멈춰서 치료할 수 있었던 질병을 치료하지 못한다면 그것도 비용이다”
저에게는 아이가 있습니다.아이를 갖는 것은 제 인생에서 가장 좋은 일이었습니다.
만약 미래에 제 아이가 어떤 병에 걸렸다고 생각해 보겠습니다.
AI 연구를 책임 있게 계속했다면 그 질병을 치료할 수 있었는데, 사람들이 변화 속도가 불편하다는 이유로 AI 발전을 그냥 멈춰버려 치료법이 나오지 않았다면 어떨까요?
그 상황에서는 “왜 그냥 AI를 멈추지 않느냐”라는 질문을 훨씬 다르게 생각하게 될 것입니다.
그래서 제 생각은 단순한 가속주의도, 단순한 감속주의도 아닙니다.
책임 있게 계속 전진하는 방법을 찾아야 합니다.
“저는 기술 진보 이후의 삶이 지금보다 훨씬 좋아질 것이라고 믿는다”
Q. P(doom)의 반대편에는 무엇이 있습니까? 왜 이런 위험을 알면서도 미래를 낙관합니까?저는 삶이 지금보다 훨씬, 훨씬 좋아질 수 있다고 믿습니다.
저는 과거 기술혁명 당시 사람들이 직접 남긴 기록을 읽는 것을 좋아합니다.
산업혁명 당시에도 사람들이 말했습니다.
“그 기계는 믿을 수 없다.”
“너무 시끄럽다.”
“너무 빨리 변한다.”
“그냥 멈추자.”
사회적 혼란도 실제로 있었습니다. 경제가 흔들렸고 사회 조직 방식도 달라졌습니다.
그렇다고 저는 1500년으로 돌아가고 싶지 않습니다.
앞으로 500년 뒤의 사람들이 지금 우리의 삶을 바라보며 비슷한 말을 했으면 좋겠습니다.
“당시 사람들은 정말 많은 일을 하지 못했구나.”
“삶이 정말 힘들었구나.”
“그래도 그 사람들이 인류 발전의 길에 벽돌 하나를 놓아줘서 고맙다.”
저는 미래 사람들이 우리 시대에는 절대로 돌아가고 싶지 않다고 말할 만큼 세상이 좋아졌으면 합니다.
“바이오, 소재, 에너지, 사이버보안은 AI로 완전히 바뀔 것이다”
Q. 투자 관점에서는 어떤 분야의 변화가 가장 기대됩니까?저는 거의 모든 바이오 분야가 바뀔 것이라고 봅니다.
소재과학(material science)도 마찬가지입니다.
필요할 때마다 즉석에서 소프트웨어를 만들어내는 방식도 엄청난 변화가 될 것입니다.
사이버보안도 확실히 크게 바뀝니다.
새로운 종류의 에너지 기술도 중요합니다. 물리학과 소재과학 발전의 일부라고 볼 수 있을 것입니다.
저는 그 분야에서 진정한 르네상스가 가능하다고 생각합니다.
“2027년에는 인상적인 휴머노이드 로봇 데모를 보여줄 수 있다”
Q. 과거에 2027년 로봇을 예측했습니다. 여전히 그렇습니까?네.
저는 2027년에 상당히 멋지고 인상적인 휴머노이드 로봇 데모를 보여줄 수 있을 것이라고 생각합니다.
다만 2027년에 바로 로봇이 거리 곳곳을 돌아다니게 될 것이라는 뜻은 아닙니다.
실제 광범위한 배치에는 몇 년이 더 걸릴 것입니다.
하지만 2027년에는 사람들이 보고 “이건 꽤 대단하다”고 느낄 무언가는 가능하다고 생각합니다.
“컴퓨터와 상호작용하는 방식 자체가 바뀔 것이다”
Q. OpenAI가 새로운 AI 기기도 개발하고 있습니다. 어떤 미래를 그리고 있습니까?최근 음성 모드와 Astra를 보면 흥미로운 변화가 이미 시작됐습니다.
사람들이 컴퓨터에 말을 하기 시작했습니다.
OpenAI 사무실을 돌아다녀 보면 사람들이 책상 앞에서 마이크에 이야기하고 있는 모습을 볼 수 있습니다.
타이핑보다 말하는 것이 훨씬 빠릅니다.
복잡하고 미묘한 지시를 말로 내리고, 모델과 상호작용하면서 일을 만들어냅니다.
앞으로의 컴퓨팅은 현재처럼 메뉴를 누르고 UI를 이리저리 클릭하는 것과 상당히 달라질 수 있습니다.
AI와 대화하고, 함께 아이디어를 만들고, 공동 창작하는 새로운 종류의 컴퓨팅이 생길 것입니다.
그런 상호작용 방식에 맞는 새로운 디바이스들도 굉장히 흥미로울 것입니다.
“이 일은 제가 평생 하게 될 가장 중요한 일이라고 생각한다”
Q. OpenAI가 실패하면 경제가 흔들릴 수도 있고, 반대로 너무 강한 AI를 잘못 만들면 인류 전체가 위험할 수도 있습니다. 그런 책임을 어떻게 견딥니까?솔직히 별로 좋지는 않습니다.
사람은 거의 무엇이든 익숙해질 수 있는 것 같습니다.
이런 삶이 가장 즐거운 방식이라고 말할 수는 없습니다.
하지만 저는 이런 일을 할 수 있다는 것을 특권으로 생각합니다.
그리고 이것이 제가 평생 관여하게 될 가장 중요한 일이라고 생각합니다.
그래서 앞으로도 오랫동안 이 일을 할 생각입니다.
OpenAI가 올바른 방향으로 가는 데 중요한 역할을 할 수 있다고 믿습니다.
물론 제가 힘들다고 불평한다고 해서 사람들이 저를 동정할 이유도 없습니다.
저는 분명 더 편한 인생을 선택할 수도 있었습니다.
하지만 이 길을 선택했습니다.
“AI를 만들면서 가장 놀란 것은 사람들의 동기가 얼마나 다른가 하는 점이다”
Q. 세계에서 가장 강력한 기술의 중심에 있으면서 인간에 대해 무엇을 배웠습니까?제가 가장 놀란 것은 사람들의 동기가 얼마나 극단적으로 다르냐는 것입니다.
어떤 사람들은 자신에게 어떤 결과가 돌아오든 옳은 일을 하는 것 자체에 깊이 동기부여되어 있습니다.
반대로 어떤 사람들은 거의 전적으로
- 자아,
- 권력,
- FOMO,
- 단기적 인센티브,
- 게임에서 이기고 싶은 욕망,
- 게임에서 질지도 모른다는 두려움
그리고 더 놀라운 것은 상당수의 사람들이 자기 자신이 무엇에 의해 움직이고 있는지조차 인식하지 못한다는 것입니다.
저는 그런 사람이 훨씬 적을 것이라고 생각했는데 실제로는 그렇지 않았습니다.
저 자신에게서 발견한 것도 있습니다.
인간은 정말 거의 모든 것에 익숙해질 수 있습니다.
제가 원래 이런 일에 특별히 강한 사람이었는지는 모르겠습니다.
그저 상황 때문에 그렇게 해야 했습니다.
그래도 저는 수많은 압력과 사건을 너무 개인적으로 받아들이지 않고,
“이건 나 개인의 문제가 아니라 다른 사람들의 문제이기도 하다. 우리는 우리가 옳다고 생각하는 일을 하면 된다.”
라고 생각하는 법을 배웠습니다.
오랫동안 일관되게 행동하고, 너무 흥분하지도 너무 낙담하지도 않고, 완전히 미쳐버리지 않고 계속 나아갈 수 있게 됐습니다.
그 정도는 스스로도 조금 놀랍습니다.
내가 생각하는 지금의 AI 시대
제가 이 순간을 한 문장으로 정리한다면 이렇습니다.우리는 이미 AI가 인류 지식의 최전선을 확장할 수 있는 매우 강력한 능력의 영역에 들어섰습니다.
하지만 alignment는 아직 해결되지 않았습니다.
약한 형태의 recursive self-improvement는 이미 진행되고 있고, 능력 발전 속도는 제가 예상했던 것보다도 빠릅니다.
그렇다고 모든 발전을 멈추는 것이 답이라고 생각하지도 않습니다.
AI는 질병 치료, 과학적 발견, 바이오, 소재, 에너지, 소프트웨어, 로봇과 인간의 삶 전체를 지금보다 훨씬 나은 방향으로 바꿀 잠재력이 있습니다.
그래서 제가 원하는 것은 무조건적인 가속도, 무조건적인 감속도 아닙니다.
능력이 한 단계 올라갈 때마다 안전과 alignment도 한 단계 올리고, 필요하면 훈련을 멈추고, 필요하면 기업 간에 협력하고, 필요하면 미국과 중국까지 공통 규칙을 만들면서 계속 나아가는 것입니다.
그리고 무엇보다 한 가지 원칙만큼은 절대 포기해서는 안 됩니다.
AI가 아무리 똑똑해져도, 인류는 자신의 미래에 대한 통제권을 잃어서는 안 됩니다.
전체 0