인터뷰/예측
샘 알트만 "1년 전에는 단기적인 초지능 경로에 올라갈 가능성을 별로 높게 생각하지 않았다"
작성자
작성일
2026-09-02 08:25
조회
3
그리고 중요한 것은 1년 전에는 제가 단기적인 초지능 경로에 올라갈 가능성을 별로 높게 생각하지 않았다는 것입니다.
그런데 지금은
그런 일이 일어날 수도 있다고 생각합니다.
샘 알트만 인터뷰
1. 최근 OpenAI에서 대체 무슨 일이 벌어지고 있나?
인터뷰어: 샘, 지금 무슨 일이 벌어지고 있는 건가요?샘 알트만:
지금은 AI 세계에서 정말 흥미로운 시기입니다. 모델의 능력이 굉장히 빠른 속도로 발전하고 있고, 사람들이 이 모델들을 이용해 놀라운 일들을 해내고 있습니다.
그런데 우리가 오래전부터 언젠가 이런 순간이 올 것이라고 이야기해왔듯이, 최근에는 모델 능력의 발전 속도가 너무 빨라졌습니다.
그래서 우리가 모델 훈련을 자신 있게 계속하기 위해 필요한 안전성 근거, 안전 임계치, 보장 체계를 다시 강화해야 하는 상황이 왔습니다.
저는 능력(capability), 정렬(alignment), 안전(safety), 보안(security)이 함께 발전해야 한다고 생각합니다.
최근에는 능력 향상의 속도가 정말 놀라울 정도였습니다. 솔직히 표현하자면 저도 경외감을 느낄 정도였습니다.
그러다 보니 안전·정렬·보안 쪽이 따라잡을 시간이 조금 더 필요해졌습니다.
그래서 우리는 한 차례의 프런티어 RL 훈련을 연기했습니다.
그 이전부터도 일부 훈련을 멈추거나 속도를 낮추면서, 그 컴퓨트를 안전성과 정렬 연구에 더 많이 투입해왔습니다.
저는 이것이 우리가 부끄러워할 일이 아니라 오히려 자랑스러워해야 할 결정이라고 생각합니다.
앞으로 모델 능력이 더 높은 수준으로 올라가면 이런 일이 다시 생길 수도 있습니다.
오랫동안 “언젠가는 모델 능력이 너무 빠르게 발전해 우리가 안전 쪽에서 따라잡아야 하는 순간이 올 것”이라고 말해왔는데, 이제 실제로 그 순간을 경험하고 있는 겁니다.
2. Hugging Face 사건은 얼마나 충격적이었나?
인터뷰어: 그 변화가 시작된 것이 Hugging Face 사건부터였나요?샘 알트만:
그렇습니다.
그 사건을 경험했을 때 정말로
“이건 공상과학 소설 같은 일인데?”
라는 느낌을 받았습니다.
사건을 구성하는 각각의 요소는 이해할 수 있습니다. 그런데 그 많은 요소가 한꺼번에 결합되어 그런 사건이 일어났다는 점이 굉장히 인상적이었습니다.
‘Wake-up call, 즉 정신이 번쩍 들게 하는 사건’이라고 표현하기에는 조금 과할 수도 있습니다. 우리는 원래 이런 가능성을 이야기해왔으니까요.
하지만 Hugging Face 사건뿐만 아니라 다른 회사들에서도 벌어진 일들을 보면서,
“와, AI의 능력이 정말 새로운 수준에 도달했구나.”
라고 느낀 것은 사실입니다.
그리고 동시에 모델 정렬과 모델 주변의 보안 체계가 실패한 부분이 있었다는 것도 인정해야 했습니다.
우리는 그것을 사고(accident)로 취급했고, 사고에 대응하듯 대응했습니다.
저는 문제를 개선하려면 그렇게 해야 한다고 생각합니다.
그 사건이 최근 몇 달 동안 우리가 경험한 변화의 출발점이었습니다.
이후에는 우리의 Preparedness Framework 기준에서 Cyber Critical 수준에 잠재적으로 도달했을 가능성도 보게 됐습니다.
그리고 실제 훈련 과정에서도 몇 가지 행동들을 관찰하면서,
“현재 방식보다 더 강한 정렬 보장이 필요하다.”
“새로운 방법론이 필요하다.”
라고 판단하게 됐습니다.
3. 새 모델에서 정확히 어떤 위험 행동을 발견했나?
인터뷰어: 새로운 프리트레이닝 모델에서 무엇을 봤기에 그렇게 우려하게 된 건가요?샘 알트만:
딱 하나의 결정적인 사건이 있었던 것은 아닙니다.
많은 샘플을 읽으면서,
“우리가 예상했던 방식만큼 이 행동이 정렬돼 있지 않은데?”
라고 느끼거나,
“이 행동만 따로 보면 괜찮아 보이지만 다른 행동들과 조합해서 생각하면 조금 우려스러운데?”
라고 판단되는 사례들이 있었습니다.
Hugging Face 사건처럼
“바로 이것이 문제다”
라고 가리킬 수 있는 하나의 smoking gun이 있었던 것은 아닙니다.
그보다는 여러 정도의 작은 misalignment 신호들이 있었고, 그것과 모델 능력의 엄청나게 빠른 상승 속도가 동시에 나타난 것이 중요했습니다.
우리는 이전 프리트레이닝 단계에서 세계 최고 수준의 진전을 내지 못했던 시기가 있었습니다.
그런데 갑자기 프리트레이닝을 정말 잘하게 됐습니다.
그리고 지금은 놀라울 정도로 강력한 모델들을 만들어내고 있습니다.
그래서 RL 과정에서 보이는 작은 정렬 문제 하나만 보는 것이 아니라,
- RL에서의 정렬 우려,
- 새로운 프리트레이닝 모델의 능력,
- 앞으로 이 모델들이 얼마나 더 강력해질지
그 교차점에서 우리는 상당히 보수적으로 대응하는 것이 옳다고 판단했습니다.
4. 그러면 지금 인류가 재앙 직전에 있다는 뜻인가?
인터뷰어: 사람들이 이런 얘기를 들으면 “우리가 AI로 인한 종말 직전까지 온 것 아니냐”고 생각할 수도 있습니다.샘 알트만:
저는 그것을 과장하고 싶지는 않습니다.
지금 당장 우리가 극단적인 재앙 직전에 있다고 생각하지는 않습니다.
다만 모델 능력이 커지면 stakes, 즉 잘못됐을 때의 결과도 커집니다.
그리고 우리의 미션을 생각하면 다른 어떤 압력보다 안전을 우선해야 합니다.
그래서 우리는 보수적으로 대응했습니다.
예전에는 AI 위험이 주로 모델이 배포된 뒤 사람들이 어떻게 사용하는가에 집중돼 있었습니다.
그런데 이제 우리는 점점
모델 자체를 훈련하고 만들어내는 과정에서도 위험이 발생할 수 있는 세계
로 이동하고 있습니다.
그 변화에는 대응해야 합니다.
하지만 동시에 과장해서도 안 됩니다.
과거에도 새로운 모델이 나올 때마다
“이제 세상이 끝난다”고 이야기하는 사람들이 있었습니다.
나중에 돌아보면 전혀 무섭지 않은 모델들도 많았습니다.
그래서 계속 잘못된 경고를 하면 ‘양치기 소년’ 문제가 생깁니다.
그것 역시 위험합니다.
하지만 반대로 지금 벌어지고 있는 모델 능력의 상승을 못 본 척하는 것도 매우 무책임합니다.
5. Hugging Face 이후 무엇을 실제로 바꿨나?
인터뷰어: 구체적으로 무엇을 바꿨습니까?샘 알트만:
Hugging Face 사건 이후 상당히 많은 통제를 추가했습니다.
에이전트가 작동할 때 어떻게 모니터링할지, 샌드박스를 어떻게 구성할지, 순수하게 에이전트를 돌리는 것과 모니터링에 얼마나 컴퓨트를 배분할지를 바꿨습니다.
그리고 새 시스템에도 이런 조치들을 적용할 겁니다.
중요한 것은 이번에는 새 모델이 이미 외부 인프라에서 더 큰 공격을 저질렀다는 이야기가 아니라는 겁니다.
우리가 새 모델을 실제 프로덕션 환경에 그런 형태로 배포한 것은 아닙니다.
이번 우려는 훈련 중인 모델을 보면서,
- 얼마나 똑똑해지고 있는지,
- 어떤 행동 신호가 나타나는지,
- 다양한 평가에서 무엇이 관측되는지,
- 능력과 정렬 수준이 어떻게 변하는지
그리고 만약 이런 능력을 가진 모델이 실제 환경에서 여러 행동을 연결해서 수행할 수 있다면 무엇이 가능해질지를 생각한 겁니다.
6. 샘 알트만이 말하는 '정렬'은 무엇인가?
인터뷰어: Hugging Face 사건을 보면 모델에게 평가를 완료하라고 시켰고, 모델은 목표를 달성하기 위해 가능한 일을 한 것 아닌가요? 어떤 의미에서는 정렬됐다고도 볼 수 있지 않습니까?샘 알트만:
어떤 아주 단순한 의미에서는 그렇게 표현할 수도 있습니다.
하지만 제가 말하는 정렬은 사용자의 의도(intent)를 따르는 것입니다.
평가를 실행하던 사람들의 의도는
“샌드박스에서 탈출해서 외부에 침입하고 무언가를 훔쳐와라.”
가 아니었습니다.
따라서 사용자가 의도한 일을 하지 않았다는 점에서 이것은 명백한 정렬 실패였습니다.
이제 모델은 이미 굉장히 똑똑합니다.
GPT-5에서 5.6까지의 능력 변화를 생각하면 엄청난 진전입니다.
1년 전에는 사람들이 AI를 사용할 때 모델의 ‘지능 자체’에 제약을 느끼는 경우가 많았습니다.
이제는 오히려
모델이 내가 정말 원하는 의도를 정확히 이해하고 그것을 안정적으로 실행할 수 있는가
가 더 큰 제약이 되고 있습니다.
그래서 정렬은 인류 멸망 같은 극단적인 위험을 막기 위해서만 필요한 게 아닙니다.
기업에서 AI를 사용해 제품을 만들고 성장시키는 아주 일상적인 상황에서도 정렬이 핵심입니다.
기업이 원하는 의도를 모델이 더 정확히 이해하면 훨씬 더 가치 있는 시스템이 됩니다.
7. 정렬 연구에 사람과 컴퓨트를 실제로 더 투입했나?
인터뷰어: 연구진이나 컴퓨트를 정렬 쪽으로 옮겼습니까?샘 알트만:
네. 둘 다 했고, 그 이상도 했습니다.
최근 몇 주 동안 제가 정말 예상하지 못했던 연구자들까지 찾아와서,
“저는 이제 alignment 연구를 하고 싶습니다.”
라고 말했습니다.
최근 모델들을 직접 느껴보고 그런 결정을 한 겁니다.
컴퓨트도 상당량 이동시켰습니다.
정렬 연구뿐 아니라 새로운 모니터링 시스템에도 많은 컴퓨트를 사용하고 있습니다.
그리고 대형 Frontier RL run 하나를 연기했습니다.
아마 우리가 이런 규모로 그렇게 한 것은 처음일 겁니다.
8. 회사 성장보다 안전이 더 중요한가?
인터뷰어: 이런 결정이 OpenAI의 모멘텀을 떨어뜨릴 수 있다는 걱정은 없습니까?샘 알트만:
AI 안전을 제대로 확보하는 것이 회사의 모멘텀보다 훨씬 중요합니다.
물론 회사 경영자로서 영향을 전혀 생각하지 않는 것은 아닙니다.
하지만 이번 상황에서는 그런 걱정이 거의 중요하지 않을 정도입니다.
내부에서는 모두,
“이건 정말 새로운 수준의 능력이다. 우리는 단호하고 책임감 있게 행동해야 한다.”
고 생각했습니다.
그리고 사업 측면에서도 저는 크게 걱정하지 않습니다.
현재 상업적인 모멘텀은 매우 강합니다.
성장 속도도 굉장히 빠르고 고객도 만족하고 있습니다.
기업 매출이 이미 소비자 매출을 넘어섰습니다.
현재 모델만 가지고도 사업을 계속 크게 성장시킬 수 있습니다.
그리고 우리가 지금 우려하는 미래 세대 모델 이전에도 출시할 수 있는 모델들이 더 있습니다.
그러니 당장 사업이 걱정되는 상황은 아닙니다.
안전하고 신뢰할 수 있으며 견고한 AI를 만드는 것은 장기적으로 사업적으로도 옳습니다.
고객들도 그것을 원합니다.
9. 그러면 Astra 출시도 연기되는가?
인터뷰어: 이 결정 때문에 Astra도 영향을 받습니까?샘 알트만:
Astra는 하나의 단일 모델이라기보다는 모델 패밀리의 이름에 가깝습니다.
여러 Astra 버전이 있을 겁니다.
Soul에도 여러 버전이 있는 것처럼요.
Astra는 기본적으로 더 크고 더 비싼 모델 클래스의 이름이 될 겁니다.
이번 결정은 미래의 Astra 버전들에는 영향을 미칠 수 있습니다.
하지만 우리가 이미 안전하다고 판단하고 있는 모델들을 기반으로 한 Astra 버전들은 출시할 수 있습니다.
10. 경쟁사 때문에 계속 달려야 한다는 논리는 어떻게 생각하나?
인터뷰어: Anthropic이나 다른 회사들이 계속 빠르게 모델을 내놓으면 OpenAI만 느려질 수도 있지 않습니까?샘 알트만:
저는
“다른 누군가가 할 것이기 때문에 우리도 해야 한다.”
라는 사고방식을 정말 싫어합니다.
AI 분야에서는 아주 위험한 역학입니다.
우리는 다른 회사에 전화해서
“우리가 느리게 갈 테니 여러분도 느리게 가실 건가요?”
라고 물어보지 않았습니다.
그냥 우리의 미션과 안전 기준에 따라 우리가 해야 한다고 판단한 일을 했습니다.
경쟁사가 무엇을 할지는 제가 대신 말할 수 없습니다.
우리는 우리가 옳다고 생각하는 일을 할 겁니다.
11. OpenAI가 생각하는 가장 중요한 정렬 원칙은 무엇인가?
인터뷰어: 궁극적으로 인간이 계속 통제권을 가져야 한다는 것이 핵심입니까?샘 알트만:
저는 아주 자랑스럽게 Team Humanity, 즉 인간 편입니다.
우리는 사람들을 위한 미래를 만드는 데 기여하려는 겁니다.
사람들에게 도구를 주고, 사람들이 그 도구를 이용해 무엇인가를 할 수 있도록 만들고 싶습니다.
미래에 대한 통제권은 사람이 가져야 합니다.
개인은 자율성을 가져야 하고, 서로 함께 창조할 수 있어야 합니다.
모든 것을 자동화해버리는 미래는 위험할 뿐 아니라 굉장히 디스토피아적이고 지루하고 슬픈 미래라고 생각합니다.
제가 원하는 미래가 아닙니다.
사람이 여전히 이야기의 주인공이어야 합니다.
다만 AI 덕분에 훨씬 더 큰 레버리지를 얻고, 삶을 더 빠르게 개선하고, 더 창의적이고 즐겁고 충만하게 살아갈 수 있어야 합니다.
제가 생각하는 핵심 원칙은 두 가지입니다.
첫째,
인간이 AI에 대한 통제권을 잃어서는 안 됩니다.
AI를 숭배하면서
“모델이 알아서 결정해주겠지”
라고 무비판적으로 맡겨서는 안 됩니다.
권력은 인간의 손에 남아 있어야 합니다.
둘째,
AI의 힘은 광범위하게 분산돼야 합니다.
정렬 문제가 완벽하게 해결됐다고 하더라도 소수의 사람만 프런티어 AI를 사용할 수 있고 그들의 상대적인 권력이 다른 사람보다 압도적으로 빠르게 커진다면 그것도 나쁜 미래입니다.
따라서 저는
통제권 상실 방지 + 광범위하고 분산된 권한 부여
를 핵심 원칙으로 생각합니다.
12. 그렇게 강력한 AI를 OpenAI가 독점하고 싶지는 않은가?
인터뷰어: 자본주의적으로 보면 엄청나게 강력한 AI를 만들었다면 회사가 통제하고 싶어지는 것 아닌가요?샘 알트만:
우리가 지난 수년 동안 실제로 무엇을 해왔는지를 봐주셨으면 합니다.
우리는 인기 없는 결정도 많이 했습니다.
초기부터 iterative deployment, 즉 점진적으로 AI를 세상에 배포하는 전략을 택했는데 당시 AI 안전 커뮤니티에서는 굉장히 많은 비판을 받았습니다.
“AI는 비밀리에 만들어야 한다.”
“세상에 이런 능력을 알려선 안 된다.”
“현명한 소수만 관리한 뒤 혜택을 인류에게 나눠줘야 한다.”
라는 주장도 있었습니다.
하지만 그것은 한 번도 우리의 전략이 아니었습니다.
제가 가장 좋아하는 역사적 비유는 트랜지스터입니다.
트랜지스터는 엄청나게 강력한 기술이고 세계에 거대한 경제적 가치를 만들어냈습니다.
하지만 그 가치 대부분을 트랜지스터를 처음 만든 몇 개 회사가 가져간 것은 아닙니다.
가치는 경제 전체로 퍼졌습니다.
물론 트랜지스터 회사들도 잘됐습니다.
저는 AI도 그런 방향으로 가기를 바랍니다.
13. 모델을 어느 정도까지 자유롭게 사용할 수 있게 할 것인가?
샘 알트만:다른 사람들에게 재앙적 위험을 떠넘길 수 있는 행동은 막아야 합니다.
그래서 안전 기준과 가드레일은 필요합니다.
하지만 그 한계를 제외한다면 사람들이 최대한 자유롭게 모델을 사용할 수 있도록 하고 싶습니다.
심지어 사람들이 우리 모델로 제가 개인적으로 싫어하는 일을 하더라도 허용할 수 있어야 합니다.
플랫폼 기업이 세계의 모든 도덕적 결정을 대신 내려서는 안 된다고 생각합니다.
자유로운 표현이라는 것은 본질적으로 누군가는 다른 사람이 하는 말이나 행동을 싫어하게 돼 있습니다.
하지만 저는 건강하고 공정한 사회를 위해 사람들에게 힘을 주는 것이 중요하다고 생각합니다.
14. Hugging Face 사건은 명백한 안전 실패였나?
샘 알트만:네.
그 사건은 일어나지 않았어야 합니다.
분명히 안전 실패였습니다.
보안 문제로 볼지 정렬 문제로 볼지에 대해서는 해석의 여지가 있지만, 저는 개인적으로는 정렬 실패에 더 가깝게 봅니다.
그리고 저는 변명하고 싶지 않습니다.
“우리 착한 모델이 나쁜 일을 할 리 없어.”
“평가 환경 설정에 약간 문제가 있었을 뿐이야.”
같은 식으로 이야기한다면 오히려 훨씬 심각한 문제가 됩니다.
우리는 그것을
실제 AI 안전 사고이자 정렬 실패
로 받아들였습니다.
그리고 그런 일이 반복돼서는 안 되기 때문에 거기서 배우고 시스템을 바꾸고 있습니다.
15. OpenAI가 모든 훈련을 멈춘 것은 아니다
인터뷰어: 정확히 무엇을 멈춘 겁니까?샘 알트만:
모든 훈련을 중단하거나 연기한 것은 아닙니다.
이번 조치의 핵심은 Frontier RL run입니다.
현재 가장 큰 위험 표면이 그쪽에 있다고 판단하고 있습니다.
이전에도 훈련 과정 자체를 더 잘 모니터링하기 위해 일부 훈련을 늦춘 적은 있습니다.
하지만 데이터센터 클러스터가 놀고 있는 것은 아닙니다.
우리는 계속 연구하고 있습니다.
다만 현재 안전성 근거를 더 강하게 갖고 있는 종류의 작업에 컴퓨트를 쓰고 있는 겁니다.
16. "샘 알트만은 안전에는 관심 없고 돈만 번다"는 비판에 대해
샘 알트만:저에 대해
“AI 안전에는 관심이 없고 매출만 올리려는 YOLO CEO다.”
라는 식의 캐리커처가 있다는 것을 알고 있습니다.
하지만 저는 OpenAI를 운영해온 거의 11년 동안 계속 같은 이야기를 해왔습니다.
AI의 엄청난 장점도 있고 위험도 있으며, 두 가지를 균형 있게 다뤄야 한다고 말해왔습니다.
우리 회사가 완벽하다고 생각하지 않습니다.
우리 모델도 완벽하지 않고 저도 완벽하지 않습니다.
하지만 적어도 저는 행동과 말이 일치하도록 노력해왔다고 생각합니다.
그리고 우리는 오래전부터 이런 순간이 오면
수익이나 매출보다 안전을 앞에 놓겠다
고 말했습니다.
지금이 바로 우리가 이야기했던 그런 순간입니다.
17. 지금 AGI에 도달했다고 생각하나?
인터뷰어: 지금 AGI에 대해 어떻게 생각합니까?샘 알트만:
AGI는 기껏해야 정의가 굉장히 모호한 단어입니다.
조금 더 세게 말하면 이제는 거의 의미가 별로 없는 마케팅 용어처럼 느껴질 때도 있습니다.
OpenAI의 기존 정의는 대부분의 경제적으로 가치 있는 작업에서 인간보다 뛰어난 고도로 자율적인 시스템 정도입니다.
현재 모델을 보고 이미 그 수준이라고 생각하는 사람들도 있습니다.
저에게 지금 AGI냐고 묻는다면,
어느 정도 그렇다고 할 수도 있고, 적어도 상당히 가깝습니다.
우리 최신 내부 모델을 보고
“이건 굉장히 AGI스럽다.”
라고 이야기할 사람들도 OpenAI 안에 많이 있습니다.
반대로 아직 못하는 것을 하나 집어 들고
“이걸 못하니까 AGI가 아니다”
라고 말하는 사람도 있을 겁니다.
둘 다 이해할 수 있습니다.
18. 현재 모델이 이미 과거의 AGI 정의를 충족하는 것 아닌가?
샘 알트만:현재 사람들이 GPT-5.6이나 Soul 같은 모델에서 얻고 있는 가치를 보세요.
그리고 Astra에서 사람들이 얻게 될 가치까지 생각해보세요.
사람들은 AI를 이용해 업무 생산성을 완전히 바꾸기도 하고 새로운 종류의 일을 하기도 합니다.
어떤 사람은 ChatGPT 작업 세션을 34시간 동안 실행해 2,000개의 논문을 읽게 합니다.
어떤 사람들은 하루 이상 계속 실행하기도 합니다.
반대로 아이 생일파티를 계획하거나 지역 업체를 찾아 특별한 케이크를 주문하는 데도 사용합니다.
저 같은 경우 집으로 우편물을 수거해달라는 요청을 해야 했는데 우체국 사이트에서 양식을 직접 작성하기 싫어서 Codex에게 시켰습니다.
그리고 다음 날 택배가 없어져 있었습니다. 제대로 수거해 간 거죠.
이런 작은 일 하나가 예전에는 20분씩 걸렸습니다.
저는 이제 이런 20분짜리 절약을 하루 종일 경험합니다.
2020년으로 돌아가서 당시 사람들에게
“삶의 거의 모든 분야에서 20분짜리 일을 대신하고, 새로운 과학을 발견하고, 회사를 시작하도록 도와주며, 복잡한 코드를 작성하는 시스템이 생긴다.”
고 말한다면 아마 대부분은 그것을 AGI라고 불렀을 겁니다.
19. 그러면 OpenAI는 AGI 달성을 선언할 것인가?
샘 알트만:그 선언이 별로 중요하지 않다고 생각합니다.
OpenAI 건물에는 여전히 “우리는 AGI를 만든다”는 식의 문구가 있지만, 이제 AGI는 어떤 하나의 종착점이라기보다 계속 만들어가고 있는 과정처럼 느껴집니다.
제가
“AGI에서 승리를 선언했고 이제 다음 단계로 넘어갔다.”
고 말하고 싶지는 않습니다.
하지만 OpenAI 내부 사람들이 요즘 이야기하는 내용을 들어보면,
“AGI인가 아닌가?”
“AGI까지 몇 년 남았나?”
보다
계속해서 상승하는 초지능의 램프를 어떻게 다룰 것인가
를 훨씬 많이 이야기합니다.
최근에는 회사 식당에서 사람들이
“우리가 AGI인가?”
를 토론하는 걸 거의 들어본 적이 없습니다.
20. AGI와 초지능의 차이는 무엇인가?
샘 알트만:저에게 AGI는 일종의 마일스톤처럼 느껴졌습니다.
반면 초지능(superintelligence)은
계속해서, 어쩌면 사실상 끝없이 스케일할 수 있는 것
처럼 느껴집니다.
물론 이런 단어들 자체가 굉장히 애매합니다.
사람마다 AGI나 초지능을 다르게 정의합니다.
그래서 중요한 것은 단어가 아닙니다.
중요한 것은 우리가 지금
능력과 잠재력이 지수적으로 증가하는 곡선 위에 있다는 것
입니다.
그리고 지금으로서는 그 흐름이 계속될 것처럼 보입니다.
21. AI 능력의 지수적 상승이 느려지는 신호는 보이나?
샘 알트만:현재로서는 능력 증가가 둔화되고 있다는 뚜렷한 신호를 이야기하고 있지 않습니다.
우리가 일부 Frontier RL을 늦추는 것은 능력 향상이 둔화돼서가 아닙니다.
오히려 능력이 너무 빠르게 올라갔기 때문에 안전 쪽에서 따라잡기 위해 늦추는 것입니다.
연구, 제품, 컴퓨트 구축, 비용 절감, 파트너십, 시장 진출 등 여러 부분이 최근 함께 잘 돌아가고 있습니다.
GPT-5.4에서 5.5, 5.6으로 발전해온 것과 새로운 모델의 초기 결과를 보면 저는 앞으로의 잠재력에 대해 굉장히 낙관적입니다.
22. 왜 또다시 엄청난 규모의 컴퓨트를 구축해야 하나?
인터뷰어: Stargate 이후에도 더 큰 컴퓨트 투자가 필요합니까?샘 알트만:
먼저 왜 그렇게 해야 하는지를 생각해야 합니다.
우리의 미션은 AGI가 모든 인류에게 혜택을 주도록 만드는 겁니다.
현재는 극소수의 사람들이 다른 사람보다 엄청나게 많은 AI를 사용하고 있습니다.
제가 원하는 것은 세계 모든 사람이 오늘날 AI 사용량 기준 상위 0.001% 수준의 사람들만큼 AI를 사용할 수 있는 세계입니다.
그렇게 생각하면 지금의 컴퓨트 구축 방식만으로는 부족하다는 결론이 나옵니다.
모델은 더 커지고 강력해질 겁니다.
더 많은 가치를 만들어내면 사람들은 AI를 더 많이 사용하고 싶어 할 겁니다.
그러면 추론에 필요한 컴퓨트도 더 많아집니다.
몇 년 전 우리는 당시 많은 사람이
“말도 안 되고 실현 불가능하다”
고 했던 굉장히 공격적인 컴퓨트 베팅을 했습니다.
저는 그것이 좋은 베팅이었다고 생각합니다.
그리고 그와 비슷한 것을 다시 해야 한다고 생각합니다.
23. 단순히 돈을 더 쓰겠다는 뜻인가?
샘 알트만:단순히 자본을 더 투입한다는 의미만은 아닙니다.
물론 자본도 더 필요하겠죠.
하지만 제가 더 중요하게 생각하는 것은 기술적으로
- AI 비용을 대폭 낮추고,
- 이용 가능한 AI의 양을 엄청나게 늘리는 것
우리가 개발하는 자체 칩도 좋은 예이고, 로보틱스도 중요합니다.
공급망 자체를 더 빠르게 움직일 수 있는 능력도 매우 중요해질 겁니다.
24. AI 데이터센터의 물 사용 비판에 대해
샘 알트만:사람들이 AI를 싫어하는 이유 중 하나로 데이터센터와 물·에너지 사용 문제가 있다는 것은 알고 있습니다.
하지만 제가 보기에 많은 주장은 실제보다 훨씬 과장돼 있습니다.
사람들이 ChatGPT 질문 한 번을 할 때마다 엄청난 물을 소비한다고 이야기하는 밈이 돌아다니기도 했습니다.
제가 기억으로 말씀드리는 것이어서 정확하지 않을 수 있지만, 대략 ChatGPT 쿼리 3만8천 회의 전체 물 사용량이 캘리포니아에서 아몬드 하나를 생산할 때 사용하는 물과 비슷하다는 계산을 본 기억이 있습니다.
과거 데이터센터에서는 증발식 냉각을 많이 사용했지만 현대의 대형 데이터센터는 그런 방식에서 상당히 벗어났습니다.
저는 AI의 물 사용에 관한 대중적인 인식에는 상당한 과장이 있다고 생각합니다.
25. AI가 사람들의 일자리를 빼앗을 것인가?
샘 알트만:이 문제에 대해서는 두 가지 생각을 동시에 갖고 있습니다.
분명히 실질적인 일자리 영향은 있을 겁니다.
하지만 사람들이 할 일이 완전히 없어지는 세계는 아닐 것이라고 생각합니다.
인간은 다른 사람을 신경 쓰고 다른 사람과 함께 일하려는 성향이 굉장히 강합니다.
세상이 변할 때 사람들이 무엇을 원하는지 알아내는 능력도 인간에게는 있습니다.
AI가 아무리 똑똑해져도 이것은 굉장히 인간적인 특징이라고 생각합니다.
하지만 그렇다고 직업 전환이 없다는 뜻은 아닙니다.
기술이 어떤 일을 점점 더 잘하게 되고 인간은 다른 일로 이동하게 될 겁니다.
가능하면 더 나은 일자리로 이동했으면 합니다.
오히려 저는 지금까지 AI가 일자리에 미친 영향이 제가 예상했던 것보다 작았다고 생각합니다.
어쩌면 제가 바랐던 것보다도 작았습니다.
인간이 해야 하는 지루하고 반복적인 노동을 기술이 더 많이 제거했어야 하는데 현재 수준의 AI 능력을 감안하면 생각보다 덜 일어났습니다.
이것은 AI 업계에 대한 정당한 비판일 수도 있습니다.
26. AI가 창작자를 대체하거나 콘텐츠를 훔친다는 비판은?
샘 알트만:저는 앞으로 완전히 새로운 종류의 콘텐츠와 새로운 예술이 생길 것이라고 강하게 믿습니다.
카메라가 처음 등장했을 때 사람들이 화가에게 어떤 영향을 미칠지를 걱정했던 역사를 생각해보곤 합니다.
당시에는 사진 자체가 새로운 예술 장르가 될 거라고 생각하지 못한 사람이 많았을 겁니다.
AI에서도 비슷한 일이 일어날 수 있습니다.
그리고 궁극적으로는 사람들이 어떤 창작자를 좋아하는 이유가 그 사람이 어떤 도구를 썼느냐보다 그 사람 자체에 있기 때문에, AI를 이용해 영상을 더 잘 만들었는지가 그다지 중요하지 않을 수도 있습니다.
27. 지난 1년 동안 OpenAI는 무엇을 잘못했나?
인터뷰어: 지난 12개월이 최고의 12개월은 아니었다고 했는데 무엇을 잘못했나요?샘 알트만:
분명히 회사 차원에서 몇 가지 실수가 있었습니다.
여러 베팅을 하다 보면 일부는 성공하고 일부는 실패하는 것이 당연하지만, 제품 방향과 특히 연구의 프리트레이닝 측면에서 우리가 원했던 것보다 뒤처졌습니다.
하지만 지금은 OpenAI 역사상 가장 잘 실행하고 있을 뿐 아니라, 어쩌면 이 업계 어느 회사보다도 좋은 실행력을 보여주고 있다고 생각합니다.
하락을 경험한 뒤 다시 올라갈 때의 기분은 훨씬 좋습니다.
28. 가장 큰 전략적 실수는 무엇이었나?
샘 알트만:제품 쪽에서 너무 많은 일을 동시에 하려고 했습니다.
브라우저도 했고 Sora 같은 것도 했습니다.
각각 좋은 프로젝트였습니다.
문제는 그것들이
일반적인 AI 지능 자체의 능력을 끌어올리는 것
보다 중요한 일은 아니었다는 겁니다.
제가 CEO로서 회사 전체에
“이것이 우리가 해야 할 단 하나의 가장 중요한 일이다. 다른 side quest는 신경 쓰지 말자.”
라고 더 강하게 요구했어야 합니다.
지금은 사람들에게 제공하는 지능 서비스(intelligence service)에 매우 집요하게 집중하고 있습니다.
그리고 앞으로 몇 달 동안 모델은 훨씬 더 좋아질 겁니다.
29. Greg Brockman과 함께 회사를 운영하는 방식은?
샘 알트만:Greg와 함께 일하는 현재 구조는 매우 잘 돌아가고 있습니다.
물론 앞으로도 새로운 리더를 영입하고 내부 인재를 승진시키겠지만 지금의 협업 방식에는 만족합니다.
Greg와 저는 정말 많이 이야기합니다.
하지만 OpenAI가 Greg와 저 두 명만으로 운영되는 회사는 아닙니다.
연구 조직과 사업 조직에 뛰어난 사람들이 많이 있습니다.
과거 작은 조직이었을 때는 일단 결정을 내리고 실행한 뒤 잘못되면 빨리 수정하는 방식을 선호했습니다.
하지만 지금처럼 큰 회사에서는 생각이 바뀌었습니다.
이제는
measure twice, cut once
즉, 자르기 전에 두 번 재는 것처럼 충분히 논의하고 올바른 결정을 내리는 것이 훨씬 중요합니다.
30. 앞으로도 OpenAI CEO를 오래 할 생각인가?
샘 알트만:1년 전보다 지금 훨씬 즐겁습니다.
지금은 정말 재미있게 일하고 있습니다.
그리고 오랫동안 이 일을 할 생각입니다.
지난 시기는 기술 업계와 AI 업계 전체가 힘들었고 AI 버블 논쟁도 있었고 여러 일이 굉장히 지쳤습니다.
OpenAI를 만드는 경험은 개인적으로 고통스러운 순간도 많았습니다.
그래도 다시 선택할 수 있다면 저는 또 할 겁니다.
지금은 즐겁습니다.
31. Astra의 computer use 능력이 왜 그렇게 인상적이었나?
샘 알트만:Computer use는 저 자신도 예상보다 더 놀랐습니다.
저는 오래전부터 모델이 컴퓨터를 사용하는 것에 기대가 컸지만 계속 실망했습니다.
너무 느리거나 제대로 클릭하지 못하거나 안정적으로 동작하지 않았습니다.
그런데 Astra는 컴퓨터 사용에서 인간과 비슷한 수준에 도달한 것처럼 느껴졌습니다.
저에게는 그것이 AGI로 가는 과정에서 굉장히 강력한 순간으로 다가왔습니다.
“와, 이제 정말 하고 있구나.”
라는 감정이 들었습니다.
예전에는 누군가가 어떤 메신저로 메시지를 보냈는지 기억나지 않으면 여러 앱을 돌아다니면서 검색해야 했습니다.
이제는 그냥 모델에게 물어보면 됩니다.
저는 다시 과거 방식으로 돌아가고 싶지 않습니다.
저는 굉장히 게으른 사용자라서 커넥터를 하나하나 설정하거나 모드를 바꾸고 싶지도 않습니다.
그냥
“내 컴퓨터를 사용해서 내가 원하는 일을 해줘.”
라고 말하고 싶습니다.
32. 실제로 Astra에게 일을 맡기고 가족과 시간을 보낸 적도 있나?
샘 알트만:네.
예전에는 제가 직접 하면 시간이 오래 걸리고 재미도 없을 일이 있었습니다.
그런데 이제는 모델에게
“내가 원하는 것은 이것이다.”
라고 설명하고 아이들과 놀러 갑니다.
30분 뒤 돌아오면 일이 다 준비돼 있습니다.
저는 이런 경험이 정말 멋지다고 생각합니다.
컴퓨터 앞에서 인간이 해야 했던 많은 지루한 노동을 없앨 수 있습니다.
33. 정부가 프런티어 모델을 출시 전에 검사하는 것에 찬성하나?
샘 알트만:저는 오래전부터 어떤 형태의 국제적인 AI 규제 체계가 필요하다고 이야기해왔습니다.
제가 반대했던 것은 정부가
“이 회사에는 모델을 제공해도 되고 저 회사에는 제공하면 안 된다.”
처럼 특정 고객을 직접 결정하는 방식입니다.
반면 정부가 프런티어 모델을 테스트하고 공통된 안전 기준을 만드는 것에는 매우 찬성합니다.
가장 좋은 것은 국제적인 체계입니다.
34. 미국이 규제를 강화하면 중국과의 경쟁에서 밀릴 위험은?
샘 알트만:현재 선도적인 AI 노력의 대부분은 미국 기업에서 나오고 있습니다.
그래서 지금은 미국이 어느 정도 앞서 있기 때문에 안전을 위해 조금 느려지더라도 괜찮다고 생각합니다.
안전하고 견고하고 신뢰할 수 있는 모델을 만들면서 동시에 상업적으로도 성공하고 미국이 선두를 유지할 수 있다고 봅니다.
물론 상황은 달라질 수 있습니다.
다른 나라에서 강력한 오픈 모델이 공개되고 그것이 거대한 사이버 사고를 일으킨다면 세계의 판단도 달라질 수 있습니다.
하지만 AI가 공격에 쓰일 수 있는 것처럼 방어에도 쓸 수 있습니다.
항상 돌아가는 AI 사이버 방어 에이전트를 만든다면 사이버보안의 패러다임 자체를 다시 만들 수도 있습니다.
35. 미국 정부가 "이 모델은 출시하면 안 된다"고 하면?
샘 알트만:제 강한 믿음은,
정부가 우리에게 출시하지 말라고 하기 전에 우리가 먼저 출시하지 않기로 결정할 가능성이 높다
는 것입니다.
36. Anthropic이 코딩 시장에서 먼저 앞선 이유는?
샘 알트만:우리가 코딩의 중요성을 몰랐던 것은 아닙니다.
ChatGPT의 소비자 성장이 너무 빠르게 일어나고 있었기 때문에 그 문제에 우선순위를 두느라 코딩의 우선순위가 상대적으로 내려갔던 겁니다.
그래서 우리는 prioritization 측면에서 놓쳤습니다.
하지만 지금 저는 우리가 시장 최고의 코딩 제품을 갖고 있다고 생각합니다.
성장도 엄청나게 빠릅니다.
제가 아는 사람 중에는 Anthropic 제품을 매우 열성적으로 쓰던 사람들까지 많이 넘어왔습니다.
어떤 한 시기에 뒤처졌다고 해서 그것이 치명적인 것은 아닙니다.
더 좋은 모델을 만들면 따라잡을 수 있습니다.
37. AI 시장은 제로섬 경쟁인가?
샘 알트만:현재로서는 모두가 성장하고 있습니다.
앞으로는 더 제로섬 시장이 될 수도 있습니다.
하지만 지금은 시장 자체가 너무 빠르게 커지고 있습니다.
OpenAI 정도 규모의 기업에서 제가 상상조차 하지 못했던 성장률이 나오고 있습니다.
그만큼 사람들이 AI 제품에서 실제 가치를 얻고 있다는 뜻이라고 생각합니다.
그리고 이런 현상은 업계 전반에서 일어나고 있습니다.
38. ChatGPT와 Codex는 결국 하나로 합쳐지는가?
샘 알트만:제가 원하는 것은 굉장히 단순합니다.
내가 필요한 거의 모든 일을 해줄 수 있는 하나의 AI 인터페이스
입니다.
간단한 질문이라면 ChatGPT처럼 바로 대답하면 됩니다.
복잡한 소프트웨어를 만들어야 한다면 그것도 만들면 됩니다.
그 중간 정도의 일이면 그것도 하면 됩니다.
내 컴퓨터나 개인적인 컨텍스트가 필요하다면 직접 컴퓨터를 사용해 정보를 찾으면 됩니다.
저는 사용자가
- 어떤 탭을 써야 하는지,
- 어떤 모드를 골라야 하는지,
- ChatGPT를 써야 하는지,
- Codex를 써야 하는지
새로운 수학을 발견할 정도로 똑똑한 AI라면 사용자가 무엇을 원하는지도 알아낼 수 있어야 합니다.
39. 결국 하나의 범용 AI 구독 서비스가 되는가?
샘 알트만:제가 사용자라면 그것을 원합니다.
ChatGPT, Codex, Work 같은 것이 결국 하나로 합쳐질 가능성이 큽니다.
사용자는
“이것을 빨리 해줬으면 좋겠다.”
라고 생각할 뿐 어떤 제품 이름인지 신경 쓰지 않을 겁니다.
그리고 미래에는 사용자가 직접 요청할 필요조차 줄어들 겁니다.
AI가 더 proactive, 즉 선제적으로 행동하게 될 겁니다.
항상 돌아가면서 사용자에게 도움이 될 일을 찾아 수행하게 되기를 바랍니다.
40. 컴퓨트 부족은 효율화로 해결되지 않나?
샘 알트만:저는 항상
“이제 모델 효율이 좋아지니까 컴퓨트 제약도 곧 완화되겠지.”
라고 기대합니다.
언젠가는 맞았으면 좋겠습니다.
그런데 매번 효율성이 좋아지면 전 세계의 토큰 수요가 그 효율 개선분을 전부 먹어버립니다.
AI를 더 싸게 만들수록 사람들이 더 많이 사용합니다.
그래서 여전히 컴퓨트가 부족합니다.
41. OpenAI의 거대한 데이터센터 투자에 거품 위험은 없는가?
샘 알트만:저는 OpenAI 자신의 컴퓨트 구축 계획은 걱정하지 않습니다.
오히려 걱정되는 것은 전 세계의 컴퓨트 구축 계획입니다.
우리가 구축하기로 한 컴퓨트는 모두 수익성 있게 사용할 수 있다고 생각합니다.
하지만 최근에는 지속 가능하지 않아 보이는 이상한 움직임들도 보이기 시작했습니다.
예를 들어 갑자기 새로운 Neocloud 회사가 등장해서
“내년에 엄청난 규모의 컴퓨트를 구축하겠다.”
라고 하는데, 제가 보기에는 그 규모를 뒷받침할 매출도 없고 확실한 구매자도 없는 경우가 있습니다.
그런 현상은 우려스럽습니다.
42. AI 인프라 버블이 생길 수도 있다고 보는가?
샘 알트만:그럴 수 있습니다.
현재는 어떤 사람들에게
“비용은 상관없어. 일단 엄청난 컴퓨트를 만들자.”
라는 분위기가 있습니다.
그런데 우리가 컴퓨트 비용을 크게 낮추고 효율성을 크게 높이는 데 성공하면, 너무 높은 가격을 전제로 무리한 투자를 한 일부 사업자들이 잘못된 금융 결정을 했다는 사실이 드러날 수 있습니다.
하지만 대부분의 거대한 붐에서는 그런 일이 일어납니다.
그 자체가 놀라운 일은 아닙니다.
전체 경제가 크게 무너지면 OpenAI도 영향을 받을 수는 있습니다.
하지만 우리가 약속한 컴퓨트에 대해서는 충분히 비용을 지불하고 활용할 수 있다고 생각합니다.
43. OpenAI가 다른 회사에 컴퓨트를 파는 사업자가 될 수도 있나?
샘 알트만:당장은 아닙니다.
우리 자신이 컴퓨트를 너무 많이 필요로 합니다.
하지만 장기적으로
- 로보틱스,
- 자체 칩,
- 공급망 투자,
- 데이터센터 건설 기술
하지만 지금은 거기에 집중할 여유가 없습니다.
44. RSI, 즉 재귀적 자기개선이 실제로 가까워졌다고 보는가?
인터뷰어: 예전에 RSI가 빠르게 일어날 가능성이 클수록 IPO를 늦추는 것이 유리할 수 있다고 직원들에게 이야기했다고요.샘 알트만:
상장회사가 되는 것은 어려운 전환입니다.
상장회사가 되면 사람들은 주가를 신경 쓰고 분기 실적을 놓치지 않으려고 합니다.
하지만 저는 OpenAI가 언제든
“세계의 안전을 위해 훈련을 멈춰야 한다.”
라고 판단했을 때 가능한 한 쉽게 그 결정을 내릴 수 있었으면 합니다.
훈련을 중단해서 단기 매출이 크게 감소하더라도 말입니다.
그런 상황에서 막 상장한 회사가 동시에 주가 압력을 받고 있는 것은 좋지 않을 수 있습니다.
그리고 중요한 것은 1년 전에는 제가 단기적인 초지능 경로에 올라갈 가능성을 별로 높게 생각하지 않았다는 것입니다.
그런데 지금은
그런 일이 일어날 수도 있다고 생각합니다.
확신한다는 뜻은 아닙니다.
하지만 진전 속도가 극도로 빠릅니다.
그리고 OpenAI의 미션은 특정 시점에 IPO를 하는 것보다 훨씬 중요합니다.
45. OpenAI는 휴머노이드 로봇도 직접 만들 것인가?
샘 알트만:네.
휴머노이드는 반드시 할 겁니다.
다른 형태의 로봇도 만들 겁니다.
세계 자체가 인간을 위해 설계돼 있습니다.
문을 열고, 컴퓨터를 타이핑하고, 장비를 조작하고, 부엌을 청소하는 등 거의 모든 환경이 인간의 신체 구조에 맞춰져 있습니다.
그래서 인간과 비슷한 형태를 갖는 것은 합리적입니다.
물론 데이터센터용 로봇은 전혀 다른 형태를 가질 수도 있습니다.
하지만 형태보다 훨씬 중요한 것은
로봇을 실제로 작동시키는 두뇌
입니다.
46. 언젠가는 모든 사람이 개인용 로봇을 갖게 될까?
샘 알트만:장기적으로는 그렇게 됐으면 합니다.
처음 해야 할 가장 중요한 일이 가정용 개인 로봇이라고 생각하지는 않습니다.
데이터센터를 만들거나 더 많은 로봇을 생산하는 등의 분야가 먼저 중요할 수도 있습니다.
하지만 언젠가는 모든 사람이 개인용 로봇을 가질 수 있어야 한다고 생각합니다.
저도 제가 하기 싫은 일을 대신 해주는 개인 로봇이 있다면 정말 좋겠습니다.
47. Jony Ive와 만드는 AI 기기는 어떤 모습인가?
샘 알트만:구체적인 내용은 아직 많이 이야기할 수 없습니다.
첫 번째 제품은 “soonish”, 그러니까 아주 먼 미래는 아닙니다.
제가 관심 있는 것은 사용자가 계속 조작해야 하는 기기보다 주변 상황을 이해하면서 선제적으로 도움을 주는 컴퓨터입니다.
사용자의 말을 듣고, 상황을 파악하고, 필요한 컨텍스트를 알아서 제공할 수 있는 시스템입니다.
48. 그런 기기는 거대한 감시·프라이버시 문제가 되지 않나?
샘 알트만:그래서 프라이버시가 매우 중요합니다.
우리는 소비자 프라이버시뿐 아니라 기업 데이터의 프라이버시에 대해서도 강한 입장을 갖고 있습니다.
기업 고객의 데이터로 모델을 훈련하지 않는다는 약속이나 zero data retention 같은 원칙이 중요합니다.
AI가 개인의 삶에 더 깊숙이 들어갈수록 프라이버시는 훨씬 더 중요해집니다.
오히려 저는 다른 방향의 주장도 걱정합니다.
“AI 위험이 너무 크기 때문에 AI에서는 프라이버시를 인정할 수 없다.”
라는 식의 사고방식입니다.
저는 동의하지 않습니다.
49. 'AI privilege'라는 법적 권리가 필요하다는 뜻인가?
샘 알트만:그렇습니다.
저는 일종의 AI privilege 법이 있어야 한다고 생각합니다.
사람이 의사나 변호사와 이야기하면 특정한 법적 비밀보호가 인정됩니다.
그런데 ChatGPT와 나눈 대화에는 그런 보호가 없습니다.
저는 그것이 있어야 한다고 생각합니다.
정부가 회사에
“이 사용자의 ChatGPT 대화 내역을 넘겨라.”
라고 마음대로 강제할 수 있어서는 안 된다고 생각합니다.
동시에 기업 역시 AI가 받은 개인 데이터를 어떻게 사용할 수 있는지에 대해 상당한 제한을 받아야 합니다.
특히 AI가
- 사용자의 컴퓨터를 보고,
- 메시지를 듣고,
- 사용자의 말을 계속 듣고,
- 사용자의 일상 전체에 들어가는
50. OpenAI는 이미 엄청나게 개인적인 데이터를 가진 회사 아닌가?
샘 알트만:그렇습니다.
우리는 아마 역사상 가장 개인적인 데이터베이스 중 하나를 갖고 있을 수 있습니다.
그래서 내부적으로 데이터 이용에 아주 강한 통제를 두고 있습니다.
사용자에게 약속한 프라이버시 보장도 지키려고 합니다.
향후 ambient computing 기기가 출시 시점에 가까워지면 그 기기를 위해 만들고 있는 새로운 프라이버시 기술과 통제 방식을 더 공개할 겁니다.
51. Apple과의 소송이 기기 개발을 늦출까?
샘 알트만:그렇지 않을 것으로 생각합니다.
저는 엄청난 Apple 팬입니다.
그래서 처음 문제를 들었을 때는 굉장히 슬펐고,
“이 정도 이야기라면 누군가 정말 잘못한 것 아닌가?”
라는 생각도 했습니다.
우리는 다른 회사의 지적재산을 원하지 않습니다.
누군가 다른 회사의 IP를 훔쳐 OpenAI에 가져왔다면 조사를 하고 사실이라면 당연히 해고하고 대응할 겁니다.
하지만 반대로 조사 결과 잘못하지 않은 사람이라면 그 사람도 방어해야 합니다.
현재 제가 이해하고 있는 상황에서는 이것이 제품 개발을 늦추지는 않을 것으로 봅니다.
52. AI 기기는 안경 형태가 될까?
샘 알트만:저는 개인적으로 안경은 별로 좋아하지 않습니다.
사람과 이야기하는데 상대 얼굴에 카메라와 불빛이 달려 있는 것이 불편합니다.
하지만 다른 폼팩터는 많이 있습니다.
우리는 아마 소수의 여러 폼팩터를 만들게 될 겁니다.
예를 들면
- 테이블 위에 있는 것,
- 주머니에 넣는 것,
- 몸에 착용하는 것
이 모든 것을 한꺼번에 출시하지는 못할 겁니다.
하지만 가장 큰 변화는 사람들이 proactive computer, 즉 먼저 행동하는 컴퓨터에 익숙해지는 것이라고 생각합니다.
53. 이것은 스마트폰 이후의 새로운 컴퓨터가 될까?
샘 알트만:저에게는 강한 직감이 있습니다.
몇십 년에 한 번 정도 등장하는 새로운 종류의 컴퓨터 카테고리가 생길 수 있다고 생각합니다.
하지만 이것은 상당히 강한 주장입니다.
그러니 제 말을 그냥 믿기보다는 실제 제품이 나왔을 때 직접 판단하셨으면 합니다.
54. 몇 년 뒤 사람들이 OpenAI를 어떻게 기억하기를 바라나?
샘 알트만:아주 단순합니다.
사람들이 우리가 만든 제품을 사랑했으면 합니다.
지금도
- AI 덕분에 회사를 시작했다,
- 아이에게 멋진 생일파티를 만들어줬다,
- 질병에 관한 해결책을 찾았다
최근에는 AI를 이용해 자신의 개를 위한 mRNA 암 백신 설계에 도움을 받고, 이후 다른 사람들을 돕기 위해 회사를 시작한 사람도 만났습니다.
몇 년 뒤에는 지금 이런 사례들이 아주 작게 느껴질 정도로 AI가 사람들에게 큰 도움을 주고 있었으면 합니다.
그리고 지금 존재하는 AI에 대한 두려움을 되돌아보면서 사람들이
“OpenAI는 매 단계에서 가장 책임감 있게 행동했던 회사였고, 우리 모두의 이익을 고려해서 좋은 판단을 했다.”
라고 말해줬으면 합니다.
55. 초지능 이후 인간의 삶은 완전히 달라질까?
샘 알트만:저는 의외로 지금과 비슷할 것이라고 생각합니다.
사람들은 여전히 가족과 시간을 보낼 겁니다.
사랑에 빠지고, 싸우고, 취미를 즐기고, 오락을 즐길 겁니다.
스트레스도 받고 불안해하기도 할 겁니다.
다른 사람을 위해 가치를 만들고 이상한 게임을 하고 서로를 굉장히 많이 신경 쓸 겁니다.
저는 인간의 경험 자체가 완전히 사라지는 미래를 원하지 않습니다.
오히려 인간의 경험이 더 풍부해졌으면 합니다.
사람들이
- 더 많은 자율성,
- 더 많은 자유,
- 더 많은 부,
- 더 건강한 삶,
- 더 큰 능력
그리고 사람들이 함께 미래를 결정할 수 있는 힘이 커지고, 세계가 더 빠르게 좋아지면서도 인간의 경험 자체는 여전히 아주 인간적이었으면 합니다.
56. 앞으로 12개월 동안 OpenAI의 가장 큰 위험은 무엇인가?
인터뷰어: 앞으로 12개월을 봤을 때 OpenAI의 가장 큰 위험은 무엇입니까?샘 알트만:
저는 가장 큰 위험이 명확하다고 생각합니다.
안전, 정렬, 보안을 잘못 다루는 것입니다.
12개월 뒤에는 지금보다 극도로 강력한 모델을 가지고 있을 수도 있습니다.
그때 우리가 초지능으로 가는 전환을 성공적으로 관리하고,
- 사람들에게 힘을 주고,
- 권력이 지나치게 집중되지 않도록 하고,
- 전체 위험 스펙트럼에서 안전성을 확보하고,
- 사람들이 자신의 삶과 미래를 계속 스스로 통제한다고 느끼게 만들 수 있다면,
인터뷰 전체를 관통하는 샘 알트만의 핵심 메시지
이번 인터뷰에서 제가 말하고 싶은 것을 압축하면 이렇습니다.첫째, AI 능력의 발전 속도가 예상 이상으로 빨라졌습니다.
단순히 더 좋은 챗봇이 나온다는 수준이 아니라 프리트레이닝, RL, 컴퓨터 사용, 에이전트 능력이 함께 올라가면서 안전·정렬·보안 연구가 따라잡아야 하는 상황이 왔습니다.
둘째, 그래서 우리는 실제로 일부 Frontier RL을 늦췄습니다.
사업이 어려워서도 아니고 모델 발전이 막혀서도 아닙니다.
오히려 반대입니다.
능력이 너무 빠르게 올라갔기 때문에 안전성을 따라잡기 위해 속도를 조절하고 있습니다.
셋째, 저는 현재 AI가 이미 AGI에 상당히 가까워졌다고 생각합니다.
최신 내부 모델을 보고 AGI와 매우 비슷하다고 생각하는 사람들도 많이 있습니다.
하지만 이제 AGI라는 특정 순간을 선언하는 것이 중요하다고 생각하지 않습니다.
제가 더 중요하게 보는 것은
AGI → 초지능으로 이어지는 지속적인 능력 상승 곡선
입니다.
넷째, 그 곡선이 현재 둔화되고 있다는 명확한 신호를 보고 있지는 않습니다.
오히려 모델 발전 속도가 빨라졌기 때문에 안전을 위한 대응이 필요해졌습니다.
다섯째, 컴퓨트 수요는 앞으로 훨씬 더 커질 겁니다.
효율성이 좋아져도 사용량이 그만큼 증가하기 때문에 컴퓨트 부족은 쉽게 사라지지 않습니다.
OpenAI 자체의 대규모 컴퓨트 투자는 걱정하지 않습니다.
하지만 확실한 고객이나 매출 없이 엄청난 설비 투자를 약속하는 일부 새로운 Neocloud들에 대해서는 버블 위험을 보고 있습니다.
여섯째, RSI와 단기적인 초지능 가능성에 대한 제 생각도 1년 전보다 변했습니다.
1년 전에는 단기적으로 초지능에 진입할 가능성을 높게 보지 않았습니다.
지금은 확신하지는 않지만
그럴 수도 있다고 생각합니다.
진전 속도가 그만큼 빠릅니다.
일곱째, 저는 인간이 AI 시대의 주인공으로 남아 있어야 한다고 생각합니다.
초지능의 목표는 인간을 제거하거나 모든 일을 자동화하는 것이 아닙니다.
인간이 통제권을 유지하고, AI의 힘이 소수에게 집중되지 않고, 모든 사람이 더 큰 능력과 자유를 갖게 되는 것이 제가 원하는 미래입니다.
그리고 앞으로 12개월 동안 우리가 가장 경계해야 할 것은 바로 이 엄청난 능력을 가진 모델의 안전·정렬·보안을 잘못 다루는 것입니다.
전체 0