샘 알트먼 인터뷰 정리: AI 혁명, 초지능 그리고 인류의 미래

1. AI 혁명과 세계의 반응 (03:50~10:42)

Q. 처음 당신을 접하는 사람에게 자신을 어떻게 소개하겠습니까?

샘 알트먼:

저는 기술을 좋아하고 세상에 대한 호기심이 많은 사람입니다. AI가 우리 모두의 삶에 영향을 미칠 것이며, 그 영향이 대부분 매우 긍정적이기를 바랍니다.

그리고 저는 아버지이기도 합니다. 아이들을 정말 사랑합니다.

Q. 미국인들은 AI에 다소 비관적이지만, 인도인들은 굉장히 낙관적입니다. 왜 이런 차이가 생긴다고 생각하십니까?

샘 알트먼:

정말 놀라운 차이입니다.

현재 인도는 사용자 수 기준으로 OpenAI의 세계 최대 시장입니다. 미국보다도 사용자가 많고 성장 속도도 매우 빠릅니다.

인도에서는 사람들이 AI를 활용해 기업을 만들거나 새로운 문제를 해결하고 있습니다.

최근에는 모금 활동 경험이 전혀 없는 인도의 한 학생이 우리 도구를 활용해 학교 기금 모금에 필요한 과정을 처음부터 끝까지 수행했다는 이야기를 들었습니다.

경제가 빠르게 성장하는 나라에서는 새로운 상품과 서비스에 대한 수요가 매우 큽니다. 이런 나라들은 AI가 제공하는 가능성을 훨씬 적극적으로 받아들이는 경향이 있습니다.

반면 이미 발전한 경제에서는 기존의 일자리와 사회 구조가 바뀔 수 있다는 우려가 더 크게 나타나는 것 같습니다.

Q. 인류에게 가장 중요한 기술혁명을 시작했는데도 미국에서는 비판받는 인물이 되었습니다. 왜 그렇다고 생각합니까?

샘 알트먼:

미국에는 권력을 가진 사람들에 대한 강한 불신이 있습니다. 특히 기술 산업이 가진 막대한 권력에 대한 회의적인 시각이 존재합니다.

어떤 면에서는 좋은 현상입니다. 다만 최근에는 그 정도가 조금 지나치다고 느낍니다.

Q. OpenAI 지분을 보유하지 않았던 것이 사람들에게 오해를 불러일으켰다고 생각합니까?

샘 알트먼:

그렇습니다. 지금 생각하면 지분을 가지지 않은 것은 실수였던 것 같습니다.

당시에는 나름대로 좋은 이유가 있었지만, 사람들이 제 행동을 이해하기 어렵게 만들었습니다.

예술가가 자신의 작품에 평생을 바치거나 운동선수가 돈보다 경기 자체를 사랑하는 것은 이상하지 않게 생각합니다.

저에게 OpenAI는 그런 존재입니다.

저는 이것보다 더 흥미롭고 중요하며 유익한 일을 상상하기 어렵습니다.

그야말로 엄청난 도전이니까요.

2. OpenAI는 어떻게 AGI의 가능성을 발견했는가? (11:09~18:16)

Q. 당신은 단기적으로 낮은 지위를 감수하고 장기적으로 높은 지위를 얻는 것이 중요하다고 했습니다. 다른 사람들이 모두 틀렸다고 할 때, 자신이 옳다는 것을 어떻게 알 수 있습니까?

샘 알트먼:

사실 확실하게 알 수는 없습니다.

자신의 판단에 강한 확신을 가질 수는 있고, 새로운 증거가 쌓이면서 그 확신이 커질 수는 있습니다. 하지만 절대적인 확실성은 없습니다.

2015년에 OpenAI를 시작했을 때를 생각해 보세요.

당시 대부분의 사람들은 AGI가 실현되려면 100년이 걸리거나 아예 불가능할 수도 있다고 생각했습니다.

우리는 젊은 사람들이 모여 터무니없는 일을 벌이는 집단처럼 보였습니다.

하지만 성공한다면 엄청난 가치가 있는 도전이라는 사실을 알고 있었습니다.

성공이 확실했던 것은 아니지만, 기대가치가 매우 높은 도전이라고 생각했습니다.

Q. 다른 사람들은 보지 못했지만, 당신은 AI가 성공할 것이라고 판단하게 만든 결정적인 신호가 있었습니까?

샘 알트먼:

제 인생에서 반복해서 활용해 온 중요한 통찰 중 하나는 규모의 놀라운 효과입니다.

기업, 도시, 국가, 기술 네트워크 등에서 무언가가 작은 규모로 작동한다면, 규모를 크게 확장했을 때 그 이상의 성과가 나타나는 경우가 많습니다.

신경망에서도 같은 현상을 발견했습니다.

작은 신경망이 어느 정도 작동하고, 규모를 키울수록 더 뛰어난 능력을 보여준다는 사실을 관찰했습니다.

그래서 저는 이 신경망을 훨씬 더 크게 확장해 보고 싶어졌습니다.

그것은 우리가 오늘날 알고 있는 정교한 스케일링 법칙을 발견하기도 전이었습니다.

Q. 다른 연구자들도 같은 데이터를 보고 있었는데, 왜 당신들처럼 과감하게 투자하지 않았을까요?

샘 알트먼:

제 경력에서 가장 이해하기 어려웠던 일 중 하나입니다.

2015~2016년, 심지어 2018~2021년에도 많은 사람들이 같은 결과를 보면서 왜 더 많은 자원을 투입해야 한다고 생각하지 않았는지 이해하기 어려웠습니다.

우리에게는 너무나 명백해 보였습니다.

하지만 당시의 신경망은 너무 멍청한 실수를 저질렀습니다.

그래서 많은 전문가가 단순히 모델을 크게 만드는 것으로는 근본적인 문제를 해결할 수 없다고 생각했습니다.

특히 인상적이었던 반론이 하나 있습니다.

신경망은 학습 데이터에서 다음에 무엇이 나올지 예측할 뿐이므로, 학습 데이터에 없는 새로운 지식을 발견할 수 없다는 주장이었습니다.

당시에는 매우 설득력 있는 논리처럼 들렸습니다.

하지만 지금은 그 주장이 잘못됐다는 것을 알고 있습니다.

모델이 배우는 것은 단순히 개별 수학 문제의 답이 아닙니다.

모델은 새로운 문제에도 적용할 수 있는 범용적인 추론 능력을 학습합니다.

그리고 그 능력은 기존에 알려지지 않은 영역으로까지 확장될 수 있습니다.

Q. 회사의 운명을 걸고 과감한 결정을 내렸던 순간을 하나 이야기해 주십시오.

샘 알트먼:

2022년 8월경 GPT-4의 훈련을 마쳤을 때입니다.

우리는 GPT-4를 세상에 공개하기 약 7~8개월 전부터 내부적으로 사용하고 있었습니다.

GPT-4가 얼마나 놀라운 모델인지 알고 있었지만, 그것이 앞으로 어떤 연구의 가능성을 열어줄지 이해하는 데는 시간이 조금 걸렸습니다.

우리는 GPT-4 이후 모델들이 얼마나 빠르게 발전할 수 있을지, 그리고 이후의 사고 과정(Chain of Thought) 연구와 추론 모델이 어떤 가능성을 가져올지 깨닫기 시작했습니다.

그때 우리는 컴퓨팅 자원에 막대한 투자를 하기로 결정했습니다.

사실상 회사의 운명을 건 투자였습니다.

세상은 아직 GPT-4조차 보지 못한 상태였고, 우리가 무엇을 알고 있는지도 몰랐습니다.

하지만 우리는 모델을 직접 사용했고, 스케일링이 가져오는 효과를 이미 이해하고 있었습니다.

그래서 엄청난 컴퓨팅 자원을 확보하기로 했습니다.

Q. GPT-4가 조금만 덜 똑똑했다면 같은 결정을 내렸을까요?

샘 알트먼:

아마 그렇지 않았을 겁니다.

GPT-4가 실제보다 조금만 낮은 수준, 이를테면 GPT-3.8 정도였다면 그렇게 거대한 투자를 결정할 만큼 확신을 갖지 못했을 것입니다.

3. 남들이 틀렸다고 할 때, 어떻게 판단하는가? (18:34~27:25)

Q. 지금도 사람들이 당신에게 망상에 빠져 있다고 말합니까?

샘 알트먼:

네. 하지만 그런 말을 더 많이 들어야 한다고 생각합니다.

저와 같은 위치에 있는 사람들이 실패하는 중요한 이유 중 하나는 주변에 무조건 동의하는 사람들만 남게 된다는 것입니다.

그래서 반대 의견이 중요합니다.

오래 알고 지낸 친구들과 함께 일해온 동료들의 의견을 듣는 것이 도움이 됩니다.

또한 사람들이 제가 틀렸다고 강하게 반박할 수 있는 문화를 만들려고 노력합니다.

권력이 커지고 성공 경험이 많아질수록 그런 문화를 유지하는 것이 어려워집니다.

Q. 똑똑한 사람들이 모두 반대하는데도 자신의 판단대로 행동해야 한다면 어떻게 해야 할까요?

샘 알트먼:

저는 모든 사람이 반대하는 결정을 내리는 경우가 매우 드뭅니다.

주변에 훌륭하고 똑똑한 사람들이 있다면 대부분 그들의 말을 들어야 합니다.

모두가 반대하는데도 혼자서 결정을 밀어붙이는 것은 성공 가능성이 낮고 비용이 큰 선택입니다.

그런 선택을 하려면 정말 강한 근거와 확신이 필요합니다.

Q. 지금이 창업하기 좋은 시기라고 생각합니까?

샘 알트먼:

제가 경험한 시기 중에서 새로운 기업을 만들기에 가장 좋은 시기입니다.

어쩌면 역사상 가장 좋은 시기일지도 모릅니다.

AI라는 엄청난 선물이 우리에게 주어졌습니다.

기업뿐 아니라 새로운 기술이나 창의적인 프로젝트를 만드는 데도 엄청난 가능성이 열렸습니다.

앞으로 정말 놀라운 것들이 많이 만들어질 것이라고 생각합니다.

Q. 다른 사람들은 이해하지 못하지만 자신은 확신하는 사업 아이디어가 있다면, 어떻게 그것이 단순한 희망적 사고가 아니라고 판단할 수 있습니까?

샘 알트먼:

중요한 방법 중 하나는 똑똑하면서도 사고가 엄격한 친구에게 자신의 생각을 설명해 보는 것입니다.

OpenAI를 시작할 때도 그랬습니다.

왜 이 기술이 성공할 수 있는지, 어떤 증거가 있는지, 성공한다면 얼마나 큰 가치를 만들어낼 수 있는지 설명했습니다.

모든 사람을 설득할 필요는 없습니다.

하지만 충분히 똑똑한 사람들에게 설명해도 단 한 명도 납득시키지 못한다면, 자신의 생각을 다시 검토할 필요가 있습니다.

반대로 일부 사람들이 충분히 납득한다면 의미 있는 신호가 될 수 있습니다.

중요한 것은 다른 사람이 이해하지 못한다는 사실 자체가 아닙니다.

자신이 무엇을 알고 있으며, 왜 그것이 좋은 선택인지 논리적으로 설명할 수 있어야 합니다.

4. ChatGPT 출시의 숨겨진 이야기 (27:25~30:35)

Q. OpenAI 내부에서 대부분의 리더들이 반대했지만 당신이 밀어붙였던 결정이 있었습니까?

샘 알트먼:

ChatGPT 출시가 그런 사례에 가깝습니다.

사람들이 챗봇 출시 자체를 반대했던 것은 아닙니다.

다만 대부분은 너무 이르고, 제품의 품질이 충분하지 않다고 생각했습니다.

하지만 저는 Y Combinator에서 배운 교훈을 기억하고 있었습니다.

첫 번째 제품이 조금 부끄럽게 느껴지지 않는다면, 출시를 너무 늦게 한 것일 수 있습니다.

초기 제품에서는 사용자의 피드백을 빨리 받는 것이 중요합니다.

Q. 내부적으로 ChatGPT 초기 버전의 사용자 유지율이 매우 낮았다고 들었습니다. 사실입니까?

샘 알트먼:

그렇습니다. 정확히 기억나지는 않지만 약 5% 정도였던 것 같습니다.

보통 그런 유지율을 보이는 제품은 출시하면 안 됩니다.

하지만 중요한 사실이 하나 있었습니다.

계속 사용하는 5%의 사용자들은 이 제품을 정말 좋아했습니다.

그 사람들은 ChatGPT를 매우 자주 사용했고, 강한 애착을 보였습니다.

YC에서 배운 중요한 교훈이 있습니다.

초기 제품에서는 많은 사람이 조금 좋아하는 것보다, 소수의 사람이 정말 사랑하는 것이 더 중요합니다.

그것이 ChatGPT 출시를 결정하는 중요한 신호였습니다.

Q. 지금처럼 수많은 사람이 사용하는 서비스가 되었는데도 같은 방식으로 실험할 수 있습니까?

샘 알트먼:

일정 부분은 가능합니다.

다만 지금은 ChatGPT가 기업의 핵심 업무에 사용되고 있고, 거의 중요한 사회 인프라에 가까워지고 있습니다.

그래서 모든 사용자에게 공개하는 제품이나 기업용 서비스에는 매우 높은 품질 기준이 필요합니다.

그와 별개로 새로운 아이디어를 실험하는 일은 계속할 수 있습니다.

앞으로도 다양한 신제품을 실험하게 될 것입니다.

5. 초지능이 초래할 수 있는 두 가지 재앙 (33:53~37:35)

이 구간은 인터뷰에서 AI 안전과 초지능의 미래를 가장 직접적으로 논의하는 부분입니다.

Q. OpenAI를 만든 것이 당신 인생에서 가장 중요한 일이 될 것이라고 생각합니까?

샘 알트먼:

아마 그럴 것입니다.

아직 확실하게 말하기에는 이르지만, 제가 평생 하는 일 중 가장 중요한 일이 될 가능성이 높습니다.

Q. OpenAI에 대해 가장 걱정하는 것은 무엇입니까?

샘 알트먼:

우리는 사회에 엄청난 영향을 미칠 무언가를 만들고 있습니다.

이미 그런 일을 해왔고 앞으로도 계속할 것입니다.

저는 AI가 궁극적으로 인류에게 엄청난 선을 가져올 것이라고 믿습니다.

하지만 그만큼 이해관계가 크고 우리에게는 막대한 책임이 있습니다.

Q. 과거에는 초지능이 인류의 생존에 가장 큰 위협이 될 수 있다고 생각했습니다. 그렇다면 왜 OpenAI가 초지능을 개발하는 것은 덜 위험하다고 생각합니까?

샘 알트먼:

저는 다원주의를 믿습니다.

OpenAI 혼자서만 초지능을 보유하는 것도 바람직하지 않다고 생각합니다.

초지능과 관련해서 미래가 잘못되는 두 가지 대표적인 시나리오가 있습니다.

첫 번째는 AI에 대한 통제력을 잃는 것입니다.

인간보다 상상할 수 없을 정도로 뛰어난 능력을 가진 AI 시스템에 의도적으로든 실수로든 미래에 대한 통제권을 넘겨주는 상황입니다.

그렇게 된다면 통제권을 되찾지 못할 수도 있습니다.

두 번째는 권력이 극단적으로 집중되는 것입니다.

단 한 명의 사람, 하나의 기업 또는 하나의 국가가 다른 모든 주체보다 압도적으로 강력해지는 상황입니다.

저는 그런 구조가 매우 불안정하다고 생각합니다.

그래서 여러 AI 연구 조직이 서로 다른 접근법으로 경쟁하고 기술을 발전시키는 것이 세계에 더 좋다고 믿습니다.

Q. 이미 4~5개의 거대한 AI 기업이 경쟁하고 있습니다. OpenAI만의 경쟁우위는 무엇입니까?

샘 알트먼:

우리에게는 가장 많은 사용자가 있습니다.

반도체부터 데이터센터, AI 모델, 그리고 그 위에 구축되는 기술에 이르기까지 뛰어난 전체 기술 스택을 갖추고 있다고 생각합니다.

또한 강력한 브랜드와 사용자들이 공감할 수 있는 가치를 가지고 있습니다.

우리는 다른 모든 기업을 지배하는 하나의 회사가 되고 싶지 않습니다.

모든 사람이 AI를 활용해 성공하기를 바랍니다.

6. OpenAI 내부 갈등과 연구 조직의 문화 (37:35~43:30)

Q. 당신이 해임되었을 때 약 700명의 직원이 사임하겠다고 했습니다. 어떻게 그런 조직을 만들 수 있었습니까?

샘 알트먼:

저 개인에 대한 충성심이 가장 중요한 이유였다고 생각하지 않습니다.

우리가 잘한 것은 같은 사명을 공유하는 탁월한 인재들을 모으고, 훌륭한 조직 문화를 만든 것입니다.

중요한 문제에는 강한 확신을 가지면서도 다른 부분에서는 열린 태도로 탐구할 수 있는 문화입니다.

언젠가 OpenAI의 역사가 기록된다면, 우리가 위대한 연구소의 문화를 어떻게 다시 발견했는지가 중요한 부분으로 남기를 바랍니다.

Q. 뛰어난 연구자들이 모였지만, 일리야 수츠케버나 다리오 아모데이 같은 사람들은 결국 떠나 자신들의 조직을 만들었습니다. 근본적인 갈등의 원인은 무엇입니까?

샘 알트먼:

이 기술은 너무나 중요하기 때문에 사람들이 자신만이 올바르게 개발할 수 있다고 믿게 되는 측면이 있는 것 같습니다.

상대방의 접근법이 잘못됐다고 생각하고, 그러면 그 사람에게 권력이 집중되어서는 안 된다고 생각하게 됩니다.

결국 기술적 접근법의 차이와 신뢰 문제가 함께 작용하는 것입니다.

Q. 그렇게 많은 갈등과 논란을 겪으면서 당신도 변했습니까?

샘 알트먼:

누군가가 초지능을 개발하는 일에 관여하면서 평온한 삶을 살 수 있을 것이라고 생각하지 않습니다.

이 일이 실제로 성공할 수 있다는 확신이 생기기 시작했을 때, 제 삶이 엄청나게 복잡해질 것이라는 사실을 깨달았습니다.

좋은 일만은 아니었지만, 저는 그런 혼란을 감당하는 데 비교적 적합한 사람인 것 같습니다.

7. AI가 과학의 난제를 풀기 시작하다 (44:17~45:38)

Q. 최근에 정말 긴장했던 순간은 언제입니까?

샘 알트먼:

나비에–스토크스 방정식과 관련된 결과를 발표하기 직전입니다.

그것은 정말 엄청난 순간이었습니다.

사람들에게 극도로 어려웠던 문제들, 인간이 해결하기 어려웠던 문제를 AI가 이제 해결하기 시작했다는 사실을 보여주는 결과였으니까요.

저는 이것이 정말 중요한 사건이라고 느꼈습니다.

심장이 두근거릴 정도로 긴장했던 마지막 순간이 아마 그때였을 겁니다.

참고: 이는 알트먼이 인터뷰에서 설명한 연구 성과에 대한 자신의 평가입니다. 이 발언만으로 나비에–스토크스의 밀레니엄 난제가 수학계에서 공식적으로 해결·검증되었다고 단정할 수는 없습니다.

8. 샘 알트먼이 잃어버린 평범한 삶 (45:38~47:24)

Q. OpenAI를 시작할 당시의 당신과 지금의 당신은 어떻게 달라졌습니까?

샘 알트먼:

예전에는 훨씬 자유로운 사람이었습니다.

취미도 많았고, 갑자기 화요일 저녁에 친구를 만나 식사할 수도 있었습니다.

하지만 지금은 모든 시간이 아주 정밀하게 계획되어 있습니다.

오랫동안 즉흥적으로 무언가를 해본 기억이 없습니다.

그 점은 정말 슬픕니다.

Q. 예전의 삶에서 가장 그리운 것은 무엇입니까?

샘 알트먼:

토요일 오후에 카페에 가서 커다란 커피 한 잔을 마시며 노트북을 켜놓고 앉아 있던 시간입니다.

세상이 돌아가는 모습을 구경하고, 이메일도 천천히 확인하고, 그냥 인터넷을 둘러보던 시간이 그립습니다.

이제는 그런 일을 몇 년째 하지 못했습니다.

물론 마음만 먹으면 카페에 갈 수 있겠지만, 옆 테이블에는 경호원 두 명이 앉아 있을 것입니다.

더 이상 세상 속에서 익명의 평범한 사람으로 존재하기 어려워졌습니다.

9. 위대한 창업자를 만드는 조건 (47:24~58:55)

Q. 창업자가 장기적으로 경쟁우위를 확보하는 것이 중요합니까?

샘 알트먼:

중요하지만 가장 중요한 질문은 아닙니다.

처음에는 사용자가 원하는 제품이 무엇인지, 왜 그 제품이 필요한지, 어떻게 더 많은 사용자를 확보할 것인지가 중요합니다.

장기적인 경쟁우위는 그다음에 고민해야 할 문제입니다.

Q. 창업자를 30분 정도 만나보고 성공할 사람인지 판단할 수 있습니까?

샘 알트먼:

완벽하게 판단할 수는 없지만, 상당히 강한 직관을 얻을 수 있습니다.

제가 중요하게 생각하는 것은 명확하게 소통하는 능력입니다.

자신의 생각을 쉽게 설명할 수 있고, 상대방이 함께 일하고 싶다는 마음을 갖게 만드는 사람을 높게 평가합니다.

또한 새로운 아이디어를 빠르게 만들어내고 기존 아이디어를 개선할 수 있는 사람, 세상에 대해 새롭고 논리적인 통찰을 가진 사람을 좋아합니다.

Q. 성공한 창업자들에게 공통으로 나타나는 특성이 있습니까?

샘 알트먼:

추진력, 집중력, 명확한 비전, 어려운 문제를 반복해서 해결하는 능력 같은 요소는 중요합니다.

하지만 성공하는 창업자의 모습은 매우 다양합니다.

가령 YC에서 가장 성공한 회사 10곳을 골라 각 회사의 CEO를 서로 바꾸면 모두 엉망이 될 것입니다.

각 창업자와 기업 사이에는 고유한 적합성이 있기 때문입니다.

성공하는 방법은 매우 다양합니다.

반면 실패를 예측하는 요인은 비교적 명확합니다.

추진력이 없거나, 집중하지 못하거나, 비전이 불분명하거나, 어려운 문제를 계속 해결하려는 의지가 없는 경우입니다.

Q. 야망은 타고나는 것입니까? 아니면 가르칠 수 있습니까?

샘 알트먼:

가르칠 수 있다고 생각합니다.

YC에서 발견한 가장 기분 좋은 사실 중 하나였습니다.

효과적인 방법은 두 가지입니다.

첫째, 비슷한 도전을 하는 야심 찬 동료들과 함께하는 것입니다.

둘째, 점점 어려워지는 도전을 연속적으로 경험하면서 자신이 생각했던 것보다 더 많은 일을 해낼 수 있다는 사실을 배우는 것입니다.

성취를 반복하면서 자신감도 커집니다.

저 역시 그런 과정을 통해 훨씬 더 야심 찬 사람이 되었습니다.

Q. 창업자들에게 해주고 싶은 가장 중요한 조언은 무엇입니까?

샘 알트먼:

조언을 너무 많이 듣지 말라는 것입니다.

창업에 관한 수백 개의 팟캐스트를 듣는다고 훌륭한 창업자가 되는 것은 아닙니다.

정말 중요한 원칙 몇 가지는 있습니다.

그중 하나가 YC의 유명한 원칙입니다.

사람들이 원하는 것을 만들어라.

그 외에는 직접 행동하면서 자기 사업에 맞는 답을 찾아야 합니다.

Q. 당신이 과거에 쓴 '성공을 위한 13가지 원칙'을 다시 쓴다면 무엇을 가장 강조하겠습니까?

샘 알트먼:

복리 효과입니다.

경력에서도 복리 효과가 매우 중요하지만 많은 사람이 이를 과소평가합니다.

어떤 사람은 20년의 경력이 있다고 하지만, 사실 같은 1년을 20번 반복했을 뿐일 수도 있습니다.

정말 중요한 것은 매 단계에서 새로운 도전을 하고, 이전 단계에서 배운 것을 바탕으로 계속 성장하는 것입니다.

대부분의 사람들은 경력의 초기에 이런 성장 곡선에서 이탈합니다.

불편하고 새로운 일을 계속 시도하면서 자신의 성장 곡선을 유지해야 합니다.

10. 재귀적 자기개선(RSI) 시대와 AI 발전 속도 (59:21~1:01:35)

Q. 요즘 당신에게 가장 어렵고 불편한 문제는 무엇입니까?

샘 알트먼:

현재 진행되고 있는 AI 발전 속도에 관한 논쟁을 어떻게 다루어야 할지 결정하는 일입니다.

매우 어렵고 중요하며, 이전에 경험하지 못한 새로운 문제입니다.

Q. 그런 중요한 문제를 어떻게 판단합니까? 자신이 틀렸을 가능성도 생각합니까?

샘 알트먼:

물론입니다. 그렇게 하지 않는다면 재앙일 것입니다.

강한 확신을 갖는다는 것이 자기 생각을 의심하지 않는다는 뜻은 아닙니다.

저는 모든 것을 끊임없이 의심하려고 합니다.

한 가지 문제를 여러 각도에서 생각하고, 나쁜 아이디어들을 버리고, 자신의 논리를 스스로 반박해 봅니다.

그리고 다른 사람들의 의견을 듣고 다시 생각을 수정합니다.

이런 과정을 반복합니다.

Q. 지금 실제로 그렇게 고민하고 있는 문제를 하나 들어주시겠습니까?

샘 알트먼:

바로 우리가 재귀적 자기개선(RSI)의 시대로 진입하면서 AI 발전 속도를 어떻게 관리할 것인가 하는 문제입니다.

AI가 점점 더 뛰어나지면서 우리가 앞서 이야기한 두 가지 위험을 어떻게 피할 수 있을까요?

하나는 AI에 대한 통제력을 상실하는 것이고, 다른 하나는 권력이 극단적으로 집중되는 것입니다.

이를 해결하기 위해서는 적절한 거버넌스 체계를 고민해야 합니다.

예를 들어 이런 질문들이 있습니다.

• 
  

  
  
  AI 시스템이 인간보다 얼마나 더 똑똑해지는 것을 허용해야 할까요?
  
  

  
  
• 
  

  
  
  AI의 지능은 얼마나 빠르게 향상되어도 괜찮을까요?
  
  

  
  
• 
  

  
  
  보안, 모니터링, 정렬(Alignment) 문제는 어떻게 다루어야 할까요?
  
  

  
  
• 
  

  
  
  우리는 어느 부분에서 위험을 감수할 수 있고, 어느 부분에서는 감수해서는 안 될까요?
  
  

  
  

이것이 지금 우리가 직면한 가장 어려운 문제 중 하나입니다.

Q. 이런 문제에 대한 판단은 집에서 아이들을 바라볼 때 달라지기도 합니까?

샘 알트먼:

아이들과 함께 있을 때는 가능한 한 아이들에게 온전히 집중하려고 합니다.

다만 저는 업무 방식에서 두 가지 리듬을 오가는 것이 중요하다고 생각합니다.

사람들과 활발하게 상호작용하며 집중적으로 일하는 시간과, 세상과 단절된 채 혼자 깊이 생각하는 시간이 필요합니다.

둘 중 하나만으로는 제대로 일할 수 없습니다.

11. AI가 지배하는 미래에 자신의 아이들을 맡길 수 있는가? (1:02:38~1:03:37)

Q. AI 기술이 잘못될 수 있다는 것을 누구보다 잘 알고 있습니다. 당신이 세상을 떠난 뒤 아이들이 AI가 지배적인 세상에서 살아가게 된다면, 안심할 수 있겠습니까?

샘 알트먼:

네. 저는 안심할 수 있다고 생각합니다.

물론 AI가 잘못될 수 있는 여러 가지 가능성이 있다는 것을 알고 있습니다.

미래가 정확히 어떤 모습이 될지는 저도 모릅니다.

하지만 저는 사람들이 변화에 적응하고, 번영하며, 모두를 위해 더 좋은 사회를 만드는 능력을 엄청나게 신뢰합니다.

그래서 세상은 앞으로도 계속해서 훨씬 더 좋아질 가능성이 높다고 믿습니다.

12. AI가 새로운 과학을 발견하는 미래 (1:03:37~1:04:48)

Q. 앞으로 당신이 가장 만들고 싶은 놀라운 기술은 무엇입니까?

샘 알트먼:

저는 AI를 활용해 새로운 과학을 어디까지 발견할 수 있을지 매우 기대하고 있습니다.

최근 수학 분야에서 나타난 성과는 저에게 정말 놀라웠습니다.

그 결과를 보고, 우리가 이 중요한 이정표에 제가 예상했던 것보다 더 가까워졌다고 생각하게 되었습니다.

제가 만들고 싶은 것은 인간이 세상을 더 깊이 이해하도록 돕고 새로운 과학적 지식을 발견하는 기계입니다.

예를 들어 물리학의 가장 근본적인 원리를 밝혀내거나, 새로운 의료 치료법을 개발하거나, 새로운 에너지원을 발견할 수 있을 것입니다.

아직 우리가 상상조차 하지 못하는 것들이 더 나은 과학적 이해를 통해 가능해질 수도 있습니다.

인류의 삶이 개선되는 과정을 보면 그 중심에는 더 나은 과학적 이해가 있는 경우가 매우 많았습니다.

이제는 AI를 통해 과학적 발전 자체를 가속할 수 있다고 생각합니다.

그것은 인류에게 엄청난 변화를 가져올 것입니다.

Q. 그 기계를 직접 만들고 싶다는 말씀이군요?

샘 알트먼:

그렇습니다.

13. 샘 알트먼이라는 사람이 되기 위해 치른 대가 (1:04:48~1:06:12)

Q. 인류의 미래를 결정할지도 모르는 기술을 만드는 샘 알트먼이 되기 위해 치른 대가는 무엇입니까?

샘 알트먼:

대답하기 어려운 질문입니다.

이것이 이제 제 삶 자체가 되었으니까요.

앞서 주말에 카페에 앉아 시간을 보내지 못하는 이야기를 했지만, 그건 아주 사소한 예입니다.

물론 피곤하고 스트레스도 많습니다.

수많은 사람이 자신의 불안과 두려움을 저에게 투영하기도 합니다.

그 과정에서 개인적인 삶의 여러 가지를 포기해야 했습니다.

하지만 저는 이런 일을 할 수 있다는 사실이 믿을 수 없을 만큼 행운이라고 생각합니다.

그래서 제 삶이 너무 끔찍하다거나, 고통스럽다는 식으로 생각하지는 않습니다.

이제는 이것이 제가 알고 있는 삶입니다.

과거의 삶은 아주 먼 기억처럼 느껴집니다.

14. 인터뷰에서 드러난 핵심 메시지 7가지

15. AGI·초지능 도래 시점 관점에서 주목할 발언

이번 인터뷰에서 특히 주의 깊게 볼 부분은 세 가지입니다.

첫째, 알트먼은 AI 발전을 단순한 성능 향상의 문제로만 이야기하지 않았습니다. (1:00:37)

그는 이미 RSI 시대로 진입한다는 전제에서 AI 발전 속도를 어떻게 관리해야 하는지 고민한다고 말합니다.

이는 AI가 AI 연구개발에 기여하는 단계가 중요해졌다는 그의 인식을 보여줍니다. 다만 이번 발언만으로 AI가 이미 완전한 자율적 자기개선에 성공했다고 해석해서는 안 됩니다.

둘째, 과학적 발견 능력이 예상보다 빠르게 발전하고 있다는 점입니다. (1:03:37)

알트먼은 최근 수학 연구 성과를 보고 AI가 새로운 과학적 지식을 발견하는 이정표에 예상보다 가까워졌다고 직접 말했습니다.

이는 단순히 문제를 잘 푸는 AI를 넘어, 새로운 지식을 생산하는 AI에 대한 기대를 나타냅니다.

셋째, 가장 어려운 문제가 'AI를 어떻게 더 똑똑하게 만들 것인가'에서 '얼마나 빠르게 발전시켜도 되는가'로 확장되고 있다는 점입니다. (59:21~1:01:35)

알트먼은 모델의 지능이 인간보다 얼마나 높아져도 되는지, 얼마나 빠르게 향상되어야 하는지, 그리고 어떤 거버넌스와 보안 체계가 필요한지를 현재 가장 어려운 문제로 제시했습니다.

종합적으로 보면

이번 인터뷰에서 알트먼은 AGI나 초지능이 등장할 특정 연도를 명시하지 않았습니다.

그러나 전반적인 발언은 AI가 과학적 발견을 가속하고, AI 연구개발에도 기여하며, 그에 따른 발전 속도와 통제 문제가 점점 중요해지고 있다는 인식을 보여줍니다.

특히 인상적인 것은 초지능을 막연한 먼 미래의 기술로 설명하기보다, 그 기술을 개발하는 과정에서 어떤 결정을 내려야 하는지를 현재의 문제로 논의하고 있다는 점입니다.

이는 2027년 AGI 가능성을 논의할 때 참고할 만한 중요한 정성적 신호입니다. 다만 실제 도래 시점을 판단하려면 독립적으로 검증된 AI 연구 자동화 성과와 장시간 자율 연구 수행 능력에 대한 증거가 추가로 필요합니다.

이번 인터뷰를 관통하는 알트먼의 생각은 다음과 같이 정리할 수 있습니다.

우리는 인류 역사상 가장 강력한 기술을 만들어 가고 있다. 그 기술은 우리가 상상하지 못한 새로운 과학과 번영을 가능하게 할 수 있다. 하지만 그 힘을 통제하지 못하거나 소수에게 집중시킨다면 미래는 매우 위험해질 수 있다. 이제 중요한 것은 AI가 얼마나 똑똑해질 수 있는지만이 아니라, 그 발전을 어떻게 관리하고 인류 전체에 도움이 되도록 만들 것인가이다.

마지막 문단은 인터뷰의 핵심 취지를 종합한 의역이며, 알트먼의 연속된 실제 발언을 그대로 인용한 것은 아닙니다.