샘 올트먼 인터뷰: 초지능 시대에도 인간으로 남는다는 것

Sam Altman, Co-Founder and CEO of OpenAI: Staying Human While Scaling Superintelligence

인터뷰: 스탠퍼드 경영대학원(Stanford GSB) — View from the Top 출연: 샘 올트먼(Sam Altman), OpenAI 공동창업자 겸 CEO 영상 길이: 약 48분

 

이번 인터뷰에서 샘 올트먼은 AI 발전 속도가 자신의 예상보다 빨라졌으며, 특정 수학적 영역에서는 이미 초지능에 도달했다고 생각한다고 밝혔습니다. 특히 향후 1~2년간 현재의 발전 속도가 유지된다면 AI 개발 속도를 조절하는 방식과 안전 전략을 바꿔야 한다고 강조했습니다.

또한 AI 정렬(Alignment), 자율적인 사이버 공격, 로봇을 통한 컴퓨팅 인프라의 자기증식, 자체 AI 칩 개발, 인간의 일자리와 가치 등 폭넓은 주제를 다뤘습니다.

1. 창업 경험과 OpenAI의 탄생

Q1. 스탠퍼드 재학 시절 투자은행 인턴십을 포기하고 창업을 선택한 이유는 무엇인가요?

01:59~03:30

샘 올트먼:

사실 저는 투자은행에서 일하고 싶었던 적이 없습니다. 그런데 스탠퍼드에 들어와 보니 똑똑하다고 생각되는 학생들이 모두 투자은행에 가려고 하더군요.

저도 또래 집단의 압력에 영향을 받았습니다. 뉴욕으로 면접을 보러 가고, 좋은 호텔과 레스토랑을 경험하는 과정이 당시 18~19세였던 저에게는 굉장히 인상적이었습니다.

하지만 시간이 지날수록 제가 그 일을 좋아하지 않을 것이라는 생각이 강해졌습니다.

한편 친구들과 작은 프로젝트를 만들고 있었는데, Y Combinator가 여름 동안 생활비를 지원해 줄 테니 스타트업을 해보라고 제안했습니다.

그때 생각했습니다.

"이건 우주가 보내는 신호다. 창업을 시도해야겠다."

그래서 투자은행 대신 창업을 선택했습니다.

Q2. 스타트업 창업자에서 Y Combinator 대표가 되기까지 무엇을 배웠나요?

03:47~05:36

샘 올트먼:

제가 스타트업을 하면서 가장 놀랐던 것은 학습 속도였습니다.

학교를 그만둘 때는 더 이상 많은 것을 배우지 못할까 봐 걱정했습니다. 하지만 스타트업을 운영하는 것은 제가 경험한 그 어떤 환경보다 빠르게 배우는 일이었습니다.

당시 누군가가 이런 말을 해줬습니다.

"스타트업을 한 달 운영하면 MBA 과정 전체에 해당하는 것을 배울 수 있다."

실제로 제품 개발, 고객, 영업, 사업 운영 등 많은 것을 아주 빠르게 배웠습니다.

반면 Y Combinator를 운영하는 일은 달랐습니다. 직접 기업을 경영하는 것이 아니라 여러 창업자가 성공할 수 있도록 공동체와 환경을 만드는 일이었습니다.

어떤 의미에서는 정부를 운영하는 일과 비슷했습니다.

그렇지만 이전에 배운 것들이 새로운 업무에 도움이 됐습니다. 인생에서 경험하는 일들은 겉보기에는 관련이 없어도 나중에 서로 연결됩니다.

Q3. 새로운 일을 잘하기 위해서는 어떻게 공부하고 준비해야 할까요?

05:36~06:56

샘 올트먼:

훌륭한 멘토들의 도움을 받았지만, 특별한 일을 수행하는 방법을 미리 완벽하게 배울 수는 없습니다.

이미 수많은 사람이 해본 일이라면 교실에서 배울 수 있겠지만, 완전히 새로운 종류의 일은 직접 부딪히면서 배워야 합니다.

저는 사람들이 실제로 일을 시작하기보다 준비하는 데 너무 많은 시간을 사용한다고 생각합니다.

중요한 것은 직접 시도하고, 실수하고, 결과를 분석하는 것입니다.

단순히 무작정 시도하는 게 아니라 일종의 의도적인 연습(Deliberate Practice) 을 해야 합니다.

실험하고, 결과를 확인하고, 자신의 생각을 수정하는 과정을 반복하면 생각보다 훨씬 빠르게 성장할 수 있습니다.

Q4. 2015년 OpenAI를 설립할 당시 대부분의 사람이 AGI를 불가능하다고 생각했습니다. 무엇을 다르게 보셨나요?

07:19~09:48

샘 올트먼:

핵심은 딥러닝이 실제로 작동하고 있다는 사실이었습니다.

저는 스탠퍼드 재학 시절 AI 연구실에서 일했고, 원래 AI 분야에서 경력을 쌓을 생각이었습니다.

2005년에 한 컴퓨터과학 교수가 AI를 구현하려면 최소 100년이 더 걸릴 것이며 딥러닝은 절대로 성공하지 못할 것이라고 말했던 기억이 있습니다.

그런데 2012년 AlexNet이 등장했고, 2014년 무렵에는 딥러닝 시스템이 규모를 늘릴수록 더 좋아진다는 사실을 확인할 수 있었습니다.

당시 대부분의 사람은 이를 받아들이지 않았습니다.

하지만 제 경력에서 가장 중요한 통찰 중 하나가 바로 규모 확장(Scaling)이 가져오는 예상 밖의 효과였습니다.

기업, 네트워크, 신경망 등 여러 분야에서 비슷한 현상을 목격했습니다.

어떤 기술이 규모 확장에 따라 계속 좋아지는 아름다운 성장 곡선을 보여준다면 계속 투자해야 합니다.

인간의 직관은 지수적 성장의 의미를 제대로 이해하지 못하는 경우가 많습니다.

물론 우리도 중간중간 한계에 부딪혔다고 생각했고, 믿음이 흔들린 적도 있었습니다.

하지만 계속 규모를 키웠습니다.

당시에는 발전이 얼마나 예측 가능하게 일어나는지조차 정확히 몰랐지만, 기본 방향이 옳다고 판단했습니다.

Q5. OpenAI가 비영리 연구소에서 거대한 제품 기업으로 변화할 것이라고 예상했나요?

10:09~13:12

샘 올트먼:

전혀 예상하지 못했습니다.

OpenAI는 원래 제가 은퇴 후에 할 프로젝트 같은 것이었습니다.

당시 실리콘밸리에서는 벨 연구소나 제록스 PARC 같은 위대한 연구소에 대한 관심이 높았습니다.

저 역시 AI 연구소를 운영하는 일을 꿈꿨습니다.

초기 5년 정도는 정말 이상적인 직업이었습니다. 소수의 연구자와 함께 AI의 근본적인 문제를 연구하는 일이었으니까요.

그런데 우리는 AI가 개발된 이후 어떤 방식으로 사회에 영향을 미칠지를 잘못 예상했습니다.

원래는 엄청난 초지능을 개발하고 나면 그 기술이 어떻게든 인류에게 혜택을 줄 것이라고 생각했습니다.

하지만 실제로는 제품을 만들고, 인프라를 구축하고, 사람들이 사용할 수 있도록 제공하는 모든 과정이 필요했습니다.

AI는 우리가 예상했던 것보다 전기나 트랜지스터에 가까운 기술이었습니다.

여러 기업이 이를 활용하고 새로운 과학적 발견과 기술을 만들어내는 범용적인 기반 기술이 된 것입니다.

이를 위해 ChatGPT 같은 제품뿐 아니라 인류가 역사상 시도한 어떤 프로젝트보다도 거대한 규모의 컴퓨팅 인프라를 구축해야 한다고 생각합니다.

2020년 말에서 2021년 초쯤 대기업을 만들어야 한다는 것을 깨달았습니다.

그리고 ChatGPT가 출시되면서 모든 일이 예상보다 훨씬 빠르게 진행됐습니다.

2. 초지능의 발전 속도와 AI 안전 문제

Q6. 현재 OpenAI CEO로서 가장 어려운 의사결정은 무엇인가요?

13:12~15:00

샘 올트먼:

가장 먼저 떠오르는 문제는 AI 발전의 속도를 어떻게 조절할 것인가입니다.

사람들은 이를 개발 중단(Pause), 속도 조절(Pacing), 지능의 속도 제한(Intelligence Speed Limits) 등 여러 가지 이름으로 부릅니다.

저는 두 가지 원칙을 매우 중요하게 생각합니다.

첫째, 인간은 미래에 대한 통제권을 계속 가지고 있어야 합니다.

우리가 의도적으로 AI에게 돌이킬 수 없는 의사결정 권한을 넘겨주거나, 실수로 통제권을 잃는 일이 있어서는 안 됩니다.

둘째, AI의 힘이 소수에게 집중되어서는 안 됩니다.

IQ가 100억에 달하는 초지능 AI가 모든 권력을 갖는 미래도 원하지 않지만, 소수의 인간만이 AI를 독점해서 나머지 사람들을 마음대로 통제하는 미래도 원하지 않습니다.

그런데 이 두 가지를 동시에 달성하려면 매우 어려운 질문들을 해결해야 합니다.

• 
  

  
  
  AI가 가장 똑똑한 인간보다 얼마나 더 똑똑해지는 것을 허용해야 하는가?
  
  

  
  
• 
  

  
  
  얼마나 빠르게 발전하도록 허용해야 하는가?
  
  

  
  
• 
  

  
  
  인간이 AI를 이해하고 활용하는 능력을 얼마나 빠르게 높여야 하는가?
  
  

  
  
• 
  

  
  
  이러한 한계를 누가, 어떤 방식으로 결정해야 하는가?
  
  

  
  

저는 이 문제가 해결 가능하다고 생각하지만 시간이 필요하다고 봅니다.

아무런 규제도 없어야 한다는 주장에도 동의하지 않고, 지금 즉시 모든 AI 개발을 중단해야 한다는 주장에도 동의하지 않습니다.

그 중간에서 현실적인 해법을 찾는 것은 매우 어려운 일입니다.

Q7. 최근 6개월 동안 AI의 능력이 빠르게 발전했습니다. AI 안전에 대한 생각이 달라졌나요?

15:00~16:54

샘 올트먼:

OpenAI 설립 초기부터 가지고 있던 여러 믿음은 여전히 유지하고 있습니다.

AI를 점진적으로 사회에 배포해야 한다는 생각도 여전합니다.

사회는 AI가 발전하는 과정에서 직접 기술을 경험하고 적응할 필요가 있습니다.

또한 저는 인간이 놀라울 만큼 적응력이 높다고 믿습니다.

미래의 기술적 환경은 지금과 크게 달라지겠지만, 인간 사회의 기본적인 모습은 사람들이 예상하는 것보다 훨씬 비슷하게 유지될 수 있다고 생각합니다.

그런데 지난 6개월 동안의 AI 발전 속도는 이런 믿음들을 시험하고 있습니다.

적어도 수학적 추론 같은 특정 영역에서는 이미 초지능을 가지고 있다고 생각합니다.

저는 이것이 이렇게 빨리 일어날 것이라고 예상하지 못했습니다.

만약 지금과 비슷한 발전 속도가 앞으로 1~2년 더 이어진다면 어떻게 될까요?

현재 기업과 정부, 사회의 협력 수준과 안전 체계를 그대로 유지하는 것으로는 충분하지 않을 것 같습니다.

AI 시스템의 능력이 너무 빠르게 향상되고 있습니다.

인간이 미래를 통제하고 권력이 분산된 사회를 유지하려면, 앞으로는 AI 발전 속도를 관리하는 방법 자체를 바꿔야 할 것입니다.

Q8. OpenAI 내부에서는 이러한 AI 개발 속도와 안전 문제를 어떻게 논의하나요?

16:54~18:00

샘 올트먼:

흥미로운 점은 모델의 실제 능력을 많이 경험할수록 내부 의견 차이가 줄어든다는 것입니다.

과거에는 AI가 얼마나 똑똑해질 수 있는지, 그리고 얼마나 빨리 발전할지에 대해 의견이 크게 갈렸습니다.

그런데 지금은 점점 더 많은 사람이 모델이 곧 놀라운 수준에 도달할 것이라는 사실을 받아들이고 있습니다.

그 결과 논쟁의 성격이 바뀌었습니다.

과거의 질문은 'AI가 정말 그렇게 똑똑해질 수 있을까?'였습니다.

지금의 질문은 '그렇게 똑똑한 AI를 어떻게 안전하게 개발하고 운영해야 할까?'입니다.

물론 여전히 전략에 관한 의견 차이는 있지만, 기술 발전 가능성 자체를 둘러싼 논쟁은 많이 줄었습니다.

Q9. AI 연구소와 정부는 규제와 안전 문제에서 어떻게 협력해야 할까요?

18:00~19:07

샘 올트먼:

최근 상황은 이전보다 긍정적이라고 생각합니다.

얼마 전까지만 해도 대부분의 정부가 AI 문제를 충분히 심각하게 받아들이지 않는다고 느꼈습니다.

의미 있는 대응이 나올 가능성이 높지 않다고 생각했죠.

그런데 지난 몇 달 동안 분위기가 달라졌습니다.

정부들이 AI의 발전과 위험을 훨씬 진지하게 논의하기 시작했습니다.

실제로 좋은 정책이 실행될지는 지켜봐야겠지만, 지금은 긍정적인 결과가 나올 가능성이 있다고 생각합니다.

Q10. 기업과 개인이 지금 가장 시급하게 대비해야 하는 AI 위험은 무엇인가요?

19:07~21:05

샘 올트먼:

사이버보안입니다.

앞으로 다가올 사이버보안 문제가 얼마나 심각할지 적절하게 표현할 단어조차 모르겠습니다.

기업 경영자, 국가, 개인 모두 이 문제를 충분히 심각하게 받아들이지 않고 있습니다.

올해 초 Mythos와 관련해 보안 업계에서 큰 소동이 있었습니다.

AI 모델들이 많은 보안 취약점을 발견할 수 있다는 사실이 드러났고, 여러 취약점이 패치됐습니다.

하지만 사람들은 여기서도 지수적 발전을 제대로 이해하지 못했습니다.

많은 사람이 AI가 이미 상당한 취약점을 찾아냈으니 앞으로도 비슷한 수준일 것이라고 생각했습니다.

그러나 AI는 계속 똑똑해지고 있습니다.

앞으로는 기존 해커의 위협 모델을 벗어나는 취약점까지 발견할 수 있을 것입니다.

극도로 복잡한 하드웨어 수준의 취약점이나 지금까지 상상하지 못한 공격 방식도 가능해질 수 있습니다.

보안 전문가들과 최고정보보안책임자(CISO)들은 여전히 크게 걱정하고 있지만, 일반적인 기업 경영자들의 관심은 다른 곳으로 옮겨간 듯합니다.

저는 이제 모든 취약점을 발견하고 패치하는 방식만으로는 문제를 해결할 수 없다고 생각합니다.

AI를 이용해 공격하는 시대에는 AI를 활용한 완전히 새로운 방어 체계, 일종의 방어막(Defense Shield)이 필요합니다.

이것은 매우 거대한 안전 및 안보 문제입니다.

그런데 사회가 이 문제에 기울이는 관심이 상대적으로 너무 적다는 사실이 놀랍습니다.

3. AI가 인간의 직업과 삶을 어떻게 바꿀 것인가?

Q11. AI 시대를 맞이하는 경영대학원 학생들에게 어떤 조언을 해주시겠습니까?

21:05~25:53

샘 올트먼:

저는 세상이 사람들이 생각하는 것만큼 빠르게 완전히 달라지지는 않을 것이라고 생각합니다.

물론 현재 인간이 수행하는 엄청나게 많은 업무가 AI에 의해 더 빠르고 저렴하고 정확하게 처리될 것입니다.

일부 직업에서 지금 수행하는 업무의 상당 부분은 AI가 완전히 대신하게 될 것입니다.

최근 수학자들의 반응을 살펴보는 것이 흥미로웠습니다.

AI의 새로운 수학적 성과가 공개된 직후 수학자들의 반응은 빠르게 변했습니다.

처음에는 성과가 가짜라고 생각했습니다.

그다음에는 수학이라는 분야가 끝났고 대학원생들에게 다른 전공을 선택하라고 말하는 반응까지 나왔습니다.

며칠 뒤에는 AI가 이런 일을 할 수 있게 된 것이 끔찍하다는 반응도 있었습니다.

그런데 시간이 조금 지나자 새로운 인식이 나타나기 시작했습니다.

수학자들이 하는 일이 밀레니엄 문제를 푸는 것만은 아니라는 사실을 깨달은 것입니다.

수학자들은 새로운 지식의 의미를 이해하고, 다른 사람에게 설명하고, 아름다운 증명을 작성하고, 어떤 문제를 연구할지 결정하는 일도 합니다.

AI가 수학적 발견의 상당 부분을 이끌더라도 인간 수학자의 역할이 모두 사라지는 것은 아닙니다.

프로그래머도 비슷한 경험을 했습니다.

지난 2년 동안 프로그래머들은 자신의 직업이 끝날 것이라고 걱정했지만, 컴퓨터를 활용해 원하는 결과를 만들어낼 수 있는 사람들에게는 여전히 높은 급여가 지급되고 있습니다.

일상적인 업무 방식이 달라지고 있는 것입니다.

컨설턴트도 마찬가지입니다.

AI는 이제 멋진 프레젠테이션을 만들 수 있지만, 고객들은 여전히 다른 인간과 상호작용하기를 원합니다.

저는 사람들이 흔히 이야기하는 형태의 전면적인 일자리 종말이 발생할 것이라고 생각하지 않습니다.

다만 단기적으로 업무와 직업의 구성이 크게 바뀔 것입니다.

이런 시기는 능력과 추진력, 새로운 아이디어를 가진 사람들에게 오히려 좋은 기회입니다.

제가 MBA 학생들에게 늘 아쉬운 점은 5년 전에 유행했던 일을 따라 하려 한다는 것입니다.

지금은 새로운 일을 시작하기에 아주 좋은 시기입니다.

OpenAI를 그대로 복제하는 스타트업을 창업하는 것은 좋은 생각이 아닐 수 있습니다.

하지만 OpenAI가 세상에 제공한 기술을 기반으로 OpenAI보다 훨씬 크고 중요한 기업들이 탄생하기를 기대합니다.

Q12. AI가 거의 모든 것을 대신할 수 있다면 인간은 무엇을 계속 배워야 할까요?

25:53~30:07

샘 올트먼:

어렸을 때 선생님이 저에게 필기체를 반드시 배워야 한다고 말씀하셨습니다.

하지만 저는 평생 필기체를 사용할 일이 거의 없을 것이라고 생각했습니다.

지금은 아마 필기체로 제대로 글을 쓰지도 못할 겁니다.

그런데 다른 선생님은 글쓰기의 중요성을 설명하면서 전혀 다른 말씀을 해주셨습니다.

글쓰기는 단순히 글을 생산하는 기술이 아니라 생각하는 방법을 배우는 과정이라는 것이었습니다.

저는 수학자가 될 생각이었기 때문에 작가가 될 필요가 없다고 이야기했습니다.

그러자 선생님은 수학자가 되더라도 생각을 정리하고 논리적으로 구성하는 능력은 필요하다고 말씀하셨습니다.

두 경험은 중요한 차이를 보여줍니다.

사고력을 발전시키는 기술은 계속 배워야 하지만, 기계가 훨씬 잘할 것이며 인간이 그 자체로 가치를 두지 않는 기술을 반드시 배울 필요는 없습니다.

그렇다면 미래에 인간에게 남는 것은 무엇일까요?

저는 인간의 가치가 인간에게서 나온다는 사실이 가장 중요하다고 생각합니다.

우리는 기계가 자기 목적을 위해 무엇을 하는지에는 그다지 관심이 없습니다.

반면 인간이 무엇을 하고, 무엇을 중요하게 생각하는지는 매우 중요하게 여깁니다.

과학의 역사를 보면 인간은 우주의 중심이 아니라는 사실을 반복해서 깨달아 왔습니다.

지구가 우주의 중심도 아니고, 태양계가 우주의 중심도 아닙니다.

그럼에도 우리는 여전히 자신의 이야기에서 중심적인 존재입니다.

AI가 아무리 발전하더라도 인간이 AI에 대한 통제권을 유지할 수 있다면 인간의 가치가 사라지지는 않을 것입니다.

어떤 일이 인간에 의해 수행됐다는 사실 자체가 의미를 가질 것입니다.

다른 사람에게 도움이 되는 방법을 배우고, 다른 사람이 중요하게 생각하는 무언가를 만들어내는 능력은 앞으로도 계속 중요할 것입니다.

Q13. AI가 발전하면 우리가 예상하지 못한 어떤 문제를 해결할 수 있을까요?

30:07~31:47

샘 올트먼:

최근 사람들과 대화하다 보면 AI에 회의적이었던 사람들조차 AI가 거의 모든 지식의 문제를 해결할 것이라는 전망을 받아들이기 시작했습니다.

저는 그 주장에 완전히 동의하지는 않지만, 대체로 그 방향으로 가고 있다고 느낍니다.

하지만 사람들이 훌륭한 삶을 살도록 하는 일은 여전히 어려운 문제일 것입니다.

모든 사람이 선택권과 자유를 가지고, 실수를 할 수 있으며, 나중에 자신의 인생을 돌아봤을 때 좋은 삶을 살았다고 느낄 수 있게 하는 것은 쉽지 않습니다.

어쩌면 그런 어려움 자체가 중요한 것일지도 모릅니다.

저는 앞으로 몇 년 동안 AI가 이끄는 변화가 새로운 산업혁명보다 새로운 르네상스(New Renaissance) 에 가까워지기를 바랍니다.

지금까지 AI 산업의 많은 에너지는 산업혁명적인 방향에 집중됐습니다.

모든 것을 자동화하고, 인간을 생산 과정에서 제거하고, 경제를 더 효율적으로 만들겠다는 생각입니다.

사람들에게 돈을 지급하고 AI가 무엇이 중요한지를 결정하는 사회가 될 수도 있습니다.

그러나 그렇게 되면 인간은 거대한 경제 기계의 부품처럼 존재하게 될 위험이 있습니다.

저는 그런 미래가 아니라 인간에게 더 많은 가능성이 열리는 미래를 바랍니다.

Q14. 르네상스적인 미래를 실현하는 데 가장 큰 장애물은 무엇일까요?

31:47~32:28

샘 올트먼:

대부분의 사람은 르네상스적인 미래를 원한다고 생각합니다.

더 많이 창조하고, 탐험하고, 지식을 발견하고, 새로운 자유와 기회를 갖기를 원합니다.

문제는 현대 사회와 경제 시스템이 지나치게 효율성을 추구하도록 설계되어 있다는 것입니다.

기업들은 비용을 절감하고 생산성을 극대화하도록 압력을 받습니다.

그런 경제적 압력만으로는 인간 중심의 미래가 자동으로 만들어지지 않을 수 있습니다.

따라서 기업이나 정부, 사회 전체가 효율성만을 추구하는 흐름에 균형을 잡아줄 필요가 있을 것입니다.

4. OpenAI의 다음 투자: 로봇, 자체 칩, 전력, 반도체 생산시설

Q15. OpenAI는 2024~2025년 컴퓨팅 인프라에 공격적으로 투자했습니다. 앞으로 어떤 인프라에 집중할 계획인가요?

32:53~34:11

샘 올트먼:

첫 번째는 로봇입니다.

사람들은 AI 모델이 스스로 AI 연구를 개선하는 재귀적 자기개선(Recursive Self-Improvement)에 대해 많이 이야기합니다.

하지만 또 다른 형태의 자기증식 과정이 있습니다.

로봇이 더 많은 로봇을 만들 수 있다고 생각해 보세요.

그리고 데이터센터가 사실상 더 많은 데이터센터를 만드는 데 필요한 작업을 수행할 수 있다고 가정해 보세요.

여기에는 반도체 제조시설을 운영하거나 새로운 발전소를 건설하는 일까지 포함됩니다.

그렇게 된다면 컴퓨팅 자원을 훨씬 빠르게 늘릴 수 있습니다.

저는 이 과정이 AI 연구 자체의 재귀적 개선만큼 중요하거나 거의 그에 준하는 중요성을 가질 수 있다고 생각합니다.

그런데 이 주제는 상대적으로 별로 이야기되지 않고 있습니다.

두 번째는 자체 AI 반도체입니다.

우리는 '할라페뇨(Jalapeño)'라는 칩을 개발했습니다.

그리고 후속 칩도 개발하고 있습니다.

이 칩들은 전력 1와트당 얻을 수 있는 지능(Intelligence per Watt)이라는 관점에서 시장의 다른 제품들보다 큰 이점을 제공한다고 판단하고 있습니다.

우리는 이 분야에 계속 투자할 것입니다.

AI 모델이 더 똑똑해지면 더 효율적인 칩을 설계하는 데 도움을 줄 수 있습니다.

이것 역시 일종의 자기개선 과정입니다.

세 번째는 전체 컴퓨팅 공급망입니다.

우리는 반도체 제조시설, 전력, 데이터센터 내부의 여러 장비 등 공급망 전반에 투자하고 있습니다.

앞으로도 이 세 영역에 집중할 생각입니다.

주목할 점: 올트먼은 기존 AI 모델의 성능 개선뿐 아니라, AI가 물리적 컴퓨팅 자원의 생산과 확장을 가속하는 새로운 순환 구조를 강조했습니다. 칩의 상대적 성능 우위 등은 인터뷰에서 제시한 회사 측 주장으로, 별도의 독립 검증과는 구분해야 합니다.

5. 삶의 가치와 AI 정렬 문제

Q16. 30세에 작성한 인생의 교훈을 41세이자 아버지가 된 지금 다시 쓴다면 무엇을 바꾸겠습니까?

34:11~35:05

샘 올트먼:

당시 상당히 긴 글을 썼던 것은 기억하지만 모든 내용을 기억하지는 못합니다.

지금 다시 쓴다면 굉장히 짧아질 것 같습니다.

가족을 이루고, 자신에게 중요한 무언가를 만들고, 즐겁고 의미 있는 일에 시간을 쓰고, 건강을 유지하라는 것입니다.

이런 문제에 대해서는 인생을 잘 살아온 나이 든 사람들의 이야기를 듣는 것이 좋다고 생각합니다.

Q17. 2020년에는 믿었지만 지금은 틀렸다고 생각하는 AI에 관한 전망이 있나요?

35:05~37:23

샘 올트먼:

저는 AI 정렬 문제가 지금까지 경험한 것보다 훨씬 어려울 것이라고 생각했습니다.

중요한 측면에서 인간보다 훨씬 뛰어난 모델을 개발할 수 있게 됐는데도, 지금까지 정렬 문제가 예상보다 쉽게 해결돼 왔다는 사실은 놀랍습니다.

과거의 저는 이 두 가지가 동시에 일어날 가능성이 매우 낮다고 생각했을 것입니다.

그러나 이것이 앞으로도 정렬 문제가 쉽게 해결될 것이라는 의미는 아닙니다.

오히려 저는 앞으로 정렬 문제가 훨씬 더 어려워질 가능성이 높다고 생각합니다.

일부 사람들은 지금까지 정렬이 잘 작동했으므로 다음 단계에서도 계속 괜찮을 것이라고 생각합니다.

하지만 저는 그런 결론이 전혀 자명하지 않다고 봅니다.

게다가 정렬에 실패했을 때의 잠재적 비용은 엄청나게 커졌습니다.

앞으로 AI 안전을 확보하는 방법이 단계적으로 달라질 수 있다고 생각합니다.

초기에는 AI를 외부와 격리된 샌드박스 환경에서 실행할 수 있습니다.

그것만으로도 일정한 안전 보장이 가능할 것입니다.

그러나 AI가 너무 똑똑해지면 샌드박스가 어떤 의미를 갖는지조차 이해하기 어려워질 수 있습니다.

그다음에는 AI의 행동과 내부 활동을 감시하는 모니터링 기술이 한동안 효과를 발휘할 것입니다.

하지만 결국에는 그것도 충분하지 않게 될 수 있습니다.

최종적으로 믿을 수 있는 것은 제대로 된 AI 정렬뿐이라고 생각합니다.

인간이 그 정렬 방식을 이해하고, 해당 AI를 실행해도 미래에 대한 인간의 통제권이 유지된다고 확신할 수 있어야 합니다.

이것이 제가 앞서 AI 발전 속도 제한을 언급한 이유입니다.

지금까지 정렬 문제가 상대적으로 쉽게 해결됐다는 이유만으로 일부 AI 개발 주체들이 지나치게 자신감을 가지고 앞으로 달려갈 수 있다는 점이 걱정됩니다.

6. 오픈소스 AI의 자유와 위험

Q18. AI의 혜택을 위해 어느 정도의 부작용은 받아들여야 한다고 말씀하셨습니다. 구체적으로 어떤 위험을 허용할 수 있다는 뜻인가요?

37:47~40:21

샘 올트먼:

이전 팟캐스트에서 그 발언을 다르게 표현했어야 한다고 생각합니다.

제가 전달하려던 의미가 제대로 전달되지 않았다는 것을 이해합니다.

앞으로는 오픈소스 AI 모델을 이용해 혐오 발언을 생성하거나, 인터넷에서 악의적인 행동을 하거나, 사기를 시도하는 사람들이 나타날 것입니다.

AI를 활용한 새로운 전화 사기도 지금보다 훨씬 정교해질 수 있습니다.

그런데 이런 일이 발생한다는 이유로 모든 오픈소스 모델을 금지해야 한다고 주장하는 사람들이 있을 수 있습니다.

저는 그것이 혁신과 자유에 지나치게 큰 비용을 초래한다고 생각합니다.

사람들이 자신의 컴퓨터에서 AI 모델을 직접 실행할 수 있게 한다면 모든 악용 사례를 막기는 어렵습니다.

그렇다고 오픈소스 AI를 전면 금지하는 선택을 해서는 안 된다고 생각합니다.

물론 명확한 한계선은 필요합니다.

누군가 인터넷 전체를 마비시키는 능력을 가져서는 안 됩니다.

다른 사람에게 물리적인 피해를 주는 능력을 마음대로 사용해서도 안 됩니다.

새로운 형태의 생물학적 테러를 일으킬 수 있는 능력도 허용해서는 안 됩니다.

사회가 어디에 선을 그을 것인지 논의해야 합니다.

예를 들어 전화 사기를 완전히 없애려면 모든 전화를 금지하면 됩니다. 하지만 사회는 그렇게 하지 않습니다.

전화가 제공하는 혜택과 자유가 매우 크기 때문입니다.

AI도 어느 정도 비슷한 문제가 있습니다.

다만 AI는 이전 기술보다 개인이 일으킬 수 있는 피해의 규모를 훨씬 크게 만들 수 있다는 점에서 다릅니다.

따라서 사회는 일부 자유를 제한해야 하는 불편한 선택을 해야 할 수도 있습니다.

그렇다고 사람들이 자기 컴퓨터에서 신경망을 실행하는 것까지 금지해야 한다고 생각하지는 않습니다.

Q19. AI가 소프트웨어의 경쟁우위를 빠르게 약화시키고 있습니다. 앞으로 스타트업은 어떤 해자(Moat)를 구축해야 하나요?

40:39~41:33

샘 올트먼:

저는 역사적으로 소프트웨어 그 자체가 강력한 경쟁우위였던 경우가 많지 않았다고 생각합니다.

중요한 경쟁우위는 따로 있었습니다.

예를 들어 페이스북에는 네트워크 효과가 있습니다.

구글에는 규모의 경제가 있습니다.

많은 기업용 소프트웨어 회사에는 데이터라는 경쟁우위가 있습니다.

소프트웨어 자체는 이런 강력한 경쟁우위를 확보하기 위한 일시적인 수단에 가까웠습니다.

먼저 좋은 소프트웨어로 시장에 진입한 뒤 네트워크 효과, 규모, 데이터 같은 전통적인 경쟁우위를 구축하는 것입니다.

AI 시대에도 기본적인 원리는 크게 다르지 않을 것이라고 생각합니다.

Q20. 가장 강력한 AI 모델의 가중치를 공개하려면 어떤 조건이 필요할까요?

41:53~44:20

샘 올트먼:

저는 상당히 높은 능력 수준까지는 개방형 가중치(Open-weight) 모델이 사회에 매우 중요하다고 생각합니다.

다만 그런 모델이 제공하는 혜택과 잠재적인 피해를 어떻게 비교할 것인지는 앞으로 몇 년 동안 중요한 논쟁이 될 것입니다.

이것은 고정된 문제가 아닙니다.

사회가 AI를 이용해 위험에 대응하는 능력을 키우면 더 강력한 모델을 공개할 수 있게 될 수도 있습니다.

예를 들어 OpenAI 재단이 미래의 팬데믹을 예방하고 대응하는 능력을 크게 향상시킨다면, 이전보다 더 강력한 생물학 관련 AI 모델을 공개하는 것이 가능해질 수도 있습니다.

하지만 현재 OpenAI의 가장 뛰어난 내부 모델을 가까운 시일 내에 오픈소스로 공개하는 것은 책임 있는 행동이 아니라고 생각합니다.

그 모델을 공개하려면 인터넷의 사이버보안 방어 체계 자체가 크게 달라져야 할 것입니다.

생물학적 위험에 대응하는 보호 체계도 갖춰야 합니다.

그리고 그 외에도 해결해야 할 문제가 많습니다.

문제는 폐쇄형 모델이 가진 성능 우위가 얼마나 오래 유지될 수 있느냐는 것입니다.

다른 곳에서 결국 비슷한 능력의 모델을 공개할 가능성이 있기 때문입니다.

따라서 폐쇄형 최첨단 모델이 앞서 있는 동안, 그 시간을 활용해 사회 전체의 방어 능력을 빠르게 강화하는 것이 중요합니다.

저는 OpenAI 재단이 그 과정에서 큰 역할을 할 수 있기를 바랍니다.

7. 인간다운 삶과 AI 시대의 조직 혁신

Q21. AI 시대에도 일부러 아날로그 방식으로 유지하려는 습관이 있나요?

44:20~45:36

샘 올트먼:

제가 종이 수첩에 메모하는 습관을 가지고 있다는 사실을 사람들이 알고 있습니다.

그런데 그건 아마 제가 잘못하고 있는 것 같습니다.

컴퓨터로 바꾸는 것이 더 나을지도 모릅니다.

그저 오랫동안 해온 습관이 남아 있는 것입니다.

정말 중요한 아날로그 활동은 다른 곳에 있습니다.

다른 사람들과 많은 시간을 보내고, 함께 식사하고, 자연 속에서 시간을 보내고, 운동하는 것입니다.

이런 것들은 오랜 세월 동안 인간에게 좋다고 알려져 온 활동들입니다.

종이 수첩을 쓰는 것처럼 기술적으로 대체 가능한 습관을 억지로 유지할 필요는 없다고 생각합니다.

Q22. 미래의 리더들이 조직과 사회를 변화시키기 위해 가장 집중해야 할 것은 무엇일까요?

45:36~48:16

샘 올트먼:

가장 명확한 답은 AI입니다.

특히 저는 AI를 활용해 완전히 새로운 형태의 조직을 설계하는 문제가 아직 충분히 탐구되지 않았다고 생각합니다.

기존의 조직은 대체로 위계적인 지휘·통제 구조로 설계되어 있습니다.

제 추측으로는 이런 조직 구조가 과거 군대의 운영 방식에서 많은 영향을 받았을 것입니다.

물론 지난 수십 년 동안 기술 기업들이 다양한 개선을 이루었지만, 기본적인 원리는 여전히 비슷합니다.

그런데 AI 시스템을 보면 완전히 다른 형태의 조직이 가능하다는 사실을 알 수 있습니다.

예를 들어 제가 기억하기로 나비에-스토크스(Navier–Stokes) 문제를 해결하는 데 약 1만 개의 AI 에이전트가 협력한 사례가 있습니다.

그 에이전트들은 제가 상상할 수 있는 어떤 인간 조직과도 다르게 협력했습니다.

리더가 없었습니다.

누가 공로를 가져갈지 다투지도 않았습니다.

서로 싸우지도 않았습니다.

모두 동일한 목표를 해결하는 데 집중했습니다.

인간은 그렇게 완벽하게 움직이지 않습니다.

하지만 저는 인간의 그런 불완전함에도 아름다운 면이 있다고 생각합니다.

인간을 감정 없는 에이전트처럼 만들고 싶지는 않습니다.

그렇더라도 AI 에이전트들의 협력 방식에서 배울 수 있는 것은 많습니다.

OpenAI 내부에서도 AI를 적극 활용하는 팀들은 훨씬 적은 인원으로 일하면서 업무 방식 자체를 변화시키고 있습니다.

앞으로는 AI를 중심으로 조직을 다시 설계하는 일이 매우 중요해질 것입니다.

여러분 같은 미래의 리더들이 새로운 조직 형태를 발견할 것이고, 세상은 그로부터 많은 혜택을 얻을 수 있을 것입니다.

참고: 나비에-스토크스 문제와 1만 개 에이전트에 관한 내용은 올트먼이 인터뷰에서 언급한 사례를 옮긴 것입니다. 해당 수학 문제가 공식적으로 해결됐다는 독립적인 검증을 의미하지는 않습니다.

인터뷰의 핵심 발언 7가지

종합 정리

이번 인터뷰에서 가장 주목할 변화는 올트먼이 AI의 기술적 발전 가능성을 강조하는 단계에서, 그 발전 속도를 사회가 어떻게 감당할 것인지 고민하는 단계로 이동했다는 점입니다.

그는 여전히 스케일링에 강한 확신을 가지고 있습니다. 하지만 과거처럼 기술을 점진적으로 배포하기만 해도 사회가 충분히 적응할 수 있다는 믿음은 최근의 발전 속도로 인해 시험받고 있다고 인정했습니다.

특히 AI 정렬이 지금까지 예상보다 쉬웠다는 사실이 앞으로의 안전을 보장하지는 않으며, AI 시스템이 더욱 강력해질수록 기존의 통제 수단이 무력화될 수 있다는 점을 경고했습니다.

동시에 OpenAI는 컴퓨팅 인프라 투자를 멈추려는 것이 아닙니다. 오히려 로봇, 전력, 반도체 제조시설, 자체 칩 등 물리적 인프라의 확장을 가속하려는 계획을 설명했습니다.

따라서 이번 인터뷰의 핵심을 한 문장으로 요약하면 다음과 같습니다.

"AI가 인간의 예상을 뛰어넘는 속도로 초지능에 접근하고 있는 만큼, 이제 중요한 문제는 얼마나 빨리 AI를 개발할 수 있느냐뿐 아니라 인간이 그 힘을 어떻게 통제하고 활용할 것인가이다."