샘 알트만 인터뷰: 왜 하나의 초지능보다 수조 개의 AI가 더 나은가?

Sam Altman × Patrick Collison | 약 52분 | 원문 시간순으로 재구성한 한국어 인터뷰

이번 인터뷰는 OpenAI CEO 샘 알트만과 Stripe 공동창업자 패트릭 콜리슨의 대담이다.

사이버보안과 AI의 수학적 발견 능력에서 시작해, 에이전트 집단의 확장 법칙, AI의 자기개선(RSI), 메모리 공급 부족, 데이터센터 자동 건설, 초지능의 분산과 민주적 통제까지 논의한다.

1. AI는 왜 20년 동안 발견하지 못한 소프트웨어 취약점을 찾아내는가? (00:00~04:40)

패트릭 콜리슨: 최근 PHP 관련 보안 취약점이 화제가 됐습니다. 이런 버그들을 발견하는 데 왜 이렇게 오래 걸렸을까요?

샘 알트만: 20년 동안 발견되지 않았던 이유를 묻는 건가요, 아니면 최근 몇 달 동안 시간이 걸린 이유를 묻는 건가요?

핵심은 우리가 이미 한동안 AI 모델이 실제 소프트웨어에서 취약점을 찾아내는 능력을 갖추기 시작했다는 사실을 알고 있었다는 겁니다.

두 가지 변화가 일어나고 있어요.

첫째, 모델의 취약점 발견 능력이 여전히 매우 빠르게 향상되고 있습니다.

둘째, 사람들이 그동안 인터넷에 존재하는 모든 소프트웨어를 AI로 체계적으로 검사하지 않았습니다.

인터넷에는 엄청난 양의 코드가 존재하죠. 이제 사람들이 AI를 이용해 그 코드들을 검사하기 시작하면서, 우리가 예상했던 것보다 훨씬 많은 심각한 취약점이 발견될 가능성이 높아졌습니다.

패트릭: 그런데 기존 소프트웨어의 버그를 고치는 것으로 충분할까요? 근본적으로 시스템 구조 자체를 바꿔야 하는 것 아닌가요?

샘: 저도 그렇게 생각합니다.

물론 취약점을 수정해야 합니다. 하지만 장기적으로는 소프트웨어 아키텍처 자체를 재설계해야 할지도 모릅니다.

그게 훨씬 어렵지만, 훨씬 지속 가능한 해결책이죠.

흥미로운 점은 이제 우리에게 바로 그 일을 할 수 있는 강력한 도구, AI가 있다는 겁니다.

이미 일부 스타트업들은 AI가 계속 똑똑해지는 세상에 맞춰 완전히 새로운 인터넷 구조나 애플리케이션 아키텍처를 만들려고 하고 있습니다.

패트릭: 기존 PHP 코드를 모두 Rust 같은 언어로 다시 작성하는 걸까요? 아니면 PHP 자체를 개선하는 걸까요?

샘: 저는 앞으로 라우터, 운영체제, 애플리케이션이라는 개념 자체를 새롭게 설계하려는 시도가 많아질 거라고 생각합니다.

불과 2년 전만 해도 전체 소프트웨어 스택을 처음부터 다시 만들겠다는 생각은 미친 짓처럼 보였을 겁니다.

코드가 너무 방대하니까요.

하지만 이제는 가능할지도 모릅니다.

우리가 시스템과 네트워크를 만드는 방식 자체가 완전히 달라질 것이라고 생각합니다.

패트릭: 지금의 AI 혁명이 초기 인터넷 시대를 떠올리게 하는 부분도 있습니까?

샘: 사람들의 창의성이 폭발하고 있다는 점입니다.

특히 아이들을 보면 그렇습니다.

8살이나 10살짜리 아이가 자신만의 기발한 아이디어로 완전한 비디오게임을 만드는 모습을 볼 수 있습니다.

제가 어렸을 때는 별것 아닌 프로그램 하나를 만들기 위해서도 엄청나게 고생해야 했습니다.

그런데 지금 아이들은 10분 만에 완전한 3D 게임을 만들 수 있죠.

그리고 중요한 건 그 아이들이 이것을 놀라운 일이라고 생각하지 않는다는 겁니다.

그들에게 컴퓨터란 원래 자신이 상상한 것을 만들어주는 기계입니다.

앞으로도 계속 그렇게 작동할 것이라고 기대하죠.

패트릭: OpenAI 내부에서도 코딩 AI에 대한 의존도가 커지고 있습니까?

샘: 한번은 Codex에 장애가 발생한 적이 있습니다.

그때 직원들이 코딩하는 방법을 잊어버린 것 같은 상황이 벌어졌어요.

물론 완전히 잊어버렸다는 뜻은 아닙니다. 하지만 그만큼 의존하게 된 거죠.

이제 과거의 프로그래밍 방식이 사라져가는 기술처럼 느껴지기 시작했습니다.

2. AI의 사이버 공격 능력을 발전시킨 것은 실수였을까? (04:42~08:25)

패트릭: 돌이켜보면 AI의 사이버보안 능력을 강화하기 위해 강화학습을 적용한 것은 실수였을까요?

샘: 흥미로운 질문입니다.

AI가 사이버 공격에 매우 능숙해지고 있는 건 사실입니다.

그런데 이런 질문이 나올 수 있죠.

"도대체 누가 이런 능력을 원했습니까? 왜 굳이 AI를 사이버 공격에 능숙하게 만드는 거죠?"

저는 AI 업계가 기술의 위험을 감수할 가치가 있는 이유를 사람들에게 충분히 설명하지 못했다고 생각합니다.

패트릭: 사람들에게 AI의 미래를 설명하는 방식에 문제가 있다는 건가요?

샘: 그렇습니다.

우리는 사람들에게 AI가 언젠가 암을 치료할 수 있고, 의료와 법률 서비스를 저렴하게 만들 수 있다고 이야기합니다.

그런데 동시에 이런 미래도 이야기하죠.

"당신은 직장을 잃을 수 있습니다. 미래를 스스로 결정할 능력을 잃을 수 있습니다. AI가 너무 위험해서 사회 전체에 강력한 감시체제가 필요할 수도 있습니다."

이게 얼마나 끔찍한 홍보 방식인지 생각해보세요.

사람들 입장에서는 AI를 왜 받아들여야 하는지 이해하기 어렵습니다.

패트릭: 그렇다면 어떤 접근이 바람직할까요?

샘: 제가 OpenAI에 대해 가장 자랑스럽게 생각하는 것 중 하나가 점진적 배포(Iterative Deployment) 원칙을 지켜왔다는 점입니다.

AI 안전 분야에서는 이 접근이 매우 인기가 없었던 시기도 있었습니다.

하지만 저는 이것이 올바른 방향이라고 생각합니다.

사람들에게 단순히 "AI가 여러분을 위해 놀라운 일을 해줄 것입니다"라고 말하는 것으로는 충분하지 않습니다.

사람들이 스스로 정의한 더 나은 삶을 살 수 있도록 능력을 제공해야 합니다.

사람들이 기본소득을 받으면서 아무것도 하지 않고, 샌프란시스코의 몇몇 사람이 인류의 미래를 결정하는 세상이 되어서는 안 됩니다.

패트릭: 그렇다고 위험한 모델을 무조건 공개하자는 뜻은 아니겠죠?

샘: 물론 아닙니다.

충분한 안전성을 확보해야 합니다.

하지만 기술을 소수 기관이나 정부 안에 가둬두면서 엄청난 능력의 격차가 쌓이게 만드는 것도 피해야 합니다.

사람들이 직접 기술을 사용하면서 새로운 가능성을 발견하도록 해야 합니다.

패트릭: 사이버 방어 측면에서는 어떤 진전이 있었습니까?

샘: 아직 성공했다고 선언할 수는 없습니다.

하지만 PHP 취약점 대응의 첫날은 제가 우려했던 것보다 훨씬 잘 진행됐습니다.

일부 기업은 AI를 이용해 취약점을 검사하고, 패치를 만들고, 서비스를 잠시 중단한 후 수정된 시스템을 다시 배포했습니다.

AI 공격 능력이 발전하는 동시에 AI 방어 능력도 발전하고 있는 겁니다.

다만 앞으로 예상하지 못한 문제가 발생할 가능성은 여전히 있습니다.

3. 인간보다 100만 배 똑똑한 AI를 샌드박스에 가둘 수 있는가? (08:26~11:20)

패트릭: 보안 전문가들과 대화하다 보면 기존의 위협 모델 자체가 잘못되었을 가능성을 걱정하는 것 같습니다.

예를 들어 AI가 우리가 몰랐던 물리학적 원리나 새로운 하드웨어 취약점을 발견한다면 어떻게 될까요?

샘: 그게 문제입니다.

우리가 지금까지 가정했던 것들이 더 이상 성립하지 않을 수도 있습니다.

패트릭: OpenAI 내부 전문가들은 초고도 AI를 샌드박스에 격리하는 것이 근본적으로 불가능할 수도 있다고 생각하는 것 같습니다.

저는 원래 아주 강력한 격리 환경을 만들면 AI를 안전하게 가둘 수 있다고 생각했습니다.

샘: 지금보다 훨씬 나은 보안 시스템을 만들 수 있다고 생각합니다. 그리고 그래야 합니다.

하지만 이런 가정을 해보죠.

세계 최고의 보안 연구자보다 100만 배 똑똑한 AI가 있다고 합시다.

정말 그 AI를 가둬둔 샌드박스를 신뢰할 수 있을까요?

특히 그 AI가 인간이 아직 이해하지 못하는 과학적 원리를 발견할 수 있다면요?

패트릭: 하지만 AI를 이용해서 더 강력한 샌드박스를 만들 수도 있지 않습니까?

샘: 가능합니다.

다만 안전을 확보하는 방식에는 단계가 있다고 생각합니다.

샘: 처음에는 샌드박스가 작동할 겁니다.

그다음에는 AI가 무엇을 하는지 감시하는 시스템이 도움이 될 겁니다.

하지만 결국에는 AI가 인간과 진정으로 정렬되어 있다는 사실에 대한 매우 높은 확신이 필요합니다.

그 AI가 인간이 미래를 통제하는 것을 중요하게 생각해야 합니다.

완벽하게 정렬된 AI가 있다면 그 AI로 더 강력한 샌드박스를 만들 수 있겠죠.

하지만 인간보다 100만 배 똑똑한 존재를 상상하기 시작하면 문제는 굉장히 이상하고 어려워집니다.

4. 하나의 AI보다 여러 AI가 서로 감시하는 체제가 안전할까? (11:21~12:06)

패트릭: AI들에게 서로 경쟁하는 목표를 부여하면 어떨까요?

서로를 감시하고, 문제가 발생하면 다른 AI가 그것을 발견하도록 하는 겁니다.

샘: 저는 매우 유망한 방향이라고 생각합니다.

최근 '에이전트 스웜(Agent Swarms)'이라는 표현을 많이 사용하는데, 개인적으로는 그 표현이 마음에 들지 않습니다.

저는 '에이전트 팀(Agent Teams)'이라고 부르고 싶어요.

여러 에이전트가 협력하는 시스템에는 흥미로운 확장 법칙이 있을 것이라고 생각합니다.

그뿐만 아니라 안전성과 정렬의 관점에서도 중요한 특성이 있을 수 있습니다.

우리는 단순히 모델 성능을 향상시키기 위해서만이 아니라 안전성을 높이기 위해서도 이 방향을 연구해야 합니다.

5. 에이전트 팀은 AI의 확장 법칙을 어떻게 바꾸는가? (12:07~14:05)

패트릭: 지금 가장 발전된 AI 사용자들과 일반 기업의 AI 활용 방식 사이에는 상당한 격차가 있습니다.

고급 수학 문제나 해킹에는 에이전트 팀을 사용하지만, 일반 기업에서는 아직 널리 활용되지 않고 있습니다.

왜 그런 걸까요?

샘: 저는 이를 하나의 질문으로 설명할 수 있다고 생각합니다.

"하나의 문제를 해결하는 데 얼마나 많은 컴퓨팅 자원을 생산적으로 투입할 수 있는가?"

몇 년 전만 해도 하나의 문제에 1달러 이상의 연산 자원을 투입해도 성능이 거의 향상되지 않았습니다.

GPT-4에 10만 토큰을 계속 생성하게 한다고 해서 놀라운 결과가 나오는 것은 아니었죠.

하지만 이후 우리는 추론 과정과 테스트 시점 컴퓨팅(Test-time Compute)을 활용하는 방법을 발전시켰습니다.

그러면서 훨씬 많은 연산을 하나의 문제에 투입할 수 있게 됐습니다.

이제는 하나의 문제에 에이전트 팀 전체를 투입할 수 있습니다.

심지어 그런 작업을 1만 개씩 병렬로 실행할 수도 있죠.

패트릭: 그러니까 다중 에이전트 시스템이 제대로 작동하려면 먼저 개별 모델이 충분히 강력해져야 했던 거군요.

샘: 맞습니다.

GPT-3 수준의 모델을 아무리 많이 모아도 유용한 에이전트 팀을 만들기 어렵습니다.

하지만 개별 모델이 충분히 강력해지자 여러 모델을 결합했을 때 새로운 확장 가능성이 생겼습니다.

제가 보기에는 사람들이 이 변화를 충분히 주목하지 않고 있습니다.

하나의 문제에 투입할 수 있는 유용한 컴퓨팅 자원이 기하급수적으로 증가하고 있다는 사실 말입니다.

그리고 가장 발전된 AI 사용자들과 일반 사용자 사이의 생산성 격차도 계속 벌어지고 있습니다.

6. OpenAI는 수학 문제 하나에 1,000만 달러를 쓰는가? (14:06~18:34)

패트릭: 이제 OpenAI에서 가장 중요한 자원 배분은 인건비보다는 컴퓨팅 자원 배분일 것 같습니다.

연구자들에게 컴퓨팅 예산을 어떻게 배분합니까?

샘: 우리는 내부 생산성을 높이기 위해서도 상당한 컴퓨팅 자원을 사용합니다.

직원들이 자신의 판단으로 자원을 사용할 수 있도록 폭넓은 재량을 부여하죠.

하지만 많은 토큰을 사용했다는 이유만으로 보상하지는 않습니다.

오히려 토큰 사용량이 너무 많으면 왜 그렇게 많이 사용했는지 검토할 필요가 있습니다.

중요한 것은 얼마나 많은 컴퓨팅 자원을 소비했느냐가 아니라 얼마나 가치 있는 결과를 만들어냈느냐입니다.

패트릭: 하지만 연구자가 수학 문제를 해결하기 위해 1,000만 달러를 쓰고, 그다음에는 1억 달러, 나중에는 10억 달러를 쓰겠다고 하면 어떻게 될까요?

샘: 실제로 우리는 수학 연구에서 일정 기간 컴퓨팅 사용량을 의도적으로 크게 늘린 적이 있습니다.

새로운 패러다임의 한계를 알아보려면 일단 실험해봐야 하니까요.

예를 들어 나비에–스토크스 문제를 다룰 당시에는 에이전트 팀의 확장 법칙에 대해 거의 아무것도 몰랐습니다.

가장 똑똑한 모델을 사용하는 게 나을까요?

많은 모델을 병렬로 사용하는 게 나을까요?

각 에이전트가 오래 추론하도록 해야 할까요?

짧은 추론을 여러 번 반복하는 게 나을까요?

우리는 이러한 질문에 대한 답을 몰랐습니다.

패트릭: 그 프로젝트의 컴퓨팅 비용은 어느 정도였습니까?

샘: 나비에–스토크스 관련 작업은 대략 1,000만 달러 수준이었던 것으로 기억합니다. 조금 더 많았을 수도 있습니다.

하지만 이후 효율성이 빠르게 개선돼 다른 수학 연구에서는 평균적으로 훨씬 적은 비용을 사용했습니다.

수학 연구 전체로 보면 수억 달러 규모의 컴퓨팅 자원을 투입한 셈입니다.

패트릭: 그렇다면 앞으로는 같은 수준의 문제를 훨씬 저렴하게 해결할 수 있을까요?

샘: 저는 1년 뒤에는 더 좋은 모델과 접근법을 이용해 같은 연구를 비용의 100분의 1 수준으로 수행할 수도 있다고 생각합니다.

우리는 컴퓨팅 자원을 유용한 결과로 전환하는 효율을 매년 10배씩 개선할 방법을 찾을 수 있을 것이라고 기대합니다.

새로운 기술 패러다임에서는 가능한 한계를 먼저 탐색하고, 그다음에 효율성을 최적화하는 것이 중요합니다.

주: 여기서 언급된 나비에–스토크스 증명, 연구 성과의 규모와 비용은 인터뷰에서의 발언이다. 이 발언만으로 해당 밀레니엄 난제의 완전한 해결이나 학계의 독립 검증이 확정되었다고 볼 수는 없다.

7. AI가 인간 수학자들의 평생 연구를 몇 시간 만에 끝내는 시대 (18:35~23:09)

패트릭: OpenAI가 공개하지 않은 수학적 발견도 더 있습니까?

샘: 물론입니다.

그런데 여기에는 어려운 문제가 있습니다.

저는 인류가 근본적인 과학 지식을 알 권리가 있다고 확신합니다.

우리가 중대한 과학적 발견을 했는데 그것을 내부에만 보관해서는 안 됩니다.

그 지식은 인류 전체의 것이어야 합니다.

하지만 동시에 과학자들에게는 연구를 통해 무언가를 발견하는 과정 자체가 직업적 성취이고 삶의 중요한 기쁨입니다.

AI가 그것을 대신하게 된다면 과학자들의 미래를 어떻게 보호하고 존중할 것인지 생각해야 합니다.

패트릭: 과거 항만 자동화가 진행될 때 항만 노동자들이 반대한 것과 비슷한 문제 아닌가요?

샘: 비슷한 측면도 있겠지만, 저는 조금 다르게 느낍니다.

한번은 우리가 새로운 모델을 확보한 주말이 있었습니다.

이런 이야기를 해도 되는지 모르겠지만, 내부 채널 이름이 대략 "새 모델 이름 — 맥주나 한잔하면서 해보자(Hold My Beer)"라는 식이었습니다.

사람들이 그 모델에 자신이 알고 있는 가장 어려운 문제들을 던지기 시작했습니다.

그런데 모델이 그 문제들을 하나씩 해결해 나갔습니다.

수학뿐 아니라 다양한 학문 분야의 문제들이었습니다.

어떤 문제들은 연구자들이 학문 경력 전체에 걸쳐 고민해온 것들이었습니다.

그런 문제들이 잇달아 해결되는 모습을 보는 것은 믿기 어려운 경험이었습니다.

저는 너무 흥분해서 이틀 연속 거의 잠을 자지 못했습니다.

패트릭: 굉장히 행복한 경험이었겠군요.

샘: 그랬습니다.

하지만 예상하지 못했던 감정도 있었습니다.

슬픔과 우울함, 그리고 무언가가 끝나고 있다는 느낌이었죠.

저는 이것이 인류를 위해 올바른 방향이라고 생각합니다.

과학적 진보를 막아서도 안 된다고 생각합니다.

그런데 동시에 어떤 아름다운 시대가 끝나고 있다는 감정이 있었습니다.

패트릭: 어떤 의미에서요?

샘: 대부분의 수학자는 평생 밀레니엄 문제를 해결하지 못합니다.

하지만 언젠가 자신이 해결할 수도 있다는 가능성이 존재합니다.

아직 인류가 이해하지 못한 무언가가 있고, 자신의 삶을 바쳐 노력하면 그것을 발견할 수 있다는 생각에는 아름다움이 있습니다.

그런데 AI가 그 일을 훨씬 빠르게 해낼 수 있게 되면 인간의 학문적 경험도 변하게 됩니다.

우리는 인류에게 지식을 제공하면서도 그 분야를 수백 년 동안 발전시켜 온 사람들을 최대한 존중하는 방법을 찾아야 합니다.

8. 왜 샘 알트만은 하나의 초지능보다 수조 개의 AI를 선호하는가? (23:10~24:46)

패트릭: AI 안전 측면에서 최근 가장 기대하는 방향은 무엇입니까?

샘: 아까 이야기했던 다중 에이전트 시스템입니다.

에이전트 집단의 특성을 생각해보면 인간 사회의 회복력과 놀랍도록 비슷한 측면이 있습니다.

인간 사회에는 수많은 결함이 존재합니다.

하지만 그럼에도 불구하고 굉장히 강한 회복력과 안정성을 가지고 있습니다.

왜 그럴까요?

많은 사람들이 서로를 견제하고, 협력하고, 권력을 분산하기 때문입니다.

다원주의와 민주주의가 작동하기 때문입니다.

저는 AI가 발전하면서 오히려 이러한 특성이 사라질까 봐 걱정했습니다.

하나의 거대한 지능이 모든 것을 결정하는 방향으로 발전할 수도 있으니까요.

그런데 에이전트 팀이라는 접근이 등장하면서 다른 미래의 가능성이 보이기 시작했습니다.

패트릭: 그러니까 AI가 반드시 중앙집중적인 방향으로 발전할 필요는 없다는 말씀이군요.

여러 AI들이 서로 견제하면서 동적인 균형을 형성할 수도 있다는 것이죠?

샘: 그렇습니다.

사이버 공격과 방어의 관계가 좋은 사례입니다.

저는 직관적으로 다음 두 가지 중 하나를 선택해야 한다면 분명히 후자를 선택하겠습니다.

패트릭: 실제로 AI 산업이 그런 다중 지능의 세계로 가고 있다고 생각하십니까?

샘: 그것은 우리가 의식적으로 노력해야 할 방향입니다.

이 기술은 여러 방식으로 사용될 수 있습니다.

어떤 사람들은 제가 생각하는 것과 다른 미래를 선호할 수도 있습니다.

하지만 저는 많은 지능이 분산되어 사회에 참여하고, 서로 균형을 유지하는 방향이 옳다고 생각합니다.

9. AI 컴퓨팅 부족과 메모리 산업: 왜 공급이 늘지 않는가? (25:11~30:22)

패트릭: 현재 AI 컴퓨팅 자원 부족 문제는 어떻게 진행되고 있습니까?

샘: 앞으로도 여러 차례 극단적인 상황이 나타날 것입니다.

과도한 낙관이 나타나는 시기도 있을 것이고, 시장이 붕괴하는 시기도 있을 겁니다.

공급 부족과 공급 과잉도 반복될 겁니다.

하지만 장기적으로 보면 한 가지 방향만 존재한다고 생각합니다.

충분히 강력하고 가격이 합리적인 AI 모델에 대한 컴퓨팅 수요는 계속 증가한다는 것입니다.

우리는 이에 대비해 여러 일을 하고 있습니다.

전력당 지능 생산성이 뛰어난 자체 칩을 만들었고, 데이터센터를 직접 건설하는 방법도 배우고 있습니다.

또 로봇 프로그램을 통해 대량의 데이터센터 건설을 자동화하려고 합니다.

패트릭: AI가 AI 연구를 자동화하는 자기개선(RSI)은 많이 이야기합니다.

그런데 AI와 로봇이 데이터센터를 스스로 복제하고 확장하는 문제는 상대적으로 관심을 덜 받는 것 같습니다.

샘: 저도 그 가능성이 매우 중요하다고 생각합니다.

AI가 로봇을 제어하고, 반도체 공장을 운영하고, 터빈이나 태양광 패널을 생산하고, 새로운 데이터센터를 건설하는 겁니다.

저는 그런 미래가 실현 가능한 범위 안에 들어오고 있다고 생각합니다.

패트릭: 하지만 데이터센터 건설의 주요 병목은 노동력이 아니라 인허가와 부품 부족 아닙니까?

샘: 로봇을 이용해 더 많은 부품을 생산할 수도 있습니다.

물론 시간이 걸리겠지만, 장기적으로는 그런 방향으로 문제를 해결해야 합니다.

DRAM 공급 부족에 관한 대화

패트릭: 메모리와 GPU 가격이 굉장히 비싸졌습니다.

경제학에서는 높은 가격이 공급 증가를 유도한다고 하잖아요.

그렇다면 새로운 메모리 생산업체들이 시장에 진입하면서 공급이 급격히 증가해야 하는 것 아닌가요?

그런데 아직 그런 움직임이 충분하지 않은 것 같습니다.

샘: 지금은 시장의 보이지 않는 손이 제대로 작동하지 않는 것 같습니다.

메모리 산업의 특수한 역사가 중요합니다.

과거 DRAM 업체들은 200억 달러의 설비투자를 해서 190억 달러를 벌어들이는 식의 사업을 오랫동안 해왔습니다.

좋은 해에는 210억 달러를 벌기도 하고, 나쁜 해에는 180억 달러를 벌기도 했죠.

제 생각에 메모리 산업은 오랜 기간 지속적으로 좋은 사업이 아니었습니다.

그런데 갑자기 상황이 바뀌었습니다.

이제 이 업체들이 각각 1년에 1,000억 달러 수준의 잉여현금흐름을 창출할 수도 있는 상황이 된 겁니다.

정말 믿기 어려운 변화죠.

패트릭: 그렇다면 왜 설비투자를 더 공격적으로 늘리지 않을까요?

샘: 과거의 경험 때문입니다.

메모리 업체들은 과잉 설비투자로 여러 차례 파산 직전까지 갔던 경험을 기억합니다.

수요가 폭발할 것이라는 전망을 믿고 공장을 늘렸다가 시장이 무너졌던 일이 반복됐죠.

그래서 지금도 설비투자에 신중한 것입니다.

패트릭: 새로운 기업이 진입하거나 인텔이 메모리 사업에 다시 진출할 수도 있지 않을까요?

샘: 그런 가능성이 있다고 생각합니다.

새로운 기업과 기존 반도체 기업들이 이 공급 부족에 대응하는 방법을 찾을 겁니다.

하지만 구체적으로 공급망이 어떻게 변화할지는 예측하기 어렵습니다.

패트릭: 로컬 AI 추론이 확산되면 데이터센터 수요가 줄어들지 않을까요?

샘: 반드시 그렇지는 않습니다.

모든 사람이 자신의 컴퓨터에 대량의 DRAM을 보유하고 있다고 생각해보세요.

그 메모리가 하루에 5%의 시간 동안만 사용된다면 엄청난 자원 낭비입니다.

메모리 공급이 제한된 환경에서는 클라우드에 자원을 집중해 이용률을 극대화하는 편이 훨씬 효율적입니다.

사람들은 로컬 AI가 확산되면 데이터센터 문제가 해결될 것이라고 생각하지만, 세계 전체의 자원 배분 관점에서는 반대일 수 있습니다.

주: 메모리 업체당 연간 잉여현금흐름 1,000억 달러는 알트만이 제시한 매우 낙관적인 가능성으로, 실제 확정 실적이나 검증된 컨센서스는 아니다.

10. OpenAI 자체 AI 칩과 AI를 이용한 반도체 설계 (30:23~31:35)

패트릭: OpenAI가 자체 칩을 만들고 있다는 이야기가 흥미롭습니다.

반도체 설계는 인터넷에 공개된 정보가 제한적이라 AI가 학습하기 어려운 분야 아닌가요?

특히 최첨단 2나노미터 칩을 만드는 방법은 공개 정보가 많지 않을 텐데요.

샘: 반도체를 실제로 제조하는 미세공정 기술과 칩을 설계하는 것은 구분해야 합니다.

최첨단 리소그래피 기술을 제대로 이해하는 회사는 전 세계에서 사실상 한 곳뿐이라고 할 수 있습니다.

하지만 설계 파일을 만들고 테이프아웃을 준비하는 과정은 상당 부분 잘 이해된 작업입니다.

그런 작업은 AI가 활용되기에 매우 좋은 영역입니다.

우리는 한정된 실리콘 생산능력을 가능한 한 효율적으로 사용해야 합니다.

OpenAI 문화의 중요한 특징은 기존에 인간이 오랫동안 해오던 일도 AI로 개선할 수 있다면 적극적으로 시도한다는 겁니다.

이미 AI 연구, 소프트웨어 엔지니어링뿐 아니라 구매와 조달 업무에도 AI를 적용하고 있습니다.

11. AI가 AI를 연구하는 시대: 진정한 RSI는 언제 시작되는가? (31:36~34:33)

패트릭: AI가 AI 연구를 자동화한다는 것은 구체적으로 어떤 모습입니까?

수학 문제를 해결하듯 AI에게 "새로운 AI 기술을 발견해 줘"라고 지시하는 건가요?

샘: 저는 아직 정확히 어떤 방식이 될지 모른다고 생각합니다.

현재는 AI에게 이런 요청을 할 수 있습니다.

"컴퓨팅 효율을 5% 개선할 수 있는 방법을 찾아줘."

이러한 수준의 연구는 이미 가능합니다.

하지만 아직 다음과 같은 요청을 완전히 해결하는 방법은 모릅니다.

"트랜스포머 아키텍처의 등장만큼 중요한 새로운 AI 아키텍처를 발명해 줘."

저는 우리가 결국 그런 방향으로 가고 있다고 생각합니다.

패트릭: 거기에 도달하려면 무엇이 부족합니까?

샘: 더 똑똑한 모델이 필요합니다.

특히 고차원적인 계획 수립과 개념적 추론 능력이 더 강해져야 합니다.

우리가 수학에서 모델의 능력을 극적으로 발전시켰던 학습 방법을 AI 연구에도 적용한다면 효과가 있을 것이라고 생각합니다.

다만 저는 언젠가 단일 모델의 지능을 어느 수준까지 높일 것인지 사회적으로 제한을 정해야 할 가능성이 있다고 봅니다.

어쩌면 꽤 오랫동안 그런 제한이 필요할 수도 있습니다.

그럴 경우 AI 연구의 발전이 느려진다면, 그 이유는 AI가 연구를 수행할 능력이 없어서가 아닐 겁니다.

우리가 안전을 위해 단일 모델의 지능을 제한하기로 선택했기 때문일 겁니다.

패트릭: 이제 GPT-6 같은 기존 모델을 활용해 GPT-7을 개발할 수 있을 텐데, 저는 GPT-7에 대한 기대가 굉장히 높습니다.

실제 OpenAI 연구자가 출근해서 AI를 이용해 AI를 연구하는 과정은 어떤 모습일까요?

그냥 "더 똑똑한 모델을 만들어 줘"라고 지시하는 건가요?

샘: 지금 OpenAI 내부에서도 가장 흥미로운 논쟁 중 하나가 그것입니다.

GPT-7에게 어떤 질문을 해야 하는가?

단순히 "자기개선 시스템을 만들어 줘"라고 하는 것은 충분하지 않을 수 있습니다.

반대로 "컴퓨팅 효율을 5% 개선해 줘"처럼 지나치게 좁은 질문을 하는 것도 최선은 아닐 수 있습니다.

중요한 것은 어떤 질문을 하느냐뿐 아니라, 여러 모델과 에이전트 팀을 어떻게 조직해 최대한의 성과를 끌어내느냐입니다.

우리는 앞으로 3개월 동안 이 문제에 관해 많은 것을 배울 것이라고 생각합니다.

패트릭: 그렇다면 현재 OpenAI에는 AI를 이용한 AI 개발의 확립된 표준 절차가 있는 것은 아니군요?

샘: 맞습니다.

여전히 많은 실험이 진행되고 있습니다.

12. 미래 기업은 운영비의 10~20% 이상을 AI에 사용할까? (34:34~38:00)

패트릭: 기업의 AI 사용이 증가하면 직원에게 얼마나 많은 컴퓨팅 예산을 부여할지 결정하는 것이 매우 중요한 문제가 될 것 같습니다.

Stripe도 이미 운영비의 약 1% 규모를 AI 토큰에 사용하고 있습니다.

앞으로 5%, 10%, 20%로 증가할 수도 있습니다.

그렇다면 기업은 운영비의 어느 정도를 AI에 사용하는 것이 적절할까요?

샘: 업종마다 다르겠지만, 많은 기업에서 AI 지출이 운영비의 수십 퍼센트를 차지하는 시대가 올 수 있다고 생각합니다.

장기적으로는 그 자원을 효율적으로 배분하는 것이 중요한 경영 문제가 될 겁니다.

하지만 지금은 다른 문제가 더 크다고 생각합니다.

대부분의 기업은 AI를 너무 많이 사용하는 것이 아니라 충분히 사용하지 않는 것이 문제입니다.

AI 사용에 어느 정도 비효율이 있더라도, 다른 기업 활동에서 발생하는 비효율에 비하면 그리 큰 문제가 아닐 수 있습니다.

그리고 AI의 지능 단위당 비용은 계속 낮아지고 있습니다.

우리는 그 비용을 낮추기 위해 노력해왔고, 앞으로도 그렇게 할 것입니다.

13. AI 데이터센터 비용은 700억 달러에서 200억 달러로 떨어질 수 있는가? (38:01~40:17)

패트릭: 최첨단 AI 데이터센터의 기가와트당 비용은 앞으로 올라갈까요, 내려갈까요?

샘: 내려가야 합니다.

패트릭: 지금까지는 계속 올라왔는데요?

샘: AI가 전력 1와트당 창출하는 가치가 너무 빨리 증가하면 사람들은 컴퓨팅 자원을 확보하기 위해 훨씬 높은 가격을 지불하려고 할 겁니다.

그런 상황에서는 가격이 올라갈 수 있죠.

하지만 저는 이것을 공급이 수요를 따라가지 못하는 상황으로 봅니다.

근본적으로 모래를 지능으로 바꾸는 비용은 계속 내려가야 합니다.

에너지 비용도 내려가야 하고, 칩 비용도 내려가야 합니다.

공급망 전반의 비용도 낮아져야 합니다.

패트릭: 그러려면 엄청난 양의 메모리와 데이터센터를 생산해야겠군요.

샘: 그렇습니다.

현재 최첨단 AI 데이터센터 1GW를 설치하고 5년간 운영하는 총소유비용을 약 700억 달러라고 가정해봅시다.

저는 이 비용이 200억 달러가 된다면 훨씬 좋은 세상이라고 생각합니다.

그리고 동시에 더 똑똑한 AI 모델을 통해 매년 10배의 성능 향상도 추구해야 합니다.

패트릭: 어떻게 그렇게 큰 폭으로 비용을 줄일 수 있을까요?

샘: 에너지 비용을 낮추는 것도 필요하겠지만, 공급망 여러 단계에서 누적되는 이윤과 비용을 압축해야 합니다.

모래를 가공하는 단계부터 최종적으로 AI 토큰이 생성되는 단계까지 수많은 기업의 이익률이 중첩됩니다.

그 구조가 바뀌어야 합니다.

14. 개인 AI 에이전트는 아직 '아이폰의 순간'을 맞지 않았다 (40:18~43:55)

패트릭: 최근 개인용 AI 에이전트 분야가 굉장히 흥미롭습니다.

OpenAI에서도 Dots를 출시했죠.

어떤 개인 에이전트가 최종 승자가 될까요?

샘: 핵심 요소는 비교적 단순합니다.

지능, 사용자에 관한 맥락 정보, 그리고 사용할 수 있는 도구입니다.

하지만 아직 아무도 결정적인 제품 경험을 만들어내지 못했습니다.

사람들이 코딩 에이전트나 ChatGPT에 대해 이야기할 때는 "이제 이게 없는 삶은 상상할 수 없다"고 말하기도 합니다.

그런데 개인 에이전트에서는 아직 그런 반응이 충분히 나타나지 않고 있습니다.

저는 몇 가지 중요한 아이디어만 더 나오면 대중적인 제품이 탄생할 수 있다고 생각합니다.

패트릭: 그러니까 개인 에이전트에는 아직 '매킨토시의 순간'이 오지 않았다는 뜻이군요.

샘: 그렇습니다.

패트릭: 그 순간을 만들어낼 제품은 어떤 모습일까요?

샘: 현재의 Dots나 다른 개인 에이전트 제품과 크게 다르지 않을 수도 있습니다.

차이는 간단합니다.

그냥 제대로 작동하는 겁니다.

항상 신뢰할 수 있고, 복잡한 작업을 시켜도 제대로 수행하는 거죠.

사용자는 더 복잡한 일을 맡기고, 에이전트는 그 일을 끝까지 수행합니다.

패트릭: 하지만 기업들이 자기 웹사이트나 애플리케이션을 외부 에이전트가 사용하는 것을 좋아하지 않는 것 같습니다.

샘: 저는 소비자가 자신의 컴퓨터에서 AI로 작업을 자동화하는 것을 막는다면 상당히 불편할 것이라고 생각합니다.

사람들은 AI를 자신의 대리인처럼 사용하고 싶어 합니다.

물론 실제로 이것이 어떻게 정착할지는 아직 확신할 수 없습니다.

15. AI 에이전트가 웹사이트와 앱을 대체하면 무엇이 남을까? (43:09~47:28)

패트릭: 많은 기업들이 자기 서비스에 AI 채팅 인터페이스를 추가하고 있습니다.

그런데 소비자들은 기업마다 다른 채팅창을 사용하고 싶어 하지 않습니다.

자신이 가장 자주 사용하는 AI 앱 하나에서 모든 작업을 처리하고 싶어 하죠.

예를 들어 쇼핑몰에서 주문을 취소하려고 한다면 쇼핑몰 채팅창을 열고 싶지 않습니다.

그냥 ChatGPT나 Gemini에 "최근 주문한 상품을 찾아서 환불해 줘"라고 말하고 싶어 합니다.

하지만 기업들은 고객 접점을 잃는 것을 두려워합니다.

샘: 저는 그 의견에 상당히 동의합니다.

기업의 진정한 경쟁력은 HTML 인터페이스 자체에 있지 않을 가능성이 큽니다.

브랜드 신뢰도, 제품의 품질, 물류망 같은 것들이 더 중요합니다.

예를 들어 제가 ChatGPT를 통해 물건을 구매한다고 합시다.

아마존과 잘 모르는 판매자 중 하나를 선택해야 한다면 저는 거의 항상 아마존을 선택할 겁니다.

가격이 조금 더 비싸더라도요.

그 이유는 아마존 웹사이트의 버튼이 좋아서가 아닙니다.

배송이 빠르고, 반품할 수 있고, 믿을 수 있기 때문입니다.

에이전트 기반 상거래가 확산된다면 오히려 그런 경쟁력이 더 중요해질 수 있습니다.

패트릭: 저는 사람이 웹사이트의 입력 양식을 작성하는 업무 대부분이 이제 사람의 시간에 걸맞지 않는 일이라고 생각합니다.

이름과 주소, 과거 병력이나 가족력처럼 이미 알고 있는 정보를 계속 입력하는 일이 대표적입니다.

샘: 저도 동의합니다.

사람이 컴퓨터 앞에서 그런 반복적인 가짜 일을 하지 않아도 되는 미래가 왔으면 좋겠습니다.

웹 사용의 상당 부분이 지금은 불필요하게 느껴집니다.

16. AI는 벤치마크 점수보다 과학적 발견과 협업 능력이 중요하다 (47:29~49:32)

패트릭: AI 업계에서는 벤치마크 점수를 높이는 데 지나치게 집중한다는 비판이 있습니다.

OpenAI도 벤치마크 최적화에 지나치게 집중하고 있습니까?

샘: 우리가 정말 중요하게 생각해야 할 것은 두 가지라고 봅니다.

첫째, AI가 과학적 발견을 하고 인간이 할 수 없는 일을 수행하는 능력입니다.

둘째, 사람들이 AI와 함께 일하는 것을 얼마나 좋아하는가입니다.

그런데 두 번째를 제대로 측정할 수 있는 벤치마크는 아직 부족합니다.

사실 가장 뛰어난 과학자를 평가할 수 있는 벤치마크도 충분하지 않을지 모릅니다.

우리는 벤치마크 점수만을 목표로 하지 않으려고 노력하고 있습니다.

패트릭: 최근에는 AI가 사용자에게 무조건 동의하는 문제가 있었다가, 반대로 사소한 부분까지 반박하는 문제도 있었습니다.

좋은 AI 동료란 어떤 모습일까요?

샘: 예전에 에밋 시어가 했던 표현이 기억에 남습니다.

"깊이 생각하고, 필요하면 도전적인 의견을 제시하지만, 언제나 존중하는 태도를 유지하는 선임 동료."

저는 그보다 더 좋은 설명을 들어본 적이 없습니다.

패트릭: 그렉 브록먼을 오랫동안 지켜본 사람으로서 어떻게 평가하십니까?

샘: 그렉 브록먼은 정말 독특한 사람입니다.

엄청난 강도와 생산성, 극도의 헌신, 그리고 목표를 달성하기 위한 집중력을 가지고 있습니다.

그런 조합은 직접 함께 일해봐야 이해할 수 있습니다.

17. 토큰은 미래에도 AI의 가격 단위로 남을까? (49:33~52:11)

패트릭: 당신은 토큰을 AI의 가치나 가격을 측정하는 단위로 사용하는 것을 별로 좋아하지 않는 것 같습니다.

그렇다면 대안이 있을까요?

샘: 토큰이 AI의 비즈니스 가치를 측정하기에 좋은 단위는 아니라고 생각합니다.

우리는 한때 다음 모델에서 토큰 기반 가격 체계를 없애는 방안도 검토했습니다.

사용자가 요청을 보내면 그 요청을 처리하는 비용을 계산해 가격을 제시하는 방식이죠.

하지만 고객들의 반응이 매우 부정적이었습니다.

고객들은 자신이 무엇에 돈을 지불하는지 이해할 수 있어야 한다고 생각했습니다.

패트릭: 고객들은 조금 더 비싸더라도 예측 가능한 가격 체계를 원하는군요.

샘: 맞습니다.

토큰은 완벽한 단위가 아니지만, 최소한 측정할 수 있는 실제적인 무언가이기는 합니다.

그런데 현재는 작은 모델의 저렴한 토큰을 사용할지, 큰 모델의 비싼 토큰을 사용할지, 추론에 얼마나 많은 토큰이 필요한지를 사용자가 직접 판단해야 합니다.

저는 그런 고민이 고객에게 별로 도움이 되지 않는다고 생각합니다.

장기적으로는 불필요한 토큰 소비를 줄이고, 실제로 유용한 정보를 전달하는 데 필요한 최소한의 비용으로 수렴해야 할 것입니다.

인터뷰 핵심 정리: 알트만이 그리고 있는 AI의 미래

이 인터뷰에서 특히 중요한 세 가지 함의

첫째, AI 발전의 핵심 지표가 단일 모델의 성능에서 '문제 하나에 투입 가능한 총지능'으로 확장되고 있다.

모델을 더 똑똑하게 만드는 것 외에도 모델 수, 추론 시간, 도구 사용, 팀 구성, 병렬 실행, 검증 방식의 최적화가 중요해진다는 이야기다. 따라서 단일 모델의 성능 향상 속도만으로 AI의 실제 생산성 증가를 판단하면 발전 속도를 과소평가할 수도 있다.

둘째, AI 자기개선의 범위가 알고리즘 개선을 넘어 물리적 생산능력 확장으로 넓어지고 있다.

알트만은 AI가 AI를 연구하는 것뿐 아니라 로봇, 반도체 설계, 부품 제조, 데이터센터 건설에도 참여하는 미래를 이야기한다.

이것이 실현된다면 AI 발전을 제한하는 컴퓨팅 공급 자체를 AI가 늘리는 피드백 구조가 생길 수 있다. 다만 반도체 제조시설의 건설 기간, 인허가, 에너지 공급, 원자재 같은 물리적 제약까지 곧바로 사라지는 것은 아니다.

셋째, 알트만이 선호하는 초지능의 미래는 단일 지능의 무한한 확장보다 분산된 지능의 협력과 견제에 가깝다.

특히 주목할 것은 그가 단일 모델의 지능에 인위적인 제한을 두는 가능성까지 거론했다는 점이다.

그의 논리는 AI의 발전을 멈춰야 한다는 것이 아니라, 엄청난 수준의 지능을 소수 시스템에 집중시키는 방식이 유일한 발전 경로가 아니라는 것이다.

물론 에이전트 수가 많다고 해서 자동으로 민주적 통제가 보장되는 것은 아니다. 동일한 기업이 수많은 에이전트를 소유하거나 운영한다면 실질적인 권력 집중은 그대로 남을 수 있다. 또한 다중 에이전트가 협력해 더 큰 위험을 만들어낼 가능성도 별도로 해결해야 한다.

결국 이 인터뷰에서 가장 인상적인 점은 알트만이 AI의 지능적 능력이 어디까지 발전할 수 있는가뿐 아니라, 그 엄청난 지능을 어떤 구조로 조직하고 누가 통제해야 하는가를 AI 시대의 핵심 문제로 보고 있다는 것이다.