"앞으로 일어날 일들을 지켜보는 연구소 내부의 시각에서 볼 때 세상이 아직 준비되지 않았다는 것입니다. 우리는 곧 엄청나게 뛰어난 성능의 모델들을 갖게 될 것입니다. 제가 애초에 생각했던 것보다 발전(이륙) 속도가 훨씬 빠를 것이며, 이는 스트레스를 주고 불안감을 유발하는 일입니다."

우리는 우리가 가진 것에 익숙해집니다. 하지만 우리가 이미 보유한 기술이 내부적으로 우리를 얼마나 가속시키고 있는지를 지켜보는 것만으로도 꽤 가깝다고 말할 수 있습니다. 제가 예상했던 것보다 더 빠른 이륙이 될 것입니다. 초지능(ASI)은 머지않았다고 생각합니다.

AGI까지 얼마나 남았나요? 당신은 “몇 년”이라고 했죠.
제가 “몇 년”이라고 한 건 ASI였습니다.

그럼 AGI는요?
AGI는 꽤 가까워 보입니다. 6년 전에 “스스로 새 연구를 하는 시스템”, “복잡한 프로그램을 혼자 만드는 시스템”, “의사/변호사/컴퓨터과학자처럼 지식노동을 하는 시스템”을 말하면, 사람들은 “그거 꽤 범용적이고 지능적이네”라고 했을 겁니다.

---

번역 전문

(00:00)
샘, 그냥 당신 얼굴만 봐도 인도의 혼란스러움이 당신에게 영향을 주는 것 같아요. 오늘이 이틀째죠.

네, 바쁜 이틀이었어요.
익스프레스 아다(Express Adda)에 아주 따뜻하게 환영합니다. 여러분, 오늘은 우리에게 정말 특별한 날입니다. 포브스는 오픈AI를 세계에서 가장 중요한 회사 중 하나라고 부르죠. 그리고… 우리가 오늘을 20년 뒤에 돌아본다면… 아, 잠깐만요. 관객분들이 좀 진정하실 때까지 기다릴게요.

(00:35)
오케이. 오케이. 다들 진정되셨나요? 네.
만약 우리가 20년 후 오늘을 돌아본다면, 과장이 아니라고 생각합니다. 제 앞에 있는 이 신사분은 아마도 ‘지각변동’을 만들어낸 그 한 사람일 겁니다. 산업혁명에 비견될 만한 변화가 있었다면, 아마 지금 제 앞에 있는 이 분에게서 모든 게 시작됐다고도 말할 수 있을 거예요.

(00:58)
샘, 이 말이 공정한 표현일까요?

아니요. 음… 보통 많은 회사에서 그렇듯이, 회사를 운영하는 사람이 실제로 모두가 한 일을 대비해 과도하게 공을 가져가곤 하죠. 그런데 특히 우리 경우는, 이건 정말 과학적 발견의 이야기예요.

(01:16)
소수의 연구자들이 기적 같은 일을 해냈고, 세계가 작동하는 방식에 대한 아주 깊은 무언가를 밝혀냈습니다. 딥러닝의 정말 특별한 점은, 그것이 너무나 범용적이게 된 이유인데요—우리가, 그러니까 소수의 연구자들이 “무엇이든 학습할 수 있는” 알고리즘을 알아냈고, 규모를 키우면 키울수록 더 좋아진다는 점을 발견했죠.
그리고 나서 수많은 사람들이 그 규모를 구현하기 위해 정말 열심히 일했습니다. 그다음 전 세계가 이 모델을 기반으로 놀라운 제품과 서비스를 만드는 법을 터득했어요.

(01:54)
하지만 무엇보다도, 이건 과학자들의 이야기입니다.

네. 그리고 마지막으로 인도에 오셨을 때부터 지금까지, 세계도 많이 변했지만 인도는 AI 측면에서 무엇이 바뀌었다고 보세요?
제가 여기 온 게 1년 조금 넘었나요? 인도에서 무엇이 바뀌었는지 말하기 전에, AI가 무엇이 바뀌었는지부터 이야기하는 게 좋겠습니다. 그게 배경이 될 테니까요.

(02:20)
1년 전의 AI는 고등학교 수학 정도를 할 수 있었어요. 그 자체로 엄청난 일이었습니다. AI가 고등학교 수학을 “아주 훌륭하진 않지만 꽤 잘” 풀 수 있었고, 사람들은 믿기 어려워했죠. 제가 그때 인도에 와서 이런 행사에서 그 얘기를 했고, 당시엔 막 그 일이 일어난 직후라 사람들은 진짜로 경이로워했습니다.

(02:44)
“이게 11학년 학생이 할 수 있는 걸 해?” 정말 놀라웠죠. 불과 몇 년 전만 해도 AI는 수학을 거의 못 했거든요. 초등학교 수학도 힘들어했어요.
그런데 지난여름쯤엔, 세계에서 가장 어려운 수학 경시대회 수준에서 경쟁하기 시작했고 꽤 괜찮게 했습니다.

(03:08)
그리고 지난주에는 “퍼스트 프루프(first proof)”라는 새로운 게 나왔는데, 수학자들이 아직 해답이 알려지지 않은 연구 문제 10개를 공개했어요. 당대 최정상 수학자들, 연구 최전선이 ‘새 지식’을 만들어내야 하는 문제들이었죠. 아직 공유되지 않은 지식이 필요하니까요.
그런데 제 기억이 맞다면, 우리 최신 AI가 그 10문제 중 7문제를 맞혔습니다.

(03:38)
즉, AI는 고등학교 수학을 ‘그럭저럭’ 하던 수준에서, 연구 수준의 수학으로 ‘새로운 지식’을 만들어내는 수준까지 1년 만에 갔습니다. 물리학에서도 비슷한 일이 벌어지고 있고요.
이건 1년 사이에 일어난 정말 놀라운 변화입니다. 우리는 “똑똑한 고등학생 정도”라고 기대하던 AI에서, 인간 지식의 최전선을 밀어붙이는 AI로 왔습니다.

(04:01)
두 번째 변화는, AI가 ‘약간의 코드를 짤 수 있는 수준’에서 ‘컴퓨터 프로그래머라는 직업의 의미 자체를 바꿔버린 수준’이 됐다는 겁니다.
제가 지난번 인도에 왔을 때 사람들은 코드 자동완성 같은 도구에 놀랐어요. 그런데 1년 뒤 지금은, codex 같은 데서 아이디어를 입력하면 앱 전체가 만들어집니다.

(04:24)
프로그래머의 일이 지난 1년 동안, 제가 성인이 된 이후 어떤 해보다 더 크게 바뀌었다고 생각해요.
그리고 Codex… 인도는 우리 Codex의 가장 빠르게 성장하는 시장입니다. 그래서 여기서 벌어지는 일들이 정말 놀랍습니다.

(04:41)
제가 지난번 왔을 때 가장 크게 느꼈던 변화는, 그때는 인도가 AI의 ‘소비자’처럼 보였다는 거예요. 사람들이 서비스를 쓰고 있었죠. 그런데 지금은 인도의 ‘빌더 에너지(만드는 에너지)’가 말도 안 되게 폭발적입니다.

(05:08)

그리고 지난번에 당신이 약간 논란이 되는 말을 했죠. 당시엔 인도에서 1,000만 달러 펀드로 의미 있는 LLM을 만드는 건 충분치 않다고, 절망적인 그림을 그렸다고요. 그런데 지금은 어제 “인도에서 풀스택이 나올 수 있고 인도가 AI를 선도할 수 있다”는 이야기까지 하고 있어요.
그 발언은… 문맥에서 잘려 나갔습니다. 그건 몇 년 전 이야기였고요. 제가 말한 건 “인도가 1,000만 달러로 훌륭한 회사와 모델을 못 만든다”가 아니었습니다. 그건 충분히 가능해요.
제가 말했던 건 “최전선(frontier) 모델을 1,000만 달러로 만들 수 있느냐”였어요. 그때도 어렵다고 생각했고,

(05:30)
지금은 더더욱 어렵습니다.

지금은 더더욱 1,000만 달러로 최전선 모델을 못 만든다…
네, 맞아요. 지금은 더더욱요.
그게 점점 더 비싸졌습니다.
하지만 인도가 충분한 자금이 있다면, 당연히 인도 기업이 최전선 모델도 할 수 있습니다. 그리고 인도가 지금 만들고 있는 더 작은, 더 좁은(narrow) 모델들도 정말 훌륭합니다.

(05:49)

그럼 이번 방문에서 인도와 AI에 대해 예상 못 했던 놀라움이 있었나요?
제가 몇 분 전에 말한 통계가 있어요. 인도가 우리 Codex의 세계에서 가장 빠르게 성장하는 시장이라는 것. 저는 정말 기뻤습니다. 놀라워하면 안 되겠지만… 그래도 너무 좋았어요.
오늘 아침 IIT 델리에 갔는데, 새 세대 스타트업을 만드는 사람들의 에너지가 정말 대단했습니다.

(06:04)
그곳은 인도가 “좋은 방향으로” 세계를 놀라게 할 곳이라고 생각합니다.

(06:32)

반면에, 일자리 충격도 있죠. 인도 GDP의 약 8%가 IT/엔터프라이즈 서비스 한 분야에서 나오는데요. 지난 10일 동안, 그리고 특히 지난주에 Codex 때문에 말이 많았습니다. Codex 전엔 Claude가 그랬고요. 소프트웨어가 얼마나 빨리 바뀌는지 보여줬죠.
그래서 묻고 싶습니다. 인도에 이것이 얼마나 위협이며, 인도는 어떻게 생각해야 할까요?

(06:49)

많은 게 바뀔 거라고 생각합니다. 큰 영향이 있을 거예요. 그리고 그렇지 않은 척하는 건 도움이 안 됩니다.
다만 제가 예상하는 바는, 컴퓨터 프로그래밍이 발전할 때마다 늘 그랬듯이, 사람들은 더 높은 추상화 레벨에서 일하게 될 겁니다.

(07:12)
더 많은 일을 해낼 수 있게 되죠. 그리고 여전히 전반적으로는 필요가 남아 있을 겁니다.
생산되는 제품과 코드의 양은 크게 늘고, 기대치도 올라갈 거예요. 하지만 국가와 기업이 이 새 세계에 빠르게 적응한다면, 할 일은 충분히 많을 겁니다.

(07:34)
저는 ‘일자리 종말론자’는 아니에요. 미래에 일자리가 없다고 생각하지 않습니다. 오히려 일자리는 많을 거예요. 모든 기술혁명은 일자리 사라질 거라고 공포를 만들었지만, 결국 새로운 일자리가 생겼습니다.
“약속된 여가”는 한 번도 오지 않았죠. 우리가 영원한 휴가를 간다는 건 늘 안 됐어요. 이번에도 그럴 것 같습니다.

(07:51)
물론 그쪽으로 조금이라도 더 갔으면 좋겠지만, 서로에게 유용하고 싶어 하는 욕구, 더 많고 더 좋은 것을 원하는 욕구, 창의성을 표현하고 싶은 욕구—이런 건 끝이 없어요.
자연스러운 한계가 있다고 보지 않습니다. 우주로 나가 탐험할 수도 있죠. 우주여행 같은 걸 우리가 해결한다면요. 어디로 갈지는 모르지만,

(08:08)
분명히 변화는 빠르고, 그 흐름의 ‘올바른 편’에 서 있어야 합니다.
그리고 인도에서 일자리 이야기는 정말 무거운 이야기죠. 30세 이하가 5억 명이니까요.

(08:36)

그 일자리 불안을 정책 담당자, 총리 같은 분들을 만날 때도 논의하나요? 얼마나 자주 나오고, 답은 뭔가요?
정치 지도자들과 대화할 때 주로 나오는 건 인프라, 일자리, 혜택의 공정한 분배, 그리고 광범위한 안전입니다. 나라에 따라 비중이 다르고, 장점에 더 집중하느냐 단점에 더 집중하느냐도 다릅니다.

(09:08)
일자리 영향은 많이 이야기합니다.
그리고 제가 거의 모든 사적인 대화에서도 듣는 질문이 하나 있는데, “우리 아이들은 뭘 공부해야 하죠?”예요. “미래가 어떻게 되죠?”라는 질문의 한 버전입니다. 경제가 어디로 갈 거냐는 거죠.

(09:41)
정확히 답하기 정말 어렵습니다. 저는 기술의 역사를 읽는 걸 좋아하는데, 산업혁명 당시 사람들이 남긴 1차 자료를 보면 일자리 공포가 엄청났고, 새 일자리 예측도 많았어요. 그런데 놀랄 만큼 다 틀렸습니다.
그 누구도 “나는 AI 회사 CEO가 될 거야”라고 하지 않았고, “나는 유튜브 인플루언서가 될 거야” 같은 건 더더욱 없었죠.

(10:20)
그래서 예측은 매우 어렵지만, 어떤 상황에서도 통하는 기술이 있습니다.
AI 도구에 대한 능숙함, 회복탄력성, 적응력, 사람들이 무엇을 원하는지 파악하고 어떻게 유용해질지 생각하는 것, 다른 사람들과 협업하는 것—이런 건 아주 좋은 것들입니다.

(10:41)
변화가 없을 거라고 말하는 건 쓸모없어요.
다만 AI 업계 일부가 말하는 것처럼 변화가 ‘즉시’ 오진 않을 겁니다. 사회는 관성이 크고 늘 더 오래 걸립니다. 하지만 결국 변화는 엄청날 거고, 우리는 또 새로운 할 일을 찾게 될 겁니다.

(11:10)

인도와 AI 이야기를 조금 더 해보죠. 젠슨이 말한 “AI 5층 케이크”—에너지, 데이터센터, 칩, 모델, 애플리케이션. 인도는 어느 층에서 이길 능력과 권리가 있고, 어느 층은 너무 위험한 베팅일까요?
5층이냐 7층이냐는 사람마다 다르지만, 인도는 모든 레벨에서 플레이해야 한다고 생각합니다.

(11:45)
수직 통합의 중요한 이점이 있고, 인도처럼 규모와 중요성이 큰 경제는 전 레벨을 다루는 게 좋습니다.
그리고 제가 여기 오기 직전에 총리와 대화를 나눴는데, 그는 모든 레벨에서 뛰고 싶어 하는 동기가 분명했습니다. 그건 중요합니다.

(12:18)

인구의 70% 이상이 인터넷을 쓰는 나라에서, AI-퍼스트 사회가 되려면 컴퓨팅 파워가 충분합니까?
아직은 아닙니다. 하지만 세계가 함께 그 문제를 풀어야 합니다.
제가 사람들에게 꼭 묻는 질문이 하나 있어요. “당신은 GPU를 몇 개나 상시로 갖고 싶습니까? 늘 당신을 위해 일하고 생각해주는 GPU요.”

(13:04)
사람마다 답이 다른데, 아무도 “1개 미만”이라고는 안 해요. 어떤 사람은 1,000개라고 합니다. 저도 1,000개면 좋겠어요.
그걸 80억 인구로 곱해보면, 8조 개 GPU를 가까운 시일에 공급할 방법이 없습니다. 말도 안 되죠.

(13:29)
물론 우리는 그걸 하진 않을 겁니다. 분명히 말하지만, 최소한 지구에서는요.
하지만 이 질문은 우리가 어느 정도 규모의 컴퓨팅을 구축해야 하는지 ‘야망’의 수준을 보여줍니다. 이는 인류 복지 차원에서, 전 세계가 함께 수행하는 가장 비싸고 복잡한 인프라 프로젝트가 될 겁니다.

(13:55)
좋은 소식은, 예전 방식으로는 불가능했겠지만 AI와 로봇이 이 구축을 도울 거라는 겁니다. 결국 해낼 거예요.

(14:22)

그래서 요즘 자꾸 “우주” 얘기가 나오나요? 데이터센터를 우주에 올린다는 건 솔직히 말도 안 된다고 생각해요. 언젠가는 말이 되겠지만… 발사비용과 지구에서 전력을 쓰는 비용을 대충만 계산해도 그렇고, 우주에서 고장 난 GPU를 어떻게 고칠지도 문제죠. GPU는 아직도 많이 고장납니다. 안타깝지만요.
아직은 그 단계가 아닙니다. 우주는 좋은 게 많지만, 궤도 데이터센터가 “이번 10년”에 규모 있게 중요해지진 않을 겁니다.

(15:00)

이런 인프라 구축은 정부와의 관계를 아주 밀접하게 만들 수밖에 없죠. AI로 인해 정부-기업 관계가 바뀌고 있나요? 정부가 큰 조력자입니까?
네. 인프라뿐 아니라 사회에 미치는 영향이 워낙 크고, 이 기술을 진정으로 민주화하려면 정부가 관여해야 합니다. 우리 같은 기업도 정부와 파트너십을 맺어야 하고요.

(15:35)

“빅테크”라고 불러도 되나요?
전 빅테크라고 느끼지 않아요.
아직은요.
아직은요.

(15:54)

그럼 기술기업과 정부 관계의 변화는 어떻게 보나요?
기술 산업은 원래 굉장히 리버테리언(자유지상주의)적이었죠. “정부 필요 없어, 정부도 우리 필요 없어.” 그런데 그건 많이 바뀌었습니다. AI 이전부터도요. 회사가 커지고 경제와 세계 작동 방식의 중심이 되면서 관계가 바뀌었죠.
하지만 AI처럼 인프라 규모가 요구되는 때는 더더욱 중요해졌습니다.

(16:26)

그리고 “미국 백악관이 실리콘밸리와 가깝다”, “JD 밴스와의 관계” 같은 이야기도 나오는데요. 사실인가요? 좋나요, 나쁘나요?
어떤 면에서는 가깝고, 어떤 면에서는 그렇지 않습니다. 긴밀한 연결도 있지만, 이번 행정부가 기술을 강하게 비판한 적도 있어요.
좋고 나쁘고를 떠나, 기술기업과 정부의 협력은 시간이 갈수록 더 중요해질 겁니다. 완전히 매끄럽진 않겠지만, 관계가 좋을수록 모두에게 좋겠죠.

(17:13)

정부 대 정부 협력은요? 오늘 발표된 건 여러 나라가 AI를 진지하게 논의하는 파트너십이었는데, “모든 나라 vs 중국” 프레임인가요?
훨씬 더 복잡해질 거라고 봅니다. 시간이 지나며 바뀔 거예요.
AI는 세계에서 가장 중요한 정치 이슈 중 하나가 될 겁니다. 지정학적 긴장과 협력의 상위 비트(핵심 변수)가 되겠죠. 하지만 고정된 구도가 아니라, 발전하면서 정치적 동맹도 계속 이동할 겁니다. 더 빨라질 가능성이 큽니다.

(18:31)

중국은 어떤가요? 중국이 몇 년 앞서 있다, 에너지가 많다, 재생에너지, 로봇, 기술이… 이런 말을 계속 듣는데요. 맞나요? 왜 앞서죠?
어떤 분야에서는 많이 앞서 있고, 어떤 분야에서는 그렇지 않습니다. 좀 지루한 답이지만, 보통 세상은 늘 그렇잖아요.
예를 들어 물리 로봇 제조는 확실히 중국이 앞서 있습니다. 전기모터, 자석 같은 부품도요. 에너지 구축도 분명히 앞서고요.

(19:03)
하지만 우리가 더 앞서는 분야도 있고, 그게 늘 있어왔고 앞으로도 그럴 겁니다. 모든 것에서 앞서거나 모든 것에서 뒤처지긴 어렵죠.
전 세계에 단 하나의 초지능만 있다면 가능할지도 모르지만, 그건 또 다른 이유로 나쁘다고 봅니다.

(19:18)

그럼 이건 “경쟁”인가요? 다들 레이스라고 말하잖아요.
어느 정도는요.
협력적 여정인가요, 레이스인가요?
둘 다입니다. 이게 어려운 점이죠. 글로벌 경제는 협력적으로 얽혀 있으면서도 경쟁이기도 해요. 하나로만 설명하고 싶지만, 현실은 늘 더 지저분합니다.
다만 힘의 ‘순차’와 그 파급력을 보는 건 중요합니다. 그리고 민주주의가 AI에서 리드하는 게 중요하다고 생각합니다.

(20:17)

“민주주의가 리드”라면, 중국이 리드하면 안 된다?
좀 더 뉘앙스가 있긴 하지만, 그렇게 줄이고 싶다면요.

(20:37)
제가 말한 핵심은, 세계에 단 하나의 초지능이 존재하면 안 된다는 겁니다. 한 사람, 한 나라, 한 회사—미국이라도 포함해서—초지능을 독점해선 안 됩니다. 그건 나쁘죠.
권력이 넓게 분산되고, 다양한 아이디어가 경쟁하고, 서로 견제할 수 있을 때 세상은 최선으로 작동한다고 믿습니다. 시간이 지나면(중간에 어리석은 일도 하겠지만) 결국 좋은 아이디어가 올라오게 되죠.

(21:06)
즉 “권위주의”라는 말은 ‘누가 갖든 상관없이’ 한 AI가 세계를 지배하는 걸 원치 않는다는 뜻입니다.

(21:32)

AI는 권력을 분산시키나요, 더 집중시키나요?
이건 지금 가장 중요한 질문 중 하나라고 생각합니다.
AI가 권력을 엄청 집중시키는 세계도 상상할 수 있어요. 어떤 한 회사나 나라가 AI를 쥐고 부와 권력을 독점하는 거죠.
반대로, 지구상의 모두가 규칙 없이 초지능을 가지는 극단도 상상할 수 있고, 그건 끔찍한 혼란을 부를 겁니다.

(21:54)
그 중간 세계가 많겠죠. 저는 더 “민주화된” 쪽이 좋다고 봅니다. 물론 규제와 가드레일은 필요합니다. 하지만 이 기술을 많은 사람 손에 쥐여주는 건 가능하고, 그건 경제 권력의 분산으로 이어질 겁니다.

(22:15)
최근 6개월, 특히 3개월을 보면, 1~3명짜리 회사가 갖는 파워가 엄청 커졌습니다. 예전엔 불가능했죠. Codex 같은 것과 범용 지식 워킹 에이전트 시대에는, 1인 스타트업이 엄청난 성공을 거둘 수 있고, 2~3인 팀도 마찬가지입니다. 저는 이게 정말 좋다고 생각해요.

(23:02)

경쟁은 얼마나 치열합니까? 어제 무대에서 좀 어색한 순간도 있었고, 밈도 돌고 있는데…
인터넷이 웃을 거리 하나쯤은 있어야죠. (웃음)
경쟁은 확실히 치열하지만… 저는 이 업계가 또 엄청 “좁은 동네” 같다고도 말하고 싶어요.

(23:26)
다들 서로 예전에 같이 일했던 적이 있고, 서로 다 알고, 엔비디아가 투자하고, 칩은 엔비디아에서 사고… 그런 관계들이 얽혀 있어요.

네, 정말 작은 세계예요. 상업적으로는 매우 경쟁적이지만, 최첨단 모델을 가진 거의 모든 팀은 ‘안전’과 ‘정렬(alignment)’을 제대로 하겠다는 의지가 강하고, 그 부분에선 협력하려는 편입니다.

(23:57)

어제 일에 대해 조금 더 말해줄 수 있나요?
별로 덧붙일 건 없습니다.
더 안 묻겠습니다.

(24:13)

너무 많은 걸 다뤄야 하네요. 제가 준비하면서 정말 많이 배웠습니다. 3일 내내 파고들었어요. 그래서 게임처럼 해보려고요.
좋아요.
‘속사포’는 아니고, 너무 길어서요.

(24:33)

질문: 구글의 AI 레이스 ‘추격’에서 존경하는 점 하나?
10년 전엔 구글이…
5년 전이겠죠.
음… 3년 전, 우리가 챗GPT를 출시했을 때 그들은 뒤처졌죠.
제가 구글에서 존경하는 첫 번째는, 데미스와 팀이 현대 AI 시대에서 누구보다 먼저, 강한 확신을 갖고 시작했다는 겁니다. 그들의 영감이 없었다면 우리도 여기 없었을 거예요.
두 번째로는, 최근 들어 뒤처진 상태에서 모델을 규모로 밀어붙이고 실행해 따라잡는 집요함이 정말 인상적입니다.

(25:08)

질문: 애플이 시리에서 구글과 파트너십 맺은 거 놀랐나요?
딱히요.

(25:31)

질문: AI 규제에서 “대체로 올바른 길”에 있는 나라 한 곳?
아직 아무도 그 답을 모른다고 생각합니다.
좋은 점은, 나라들이 서로 다른 접근법을 시도하고 있다는 거예요. 여러 주권 국가가 다양한 실험을 하는 건 좋은 일입니다. 앞으로 몇 년 동안 어떤 게 효과 있고 어떤 게 아닌지 관찰할 수 있을 테고, 저는 꽤 빨리 ‘잘 되는 방식’으로 수렴할 거라고 봅니다.
하지만 지금은 다양한 실험 자체가 고맙습니다.

(26:01)

이제 ‘비판-방어’ 게임입니다. AI에 대한 비판을 말하면 짧게 방어해 주세요.
어떤 건 방어 못 할 수도 있어요.
괜찮습니다. 패스도 가능.

(26:19)

1. 권력의 과도한 집중
   공정한 비판입니다. 다만 우리가 초강력하게 민주화를 추진한다면 얘기가 달라져요. 전 세계가 국가와 기업에게 “안전”을 명분으로 권력 집중을 정당화하지 말라고 요구해야 합니다. 민주화되어야 해요.

(26:50)

2) 데이터센터가 물/자원을 너무 많이 쓴다
물 얘기는 완전 가짜입니다. 예전엔 증발식 냉각을 썼을 때 사실이었지만 지금은 아니에요. 인터넷에 “챗GPT 한 번 물으면 물 17갤런 쓴다” 이런 건 완전히 사실이 아닙니다. 말도 안 되는 소리예요. 현실과 연결이 없습니다.
다만 에너지는(질의당이 아니라 총량 기준으로) 진짜 문제이고, 우리는 원자력/풍력/태양광으로 빨리 옮겨가야 합니다.

(27:18)

빌 게이츠가 작년에 “챗GPT 한 번에 아이폰 배터리 10개 분량”이라고 했다가, 지금은 1개~1.5개로 줄었다고 했는데 맞나요?
그 정도일 리가 없어요.
훨씬 적다?
훨씬, 훨씬 적습니다.

(28:04)

다만 그의 주장은 AI가 더 효율적으로 진화할 거라는 건데요.
비교에서 불공정한 점이 있어요. AI를 ‘학습(훈련)’시키는 에너지를 인간이 ‘한 번 추론’하는 에너지와 비교하거든요.
하지만 인간을 훈련시키는 데도 에너지가 엄청 들어요. 20년을 살고 그 기간 먹는 음식 전체가 들어가야 똑똑해지죠. 게다가 인류 수백억 명의 진화와 학습 전체가 누적되어 당신이 나온 거잖아요.

(28:25)
공정한 비교는, 모델이 훈련된 뒤에 질문 하나에 답하는 에너지(추론) vs 인간이 답하는 에너지입니다. 그 기준이라면 AI는 이미 에너지 효율 면에서 인간을 따라잡았을 가능성이 큽니다.

(28:55)

3) AI가 우리 아이들을 더 멍청하게 만든다
어떤 아이들에겐 사실입니다.
아이들 얘기 들어보면 “고등학교 숙제 다 치팅했다, 고마워” 이런 애들도 있어요. 그럼 저는 “그럼 인생은?” 묻죠. “직장도 챗GPT가 해주겠지”라고 하는데, 이건 정말 나쁩니다.
우리는 아이들이 여전히 배우고, 생각하고, 창의적으로 살고, 도구를 쓰는 법을 배워야 합니다.

(29:20)
하지만 대부분의 아이들이 그렇게 말하진 않아요. 대부분은 “내가 이제 뭘 할 수 있는지 믿기지 않는다”, “이걸 만들었다”라고 합니다.
우리 세대가 학교에서 구글을 숙제에 쓰던 것처럼 챗GPT를 쓰겠죠.
교육과 평가는 바뀌어야 하지만, 이 기술의 잠재력—더 배우고 더 하는 능력—은 확실합니다.

(30:04)
제가 학생일 때 구글이 막 나왔고, 선생님은 “최악이다, 이제 교육은 끝”이라고 했어요. “검색하면 되는데 왜 외워?”
제 답은 “누가 언제 태어났는지 외우는 건 시간낭비다. 필요하면 구글로 보면 된다”였죠. 교육은 결국 적응했고, 기대치도 올라갔고, 더 깊게 생각하고 더 창의적으로 만들게 됐습니다.

(30:47)
저는 오늘 태어난 아이가 18살이 될 때는, 지금 누구도 못 하는 일을 할 수 있게 될 거라고 확신합니다. 그건 좋은 일이라고 생각해요.

(31:15)

4) “민주적이지 않다”—AI를 멈추고 싶어하는 사람들은 목소리가 없다. 또한 저항은 어디서 오나요? 선진국인가요, 미경험자들의 불안인가요?
여러 곳에서 옵니다. 다만 사람들이 기술을 더 많이 사용할수록 “완전 중단”보다는 “이게 뭘 의미하나, 목소리를 낼 수 있나, 좀 더 천천히 갈 수 있나” 쪽으로 바뀌는 것 같아요. 사람들은 기술을 좋아하니까요.

(31:37)

질문: 실리콘밸리가 중국 기술에서 배울 것 하나
“빠르게 움직여라.”
실리콘밸리가 인도 기술에서 배울 것 하나
“더 빠르게 움직여라.”

(32:05)

질문: 중국 AI 지배에 대한 ‘진짜 공포’와 ‘상상 공포’ 하나씩
상상 공포는 “중국 군대가 10억 대 휴머노이드 로봇을 보내 미국을 점령한다” 같은 거죠. 그건 지난 전쟁을 떠올리며 미래도 같을 거라 착각하는 겁니다.
진짜 공포는 인터넷 상에서의 새로운 전쟁입니다. 여론 조작, 핵심 인프라 해킹 같은 것들. 그건 충분히 가능해 보여요.

(32:43)

감시국가 같은 것도요.
그건 정말 걱정합니다.
요즘 사람들은 AI 공포를 빌미로 감시국가를 정당화하려고 하는데, 그 사람들이 감시국가의 부작용을 충분히 생각했는지 모르겠어요.

(33:04)

상황 질문: 급히 뭔가 찾아야 하는데 폰이 방전. 내 폰을 빌려줬는데 키보드 T가 고장이라 Grock, Claw, Gemini, Deep Seek만 입력 가능하다면? (웃음)
뭔가를 “찾아보기”만 해야 한다면, Gemini를 고르겠습니다.
다른 용도라면 다른 모델을 고르겠지만요.

(33:27)

질문: 비영리 → 캡드 프로핏 → 광고 포함 어떤 수익도 가능, 이렇게 온 가장 설득력 있는 이유
AI를 민주화해야 한다는 필요와, 연구 최전선을 유지해야 한다는 필요—둘 다 막대한 자본이 필요합니다.

(33:50)

연구 우선 회사인가요, 제품 우선 회사인가요?
연구 우선입니다.
AI의 멋진 점은, 좋은 제품의 대부분이 좋은 연구에서 나온다는 거예요. 모델이 훌륭하면 제품은 이미 꽤 좋아요. 초기 챗GPT는 제품이라 할 것도 거의 없었습니다. 텍스트 박스 하나였죠. 연구가 모델 역량을 끌어올리고, 그게 나머지를 가능하게 합니다.

(34:11)

당신에 대한 비판 중 가장 거슬리는 것 하나?
온갖 비판을 다 들어보면, 어느 순간엔 아무 것도 안 거슬려요. 너무 말이 안 되고 진실과 동떨어져 있으니까요.
그래도 가장 슬픈 건 “저 사람은 권력 때문에 하는 거야. 세상에 도움이 되려는 마음이 없어” 같은 말입니다.

(34:39)

왜 오픈AI 지분을 안 받았나요?
그건 정말 제 인생에서 제일 멍청한 결정 중 하나였습니다. (웃음) 제가 멍청한 결정 많이 했지만요.
그 결정 때문에 온갖 음모론이 생겼고, 전혀 가치가 없었어요.
우린 비영리였고, 비영리 이사회에 있으려면 이해관계가 없어야 하는 구조적 ‘꼬임’ 같은 게 있었죠. 저는 이미 운 좋게 커리어가 잘 됐고, “지분 없어도 상관없다”라고 생각했는데… 정말 멍청했습니다.

(35:23)

지금이라도 지분을 가질 수 있다면?
이젠 그 대화 자체가 너무 지치고, 너무 함정 같아서… 뭘 해야 할지 모르겠어요.
완전 루즈-루즈 게임입니다.

(35:40)

일론 머스크와 갈등이 있어도, 그에게서 존경하는 점 하나?
음… 바로 떠올려볼게요. 잠깐만요.
그는 물리적 엔지니어링을 정말 잘하고, 사람들이 일을 엄청 잘하게 만드는 능력도 대단합니다.

(36:06)

뉴스에 대한 의견: 16세 미만 소셜미디어 금지에 찬성하나요?
전면 금지가 맞는지는 모르겠지만, 어쩌면 그럴 수도요. 최소한 강한 제한은 필요하다고 봅니다. 저는 어린 아이가 있고, 무한 스크롤의 부정적 영향이 정말 걱정됩니다. 아이가 ‘아이패드 키드’가 되어 계속 스크롤만 하는 걸 원치 않아요.
어쨌든 아이들의 소셜미디어는 매우 조심해야 합니다.

(36:55)

전쟁 얘기: 정부가 AI로 전쟁 수행을 돕자고 요청한다면? 펜타곤도 그냥 고객인가요?
AI 시스템이 전쟁 결정을 내리는 데 쓰이면 안 된다고 봅니다. 아직 그만큼 신뢰할 수준이 아니에요.
다만 정부를 지원하는 건 중요합니다. 지금도 할 수 있는 일이 많아요. 언젠가 방위 분야에서 중요한 응용이 생기겠지만, 지금 모델은 명확한 한계가 있습니다.

(37:47)

마두로 체포에 AI가 쓰였다고 하던데?
몰라요. 어떤 방식으로 쓰였을 수도 있죠. AI가 잘하는 게 있어요. 예를 들어 방대한 정보 보고서를 분석하는 건 AI가 지금도 아주 잘할 수 있고, 그런 식으로는 쓰였을지도요.

(38:06)

클로드의 안전 책임자 망 샤르마의 극적인 사임(뉴스)에 대한 의견?
뭔가 들은 것 같긴 해요.
“다 쓸모없다, 시나 쓰겠다” 이런 방향이었다고… 안전 담당자들이 압도되는 것 같아서요.
제가 동의하는 부분은, 회사 내부 시각으로 보면 “세계가 준비가 안 됐다”는 겁니다. 우리는 곧 매우 강력한 모델을 갖게 될 것이고, 제가 생각했던 것보다 더 빠른 이륙(takeoff)이 올 거라고 봐요. 그건 스트레스고 불안을 유발하죠.

(39:13)

사랑과 관계의 미래는? 데이팅앱에서 AI가 대화 대신해준다든가… 진정성이 사라지나요?
제 예상은, 미래에는 인간 관계를 더 가치 있게 여길 겁니다. 우리는 그렇게 설계되어 있어요.
물론 일부는 AI와 사랑에 빠질 수도 있고, AI 남친/여친 얘기도 하고, 데이팅앱 메시지를 AI가 대신 보내기도 하겠죠. 그건 소수일 거고, 사회 종말을 말하는 기사들이 잔뜩 나오겠지만, 대부분에게는—

(39:40)
더 풍요로운 세상, 원하는 걸 거의 다 가질 수 있는 세상에서 인간 연결, 인간의 관심, 인간의 따뜻함이 가장 가치 있는 자원이 될 겁니다. AI 시대에는 오히려 그걸 더 중요하게 생각하게 될 거예요.

(39:58)

당신은 400개 넘는 회사에 투자했다던데…
Y 컴비네이터까지 포함하면 3,000개죠.
와… 그럼 좋습니다. 이 방의 사람들에게 지금 투자 조언을 한다면?
땅이 흔들리는 시기엔 모든 게 열려 있습니다. 변화가 너무 빨라요. 1인 회사가 예전엔 큰 회사가 해야 했던 일을 하게 되고, 더 빠르고 효율적으로 움직이죠. “기존 것을 더 잘하기”도 있고, 전에 상상 못 했던 “새로운 것”도 있습니다.

(40:39)
제 성인 인생에서 투자 환경이 이렇게 열려 있었던 적이 없어요. 예전엔 “투자할 건 한 가지뿐”처럼 느껴지는 때가 많았는데, 지금은 하고 싶은 걸 할 수 있는 느낌입니다.

(40:58)

AGI까지 얼마나 남았나요? 당신은 “몇 년”이라고 했죠.
제가 “몇 년”이라고 한 건 ASI였습니다.
그럼 AGI는요?
AGI는 꽤 가까워 보입니다.
6년 전에 “스스로 새 연구를 하는 시스템”, “복잡한 프로그램을 혼자 만드는 시스템”, “의사/변호사/컴퓨터과학자처럼 지식노동을 하는 시스템”을 말하면, 사람들은 “그거 꽤 범용적이고 지능적이네”라고 했을 겁니다.

(41:32)
그런데 우리는 지금 가진 것에 익숙해져버리죠.
하지만 내부에서 기술이 우리를 얼마나 가속하는지 보면, 저는 꽤 가깝다고 봅니다. 그리고 저는 이제 ‘더 빠른 이륙’을 예상하므로 초지능도 멀지 않다고 생각해요.

(41:58)

챗GPT에 절대 안 물어볼 질문 하나?
행복해지는 법 같은 건 안 물어볼 것 같아요. 그런 건 현명한 사람에게 묻고 싶죠.
그런데 AI의 큰 사용처 중 하나가 동반자/치료…
치료나 생활 조언은 꽤 괜찮을 수 있어요. 하지만 인생 철학은 아직 진지하게 받아들이진 않을 겁니다.

(42:40)

둘 중 뭐가 덜 일어날까요? TSMC가 반도체 제조 독점을 잃는 것 vs 머스크와 다시 친구 되는 것
머스크와 제가 다시 친구 되는 게 덜 일어날 겁니다. (웃음) 제가 그건 더 통제할 수 있을 것 같지만, 둘 다 매우 가능성이 낮습니다.

(43:06)

TSMC가 그렇게 강한 이유는?
집요하게 더 나아지는 데 집중합니다. 공정이 극도로 복잡한데, 모든 레벨에서 최적화하고 학습하는 ‘기계’ 같아요.

(43:25)

조니 아이브(Johnny Ive)와의 새로운 디바이스 파트너십, 최신 업데이트를 말해줄 수 있나요?
우리는 50년 동안 거의 같은 방식으로 컴퓨터를 써왔습니다. 제록스 PARC의 윈도우/포인팅 디바이스 혁신, 그걸 폰으로 옮기고 멀티터치를 더한 것—다 놀랍죠.
하지만 근본적으로는 비슷한 폼팩터였어요. AI도 그 폼팩터 안에 갇혀 있죠.

(44:11)
그런데 AI는 완전히 다른 것입니다. 자연어로 컴퓨터와 말하고, 엄청 복잡한 일을 해낼 수 있어요. 맥락을 엄청나게 이해하죠. 기존 폼팩터는 그에 맞지 않습니다.
저는 “내 삶 전체를 관찰하면서”, 모든 맥락을 갖고, 최대한 유용하고, 나를 방해하지 않는 기술을 원합니다. 단순 온/오프가 아니라 중간의 미묘한 상태들도요.
우리가 실패할 수도 있어요. 정말 어렵습니다. 하지만 AI에 맞춰 설계된 새로운 제품군을 만들 기회가 있습니다.

(44:51)

그건 이론이고, 제품은 뭔가요?
그건… 기다려 보셔야죠.
언제 볼 수 있나요?
올해 말쯤엔 이야기할 수 있길 바랍니다. 하지만 하드웨어는 어렵죠.

(45:11)

정부는 무엇을 규제하고, 무엇은 피해야 하나요?
완벽한 답은 아니지만, 정부는 “잠재적으로 재앙급” 이슈를 규제하는 데 집중하고, 덜 중요한 건 더 이해하기 전까지는 느슨하게 두는 게 낫다고 생각합니다.

(45:47)

공동창업자들과의 갈등에서 얻은 교훈 하나?
한 문장으로 줄이기 어렵지만… 그렉과 제가 자주 다툰 건 “집중할 것인가, 이것저것 할 것인가”였습니다. 저는 너무 많은 걸 하려다 틀렸고, 극도로 좁고 깊게 집중하는 중요성을 그에게서 배웠습니다.

(46:21)

기업들이 AI 도입에서 저지르는 가장 큰 실수?
어제 어떤 대기업 미팅에서, 2026년 전략 수립, 2027년 준비, 2028년 배포 계획을 들었어요. ERP 같은 건 그럴 수 있지만, AI에서 그렇게 하면 재앙입니다.
필요한 민첩성, 속도, 커밋이 완전히 다릅니다.

(47:22)

국가 정상들에게 한 마디씩: 시진핑, 모디, 푸틴, 트럼프
모두에게 같은 말을 하겠습니다. “이 기술을 민주화해서 사람들의 손에 쥐여줘야 한다.”
그들이 다 듣진 않겠지만요. (웃음)

(47:45)

젊은 나라 vs 늙은 나라, 다른 조언 없나요?
점점 이 점에 대해 더 ‘급진적’이 되고 있습니다. 다른 전략은 통하지 않을 거라고 생각해요.

(48:08)

사티아 나델라와의 관계는?
친구라고 하겠습니다.

(48:38)

가장 비싼 채용은? 얼마 들었나요? (메타와 비교하면…)
우리는 메타와 비교할 수 없죠.

(48:58)

당신이 했던 말 중 후회하는 수정/업그레이드:

1. 인도가 1,000만 달러로 파운데이션 모델 만드는 건 hopeless
2. 비영리 유지
3. 과도한 규제는 혁신을 저해
4. 광고는 안 받는다

저는 광고 안 받는다고 말한 적은 없다고 생각해요. 아마 “우려가 있다” 정도는 말했을 수 있지만요.
그럼 저는 비영리 건을 고르겠습니다.

(49:33)

청중 질문 받겠습니다.
인도 파운데이션 모델 질문 있으면 밈 하나 더 만들고 싶네요. 다시 해보자고요.

(49:50)
(청중) 저는 MakeMyTrip 창업자 라제시입니다… (농담) 휴가 가면 돈 버는 사람입니다. (웃음)
(질문) 연구 우선 회사라 하셨는데, 연구자들이 ‘금맥을 캤다’는 만족감 못지않게 책임 있는 AI도 같은 비중으로 중요하다고 보나요?

네. 그렇다고 생각합니다. 그리고 제가 연구팀에서 가장 자랑스러운 것 중 하나가, 초지능에 가까워질수록 그 책임감을 더 강하게 느낀다는 점입니다. 하지만 그건 처음부터 우리 DNA의 핵심이었어요. 우리와 함께 가장 크게 성공하는 연구자들은 머릿속에서 그 프로세스가 돌아가고 있습니다.

(51:13)

시간이 없다고 신호가 오네요. 마지막 질문…
몇 개 더 하죠. 빨리 답할게요.

(51:42)
(질문) 인재 경쟁은 어디로 가나요?

AI가 연구와 엔지니어링을 더 많이 하게 되면, 더 적은 사람으로 더 많은 일을 하게 될 겁니다. 그래서 인재 경쟁은 어느 정도 완화될 거고, 작은 팀이 엄청난 결과를 내게 될 거예요.

(52:17)
(사회자) 질문: 인터뷰 질문 준비에 오픈AI 챗GPT가 얼마나 도움 됐나요? (웃음)
(사회자) 솔직히 연구는 많이 했지만, 챗GPT로 질문을 뽑으면 너무 ‘합성된’ 느낌이라 아직은 잘 안 쓰게 되네요.

(52:40)
(청중) 저는 투티입니다. 저는 팟캐스터고, 챗GPT에게 물었더니 ‘3주 후 너는 오픈AI에서 샘 알트만과 앉아 있을 거야’라고 해서… 여기 왔네요. (웃음)
질문: 창작자들이 챗GPT를 많이 쓰는데, 더 걱정되는 건 AI가 너무 강해지는 건가요, 아니면 인간이 수동적으로 되는 건가요?

인간이 너무 수동적이 될 거라곤 생각하지 않아요. 그럼 다른 걸 고르죠—AI가 너무 강해지는 것.
창작자들이 하는 걸 보면, 아이디어→피드백→아이디어 루프가 더 빠르고 촘촘해져서, 더 나은 결과물이 나올 거라고 봅니다. 더 창의적인 팟캐스트, 더 좋은 글, 더 좋은 이미지. 하지만 그 과정에서 우리가 수동적으로 되진 않을 겁니다. 예전엔 걱정했는데, 지금은 그렇게 보이지 않아요.

(54:04)
(청중) 어떤 직업이 가장 위협받나요?

많은 직업이 “현재 형태”로는 거의 사라질 겁니다. 물론 사람들은 적응해서 새 일을 하겠지만요.
제 직업을 예로 들면, 저는 소프트웨어 엔지니어로 훈련받았는데 제가 배운 방식은 이제 사실상 완전히 무의미해졌어요. C++을 손으로 직접 쓰는 방식은 끝났죠.
다른 직업들도 “옛 의미로는 끝”인 게 많을 겁니다. 완전히 새로운 형태가 생기겠죠.

(55:07)

그럼 가장 덜 취약한 일은요?
이미지 생성 AI가 나왔을 때 “그래픽 아티스트 끝났다”라고 했죠. 생일 초대장 같은 실무 그래픽은 그럴 수 있어요.
하지만 ‘파인아트’에선 AI 작품의 가격은 0에 가까운 반면, 인간이 만든 예술의 가치는 오히려 올라갔습니다. 사람은 “누가 했는지”를 중요하게 생각하거든요.
또 예를 들어, 제가 최근 병원에 갔는데 간호사가 돌봐주는 게 정말 중요했어요. 그게 로봇이었다면 아무리 똑똑해도 저는 불행했을 겁니다.

(56:38)
(청중) 책임 있는 AI에서 오픈AI의 역할은? 체크와 밸런스에 얼마나 투자하나요? 속도가 발전 속도와 맞나요?

우리 회사와 저 개인에게도 엄청난 초점입니다.
가끔은 과하게 하기도 하고, 너무 보수적으로 접근해 사람들을 화나게 하기도 해요. 민주화와 안전 사이에는 긴장이 있습니다.
하지만 “처음엔 보수적으로 시작하고, 이후에 접근을 넓히는” 원칙이 지금까지는 잘 작동했고, 앞으로도 그렇게 할 겁니다.

(56:58)
(사회자) 시간이 완전히 끝났습니다. 샘, 정말 감사합니다.

저도 감사합니다.

(57:15)
(사회자) 모두 자리에 앉아 주세요… (이하 기념품 전달/단체사진/스폰서 소개 안내 멘트)
…이 일러스트는 인디안 익스프레스의 만평가 EPI가 그린 것이고, AI 생성이 아니라는 걸 알려달라고 했습니다. (박수)
…(꽃다발 전달, 단체사진, 퇴장 안내)
…오늘 함께해주셔서 감사합니다. (59:28)

---