인터뷰/예측
샘 알트만 "지금의 기분은 마치 코로나 초기 그 텅 빈 거리를 다시 걷고 있는 것과 같습니다."
🚀 [대담 기록] 인공지능의 미래를 구축하는 방법: OpenAI 포럼
일시 및 장소: OpenAI 포럼 (온라인/오프라인 패널 토론)
참석자:
-
크리스 니콜슨 (Chris Nicholson): 진행자 (OpenAI 소속)
-
샘 알트만 (Sam Altman): OpenAI 공동 창립자 겸 CEO
-
조쉬 아치암 (Josh Achiam): OpenAI 수석 미래학자 (Chief Futurist)
-
아드리앙 에코페 (Adrien Ecoffet): OpenAI 선임 연구원
제1장: 오프닝 및 초지능(Superintelligence) 논의의 시급성
크리스 니콜슨 (진행자): 여러분, 안녕하십니까. OpenAI 포럼에 오신 것을 환영합니다. 저는 크리스 니콜슨입니다. 오늘 여러분과 함께하게 되어 기쁩니다. 이 포럼은 AI가 세상에서 어떻게 사용되고 있는지, 우리가 그것으로부터 무엇을 배우고 있는지, 그리고 어떻게 더 많은 사람들이 AI의 궤적을 형성하는 데 도움을 줄 수 있는지에 대해 진지하게 대화하는 자리입니다.
오늘 대화는 기술 분야에서 가장 큰 질문 중 하나에 초점을 맞춥니다. AI 시스템이 기하급수적으로 더 유능해짐에 따라 그것이 의미하는 바는 무엇인지, 그리고 그것이 과학, 노동, 우리의 삶, 그리고 거버넌스(지배구조)에 미칠 영향에 대해 어떻게 생각해야 하는지를 다룰 것입니다. 이를 논의하기 위해 샘 알트만 CEO, 조쉬 아치암 수석 미래학자, 그리고 아드리앙 에코페 선임 연구원과 함께합니다.
시작해보죠. 샘, 오늘 아침 우리가 발표한 '블루프린트(청사진)' 문서에는 '초지능(Superintelligence)'에 대한 이야기가 많이 담겨 있습니다. 제 마음에 드는 가장 큰 질문은 "왜 지금 이 이야기를 하는가?"입니다. 그리고 내부자로서 세상 사람들이 꼭 알았으면 하는 점이 있다면 무엇인가요?
샘 알트만: 가장 큰 이유는 단순히 진보의 속도가 계속해서 가속화되고 있기 때문입니다. 우리는 그 시점에 매우 가까워졌다고 믿습니다. 이것은 일회성 이벤트가 아닐 것입니다. 향후 몇 년에 걸쳐 세상에 중요한 방식으로 영향을 미칠 강력한 모델들이 등장할 것입니다.
이 모델들을 연구하는 연구진들이 놀라운 통찰을 바탕으로 이 아이디어들을 정리해 주었습니다. 이것은 세상이 토론을 시작하도록 돕기 위한 '초기 아이디어'입니다. 세상이 이 문제들을 치열하게 토론하면서 훨씬 더 나은 아이디어에 도달할 것이라 확신합니다. 우리 앞에는 강력한 파이프라인(기술 개발 과정)이 놓여 있습니다. 물론 우리가 틀릴 수도 있고, 벽에 부딪힐 수도 있으며, 우리는 불완전합니다. 하지만 우리가 목격하고 있는 것을 감안할 때, 우리는 아주 곧 '극도로 유능한 모델'이 존재하는 세상에 진입할 것으로 예상합니다.
이것은 경제, 우리가 사는 방식, 우리가 할 수 있는 일에 엄청난 영향을 미칠 것입니다. 제가 세상이 여러 번의 전환기를 겪는 것을 지켜보며 관찰한 한 가지는, 대중, 리더, 정치 시스템이 실제로 결정을 내려야 하기 전에 아이디어를 토론할 시간이 많을수록 좋은 결정을 내릴 가능성이 높아진다는 것입니다.
크리스 니콜슨: 네, 맞습니다. 다가올 미래를 보고 대중적인 토론의 큰 주제가 되기 전에 지금 시작하는 것이 중요하다는 말씀이군요. 토론과 관련해서, 아드리앙 연구원님은 이 과정의 아주 초기부터 정책 전문가들과 함께 일했습니다. 연구 그룹 전체에게 이 경험은 어땠나요?
아드리앙 에코페: 정말 흥미로운 경험이었습니다. 정책 문서 작업에 적극적으로 참여한 것은 이번이 처음이었거든요. 솔직히 말하면 좀 겸손해지는 경험이기도 했습니다. 연구자로서 우리는 종종 "이 기술의 경제적 영향을 생각해야 해"라거나 "안전 정책을 고민해야 해"와 같은 추상적인 아이디어만 가질 때가 있습니다. 하지만 실제로 펜을 들고 동료 연구자들과 토론할 구체적인 정책 아이디어를 구상하는 것은 완전히 다른 차원의 일입니다.
이 청사진이 미래 지향적인 문서인 만큼, 매일 이 기술을 다루고, 시스템을 구축하고, 안전 스택이 어떻게 작동하는지 알며, 발전의 속도를 직접 목격하는 사람들의 참여가 필수적이었습니다.
지난 몇 달간의 작업 과정에서 기억에 남는 것이 있습니다. 많은 연구자들이 '자신이 직접 코드를 짜던 방식'에서 'AI가 대부분의 코드를 작성하게 하는 방식'으로 전환을 겪었습니다. 이 경험은 연구자들에게 "이 기술은 현실이고, 매우 중요하며, 대중이 미처 보지 못하는 속도로 빠르게 움직이고 있다"는 강렬한 긴급성을 심어주었습니다. '왜 지금인가?'라는 질문에 대한 답도 바로 우리가 그 긴급성을 느끼고 있기 때문입니다.
제2장: 코로나19 초기 상황과의 소름 돋는 평행이론
샘 알트만: 이 긴급성과 관련해서 짧은 이야기 하나 해도 될까요? 아마 2020년 1월 말에서 2월 초쯤이었을 겁니다. 세상의 다른 사람들이 신경 쓰기 전에 OpenAI 연구원들이 코로나19(COVID-19)에 집착하기 시작했던 때였죠. 우리는 매일 그 이야기만 했고, 숫자를 확인하며 "이건 큰일이 날 거다"라고 확신했습니다.
우리는 재택근무를 계획하고 있었는데, 당시 어떤 기사가 우리를 조롱하기도 했습니다. "OpenAI에 있는 미친 사람들이 문손잡이에 구리를 발라놨다"고요. 우리는 셧다운(봉쇄)이 일어날 것이라 가정하고 준비하고 있었지만, 세상은 전혀 주목하지 않았습니다.
어떤 이유에서인지, 기하급수적 성장(Exponential growth)을 다루는 일을 하다 보면 이런 변화를 더 잘 이해하게 됩니다. 그래서 우리는 일종의 '준비된 집단'이었던 것 같아요.
어느 몹시 추운 밤이었습니다. 저는 당시 미션 디스트릭트에 살고 있었는데, "이제 한동안 집에 갇혀 지내겠구나. 마지막으로 산책이나 하자"라고 생각했죠. 추운 밤거리를 몇 시간 동안 걸으며, 식당과 바 창문 너머로 사람들이 서로의 얼굴을 마주 보고 숨을 쉬며 떠드는 모습을 지켜봤습니다. 저 혼자 마스크를 쓰고 미친 사람처럼 보였죠. 거리에 마스크를 쓴 다른 남자가 딱 한 명 있었고, 우리는 서로 고개를 끄덕였습니다. 그 외에는 모든 것이 너무나 '정상적인 일상'처럼 보였습니다.
그런데 지금, 이 순간 제가 정확히 그때와 같은 강렬한 감정을 다시 느끼고 있습니다. 지금은 엄청난 변화가 일어나는 시기입니다. 변화는 이미 일어났습니다. AI 모델들은 이미 어떤 임계점에 도달했어요. 단지 사회가 아직 그것을 소화하지 못했을 뿐입니다. 우리는 그것을 너무나 분명하게 보고 있습니다. 우리는 세상 사람들에게 "이런 일이 일어날 것입니다"라고 말하려고 노력하고 있습니다. 이 사실을 전달하는 것은 어렵지만, 지금의 기분은 마치 코로나 초기 그 텅 빈 거리를 다시 걷고 있는 것과 같습니다.
제3장: 과학의 발전과 낙관적인 미래 (Upsides)
크리스 니콜슨: 정말 흥미롭습니다. 샘, 당신은 AI가 가져올 긍정적인 측면, 특히 과학을 통한 도약에 대해 많이 말씀하셨죠. 코로나 때의 두려움과 대비해서, 파이프라인에 있는 엄청나게 긍정적인 것들은 무엇인가요?
샘 알트만: 긍정적인 측면은 너무나 압도적이어서 우리는 이 부분에 대해 훨씬 더 많이 이야기해야 합니다. 과학을 예로 들어보죠.
만약 우리가 10년 치 과학적 진보를 단 1년 만에 달성할 수 있다면? 우리가 수많은 질병을 치료하고, 개인 맞춤형 의학을 만들어내고, 저렴하고 안전한 에너지를 생산할 신소재를 발견할 수 있다면 어떨까요?
스타트업 아이디어가 있는 사람이라면 누구나 AI가 그것을 구현하게 하고, 원하는 소프트웨어를 작성하게 하며, 자신에게 가장 재미있는 맞춤형 비디오 게임을 만들 수 있는 세상이 온다면요? 이 모든 것은 정말 경이로운 일입니다.
우리가 긴급하게 청사진을 발표하는 이유 중 하나는 다가올 부정적인 영향들을 완화(mitigate)해야 하기 때문입니다. 저는 본성상 낙관적인 사람이지만, 이 기술의 이점은 우리 앞의 선택지와 우리가 할 수 있는 일의 범위를 완전히 바꿔놓습니다. 연구원들이 작성한 청사진을 처음 읽었을 때 제 첫 반응은 "정말 멋지다. 하지만 우리가 이런 일들을 이렇게 신빙성 있게 이야기할 수 있다는 것 자체가 조금 미친 것 같다"는 것이었습니다.
만약 AI가 우리가 생각하는 것만큼 뛰어나다면, 그리고 이 모든 멋진 일들이 일어난다면, 우리는 잠재적인 부작용을 완화할 수 있는 놀라운 새로운 도구 역시 손에 넣게 되는 것입니다.
크리스 니콜슨: 모두를 위한 도구군요. 조쉬, 사람들의 일하고 배우고 사회에 참여하는 방식을 바꾸는 이 '사회적 인프라'에 대해 묻고 싶습니다. 사회가 이를 준비하도록 도울 책임이 우리와 기관들에게 어느 정도 있다고 보시나요?
조쉬 아치암: 이 문제는 결국 '모두를 위한 광범위한 혜택'으로 귀결됩니다. 오랫동안 우리 사회는 모든 사람이 식량, 주거, 전기, 의료를 누릴 수 있기를 열망해 왔습니다. 모든 사람이 삶에서 가장 중요한 것에 집중할 수 있도록 이 필수재들을 제공하는 방향으로 한 걸음 나아가기를 원했죠.
하지만 우리는 수없이 들었습니다. "사실 그건 불가능해. 너무 비싸. 비용을 댈 방법이 없어. 아이디어는 좋지만 사회에 너무 큰 부담이야."라고요.
저는 AI와 초지능이 그 모든 것을 예전에는 불가능했던 훨씬 낮은 비용으로 실현할 수 있는 자유를 열어줄 것이라고 생각합니다. 따라서 이 기술을 책임지는 우리 같은 사람들은 그 이점을 실제로 완전히 실현해야 할 특별한 책임이 있습니다. 단지 극소수의 부유층만이 아니라 노동자, 중산층, 저소득 국가의 사람들을 돕는 정책과 시스템을 구축하는 데 동참해야 합니다. 저는 이것이 핵심 책임이라고 생각하며, 그 가능성에 매우 기대하고 있습니다.
물론 다운사이드 리스크(부정적 위험)도 매우 심각하며, 시스템적인 충격이 발생할 수 있습니다. 우리는 그것에 대해 솔직하게 직시하고 사려 깊게 준비해야 합니다.
제4장: 위험에 대응하는 다층적 복원력(Resilience)
크리스 니콜슨: 복원력(Resilience)에 대한 이야기로 넘어가 보죠. 문서와 여러분의 대화를 보면, 여러분은 복원력을 여러 층(layers)으로 생각하는 것 같습니다. AI가 출시되기 전의 준비뿐만 아니라 출시 후의 대응과 사회의 대비 태세까지 포함해서요. 각자 복원력에 대해 어떻게 생각하시나요? 아드리앙 먼저 부탁드립니다.
아드리앙 에코페: 전통적인 안전(Safety) 개념과 구분을 지어볼 수 있습니다. 고전적으로 우리는 안전 평가 모델을 실행하고 완화 조치를 구현하는 것에 집중했습니다. 이것은 매우 중요한 방어 계층이며 계속 확장해야 합니다.
하지만 동시에 사회는 '안전 테스트를 덜 거친 행위자(actors)'가 등장할 가능성에 대비해야 합니다. 그런 상황이 발생하면 사회는 AI 위험에 대해 어떻게 복원력을 가질 수 있을까요? 안전 테스트를 했음에도 불구하고 사고가 나거나 아차 사고(near miss)가 발생할 수 있습니다.
청사진에서 우리는 항공 산업의 모델을 본뜬 '사고 보고 시스템'에 대해 이야기합니다. 아주 사소한 사고라도 데이터베이스에 보고되어 모든 회사가 "아, 이것이 위험 요소이고 이렇게 완화할 수 있구나"라고 알 수 있게 하는 것이죠. 이것은 사회 전반적 수준에서 일어날 수 있는 일입니다.
또 다른 하나는 리스크에 대항하여 '방어'하는 것입니다. 현재 AI 모델은 코딩을 훨씬 더 잘합니다. 이는 곧 사이버 공격을 돕는 기능이 될 수도 있음을 의미합니다. 복원력의 핵심은 AI를 사용해 우리의 소프트웨어 시스템을 더 안전하게 방어하는 것입니다.
샘 알트만: 과거의 '고전적 AI 안전성'에 대한 생각은 "세상에 아주 소수의 AI만 존재할 것이니, 그 AI들이 나쁜 짓을 하지 않도록 정렬(alignment)만 잘하면 세상은 안전할 것이다"라는 것이었습니다.
하지만 지금의 그림은 훨씬 더 안정적이면서도 복잡합니다. 앞으로 세상에는 수많은 AI가 존재할 것입니다. 단지 특정 기업 하나가 "우리 시스템은 나쁜 짓을 절대 안 해"라고 말하는 것만으로는 충분하지 않습니다. 사회 전반에 걸친 '창발적 대응(emergent response)'이 필요합니다.
예를 들어, 사이버 보안은 엄청난 문제가 될 것입니다. AI는 소프트웨어의 취약점을 찾는 데 믿을 수 없을 정도로 능숙해질 것이고, 우리는 기존 소프트웨어가 생각보다 훨씬 취약하다는 것을 깨닫게 될 것입니다. 특정 기업이 모델의 남용을 막는다 해도, 코딩을 잘하는 오픈소스 모델들이 곧 등장할 것입니다.
따라서 세상은 방어를 위해 이 모델들을 사용해야 합니다. 신뢰할 수 있는 방어자에게 먼저 접근 권한을 주고(차등적 접근), 소프트웨어를 방어하는 기업들에게 권한을 부여해야 합니다. 누군가가 바이러스나 악성 코드를 공격용으로 사용한다면, 우리는 탐지 시스템, 신속 대응 치료법 등 세상을 보호할 방어막(defense shields) 구축을 위해 사회의 창발적 마법(emergent magic)을 발휘해야 합니다.
제5장: 새로운 시대의 인프라와 제도의 등장
크리스 니콜슨: 조쉬, 당신은 기술적 변화가 항상 새로운 제도와 민주적 메커니즘을 낳았다고 말씀하셨죠. 초지능에 대한 집단적 대응으로서 어떤 새로운 제도가 등장해야 한다고 보시나요?
조쉬 아치암: 복원력의 관점에서 보면, 우리가 우려하는 많은 문제들(공급망 불안정, 민주주의 위협 등)은 AI가 있든 없든 이미 세상에 존재하는 취약점들입니다. AI는 그 대응의 시급성을 높일 뿐이죠.
코로나 사태 때 우리는 우리 사회가 식량과 상품을 공급하는 '공급망'에 얼마나 깊이 의존하고 있는지 뼈저리게 깨달았습니다. 또한, 민주주의를 위협하는 부적절한 사회적 영향력에 대해서도 논의해 왔습니다. AI는 이런 취약점들을 더 공격하기 쉽게 만들 수 있습니다.
하지만 저는 역으로 AI를 활용해 이러한 취약성을 바로잡을 새로운 기관과 국가 역량(state capacity)을 구축할 가능성에 매우 흥분됩니다. 우리는 과거에 불가능했던 방식으로 취약점을 체계적으로 식별하고, 폐쇄하며, 공격자의 공격 비용을 기하급수적으로 높일 수 있습니다. 사이버나 바이오 분야에서 우리는 거대한 '방어자 생태계'를 구축하여 공격을 시도할 인센티브 자체를 없앨 수 있습니다. 특히 오늘날 비용 문제로 취약한 '식품 공급망'에 대한 바이오 리스크를 AI를 통해 대규모로 안전하게 만들 수 있습니다.
제6장: 일의 미래와 민주화된 스타트업 생태계
크리스 니콜슨: 많은 사람들에게 일의 형태가 어떻게 변하고, 가치가 어디로 이동할 것인가 하는 문제는 가장 큰 관심사입니다. AI 경제에서 사람들은 어떻게 가치를 창출하게 될까요?
조쉬 아치암: 사람들은 자신의 '에이전시(주체성)'를 발휘할 기회를 훨씬 더 많이 갖게 될 것입니다. 당신에게 전문 지식이 전혀 없는 분야라 하더라도, 비즈니스의 모든 기능을 처리해 주는 'AI 팀'의 지원을 받아 새로운 비즈니스를 시작할 수 있다고 상상해 보세요. 사람들에게 이전보다 더 많은 일을 할 수 있는 도구와 권한을 부여할 때 경제는 근본적으로 변화합니다.
샘 알트만: 저 역시 이 부분에 집착하고 있습니다. 정확히 어떤 모습일지는 모르겠지만, 단 한 명이나 아주 소수의 팀이 엄청나게 빠른 속도로 완벽한 스타트업을 만들어내는 개념에는 아주 깊고 중요한 의미가 담겨 있습니다.
역사적으로 우리 산업에서 스타트업을 시작하는 데 드는 마찰 비용(진입 장벽)이 크게 낮아질 때마다 놀라운 일들이 일어났습니다. 예를 들어, 과거에 AWS(클라우드 컴퓨팅)가 등장했을 때, 소규모 스타트업은 더 이상 서버 랙을 옷장에 우겨넣고 직접 관리하는 미친 짓을 할 필요가 없게 되었습니다. 그것은 소수의 인원이 할 수 있는 일의 범위를 엄청나게 확장시켰죠.
지금 다가오는 변화는 그보다 훨씬 거대합니다. 저는 "2~3명의 인원과 엄청난 수의 GPU(그래픽 처리 장치)만으로 구성된 스타트업"이 어떤 모습일지 정말 보고 싶습니다. 그것은 누가 스타트업을 시작할 수 있는지를 진정으로 민주화할 것입니다.
제7장: 접근성, 컴퓨팅 인프라, 그리고 에너지 자원
크리스 니콜슨: AI 접근성을 민주화하는 문제에 대해 어떻게 생각하시나요?
샘 알트만: 사람들이 AI의 민주화를 말할 때 대개 두 가지를 의미합니다. 하나는 누구나 자신의 삶을 개선할 수 있도록 AI를 사용할 수 있는 공유된 접근성(Shared access)이고, 다른 하나는 이 모든 것이 어디로 향할지에 대해 목소리를 낼 권리(Voice)입니다. 둘 다 매우 중요합니다.
우리가 이런 청사진을 발표하고 제품을 출시하는 이유는 사람들이 이 기술을 직접 만져보고 토론하지 않으면 입력(input)을 제공할 수 없기 때문입니다. 우리는 사람들의 의견을 경청하고 그것을 시스템에 반영할 방법을 마련해야 합니다.
접근성과 관련해서, 단순한 챗봇 서비스를 넘어 사람들이 스타트업을 시작하거나 과학적 발견을 할 수 있는 고사양의 '실제 가치 있는 컴퓨팅 서비스'를 대중의 손에 쥐여주어야 합니다.
이를 위해서는 인프라 문제가 해결되어야 합니다. 우리가 지능(intelligence)의 비용을 낮추고 능력을 높이는 임무를 계속 성공적으로 수행한다면, 컴퓨팅에 대한 수요는 사실상 '무제한(uncapped)'일 것입니다.
만약 우리가 충분한 인프라를 구축하지 못한다면, 권력과 컴퓨팅 자원의 미친 듯한 집중이 일어날 것입니다. 돈 많은 자들이 가격을 끝없이 올려버릴 테니까요. 장기적인 민주화 전략의 유일한 길은 "막대한 AI 인프라를 구축하고 모델을 엄청나게 저렴하고 강력하게 만들어서, 자원이 너무 풍부해지는 세상을 만드는 것"입니다.
역사를 돌이켜보면 인류 삶의 질을 높인 가장 위대한 일 중 하나는 전기(에너지) 가격을 엄청나게 낮춘 것이었습니다. 에너지는 삶의 질과 놀라울 정도로 깊은 상관관계를 갖습니다. 50년, 100년 전과 비교할 수 없을 정도로 에너지를 풍요롭고 저렴하게 만든 것이 전 세계를 끌어올렸습니다. 이제 우리는 AI에 대해서도 똑같은 일을 해야 합니다. 에너지를 무한정 공급하기 위해 혁신했듯, AI 컴퓨팅을 훨씬 저렴하게 만드는 방법을 혁신해야 합니다.
제8장: 경제 구조 개편 — 조세, 근로 시간, 보편적 혜택
아드리앙 에코페: 넓은 AI 접근성도 중요하지만, 스타트업을 시작하지 않을 평범한 사람들이 이 기술에 뒤처지지 않도록 하는 것도 중요합니다. AI는 경제의 구성을 자본(Capital)이나 AI가 대체하는 노동 쪽으로 이동시킬 것입니다.
청사진에서 우리는 AI가 지식 노동의 대부분을 수행하는 경제에 맞게 '세금 기반(Tax base)을 어떻게 현대화할 것인가'를 논의합니다. 소수의 사람들만 부를 독점하는 것이 아니라 창출된 번영을 어떻게 모두에게 분배할 수 있을까요? 주 32시간 근무제, 조세 제도 개편 등이 그 예시입니다.
중요한 것은 AI로 인한 혼란을 전제로 한 '반주기적 조치(countercyclical measures)'를 마련하는 것입니다. 이러한 조치들이 현재 세계에서는 파괴적일 수 있지만, 급격히 변하는 미래 세계에서는 혜택을 널리 분배하고 혼란을 상쇄할 필수적인 방어망이 될 것입니다.
조쉬 아치암: 노동자들을 AI 도입 과정에 참여시키는 것도 중요합니다. 솔직히 말해 방 안의 코끼리(불편한 진실)는 노동자들이 AI를 두려워하고 있다는 것입니다. "AI가 내 일자리를 대체하면 어떡하지?"라고 걱정하죠.
그래서 우리는 안전망(safety net)을 우선적으로 구축해야 합니다. 노조가 작업장에서 AI를 어떻게 사용할지 지혜롭게 결정하도록 권한을 부여하고, 과도한 감시 시스템을 견제하며, 소상공인이 AI를 활용할 수 있도록 'AI 리터러시(문해력)'를 적극 추진해야 합니다.
샘 알트만: 덧붙이자면, 많은 분들이 UBI(보편적 기본소득)를 말하지만 저는 '보편적 기본 컴퓨팅(Universal Basic Compute)'이라는 개념을 제시하고 싶습니다. 일자리가 줄어들 때 단순히 돈만 지급하는 것이 아니라, AI라는 강력한 자원에 접근할 수 있는 권리를 부여하는 것이 훨씬 낫습니다. 사람들은 자신이 무엇을 필요로 하는지 잘 알고 있고 창의적으로 도구를 활용할 줄 압니다. 만약 이 자원(컴퓨팅)에 대한 접근이 막힌다면 그것은 큰 재앙이 될 것입니다.
또한, AI가 세상 지적 노동의 대부분을 수행한다면, 전통적인 인간의 소득에 세금을 매기는 대신 그 '노동' 자체에 세금을 매기는 방법을 모색해야 할 것입니다. 새로운 형태의 실업 보험, 전환 지원이 필요하며, 궁극적으로 사람들이 이 모든 업사이드(상승 이익)에 대한 '소유권'을 가질 수 있는 새로운 방법을 고민해야 합니다.
자본주의는 노동과 자본 사이의 특정 균형에 의존하는데, 이것이 완전히 무너지면 현재의 시스템은 작동하지 않게 됩니다. 어떤 진화가 필요합니다. 물론 우리가 틀릴 수도 있습니다. 아무런 변화가 필요하지 않을 수도 있죠. 하지만 지금은 아이디어를 던지고 논의를 시작하기에 가장 적절한 시기입니다. 미국에서 직장과 연계된 혜택(의료보험 등)을 '이동 가능한 혜택(portable benefits)'으로 바꾸는 아이디어처럼 직장을 잃었다고 의료보험을 잃는 미친 일은 없어져야 합니다.
제9장: 타임라인과 파괴적 혁신의 창
크리스 니콜슨: 아드리앙, 연구 조직 내부자로서 당신은 이 진보의 가속을 목격하고 있습니다. 사회가 기술의 속도를 맞추기 위해 적응할 수 있는 시간(window)은 얼마나 남았다고 보시나요?
아드리앙 에코페: 정확한 숫자를 제시하긴 어렵고 불확실성이 큽니다. 하지만 청사진에서 우리는 2028년 또는 2028년 말에 '자동화된 AI 연구원(Automated AI Researcher)'이 등장할 것이라 논의했습니다.
샘 알트만 (정정하며): 공식 목표는 2028년 3월입니다. (March of 2028)
아드리앙 에코페: 아, 3월이군요. 감사합니다. 이 '자동화된 AI 연구원'은 스스로 AI 연구를 수행할 수 있는 모델입니다. 이 시점이 오면 우리는 일종의 '이중 충격(double whammy)'을 맞이하게 됩니다.
첫째, 명백하게 고도의 인지 작업(AI 연구)을 수행할 수 있는 모델이 등장하여 그 자체로 큰 혼란을 야기합니다.
둘째, 이 모델이 스스로 연구를 진행하며 AI의 진보를 다시 '가속화'할 것입니다.
따라서 그 시점 이후 1년 동안 얼마나 더 많은 진전이 이루어질지는 아무도 정확히 예측할 수 없습니다. 지금까지 이루어진 것과는 비교할 수 없는 속도일 것입니다. 이것이 우리가 대략적으로 이야기하고 있는 적응의 창(window)입니다.
제10장: Q&A - 인간의 자질, 헬스케어, 그리고 기술 채택의 순간
크리스 니콜슨 (관객 질문): AI가 유능해질수록 미래에 가장 중요해질 '인간의 자질'은 무엇일까요?
조쉬 아치암: 변치 않는 자질들이 있습니다. 인격(Character), 헌신, 노력, 그리고 무엇보다 '연민(Compassion)'이 중요해질 것입니다.
샘 알트만: 조쉬의 말에 전적으로 동의합니다. 창의성이나 타인의 욕구를 이해하는 능력도 필수적입니다. 저는 최근의 일화를 하나 공유하고 싶네요. 저는 얼마 전 로봇이 커피를 만들어주는 '로봇 카페'에 처음 가봤습니다. 엄청 기대했죠. 저는 평소 스타벅스 바리스타가 미소 지으며 인사하고 기분을 물어봐 주는 식의 교류를 신경 쓰지 않는다고 생각했습니다. 화면을 누르고 로봇이 완벽한 커피를 만들어주면 그만이라고 여겼죠.
그런데 막상 가보니 너무나 실망스럽고 불만족스러운 경험이었습니다. 저는 속으로 "아, 나는 이런 걸 원하지 않아"라고 느꼈습니다. 저는 그 미소와 짧은 교류를 원했던 겁니다. 인간의 작은 상호작용은 정말 소중합니다.
아드리앙 에코페: 맞습니다. 청사진에도 나와 있듯이 "인간은 인간을 필요로 합니다." 기술 발전이 인간의 연결을 잃게 만들었다고 하지만, AI가 고도화되어 인간의 연결이 필요 없는 일들을 대체할수록, 사람들은 오히려 서로 간의 연결이 얼마나 중요한지 깊이 깨닫게 될 것입니다. 돌봄 경제(간호, 육아 등), 교육과 같이 인간의 유대가 필수적인 일들이 팽창할 것입니다. 당신이 '다른 사람에게 얼마나 좋은 사람인가'하는 점이 최고의 자질이 될 것입니다.
크리스 니콜슨 (관객 질문): 보육, 노인 돌봄, 헬스케어의 비용이 너무 비쌉니다. AI가 평범한 사람들에게 어떻게 접근성을 확대해 줄 수 있나요?
조쉬 아치암: 저는 AI가 최고 수준의 의료 서비스를 모두에게 제공할 가능성에 가장 흥분하고 있습니다. 많은 사람들이 보험 문제, 적절한 전문가를 찾는 문제로 의료 시스템을 표류하다 수년을 허비합니다. 의사와 간호사가 아무리 헌신적이어도 모든 환자에게 최고의 진료를 할 시간이 부족합니다. AI는 이 워크로드를 관리 가능하게 만들어 의사를 대체하는 것이 아니라, 의사가 진정한 환자 케어를 할 수 있도록 도울 것입니다.
샘 알트만: 제 경험을 말씀드리자면, 최근에 혈액 검사를 받았습니다. 큰 이상은 없었지만 수백 개의 항목 중 몇 개가 정상 범위를 살짝 벗어났죠. 의사는 "괜찮을 거다"라고 했지만, 저는 불안해서 ChatGPT에 결과를 입력해 봤습니다. 모델은 "괜찮습니다. 하지만 이런 상황이 발생한 것이니 이 영양제를 먹고 한 달 뒤에 다시 검사해 보세요"라고 상세하게 짚어주었습니다. 매우 복잡한 데이터임에도 즉시 정확한 답변을 얻는 놀라운 경험이었습니다. 이런 식의 변화가 헬스케어와 교육 전반에 일어날 것입니다. 비용을 획기적으로 낮출 수 있습니다.
크리스 니콜슨: 기술에 대한 대중의 인식과 '능력 과잉(Capability overhang)'에 대해 어떻게 생각하시나요? 사람들은 AI를 최대한 활용하지 않고 구시대의 방식에 체념한 듯 보입니다. 언제 이 인식이 바뀔까요?
샘 알트만: 제가 제일 좋아하는 순간이 있습니다. 소프트웨어 엔지니어 부모가 자신의 자녀가 코덱스(Codex, 코드 생성 AI)를 사용하는 모습을 지켜보는 순간입니다. 아이들은 기존 코딩의 한계나 '무엇이 어렵고 쉬운지'에 대한 선입견이 없습니다. 그냥 음성으로 자기가 원하는 비디오 게임을 설명합니다. 그러면 부모는 옆에서 "그렇게 하면 안 돌아갈 텐데..." 하다가 코드가 실제로 작동하는 것을 보고 충격을 받습니다.
"와, 내 아이는 이런 것이 그냥 당연하게 일어나는 세상에서 자라겠구나."
저조차도 안 될 거라 생각해서 시도조차 안 해볼 일들을 아이들은 해냅니다. 이렇듯 편견 없는 창의력이 곧 무기가 될 것입니다. 저는 조만간 AI 모델이 내 모든 이메일과 컴퓨터의 파편화된 아이디어를 스캔해서 "이런 걸 만들어보면 어때?"라고 역제안하는 놀라운 파트너가 될 것이라 확신합니다.
조쉬 아치암: 사람들이 AI의 속도를 오해하는 이유가 있습니다. 사람들은 몇 달에 한 번씩 모델을 확인해 봅니다. 그리고는 '기본 채팅 모델'만 써보고 기능의 최대치를 테스트하지 않습니다. 그러면서 "환각(할루시네이션)이 있네, 오류가 있네. 무슨 혁신이야?"라고 생각하죠. AI 발전의 타임스케일은 '주와 월' 단위인데, 사람들의 체크인 주기는 '반년'입니다. 이 시각차가 좁혀지고 사람들이 추론 모델의 진정한 능력을 목격하는 순간, 거대한 변화가 일어날 것입니다.
제11장: 마무리 및 향후 계획
크리스 니콜슨: 네, 시간이 다 된 것 같습니다. 오늘 함께해 주신 샘, 조쉬, 아드리앙 모두 감사합니다. 정말 멋진 대화였습니다.
샘 알트만: 정말 즐거운 시간이었습니다. 감사합니다.
크리스 니콜슨: 시청자 여러분, 오늘 논의된 아이디어들이 너무 야심 차게 들릴지 모릅니다. 사실 그렇게 들리도록 의도된 것도 있습니다. 우리는 이것이 매우 초기 단계이며 탐색적인 제안임을 잘 알고 있습니다. 이것은 최종 계획이 아니라 정책 입안자와 사회 구성원 모두가 참여하는 치열한 대화와 토론의 '출발점'으로 제공하는 것입니다.
OpenAI는 이 대화가 계속 이어지기를 원합니다. 새로운 이메일 계정(newindustrialpolicy@openai.com)을 통해 여러분의 피드백과 최고의 아이디어들을 보내주십시오. 또한 우리는 연구 지원을 위해 최대 10만 달러의 자금과 100만 달러의 API 크레딧을 지원하는 펠로우십 프로그램을 출범시킵니다. 다가오는 5월에는 워싱턴 DC에서 새로운 워크숍을 열어 심층 논의를 이어갈 예정입니다.
이 대화에 귀중한 시간과 생각을 보태어 주신 모든 분들께 다시 한번 감사드리며, 앞으로도 이 논의가 활발히 계속되기를 기대합니다. 감사합니다.