[인터뷰 요약: AI 대타협 (The AI Grand Bargain)]

댄 커츠-펠런 (진행자):
최근 당신은 테디 콜린스와 함께 'AI 대타협(The AI Grand Bargain)'이라는 에세이를 기고했습니다. 또한 2020년에는 AI 경쟁에 대한 미국의 접근 방식이 잘못되었다는 글을 썼었는데, 당시 글이 지금의 상황을 상당히 정확하게 예측했습니다. 먼저 이번 에세이에서 지적한 핵심 내용부터 시작해보죠. AI가 과거의 핵무기나 우주 기술 같은 다른 전략 기술들과 근본적으로 다른 점은 무엇입니까?

벤 뷰캐넌 (AI 전문가):
가장 큰 차이점은 AI가 철저히 민간 주도로 개발되고 있다는 것입니다. 핵무기, 우주 기술, 초기 인터넷 등은 정부(주로 국방부)의 자금과 주도로 탄생했습니다. 하지만 현재의 딥러닝 혁명은 2012년 이후 전적으로 민간 기업의 자본과 연구실에서 이루어졌습니다. 이는 정부가 기술에 대한 이해도나 통제력을 과거만큼 갖지 못한다는 것을 의미하며, 민관 관계에 새로운 정책적 도전을 안겨줍니다.

댄:
당신은 에세이에서 미국의 AI 우위가 겉보기만큼 확고하지 않으며, 특히 중국과의 경쟁에서 위험할 수 있다고 경고했습니다. 어떤 점이 우려되는 건가요?

벤:
미국은 반도체 공급망, 인재, 자본 시장 등 '승리할 수 있는 패'를 모두 쥐고 있습니다. 하지만 이를 제대로 활용하지 못하면 중국에 따라잡힐 수 있습니다. 특히 전력(에너지) 공급과 인재 유치 정책에서 실패하거나, 중국에 대한 첨단 반도체 수출 통제가 느슨해진다면 우리의 우위는 침식될 것입니다.

댄:
중국의 스타트업 '딥시크(DeepSeek)'가 적은 비용으로 고성능 AI 모델을 개발해 화제가 되었습니다. 이것이 미국의 제재가 효과가 없다는 뜻인가요?

벤:
그렇지 않습니다. 딥시크의 기술력은 훌륭하지만, 그들 역시 (밀수나 우회를 통해 얻은) 미국산 칩(엔비디아 칩 등)을 사용해 모델을 훈련했습니다. 딥시크 CEO조차 가장 큰 제약이 '칩'이라고 인정했습니다. 이는 AI 성능이 투입된 컴퓨팅 파워(Compute)에 비례한다는 '스케일링 법칙'이 여전히 유효함을 보여줍니다. 우리가 수출 통제를 엄격히 집행한다면 중국은 컴퓨팅 파워 부족으로 한계에 부딪힐 것입니다.

댄:
AI 경쟁을 '경주(Race)'라고 표현하는 것에 대해 어떻게 생각하나요? 그리고 승리의 조건은 무엇입니까?

벤:
'경주'보다는 다면적인 '경쟁'이라고 봅니다. 크게 세 가지 영역이 있습니다.

1. 프런티어 경쟁: 누가 가장 똑똑한 AI 모델을 만드는가? (현재 미국이 우세)

2. 응용 경쟁: AI를 국방 및 국가 안보에 얼마나 잘 적용하는가? (미국 정부의 도입 속도가 느린 편이라 우려됨)

3. 확산 경쟁: 전 세계에 누구의 기술이 보급되는가? (중국이 아닌 미국의 모델이 글로벌 표준이 되게 해야 함)

댄:
에너지 문제가 AI 발전의 발목을 잡을 것이라고 강조했습니다. 구체적으로 어떤 상황인가요?

벤:
AI 모델이 거대해질수록 데이터센터를 돌릴 막대한 전력이 필요합니다. 중국은 매년 전력망 용량을 12%씩 늘리고 있는 반면, 미국은 0.1% 수준에 불과합니다. 미국이 원자력, 지열 등 청정에너지를 통해 기가와트급 전력을 확보하지 못하면, AI 발전 속도가 물리적 한계에 부딪힐 것입니다. 이것이 제가 가장 우려하는 부분입니다.

댄:
안보와 스파이 문제도 언급하셨는데요.

벤:
그렇습니다. AI 기술은 국가 안보에 직결되므로 중국은 반드시 기술 탈취를 시도할 것입니다. 민간 기업들은 개방적인 연구 문화를 가지고 있지만, 이제는 보안을 강화해야 합니다. 정부가 위협 정보를 제공하고 기업은 보안 수준을 높이는 협력이 필수적입니다.

댄:
그래서 당신이 제안하는 '대타협(Grand Bargain)'이란 무엇입니까?

벤:
정부와 기술 기업 간의 새로운 거래입니다.

• 정부의 역할: 기업이 필요로 하는 막대한 에너지 인프라 구축을 지원하고, 중국의 기술 탈취로부터 기업을 보호할 보안 정보를 제공하며, 중국에 대한 반도체 수출 통제를 유지해 미국 기업의 우위를 지켜줍니다.

• 기업의 역할: 개발된 최첨단 AI 기술을 국가 안보(국방, 정보 분석 등)에 적극적으로 제공하고, 기술 유출 방지를 위한 보안 기준을 준수하며, 안전한 AI 개발을 위한 가드레일을 따릅니다.

댄:
트럼프 행정부의 AI 정책은 바이든 행정부와 어떻게 다를 것으로 보시나요? 일부에서는 규제를 풀고 개발을 가속화하자는 목소리도 있는데요.

벤:
바이든 행정부는 수출 통제, 안전성 확보, 동맹과의 협력 등을 체계적으로 추진했습니다. 트럼프 측의 수사(rhetoric)는 '가속화'를 외치지만, 실제 행동(예: 청정에너지 프로젝트 취소, 칩 수출 통제 완화 가능성 등)은 오히려 미국의 AI 경쟁력을 해칠 수 있습니다. 특히 중국에 반도체 장비나 칩을 파는 것을 허용한다면, 우리가 가진 가장 강력한 레버리지를 잃게 될 것입니다.

댄:
마지막으로, 지난 10년 동안 이 분야를 연구하면서 가장 놀라웠던 점은 무엇입니까?

벤:
AI 기술의 발전 속도가 예상보다 훨씬 빠르고, 멈추지 않고 있다는 점입니다. 2020년에 세웠던 '컴퓨팅 파워가 AI 성능을 결정한다'는 가설이 지금도 100% 들어맞고 있습니다. 앞으로 몇 년 안에 우리는 상상 이상의 지능을 가진 AI를 보게 될 것입니다. 그렇기에 지금 우리가 논의하는 에너지 확보, 보안, 수출 통제 같은 정책들이 그 어느 때보다 중요합니다.

[AGI와 초지능에 대한 관점]

댄 커츠-펠런:
대중적인 논의에서 'AGI(인공범용지능)'나 '초지능'에 대한 논쟁이 뜨겁습니다. 당신은 이런 개념이 현재의 문제를 이해하는 데 유용한 방식이라고 보나요, 아니면 오히려 본질을 흐리는 방해물(distraction)이라고 보나요?

벤 뷰캐넌:
저는 개인적으로 'AGI'라는 용어를 별로 좋아하지 않습니다. 정의가 모호하기 때문입니다. 보통은 '인간만큼 모든 인지 작업을 수행하는 기계(AGI)'나 '인간보다 더 잘하는 기계(초지능)'로 정의하곤 하죠. 여기에 대해 두 가지 측면에서 말씀드리고 싶습니다.

첫째, 우리가 제안한 정책(에너지 확충, 보안 강화 등)을 지지하기 위해 굳이 AGI의 도래를 믿을 필요는 없습니다. 설령 AI 기술 발전이 내일 당장 멈춘다 해도, 이미 개발된 기술만으로도 국가 안보와 사이버 작전에는 엄청난 영향을 미칩니다. 따라서 AGI라는 개념에 동의하든 안 하든, 지금의 대비책은 필수적입니다.

둘째, 그럼에도 제 개인적인 견해로는 AI 발전이 예상을 뛰어넘는 속도로 가속화되고 있다는 점은 분명합니다.

• 스케일링 법칙(Scaling Laws): 투입하는 컴퓨팅 파워(칩의 양과 전력)를 늘릴수록 AI 성능이 비례해서 좋아진다는 법칙은 지난 수년 동안 12~13 자릿수(orders of magnitude) 규모로 커지는 동안에도 깨지지 않고 유지되었습니다.

• 자가 발전: 구글의 'AlphaEvolve' 사례처럼, 이제는 AI가 스스로 더 효율적인 AI 알고리즘을 찾아내는 단계에 이르렀습니다.

• 생각하는 시간(Thinking Time): 최근 모델들은 답변을 내놓기 전에 '더 오래 생각하는' 방식을 통해 성능을 비약적으로 높이고 있습니다(예: OpenAI의 o1 모델 등).

결론적으로, AGI라는 용어의 정의에 집착할 필요는 없지만, AI 시스템이 앞으로도 수학적으로 예측 가능한 수준에서 '심오할 정도로(profoundly)' 더 똑똑해질 것이라는 사실은 받아들여야 합니다. 그리고 그 발전의 핵심 동력은 여전히 컴퓨팅 파워입니다.