앤트로픽 CEO 다리오 아모데이 인터뷰 요약

Q1: 최근 AI가 화이트칼라 일자리의 절반을 없앨 수 있다고 경고하고, AI 기술에 대한 수출 통제를 요구하는 등 AI의 위험성에 대해 목소리를 높이고 계십니다. 일각에서는 당신을 '파멸론자(doomer)'라고 비판하는데요. 이런 행보의 배경은 무엇인가요?

A1: 저와 앤트로픽은 우리가 믿는 바를 솔직하게 이야기할 뿐입니다. 최근 저희의 목소리가 커진 이유는 AI 기술이 스케일링 법칙(Scaling Laws)에 따라 예측 가능하게, 그리고 기하급수적으로 발전하고 있기 때문입니다. 과거에는 간단한 문장도 만들기 어려웠던 AI가 이제는 똑똑한 대학생, 나아가 박사 수준의 능력을 보이고 있습니다.

기술 발전 속도가 빨라지면서, 그에 따른 국가 안보나 경제적 혼란 같은 중대한 문제들을 직면할 시점도 가까워지고 있습니다. 그래서 더 큰 목소리로 경고해야 할 책임감을 느끼는 것입니다.

그렇다고 제가 AI의 잠재력을 부정하는 것은 아닙니다. 저는 오히려 누구보다 AI의 긍정적인 힘을 믿으며, 그 혜택을 안전하게 누리기 위해 잠재적 위험을 관리해야 한다고 주장하는 것입니다. 제 아버지가 몇 년만 더 늦게 돌아가셨더라면 발전된 기술로 치료를 받으실 수 있었을 것이라는 생각도 합니다. 저는 이 기술의 혜택을 깊이 이해하고 있습니다.

Q2: 젠슨 황(Nvidia CEO) 같은 인물들은 '다리오가 자신만이 AI를 안전하게 만들 수 있다고 생각하며 산업을 통제하려 한다'고 비판합니다. 이에 대해 어떻게 생각하시나요?

A2: (단호하게) 그건 제가 들어본 것 중 가장 터무니없는 거짓말입니다. 저는 단 한 번도 그런 말을 한 적이 없습니다.

Q3: 다른 AI 리더들보다 더 짧은 AI 발전 시간표를 가지고 계신 것 같습니다. 이것이 최근 당신의 긴급한 행동들을 설명하는 것 같은데, 왜 그렇게 짧은 시간표를 가지고 있으며, 우리는 왜 그것을 믿어야 할까요?

A3: 먼저 'AGI(범용인공지능)'나 '초지능' 같은 용어들은 실체가 없는 마케팅 용어라고 생각하며, 저는 사용하지 않습니다. 중요한 것은 기하급수적인(exponential) 발전 속도입니다. AI 모델은 몇 달마다 더 나은 성능으로 발전하고 있으며, 이는 더 많은 컴퓨팅 파워, 데이터, 개선된 훈련 방식을 통해 이루어지고 있습니다.

저는 이 발전 추세를 막을 만한 뚜렷한 장애물을 보지 못했습니다. 물론 2~3년 내에 데이터나 컴퓨팅 자원의 한계로 발전이 더뎌질 가능성이 20~25% 정도는 있다고 봅니다. 하지만 그렇지 않다면, 기하급수적 발전의 특성상 우리는 변화를 과소평가하기 쉽습니다. 앤트로픽의 연간 매출이 매년 10배씩 성장하는 것만 봐도 이 기술의 폭발적인 성장을 알 수 있습니다. 이 속도를 직시하고 대비해야 합니다.

Q4: 업계에서는 스케일링에 따른 '수익 체감(diminishing returns)'을 이야기하는 사람들도 많습니다. 그들의 주장은 틀렸다고 보시나요?

A4: 네, 저희가 앤트로픽 내부에서 확인한 바로는, 아직 스케일링의 수익 체감 현상은 나타나지 않고 있습니다. 예를 들어, 코딩 능력의 경우 저희 모델은 새로운 버전이 나올 때마다 계속해서 실질적으로 향상되고 있습니다.

Q5: 많은 개발자들이 앤트로픽의 최신 모델을 사용하는 비용이 너무 비싸다고 불평하고 있습니다. 사업 모델에 문제가 있는 것은 아닌가요?

A5: 가격 책정은 복잡한 문제입니다. 우선 명확히 할 점은, 앤트로픽은 모델 운영으로 손해를 보고 있지 않다는 것입니다. 사람들이 말하는 손실은 대부분 다음 모델을 훈련시키는 데 들어가는 막대한 연구 개발 비용 때문입니다.

이것은 벤처 사업과 같습니다. 2023년에 1억 달러를 들여 만든 모델로 2024년에 2억 달러의 수익을 냈다면, 그 모델 자체는 수익성이 있는 것입니다. 하지만 2024년에 더 뛰어난 다음 모델을 만들기 위해 10억 달러를 투자했다면, 회사 전체적으로는 8억 달러의 손실을 기록하게 됩니다. 즉, 각 모델은 수익성이 있지만, 미래를 위한 투자 때문에 회사는 적자를 보는 구조입니다. 이 기하급수적인 투자는 결국 더 큰 비즈니스 기회로 돌아올 것이라고 믿습니다.

Q6: 오픈소스 모델이 결국 앤트로픽의 기술을 따라잡아 사업에 위협이 될 수 있다는 우려에 대해서는 어떻게 생각하시나요?

A6: 저는 AI 분야에서 오픈소스가 다른 소프트웨어 분야와는 다르게 작동한다고 봅니다. 일반적인 오픈소스는 소스 코드를 보고 많은 사람이 협력하여 개선할 수 있지만, AI 모델은 내부 가중치(weights)를 본다고 해서 쉽게 개선할 수 있는 구조가 아닙니다.

중요한 것은 오픈소스냐 아니냐가 아니라, '어떤 모델이 더 뛰어난가' 입니다. 우리는 현재 코딩 분야에서 특히 두각을 나타내고 있는데, 이는 저희가 더 나은 모델을 만들기 위한 핵심 기술과 인재를 보유하고 있기 때문입니다. 저희는 사업의 초점을 단순히 API를 제공하는 것을 넘어, 코딩, 금융, 법률, 바이오메디슨 등 실질적인 비즈니스 문제 해결에 맞추고 있습니다. 이러한 접근 방식이 모델을 더욱 가치 있게 만들고, 결국 소비자용 챗봇보다 더 큰 비즈니스 기회를 창출할 것이라고 확신합니다.

Q7: 무료이고 운영 비용도 저렴한 오픈소스 AI 모델과의 경쟁을 어떻게 생각하시나요?

A7: '오픈소스'라는 개념 자체가 핵심을 흐리는 'red herring'(사람들의 주의를 딴 데로 돌리는 것)이라고 생각합니다. 진짜 중요한 질문은 '어떤 모델이 우리가 하는 작업을 가장 잘 수행하는가'입니다. 오픈소스 모델도 결코 공짜가 아닙니다. 모델을 추론(inference) 모드로 실행하려면 비용이 들고, 누군가는 그 과정을 빠르고 효율적으로 만들어야 하기 때문입니다. 따라서 저는 경쟁의 축을 '오픈소스냐 아니냐'로 보는 것은 잘못된 접근이라고 봅니다.

Q8: 샌프란시스코에서 성장한 경험은 어땠나요?

A8: 제가 자랄 때만 해도 샌프란시스코는 지금처럼 젠트리피케이션이 진행되거나 테크 붐이 일기 전이었습니다. 솔직히 당시 저는 기술에 전혀 관심이 없었어요. 웹사이트를 만들거나 회사를 창업하는 건 지루하게 느껴졌죠. 저는 물리학이나 수학 같은 순수 과학에 더 끌렸고, 세상의 근본적인 진리를 발견하고 세상을 더 나은 곳으로 만들고 싶다는 생각이 강했습니다. 어떻게 보면 테크 붐의 한가운데에 있었지만, 전혀 신경 쓰지 않았던 셈입니다.

Q9: 유대인 어머니와 이탈리아인 아버지 밑에서 자랐는데, 부모님과의 관계는 어땠나요?

A9: 항상 부모님과 매우 가까운 사이였습니다. 부모님은 제게 무엇이 옳고 그른지에 대한 확고한 가치관과 세상을 더 나은 곳으로 만들어야 한다는 책임감을 심어주셨습니다. 여동생(다니엘라)과도 매우 가까웠는데, 그녀는 훗날 저와 함께 앤트로픽을 공동 창업하게 되었죠. 우리는 아주 어릴 때부터 언젠가 함께 일하고 싶다는 생각을 했습니다.

Q10: 아버님의 오랜 투병과 죽음이 삶에 어떤 영향을 미쳤나요?

A10: 아버지는 오랫동안 투병하시다 2006년에 돌아가셨습니다. 이 경험은 제 인생의 방향을 바꾼 결정적인 계기가 되었습니다. 원래 프린스턴 대학교에서 이론 물리학을 공부하고 싶었지만, 아버지의 투병을 겪으며 인간의 질병 문제를 해결하고 싶다는 생각에 생물학과 계산 신경과학으로 전공을 바꾸게 되었습니다. 아버지가 앓으셨던 병은 당시에는 거의 치료가 불가능했지만, 돌아가시고 불과 몇 년 후에 치료율이 50%에서 95%로 급등했습니다. 이 사실은 제게 '이런 문제를 해결하는 것이 얼마나 시급한가'에 대한 깊은 깨달음을 주었습니다.

Q11: 아버님의 경험이 AI 기술 개발에 있어 '임팩트'를 중시하고, 동시에 '안전성'을 강조하는 현재의 모습에 큰 영향을 준 것 같습니다. 하지만 일각에서는 당신을 AI의 위험성만 부풀리는 '파멸론자(doomer)'라고 비판하기도 합니다.

A11: 맞습니다. 그렇기 때문에 사람들이 저를 '파멸론자'라고 부를 때 정말 화가 납니다. 저는 그 누구보다 AI가 가져올 수 있는 엄청난 혜택과 그 이면의 중대한 이해관계를 깊이 이해하고 있습니다. 무조건 '가속'만을 외치는 사람들은 기술이 가진 인본주의적 가치를 제대로 이해하지 못한 채 그저 '아드레날린'에 취해 있는 것 같습니다.

저는 AI의 안전성과 역량 개발이 분리될 수 없다고 생각합니다. 이 둘은 매우 복잡하게 얽혀있습니다. 제가 직접 회사를 설립한 이유도 바로 이것입니다. 기술의 안전성, 배포 시점, 외부와의 소통 방식 등 조직 차원의 중요한 결정들을 신뢰할 수 있고 진정성 있는 리더십 아래에서 직접 통제하고 싶었기 때문입니다. 모두가 패배하는 '바닥을 향한 경쟁(race to the bottom)'이 아니라, 모두가 승리하는 '정상을 향한 경쟁(race to the top)'을 만들고 싶습니다.