1부: 기하급수적 성장과 수면 아래의 압박

인터뷰어: 요즘 잠은 얼마나 자나요?

다리오 아모데이: 원래 잠을 아주 잘 자는 편은 아니었습니다. 요즘은 비정상적일 정도로 엄청난 압박 속에서 어떻게든 휴식을 취하고 잠을 청하는 법을 배우고 있습니다.

인터뷰어: 모든 것이 정말 빠르게 움직이고 있습니다. 그 중심에 서 있는 기분은 어떤가요?

다리오 아모데이: 마치 우주선을 타고 지구에서 우주 속으로 상대론적 속도로 가속하며 멀어지는 기분입니다. 특수 상대성 이론에 따르면 가속하는 우주선에서 잠을 자고 깨어나면 지구에서는 이틀이 지나 있죠. 하루 만에 이틀 치 변화를 감당해야 하는 겁니다. 그리고 다음 날 깨어나면 가속도가 더 붙어서 지구에선 사흘, 나흘이 지나 있습니다. 딱 그런 기분입니다.

인터뷰어: 아침에 눈을 떴을 때 무슨 일이 터져 있을지 몰라 매번 불안해하며 잠들진 않나요?

다리오 아모데이: 당장 해결해야 할 명확하고 실존하는 문제들이 산더미처럼 쌓여 있어서, 준비 작업을 하면서 동시에 그 문제들을 처리하느라 바쁩니다. 하지만 일어나지도 않은 일에 대해 편집증을 갖거나 걱정하는 건 생산적이지 않다고 봅니다. 역사적으로 엄청난 고압박 상황을 견뎌낸 인물들을 보면, 위험에 과잉 반응하지 않고 이성적으로 대응하는 법을 배웠습니다. '난 아무 걱정 없어' 하다가 갑자기 '세상에, 오늘 당장 패닉에 빠져야 해!'라며 요요처럼 왔다 갔다 하는 건 미성숙한 의사결정의 전형입니다. 성숙한 의사결정은 위험이 점점 커지고 있다는 걸 직시하되, 마치 수술을 집도하는 외과의사나 군사 작전을 수행하는 장교처럼 이성적이고 차분함을 유지하는 것입니다.

인터뷰어: 제 아들이 어제 저한테 "아빠, '클로드 코워크(Claude Cowork)' 계정 좀 써도 돼요?" 하길래 제가 "절대 안 돼, 내 토큰도 부족해"라고 했거든요. (웃음) 이제 소비자 영역에서도 클로드가 엄청난 기세를 보이고 있습니다. 원래 앤트로픽은 기업용(Enterprise) 회사에 더 집중하려고 했던 것 아닌가요?

다리오 아모데이: 맞습니다. 기업용 시장을 겨냥해 왔는데, 소비자 시장(B2C)에서도 우리가 큰 마케팅 노력을 기울이지 않았음에도 엄청나게 빠른 속도로 성장하고 있습니다.

인터뷰어: 당신은 현재 AI 우주의 중심에 서 있습니다. 그 느낌은 어떠한가요?

다리오 아모데이: 제 커리어 전체, 그리고 앤트로픽을 운영하면서 겪은 흥미로운 경험은 '매끄러운 기하급수 그래프(Smooth Exponential)'의 속성입니다. 기하급수적 성장의 경험이란 건 처음엔 아무 일도 안 일어나는 것 같다가, 작은 일들이 조금씩 생기더니 갑자기 '콰광' 하고 미친 듯이 치솟는 것입니다. 우리 회사의 규모나 매출, 가치 평가 그래프를 계속 지켜보면서 "아, 대략 이 시점쯤 되면 우리가 매출과 기업 가치 면에서 최고의 AI 회사가 되겠구나" 예상하긴 했습니다. 그리고 실제로 그렇게 되었죠. 그래프상의 매끄러운 선을 봐왔기 때문에 한편으로는 놀랍지 않지만, 또 다른 한편으로는 막상 현실로 닥치니 훨씬 더 생생하고 디테일해서 분명 놀랍기도 합니다. 우리는 그저 좋은 모델을 훈련하고, 좋은 제품을 만들고, 안전을 확보하며, 사람들을 도우면서도 기술의 사회적 리스크를 관리하는 본질적인 질문에 계속 집중하고 있습니다. 다만 훨씬 더 큰 현미경 아래에서 검증받고 있을 뿐이죠.

2부: 샌프란시스코에서의 성장과 오픈AI를 떠난 이유

인터뷰어: 샌프란시스코에서 자란 어린 시절은 어땠나요? 아버지는 가죽 공예가였고 어머니는 도서관에서 일하셨다고 들었는데, 그것이 가치관에 어떤 영향을 주었나요?

다리오 아모데이: 제 주변에서 첫 번째 인터넷 혁명(닷컴 버블)이 일어나고 있었는데, 솔직히 전 전혀 관심이 없었습니다. 오직 수학 문제를 풀고 종이에 뭔가를 끄적이며 우주를 이해하는 것, 그리고 SF 소설에만 빠져 있었습니다. 세상에 대한 호기심이 엄청났던 아이였습니다.

인터뷰어: 테크와 AI의 중심지인 이 도시(샌프란시스코)에서 자란 것이 세계관 형성에 기여한 바가 있습니까?

다리오 아모데이: 네, 이 동네 특유의 '비순응주의(Nonconformism)', '개인주의', 그리고 '조금 미쳐도 괜찮다'는 분위기가 저에게 확실히 묻어난 것 같습니다. 유럽이나 미국의 다른 지역만 가도 남들과 다르게 생각하거나 특이한 아이디어를 내면 이상한 사람 취급을 하잖아요. 실리콘밸리에 대해 비판할 점도 많지만, "전문가들이 모두 반대하더라도 너에게 정교한 비전과 세계관이 있다면 끝까지 밀고 나가라"고 장려하는 문화만큼은 정말 좋습니다. 실패할 수도 있겠지만, 만약 성공한다면 거대한 금광을 발견하는 롱테일(Long-tailed)의 기회가 주어지니까요.

인터뷰어: 2016년 당시 동생인 다니엘라 아모데이, 그리고 매제인 홀든 카노프스키(Open Philanthropy 프로젝트 리드)와 함께 셰어하우스에서 같이 살았다고 들었습니다. 그때는 주로 무슨 토론을 나눴나요?

다리오 아모데이: 당시 전 생명과학자(Biological Scientist)였습니다. 홀든이 초기 개발도상국 보건이나 바이오 연구 관련 프로젝트를 시작할 때, 어떤 분야가 유망하고 어떤 분야가 덜 유망한지 조언해 주곤 했습니다.

인터뷰어: 오픈AI(OpenAI)를 떠나기로 한 당신의 결정은 실리콘밸리의 전설이 되었습니다. 세간에 알려진 내러티브를 넘어, 진짜 구체적인 이슈와 이견은 무엇이었나요?

다리오 아모데이: 아주 단순하게 말씀드리겠습니다. 강력한 기술을 만들 때 앤트로픽을 포함한 모든 회사는 매일매일 이것이 맞는지 틀린지 알 수 없는 수많은 어려운 문제에 직면합니다. '안전(Safety)'에 대해서는 당연히 타당한 이견이 있을 수 있고, 실제로 오픈AI와도 그런 이견이 있었습니다. 하지만 단순한 이견 때문에 회사를 떠나지는 않습니다. 우리 회사 내부에서도 저와 다른 생각을 가진 사람들이 많으니까요.

"진짜 문제는 상대방을 신뢰할 수 없다고 느낄 때입니다. 그들의 가치관이 말하는 바와 다를 때, 정직하지 않다고 느낄 때, 처음에 말했던 목적을 위해 일하는 게 아니라고 느낄 때, 그리고 결정적으로 '불정직함(Dishonesty)'이라는 불안한 행동 패턴이 반복해서 보일 때입니다."

그런 상황에서는 회사와 계속 일하며 신뢰를 유지하기가 불가능합니다. 결국 비전이 다르고 신뢰할 수 없는 사람과 왜 소모적인 논쟁을 벌이겠습니까? 해결책은 심플합니다. 각자 제 갈 길을 가는 거죠. 저는 우리가 우리 방식대로 하고, 그들이 그들 방식대로 하는 이 상황에 완벽하게 평화를 느끼고 있습니다. 누가 시장에서 이기고, 누가 대중의 법정에서 승리하는지가 폭로성 드라마보다 훨씬 더 큰 목소리로 진실을 말해줄 것입니다. 우리는 우리가 생각하는 책임감 있는 방식으로 기술을 배포하는 모범을 보여줄 뿐입니다.

3부: AI 업계의 신뢰와 앤트로픽의 기업용(Enterprise) 베팅

인터뷰어: 인도 AI 서밋에서 당신과 샘 올트먼(오픈AI CEO)이 무대 위에서 악수나 손잡기를 거부하는 듯한 장면이 포착되어 화제가 되었습니다. 무슨 일이 있었던 건가요?

다리오 아모데이: 그 서밋이 진행상 극도로 무질서했습니다. 마지막 순간에 무대에 올라갔는데 서 있는 순서를 갑자기 바꿨고, 사진을 찍더니 뜬금없이 모두 손을 잡으라고 요구했습니다. (인도를 비하하는 건 아닙니다만) 정상들이 참여하는 이런 국제 서밋들은 원래 굉장히 혼란스럽습니다. 갑자기 나렌드라 모디 총리가 다 같이 손을 잡으라고 하니 벌어진 해프닝입니다.

인터뷰어: 하지만 다른 사람들은 다 손을 잡았잖아요. (웃음) 지금 샘 올트먼과 일론 머스크는 서로 소송 중이고, 당신도 샘을 신뢰하지 않는 것처럼 보입니다. 인류에게 가장 중요한 기술을 만드는 리더들이 무대 위에서 손 하나 못 잡는다면, 향후 AI로 인한 인류 실존적 리스크(Existential Risk)가 닥쳤을 때 서로 협력할 거라고 어떻게 믿을 수 있겠습니까?

다리오 아모데이: 이 기술을 만드는 사람들의 질(Quality)과 신뢰성에는 아주 큰 편차가 존재합니다. 하지만 '아무도 서로를 믿지 않는다'는 밈은 사실이 아닙니다. 일례로 저는 구글 제미나이(Gemini)를 만드는 데미스 허사비스(Demis Hassabis)를 15년 동안 알고 지냈습니다. 우리는 수많은 이슈에서 협력하고 있고, 구글로부터 컴퓨팅 자원을 구매하며, 안전에 대한 아이디어를 수시로 교환합니다.

제 관점은 이렇습니다. 업계에는 분명 더 신뢰할 수 있는 플레이어들이 있습니다. 앤트로픽 외부에도 제가 깊이 신뢰하는 이들이 있죠. 우리가 해야 할 일은 '신뢰할 수 있는 액터(Actor)들'이 뭉쳐서, 신뢰하기 어려운 액터들도 어쩔 수 없이 동일한 높은 수준의 안전 기준을 채택하게끔 판을 짜는 것입니다. 스스로는 올바른 행동을 안 하더라도, 업계의 과반이 올바른 방향으로 움직이면 나머지도 결국 마지못해 따라오게 되어 있습니다. 데미스와 제가 서로 영감을 주고받는 것처럼 긍정적인 '레이스 투 더 탑(Race to the top, 최고를 향한 경쟁)'을 유도하는 '당근'이 있다면, "저 친구들은 저렇게 올바르게 행동하는데 왜 너희는 안 하냐"며 압박을 느끼게 만드는 '채찍'도 있는 법입니다.

인터뷰어: 초기에 다른 회사들이 재미있고 화려한 소비자용 앱에 집중할 때, 앤트로픽은 '코딩'과 '기업용(Enterprise)' 시장에 올인하는 베팅을 했습니다. 현재 '클로드 코드(Claude Code)'와 '클로드 코워크'는 대성공을 거두었죠. 가치관에 따른 결정이었나요, 아니면 비즈니스적 결정이었나요?

다리오 아모데이: 회사를 지속하고 막대한 모델 개발 비용을 충당하려면 비즈니스 모델이 필수적이지만, "그 비즈니스 모델이 우리의 가치관을 방해하는가?"를 끊임없이 질문해야 합니다. 가치관과 근본적으로 충돌하는 비즈니스 모델을 고르면 결국 가치관을 배신하거나 시장에서 도태되는 딜레마(Catch-22)에 빠집니다.

우리는 소셜 미디어나 광고 기반의 소비자향 비즈니스가 광고 수익을 늘리기 위해 사용자의 몰입, 심지어 '중독' 유발을 목표로 삼는 것을 보았습니다. 반면 기업용(Enterprise) 모델은 AI의 긍정적인 잠재력을 고스란히 실현할 수 있는 무대입니다. 바이오·제약 기업과 협력해 불치병을 치료하고, 에너지를 효율화하며, 교육을 혁신하고, 경제 성장을 이끄는 일은 모두 기업용 영역에 속합니다. 또한 기업 고객들은 단기적인 자극보다는 장기적인 '신뢰 관계'를 무엇보다 중요하게 여깁니다. 이는 안전하고 긍정적으로 모델을 배포하겠다는 우리의 가치관과 완벽하게 시너지 효과를 냅니다.

4부: 소프트웨어 시장의 대격변 'SaaSpocalypse'와 컴퓨팅 전쟁

인터뷰어: 개발자들은 오후 반나절이면 클로드에서 챗GPT나 제미나이로 갈아탈 수 있습니다. 이 바닥에서 장기적인 독점이나 리드를 유지하는 게 정말 가능합니까? 경쟁사가 앤트로픽의 기술을 복제하는 데 얼마나 걸릴까요?

다리오 아모데이: 현재로서는 '모델의 퀄리티'가 가장 중요하며, 우리는 그 퀄리티 면에서 경쟁사들을 크게 앞서 있습니다. 전환 장벽이 낮다고 해서 유저들이 쉽게 이탈할 거라 생각하며 안주한 적은 단 한 번도 없습니다. 계속해서 더 뛰어난 모델과 제품을 내놓는 것만이 정답입니다. 적어도 인터뷰를 녹화하는 이 시점까지 우리의 성장 곡선은 꺾이기는커녕 오히려 가팔라지고 있습니다.

인터뷰어: 클로드 코워크가 출시된 직후, 하룻밤 사이에 기존 전통 소프트웨어 기업들의 시가총액 2,850억 달러(한화 약 380조 원)가 증발했습니다. 시장에서는 이를 'SaaS포칼립스(SaaSpocalypse, SaaS+아포칼립스)'라 부르더군요. AI가 이 속도로 발전하면 기존 소프트웨어는 얼마나, 그리고 어떻게 대체될까요?

다리오 아모데이: 정확한 예측은 불가능하지만 몇 가지 확실한 지점이 있습니다. 기존 소프트웨어 기업들의 '도랑(Moat, 진입장벽)' 중 일부는 사라지고 일부는 살아남을 것입니다.

"만약 당신 회사의 진입장벽이 '남들이 짜지 못하는 복잡한 소프트웨어 코드를 빠르게 작성하는 능력'이었다면, 장담컨대 그 장벽은 무너질 것입니다. 더 이상 방어할 수 없습니다."

하지만 '고객과의 깊은 신뢰 관계', '도메인 특화 지식(Know-how)' 등의 장벽은 더욱 중요해질 것입니다. 소프트웨어 산업 전체의 파이($Pie$)는 AI로 인해 10배 이상 커질 수 있으므로 전체 시장은 더 커지겠지만, 과거의 성공 방정식에 안주하고 고개를 모래에 파묻은 채 적응하지 않는 기업들은 아주 끔찍한 패배를 맛보게 될 것입니다.

인터뷰어: 앤트로픽의 기업가치가 오픈AI를 넘어서서 5년 차 스타트업으로서는 경이적인 '1조 달러(약 1,300조 원)'에 육박한다는 보도가 있었습니다. 비즈니스 펀더멘털이 좋고 효율적으로 운영한다면서 왜 이렇게 천문학적인 돈을 계속 투자받아야 합니까?

다리오 아모데이: 컴퓨팅 인프라(Compute)의 확장 속도가 엄청나게 빠르기 때문입니다. 정확한 수치를 밝힐 수는 없지만 매년 3~4배, 혹은 그 이상으로 인프라 규모가 늘어납니다. 대규모 펀딩은 이 거대한 미래의 불확실성에 대비한 강력한 버퍼(Buffer) 역할을 해줍니다. 비즈니스 펀더멘털의 탄탄함과 대규모 자금 조달은 전혀 모순되지 않으며 오히려 상호 보완적입니다.

인터뷰어: 최근 서버 과부하, 잦은 에러, 토큰 부족 현상 등으로 사용자들이 불만을 제기하고 있습니다. 당신은 예전에 다른 회사들이 인프라를 무계획적으로 '욜로(YOLO)'식으로 확장한다고 비판한 적이 있는데, 정작 앤트로픽이 컴퓨팅 자원 부족으로 경쟁에서 뒤처져 허덕이고 있는 건 아닌가요?

다리오 아모데이: 마케팅용 컴퓨팅 수치와 실제 가용량은 다릅니다. 우리는 매년 10배(10X)의 컴퓨팅 수요 성장을 예상하고 이성적으로 계획을 세웠습니다. 그런데 2026년 1분기 기준, 연간 환산이 아니라 '단 한 분기' 만에 매출이 3배 이상 폭증했습니다. 3의 4제곱은 81이므로, 연간으로 환산하면 무려 80배(80X)가 넘는 폭발적인 성장세입니다. 세상에 어떤 이성적인 기업이 연간 80배 성장을 미리 상정하고 인프라를 깔아두겠습니까? 만약 그랬다가 10배 성장에 그치면 회사는 파산합니다. 지금 겪는 일시적인 서버 병목은 우리가 예측할 수 없었던 로컬 영역에서의 초대형 폭발 때문이며, 구글·아마존과의 거대한 컴퓨팅 계약을 통해 한두 달 내로 유동적으로 해결될 문제입니다.

5부: 일자리 소멸 논란과 사회적 파장

인터뷰어: 1년 전 당신은 "AI가 1~5년 안에 화이트칼라 초급 일자리의 절반(50%)을 날려버릴 수 있다"고 경고했습니다. AI의 발전 속도가 더 빨라진 지금, 그 수치는 더 높아졌나요?

다리오 아모데이: 소셜 미디어가 제 발언의 앞뒤 맥락을 다 자르고 "곧 파멸이 온다"는 3초짜리 자극적인 클립으로만 소비하는 경향이 있는데, 저는 극도로 혐오합니다. 제 진짜 메시지는 파멸론이 아니라, "이 정도 규모의 거대한 변화와 혼란이 닥쳐오고 있으니 국가와 기업이 토큰세(Token Tax) 도입, 거시경제 정책 수정 등 적극적인 대응책을 지금부터 정교하게 마련해야 한다"는 경고였습니다. 물론 일자리 혼란에 대한 우려의 크기는 지금도 여전히 큽니다.

단기적으로는 AI가 인간을 더 생산적이게 만드는 '레버리지 효과'를 주지만, 자동화율이 90%를 넘어 100%에 수렴하게 되면 결국 인간에게 다른 역할을 찾아주어야 하는 '매칭 문제(Matching Problem)'가 발생합니다. 예를 들어 앤트로픽 내부의 소프트웨어 엔지니어들도 변화를 겪고 있습니다. 순수 코딩은 AI가 거의 전담하는 대신, 엔지니어들은 기술적 역량과 고객 소통 능력을 결합한 '솔루션 아키텍트(Solutions Architect)' 같은 새로운 고부가가치 역할로 이동하고 있습니다. 일자리의 파괴와 대격변의 규모는 분명히 거대할 것입니다. 하지만 파이 전체가 커지면서 인간 관계 중심의 직업이나 물리적인 세계(제조, 건축 등)의 일자리 등 인간만이 할 수 있는 영역으로의 재조정이 일어날 것입니다. 우리는 기업 고객들에게 인력을 감축하는 '비용 절감' 대신, 동일한 인원으로 더 많은 가치를 창출하는 '양수합산(Positive-sum)' 방식을 택하라고 강력히 권고하고 있습니다.

6부: 미 국방부(Pentagon) 계약과 AI 전쟁의 윤리

인터뷰어: 앤트로픽은 최근 미 국방부(DoD)와 기밀 네트워크 운영 계약을 체결했습니다. 대학 시절 반전(Anti-war) 성향이 강했던 당신이 군사 작전에 AI를 지원하는 계약을 맺은 이유는 무엇인가요?

다리오 아모데이: 러시아의 우크라이나 침공, 중국의 대만 침공 위협을 보며 권위주의 진영의 부활과 공격성을 심각하게 경고하지 않을 수 없었습니다. 민주주의 진영을 방어해야 합니다. 중국과 러시아가 AI로 모든 정보를 분석하고 공격하는데 우리는 손 놓고 방어조차 못 하는 세상은 끔찍한 dystopia입니다. 돈 때문에 이 골치 아픈 정부 네트워크 작업을 자처한 것이 아닙니다. 우리는 애국심과 책임감을 가지고 참여했습니다.

"다만, 민주주의의 가치 자체를 훼손하는 방식의 기술 사용에는 단호한 '레드라인(Red Lines)'을 그어야 합니다. 우리의 두 가지 절대적인 레드라인은 '대규모 대중 감시(Mass Surveillance)'와 '완전 자율형 살상 무기(Fully Autonomous Weapons)'입니다. 민주주의 진영이 이 가치들을 어기면서까지 전쟁에서 이기는 것은 아무런 의미가 없습니다."

인터뷰어: 팰런티어(Palantir)의 '메이븐 스마트 시스템(Maven Smart System)'을 통해 클로드 AI가 가자 지구 전투나 이란 내 군사 표적 타격에 활용되었다는 보도가 있었습니다. 실제로 미군의 오폭으로 어린이들을 포함한 150명 이상의 민간인이 사망한 사건에 클로드가 일조한 것인가요?

다리오 아모데이: 우리는 군 기밀 작전의 디테일한 활용 데이터를 가지고 있지 않습니다. 전쟁에서 발생하는 오폭과 실책은 정말 비극적이고 끔찍한 일입니다. 하지만 이 사건은 우리의 레드라인을 위반한 케이스가 아닙니다. 이 작전에서는 클로드가 정보를 보조했을 뿐, 최종 타격 결정은 '인간(Human)'이 내렸습니다.

만약 우리가 그토록 반대하고 싸워온 '완전 자율형 무기'였다면, 인간은 개입하지도 못한 채 AI가 스스로 판단해 미사일을 쐈을 것입니다. 우리는 그런 최악의 상황을 막기 위해 회사의 미래를 걸고 계약서에 제한을 두고 있는 것입니다. 정부에 기술을 공급하는 입장에서 마이크로소프트 엑셀을 군대가 쓴다고 해서 모든 군사 작전의 시시비비를 필터링할 수는 없습니다. 하지만 정책 입안자와 군 지휘관들이 AI를 단축키처럼 남용해 실책을 범하지 않도록 강력한 초당적 입법 Guardrail을 마련해야 합니다.

7부: '미토스(Mythos)' 모델의 비밀과 AI의 미래

인터뷰어: 최근 앤트로픽의 최신 모델 '미토스(Mythos)'가 공개되어 연일 헤드라인을 장식하고 있습니다. 사이버 공격의 전 과정(Cyber Kill Chain)을 자율적으로 수행할 수 있는 무시무시한 모델이라, 대중 출시를 금지하셨다고 들었습니다. 무엇이 당신을 가장 놀라게 했나요?

다리오 아모데이: 미토스는 소프트웨어 시스템의 보안 취약점을 찾아내는 것을 넘어, 그 취약점을 실제로 작동하는 '익스플로잇(Exploit, 공격 코드)'으로 전환하는 능력이 소름 끼칠 정도로 뛰어났습니다. 이 모델을 먼저 테스트해 본 일부 초기 기업들이 저에게 연락해 와 "이건 사이버 슈퍼 무기(Superweapon)다. 총기 소지 면허증이 있는 사람에게만 사용권을 줘야 하니 제발 대중에게 출시하지 말아달라"고 애원할 정도였습니다. 실제로 파이어폭스(Firefox)에서만 무려 271개의 새로운 취약점을 발견해 냈습니다.

인터뷰어: 하지만 일각에서는 "오픈소스 모델로도 미토스의 성능을 복제할 수 있다", "결국 앤트로픽의 고도의 공포 마케팅(PR Play)이다"라는 비판도 나옵니다.

다리오 아모데이: 트위터(X) 같은 곳에서 오픈소스 모델로 복제 가능하다고 떠드는 건 100% 거짓(False)입니다. 미토스가 찾아낸 정확한 코드 라인을 먼저 짚어주고 "여기서 취약점 찾아봐"라고 유도하면 하위 모델도 찾아내겠죠. 하지만 수만 줄의 거대한 코드 베이스 전체를 뒤져서 '모래사장 속의 바늘' 같은 취약점을 스스로 찾아내는 자율적 워크플로우는 기존의 그 어떤 모델도 해내지 못했습니다. 우리는 이 강력한 모델을 상업적으로 출시하지 않음으로써 현재 엄청난 금전적 손실을 감수하고 있습니다. 이게 어떻게 마케팅입니까?

우리가 미토스를 사이버 공격자가 아닌 '방어자(Defenders)'들에게 먼저 제한적으로 제공하는 이유는 인터넷 생태계의 모든 구멍을 먼저 꼼꼼하게 패치(Patch)하기 위해서입니다. 앞으로 6개월에서 1년 뒤, 전 세계 인터넷 환경을 이전보다 훨씬 안전하게 만드는 것이 목표입니다. 이것을 '저렴한 마케팅'이라며 폄하하고 비꼬는 경쟁사들이나 트위터의 키보드 워리어들을 보면 실망스럽고 성숙함(Gravitas)이 전혀 느껴지지 않습니다.

인터뷰어: AI가 스스로를 개선하고, 그 개선된 버전이 다시 스스로를 더 빠르게 업그레이드하는 역전의 순간, 즉 '자가 개선(Self-improvement)의 특이점'이 임박했다고 보십니까?

다리오 아모데이: 그것은 특정 '순간'에 단칼에 일어나는 이벤트가 아니라, 이미 진행 중인 '연속적인 과정(Continuous Process)'입니다. 클로드는 이미 다음 세대 클로드의 아키텍처를 설계하고 효율화하는 데 깊숙이 관여하고 있습니다. 1년 전만 해도 AI로 인한 생산성 향상 기여도가 10~15%였다면 지금은 20~30%로 치솟았고, 이 역시 기하급수적으로 가속화될 것입니다. 매 순간 가속 페달이 밟힐 때마다 우리는 속도를 조절해야 할지, 통제력을 강화해야 할지 이성적으로 부단히 평가해야 합니다.

인터뷰어: 당신은 과거 인류 문명이 멸망하거나 붕괴할 확률(P(doom))이 10~25%에 달한다고 말했습니다. 혹시 앤트로픽이 만든 AI가 그 파멸의 방화쇠가 될 수도 있을까요?

다리오 아모데이: 절대 그러지 않기를 진심으로 바랍니다. 우리가 회사를 차려 이 판에 뛰어든 이유 자체가 그 파멸의 확률을 어떻게든 낮추기 위함입니다. 우리가 비행기 제조사를 차렸다면 기존 비행기보다 10배 더 안전한 비행기를 만들려고 피나는 노력을 하겠지만, 면전에서 "이 비행기가 절대 추락하지 않는다고 100% 보장할 수 있습니까?"라고 묻는다면 그 누구도 보장할 수 없습니다. 25%는 너무 높은 확률입니다. 이상의 리소스를 오직 안전장치와 통제 메커니즘 개발에 쏟아부어 그 확률을 소수점 아래로 떨어뜨리는 것이 앤트로픽의 궁극적인 존재 이유입니다.

8부: 왜 우리가 앤트로픽과 당신을 믿어야 하는가

인터뷰어: 당신은 이 강력한 기술의 중심에서 막대한 가치와 권력을 쥐게 될 것입니다. 대중이 왜 당신을 신뢰해야 합니까?

다리오 아모데이: 솔직히 말씀드리면, 대중이 저와 앤트로픽을 원초적으로 불신하고 의심하는 것은 매우 이성적이고 당연한 반응입니다. 지난 몇 년간 실리콘밸리의 테크 기업들이 보여준 행태로 인해 대중의 신뢰를 완전히 상실했기 때문입니다. 신뢰는 말 한마디로 얻어지는 것이 아니라 우리의 '행동'으로 증명해야 합니다.

우리는 수억 달러의 매출을 포기하고 위험한 국가의 모델 접근을 자발적으로 차단했고, 클로드 2의 출시를 안전 검증을 위해 수개월간 지연시켰으며, 상업적으로 대박이 날 것이 확실한 최강의 모델 '미토스'를 안전을 위해 금고에 봉인했습니다. 회사의 이사회 구도 역시 저를 언제든 해고할 수 있는 공공 거버넌스 형태의 '장기 이익 신탁(Long-term Benefit Trust)' 구조를 도입했습니다.

우리는 완벽하지 않고 수많은 실책을 범하는 불완전한 조직입니다. 하지만 우리의 누적된 발자취와 역사 전체를 선형으로 연결해 보십시오. 단 하나의 일관된 가설, 즉 "이 친구들은 진짜로 올바른 일을 하려고 진심으로 노력하고 있구나"라는 결론에 도달할 수 있도록 끊임없이 행동으로 증명해 보이겠습니다. 기하급수 곡선의 반대편에서 웃으며 만납시다.