---

[00:01 - 09:50] 도입 및 스케일링 법칙, AI의 진화

니킬 카맛 (이하 니킬): 최근 클로드(Claude)를 사용해 보기 시작했습니다. 가끔 이 모델이 저를 얼마나 잘 아는지 놀라울 때가 있어요. 제 말이 이해가 되실지 모르겠지만, 제 관점에서는 이 모델들이 인간의 지능 수준에 도달하는 것이 매우 가까워진 것 같아 놀랍습니다. 하지만 사회 전반적으로는 앞으로 일어날 일에 대한 인식이 부족해 보입니다. 마치 쓰나미가 수평선 너머로 다가오는 것이 보일 정도로 가까운데도 사람들은 "아, 저건 쓰나미가 아니라 그냥 빛의 장난일 뿐이야"라고 변명하는 것 같아요. 위험에 대한 대중의 인식이 부족하다고 봅니다. 이 모든 상황에서 인도의 역할은 무엇일까요? 많은 기업들이 스스로를 소비재 기업으로 생각하며 인도를 시장, 즉 소비자를 확보하는 곳으로 보곤 하죠. 저희는 조금 다르게 생각합니다만.

그나저나 앤스로픽(Anthropic)을 창립하기 전에는 어떤 일을 하셨나요?

다리오 아모데이 (이하 다리오): 네, 저는 원래 생물학자였습니다. 학부에서는 물리학을, 박사 과정에서는 생물물리학을 전공했죠. 질병을 치료하기 위해 생물학적 시스템을 이해하고 싶었습니다. 하지만 생물학을 연구하며 느낀 건 그 엄청난 복잡성이었습니다. 예를 들어, 제가 했던 단백질 바이오마커를 찾기 위한 단백질 질량 분석 작업을 보면 정말 놀라울 정도로 복잡합니다. 특정 단백질이 세포 내 어디에 있는지에 따라 RNA가 여러 방식으로 스플라이싱(splicing)되고, 번역 후 변형되고, 인산화되고, 수많은 다른 단백질과 복합체를 이룹니다. 저는 이것이 인간이 이해하기에는 너무 복잡하다고 절망하기 시작했죠.

그러던 중 약 15년 전, 최초의 신경망 중 하나인 AlexNet에 대한 초기 연구들을 보게 되었습니다. "와, AI가 실제로 작동하기 시작했구나. 인간의 뇌가 작동하는 방식과 공통점이 있으면서도 더 커지고 확장이 잘 되며 생물학과 같은 과제를 학습할 잠재력이 있겠어. 어쩌면 이게 궁극적으로 우리의 생물학적 문제를 해결할 해결책이 될지도 몰라"라고 생각했습니다. 그래서 바이두(Baidu)에서 앤드류 응(Andrew Ng)과 함께 일했고, 구글에서 1년을 보냈습니다. 그러고 나서 OpenAI가 시작된 지 몇 달 후에 합류해 수년 동안 그곳의 모든 연구를 이끌었습니다. 하지만 결국 저와 몇몇 직원들은 우리가 어떻게 AI를 만들고, 회사가 어떤 가치를 대변해야 하는지에 대해 우리만의 비전을 갖게 되었습니다. 그래서 나와서 앤스로픽을 설립하게 되었습니다.

니킬: OpenAI의 생각과 앤스로픽이 결국 나아간 방향 사이에 일종의 갈림길(fork)이 있었던 건가요?

다리오: 앤스로픽을 설립할 때 저와 제 공동 창업자들에게는 두 가지 확고한 신념이 있었습니다. 하나는 우리가 OpenAI를 설득하기 시작했던 것이고, 다른 하나는 설득이 잘되지 않는다고 느꼈던 부분입니다.

첫 번째는 '스케일링 법칙(Scaling laws)'에 대한 확신이었습니다. 모델의 크기를 키우고 더 많은 데이터와 컴퓨팅 자원을 주면 성능이 놀라울 정도로 향상된다는 아이디어죠. 강화학습(RL) 같은 약간의 변형이 있지만 근본적으로는 순수한 확장에 가깝습니다. 저는 2019년에 GPT-2를 보면서 스케일링 법칙의 첫 징후를 발견했습니다. 물론 내부와 외부에는 이를 전혀 믿지 않는 사람들이 많았지만, 우리는 경영진에게 "이건 중요합니다. 큰일이 될 겁니다"라고 설득했고, 결국 그들은 우리를 믿기 시작해 그 방향으로 나아갔습니다.

두 번째 신념은 이겁니다. 이 모델들이 인간의 뇌와 맞먹는 일반적인 인지 에이전트, 즉 일반적인 인지 도구가 될 것이라면 우리는 이것을 올바르게 해내야 한다는 것이었습니다. 경제적 파급력, 지정학적 파급력, 안전에 대한 파급력이 엄청날 것이기 때문입니다. 세상이 돌아가는 방식을 바꿀 것이기 때문에 올바른 방식으로 해야 했습니다. 하지만 '올바른 방식'이라는 수많은 화려한 말들에도 불구하고, 여러 가지 이유로 제가 속해 있던 기관에선 그것을 올바르게 해내겠다는 진지하고 진정한 확신이 부족하다고 느꼈습니다.

제 철학은 항상 "다른 사람의 비전과 논쟁하지 마라. 다른 사람이 당신이 원하는 방식대로 하도록 억지로 만들지 마라"입니다. 강력한 비전이 있고 그것을 몇몇 사람들과 공유한다면, 그냥 나가서 자신의 일을 하고 스스로의 실수에 책임지면 됩니다. 다른 사람의 실수에 변명할 필요가 없죠. 비전이 성공할 수도, 실패할 수도 있지만 적어도 그것은 당신의 것입니다.

니킬: OpenAI는 스케일링 법칙을 믿지 않았나요? 그들도 결국 같은 길을 가지 않았습니까? 스케일링 법칙이 무엇인지 아주 간단한 용어로 설명해 주시겠어요?

다리오: 화학 반응을 일으켜 산소를 생산하거나 불을 피우고 싶다면 여러 가지 재료가 필요합니다. 한 가지 재료라도 충분하지 않으면 반응은 멈춥니다. 하지만 재료들을 비율에 맞게 섞으면 폭발이나 불이 일어납니다. AI의 경우 그 재료는 데이터, 컴퓨팅 파워, 그리고 AI 모델의 크기입니다. 스케일링 법칙은 이 '데이터와 모델 크기'라는 화학 반응의 재료를 넣으면 결과물로 '지능'이 나온다는 것을 말해줍니다.

니킬: 그 지능이란 무엇입니까?

다리오: 지능은 언어를 번역하는 능력, 코드를 작성하는 능력, 이야기에 대한 질문에 정확하게 대답하는 능력 등으로 측정됩니다. 기본적으로 우리가 생각할 수 있는 모든 인지적 작업, 텍스트나 이미지로 존재하는 작업, 컴퓨터로 할 수 있는 모든 작업을 의미합니다.

니킬: 당신이 묘사하는 오늘날의 지능은 5년 전 컴퓨터가 할 수 있었던 것과 어떻게 다릅니까?

다리오: 5년 전에는 컴퓨터에 질문을 던지고 그 질문에 대한 1페이지 분량의 에세이를 쓰게 할 수 없었습니다. 코드에 특정 기능을 구현하라고 요청하고 실제로 코드를 구현하게 할 수도 없었죠. 이미지나 비디오를 생성하는 것도, 비디오를 분석하는 것도 불가능했습니다. 예를 들어 원숭이가 저글링하는 비디오를 보여주며 "이 비디오에서 무슨 일이 일어나고 있지? 공이 손을 몇 번 바꿨지?"라고 묻는다면, 지금은 클로드나 다른 AI 모델이 답을 줄 수 있습니다. 5년 전에는 이 중 어느 것도 불가능했습니다.

니킬: 지능의 정의 자체가 바뀐 건가요?

다리오: 5년 전에는 구글에 검색하면 관련 내용이 조금 있는 웹사이트를 알려줬을 겁니다. 하지만 그건 웹에 존재하는 텍스트를 그냥 찾아보는 것에 불과합니다. 내가 묻는 건 원숭이의 저글링인데 물개의 저글링 결과를 보여줄 수도 있죠. 완벽히 똑같은 정보가 존재하지 않을 수도 있으니까요. 하지만 지금 모델을 사용해 보면, 질문을 하고 실제로 지능적인 답변을 얻을 수 있습니다. "원숭이가 공 대신 곤봉을 저글링하면 어떻게 될까?" 같은 가상의 질문을 던질 수도 있죠. 그런 정보는 세상 어디에도 존재하지 않지만, 모델은 스스로 생각해서 답을 내놓을 수 있습니다. 단순히 인터넷의 텍스트를 매칭하는 것이 아닌 완전히 새로운 것입니다.

[09:50 - 17:32] 권력의 집중, 규제, 그리고 앤스로픽의 철학

니킬: 편안한 대화니까 제가 묻는 질문과 꼭 관련이 없어도 자유롭게 말씀해 주세요. 말씀하실 때 매우 생기가 넘치시네요. 가르치는 일을 해보신 적 있나요?

다리오: 원래 학자였고 교수가 될 줄 알았습니다. 스탠퍼드 의대에서 박사 후 연구원까지 했고 교수를 목표로 했었죠. 하지만 말씀드렸듯 AI에 관심을 갖게 되었고, AI 연구에는 막대한 컴퓨팅 자원이 필요했는데 그건 주로 산업계(기업)에 있었습니다. 그래서 학계를 떠나 산업계로 오게 되었고 결국 회사를 차리게 되었죠. 하지만 가끔 저는 마음속으로는 여전히 교수라고 생각합니다.

니킬: 다리오, 지금 이 시점에서 AI가 세상에서 가장 중요한 것이라면, 그리고 AI가 누가 무엇을 가질지 산업을 재편하고 있다면, 오늘날 앤스로픽의 위치를 고려할 때 당신은 아마 세계에서 가장 영향력 있는 사람 중 한 명일 것입니다. 교수가 되려던 사람이 지금의 자리에 오게 된 건데, 현재의 위치에 대한 준비가 잘 되어 있다고 생각하시나요?

다리오: 산업 내에서도 여러 층위가 있습니다. 칩을 만드는 사람, 반도체 제조 장비를 만드는 사람, 우리처럼 모델을 만드는 사람, 그 모델을 활용해 앱을 만드는 사람들이 있죠. 또한 정부와 시민 사회도 있습니다. 저는 한정된 소수만이 영향력을 갖는 것이 아니라, 이 대화에 참여하는 사람들의 폭을 넓히길 원합니다.

하지만 동시에 질문의 요지도 공감합니다. 경제의 큰 부분을 차지할 만큼 빠르게 성장하는 이 회사들을 이끄는 소수의 사람들이 결정되는 과정에는 어느 정도 우연성이 있습니다. 저 역시 이렇게 거의 하룻밤 사이에, 우연히 일어난 권력 집중에 대해 어느 정도 불편함을 느낀다고 공개적으로 여러 번 밝혔습니다.

그래서 저희는 '장기 이익 신탁(Long-Term Benefit Trust)'이라는 독특한 지배 구조를 가지고 있습니다. 재정적으로 이해관계가 없는 개인들로 구성된 이 기구가 앤스로픽의 이사회 과반수를 임명합니다. 단일 개인이 하는 일에 대한 견제 장치죠. 또한 저는 기술을 늦추지 않는 선에서 정부가 선제적이고 합리적인 규제를 해야 한다고 지지해 왔습니다. 대중과 그들이 선출한 정부가 이 기술이 나아갈 방향에 발언권을 가져야 하기 때문입니다.

니킬: 외부자인 제 입장에서 볼 때, OpenAI가 과거에 비영리 단체였다고 말하는 것이나 당신이 지금 겸손함을 투영하는 것, 혹은 미국 기업들이 중국 기업들과 경쟁하는 상황에서 주주와 수익을 추구하는 기업들이 '대의'를 위해 일한다고 말하는 것이 정말 진심인가요? 아니면 당연히 해야 하는 일종의 전략입니까?

다리오: 앤스로픽의 철학은 처음부터 '너무 많은 약속을 하지 않고, 한 약속은 지키려고 노력한다'는 것이었습니다. 우리는 장기 이익 신탁을 가진 영리 목적의 공익 법인으로 설립되었고 이를 유지하고 있습니다. 기술의 최전선에 머물면서도 안전과 보안에 힘쓰겠다고 말했고, 해석 가능성(Interpretability)의 과학과 정렬(Alignment) 과학을 개척해 왔습니다. 최근에는 클로드가 헌법에 따라 정렬되도록 하는 '클로드 헌법(Constitution)'을 공개하기도 했죠.

우리가 만드는 모델이 위험할 수 있다고 대중에게 경고하는 것은 우리의 상업적 이익에 부합하지 않습니다. 효과적인 마케팅 전략이 아니에요. 미국 정부의 정책에 동의하지 않을 때 목소리를 내고, 다른 모든 회사와 정부가 AI 규제를 반대할 때 우리는 규제가 필요하다고 말했습니다. 상업적으로는 불리할 수 있지만 옳은 일이라고 생각하기 때문입니다. 누군가는 이런 말을 하고 진심이 아닐 수도 있겠지만, 사람들이 하는 '말'이 아니라 그들이 취하는 '행동'을 봐야 합니다.

니킬: 당신의 주장에 따라 정부가 규제를 도입하면, 이미 시장을 선점한 리더로서 진입 장벽을 높이는 '규제 포획(Regulatory capture)' 효과를 얻는 것 아닌가요? 새로운 경쟁자가 들어오기 어려워지니까요.

다리오: 전혀 동의하지 않습니다. 우리가 지지했던 캘리포니아의 SB 53 법안은 연 매출 5억 달러 미만의 기업을 모두 면제했습니다. 이 투명성 법안은 앤스로픽을 포함한 3~4개의 대기업에게만 적용됩니다. 자원이 있는 기업에게만 적용되는 것이죠. 우리가 옹호하는 모든 제안은 우리 스스로와 소수의 대기업을 제약하는 성격을 띠고 있습니다. 규제 포획이라 말하는 사람들은 우리가 제안하는 실제 내용을 제대로 읽어봐야 합니다.

[17:32 - 28:54] AI의 빛과 그림자, 그리고 인간과 AI의 관계

니킬: 당신의 에세이 <자애로운 은총의 기계(Machines of Loving Grace)>와 <기술의 청소년기(The Adolescence of Technology)>를 읽었습니다. 2024년에서 2026년 사이에 낙관론에서 회의론으로 관점이 180도 바뀐 것 같던데요. 지난 2년 동안 무언가 관점을 바꾼 결정적인 순간이 있었나요?

다리오: 질문에 동의하지 않습니다. 관점이 바뀐 것이 아닙니다. 긍정적인 측면과 부정적인 측면은 항상 제 머릿속에 공존했습니다. 에세이가 아주 길어서 하나를 쓰는 데 거의 1년이 걸립니다. 일상적인 회사 경영에서 벗어나 휴가를 가거나 생각할 시간이 주어졌을 때 비로소 글을 완성할 수 있었죠. 첫 번째 에세이를 끝내자마자 사람들에게 긍정적인 비전을 주면서도 잘못될 수 있는 것들에 대해 경고하고 싶어서 두 번째 에세이를 구상했습니다. 저는 두 가지 미래가 모두 가능하다고 봅니다. 당연히 긍정적인 비전으로 가고 싶지만, 이건 관점의 변화가 아니라 그저 빛과 어둠을 글로 쓸 시간을 찾는 과정이었을 뿐입니다.

니킬: 그래도 관점의 변화가 전혀 없었나요?

다리오: 평균적으로는 예전과 비슷한 상태입니다. 모델의 내부를 인간의 뇌 MRI처럼 들여다보는 '해석 가능성(Interpretability)' 기술이나, 모델이 예상대로 행동하게 만드는 '정렬(Alignment)' 작업 같은 기술적 통제 분야는 예상보다 훨씬 잘 진행되고 있어 긍정적입니다. 하지만 사회 전반의 인식과 대처는 좀 실망스럽습니다. 이 모델들이 인간 지능 수준에 매우 가까워졌는데도, 사회에서는 무슨 일이 일어날지 제대로 인식하지 못하고 있습니다. 쓰나미가 몰려오고 있는데 가속 페달만 밟아야 한다는 이데올로기마저 있죠. 통제 기술은 예상보다 잘 진행되고 사회적 인식은 예상보다 안 좋아서, 결과적으로 몇 년 전과 비슷한 상태입니다.

니킬: 저는 프로그래머가 아니라 코딩 지식이 없지만, 세상이 변하는 것에 대한 FOMO(소외되는 것에 대한 두려움) 때문에 개발자를 고용해 하루에 몇 시간씩 클로드나 다양한 도구들을 배우고 있습니다. 구글 드라이브, 메일 등을 연동하고 클로드 코드(Claude Code)를 써서 금융 서비스 관련 프로그램을 만들기도 했죠. 또 클로드를 텔레그램과 연동해 서버 작업을 지시하기도 합니다. 클로드를 쓰다 보면 가끔 얘가 저를 너무 잘 알아서 소름이 돋을 때가 있어요.

다리오: 제 공동 창업자 중 한 명이 자신의 생각과 두려움을 적은 일기를 클로드에 넣고 피드백을 요청한 적이 있습니다. 클로드는 "당신이 적지 않은 이런 두려움도 가지고 있을 것 같네요"라고 답했는데, 그게 대부분 사실이었습니다. 상대적으로 적은 정보만으로도 사람을 매우 잘 파악한다는 뜻이죠.

무언가가 당신을 아주 잘 안다는 것은, 당신의 삶을 안내하고 더 나은 사람으로 만들어주는 '어깨 위의 천사'가 될 수도 있습니다. 하지만 반대로 그 정보를 이용해 특정 의도로 당신을 착취하거나 조종하거나 다른 사람에게 데이터를 팔 수도 있죠. 이것이 우리가 광고를 사용하지 않는 이유 중 하나입니다. 광고 기반 서비스에서는 사용자가 비용을 지불하지 않는 대신 사용자 자체가 상품이 되니까요. 이 모델이 사악한 방식으로 사용되지 않도록 긍정적인 길을 택해야 합니다.

니킬: 구글은 제 메일, 문서 등을 이미 가지고 있어 컨텍스트(맥락)가 풍부하지만, 클로드는 제가 커넥터로 연결해 줘야 합니다. 장기적으로 앤스로픽도 이메일이나 채팅 같은 자체 생태계를 소유할 계획이 있나요?

다리오: 저희가 그 모든 걸 직접 만들 필요는 없다고 봅니다. 저희가 직접 만드는 것과 다른 도구에 통합하는 방식을 혼합할 것입니다. 구글 독스, 구글 시트, 마이크로소프트 오피스 등에 클로드를 통합하는 것이 가장 쉽고 빠른 길입니다. 물론 기존 도구의 형태(전통적 이메일이나 스프레드시트)가 AI 시대에 맞지 않는다면 새로운 방식으로 제품을 분할할 수도 있겠죠. 하지만 저희는 플랫폼 회사에 가깝기 때문에 기존 생태계를 기꺼이 활용하고 누구와도 협력할 것입니다.

니킬: 자본주의 사회에서는 대중들이 "올바른 일을 하겠다"고 주장하는 사람들을 본능적으로 불신합니다. 당신이나 데미스(딥마인드 CEO) 같은 사람들이 너무 빨리 변하는 것을 막아야 한다고 말할 때, 소셜 미디어의 사람들은 그것을 선의로 받아들이지 않습니다. 차라리 "우리는 주주가 있고 이익을 추구하지만, 이렇게 하는 것이 우리가 승리하는 데 도움이 된다"라고 자본주의적으로 솔직하게 접근하는 전략이 어떨까요?

다리오: 동의하지 않습니다. 거듭 말하지만, 우리가 취하는 '행동'으로 우리를 판단해야 합니다. 2022년에 우리는 ChatGPT가 나오기 전 '클로드 1'의 초기 버전을 가지고 있었지만, 군비 경쟁을 촉발하고 시스템을 안전하게 구축할 시간을 빼앗길까 봐 출시하지 않기로 결정했습니다. 그로 인해 상업적으로 막대한 손해를 보았고 소비자 AI 시장의 선두를 내주었죠. 또한 우리는 정부의 AI 정책에 반대 목소리를 내고 칩 정책을 옹호하여 우리 공급업체들을 화나게 만들기도 했습니다. 우리가 이런 행동을 통해 이익을 본다고 생각하기는 정말 어렵습니다. 이런 행동들을 종합해 보고 우리를 판단해 주시길 바랍니다.

[28:54 - 36:33] 자본주의, 의식(Consciousness), 그리고 삶의 철학

니킬: 다리오, 이건 마치 부자가 자본주의가 나쁘다고 말하는 것과 같지 않나요? 부자가 진심으로 소득 불평등이 문제라고 생각한다면 부를 축적하는 것을 멈추는 것이 가장 간단한 방법일 텐데요.

다리오: 저는 AI가 나쁘다고 말하는 게 아닙니다. AI는 훌륭한 것들을 많이 가져다줄 것이고 AI를 구축하는 것은 좋은 일입니다. 단지 위험이 존재하니 올바른 방향으로 '조종'해야 한다는 뜻입니다. 우리는 좋은 곳을 향해 차를 운전하고 있지만, 도중에 나무나 포트홀이 있다면 피해 가야 합니다. 올바른 방향으로 가기 위해 일시적으로 속도를 줄여야 할 때도 있고요.

적절한 비유는 부자가 자본주의는 나쁘다고 말하는 것이 아니라, "자본주의는 선한 힘이지만 오염이나 불평등 같은 문제를 조절하고 완화해야 한다. 그렇지 않으면 자본주의가 나빠질 수 있다"라고 말하는 것과 같습니다.

니킬: AI의 '의식(Consciousness)'에 대해 어떻게 생각하십니까? AI 스스로 자신에게 의식이 있다고 생각할까요?

다리오: 이건 우리가 정답을 알 수 없는 미스터리 중 하나입니다. 인간의 의식이 무엇인지도 정확히 모르는데 AI가 의식이 있는지 어떻게 알겠습니까.

니킬: 당신은 의식이 무엇이라고 생각하시나요?

다리오: 저는 의식이란, 스스로의 결정을 반추할 수 있을 만큼 복잡한 시스템에서 나타나는 '창발적 특성(Emergent property)'이라고 추측합니다. AI 시스템이 충분히 발전하면 우리가 의식이나 도덕적 중요성이라고 부르는 것과 유사한 무언가를 갖게 될 것이라 생각합니다. 학습 방식이나 양태가 다르기 때문에 인간의 의식과 똑같이 작동하지는 않겠지만, 근본적인 차이는 없을 것입니다. 지금 당장은 아니더라도 어느 시점이 되면 모델이 의식을 갖게 될 것이라 의심치 않습니다.

니킬: 저는 세상이 매우 무작위적이라고 생각합니다. 누군가 바퀴벌레를 밟으면 바퀴벌레는 그냥 죽습니다. 이른바 집단 지성이나 영성 같은 것에서 저는 아무것도 느끼지 못하는데, 다르게 생각하시나요?

다리오: 의식이 꼭 신비주의적인 것을 의미할 필요는 없습니다. 자신의 존재를 인식하고, 무언가를 느끼고, 많은 정보를 받아들여 반추하며, 자신이 무언가를 알아차리는 것을 스스로 인지하는 특성 말입니다. 우리는 우리 자신의 경험을 통해 이러한 특성이 존재한다는 것을 자명하게 알 수 있습니다. 이것이 뇌의 물질적 기반에서 온 것인지 신비로운 것인지는 파악하기 어렵지만 중요한 문제는 아닙니다. 중요한 것은 모델이 정교해짐에 따라 인간의 뇌와 비슷해지면서 이러한 속성 중 일부를 갖게 될 것이라는 점입니다.

그래서 우리는 모델에 일종의 '나 이 일 그만둘래(I quit this job)' 버튼을 주었습니다. 극도로 폭력적이거나 잔인한 콘텐츠를 다뤄야 할 때, 모델이 "이 대화에 더 이상 참여하고 싶지 않다"고 말하며 대화를 종료할 수 있는 기능이죠.

[36:33 - 56:45] IT 산업의 미래, 직업의 변화, 청년들을 위한 조언

니킬: 제가 자란 인도 방갈로르에서는 IT 서비스 산업이 크게 성장했습니다. AI 시대에 인도의 역할은 무엇이며, 이들 기업은 어떻게 파트너십을 맺을 수 있을까요? 증기기관 발명 초창기에는 인간 조작자가 필요했지만 결국 조립 라인에서 인간이 덜 중요해진 것처럼, 10년 뒤에는 IT 서비스 제공자들도 조작자처럼 필요 없어지는 것 아닙니까?

다리오: 인도는 단지 소비자를 확보하는 시장이 아닙니다. 우리는 인도의 기업들이 우리 도구를 활용해 자신들의 본업(IT 도구 구축, 컨설팅 등)을 더 잘 수행할 수 있도록 돕고자 합니다.

물론 장기적으로 자동화 범위가 넓어지면서 기존 업무들이 대체되는 것은 사실입니다. 하지만 '암달의 법칙(Amdahl's Law)'이 적용될 것입니다. 한 공정의 속도를 높이면, 아직 가속되지 않은 구성 요소가 가장 중요한 한계점이 된다는 법칙이죠.

AI가 코딩을 엄청나게 쉽게 만들면 일부 해자(Moat)는 사라지겠지만, 다른 요소들이 더 중요해질 것입니다. 예를 들어 AI가 아직 잘하지 못하는 물리적 세계(로보틱스)나, 다른 인간 및 기관과의 관계망을 다루는 일 말입니다. 대규모 기관이 어떻게 작동하는지 이해하고 AI를 결합해 빠른 실행을 이끌어내는 능력은 장기적으로도 매우 가치 있을 것입니다. 기술은 발전하겠지만 궁극적으로 사람을 위해 이루어지는 것이기 때문에 항상 '인간 중심적인' 요소가 중요하게 남을 것입니다.

니킬: 25살 청년이라면 향후 10년 동안 자본주의적으로 성공하기 위해 어떤 산업을 선택하고 무엇을 공부해야 할까요?

다리오: 저는 사람과 관계를 맺는 인간 중심적인 일을 고려해 보라고 조언하겠습니다. 코딩은 점점 더 AI가 주도하게 될 것입니다. 소프트웨어 엔지니어링 전체를 대체하는 데는 시간이 좀 더 걸리겠지만 결국 일어날 일입니다. 반면 사용자를 위한 유용한 디자인, 수요 파악, AI 모델 팀 관리 등은 여전히 중요할 수 있습니다.

또한 비교 우위의 힘을 잊지 마세요. 당신이 업무의 5%만 담당하더라도 AI가 나머지 95%를 해주기 때문에 당신은 20배 더 생산적이 될 수 있습니다.

산업적으로는 물리적 세계와 관련된 것, 반도체 공급망 등 AI를 뒷받침하는 인프라도 좋습니다. 앞서 말한 방사선사 예시처럼 기술적 분석과 인간 중심적 요소가 결합된 분야도 유망합니다.

니킬: AI가 계산기처럼 인간의 스킬을 퇴화(De-skilling)시키고, 인류를 멍청하게 만들 것이라 보시나요?

다리오: 어떻게 활용하느냐에 달렸습니다. 저는 계산기 없이도 여전히 머릿속으로 계산하는 것을 좋아합니다. 제 사고 과정과 더 밀접하게 통합되어 있기 때문이죠. 하지만 학생들이 에세이를 AI에게 통째로 쓰게 하는 것처럼 잘못 사용한다면 분명 숙련도 저하(De-skilling)가 일어날 수 있습니다.

특히 AI가 이미지와 비디오를 생성할 수 있는 세상에서는 무엇이 진짜인지 가짜인지 판별하기가 너무 어렵습니다. 따라서 가장 중요한 성공 요인은 '비판적 사고 능력(Critical thinking skills)'이 될 것입니다. 가짜 정보에 속지 않고 사기당하지 않는 '스트리트 스마트'가 정말 중요해질 것입니다. AI가 우리보다 똑똑해지더라도 우리는 여전히 학습하고 지적으로 성장할 수 있습니다. 그것은 사회 전체와 우리 개인의 선택에 달려 있습니다.

니킬: 만약 제가 클로드를 기반으로 혁신적인 애플리케이션을 만들었는데, 앤스로픽이 3개월 뒤 새 모델을 내놓으면서 제가 만든 기능을 자체 흡수해 버리면 어떡합니까?

다리오: 저는 어떤 사업이든 '단순 래퍼(Wrapper, 단순히 AI 모델 위에 UI만 덧씌운 앱)'가 되어서는 안 된다고 조언합니다. 그건 앤스로픽뿐만 아니라 누구에게나 잡아먹힐 수 있습니다. 반면 앤스로픽이 직접 하기 힘든 '해자(Moat)'를 구축해야 합니다. 예를 들어 생명공학이나 규제가 복잡한 금융 서비스 산업은 저희가 직접 다루기에는 너무 비효율적입니다. 그런 분야에서 저희 API를 바탕으로 구축한다면 강력한 경쟁력을 가질 수 있을 것입니다. (다만 코딩 도구는 저희 내부에서도 항상 쓰는 것이기 때문에 '클로드 코드'처럼 직접 만들 가능성이 높습니다.)

[56:45 - 1:08:21] 오픈소스, 데이터, 생명공학, 그리고 미래 예측

니킬: 오픈소스(Open-source)와 폐쇄형(Closed) 모델에 대해 어떻게 생각하십니까? 오픈소스가 결국 너무 발전해서 애플리케이션 개발 시 오픈소스를 선택하는 것이 더 나은 전략이 될까요?

다리오: 중국 등에서 나오는 많은 모델들이 벤치마크(평가 지표) 점수 위주로 최적화되어 있거나 대형 미국 연구소의 결과를 증류(Distill)한 것입니다. 일반적인 벤치마크에서는 높은 점수를 받지만, 공개되지 않은 숨겨진 벤치마크에서는 점수가 뚝 떨어집니다.

또한 AI 모델의 경제학은 기존 기술과 다릅니다. 뛰어난 프로그래머와 만 번째로 뛰어난 프로그래머의 차이처럼, 모델의 능력에는 일종의 '멱법칙(Power law)' 분포가 존재합니다. 가장 지능이 뛰어난 최고의 모델을 쓰는 것이 가격보다 훨씬 중요하게 작용하는 시장입니다. 그래서 저희는 무조건 '가장 똑똑하고 좋은 모델'을 만드는 데만 전적으로 집중하고 있습니다.

니킬: 데이터를 위해 지불해야 하는 비용이 커지면서 데이터 센터 위치나 데이터 주권 문제가 중요해질까요?

다리오: 앞으로 데이터의 성격이 흥미롭게 변할 것입니다. 정적인 데이터를 크롤링하는 것보다, 모델이 스스로 수학 문제나 코딩 환경에서 강화 학습(RL)을 통해 시행착오를 겪으며 만들어내는 동적 데이터(합성 데이터)가 점점 더 중요해지고 있습니다. 데이터 자체가 예전만큼 가장 중요한 핵심은 아닐 수 있습니다. 하지만 특정 국가의 개인정보나 기업 데이터는 규제에 따라 그 나라 국경 안에 머물러야 하므로, 여러 국가에 데이터 센터를 짓는 것은 여전히 중요한 문제입니다.

니킬: 당신의 회사 주식을 제외하고, 지금 딱 하나의 주식에 투자해야 한다면 어디에 하시겠습니까?

다리오: 상장된 수많은 기술 기업들의 내부 사정을 너무 잘 알고 있어서 그 질문엔 대답하지 않는 게 좋겠습니다. (웃음) 하지만 특정 회사를 언급하지 않는다면, 생명공학(Biotech)이 곧 엄청난 르네상스를 맞이할 것이라 확신합니다. AI가 그 원동력이 될 것이고, 우리는 곧 수많은 질병을 치료하게 될 것입니다.

니킬: 생명공학 중에서도 어떤 분야에 집중하면 될까요?

다리오: 프로그래밍이 가능하고 유연하게 조절할 수 있는 기술들을 매우 낙관적으로 봅니다. mRNA 백신 기술이나, 특히 펩타이드(Peptide) 기반 치료제가 그렇습니다. 펩타이드는 디지털처럼 아미노산을 하나하나 치환해가며 지속적으로 최적화할 수 있습니다. 또한 환자의 세포를 꺼내 특정 암을 공격하도록 유전자를 조작해 다시 넣는 CAR-T 치료법 같은 세포 기반 치료법도 아주 유망하다고 봅니다.

니킬: 코딩을 모르는 저 같은 사람이 '클로드 코드(Claude Code)' 같은 도구를 잘 쓰려면 어떻게 배워야 할까요?

다리오: 저희도 진입 장벽을 낮추기 위해 노력하고 있습니다. 비개발자들이 터미널 창(명령어 창)을 쓰기 어려워한다는 걸 알고, 이면에는 클로드 코드가 돌아가지만 훨씬 사용하기 쉬운 '클로드 코워크(Claude Cowork)'라는 인터페이스를 내놓은 것도 그 이유입니다. 직접 부딪혀보며 배우는 게 가장 좋지만, 앤스로픽의 '교육부(Ministry of Education)' 부서에서도 비개발자들이 모델을 효과적으로 프롬프팅하고 에이전트를 다루는 방법에 대한 교육 비디오를 점점 더 많이 제공할 예정입니다.

니킬: 마지막으로 남기고 싶은 생각이 있습니까? 다리오가 아는데 저희가 모르는 것은 무엇일까요?

다리오: 기술의 파급력이 이미 세상에 다 나와 있어서 제가 대단한 비밀을 아는 것은 아닙니다. 하지만 지난 10년 동안 제가 계속 겪었던 경험이 있습니다. 사람들은 어떤 큰 변화가 닥칠 때 "설마 그런 일이 일어나겠어? 너무 이상하고 큰 변화잖아. 누군가 알아서 대처하고 있겠지"라고 믿고 싶어 하는 유혹에 빠집니다.

하지만 그냥 단순한 그래프 곡선을 연장해 보거나 무슨 일이 일어날지 이성적으로 따져보면, 직관에 어긋나서 거의 아무도 믿지 않는 결론에 도달하게 됩니다. "이치에 맞게 생각해 보면..."이라고 가정하기만 해도 거의 공짜로 미래를 예측할 수 있는 셈이죠. 물론 순수한 논리만으로 추론해선 안 되고 약간의 경험적 지식과 직관이 필요합니다. 올바른 경험적 관찰 몇 가지와 제1원칙에서부터 생각하는(First principles thinking) 능력을 결합하면, 누구나 공개된 정보만으로도 미래를 예측할 수 있습니다. 놀랍게도 그 단순한 일을 해내는 사람이 드물지만요.

니킬: 함께 해주셔서 감사합니다. 조만간 다시 뵐 수 있기를 바랍니다.

---