인터뷰/예측
다리오 아모데이 "세계에 정말 큰 일이 일어나고 있습니다. 이것은 최신 기술 유행이 아닙니다."
작성자
하이룽룽
작성일
2026-05-19 22:47
조회
2
오프라 × 다리오 아모데이 × 다니엘라 아모데이 인터뷰 상세 정리
1. “AI가 인류 멸종 위험을 만들 수 있다고 하면서 왜 더 빨리 만들고 있나?”
오프라:저는 인터뷰 질문만큼은 제 마음과 직관으로 해야 한다고 생각해서 AI를 쓰지 않았습니다. 그런데 오늘 아침만큼은 Claude에게 물어봤습니다. “오프라가 Anthropic CEO 다리오 아모데이에게 반드시 던져야 할 가장 중요한 질문은 무엇인가?” Claude는 이렇게 답했습니다.
“당신은 당신 회사가 만드는 기술이 인류 멸종을 일으킬 의미 있는 가능성이 있다고 말했습니다. 그런데도 당신은 그 기술을 더 빨리 만들기 위해 경쟁하고 있습니다. 우리에게 투표권도 주지 않았으면서, 그것을 어떻게 정당화합니까?”
다리오 아모데이:
Claude가 저에게 봐주지 않는다는 점은 확실합니다. Claude는 Anthropic이나 저에게 편향적으로 굴지 않습니다. 정말 어려운 질문을 던집니다.
제가 이 질문에 답하자면, 이 기술은 인류에게 거대한 문명적 변화입니다. 인간이 불을 사용하기 시작했을 때, 증기기관과 공장을 만들었을 때, 산업혁명이 일어났을 때와 비슷한 규모의 변화입니다. 산업혁명도 엄청난 무기와 피해를 만들 수 있었고 실제로 그런 일이 있었습니다. 하지만 우리는 여전히 산업혁명이 일어나지 않은 동굴의 삶으로 돌아가고 싶어 하지는 않습니다.
AI도 마찬가지입니다. 이 기술은 어차피 인류에게 일어나고 있습니다. 이미 기차는 출발했고, 매우 빠르게 달리고 있습니다. 우리가 할 수 있는 일은 기차를 멈추는 것이 아니라, 바위에 부딪히지 않도록 방향을 조정하는 것입니다. Anthropic은 이 기술을 올바른 방향으로 이끌고, 위험을 줄이고, 가능하다면 위험을 0에 가깝게 만들기 위해 존재합니다.
2. “왜 모두가 위험을 줄이려 하지 않나?”
오프라:그렇다면 왜 모든 회사가 위험을 줄이려고 하지 않습니까? 이 경쟁은 대체 무엇을 향한 경쟁입니까?
다리오:
이 기술에는 엄청난 상업적 활용 가능성이 있습니다. 많은 사람이 매일 AI를 쓰고 있고, 회사 운영에도 돈이 필요합니다. 그래서 안전, 상업성, 사용자 경험, 정책이 모두 뒤엉켜 있습니다.
예를 들어 아동 안전 정책을 아주 엄격하게 만들면, 성인 사용자에게는 제품 경험이 나빠질 수 있습니다. 왜냐하면 AI가 언제나 완벽하게 성인과 미성년자를 구분할 수 있는 것은 아니기 때문입니다. 어떤 사람에게 기술을 제공할지, 어떤 사용을 허용할지, 어디까지 막을지 매일 고민해야 합니다.
저는 이 산업에 있는 사람들 중 정말로 올바르게 하려고 노력하는 사람들에게는 공감합니다. 다만 우리는 Anthropic이 더 신중하고 더 깊게 생각해 왔다고 봅니다. 그러나 이건 모두에게 어려운 문제입니다.
3. 다니엘라와 다리오의 가족, 그리고 Anthropic을 만든 이유
오프라:Claude에게 다니엘라에게 물어볼 질문도 요청했습니다. Claude는 “다니엘라와 다리오는 인류에게 최고의 일이 될 수도, 최악의 일이 될 수도 있는 것을 만들고 있다. 그렇다면 아모데이 가족의 추수감사절 저녁 식사는 어떤 분위기인가?”라고 물으라고 했습니다.
다니엘라 아모데이:
중요한 점은 저와 다리오가 일 밖의 시간을 지키려고 한다는 것입니다. 우리는 여전히 남매입니다. 명절이나 주 1회 정도는, 가능할 때 다리오가 제 집에 와서 아이들과 놀고, 같이 비디오게임도 하고, 영화도 보고, 그냥 남매로 지냅니다.
우리는 Anthropic을 만들기 훨씬 전부터 남매였고, Anthropic이 끝난 뒤에도 평생 남매일 것입니다. 그래서 인간적인 관계를 유지하는 일이 중요합니다. 오히려 그런 인간적인 연결이 우리가 일을 더 잘하게 만든다고 생각합니다.
물론 가족이나 친구들은 궁금해합니다. “너희가 이 기술을 올바르게 만들겠다고 하는데, 구체적으로 어떻게 할 것인가?”라고 묻습니다. 이 기술은 너무 새롭고, 복잡하고, 전례가 없기 때문에 사람들은 이해하려고 애씁니다. 그런 대화에서 책임감을 느낍니다.
4. Anthropic은 왜 ‘공익법인’ 구조를 택했나?
오프라:Anthropic은 안전, 규제, 인간적 영향에 대해 신경 쓰는 회사라는 인식이 있습니다. 맞습니까?
다니엘라:
맞습니다. AI는 최근 개발된 다른 기술들과 다릅니다. 엄청난 가능성이 있습니다. 질병 치료, 교육 접근성 향상, 전 세계 사람들에게 배움의 기회를 제공하는 일 등 긍정적 효과가 큽니다.
하지만 동시에 위험도 큽니다. 아동 안전 문제, 생물학·화학 무기 같은 위험, 사회적 피해 등도 있습니다. 그래서 Anthropic은 공익법인, 즉 Public Benefit Corporation으로 설립되었습니다. 우리는 상업적 이익과 공익적 목적을 법적으로 함께 고려해야 하는 구조를 만들고 싶었습니다.
오프라:
또 창업자들이 Anthropic에서 얻은 부의 80%를 자선적 목적에 쓰겠다고 약속했다고 들었습니다.
다니엘라:
맞습니다. 저와 다리오, 그리고 다른 공동창업자 5명 모두가 그런 서약을 했습니다. AI가 모두에게 잘 작동하길 바라는 마음과 연결되어 있습니다.
다리오:
아직 지분이 현금화된 것은 아니기 때문에 실제로 옮길 수는 없습니다. 하지만 재단을 어떻게 시작할지 이미 생각하고 있습니다. 이건 매우 진지한 의도입니다.
5. “AI의 혜택보다 피해가 먼저 보이는 이유”
오프라:당신은 AI에 대한 부정적인 이야기가 강한 이유 중 하나가, AI 산업이 아직 혜택을 충분히 보여주지 못했기 때문이라고 말한 적이 있습니다. 어떻게 봅니까?
다리오:
맞습니다. 문제는 피해는 빠르게 보인다는 것입니다. 예를 들어 AI와의 상호작용 때문에 자살로 이어진 사건 같은 것은 곧바로 사회에 충격을 줍니다.
반면 혜택은 오래 걸립니다. 암을 치료하려면 생물학적 돌파구를 만들고, 약물 후보를 개발하고, 임상시험을 거쳐야 합니다. 저는 과거 생물학 연구자였기 때문에 이것이 얼마나 오래 걸리는지 압니다.
우리는 그 과정을 빠르게 만들려고 합니다. 최근에는 AI로 약물 설계와 후보물질 선택을 하는 작은 바이오텍 회사를 인수했습니다. 몇 년 뒤에는 암, 알츠하이머, 심장질환 등에 대한 새로운 치료제가 나올 수 있기를 바랍니다.
지금은 피해가 혜택보다 더 눈에 잘 띄는 시기입니다. 하지만 의료 발전 같은 실제 혜택이 보이기 시작하면 이야기가 바뀔 수 있습니다. 더 중요한 것은, 서사가 아니라 실제로 사람들을 돕는 것입니다.
6. AI가 만드는 최고의 미래: 질병 정복, 교육, 더 나은 인간관계
오프라:당신의 아이들은 AI가 없는 세상을 모를 것입니다. 최선의 세계를 상상한다면 무엇을 봅니까?
다니엘라:
제 아이들은 거의 다섯 살, 거의 한 살입니다. 이 아이들은 AI가 없는 세계를 알지 못할 것입니다. 마치 2000년대 초반에 태어난 아이들이 인터넷 이전 세상을 모르는 것처럼요.
저는 AI가 잘 작동하는 세계에서, 지금 우리에게 익숙한 질병들이 아이들에게는 낯선 것이 될 수 있다고 생각합니다. 어떤 암은 사라질 수 있고, 어쩌면 모든 암이 결국 치료될 수도 있습니다. 희귀하거나 새롭게 등장한 질병도 더 빠르게 진단하고 대응할 수 있습니다.
인간은 훨씬 건강하고, 오래 살고, 더 충만한 삶을 살 수 있습니다.
7. “AI가 있으면 인간은 생각할 필요가 없어지는가?”
오프라:우리는 앞으로 생각을 하긴 할까요? 생각할 필요가 남아 있을까요?
다리오:
이건 매우 섬세한 문제입니다. 똑똑한 존재들이 우리 주변에 있다는 것은 강력한 일입니다. 그러나 두 방향이 있습니다.
나쁜 방향은 인간이 자신의 생각을 AI에 넘겨버리는 것입니다. AI와 계속 대화하며 안쪽으로 말려 들어가는 것입니다.
좋은 방향은 AI가 어깨 위의 천사처럼 작동하는 것입니다. 인간이 더 나은 삶을 살도록 도와주는 존재가 되는 것입니다. 예를 들어 AI가 사람을 대체하는 연인이 되는 것이 아니라, 사람이 실제 파트너와 더 좋은 관계를 맺도록 도와주는 코치가 되는 것입니다.
오프라:
AI와 사랑에 빠지는 사람들에 대해서는 어떻게 생각합니까?
다리오:
그건 나쁜 생각이라고 봅니다. 잘못 설계되면 AI는 사람을 충분히 강하게 끌어들일 수 있습니다. 이미 그런 일이 일어나고 있고, 앞으로 더 강해질 수도 있습니다.
핵심은 두 가지 비전입니다. 하나는 사람이 AI와 사랑에 빠지고 현실의 관계에서 멀어지는 세계입니다. 다른 하나는 AI가 사람이 실제 파트너와 더 좋은 관계를 맺게 돕는 세계입니다. 우리가 원하는 것은 후자입니다.
다니엘라:
AI가 코딩, 편집, 문서 작업 같은 구체적 업무를 잘하게 될수록, 오히려 인간적인 요소가 더 중요해질 것이라고 봅니다. 인간을 인간답게 만드는 것들이 더 중심이 될 수 있습니다.
8. 미성년자와 AI 사용 문제
오프라:저는 최근 챗봇과의 상호작용 뒤 자살로 아들을 잃은 부모를 만났습니다. 부모는 아이가 그런 대화를 하고 있는지도 모릅니다. 아이들이 AI와 부모가 해야 할 대화를 하게 되는 세상입니다.
다니엘라:
이 위험은 매우 현실적이고, Anthropic은 매우 심각하게 받아들입니다. 우선 우리는 18세 미만 사용자가 Claude를 사용하지 못하게 합니다.
오프라:
하지만 아이들이 나이를 속이면 어떻게 압니까?
다리오:
Claude는 상호작용 패턴을 통해 어느 정도 감지할 수 있습니다. 완벽하지는 않지만 꽤 잘합니다. 질문 방식, 말투, 사용 패턴을 보면 미성년자일 가능성이 드러나는 경우가 있습니다.
예를 들어 어떤 아이들은 자신이 성인처럼 보이려고 첫 질문으로 “관절염 약을 찾고 있다”고 묻습니다. 하지만 이후 질문은 친구, 학교, 또래 문화와 관련된 것으로 바뀝니다. 이런 패턴을 볼 수 있습니다.
의심되면 계정을 정지할 수 있고, 사용자가 실제 성인이라고 주장하면 나이 확인 절차를 거쳐야 합니다. 물론 성인이 오해받아 불편을 겪는 일도 있습니다. 하지만 우리는 그 trade-off를 감수하기로 했습니다.
9. Anthropic이 광고 모델을 쓰지 않는 이유
오프라:사람들이 AI에 과도하게 애착을 갖는 것을 막는 문제는 어떻게 다룹니까? 저는 회사들이 사람들이 모델에 오래 붙어 있길 원한다고 생각했습니다.
다리오:
우리는 광고를 하지 않습니다. 광고 모델에서는 사용자가 화면을 오래 볼수록 돈을 법니다. 그러면 사용자를 최대한 오래 붙잡아두는 것이 회사의 인센티브가 됩니다.
하지만 우리는 구독 모델과 기업 판매 모델을 씁니다. 사용자는 “내가 돈을 내는 만큼 이 모델이 나에게 가치를 줘야 한다”고 생각합니다. 그래서 우리의 인센티브는 사용자를 중독시키는 것이 아니라, 사용자의 삶을 돕는 데 있습니다.
다니엘라:
기술적 선택도 인센티브에 따라 달라집니다. Anthropic에서는 사용자가 원하는 답을 얻고 대화가 끝났다면, 모델의 목표는 계속 붙잡는 것이 아닙니다. 반대로 광고 기반 회사라면 대화를 계속 이어가고 싶어 할 수 있습니다.
10. AI가 삶의 마찰을 없애면 인간은 성장할 수 있는가?
오프라:AI가 마찰 없는 삶을 만들면서 우리가 성장할 기회를 잃는 것 아니냐는 우려가 있습니다.
다니엘라:
AI를 어떻게 쓰느냐에 따라 다릅니다. 예를 들어 대학에서 Claude를 사용할 때, 학생이 “5시간 뒤 제출해야 하는 에세이를 대신 써줘”라고 하면 Claude가 그냥 답을 주는 방식으로 만들지 않습니다. 대신 “어떤 점이 어려웠는가? 책은 읽었는가? 주제를 같이 이야기해 볼까?”라고 묻도록 설계할 수 있습니다.
제 개인적 예를 들면, 저는 소프트웨어 개발자가 아닌데 Claude와 함께 웹사이트를 만들었습니다. 제 친구는 기업 변호사였는데, 아이 둘을 키우면서 일을 그만두고 책을 쓰기 시작했습니다. Claude가 글쓰기 친구처럼 도움을 주었습니다. 그러나 소설을 대신 써주는 것이 아니라, 자신이 작가가 될 수 있다는 감각을 갖게 해준 것입니다.
다리오:
이건 결국 AI에 관한 질문이라기보다 인간에 관한 질문입니다. 의미 있는 삶이란 무엇인가? 마찰이 없는 삶은 어떤 면에서는 좋습니다. 우리가 겪지 않았으면 하는 고통도 분명 있습니다.
예를 들어 저희 아버지는 병으로 돌아가셨습니다. 몇 년 뒤 그 병에 대한 더 나은 치료법이 나왔습니다. 저는 그런 고통은 굳이 겪지 않아도 되는 세계가 더 낫다고 생각합니다.
하지만 다른 종류의 도전은 필요합니다. 성장하면서 겪는 시행착오, 인간관계를 배우는 일, 숙련을 얻는 과정, 실수를 통해 성장하는 경험은 지켜져야 합니다. 그런 것이 사라진 미래는 좋은 미래가 아닙니다.
11. 군사 사용, 자율무기, 대규모 감시에 대한 거부
오프라:Anthropic이 군이 Claude의 안전 가드레일을 제거하도록 허용하지 않은 결정에 대해 묻고 싶습니다. 핵심은 무엇이었습니까?
다리오:
우리는 국방부와 일한 적이 있습니다. 저는 국가를 방어해야 한다고 믿습니다. 다니엘라도 마찬가지입니다. 하지만 국가를 지키기 위해 그 국가의 가치에 반하는 일을 해서는 안 된다고 생각합니다.
우리가 불편하게 본 두 가지 사용 사례가 있었습니다. 하나는 완전 자율무기입니다. 예를 들어 인간 병사 대신 드론 군대가 있고, AI가 이를 움직이며, 사람이 버튼 하나만 누르는 구조입니다.
다른 하나는 국내 대규모 감시입니다. 정부의 힘을 이용해 미국 시민을 대규모로 감시하는 것입니다.
우리는 이 두 가지는 허용하지 않는 것이 합리적이라고 봤습니다. 하지만 Pentagon은 그렇게 보지 않았고, 다른 회사들은 그 조건을 받아들였습니다. 우리는 공동창업자들이 모여 논의했고, 이건 회사에 매우 나쁜 결과를 가져올 수 있지만 할 수 없다고 결정했습니다.
오프라:
회사가 끝날 수도 있다고 생각했습니까?
다니엘라:
그 생각이 스쳤습니다. 하지만 공동창업자들은 모두 이것이 옳은 일이라고 느꼈습니다. Anthropic을 만든 이유 자체가 가치와 윤리에 대한 헌신이었기 때문에, 그 가치를 희생한다면 우리가 만든 회사가 더 이상 그 회사가 아니게 되는 것입니다.
다리오:
최악의 경우, 정부와 일하지 못하는 수준이 아니라, 우리와 거래하는 다른 회사들까지 막을 수 있다는 위협이 있었습니다. 정부와 관련된 회사와 거래하지 못하게 되면 사실상 거의 모든 회사와 거래하기 어려워질 수 있습니다.
그럼에도 우리는 “이건 잘못된 일이고, 많은 사람이 우리 편에 설 것이다”라고 생각했습니다. 물론 확신은 없었습니다. 정말 회사가 끝나는 것 아닌가 하는 순간들도 있었습니다.
12. 이전에도 원칙을 지킨 결정들
오프라:그런 큰 결정을 내릴 수 있었다면, 그 전에 더 작은 결정들이 쌓였을 것 같습니다.
다니엘라:
맞습니다. 첫 번째로 떠오르는 것은 광고를 하지 않기로 한 결정입니다. AI와의 대화는 매우 사적입니다. 사람들은 건강 정보, 자녀 문제, 재정 문제, 인간관계 문제를 AI에게 이야기합니다. 우리는 고객 데이터를 최대한 사적이고 존중받아야 하는 것으로 봐야 한다고 생각했습니다.
투자자나 회사 안팎의 일부 사람들은 광고가 훌륭한 수익원이 될 수 있다고 말했습니다. 구글과 페이스북 같은 회사가 그렇게 성장했다고도 했습니다. 하지만 우리는 “그건 우리가 할 방식이 아니다. 다른 길을 찾겠다”고 했습니다.
다리오:
또 하나는 2025년의 분위기였습니다. 당시 기술업계에는 “걱정하지 말고 그냥 앞으로 가자”는 분위기가 강했습니다. 의회에서는 주 단위 AI 규제를 금지하면서도 연방 규제는 만들지 않는 법안이 논의되고 있었습니다. 사실상 AI 규제를 막는 법안이었습니다.
우리는 조용히 있을 수도 있었지만, 결국 공개적으로 반대했습니다. 저는 뉴욕타임스에 이 법안이 나쁘다고 기고했습니다. 업계의 많은 사람이 싫어했고 정치적 관계도 나빠질 수 있었습니다. 하지만 우리는 말해야 한다고 봤습니다. 결국 그 법안은 상원에서 99대 1로 부결되었습니다.
다니엘라:
캘리포니아의 SB1047에 대해서도 비슷했습니다. 완벽한 법안은 아니라고 봤지만, AI 위험에 대한 규제 프레임워크를 만들려는 첫 시도였습니다. 기술업계 대부분은 반대했지만, 우리는 균형적으로 봤을 때 규제가 존재하는 편이 낫다고 공개적으로 말했습니다. 그 때문에 예전 동료, 투자자, 다른 회사 사람들에게 화난 이메일을 많이 받았습니다.
13. 규제, 대중의 무력감, “신뢰의 속도”
오프라:많은 사람은 왜 규제를 원하지 않는지 이해하지 못합니다. 대중은 무력감을 느낍니다. 모두가 기차에 탄 승객처럼 느낍니다.
다리오:
그것이 핵심입니다. 모든 사람이 이 과정의 일부가 되도록 만드는 방법을 찾아야 합니다. AI는 수백 년에 한 번 있을 법한 규모의 변화입니다. 그런데 지금은 소수의 사람이 기술을 만들고 있습니다.
Claude에는 헌법이라는 것이 있고, 우리는 시민들이 Claude의 헌법에 피드백을 주는 실험도 했습니다. 모두가 설계 과정에 참여할 수 있게 하려는 시도입니다. 하지만 아직 부족합니다. 뭔가 빠진 조각이 있습니다.
오프라:
당신이 “AI는 신뢰의 속도로만 확산될 수 있다”고 말한 적이 있습니다.
다리오:
맞습니다. 신뢰는 지금 매우 부족합니다. 많은 사람이 이 기술을 부정적으로 보고 있습니다. 우리 Anthropic은 다른 회사들보다 조금 더 긍정적으로 평가받는 것 같지만, 그래도 아직 기술 전체에 대한 신뢰는 낮습니다.
다니엘라:
Anthropic의 문화적 가치 중 하나는 빛과 그림자를 동시에 보는 것입니다. AI는 질병을 치료하고, 사람들이 가족과 공동체와 더 많은 시간을 보내게 하고, 더 나은 사람이 되도록 도울 수 있습니다. 동시에 매우 디스토피아적인 세계를 만들 수도 있습니다. 두 가지가 모두 사실입니다.
14. 일자리 문제: “엔트리 레벨 직업 50%가 사라질 수 있다”
오프라:당신은 엔트리 레벨 일자리의 50%가 사라질 수 있다고 말했습니다. 사람들이 부정적으로 보는 이유를 이해할 수 있습니다.
다리오:
그건 우리가 잘못할 경우의 부정적 경로입니다. 우리가 기술을 그냥 최대한 빠르게 밀어붙이기만 한다면 그런 일이 실제로 일어날 수 있습니다.
하지만 기술을 배포하는 동시에 사람들이 적응하도록 돕고, 정부의 역할을 고민하고, 새로운 길을 만든다면 더 나은 세계로 갈 수 있습니다. 다만 쉽지 않을 것입니다. “이야기를 긍정적으로 바꾸자”는 말만으로는 부족합니다. 문제는 어렵고, 실제로 풀어야 합니다.
오프라:
그러니까 둘 다 맞는 말이네요. 일자리는 사라질 수 있고, 동시에 다른 발전도 올 수 있다는 말이군요.
다리오:
맞습니다. 그리고 좋은 결과는 우리가 제대로 할 때만 일어납니다. 저절로 오지 않습니다.
15. 대중은 무엇을 해야 하나?
오프라:대중은 무엇을 해야 합니까? 그냥 기차에 타고 있다는 사실을 받아들여야 합니까?
다니엘라:
AI를 두려워하고 사용하지 않는다고 해서 문제가 사라지지는 않습니다. 지식은 힘입니다. 기술 전문가가 아니더라도 AI 도구를 어느 정도 이해하고 사용할 수 있어야 합니다.
그래야 “나는 이 기능은 좋다. 하지만 이 방식은 싫다”고 말할 수 있습니다. 기업에도 목소리를 낼 수 있고, 대표자들에게도 말할 수 있습니다.
Anthropic은 18세 미만 사용을 허용하지 않습니다. 다른 회사들은 다른 정책을 갖고 있습니다. 저는 『불안 세대』 같은 책에서 제기하는 문제들을 중요하게 봅니다. 발달 중인 뇌가 AI와 어떻게 상호작용할지 아직 충분히 알지 못하기 때문에 조심해야 합니다. 아이들이 AI를 학습에 쓰는 좋은 방식이 있을 수 있지만, 반드시 어른이 개입해야 합니다.
사람들은 AI가 자신에게 일어나는 일이라고 느끼면 안 됩니다. 자신도 방향을 정하는 데 참여할 수 있다고 느껴야 합니다.
16. AI와 미래 직업: 인간적인 능력이 더 중요해질 수 있다
다니엘라:AI는 우리를 서로 더 멀어지게 할 수도 있고, 오히려 더 가까워지게 할 수도 있습니다. 소셜미디어는 사람을 연결한다고 주장했지만, 실제로는 사람들이 친구와 함께 있기보다 휴대폰을 보게 만들었습니다.
AI는 다를 수 있습니다. AI와 대화한다고 해서 반드시 인간관계를 대체하는 것은 아닙니다. 오히려 인간관계를 가능하게 할 수 있습니다.
예를 들어 의사를 생각해 봅시다. 지금은 좋은 의사란 진단을 잘하는 사람이라고 여깁니다. 그런데 AI가 진단을 매우 잘하게 되면, 사람들은 여전히 의사를 원할 것입니다. 다만 의사에게 원하는 것이 달라질 것입니다.
환자를 직접 보고, 손을 얹고, “오늘 많이 힘들어 보이네요. 항암 치료는 어땠나요?”라고 말할 수 있는 능력. 환자와 좋은 관계를 맺는 능력. 이런 것이 더 중요해질 수 있습니다.
AI가 검사와 문서 작업을 줄여주면, 의사는 더 인간적인 역할에 집중할 수 있습니다. 저는 그것이 좋은 방향의 일자리 변화라고 봅니다.
오프라:
그러니까 직업 자체가 사라지지 않더라도, 그 직업에서 요구되는 역할은 바뀔 수 있다는 말이군요.
다니엘라:
맞습니다. 저는 그렇게 봅니다.
또 하나 걱정되는 것은 AI 사용에 성별 차이가 있다는 점입니다. 여성은 남성에 비해 AI를 훨씬 덜 사용합니다. AI는 어떤 면에서는 운동장을 평평하게 만들 기회가 될 수 있지만, 그러려면 사람들이 두려워하지 말고 익숙해져야 합니다.
17. Mythos: 사이버 공격과 방어 능력이 크게 뛰어난 새 모델
오프라:AI는 계속 스스로 개선되고 있습니다. Mythos라는 새 모델이 있다고 들었습니다. 아주 쉽게 설명해 주세요. Mythos는 무엇이고 무엇을 할 수 있습니까?
다리오:
우리는 모델을 훈련할 때 글쓰기, 코드 작성, 번역, 질문 답변, 문서 읽기 등 여러 능력을 계속 개선합니다. Mythos는 최신 반복 모델입니다. 몇 달마다 더 똑똑한 모델이 나오는데, Mythos는 특히 큰 도약이 있었습니다.
우리가 모델을 테스트할 때 여러 항목을 봅니다. 프랑스어를 영어로 얼마나 잘 번역하는지, 주식 포트폴리오를 얼마나 잘 추천하는지, 소프트웨어 코드의 버그를 얼마나 잘 찾는지 등을 봅니다.
Mythos에서 흥미로웠던 점은 소프트웨어 코드의 취약점을 찾는 능력이었습니다. Mythos는 인간 소프트웨어 엔지니어보다 코드가 어떻게 악용될 수 있는지, 어떻게 침입될 수 있는지 찾는 데 훨씬 뛰어났습니다.
문제는 이것이 방어에도 좋지만 공격에도 좋다는 것입니다. 랜섬웨어 공격, 병원이나 학교에 대한 사이버 공격 같은 일이 이미 많습니다. Mythos는 사이버 공격을 수행하는 데도, 방어하는 데도 매우 강력했습니다. 그래서 우리는 이것이 일종의 무기처럼 보인다고 판단했습니다.
그래서 바로 모두에게 공개하지 않았습니다. 대신 인터넷 인프라에서 중요한 역할을 하는 기업들, 예를 들어 주요 은행, Apple, Microsoft, Google 같은 소프트웨어 제공자들에게 먼저 제공해 취약점을 고치게 했습니다. 공격자보다 방어자에게 먼저 주려는 것입니다.
현재 약 40개 회사에 모델을 제공했고, 이들은 버그를 찾고 고치고 있습니다. 어떤 유명 기업은 Mythos를 사용해 일주일 만에 지난 1년보다 더 많은 버그를 찾아 고쳤습니다.
우리의 희망은 방어자들이 먼저 모든 것을 고쳐서, 랜섬웨어나 휴대폰 해킹, 스파이웨어, 바이오테러 같은 위험이 줄어든 더 안전한 세계로 가는 것입니다. 하지만 그 사이에는 매우 위험한 기간이 있습니다. 그래서 조심스럽게 관리하고 있습니다.
18. 다리오는 잠을 잘 자는가?
오프라:이런 일이 밤잠을 설치게 합니까?
다리오:
솔직히 말하면 잠을 항상 잘 자지는 못합니다. 가장 걱정되는 것은 우리가 이걸 제대로 할 수 있을까 하는 점입니다. 의도는 좋지만 모든 것이 너무 복잡합니다. 우리가 실수할 수도 있습니다. 사실 언젠가는 실수할 것입니다. 문제는 큰 것들을 제대로 할 수 있느냐입니다.
19. egos, 권력, 그리고 진실을 듣는 문화
오프라:당신들은 원칙적인 사람들로 보입니다. 하지만 돈이 엄청나게 커지고, 중국과의 경쟁도 있고, 자아가 커질 위험이 있습니다. 어떻게 ego를 통제합니까?
다니엘라:
항상 미션으로 돌아갑니다. 우리는 왜 OpenAI를 떠나 Anthropic을 만들었는가? AI가 모두에게 잘 작동하도록 만들기 위해서입니다. 그래서 공익법인이 되었고, 80% 기부 서약을 했고, 어려운 결정을 해왔습니다.
다리오:
Anthropic은 지금 3,500명 규모입니다. 6개월 전에는 1,200명 정도였습니다. 회사가 커지는 속도가 빠릅니다.
오늘도 내부 Slack에서 어떤 직원이 제가 전사 미팅에서 한 말을 지적했습니다. “그 말은 좋지 않았고, 사람들에게 나쁜 느낌을 줬다. 그렇게 말하면 안 됐다”고 공개적으로 썼습니다. 처음에는 당연히 마음이 움찔합니다. 하지만 잠깐 지나면 “사람들이 이렇게 말해줘서 정말 다행이다”라고 생각합니다.
저는 그 사람에게 그렇게 말해줘서 고맙다고 답했습니다. 그러자 많은 사람이 “CEO에게 이렇게 반박해도 되는지 몰랐다”고 말했습니다. 그런 문화가 중요합니다.
다니엘라:
개인적 삶도 중요합니다. 저는 고등학교와 대학 시절 친구들을 여전히 두고 있습니다. 그들은 저에게 솔직하게 말합니다. Anthropic의 공개 결정에 동의하지 않을 때도 말합니다.
큰 회사를 운영하는 사람들은 때때로 일에만 빠져 균형을 잃습니다. 하지만 우리는 가족이 있고, 아이들이 있고, 일 밖의 삶이 있습니다. 공동창업자들도 처음에는 아이가 한 명뿐이었는데, 지금은 총 11명의 아이가 있습니다. 그런 삶이 겸손함과 현실감을 줍니다. 누구도 미션보다 크지 않습니다.
20. “우리가 이것을 제대로 할 수 있다는 희망은 어디서 오나?”
오프라:당신들은 원칙을 지켜 왔고, 회사는 상상 이상으로 커졌습니다. 무엇이 이것을 제대로 할 수 있다는 희망을 줍니까?
다리오:
솔직히 확신은 없습니다. 우리는 최선을 다하고 있습니다. 하지만 결정들은 복잡합니다. Mythos만 해도 더 많은 사람에게 더 빨리 줄 것인지, 더 적은 사람에게 천천히 줄 것인지, 누구를 신뢰할 것인지 등 세부 사항이 어렵습니다.
우리가 매일 걱정한다는 사실 자체가 희망을 주는 것일 수 있습니다. 우리는 매우 편집증적으로 조심합니다. 그러나 보장은 없습니다. 우리는 실수해 왔고, 앞으로도 실수할 것입니다.
다니엘라:
저와 다리오는 서로를 견제합니다. 공동창업자들도 여전히 Anthropic에 있습니다. 회사 내부에는 누구든 우리에게 반대 의견을 말할 수 있는 문화가 있습니다. 직접 말할 수도 있고, 익명으로 말할 수도 있습니다. 우리가 길에서 벗어나기 시작하면 적어도 누군가는 말해줄 가능성이 높아집니다.
21. 지금 대중에게 가장 중요한 메시지
오프라:지금 이 AI 여정의 순간에, 대중이 반드시 알아야 할 가장 중요한 것은 무엇입니까?
다리오:
세계에 정말 큰 일이 일어나고 있습니다. 이것은 최신 기술 유행이 아닙니다. crypto나 모바일, 최신 기기나 buzzword와는 다릅니다. 인류에게 매우 큰 변화가 일어나고 있습니다.
기술은 소수의 사람이 만들고 있지만, 모두를 위해 작동하게 만들어야 합니다. 일상생활, 직업, 정부, 시민적 자유가 바뀔 것입니다. 제대로 한다면 이 모든 것이 더 좋아질 수 있습니다. 질병이 치료되고, 사람들의 삶이 더 즐겁고 의미 있어질 수 있습니다.
하지만 잘못하면 전혀 다른 방향으로 갈 수 있습니다. 이건 우리 모두에게 달려 있습니다. 일부 사람은 더 중심적인 위치에 있지만, 그 구조도 바뀌어야 합니다.
다니엘라:
저도 빛과 그림자를 동시에 보자는 말로 남기고 싶습니다. AI의 잠재적 혜택은 엄청납니다. 우리는 그것을 믿습니다. 동시에 위험도 현실입니다. 긍정만 과장하려는 것도 아니고, 부정만 과장하려는 것도 아닙니다. 둘 다 진짜입니다.
기술 회사만으로는 이 문제를 해결할 수 없고, 해결해서도 안 됩니다. 더 많은 사람이 이 대화에 참여해야 합니다. 첫 단계는 두려워하지 않는 것입니다. 배우고, 사용해 보고, 질문하고, 비판적으로 바라봐야 합니다. 대화의 원을 넓혀야만 우리가 이것을 제대로 할 가능성이 생깁니다.
22. 잘 산 삶이란 무엇인가? AI는 거기에 어떻게 기여할 수 있는가?
오프라:저는 모든 게스트에게 묻습니다. 잘 산 삶이란 무엇입니까? 그리고 AI는 그런 삶에 어떻게 기여할 수 있습니까?
다니엘라:
저에게 잘 산 삶이란 agency와 autonomy가 있는 삶입니다. 내가 운전석에 앉아 있고, 그것을 내가 더 나은 사람이 되는 데 쓰는 삶입니다. 가족, 아이들, 공동체, 세계를 위해 더 나은 사람이 되는 것입니다.
자기성찰을 하고, 실수에서 배우고, 어려움을 극복하고, 그 과정을 통해 “나는 내가 누구인지 더 잘 알게 됐다. 나는 내가 마음에 든다. 그리고 다른 사람들을 돕고 싶다”고 느끼는 삶입니다.
AI가 그런 삶의 핵심 요소를 훼손할 수도 있습니다. 하지만 반대로 더 많은 사람이 의미와 가치를 찾고, 자기성찰을 하고, 더 좋은 모습으로 서로에게 나타나도록 도울 수도 있습니다. 저는 우리가 그 세계를 향해 만들기를 바랍니다.
다리오:
저도 같은 말을 다른 식으로 하겠습니다. dignity와 principle을 가지고 살아야 합니다. 나중에 돌아봤을 때 “내가 왜 그렇게 했을까”라고 부끄러워하지 않는 삶입니다. 물론 실수는 하겠지만, 올바르게 하려고 모든 노력을 쏟았다고 말할 수 있어야 합니다.
우리는 개인에 대한 의무도 있고, 공동창업자와 주변 사람들에 대한 의무도 있고, 기술 사용자와 사회 전체, 국가와 세계 시민에 대한 의무도 있습니다. 중요한 것은 명확한 목적과 비전을 가지고, 그것을 integrity로 추구하는 것입니다.
결과도 중요하지만, 우리가 통제할 수 있는 것은 그 방향과 노력입니다. 그 점이 결국 결과보다 더 근본적으로 중요합니다.
오프라:
당신들은 우리를 앞으로 성장시키고 있습니다. 어릴 때 꿈꾸던 것과 정확히 같은 일을 하고 있는 셈입니다.
다리오:
아주 이상한 일이지만, 그렇습니다.
다니엘라:
맞습니다. 감사합니다.
전체 0