https://www.ft.com/content/e75e3388-4700-413d-ab67-778410c2d977

MM: 인공 일반 지능, 즉 초지능 AI를 내다보면서, 당신은 그 시스템을 어떻게 생각하십니까? 다음 돌파구를 마련하기 위해 새로운 아이디어가 필요합니까? 아니면 반복적일까요?

다리오: 저는 혁신이 이러한 산업 확장과 공존할 것이라고 생각합니다. 매우 강력한 AI에 도달하는 것은 한 가지 요점이 있다고 생각하지 않습니다. 우리는 시간이 지남에 따라 점점 더 많은 기능을 갖춘 시스템을 갖게 될 것입니다. 제 견해는 우리가 기본적으로 올바른 길을 가고 있으며 몇 년 이상 걸릴 것 같지 않다는 것입니다. 그리고 네, 그것은 지속적이지만 빠르게 진행될 것입니다.

스케일링에 대한 Amodei의 주요 견해:

1. 스케일링 법칙에 대한 관점
- 10년간 스케일링 법칙을 연구해왔으며, 현재 나타나는 현상은 특별하지 않다고 주장
- 많은 사람들이 모호한 데이터를 과대 해석하고 있다고 지적

2. 스케일링 법칙의 실제 의미
- 단순히 모델을 크게 만든다고 성능이 좋아지는 것이 아님
- 다음 조건들이 충족될 때 모델이 지속적으로 향상됨:
- 모델 크기와 데이터가 비례적으로 증가
- 엔지니어링 프로세스가 잘 작동
- 데이터 품질이 일정하게 유지

3. 데이터 한계 극복 방안
- 자연 데이터가 부족해질 때 합성 데이터 활용
- AlphaGo Zero를 예시로 들며 합성 데이터의 효과성 언급
- 모델에게 자기성찰을 가르치는 추론 방법 활용

4. 비용 관련 문제
- 모델 개발 비용이 증가하고 있으나, 각 모델의 수익도 증가
- 예시로 든 가상의 경우:
- 2023년 모델: 비용 1억 달러, 수익 3억 달러
- 2024년 모델: 비용 10억 달러, 수익은 2025년에 발생
- 모델 학습과 수익 창출 사이의 시차로 인해 단기적 수익성 평가는 부적절할 수 있음

Amodei는 현재 관찰되는 스케일링 한계나 정체현상이 이전에도 여러 번 있었던 일반적인 현상이며, 스케일링 법칙 자체가 반증된 것은 아니라고 강조했습니다.

AI의 실질적 혜택과 비전
1. AI 혜택 논의의 현재 문제점
- 기존의 AI 혜택 설명이 너무 모호하거나 극단적("우리 모두 클라우드에 업로드될 것이다" 등)
- 구체적이고 실현 가능한 혜택 설명이 부족했다고 지적
- 실제로 사람들이 살고 싶어하는 좋은 세상이 어떤 것인지 구체적 비전 필요

2. 주요 집중 분야
- 생물학과 경제 발전을 최우선 분야로 선정
- 암과 알츠하이머 같은 복잡한 질병 연구에 AI 활용 가능성 강조
- 선진국의 발명품들이 아직 전파되지 않은 개발도상국에서의 활용 가능성 강조

기술적 발전과 현황
1. 2025년 주력 연구 방향
- 기계적 해석가능성(mechanistic interpretability) 연구: AI 모델 내부의 블랙박스 이해
- 생물학 분야 AI 응용: 제약회사, 바이오테크 스타트업과 협력

2. Sonnet 3.5 모델의 혁신
- 고급 프로그래머들도 실제로 도움을 받을 수준으로 발전
- Artifacts 도구를 통한 대화형 개발 가능
- 사용자와 AI 시스템 간의 협력적 개발 지원

3. 새로운 기능과 도전과제
- Computer Use 기능: AI가 직접 컴퓨터를 제어하고 작업 수행
- AI 에이전트 개발에서 안전성과 신뢰성이 핵심 과제
- 2025년까지 신뢰할 수 있는 AI 에이전트 출시 예상

이 방향으로 많은 진전이 있을 것이고 관련 제품들이 나올 것이지만 이는 이진법적인(완전히 신뢰/불신뢰) 문제가 아니라고 강조
AI 시스템이 충분히 똑똑하지 않거나, 자율적이지 않거나, 신뢰할 만큼 안정적이지 않아서 맡기지 못하는 작업들이 항상 존재할 것

사업 운영과 재정
1. 비즈니스 모델
- API를 통한 기업 고객 대상 서비스가 주 수익원
- 모델 개발 비용은 증가하지만 수익도 함께 증가
- 모델 학습과 수익 창출 사이에 시차 존재

2. 대형 기술 기업과의 관계
- Amazon 등 대형 기술 기업들의 투자와 인프라 필요
- 회사의 핵심 가치와 통제권은 유지
- Long-term benefit trust를 통한 독립적 의사결정 구조 확보

국가 안보와 AI
1. 미 국방부 협력
- 수익이 아닌 민주주의 국가들의 기술 우위 확보가 목적
- 중국, 러시아 등 경쟁국과의 기술 격차 유지 중요
- AI의 군사적 활용에 대한 신중한 접근 강조

2. AI 발전의 미래
- AGI는 단계적으로 발전할 것으로 예상
- 현재 기술 방향이 올바르며 몇 년 내 중요한 진전 기대
- 데이터 부족 문제는 합성 데이터로 해결 가능

이러한 인터뷰 내용은 AI 기술의 발전 방향과 실제 적용, 그리고 이에 따른 사회적 영향에 대한 Anthropic의 비전을 잘 보여주고 있습니다.