이 영상은 BoxWorks 2024에서 진행된 Anthropic의 공동 창업자이자 CEO인 Dario Amodei와의 대담을 담고 있습니다. 주요 내용을 요약하면 다음과 같습니다:

 

1. AGI(인공 일반 지능)에 대한 관점

- Dario는 AGI를 별개의 목표로 보지 않고, 지속적으로 발전하는 과정으로 봄

- 중요한 이정표는 AI가 전문적인 업무(금융, 법률, 의료, 프로그래밍 등)를 신뢰할 만한 수준으로 수행할 수 있게 되는 시점

 

2. 코딩 능력의 발전

- 코딩은 가장 빠르게 발전하는 분야 중 하나

- S-bench 테스트에서 2024년 1월 3%에서 최신 Claude 3.5 Sonnet으로 50%까지 향상됨

 

3. Anthropic의 설립 배경

- OpenAI 시절의 경험을 바탕으로 설립

- 큰 모델, 많은 데이터, 높은 연산력이 다양한 작업을 수행할 수 있다는 "스케일링 가설" 지지

- AI 모델의 "조향(steering)"의 중요성 강조

 

4. AI 발전 전망

- 데이터 확보에 대해 낙관적임

- 고품질 데이터, 합성 데이터 활용 가능성 강조

- 모델의 속도, 비용, 품질 면에서 지속적인 발전 예상

 

5. AI와 일자리

- 단기적으로는 일자리 대체보다 생산성 향상에 초점

- AI와 인간의 상호보완적 관계 강조

- 생산성 향상으로 인한 새로운 기회 창출 예상

 

6. "압축된 21세기" 개념

- AI로 인해 향후 100년간의 과학기술 발전이 5-10년 안에 이뤄질 수 있다는 전망

- 특히 의료/생물학 분야에서 암, 알츠하이머 등 난치병 치료 가능성 기대

 

상세

1. AI 모델의 현재와 발전 방향

- 현재 Anthropic의 모델 라인업:

* Haiku: 가장 작고 빠른 모델, 비용 효율적

* Sonnet: 중간 크기의 모델

* Opus: 가장 크고 똑똑한 모델

- 흥미로운 점: 최신 Haiku 3.5는 이전 Opus 3와 비슷한 성능 보유

- 지속적인 성능 향상: 작은 모델이 이전 큰 모델의 성능을 따라잡는 패턴

 

2. 데이터 확보 전략

- 세 가지 주요 접근법:

* 고품질 데이터 수집: SEO나 반복적 콘텐츠가 아닌 실제 지식 포함

* 합성 데이터 생성: 알파고 제로처럼 자체 학습으로 데이터 생성

* 새로운 방법론: 추론 기반 모델 등 개발

 

3. 기업에서의 AI 도입

- 현재 상황:

* 소비자 시장보다 기업 시장이 더 늦게 성장 중

* 신뢰성과 제어 가능성이 주요 과제

* 스타트업이 먼저 채택, 대기업으로 확산 중

- 예측:

* 기업용 AI 시장이 소비자 시장을 추월할 것으로 전망

* 신뢰성, 정확성, 추론 능력 문제가 매월 개선되는 중

 

4. AI와 일자리의 관계

- 경제적 영향:

* 비교우위 원칙에 따라 업무 재분배 예상

* AI가 업무의 90%를 수행해도 나머지 10%가 새로운 형태의 일자리로 확장

* 단순 대체보다 보완적 사용 시 더 높은 생산성 향상 확인

- 시장 역학:

* 경쟁으로 인해 생산성 향상분을 재투자하게 됨

* 의료 등 수요가 무한한 분야에서 새로운 기회 창출

 

5. "압축된 21세기" 전망

- 과학기술 발전:

* 100년치 발전이 5-10년 안에 이뤄질 가능성

* 특히 생물학, 의료 분야에서 혁신적 발전 예상

- 질병 치료:

* 암, 알츠하이머 등 복잡한 질병 치료 가능성

* 현재 난치병들이 과거의 페스트처럼 극복 가능할 것

 

6. AI 사용의 현재 한계와 가능성

- 코딩 분야:

* 가장 빠른 발전을 보이는 영역

* 즉각적인 검증이 가능해 신뢰도 높음

- 글쓰기 분야:

* 현재 AI는 최종 품질에서 한계 있음

* 아이디어 생성과 사고 과정 보조 도구로 유용

 

7. 기타 중요한 통찰

- AI 발전은 단순한 확장이 아닌 정교한 "조향" 필요

- 신뢰성과 예측 가능성이 기업 도입의 핵심 요소

- API 사업이 다른 경쟁사보다 빠르게 성장 중

 

추가예측

1. 전문 업무 수행 능력

- 향후 2년 내에 다양한 전문 분야에서 신뢰할 만한 수준의 업무 수행이 가능해질 것

- 대상 분야:

* 금융

* 법률

* 의료/생명공학

* 보험

* 생산성 소프트웨어

* 프로그래밍

- 각 분야가 동시에 발전하지는 않지만 순차적으로 발전할 것으로 예상

 

2. 알고리즘 발전 방향

- 과거 AI 연구진들의 가설:

* 2017년경에는 "올바른 아키텍처의 발견"이 핵심이라 생각

* 딥러닝이 막다른 길일 수 있다고 보는 시각도 있었음

- 현재는 스케일링이 핵심이라는 인식이 지배적:

* 더 큰 모델

* 더 많은 데이터

* 더 높은 연산력

 

3. 기업용 AI의 미래

- 현재는 소비자 시장이 앞서있지만, 기업 시장이 더 빠르게 성장할 것

- 발전 단계:

* 제한적인 배포로 시작

* 신뢰성 검증 후 확장

* 스타트업이 선도하고 대기업이 뒤따르는 패턴

 

4. 모델 성능 향상의 지속성

- 성능 향상이 멈추지 않을 것으로 예상

- 매달 새로운 릴리스로 다음 문제들이 개선될 것:

* 환각 현상

* 신뢰성

* 정확도

* 추론 능력

 

5. 데이터 측면의 발전

- 고품질 데이터 확보 가능성에 대해 낙관적

- 새로운 데이터 소스 발굴 예상

- 합성 데이터의 중요성 증가

- 자가 학습을 통한 발전 가능성

 

이 인터뷰에서는 대체로 AI 발전에 대해 낙관적인 전망을 제시하고 있으며, 특히 실용적인 측면에서의 발전 가능성을 강조하고 있습니다. AGI와 같은 추상적인 목표보다는 구체적인 업무 수행 능력의 향상에 초점을 맞추고 있는 것이 특징적입니다.

 

"I think a milestone that's pretty important is you know when can models reliably do professional work you know of of the kind that that many of your companies do right when when can you go to a model and have it do not necessarily you know complete jobs but but you know reasonable reasonable tasks at at you know at a level where a professional would look at it and say you know this is this is this is up to this is up to Snuff I trust it in finance in legal in biomedical in areas like insurance and productivity software uh in programming uh and and I think you know not all those things will happen at once but I but I think we're maybe at the start of a two-year period where we're going to pass successively all of those thresholds"

 

주요 포인트:

- 모든 일이 한번에 이뤄지지는 않을 것

- 앞으로 2년 동안 각각의 분야에서 순차적으로 전문가 수준의 임계점을 통과할 것으로 예상

- 완전한 직무 수행이 아닌, "합리적인 수준의 작업"이 가능해질 것

- 전문가가 봤을 때 "이 정도면 괜찮다"고 신뢰할 수 있는 수준을 의미