Dario Amodei는 "We'll solve AGI before we solve video conferencing"(우리가 비디오 컨퍼런싱 문제를 해결하기 전에 AGI를 해결할 것이다)라는 말을 인용했습니다.

이 말은 Anthropic 내에서 오랫동안 사용된 농담이라고 합니다. Amodei는 이것이 단순한 농담이 아니라 실제로 그렇게 될 수 있다고 생각한다고 말했습니다.

1. 약 100만 달러 규모의 모델: 우수한 대학 신입생 수준
2. 10억 달러 규모의 모델: 고학년 학부생 수준
3. 100억 달러 규모의 모델: 최고 수준의 대학원생 수준
4. 1000억 달러 규모의 모델: 노벨상 수상자 수준

스케일링 가설:

다리오는 "스케일링 가설"이라는 개념을 설명했습니다. 이 가설에 따르면, AI 모델이 더 커질수록(즉, 더 많은 데이터를 사용하고 더 복잡한 네트워크로 확장될수록) 그 성능이 계속해서 향상될 것이라고 주장했습니다. 예를 들어, 현재의 AI 모델이 대학 신입생 수준의 능력을 가지고 있다면, 더 큰 모델은 상위 대학원생 또는 노벨상 수상자 수준의 능력을 가질 수 있다고 예측합니다. 이 가설이 옳다면, AI는 다양한 산업과 학문에서 인간 전문가를 능가하는 능력을 가지게 될 것이며, 이러한 AI 모델들은 경제, 국가 안보, 생물학 등 여러 분야에서 중요한 역할을 하게 될 것입니다.

발전 속도:
- 스케일링 법칙이 계속된다면 변화가 매우 빠르게 일어날 수 있음
- 생물학 분야에서 20세기에 이룬 모든 진보를 AI를 통해 5-10년 안에 압축적으로 이룰 수 있을 것으로 전망

구글의 역할과 AI 발전:

다리오는 구글이 AI 기술 발전에 있어 매우 중요한 역할을 했다고 언급했습니다. 특히, 구글이 딥러닝과 트랜스포머(Transformer) 모델을 개발한 것을 강조했지만, 구글이 이 기술을 완전히 상업화하는 데 성공하지는 못했다고 평가했습니다. 구글의 사례는 대규모 조직이 혁신적인 기술을 개발할 수 있지만, 그 기술을 시장에서 성공적으로 활용하는 데는 한계가 있을 수 있음을 보여줍니다. 이러한 맥락에서, 구글은 AI 연구의 "벨 연구소"와 비슷한 역할을 했다고 할 수 있습니다.

위험과 우려사항:
- AI 시스템의 자율적 행동이 현재는 큰 문제가 아니지만, 에이전트를 만들고 시스템이 자율적이 되면 우려됨
- 모델의 오용과 확산에 대한 우려
- 민주주의 vs 독재 체제에서의 AI 발전 차이에 대한 우려

예측의 불확실성:
- 스케일링 법칙이 지속될 것이라는 확신은 60-40 또는 70-30 정도
- 지난 10년간의 관찰을 바탕으로 한 추측일 뿐, 언제든 멈출 수 있음

규제와 안전:
- SB 1047 법안에 대해 일부 우려가 있지만 대체로 긍정적인 입장
- 책임있는 스케일링 계획의 중요성 강조

AI의 생물학 연구 가속화:
"could could we have like a kind of a compressed 21st century right could we make all the progress in biology that we were going to make in the 21st century using you know AI by you know kind of speeding things up 10x"
21세기에 이루어질 생물학적 진보를 AI를 통해 10배 속도로 압축해 이룰 수 있을 것이라는 전망을 제시했습니다.

AI 모델의 '외계인' 같은 특성:
"when we deploy AI systems they're alien they make mistakes that sometimes are hard to understand they they get things right that no human would get right but sometimes they make mistakes that no humans would make"
AI 시스템이 때로는 인간이 이해하기 힘든 실수를 하거나, 인간이 맞출 수 없는 것을 맞추는 등 '외계인' 같은 특성을 보인다고 언급했습니다.

AI와 국제 경쟁:
"if we take seriously this hypothesis about how powerful the AI models are going to be um you know they're they're really power powerful enough to shift perhaps single-handedly shift you know the balance of power on the international stage"
AI 모델이 국제 무대에서 힘의 균형을 단독으로 바꿀 만큼 강력해질 수 있다고 말했습니다.

AI와 비교 우위:
"comparative advantage is still going to be really important so I think even if we had our you know our like Co you know all if if AIs were much better than humans at coding you know or even you know better than humans at at at biology it's just surprising even if even if some small fraction of the task continues to be done by humans"
AI가 인간보다 뛰어나더라도, 인간의 비교 우위가 여전히 중요할 것이라고 예측했습니다.

AI와 동물 보호:
"hopefully you know we we've created some general principle of you know you should be kind to like less powerful beings and so it means that you know humans should be kind to rabbits and horses and AI should be kind to humans"
AI가 발전하면서 더 약한 존재에 대한 친절함의 원칙이 확장되어, AI가 인간에게, 인간이 동물에게 친절해야 한다는 원칙이 생길 수 있다고 언급했습니다.

새로운 기술의 발견 속도:
CRISPR 기술이 발견되기까지 30년이 걸렸다는 점을 언급하며, AI가 이러한 혁신적 기술들의 발견 속도를 10배에서 100배까지 높일 수 있다고 예측했습니다.

AI의 생물학적 응용:
AI가 생물학 분야에 적용되면 질병 치료와 인간 수명 연장에 큰 진전이 있을 것이라고 예측했습니다.

경제 성장:
AI로 인해 선진국에서 두 자릿수 GDP 성장이 가능할 수 있다고 언급했습니다.