"내년이나 2년 안에 볼 것으로 기대하는 마지막 것은 우리가 지금까지 본 세계에서 행동하는 에이전트 모델"

"지금까지 많은 에이전트 인스턴스화를 보았지만 정말 강력한 것을 본 적이 없다고 생각하고 정말 강력한 것을 얻는 것이 중요하다고 생각합니다."

1. 향후 1-2년 내에 자율 에이전트가 중요한 AI 발전 영역이 될 것으로 예상됩니다.

2. 현재까지는 강력한 자율 에이전트가 등장하지 않았지만, 추가적인 모델 규모 확장과 새로운 기술이 필요할 것으로 보입니다.

3. 자율 에이전트는 물리적 세계와 상호작용하고 컴퓨터나 휴대폰 등의 인터페이스를 통해 자율적으로 행동할 수 있게 될 것입니다.

4. 이는 상당한 위험을 수반할 수 있어 정책과 완화 전략이 필요할 것입니다.

5. 자율 에이전트가 효과적으로 작동하려면 개별 작업의 오류율이 매우 낮아야 합니다. 이를 위해서는 모델의 규모 확장과 신뢰성 향상 기술이 필요합니다.

6. 인간의 개입 여부와 정도는 아직 해결되지 않은 문제입니다. 완전 자동화는 매력적이지만 보안 및 신뢰 문제를 고려해야 합니다.

7. 클라우드 인프라와 같은 주변 시스템이 에이전트의 능력을 제한하고 안전을 보장하는 데 중요한 역할을 할 것입니다.

2-3년 후에는 기업들이 자율 에이전트와 관련된 위험에 대해 질문하기 시작할 것이라는 언급

개별 단계의 오류율이 매우 낮아야하기 때문에 모델은 더 안정적이어야하며 그 중 일부는 에이전트가 실제로 작동하기 전에 한두 세대의 규모가 더 필요한 것처럼 규모에서 비롯 될 것이라고 생각합니다.

그 중 또 다른 부분은 앤트로픽이 전문화 한 이러한 신뢰성 기술에서 비롯 될 것이라고 생각합니다. 우리는 안전 또는 신뢰성 기술을 알고있는 것처럼 생각하지만 실제로는 이러한 장기적인 Horizon 작업을 가능하게하는 원동력이라고 생각합니다.