뉴스/정보
Anthropic "앞으로 2년 동안 훨씬 더 드라마틱 발전이 일어날 것"
작성자
하이룽룽
작성일
2026-03-11 19:53
조회
13
https://www.anthropic.com/news/the-anthropic-institute
우리는 앞으로 2년 동안 훨씬 더 극적인 발전이 이어질 것(We predict that far more dramatic progress will follow in the next two years.)이라고 예측한다. 우리 회사의 핵심 신념 중 하나는 AI 발전이 가속되고 있으며, 우리가 만드는 개선이 시간이 지날수록 서로 누적(compounding)된다는 것이다. 이러한 이유로, 우리 CEO 다리오 아모데이가 Machines of Loving Grace에서 설명한 것과 같은 극도로 강력한 AI는 많은 사람들이 생각하는 것보다 훨씬 더 빨리 등장할 것이다. (Because of this, extremely powerful AI, like the kind our CEO Dario Amodei describes in Machines of Loving Grace, is coming far sooner than many think.)
만약 이것이 맞다면, 사회는 곧 여러 가지 거대한 도전에 직면하게 될 것이다.
강력한 AI 시스템은 우리의 일자리와 경제를 어떻게 재편할 것인가?
사회적 회복력(societal resilience)을 높일 어떤 새로운 기회를 제공할 것인가?
어떤 위협을 증폭시키거나 새롭게 만들어낼 것인가?
AI 시스템이 표현하는 “가치(values)”는 무엇이며, 기업들이 어떤 가치가 적절한지 결정하도록 사회는 어떻게 도울 것인가?
그리고 AI 시스템의 재귀적 자기개선(recursive self-improvement)이 실제로 시작된다면, 그 사실을 누가 알게 되어야 하며, 이러한 시스템은 어떻게 통제되고 거버넌스되어야 하는가?
Anthropic Institute의 목표는 우리가 프런티어 AI 시스템을 구축하면서 이러한 도전들에 대해 무엇을 배우고 있는지 세상에 알리는 것, 그리고 우리가 직면해야 할 위험을 해결하는 데 외부 사회와 협력하는 것이다. 우리 사회가 이러한 문제들을 해결할 수 있는지 여부가 변혁적 AI(transformative AI)가 과학, 경제 발전, 그리고 인간의 역량 확장에서 우리가 믿는 급진적인 긍정적 가능성(radical upsides)을 실제로 가져올지 결정하게 될 것이다.
이 연구소는 공동 창업자 Jack Clark이 이끌며, 그는 Anthropic의 Public Benefit 책임자(Head of Public Benefit)라는 새로운 역할을 맡게 된다. 연구소에는 머신러닝 엔지니어, 경제학자, 사회과학자로 구성된 학제적 팀이 참여하며, Anthropic의 세 연구팀을 통합하고 확장한다.
이 연구소는 독특한 관점을 가지고 있다. 그것은 최첨단 AI 시스템을 만드는 사람들만이 접근할 수 있는 정보에 접근할 수 있기 때문이다. 연구소는 이러한 정보를 최대한 활용해 우리가 만들고 있는 기술의 실제 모습에 대해 솔직하게 보고할 것이다.
동시에 연구소는 양방향 소통(two-way street)을 지향한다.
일자리 대체(displacement)를 겪고 있는 노동자와 산업, 그리고 다가오는 미래를 느끼고 있지만 어떻게 대응해야 할지 모르는 사람들과 공동체와도 적극적으로 소통할 것이다. 우리가 배우는 내용은 연구소가 무엇을 연구할지, 그리고 우리 회사 전체가 어떤 방식으로 행동할지에 영향을 줄 것이다.
Anthropic Institute는 다음과 같은 초기 핵심 인력을 영입했다.
Public Policy 팀은 Anthropic이 우선순위와 관점을 정한 영역을 다룬다. 여기에는 다음과 같은 주제가 포함된다.
우리는 전 세계 AI 거버넌스를 형성하고 지원하기 위해 Public Policy 팀을 확대하고 있다.
올봄에는 워싱턴 DC에 첫 번째 사무소를 개설하며, 글로벌 정책 활동도 빠르게 확대하고 있다.
우리는 앞으로 2년 동안 훨씬 더 극적인 발전이 이어질 것(We predict that far more dramatic progress will follow in the next two years.)이라고 예측한다. 우리 회사의 핵심 신념 중 하나는 AI 발전이 가속되고 있으며, 우리가 만드는 개선이 시간이 지날수록 서로 누적(compounding)된다는 것이다. 이러한 이유로, 우리 CEO 다리오 아모데이가 Machines of Loving Grace에서 설명한 것과 같은 극도로 강력한 AI는 많은 사람들이 생각하는 것보다 훨씬 더 빨리 등장할 것이다. (Because of this, extremely powerful AI, like the kind our CEO Dario Amodei describes in Machines of Loving Grace, is coming far sooner than many think.)
만약 이것이 맞다면, 사회는 곧 여러 가지 거대한 도전에 직면하게 될 것이다.
강력한 AI 시스템은 우리의 일자리와 경제를 어떻게 재편할 것인가?
사회적 회복력(societal resilience)을 높일 어떤 새로운 기회를 제공할 것인가?
어떤 위협을 증폭시키거나 새롭게 만들어낼 것인가?
AI 시스템이 표현하는 “가치(values)”는 무엇이며, 기업들이 어떤 가치가 적절한지 결정하도록 사회는 어떻게 도울 것인가?
그리고 AI 시스템의 재귀적 자기개선(recursive self-improvement)이 실제로 시작된다면, 그 사실을 누가 알게 되어야 하며, 이러한 시스템은 어떻게 통제되고 거버넌스되어야 하는가?
Anthropic Institute의 목표는 우리가 프런티어 AI 시스템을 구축하면서 이러한 도전들에 대해 무엇을 배우고 있는지 세상에 알리는 것, 그리고 우리가 직면해야 할 위험을 해결하는 데 외부 사회와 협력하는 것이다. 우리 사회가 이러한 문제들을 해결할 수 있는지 여부가 변혁적 AI(transformative AI)가 과학, 경제 발전, 그리고 인간의 역량 확장에서 우리가 믿는 급진적인 긍정적 가능성(radical upsides)을 실제로 가져올지 결정하게 될 것이다.
이 연구소는 공동 창업자 Jack Clark이 이끌며, 그는 Anthropic의 Public Benefit 책임자(Head of Public Benefit)라는 새로운 역할을 맡게 된다. 연구소에는 머신러닝 엔지니어, 경제학자, 사회과학자로 구성된 학제적 팀이 참여하며, Anthropic의 세 연구팀을 통합하고 확장한다.
- Frontier Red Team: AI 시스템을 스트레스 테스트하여 현재 능력의 최외곽 한계를 이해하는 팀
- Societal Impacts: AI가 현실 세계에서 어떻게 사용되고 있는지 연구하는 팀
- Economic Research: AI가 일자리와 경제 전반에 미치는 영향을 추적하는 팀
이 연구소는 독특한 관점을 가지고 있다. 그것은 최첨단 AI 시스템을 만드는 사람들만이 접근할 수 있는 정보에 접근할 수 있기 때문이다. 연구소는 이러한 정보를 최대한 활용해 우리가 만들고 있는 기술의 실제 모습에 대해 솔직하게 보고할 것이다.
동시에 연구소는 양방향 소통(two-way street)을 지향한다.
일자리 대체(displacement)를 겪고 있는 노동자와 산업, 그리고 다가오는 미래를 느끼고 있지만 어떻게 대응해야 할지 모르는 사람들과 공동체와도 적극적으로 소통할 것이다. 우리가 배우는 내용은 연구소가 무엇을 연구할지, 그리고 우리 회사 전체가 어떤 방식으로 행동할지에 영향을 줄 것이다.
Anthropic Institute는 다음과 같은 초기 핵심 인력을 영입했다.
- Matt Botvinick
예일대 로스쿨 연구원이며, 이전에는 Google DeepMind 연구 총괄과 프린스턴대 신경 계산 교수였다.
그는 AI와 법치(rule of law) 연구를 이끌 예정이다. - Anton Korinek 버지니아 대학교 경제학 교수직에서 휴직하고 합류하여, 변혁적 AI가 경제 활동의 본질 자체를 어떻게 바꿀 수 있는지 연구하는 프로젝트를 이끌 예정이다.
- Zoë Hitzig 이전에 OpenAI에서 AI의 사회적·경제적 영향을 연구했으며, 경제 연구와 모델 학습·개발을 연결하는 역할을 맡게 된다.
Anthropic의 공공 정책 팀 확대
Anthropic Institute 출범과 함께 우리는 Public Policy 조직도 확장하고 있다.Public Policy 팀은 Anthropic이 우선순위와 관점을 정한 영역을 다룬다. 여기에는 다음과 같은 주제가 포함된다.
- 모델 안전성과 투명성
- 에너지 요금 납부자 보호
- 인프라 투자
- 수출 통제
- AI 분야에서의 민주주의적 리더십
우리는 전 세계 AI 거버넌스를 형성하고 지원하기 위해 Public Policy 팀을 확대하고 있다.
올봄에는 워싱턴 DC에 첫 번째 사무소를 개설하며, 글로벌 정책 활동도 빠르게 확대하고 있다.
전체 0