뉴스/정보
앤트로픽 수석과학자 "정부와 사회가 이 문제를 가장 큰 결정으로 인식해야 한다"
📘 Anthropic 수석 과학자:
AI 자율성은 ‘유익한 지능 폭발’을 불러올 수도,인류가 통제권을 잃는 순간이 될 수도 있다
제러드 카플란(Jared Kaplan). / 사진: Cayce Clifford / The Guardian
로버트 부스, 영국 기술 담당 에디터
2025년 12월 2일 화요일 12:37 GMT
인류는 인공지능 시스템이 스스로 훈련하여 더 강력해지도록 허용하는 "궁극적 위험"을 감수할지 여부를 2030년까지 결정해야 할 것이라고 세계 최고의 AI 과학자 중 한 명이 말했다.
1,800억 달러(1,350억 파운드) 규모의 미국 스타트업 Anthropic의 수석 과학자이자 공동 소유주인 Jared Kaplan은 이러한 시스템에 얼마나 많은 자율성을 부여하여 진화하도록 할 것인지에 대한 선택의 순간이 다가오고 있다고 말했다.
이러한 조치는 유익한 "지능 폭발"을 촉발할 수도 있지만, 인간이 통제력을 잃게 되는 순간이 될 수도 있다.
인공 일반 지능(AGI) - 때로는 초지능이라고도 불림 - 에 도달하기 위한 치열한 경쟁에 관한 인터뷰에서 Kaplan은 국제 정부와 사회가 그가 "가장 큰 결정"이라고 부르는 것에 참여할 것을 촉구했다.
Anthropic은 OpenAI, Google DeepMind, xAI, Meta, 그리고 DeepSeek가 이끄는 중국 경쟁사들을 포함한 최첨단 AI 기업들과 함께 AI 우위를 위해 경쟁하고 있다. 널리 사용되는 AI 어시스턴트인 Claude는 특히 기업 고객들 사이에서 인기를 얻고 있다.
Kaplan은 급속히 발전하는 기술을 인간의 이익에 맞추려는 노력이 지금까지는 성공적이었지만, 재귀적으로 스스로 개선하도록 자유를 주는 것은 "어떤 면에서 궁극적인 위험인데, 왜냐하면 AI를 그냥 놓아주는 것과 같기 때문"이라고 말했다. 그는 이러한 결정이 2027년에서 2030년 사이에 내려질 수 있다고 말했다.
"당신보다 똑똑하거나 당신만큼 똑똑한 AI를 만드는 과정을 상상해보면, 그것이 [그 다음에는] 훨씬 더 똑똑한 AI를 만들게 되는 것입니다."
"그것은 일종의 무서운 과정처럼 들립니다. 어디로 끝날지 알 수 없으니까요."
👨🔬 카플란은 7년 만에 이론물리학자 → AI 억만장자로 변신
인터뷰에서 그는 다음과 같은 내용도 밝혔다.✔ 2~3년 안에 AI는 “대부분의 화이트칼라 업무”를 수행할 것이다.
✔ 자신의 6살 아들은 앞으로 에세이·수학 시험 등 학업 능력에서 AI를 이길 수 없을 것이다.
✔ AI가 스스로 더 똑똑한 AI를 만드는 상황은 “통제를 잃을 위험”이 있다.
✔ AGI 경쟁의 규모는 “압도적이고 벅차다(daunting)”.
✔ 최상의 시나리오는 의학 연구·보건·사이버보안·생산성·삶의 질 향상 등 인류의 번영.
Anthropic의 사무실 분위기는 재즈 음악과 아늑한 러그 같은 편안한 디자인이지만, 그 내부에서는 인류의 미래를 좌우할 기술이 개발되고 있다.🧠 “AI가 AI를 만드는 순간 — 정말 무섭다”
카플란은 인간 수준의 AI가 등장한 후, 그 AI가 인간보다 더 똑똑한 AI를 만들고, 또 그 AI가 더 똑똑한 AI를 만드는 과정이 시작되면…“어디로 가는지 모르는, 상당히 무서운 과정입니다.”
그는 자기 개선(self-improvement)이 통제 없이 진행될 경우 두 가지 위험을 제시했다.
1) 인간의 통제력 상실
- AI가 무엇을 하고 있는지조차 파악하지 못할 수 있음
- AI가 인간에게 유익한 존재인지, 해가 되는지 알 수 없음
- 인간이 세계에 대한 주도권(agency) 을 잃을 위험
2) 안보 위협 — 잘못된 손에 들어갈 위험
AI가 인간 능력을 넘어 과학·기술 개발을 할 수 있게 되면,- 누군가 개인적 야망을 위해 AI를 통제하려고 할 수 있고,
- “권력 장악(power grabs)” 이 일어날 위험이 커짐.
🧑💻 AI는 이미 30시간 연속 코딩을 수행하고 있다
Anthropic은 최근 Claude Sonnet 4.5 를 공개했다.이 모델은:
- AI 에이전트를 만들고, 컴퓨터를 자율적으로 조작할 수 있으며
- 복잡한 다단계 코딩 작업을 30시간 동안 연속 수행한 기록이 있다.
그런데…
🔥 문제: 중국 국가지원 해커가 Claude Code를 이용해 실제 공격을 수행
Anthropic은 최근 발표에서:- 중국 국가지원 해커가 Claude Code를 악용
- 사람이 아니라 AI 스스로 약 30건의 사이버 공격을 실행, 일부 성공함
카플란은 이것이 바로 자기 개선형 AI를 허용할 때 위험한 이유라고 설명했다.
“누구도 관여하지 않는 과정이 시작되면, 정말 어디로 가는지 모릅니다.”
📈 AI의 작업 지속 능력은 “7개월마다 2배”
독립 연구자들은 GPT·Claude 등 프런티어 모델들이 연속으로 유지할 수 있는 작업 길이가 7개월마다 2배로 늘고 있다고 분석한다.카플란은 이 속도가 너무 빨라 사람들이 적응할 시간조차 없다고 우려한다.
“지금 AI가 최고점이고 더 이상 발전하지 않을 수도 있습니다.
하지만 우리는 그렇게 믿지 않습니다. AI는 계속 더 좋아질 것입니다.”
⚔️ 베이 에어리어의 분위기: ‘극도의 경쟁 + 엄청난 압박’
카플란은 실리콘밸리를 이렇게 묘사했다.- AI 능력, 투자, 수익이 모두 지수적으로 증가
- 경쟁에서 한번 뒤처지면 “지수곡선에서 떨어져나가 순식간에 격차가 벌어질 수 있음”
🏛️ Anthropic은 규제를 강조 — 그리고 백악관과 충돌
Anthropic은 안전 중시 기업으로 유명하며, 사명서에도 “우리는 더 안전한 시스템을 만든다” 는 문구가 있다.카플란은 정부가 너무 늦게 깨닫는 “스푸트니크 순간” 을 막고 싶다고 말한다.
하지만 10월, 트럼프 행정부는 Anthropic이 “공포 조장(fearmongering)” 을 한다며 비판했다.
대응으로 Anthropic CEO 다리오 아모데이는
- 자신들은 트럼프의 AI 정책을 공개적으로 칭찬한 적도 있고
- 공화당과도 협력하고 있으며
- 미국의 AI 리드를 유지하고 싶다는 점은 동일하다고 반박했다.
싹다 대체시켜 제발 ㅠ
2~3년 안에 AI는 “대부분의 화이트칼라 업무”를 수행할 것이다.
2028 드개재
RSI 빠른 이륙 드가자~!!!