인터뷰/예측
다리오 아모데이 "결국 AI 발전에 어느 정도 속도 제한이 필요"
작성자
작성일
2026-09-14 11:50
조회
3
다리오 아모데이 인터뷰 정리
인터뷰어
당신은 Anthropic의 CEO입니다. 지금 많은 사람이 가까운 미래에 AI가 인류를 죽일 수도 있다고 걱정하고 있습니다. 실제로 그런 일이 일어날 위험은 어느 정도라고 생각합니까?다리오 아모데이
저는 Anthropic을 설립했을 때부터, 그리고 이 분야에서 일해 온 지난 12년 동안 계속 똑같은 생각을 해왔습니다.AI는 엄청나게 강력한 기술입니다. 그렇기 때문에 엄청난 이익을 줄 수도 있고, 동시에 심각한 위험을 만들어낼 수도 있습니다.
다만 저는 항상 AI의 이익이 위험보다 더 크다고 생각해 왔습니다. 더 중요한 점은 우리가 이 기술을 올바르게 개발한다면 위험을 아주 낮은 수준까지 줄일 수 있다고 믿는다는 것입니다.
AI가 가져올 이익을 생각해 보십시오. 저는 이 기술이 인류를 수천 년 동안 괴롭혀 온 질병들을 치료하는 데 기여할 수 있다고 정말 믿습니다.
실제로 최근 저희는 신약 개발 초기 단계에서 중요한 단백질 결합 문제를 AI로 개선하는 연구도 했습니다. 생물학 분야의 기초적인 과학적 발견에서도 모델을 활용하기 시작했고, 앞으로 몇 달 안에 더 이야기할 내용도 있을 것입니다.
그런데 우리가 만들고 있는 것은 결국 일종의 지능 자체입니다.
강력한 것은 좋은 일에도 사용할 수 있지만 나쁜 일에도 사용할 수 있습니다. 그래서 저는 모델이 허가받지 않은 행동을 취하는 사례나 AI가 악용되는 문제를 걱정하고 있습니다.
최근에는 AI 모델을 이용해 생물무기를 개발하려는 시도에 관한 보고서도 냈습니다.
그래서 저는 “AI가 인류를 멸망시킬 확률이 몇 퍼센트냐”만 이야기하고 싶지는 않습니다.
이건 주사위를 던지는 게임이 아닙니다.
우리가 제대로 개발하면 나쁜 결과가 발생할 확률을 매우 낮출 수 있고, 잘못 개발하면 그 확률이 매우 높아질 수 있습니다.
“지금은 AI 발전 곡선이 가팔라지기 시작하는 지점이다”
인터뷰어
지금 AI가 아주 위험한 단계 직전에 와 있다는 이야기가 많습니다. 지금 상황을 ‘5단계 화재 경보’ 같은 심각한 비상사태라고 보십니까?다리오 아모데이
‘5단계 화재 경보’라는 표현을 어떻게 정의하느냐에 따라 다르겠지만, 저는 한 가지는 분명히 말씀드릴 수 있습니다.저는 Anthropic을 만들기 전부터 AI 발전이 지수함수적이라고 이야기해 왔습니다.
1, 2, 4, 8, 16, 32처럼 올라가는 것이죠.
그런데 저 스스로도 그렇게 말하면서 실제로 발전 속도가 이렇게 빨라졌을 때 어떤 느낌일지는 완전히 체감하지 못했던 것 같습니다.
지수곡선을 그려 보면 처음에는 완만하게 올라가다가 어느 순간부터 갑자기 가팔라집니다.
지금 우리는 바로 그 곡선이 꺾이면서 가팔라지기 시작하는 부분에 있다고 생각합니다.
인터뷰어
그 정도라면 결국 비상사태 아닌가요?다리오 아모데이
그렇다고 오늘 당장 공황에 빠져야 한다는 뜻은 아닙니다.AI 개발을 모두 중단해야 한다는 뜻도 아닙니다.
하지만 이것은 분명히 경고 신호입니다.
우리는 기술을 더 신중하게 만들어야 합니다.
AI 능력이 발전하는 속도만큼
- 안전장치
- 모델을 이해하는 능력
- 모델을 통제하는 능력
지금까지는 안전장치를 빠르게 개발해서 AI 발전 속도를 따라잡으려고 했습니다.
하지만 이제는 어느 정도 기술 발전 자체의 속도를 조금 완화할 필요가 있는 시점에 도달했다고 생각합니다.
“Anthropic이 모델 개발을 멈추겠다는 뜻은 아니다”
인터뷰어
그렇다면 Anthropic은 앞으로 더 강력한 모델을 출시하지 않겠다는 뜻입니까?다리오 아모데이
아닙니다.제가 말하는 것은 모든 세대의 모델이 출시되기 전에 제대로 테스트되어야 한다는 것입니다.
제가 최근 제안한 계획에는 몇 가지 단계가 있습니다.
가장 먼저 필요한 것은 외부의 독립적인 평가자입니다.
제3자 비영리기관이 될 수도 있고, 언젠가는 정부기관일 수도 있습니다.
그 사람들이 AI 회사의 모델 훈련과 운영 과정을 관찰할 수 있어야 합니다.
사실 저는 이것이 모델을 언제 출시하느냐보다도 더 근본적으로 중요하다고 생각합니다.
왜냐하면 제대로 된 외부 검증 체계가 있어야 그다음에 모델 출시 여부도 신중하게 판단할 수 있기 때문입니다.
저는 이것이 Anthropic만의 제도가 아니라 AI 산업 전체의 표준이 되기를 원합니다.
어떤 회사가 AI 모델을 만들더라도 외부 평가자가 들어와서
“이 회사가 자신들이 약속한 안전 기준을 실제로 지키고 있는가?”
를 확인할 수 있어야 합니다.
비유하자면 식품 검사관과 비슷합니다.
인터뷰어
그런데 AI 기술은 너무 빠르게 변합니다. 검사관이 그 속도를 따라갈 수 있겠습니까?다리오 아모데이
그것도 중요한 부분입니다.외부 평가자가 기술을 이해하고 따라갈 수 있는 속도 자체가 결국 AI 발전에 어느 정도 속도 제한(speed limit)을 설정하는 요소가 될 수도 있다고 생각합니다.
우리도 AI를 이해해야 하고, 외부 평가자들도 이해할 수 있어야 합니다.
“OpenAI, xAI 등 경쟁사들과도 공통 기준을 만들 필요가 있다”
인터뷰어
일론 머스크도 당신의 주장에 동의했고 샘 올트먼도 동의한다고 했습니다. 경쟁사들이 어떻게 함께 움직일 수 있을까요?다리오 아모데이
우선 경쟁사를 포함한 다른 업계 지도자들이 이 제안에 동의한 데 대해 정말 감사하게 생각합니다.첫 단계는 여러 AI 회사들이 제3자 평가자를 받아들이는 데 합의하는 것이라고 생각합니다.
그다음에는 기업들이 함께
- 모델 안전 기준
- 모델 공개 기준
- 경우에 따라서는 모델 개발 및 출시 속도
다만 이런 일을 AI 회사들끼리만 해서는 안 됩니다.
우리가 이야기하고 있는 것이 제품의 출시 속도와 안전 문제이기 때문에 정부가 참여해야 합니다.
기업과 정부가 같은 테이블에 앉아 논의해야 합니다.
“정부도 AI의 현실을 이해하도록 매일 대화하고 있다”
인터뷰어
정부가 정말 AI에서 어떤 일이 벌어지고 있는지 이해하고 있다고 보십니까?전 Anthropic 직원은 Anthropic과 OpenAI 모두 책임 있게 행동하지 않고 있으며 인류의 생명을 걸고 도박하고 있다고 비판하기도 했습니다.
다리오 아모데이
그 사람이 Anthropic을 주요 AI 회사 중에서는 그래도 가장 책임감 있게 행동하려고 하는 회사라고 평가한 부분도 있습니다.하지만 그의 비판에서 중요한 부분은 저 역시 인정합니다.
우리가 놓인 상황 자체가 구조적으로 굉장히 어렵습니다.
한 회사가 혼자 해결할 수 있는 문제가 아닙니다.
그래서 제가 제안한 것도 기업들이 함께 협력할 수 있는 구조를 만드는 것입니다.
그리고 저희는 실제로 매일 정부와 이야기하고 있습니다.
상무부, 재무부, 정보기관 등 여러 정부 관계자들과 대화하면서 우리가 알고 있는 것을 가능한 한 많이 전달하고 있습니다.
저는 정부 관계자들이 올바른 일을 하려고 노력하고 있다고 생각합니다.
기업들과 정부가 협력한다면 합리적인 계획을 만들어낼 수 있다고 낙관하고 있습니다.
“AI를 완전히 금지하는 것은 옳지 않다”
인터뷰어
일부 정치권에서는 초지능 개발을 사실상 금지하거나, 이를 어길 경우 기업에는 ‘기업 사형제’를 적용하고 개인에게는 최고 20년형을 부과하자는 강력한 법안까지 나오고 있습니다.이런 방식에 동의합니까?
다리오 아모데이
AI 규제 법안의 범위는 정말 극단적으로 넓습니다.불과 1년 전만 해도 캘리포니아의 SB53 같은 법안은 회사들에게
“당신들이 어떤 안전 테스트를 하는지 공개하라”
정도의 요구를 했습니다.
그때도 대부분의 AI 업계가 반대하거나 침묵했고, Anthropic은 적극적으로 지지한 거의 유일한 회사였습니다.
반대쪽 극단에는 아예 AI를 금지하자는 주장도 있습니다.
저는 AI를 완전히 금지하는 것이 올바른 접근이라고 생각하지 않습니다.
첫 번째 이유는 우리가 그렇게 하면 AI가 제공할 엄청난 이익도 영원히 포기하게 되기 때문입니다.
의학적 치료법이나 질병 정복 같은 가능성을 포기한다는 것이 저는 옳다고 생각하지 않습니다.
두 번째 이유는 우리가 안 만든다고 해서 다른 나라들이 안 만드는 것이 아니기 때문입니다.
중국을 비롯한 권위주의 국가들도 이 기술을 개발할 것입니다.
저는 그들이 이 기술을
- 자유사회를 공격하거나
- 자국민을 억압하거나
- 지정학적 우위를 얻는 데
따라서 제가 원하는 답은
“AI를 멈추자”가 아닙니다.
제가 원하는 것은
“AI 발전 속도를 늦추자”입니다.
Anthropic은 원래부터 이런 철학을 가지고 있었습니다.
우리는 기술의 최전선에 있어야 하지만, 동시에 업계의 안전 기준을 끌어올리는 race to the top, 즉 ‘위쪽을 향한 경쟁’을 만들어야 한다고 생각합니다.
“킬 스위치 하나로 해결할 수 있는 문제가 아니다”
인터뷰어
그렇다면 강력한 AI를 강제로 종료할 수 있는 이른바 AI 킬 스위치는 지지합니까?다리오 아모데이
구체적인 법안 자체는 자세히 검토하지 않았습니다.하지만 강력한 AI를 필요할 때 제한하거나 정지시킬 수 있는 방법이 필요하다는 생각 자체에는 의미가 있다고 봅니다.
그렇지만 킬 스위치 하나가 모든 문제를 해결해 주지는 않습니다.
충분히 강력한 AI는 자신을 종료하려는 시도를 우회할 수도 있습니다.
우리는 시뮬레이션에서도 그런 가능성을 보았습니다.
그래서 저는 보안 분야에서 말하는 심층 방어(defense in depth) 방식으로 생각합니다.
여기에는 ‘스위스 치즈 모델’이라는 비유가 있습니다.
스위스 치즈 한 장에는 구멍이 있어서 무언가가 통과할 수 있습니다.
하지만 여러 장을 겹쳐 놓으면 각각의 구멍 위치가 다르기 때문에 전체 방어망을 뚫기는 훨씬 어려워집니다.
AI 안전도 마찬가지입니다.
하나의 완벽한 안전장치는 없습니다.
- 모델 설계
- 훈련
- 평가
- 접근 제한
- 모니터링
- 종료 장치
- 외부 감독
각 방어 수단은 완벽하지 않더라도 여러 겹으로 쌓이면 전체 위험을 크게 낮출 수 있습니다.
그리고 시간을 조금 더 갖는 것이 이런 여러 안전장치를 제대로 갖출 수 있게 해줍니다.
“가장 어려운 문제는 기업 간 경쟁이 아니라 중국이다”
인터뷰어
그런데 미국 기업들이 AI 개발 속도를 늦춘다고 해도 중국은 늦추지 않을 수 있습니다.미국과 중국이 경쟁하는 상황에서 감속이 현실적인 선택입니까?
다리오 아모데이
이것이 제가 생각하기에도 가장 어려운 딜레마입니다.만약 중국과의 지정학적 경쟁이 없었다면 우리는 훨씬 더 많은 시간을 가질 수 있었을 것입니다.
저에게 가장 큰 문제는 상업적인 경쟁이 아닙니다.
Anthropic이 OpenAI나 다른 회사와 경쟁하는 것은 본질적인 문제가 아닙니다.
지정학적인 경쟁이 진짜 어려운 문제입니다.
그래도 사용할 수 있는 전략이 몇 가지 있습니다.
첫 번째는 미국이 현재 가지고 있는 기술적 우위의 범위 안에서 가능한 만큼 속도를 늦추는 것입니다.
그리고 그 우위를 유지하려면
- 권위주의 국가에 첨단 반도체를 판매하지 않고
- 미국의 AI 기술이 도난당하지 않도록 보안을 강화해야 합니다.
그리고 그 시간만큼 안전 문제를 해결할 수 있습니다.
“중국과도 AI 위험에 대해 직접 협상해야 한다”
인터뷰어
그 정도 시간을 버는 것만으로 정말 인류 멸종 위험을 막을 수 있습니까?다리오 아모데이
가능한 만큼 시간을 확보해야 합니다.그러나 그것만으로는 충분하지 않을 수 있습니다.
그래서 두 번째 전략도 필요합니다.
저는 중국을 포함한 권위주의 국가들과 직접 이야기해야 한다고 생각합니다.
그들에게 이렇게 말할 수 있습니다.
“여기에는 우리 모두에게 위험한 문제가 있다.”
위험은 통제 불가능한 AI만이 아닙니다.
최근 우리가 낸 보고서를 보면 사람들이 AI를 이용해 바이러스의 감염력을 높이거나 생물테러에 이용하려는 가능성도 있습니다.
이것은 미국만의 문제가 아닙니다.
중국 정부 역시 생물테러가 일어나는 것을 원하지 않습니다.
따라서 서로 공통의 이해관계가 존재합니다.
그래서 중국과 협상해서 AI 발전 속도에 일정한 속도 제한을 설정할 수 있는지 논의할 필요가 있습니다.
“미·소 핵 군축 협상과 어느 정도 비슷한 면이 있다”
다리오 아모데이
저는 대체로 중국 문제에 대해 강경한 입장을 가진 사람입니다.하지만 냉전 시기를 생각해 보십시오.
미국과 소련은 서로 완전히 다른 체제를 가지고 있었고, 서로에게 수천 발의 핵무기를 겨누고 있었습니다.
그럼에도 양쪽 모두 어느 시점에는
“이 정도면 너무 많다.”
라는 사실을 인정했습니다.
그래서 핵무기 감축과 제한에 관한 협상을 했습니다.
AI에서도 지정학적 차원에서는 이런 군비통제 협상과 유사한 관점이 어느 정도 유용하다고 생각합니다.
특히 AI의 사이버 능력 등을 생각하면 AI는 명백히 국가안보와 지정학적 중요성을 가진 기술입니다.
다만 이런 협상은 Anthropic CEO인 제가 할 일이 아닙니다.
결국 미국 정부와 중국 정부가 해야 할 일입니다.
제가 할 수 있는 것은 누군가 제 의견을 물어본다면 제가 생각하는 방향을 이야기하는 것입니다.
“중국과 협상하더라도 기대치는 낮춰야 한다”
인터뷰어
그렇다면 미국 정부가 중국과 실제로 AI 제한 협상을 해야 한다고 생각합니까?다리오 아모데이
네.우리는 가능한 만큼 서로 자제하도록 노력해야 합니다.
다만 저는 이렇게 표현하고 싶습니다.
희망은 크게 갖되 기대는 낮게 가져야 합니다.
협상이 가능할지 저도 모릅니다.
특히 가장 중요한 것은 검증할 수 있는 방법입니다.
핵무기 협상이나 생물무기 협상에서도 항상 핵심은 상대방이 약속을 지키는지 확인할 수 있느냐입니다.
AI도 마찬가지입니다.
한쪽이 몰래 합의를 깨고 더 강력한 AI를 개발한다면 협정은 유지되지 않을 것입니다.
그래서 실제 AI 국제협약에서 가장 중요한 문제 중 하나가
“상대가 약속을 어기고 있는지 어떻게 검증할 것인가?”
가 될 것이라고 생각합니다.
“트럼프와 시진핑이 합의한다면 우선 생물무기부터”
인터뷰어
트럼프 대통령과 시진핑 주석이 곧 만난다고 가정해 보겠습니다.두 정상이 AI 문제에서 단 하나의 합의를 한다면 무엇이 가장 중요하겠습니까?
다리오 아모데이
저는 두 가지를 말씀드리고 싶습니다.하나는 비교적 현실적으로 합의할 수 있는 작은 목표이고, 다른 하나는 훨씬 크고 장기적인 목표입니다.
먼저 현실적인 목표는 AI를 생물무기 개발에 사용하지 않기로 합의하는 것입니다.
미국과 중국은 이미 생물무기금지협약에 가입한 국가입니다.
여기에 AI를 이용해 생물무기를 개발하지 않는다거나, 생물테러범이 생물무기를 만들 수 있을 정도의 AI를 공개하지 않는다는 원칙을 추가할 수 있다면 매우 가치 있다고 생각합니다.
그다음 장기적으로는 미국과 중국이 함께 AI 발전 속도 자체에 제한을 두는 것입니다.
하지만 이것은 훨씬 어렵습니다.
앞서 나가려는 유인이 너무 강하고, AI에서 앞설 경우 얻을 수 있는 군사적 이점도 너무 큽니다.
솔직히 이것이 실제로 가능한지는 저도 모릅니다.
그래도 시도는 해야 합니다.
“이 정도 기술을 민간기업이 만들고 있다는 사실 자체가 이상하다”
인터뷰어
이제 큰 그림에서 생각해 보겠습니다.인류의 운명이 걸려 있을 수도 있는 기술입니다.
당신은 개인적으로 어느 정도 책임감을 느낍니까?
다리오 아모데이
저도 항상 이상하다고 느끼는 부분이 있습니다.이 정도로 중요한 기술을 민간기업이 만들고 있다는 사실 자체가 이상합니다.
사람들은 저에게 종종 묻습니다.
“왜 이런 기술을 정부가 만들지 않는가?”
솔직히 저도 그 질문에 어느 정도 동의합니다.
저도 현재 구조가 불편합니다.
인터뷰어
그렇다면 기술을 정부에 넘길 의향도 있습니까?다리오 아모데이
올바른 조합의 정부라면 생각해 볼 수 있습니다.하지만 한 국가의 정부가 모든 것을 통제하는 구조는 걱정됩니다.
단일 기업이 이 기술을 악용할 수 있는 것과 마찬가지로 단일 정부도 이 기술을 악용할 수 있기 때문입니다.
그래서 저는 민주적으로 선출된 여러 정부가 함께 참여하는 형태의 감독이나 공동 거버넌스가 가능하지 않을까 생각합니다.
회사를 그대로 넘긴다는 의미라기보다는, 더 넓은 공동 감독 구조가 필요하다는 뜻입니다.
“저는 AI의 혜택과 위험을 개인적으로 모두 느낀다”
인터뷰어
그래도 결국 당신 개인이 느끼는 책임감은 어느 정도입니까?다리오 아모데이
저는 이 기술의 엄청난 이익과 엄청난 위험을 매일 동시에 느낍니다.저에게는 이것이 단순한 추상적인 이야기도 아닙니다.
제 아버지는 C형 간염으로 돌아가셨습니다.
당시에는 치료 성공률이 대략 40% 정도였고, 아버지는 치료되지 못한 사람 중 한 분이었습니다.
그런데 몇 년 뒤 새로운 치료제가 개발되면서 치료율이 약 95%까지 올라갔습니다.
저 자신도 초기 암을 경험했습니다.
만약 제가 1950년에 살았다면 아마 살아남지 못했을 수도 있습니다.
그래서 저는 과학기술 발전이 사람의 생명을 어떻게 바꾸는지를 개인적으로 알고 있습니다.
AI를 이용해 더 많은 치료법을 만들 수 있다는 가능성에 대한 책임감을 매우 크게 느낍니다.
“동시에 누군가 Claude로 사람을 죽이는 일도 절대 원하지 않는다”
다리오 아모데이
반대로 위험도 매일 느낍니다.저는 위협 보고서를 읽습니다.
누군가 우리 모델을 생물무기 개발에 사용하려 했다는 내용을 보면 당연히 큰 책임감을 느낍니다.
저는 그런 일에 책임지고 싶지 않습니다.
그래서 Anthropic은 생물학 분야에서 매우 강한 안전 제한을 두고 있습니다.
소셜미디어에서는 거의 매일
“Claude의 생물학 안전장치가 너무 강해서 제대로 사용할 수 없다.”
라며 사람들이 저를 놀리기도 합니다.
생물학 학생들도 농담을 합니다.
하지만 저는 차라리 사람들이 저를 놀리는 편을 선택하겠습니다.
어느 날 일어나서
“누군가 Claude를 이용해서 많은 사람을 죽였다.”
라는 사실을 알게 되는 것보다는 훨씬 낫습니다.
저는 그런 일이 절대 일어나기를 원하지 않습니다.
그래서 저는 AI의 양쪽 책임을 모두 느낍니다.
AI의 이익을 최대한 빨리 사람들에게 제공해야 할 책임과, AI가 사람들에게 피해를 주지 않도록 막아야 할 책임입니다.
“이 책임이 다리오 아모데이 개인에게 맡겨져서는 안 된다”
다리오 아모데이
그렇지만 저는 한 가지를 계속 강조하고 싶습니다.이것이
- 저 혼자만의 책임이어서도 안 되고
- Anthropic만의 책임이어서도 안 되고
- AI 기업들만의 책임이어서도 안 되고
- 한 국가 정부만의 책임이어서도 안 됩니다.
우리는 모든 사람이 이 과정에 참여할 수 있는 방법을 찾아야 합니다.
사람들이 무력감을 느끼기를 원하지 않습니다.
몇몇 AI 회사들이 자기들 마음대로 인류의 미래를 결정한다고 느끼는 것도 원하지 않습니다.
사람들이 실제로 그렇게 느끼고 있다는 것도 알고 있습니다.
저는 그런 상황을 원한 적이 없습니다.
그래서 그것이 사실이 아니게 만들어야 합니다.
정부와 협력하고, 일정한 자제를 보여주고, 외부 감독을 받아들이려는 것도 그런 방향으로 나아가는 하나의 단계입니다.
“일반 사용자들에게 하고 싶은 말”
인터뷰어
마지막 질문입니다.집에서 Claude나 ChatGPT를 사용하는 평범한 사람들에게 어떤 말을 하고 싶습니까?
다리오 아모데이
먼저 AI가 정말 좋은 기술이라는 사실을 잊지 않았으면 좋겠습니다.이미 수많은 사람들이 매주 AI를 좋은 일에 사용하고 있습니다.
저는 거의 매주 이런 이메일을 받습니다.
“Claude와 대화하다가 의사들이 발견하지 못했던 질병을 발견했습니다.”
이런 사례들이 실제로 있습니다.
그러니 AI가 가져오는 엄청난 가능성을 잊어서는 안 됩니다.
하지만 위험에 대해서도 솔직하게 말씀드리고 싶습니다.
저는 여러분에게 거짓말하지 않겠습니다.
위험은 실제로 존재합니다.
그리고 저는 AI 업계가 너무 오랫동안 사람들에게 그 위험을 제대로 말하지 않았다고 생각합니다.
AI를 가능한 한 긍정적인 것처럼만 보여주려 했던 부분이 있었습니다.
Anthropic은 그러지 않으려고 노력해 왔습니다.
모든 것은 우선 진실을 이야기하는 데서 시작해야 합니다.
AI에는 실제 위험이 있습니다.
하지만 동시에 여러분에게는 그 위험을 어떻게 다룰지 결정할 권리가 있습니다.
우리는 정부와 협력해서 적절한 감독 체계를 만들려고 노력하고 있습니다.
유권자와 선출된 정치인도 AI가 어떻게 배치되고 사용되는지에 대해 목소리를 낼 수 있어야 합니다.
“AI의 미래는 몇몇 사람만 결정해서는 안 된다”
다리오 아모데이
저는 사람들이 AI의 엄청난 혜택을 누리기를 바랍니다.동시에 자신의 목소리와 투표를 통해 AI가 어떤 방식으로 사용될 것인지 결정하는 데 참여할 수 있어야 한다고 생각합니다.
이것은 소수의 사람들이 독단적으로 내릴 결정이 아닙니다.
모든 사람이 참여해야 할 결정입니다.
그리고 그 중요성을 축소해서 말하고 싶지도 않습니다.
이것은 정말 중요한 선택입니다.
AI는 인류 역사에서 가장 중대한 기술적 사건 가운데 하나가 될 수 있습니다.
따라서 우리 모두가 그 과정에 참여해야 합니다.
이번 인터뷰에서 드러난 아모데이의 입장을 한 문장으로 정리하면
아모데이의 주장은 “AI를 멈추자는 것이 아니라, 지금처럼 능력이 급격하게 상승하는 시점에서는 안전·통제·외부검증이 따라잡을 수 있도록 발전 속도를 제한적으로 늦추고, 그 시간을 이용해 미국 내 감독체계와 미·중 국제협력까지 구축해야 한다”는 쪽이야.특히 이번 인터뷰에서 중요한 변화는 아모데이가 단순히 예전처럼 “AI는 위험할 수 있으니 안전 연구가 필요하다” 정도를 말하는 게 아니라, 이제는 명시적으로 “우리가 지수곡선의 가팔라지는 구간에 진입했고, 안전장치를 빨리 만드는 것만으로는 부족해 기술 발전 속도 자체를 어느 정도 완화해야 할 단계에 왔다”고 주장했다는 점이야.
그리고 그 감속도 무기한 중단이 아니라 미국이 중국에 대해 보유한 기술적 리드의 범위 안에서만 가능한 감속이어야 한다고 보고 있어. 동시에 장기적으로는 미·중이 생물무기부터 시작해 AI 발전 속도 제한과 검증 체계를 논의해야 한다는 입장이야.
전체 0