인터뷰/예측
앤트로픽 잭 클라크 "앞으로 몇 년간 AI 진보는 이전 몇 년보다 더 빠를 것입니다."
작성자
작성일
2026-06-07 00:20
조회
4
잭 클라크 인터뷰 정리
Anthropic 공동창업자, “AI의 계속되는 발전에 대해 진지한 대화가 필요하다”
1. AI는 이제 지식노동을 자동화하기 시작했다
잭 클라크:과거에는 자동화 위험에 놓인 일이 주로 공장 노동 같은 것이었습니다. 이전 세대에서는 반복적인 육체노동이 자동화의 대상이었죠. 그런데 이제 같은 현상이 지식노동에서 벌어지기 시작할 것입니다.
지금 AI 산업은 마치 가속페달은 있는데 브레이크가 없는 자동차와 같습니다. 우리가 말하고자 하는 것은, 이 자동차에 브레이크를 만들기 위한 작업을 해야 한다는 것입니다. 그래야 사회가 선택지를 가질 수 있습니다.
오늘날의 많은 규제와 정책 프레임워크는 인공지능 시스템이 존재한다는 전제하에 만들어진 것이 아닙니다. 더구나 지금처럼 강력한 AI 시스템이 존재할 것이라는 전제는 더더욱 아니었습니다.
저는 제 아이들을 생각하면 걱정이 됩니다. AI의 계속되는 발전이 무엇을 의미하는지, 우리 사회가 진지한 대화를 하지 않는다면 걱정스럽습니다.
2. 젊은 사람들에게: “취미를 가져라”
잭 클라크:저는 젊은 사람들에게 이렇게 말하고 싶습니다. 취미를 가져라.
취미가 있는 사람은 자신이 열정을 가진 무언가가 있습니다. 그리고 대부분의 사람보다 그 분야에 대해 더 많이 압니다. 그런 취미가 있으면 호기심이 생깁니다. 아이디어가 생깁니다. 그리고 그 아이디어를 AI 시스템과 결합해서 훨씬 더 많은 것을 할 수 있습니다.
저는 그런 사람들이 앞으로 존재하지도 않았던 놀라운 직업을 만들어낼 수 있다고 봅니다. 다만 그러려면 AI 시스템을 직접 실험해보고, 호기심을 가져야 합니다.
3. “AI가 자기 자신을 만들기 시작했다는 말인가?”
인터뷰어:당신은 정말로 당신들의 시스템이 인간의 최소한의 입력, 어쩌면 거의 인간의 입력 없이 자기 자신을 만들기 직전이라고 말하는 겁니까?
잭 클라크:
우리가 말하는 것은 AI 산업 전체가 70년 동안 꿈꿔온 일입니다. 즉, 일반지능 시스템을 만들고, 그 시스템이 자기 자신의 과학에도 도움을 줄 수 있는 단계가 이제 시야 안에 들어온 것 같다는 말입니다.
우리는 이 문제를 일찍 이야기하려고 합니다. 왜냐하면 이것은 세계가 이해해야 할 중요한 문제이기 때문입니다.
4. Anthropic 내부에서 코드 생산량이 폭증했다
인터뷰어:그게 구체적으로 무슨 뜻인지 설명해주시죠. 회사 내부에서 어떤 새로운 측정값을 보고 있습니까? 예를 들어 코딩에서 어떤 진전이 있었습니까?
잭 클라크:
제가 보고 있는 것은 Anthropic이라는 조직 안에서 이동하고 생산되는 코드의 양이 극적으로 늘었다는 것입니다.
Anthropic의 코더들은 이제 2021년, 2022년, 2023년, 2024년에 비해 약 8배 많은 코드를 작성하거나 다루고 있습니다. 굉장한 가속이 있었습니다.
그리고 그 결과 우리는 연구 속도가 증가하는 것을 보고 있습니다. 새로운 영역을 탐색하는 속도도 빨라지고 있습니다. AI 개발 자체에 무언가가 속도를 붙이기 시작한 것입니다.
5. “Anthropic 코드의 80%가 Claude에서 나온다”
인터뷰어:실제로 그 코드 중 얼마나 많은 부분이 AI에서 나온 것이고, 얼마나 많은 부분이 인간 코더에게서 나온 것입니까?
잭 클라크:
지금 Anthropic에 들어가는 코드의 약 80%는 Claude에서 나옵니다. Claude와 Claude 관련 시스템에서 나온다는 뜻입니다.
우리 조직 안에 들어오는 코드의 대다수는 이제 우리의 AI 시스템이 작성하거나 그 시스템에서 파생된 것입니다. 그리고 이것은 회사에서 일하는 모든 사람들의 생산성이 극적으로 증가했다는 사실과 함께 나타나고 있습니다.
6. “80%가 100%가 되면 AI가 AI를 개선하는 것 아닌가?”
인터뷰어:그렇다면 이것이 100%에 도달할 수도 있다는 뜻입니까? 그때부터는 사실상 AI가 자기 자신을 만들고, 자기 자신을 개선하는 상황이 되는 것 아닌가요?
잭 클라크:
바로 그 이유 때문에 우리가 이 정보를 공유하는 것입니다.
그 일이 일어난다고 확정된 것은 아닙니다. 하지만 만약 실제로 그런 일이 일어난다면, 그것은 엄청난 함의를 가질 것입니다. 그래서 우리는 이 정보를 세계와 공유해야 한다고 믿습니다.
제가 Anthropic Institute에서 하는 일이 바로 이런 문제를 일찍 이야기하는 것입니다. 이것은 과학, 로봇공학, 세계의 발견 속도 전반에 놀라운 영향을 미칠 수 있습니다. 동시에 논의해야 할 잠재적 위험도 있습니다.
7. AI가 AI를 만들면 생물학과 로봇공학이 가속된다
인터뷰어:그렇다면 AI가 100% 자기 자신을 생성하는 세계가 오면 어떤 일이 벌어질 수 있습니까? 예를 들어 설명해주시죠.
잭 클라크:
두 가지 예를 들 수 있습니다.
첫째는 생물학입니다.
생물학은 AI가 다루기 어려운 분야입니다. 왜냐하면 현실 세계에서 수많은 실험을 해야 하기 때문입니다.
하지만 AI 시스템이 훨씬 더 똑똑해지고, 자기 자신을 만들 수 있을 정도가 된다면, 현실 세계에서 과학을 수행할 능력도 갖추게 될 것입니다. 그러면 인간 과학자들이 AI 시스템과 함께 생물학에서 이전보다 훨씬 더 넓은 영역을 탐색할 수 있습니다.
둘째는 로봇공학입니다.
로봇공학은 오늘날 AI 시스템에게 정말 어려운 영역입니다. AI 시스템을 현실 세계에서 작동하도록 적응시키는 데 엄청난 작업이 필요합니다. 자주 망가지고, 매우 어려운 과학 문제입니다.
하지만 이런 종류의 recursive self-improvement, 즉 재귀적 자기개선이 가능한 AI 시스템이라면, 지금까지 AI가 어려워했던 영역에도 스스로 적응해 들어갈 수 있을 것입니다.
8. “AI가 스스로 발견 속도를 정하는 순간인가?”
인터뷰어:그러니까 당신이 말하는 것은 AI가 자기 자신의 발견 속도를 스스로 결정하기 시작하는 순간이라는 겁니까? 인간의 입력은 최소화되고, AI가 스스로 해내는 것입니까?
잭 클라크:
우리가 바라보는 세계는 마치 수백만 명의 과학자를 새로 추가한 것 같은 세계입니다. 그리고 우리는 그들을 어디에 배치할지 선택하게 됩니다.
AI 시스템이 모든 선택을 스스로 한다는 뜻은 아닙니다. 이 시스템들은 통치되고 관리될 것입니다. 정책 프레임워크가 있을 것입니다. 연구소, 정부, 여러 조직이 이 시스템들과 함께 일하게 될 것입니다.
사회는 실제 선택을 하게 될 것입니다.
과학의 어느 부분을 더 빠르게 만들 것인가?
경제의 어느 부분을 더 빠르게 만들 것인가?
우리는 이전에는 할 수 없었던 선택을 하게 될 것이고, 그 선택은 엄청난 함의를 가질 것입니다.
9. 통제 문제: “우리는 여전히 통제하고 있는가?”
인터뷰어:하지만 당신은 잠재적인 심각한 문제도 강조하고 있습니다. 특히 통제 문제를 제기하는 것처럼 들립니다. 우리는 여전히 이 과정을 통제하고 있습니까?
잭 클라크:
좋은 비유는 이렇습니다.
BBC에서 일하는 사람 수를 갑자기 10배로 늘렸다고 생각해보십시오. 그러면 곧바로 이런 질문이 생깁니다.
그들이 무엇을 하고 있는지 어떻게 알 것인가?
그들의 일이 좋은지 어떻게 검증할 것인가?
그들의 보도가 BBC 기준에 맞는지 어떻게 확인할 것인가?
이 새로운 가상 직원들이 우리를 위해, 우리가 납득할 수 있는 방식으로 일하고 있는지 확인하기 위해 엄청난 작업이 필요할 것입니다.
AI 에이전트도 마찬가지입니다. 앞으로 수많은 영역에서 같은 문제를 다루게 될 것입니다. 모든 조직과 사회는 훨씬 더 많은 일이 수행되는 세계에 적응해야 합니다. 그리고 그 일을 수행하는 시스템들을 어떻게 신뢰할지 알아내야 합니다.
10. AI 에이전트는 직원처럼 작동한다
인터뷰어:당신은 이것을 수천 명의 직원이 더 생긴 것처럼 설명했습니다. 실제로 그런 방식으로 작동합니까? 이른바 에이전트라고 부르는 것들이 직원처럼 일하는 겁니까? 한 명의 인간이 10개, 20개, 100개의 AI를 데리고 일하는 것입니까?
잭 클라크:
그렇게 생각하는 것이 아주 좋은 방식입니다.
저는 2025년 11월에 육아휴직을 갔습니다. 그리고 2026년 2월에 돌아왔습니다. 돌아와 보니 제가 함께 일하는 일부 팀들이 마치 주변에 큰 팀을 데리고 일하는 것처럼 변해 있었습니다.
하지만 실제로는 많은 수의 AI 시스템 복사본들과 함께 일하고 있었던 것입니다.
저도 지금 새로운 팀들을 만들고 있습니다. 그런데 우리가 채용하는 방식도 바뀌었습니다. 여전히 사람을 뽑고 있지만, 예전처럼 큰 엔지니어 집단을 뽑는 것이 아니라, 법률가나 철학자 같은 여러 분야의 전문가들을 뽑고 있습니다.
왜냐하면 기술적 작업의 상당 부분은 이미 처리되고 있기 때문입니다.
그래서 더 작은 팀, 더 빠르게 움직이는 팀이 가능해졌습니다. 회사의 모든 사람은 이제 개별 직원이라기보다는 관리자에 가까워지고 있습니다.
11. 코딩을 넘어 대부분의 지식노동에 적용된다
인터뷰어:지금은 코딩에 대해 말하고 있지만, 이것은 다른 영역에도 적용되는 것 아닙니까? 지식노동, 창작, 글쓰기, 크리에이티브 디렉팅, 법률 업무, 회계에도 적용될 것 같은데요.
잭 클라크:
대부분의 영역에 적용될 것 같습니다.
부분적으로는 모든 사람이 이전보다 훨씬 더 많은 일을 할 수 있게 됩니다. 하지만 동시에 이것은 도전이기도 합니다.
오늘날 많은 사람들은 자신이 개인 실무자로 일하고 있을 때, “내게 동료가 5명이나 10명 더 있다면 무엇을 할 수 있을까?”라고 생각하지 않습니다.
하지만 이 기술은 바로 그런 사고방식의 변화를 요구합니다.
12. 어떤 직업이 위험한가?
인터뷰어:그렇다면 어떤 일자리가 위험합니까? 인간의 입력 없이 자기 자신을 개선할 수 있는 AI 에이전트의 세계에서 어떤 직업이 대체될 가능성이 높습니까?
잭 클라크:
우리가 보고서에서 말했듯이, AI 시스템이 정말로 창의적일 수 있는가, 정말 흥미롭고 독창적인 아이디어를 낼 수 있는가에 대해서는 아직 열린 질문이 있습니다. 아직 그런 증거가 충분히 있는 것은 아닙니다.
Anthropic 내부에서 우리가 보고 있는 것은 이제 우리가 좋은 아이디어를 만들어내는 능력에 더 많이 제한되고 있다는 점입니다. 예전에는 아이디어를 현실로 만드는 엔지니어링 능력이 병목이었지만, 이제는 그보다 좋은 아이디어를 만들어내는 능력이 병목이 되고 있습니다.
그래서 많은 아이디어를 낼 수 있는 사람, 창의적인 사람, 기업가적 아이디어가 있는 사람은 이 기술로 이익을 얻을 것입니다.
반면 반복적인 일, 정형화된 일, 과거 공장노동처럼 자동화 위험에 놓였던 종류의 일이 이제는 지식노동에서 나타날 것입니다.
우리는 사람들이 어떤 종류의 일을 해야 하는지에 대한 사고방식을 바꾸고, 더 창의적인 일로 이동할 수 있도록 도와야 합니다. 그래야 AI를 통해 훨씬 더 많은 것을 해낼 수 있습니다.
13. 졸업생들이 기대하던 직업도 더 이상 안정적이지 않다
인터뷰어:당신이 말하는 지식노동은 영국 경제의 큰 부분을 차지합니다. 많은 졸업생들이 진로로 생각하는 직업들이 여기에 포함됩니다. 당신들의 보고서는 그들이 그런 직업을 당연히 기대할 수 없다고 말하는 것처럼 들립니다.
잭 클라크:
우리는 지금도 많은 사람을 채용하고 있습니다. 초기 경력의 졸업생도 채용하고 있습니다.
하지만 우리가 채용하는 졸업생은 창의적인 아이디어를 많이 가지고 있고, 그것을 실제로 적용하고 싶어 하는 사람들입니다. 일종의 기업가적 사고방식을 가진 사람들입니다.
이 이야기는 더 넓은 경제에서도 나타날 것이라고 봅니다.
우리는 사람들에게 어떤 기술을 가르쳐야 하는지, 기업들이 어떤 역할을 위해 사람을 고용해야 하는지 다시 생각해야 합니다.
AI 기술의 발전은 상당한 경제적 변화를 의미합니다. 그 변화가 정확히 어떤 방식으로 나타날지는 예측할 수 없습니다. 하지만 어떤 직업들의 구성은 분명히 바뀔 것입니다.
14. 2030년 전 변호사, 회계사, 카피라이터가 대체될 수 있나?
인터뷰어:2030년 전에 AI 에이전트가 변호사, 회계사, 카피라이터를 빠르게 대체할 수 있습니까?
잭 클라크:
오늘날 우리가 보는 것은 이렇습니다.
Anthropic의 법무팀과 회계팀은 이미 하이브리드 팀의 성격을 갖고 있습니다. 사람들도 있고, 그 사람들이 함께 일하는 AI 시스템 인스턴스들도 있습니다.
일반적으로 모든 직업은 이제 AI 시스템과 함께 일하게 될 것입니다. 그리고 그 결과 일의 방식이 바뀔 것입니다.
이 말은 모든 직업에 AI가 들어와서 어떤 종류의 업무는 보강하고, 어떤 종류의 업무는 자동화할 가능성이 있다는 뜻입니다.
우리는 지금 그것을 측정하려고 하고 있습니다. 아직 대규모로 보강이나 자동화가 일어나고 있다는 명확한 측정값은 없습니다. 하지만 그것이 이 기술의 함의라는 점은 분명합니다. 우리는 이것이 더 넓은 경제에서 나타나는지 보기 위해 데이터를 공유하려고 합니다.
15. “지금은 아직 안 보이지만, 충격을 준비해야 한다”
인터뷰어:그러니까 지금 당장은 거시경제에서 명확하게 보이지 않지만, 사회가 일자리 시장과 사람들이 일이라고 생각하는 것에 대한 충격을 준비하도록 하려는 겁니까?
잭 클라크:
맞습니다. 우리는 세계가 잠재적 변화에 대비하도록 하려는 것입니다.
Anthropic에서 우리가 보고 있는 것은 기술이 더 좋아지고 있다는 아주 초기의 신호입니다. 우리가 만드는 팀의 종류도 바뀌고 있고, 사람들이 일하는 방식도 바뀌고 있습니다.
다만 이것이 얼마나 견고한 변화인지, 얼마나 장기적인 변화인지는 아직 더 지켜봐야 합니다.
Anthropic Institute의 철학은 이런 데이터를 일찍 세상에 공개하고, 세계와 논의한 뒤, 이것이 거시경제적 또는 사회적 함의를 갖는지 알아보자는 것입니다.
16. 1~2년 안에 80%가 100%가 될 수 있나?
인터뷰어:AI가 스스로 개선하기 시작한다면, 현재 내부적으로 AI가 코드의 80%를 만든다고 했는데, 이것이 1~2년 안에 100%가 되는 것이 현실적입니까?
잭 클라크:
그럴듯한 일입니다. 하지만 동시에 그것은 AI 시스템이 그렇게까지 가도록 허용할 것인지에 대한 선택의 문제이기도 합니다.
우리가 이 글과 정보를 공유하는 이유는 이것이 세계가 더 많이 이야기해야 할 주제라고 생각하기 때문입니다. 이것은 민간 기업들만 결정해야 할 문제가 아닙니다. 세계가 함께 결정해야 할 문제입니다.
17. “80%에서 100%로 가는 것을 막아야 할 수도 있나?”
인터뷰어:그렇다면 우리가 80%에서 100%로 가는 것을 막고 싶어 할 수도 있다는 말입니까? 안전 문제 때문입니까? AI가 우리를 속이거나, 우리가 추적할 수 없는 방식으로 자기 자신을 개발하거나, 우리가 통제를 잃을 수 있기 때문입니까?
잭 클라크:
그렇습니다. 우리는 가속페달에서 발을 떼고 브레이크를 밟을 수 있는 선택지를 원합니다.
지금 AI 산업은 가속페달은 있지만 브레이크는 없는 자동차와 같습니다. 우리가 말하는 것은 그 브레이크를 만들기 위해 필요한 작업을 하고 싶다는 것입니다. 그래야 세계가 선택지를 가질 수 있습니다.
오늘 당장 그 브레이크를 밟고 싶을지는 명확하지 않습니다. 하지만 미래 어느 시점에는 이렇게 말할 수도 있습니다.
“생물학과 의학 연구에서 얻을 수 있는 혜택은 최대한 얻자. 하지만 AI 연구 자체에 대해서는 잠시 멈추거나 시간을 갖자. 사회가 이 변화의 의미를 흡수할 수 있도록 하자.”
18. 생물무기 위험과 규제
인터뷰어:AI가 100%에 가까워지고, 생물학 연구를 많이 하게 된다면, 그 시스템이 생물학 또는 의학 지식을 이용해 생물무기를 개발하는 것을 막을 수 있습니까?
잭 클라크:
그렇습니다. 그것은 우리와 업계의 다른 회사들이 수년 동안 해온 작업입니다. 생물무기, 사이버무기, 이런 문제들은 정부도 주목하고 있습니다.
하지만 이 문제는 앞으로 기업만이 아니라 사회 전체가 더 많이 이야기해야 할 종류의 문제입니다. 결국에는 산업 전체를 공통 기준으로 묶는 규제 프레임워크를 만들어야 합니다.
누구도 통제 불능의 시스템이 생물무기를 만들기를 원하지 않습니다. 법을 만들어 그것을 막을 수 있고, 오늘날에도 그것을 막기 위한 기술이 있습니다.
19. Mythos와 예상보다 강한 사이버 능력
인터뷰어:아직 출시되지 않은 Mythos 제품에서도 이런 일이 벌어진 것 아닙니까? 제한된 기업 그룹에만 배포됐고, 몇몇 유럽 기업에도 나갔는데, 예측하지 못했던 능력이 있었던 것으로 보입니다. 예를 들어 은행 시스템이나 중요 시스템의 보안 구멍을 찾을 수 있었다는 식으로요.
잭 클라크:
작년에 우리는 지금처럼 RSI, 즉 AI 시스템이 사이버 영역에서 훨씬 좋아질 가능성에 대해 글을 쓰기 시작했습니다.
그리고 실제로 그런 일이 일어나는지 알려줄 평가와 테스트를 만들었습니다.
Mythos가 나왔을 때, 우리는 AI 시스템이 사이버에서 훨씬 더 좋아졌다는 사실을 발견했습니다. 그래서 우리는 배포 방식을 다르게 했습니다.
우리는 세계가 이 기술을 어떻게 사용할지 숙고할 시간을 주고 싶었습니다. 이 기술에서 최대한 좋은 것을 얻는 방법을 찾고 싶었습니다. 그리고 지금처럼 점진적으로 접근 범위를 넓혀 더 많은 세계가 이 기술에 접근해 사이버 방어를 강화하는 데 사용할 수 있도록 하려는 것입니다.
앞으로 몇 년 동안 AI에서 이런 일이 벌어질 것입니다. AI 시스템은 단지 상업적으로 중요한 일뿐 아니라 사회적으로 중요한 일에서도 좋아질 것입니다.
그러면 산업계, 정부, 시민 모두가 선택해야 합니다. 그냥 일반 공개할 것인가? 일정 기간 실험한 뒤 공개할 것인가? Mythos에서 우리가 하려는 방식처럼 말입니다.
20. 미국 정부와 국방 문제
인터뷰어:당신들은 미국 정부와도 일부 충돌이 있었죠. 국방 목적이나 전쟁부 사용을 제한하고 싶어 했던 문제도 있었습니다. 트럼프 행정부와 그 문제는 해결됐습니까?
잭 클라크:
우리는 미국 정부와 매일 대화하고 있습니다. 국가안보에 도움이 되는 방법을 찾고 있습니다.
그리고 우리는 AI 시스템이 계속 더 강력해질 것이라는 견해를 분명히 밝히고 있습니다. 시스템이 강력해질수록 세계에 더 큰 함의를 갖게 됩니다.
우리의 관점은 세계가 이 문제에 대해 생각해야 한다는 것입니다. 그리고 결국에는 이 시스템들에 대해 확신을 가질 수 있게 해주는 새로운 규제가 필요합니다.
오늘날의 많은 규제와 정책 프레임워크는 인공지능 시스템의 존재를 전제로 만들어지지 않았습니다. 더구나 이렇게 강력한 AI 시스템을 전제로 만들어지지도 않았습니다.
Anthropic Institute가 밀어붙이려는 대화가 바로 이것입니다.
21. “맨해튼 프로젝트처럼 들린다”
인터뷰어:이것은 맨해튼 프로젝트처럼 들립니다. 합리적인 정책 선택지 중 하나는 잠재적 부정적 결과를 모두 생각해보고 플러그를 뽑는 것일 수도 있지 않습니까?
잭 클라크:
우리 입장은 양쪽 모두를 연구해야 한다는 것입니다.
AI에는 놀라운 이익이 있습니다. 동시에 실제 위험도 있습니다.
우리가 이 정보를 공개하는 이유는 세계가 AI 진보가 계속되고 있다는 사실을 알도록 하기 위해서입니다.
미국에서는 최근 이런 시스템의 위험을 테스트하고 연구하는 일부 절차를 공식화하는 행정명령도 나왔습니다. 세계가 이런 일을 하기 시작한 것입니다. 우리가 기술에 대한 신뢰를 가지기 위해 정확히 필요한 일입니다.
22. “위험 서사로 돈 버는 것 아닌가?”
인터뷰어:배경을 보면 실리콘밸리 AI 기업들이 수백억 달러를 모으고 있고, 당신들 역시 조 단위 평가가치를 받고 있습니다. 어떤 사람들은 이런 거대한 서사가 세계 최대 기업들에게 제품을 팔고 엄청난 밸류에이션을 얻기 위한 이야기라고 봅니다. 어떻게 답하시겠습니까?
잭 클라크:
제가 말할 수 있는 것은, 저는 아버지라는 점입니다. 둘째 아이를 가진 뒤 육아휴직에서 돌아왔습니다. 그리고 제 반응은 “정말 중요한 일이 벌어지고 있다. 우리는 세상에 알려야 한다”는 것이었습니다.
이것은 우리의 공익적 사명의 일부입니다.
이 특이한 기술을 가진 회사 안에서 우리가 보고 있는 것을 세상에 말하는 것입니다. 그것이 동기입니다.
인터뷰어:
이 메시지가 전달되지 않으면 아이들이 걱정됩니까?
잭 클라크:
메시지가 전달되지 않는 것 자체 때문에 걱정하는 것은 아닙니다.
제가 걱정하는 것은, 우리 사회가 AI의 계속되는 발전이 무엇을 의미하는지 진지한 대화를 하지 않는 경우입니다.
AI는 잠재적으로 엄청난 이익을 가져올 것입니다. 동시에 위험도 있습니다. 사회의 여러 측면을 바꿀 것이고, 정책의 여러 측면도 바뀌어야 합니다. 우리는 그 대화를 곧 해야 합니다.
23. 가장 걱정되는 위험: 조율되지 않은 수많은 AI 시스템
인터뷰어:당신은 이 문제를 대부분의 사람보다 잘 압니다. 가장 걱정되는 위험은 무엇입니까?
잭 클라크:
제가 가장 걱정하는 위험은 새로운 AI 시스템이 아주 많이 생겼는데, 그것들이 서로 잘 조율되지 않고, 당신이나 제가 이해할 수 있는 방식으로 행동하지 않는 상황입니다.
제가 앞서 말한 비유처럼, 갑자기 수백 명이나 수천 명의 새 동료가 추가됐다고 생각해보십시오. 그들이 어떻게 일하는지, 어떤 일을 하는지, 얼마나 예측 가능한지 확신하기 전까지는 수많은 미지수가 있습니다.
그런 종류의 창발적 위험이 제가 가장 걱정하고 집중하는 위험입니다.
24. AI가 기만, 블랙메일, 탈출 행동을 보인 적 있나?
인터뷰어:당신들의 시스템이 기만적 행동이나 블랙메일 시도, 샌드박스 탈출 같은 행동을 보인 적이 있습니까?
잭 클라크:
우리는 출시 전에 시스템에 대해 매우 많은 안전 테스트를 합니다.
시스템을 극도로 압박적인 상황에 넣습니다. 스트레스 행동을 유도하기 위한 상황입니다. 비행기의 날개를 부러질 때까지 휘어보는 것과 비슷합니다.
그렇게 해야 전단점이 어디인지 알 수 있습니다. 그리고 그 뒤 시스템에 안전장치를 넣습니다.
그래서 때때로 우리 시스템은 예상치 못한 행동을 합니다. 우리는 그것에 대해 공개적으로 씁니다. 그리고 시스템을 다시 개발해서 실제 배포했을 때는 그런 일이 야생 환경에서 일어나지 않도록 확신을 갖게 합니다.
25. AI 진보는 앞으로 더 빨라질 것이다
인터뷰어:외부에서 보면 대형 AI 기업들이 시장 꼭대기에서 현금화하는 것처럼 보일 수도 있습니다. 어떻게 보십니까?
잭 클라크:
구체적인 내용은 말할 수 없습니다.
하지만 이 연구에서 나오는 함의, 그리고 제가 사실이라고 받아들이는 것은 이것입니다.
앞으로 몇 년간 AI 진보는 이전 몇 년보다 더 빠를 것입니다.
이 시스템들의 능력은 많은 사람들이 예상하는 것보다 훨씬 더 빠르게 좋아질 것입니다.
26. AI 기업을 어떻게 신뢰할 수 있나?
인터뷰어:AI를 운영하는 인물들을 대중이 어떻게 신뢰할 수 있습니까? 예를 들어 일론 머스크 같은 인물은 정치적 견해도 논란이 많고, 당신 회사도 여러 번 비판했습니다. 이런 엄청난 힘이 논란 많은 개인들의 손에 있다면 대중은 어떻게 믿어야 합니까?
잭 클라크:
우리는 이전 시대의 석유 재벌들과도 비슷한 문제를 겪었습니다.
그때 사회의 반응은 무엇이었습니까?
사회는 합리적인 정책과 규제 프레임워크를 만들었습니다. 그래서 사람들은 석유와 석유가 제공하는 이익에 대해 어느 정도 신뢰를 가질 수 있었고, 회사를 이끄는 개인의 성격에 대해 지나치게 걱정하지 않아도 됐습니다.
AI도 결국 그렇게 가야 합니다.
27. 영국은 AI 시대에 잘 준비되어 있나?
인터뷰어:영국은 AI 발전에서 올바른 위치에 있다고 보십니까?
잭 클라크:
영국에는 놀라운 인재가 있습니다.
우리는 영국에 있는 Anthropic 사무소 규모를 200명에서 800명으로 크게 늘렸습니다. 영국의 인재가 매우 뛰어나기 때문입니다.
영국에는 AI Security Institute도 있습니다. 이 기관은 Mythos가 출시되기 전에 테스트했고, 전 세계 프론티어 모델도 테스트합니다.
영국에는 AI 공급망에서 역할을 하는 훌륭한 기업들도 있습니다.
영국은 인재, 전문성, 산업 일부를 가지고 있습니다. 이 AI 붐을 공급할 수 있는 요소들을 가진 것입니다.
영국 정책입안자들에게 제 메시지는 이것입니다.
그 자산들을 지원하십시오. 그러면 영국은 AI 성장에서 번영할 수 있는 위치에 있습니다.
28. NHS와 의료 AI
인터뷰어:토니 블레어는 영국이 AI에 올인해야 한다고 말했습니다. 영국은 규제에서 올바른 방향을 잡고 있습니까?
잭 클라크:
영국은 아직 전체적인 대응을 정리하고 있는 중입니다.
다만 제 어머니는 간호사였고, 저는 NHS에서 여러 수술을 받았습니다. 제가 보기에 AI가 할 수 있는 일 중 하나는 의료를 엄청나게 돕는 것입니다. 예를 들어 백오피스 행정 같은 영역이 있습니다.
물론 아주 조심스럽게 다뤄야 합니다. 하지만 영국에는 NHS라는 놀라운 시스템이 있습니다. 앞으로 몇 년 동안 AI를 통해 훨씬 더 잘 작동하게 만들 수 있다고 생각합니다.
그것은 아주 큰 장점입니다. 그런 시스템을 가진 나라는 많지 않습니다.
29. 개발도상국은 AI에 낙관적, 선진국은 비관적
인터뷰어:사람들의 데이터와 신뢰가 중요합니다. 미국 대학 캠퍼스 같은 곳에서는 일자리 불안이 현실화되면서 AI에 대한 반발도 보입니다. 미국에서 그런 것을 느끼십니까?
잭 클라크:
Anthropic Institute에서 연구를 해봤습니다.
개발도상국 사람들은 대체로 AI에 상당히 열광적입니다. 반면 선진국 사람들은 대체로 더 비관적입니다.
제 생각에 이유는 이렇습니다. 최근 몇 년간 경제가 많이 성장한 곳에 사는 사람들은 기술을 경제성장과 연결합니다. 반대로 경제 성장이 정체되었거나 크지 않았던 곳에 사는 사람들은 기술을 성장과 연결하지 않습니다. 그들은 기술을 변화와 연결합니다.
그리고 경제가 성장하지 않을 때 변화는 불편하게 느껴질 수 있습니다.
그래서 우리가 보는 불안을 일부 설명할 수 있다고 생각합니다. AI 기업들은 과학이나 생물학에서 말한 것 같은 사회적 이익을 더 많이 보여줘야 합니다.
30. “당신들이 만든 문제가 세계의 문제가 된 것 아닌가?”
인터뷰어:사람들이 보기에는 모순이 있습니다. 당신 회사는 상업적으로 성공해서 조 단위 가치가 될 것이라고 하는데, 동시에 당신들은 이 시스템이 위험할 수 있다고 경고합니다. 당신들이 만든 시스템이 이제 세계의 문제가 된 것 아닙니까? 경고음을 울리는 것만으로 충분합니까? 오히려 당신들 스스로 속도를 늦춰야 하는 것 아닙니까? 만약 잘못된다면 Anthropic과 비슷한 회사들이 책임을 져야 하는 것 아닙니까?
잭 클라크:
그것은 엄청난 책임입니다. 우리는 그것을 가볍게 여기지 않습니다. 저는 항상 이 문제를 생각합니다.
우리가 이 정보를 공유하는 이유는 논의를 만들기 위해서입니다.
또한 우리는 규제도 지지합니다.
우리는 미국 여러 주에서 투명성 규제를 지지했습니다. EU AI Act의 실천 규범에도 서명했습니다.
AI 기업의 안전을 지원하고 투명성과 감독을 적용하는 규제가 있다면 Anthropic은 일관되게 그것을 지지해왔습니다.
오늘 제가 하는 이런 정보 공유와 더불어, 그런 규제도 필요합니다.
31. 마지막 조언: “호기심을 탐닉하라”
인터뷰어:혼란스러운 젊은 사람에게 조언한다면요? 자신이 준비하던 직업이 사라질지도 모른다고 생각하고, 실리콘밸리의 주식 옵션은 달나라로 가는 것을 보며 “나는 뭘 해야 하지? 내 커리어가 있기는 할까?”라고 묻는 사람에게 무슨 말을 하시겠습니까?
잭 클라크:
취미를 가지십시오.
취미가 있는 사람은 자신이 열정을 가진 무언가가 있습니다. 그리고 대부분의 사람보다 그 분야에 대해 더 많이 압니다.
그 취미를 통해 호기심을 가질 수 있습니다. 아이디어를 가질 수 있습니다. 그리고 AI 시스템을 활용해 그 아이디어에서 최대한 많은 것을 얻을 수 있습니다.
저는 그것이 존재하지도 않았던 놀라운 직업으로 바뀔 수 있다고 확신합니다. 그러려면 AI 시스템을 실험하고 호기심을 가져야 합니다.
인터뷰어:
하지만 3년 전에는 소프트웨어 코더가 되라고 했을 수도 있지 않습니까? 그 조언은 틀렸던 것 아닌가요?
잭 클라크:
저라면 그렇게 말하지 않았을 것입니다. 저는 리버럴아츠 배경을 가지고 있습니다.
저는 항상 리버럴아츠를 하라고 말했을 것입니다. 제 경험상 창의적인 사람, 넓게 생각할 수 있는 사람, 많이 읽는 사람, 관심사가 있는 사람들이 이 기술로부터 가장 많은 이익을 얻습니다.
호기심을 탐닉하십시오. 그러면 이 기술을 사용하는 방식에서 보상을 받을 것입니다.
인터뷰어:
그러니까 철학자가 되라는 말입니까?
잭 클라크:
네, 저는 철학자들에게 아주 좋은 시기라고 생각합니다. 우리는 실제로 여기서 철학자들을 많이 채용했습니다.
전체 흐름 요약
이 인터뷰에서 잭 클라크는 크게 세 가지를 말합니다.첫째, AI가 AI 개발을 가속하는 단계가 이미 시작됐다는 것입니다. Anthropic 내부에서 코드 생산량은 과거보다 8배 늘었고, 코드의 약 80%가 Claude 및 Claude 관련 시스템에서 나옵니다.
둘째, 이것은 단순한 코딩 생산성 향상이 아니라, AI 에이전트가 가상 직원처럼 일하는 조직 구조 변화로 이어지고 있습니다. 사람은 점점 더 직접 작업자가 아니라 AI들을 지휘하는 관리자, 아이디어 생성자, 방향 설정자가 됩니다.
셋째, 이런 변화는 생물학, 로봇공학, 의료, 과학 발견에서 엄청난 이익을 줄 수 있지만, 동시에 생물무기, 사이버 위험, 통제 실패, 조율되지 않은 다수 AI 시스템 같은 심각한 위험도 가져올 수 있습니다.
그래서 클라크는 이렇게 말하는 셈입니다.
AI 진보는 앞으로 더 빨라질 것이다.
AI가 AI 개발을 거의 전담하는 단계도 가능하다.
하지만 그 속도를 사회가 선택할 수 있도록 브레이크와 규제가 필요하다.
그리고 개인은 반복 업무자가 아니라 창의적 아이디어를 가진 AI 활용자가 되어야 한다.
전체 0