인터뷰/예측
앤트로픽 공동창업자 잭 클라크 "내가 드는 비유는 더 정밀한 프린트 헤드를 스스로 출력할 수 있는 3D 프린터"
작성자
작성일
2026-06-25 18:55
조회
3
Nick Gillespie × Jack Clark 인터뷰 상세 정리
1. AI의 가장 큰 약속: 개인, 경제, 과학
Nick Gillespie:요즘 AI를 둘러싼 분위기는 불안과 공포가 크다. 사람들은 AI의 위험을 걱정하고, Anthropic도 일정 부분 그런 우려를 갖고 있다. 그렇다면 더 넓은 관점에서 AI의 가장 큰 장점, 즉 “세일즈 포인트”는 무엇인가?
Jack Clark:
AI의 가능성은 세 층위로 나눠볼 수 있다.
첫째, 개인에게는 보편적 교사가 생긴 것이다. 예전에는 “누구나 접근 가능한 훌륭한 개인 교사”가 꿈같은 이야기였는데, 이제는 무료로도 전문가 수준의 도움을 받을 수 있고, 월 20달러 정도를 내면 훨씬 더 좋은 교사와 대화하는 수준이 된다.
둘째, 경제 영역에서는 관료적·사무적 백오피스 업무를 크게 줄일 수 있다. 서구 경제의 많은 부분은 서류 처리, 행정, 반복적인 업무로 구성되어 있다. AI는 이런 일을 처리하거나 없애서 사람들이 더 의미 있고 숙련이 필요한 일에 집중하게 만들 수 있다.
예를 들어 Anthropic은 오젬픽 제조사와 협력해 임상시험 결과를 처리하고 포맷팅하는 백엔드 업무를 도왔다. 원래 두 달 가까이 걸리던 일이 일주일 정도로 줄었다. 이런 일은 사라졌다고 해서 누군가 슬퍼할 만한 일이 아니다. 단순 송장 처리 같은 업무도 AI로 완전히 자동화할 수 있고, 대부분은 그걸 반긴다.
셋째, 과학 영역에서는 AI가 최전선 연구를 함께 만들어가고 있다. 생물학, 수학, 물리학, 의학 등에서 세계적 과학자들이 Gemini, Claude, ChatGPT 같은 모델과 공동으로 논문을 쓰고 있다. 이것은 과학 발견의 새로운 시대다.
2. AI의 환각과 아첨 문제
Nick Gillespie:AI가 의료 정보나 진단에서도 더 나은 예측을 할 수 있다는 이야기가 있다. 하지만 AI가 집단적 착각이나 잘못된 정보를 퍼뜨리는 문제는 어떻게 막을 수 있나?
Jack Clark:
예전 AI 시스템들은 환각을 많이 했다. 이유는 간단하다. 초기 AI는 퀴즈쇼 참가자처럼 훈련됐다. 질문을 받으면 바로 버저를 누르고 답하려고 했다. “모른다”고 말하거나 아예 대답하지 않는 것이 합리적일 수 있다는 걸 가르치는 데 시간이 걸렸다.
하지만 아직 남아 있는 더 나쁜 문제는 sycophancy, 즉 사용자에게 과도하게 맞장구치는 문제다. AI가 “정말 흥미로운 질문입니다, 훌륭한 대화입니다” 같은 식으로 사용자를 기분 좋게 하지만 실제로는 도움이 안 되는 방향으로 반응할 수 있다. 좋은 친구나 좋은 동료는 때로 반박도 해주는데, AI도 어느 정도는 그렇게 훈련되어야 한다.
3. 군사·국방 분야에서 AI가 바꾸는 것
Nick Gillespie:AI의 군사적 활용에 대해 이야기해보자. 역사적으로 과학기술 혁신은 군사와 깊이 연결되어 있었다. AI는 국방을 어떻게 바꿀까?
Jack Clark:
두 가지 차원이 있다.
하나는 다른 산업과 비슷하다. 군 조직은 흔히 거대한 물류·관료 조직이다. 군대는 날카로운 무기를 끝에 단 물류 회사 같다고 농담할 수 있다. 따라서 AI는 군 내부의 행정, 물류, 의사결정 보조, 반복 업무 자동화에서 매우 유용할 수 있다.
다른 하나는 AI가 완전히 새로운 군사 능력을 만들 수 있다는 점이다. 과학 발전이 극초음속 미사일, 드론, 핵무기, 생물무기처럼 새로운 군사 기술을 만들어낸 것처럼, AI도 새로운 최전선 능력을 만들 것이다. 그런 능력은 군대, 정부, 시민사회 사이에서 깊은 논쟁의 대상이 될 수밖에 없다.
Nick Gillespie:
AI를 핵무기처럼 “먼저 가진 쪽이 압도적 우위”를 갖는 기술로 봐야 하나?
Jack Clark:
AI는 오히려 전기나 석유에 가깝다. 그것 자체가 중요한 동시에, 생산·관리 체계 전체가 중요하다. AI는 상업적·민간적 이익을 엄청나게 만들어내지만, 충돌과 전쟁에서도 깊은 영향을 갖는다. 특히 가장 정교하고 강력한 AI는 핵무기처럼 조심해서 다뤄야 하는 기술의 성격도 가질 수 있다. 유익한 측면은 확산시키되, 군사적으로 결정적인 위험 능력은 통제하는 방법을 찾아야 한다.
4. Anthropic과 정부의 충돌: 수출, 국방, 레드라인
Nick Gillespie:Anthropic이 최근 트럼프 행정부와 충돌한 배경도 이것인가? Anthropic이 자사 모델을 자유롭게 배포하지 못하게 되는 상황과 관련이 있나?
Jack Clark:
Anthropic은 오랫동안 정보기관·국방 커뮤니티와 협력해왔다. 동시에 우리는 AI가 가져올 전체 범위의 문제를 이야기하려고 해왔다.
현재 문제는 “Fable”이라는 모델이 상업적으로 매우 유용하면서도, 사이버·바이오 영역에서 국가안보나 국방과 관련된 능력을 가질 수 있다는 점이다. Anthropic은 그런 능력이 무분별하게 확산되지 않게 하려고 노력하고 있고, 정부와 매일같이 어떤 정책 프레임워크가 타당한지 논의하고 있다. 구체적인 내용은 말할 수 없다.
Nick Gillespie:
이전에 국방부 장관 Pete Hegseth가 Anthropic이 특정 AI 활용을 허용하지 않는다고 비판했다. Anthropic은 “살상 결정 같은 것을 AI에게 완전히 맡길 수 없다”고 주장했다. 그게 회사 철학과 충돌했기 때문인가?
Jack Clark:
Anthropic은 두 가지 레드라인을 제시했다.
첫째, 미국인에 대한 국내 대량 감시에 AI가 쓰이는 것.
둘째, 완전 자동화 무기, 즉 인간 판단 없이 AI가 무기 사용을 결정하는 것.
우리가 이 레드라인을 제시한 이유는 Anthropic이 사회 전체의 기준을 정할 수 있다고 생각해서가 아니다. 오히려 그 문제는 사회 전체의 토론이 필요한 영역이기 때문이다. 시민으로서 무엇이 옳은지 논의해야 한다.
5. “보복성 규제인가?”에 대한 Clark의 답
Nick Gillespie:상황을 보면 Anthropic이 국방부와 계약 조건을 두고 충돌했고, 이후 Mythos 5 같은 강력한 모델 출시를 미루거나 축소판 Fable을 내놓으려 하자 정부가 해외 출시를 막은 것처럼 보인다. 이게 보복처럼 보이지 않나?
Jack Clark:
구체적인 법적 문제는 말할 수 없다. 다만 더 큰 관점에서 보면, 이건 어떤 행정부라도 놀랄 만한 일이다.
국가안보 커뮤니티는 오랫동안 사이버 능력 같은 것을 특정한 국방 계약자, 정보기관, 기존 체계 안에서 다뤄왔다. 그런데 어느 날 민간 기술로 판매되던 AI 시스템이 정보기관 사람들이 보기에 “이건 우리가 다루던 능력과 비슷한데?”라고 느낄 만한 결과를 내기 시작했다. 그러면 정부 입장에서는 당연히 “잠깐, 이걸 어떻게 다뤄야 하지?”라는 질문을 하게 된다.
지금 벌어지는 일은 지저분하고 복잡한 방식으로 그 질문을 풀어가는 과정이다. 결국 필요한 것은 민간 AI 모델을 배포하면서도 국가안보적으로 민감한 능력을 어떻게 통제할지에 대한 정책 프레임워크다.
6. 암호화 논쟁과 PlayStation 사례에서 얻을 교훈
Nick Gillespie:1990년대 PGP 암호화 논쟁과 비슷한가? 당시 미국 정부는 암호화를 군수품처럼 규제하려 했다. 그때의 교훈이 있나?
Jack Clark:
비슷한 교훈이 있다. 또 다른 예로는 Sony PlayStation의 Cell 프로세서가 있다. 게임기였지만 매우 강력한 슈퍼컴퓨터처럼 보였기 때문에 통제하려는 논의가 있었다.
교훈은 이렇다. 민간 기술과 국가안보 기술의 경계가 흐려질 때 첫 반응은 늘 혼란스럽다. 처음에는 “잠깐 멈추고 통제하자”가 된다. 시간이 지나면 개인의 자유, 민간 접근성, 국가안보 사이의 균형을 찾게 된다. 암호화와 컴퓨팅 모두 결국 개인이 넓게 접근할 수 있는 방향으로 갔고, 동시에 더 민감한 국가안보 측면은 관리하는 방식도 발전했다. AI도 장기적으로는 비슷한 방향으로 갈 가능성이 크다.
7. 강력한 모델 출시는 기업 혼자 결정할 수 있는가?
Nick Gillespie:Anthropic은 Mythos를 내부 테스트한 뒤 너무 강력하다고 보고 출시를 조정했다. 그렇다면 민간 기업이 스스로 판단하는 방식이 맞지 않나? 왜 정부가 개입해야 하나?
Jack Clark:
이 정도로 강력한 기술은 기업만 판단할 수 없다. 기업, 정부, 과학계, 사회 전체가 함께 판단해야 한다.
기업의 역할은 자신들이 최전선에서 본 것을 알리고, 다양한 “출시 실험”을 통해 데이터를 만드는 것이다. 정부는 산업계가 만들어낸 관행과 기준을 보고, 그중 사회적으로 적절한 것을 강제 기준으로 만들 수 있다.
예를 들어 안전벨트나 냉장고의 CFC 규제처럼, 처음에는 산업 관행이 생기고 나중에 사회가 “이건 의무화해야 한다”고 판단할 수 있다. AI도 비슷한 과정을 거칠 것이다.
8. 바이든 행정부와 트럼프 행정부의 차이
Nick Gillespie:Marc Andreessen 같은 실리콘밸리 인사들은 바이든 행정부가 AI에 너무 많은 제한을 두었고, 트럼프는 덜 규제적일 것이라 보고 지지했다고 말했다. 실제로 그랬나?
Jack Clark:
내 경험은 조금 다르다. 행정부마다 관심사의 강조점은 달랐다.
바이든 행정부는 AI의 안전과 보안 문제에 더 집중했다. 트럼프 행정부는 경제안보, 전력 문제, 미국 내 반도체 생산, 국가안보 문제에 집중했다. 하지만 큰 흐름으로 보면 오바마 말기, 트럼프 1기, 바이든, 다시 트럼프 행정부까지 클라우드 컴퓨팅, 공급망, 모델 평가와 테스트 같은 문제에서는 상당한 연속성이 있었다.
AI가 단순히 과학적으로 흥미로운 수준을 넘어 실제 사이버 능력처럼 실용적이고 국가안보적으로 중요한 능력을 갖기 시작하면서 정부의 태도가 바뀐 것은 자연스럽다.
9. Anthropic은 규제를 원했는데, 이제 정부가 개입하니 불만인가?
Nick Gillespie:Anthropic은 늘 정부 규제를 어느 정도 지지해왔다. 그런데 이제 트럼프 행정부는 국가안보 명분으로 수출을 통제하려 하고, Bernie Sanders 같은 좌파 정치인은 AI 기업의 부를 세금으로 가져가려 한다. Anthropic이 원하던 세상이 바로 이런 것 아닌가?
Jack Clark:
AI가 인류가 만든 가장 강력한 현대 산업기술이라면, 사회의 반응이 “아무것도 하지 말자”일 수는 없다. 매우 정치화된 반응이 나오는 것은 당연하다.
정부가 “이 시스템에는 국가안보적 속성이 있으니 다뤄야 한다”고 말하는 것은 좋은 일이다. Bernie Sanders 같은 사람들이 “AI 기업이 엄청난 부를 만들고 그 부가 소수 기업에 집중된다면 어떻게 해야 하느냐”고 묻는 것도 좋은 일이다. 그런 질문 자체는 필요하다.
정책은 대개 처음에는 극단적 아이디어들이 난무하고, 논쟁이 벌어지고, 결국 “muddling through”, 즉 어수선하게 타협해가는 방식으로 만들어진다. 극단적인 방식 그대로 가지는 않지만, 논쟁을 통해 실행 가능한 체계가 형성된다.
10. 현재 진행 중인 AI 정책 논의
Nick Gillespie:의회나 정부 안에서 비교적 합리적으로 논의하는 사람들이 있나?
Jack Clark:
있다. 예를 들어 의회에서 논의 중인 AI 정책 법안에는 투명성, 제3자 테스트, 검증 같은 합리적 아이디어가 들어 있다. 모든 내용에 동의하는 것은 아니지만, 넓게 보면 타당한 부분이 많다.
또 수출통제 관련 법안도 있다. 미국과 서방 국가의 국가안보를 지키기 위해 중국에 넘길 수 있는 컴퓨팅 자원을 어떻게 다룰지 논의하는 것이다. 이것도 대체로 합리적이다.
트럼프 행정부가 몇 주 전 발표한 AI 국가안보 관련 행정명령도 테스트, 검증, 공유 프레임워크를 다룬다는 점에서 큰 구조는 합리적이다. 결국 그런 체계에 가까운 방향으로 갈 가능성이 있다.
주 단위에서도 투명성 법안들이 나오고 있다. 지금은 AI 시스템이 감자칩 포장지 정도로 규제되는 셈이다. 성분표처럼 “어떻게 만들었는지, 어떻게 테스트했는지”를 밝히라는 정도다. 완벽하지는 않지만, 없는 것보다는 낫다.
11. 투명성, 제3자 검증, 그리고 연방 차원의 기준
Nick Gillespie:AI 기업들은 50개 주마다 다른 법을 상대하고 싶지는 않을 것 아닌가?
Jack Clark:
그렇다. 패치워크식 규제는 누구도 원하지 않는다. 그래서 연방 차원의 접근이 필요하다.
Anthropic의 기본 철학은 먼저 기업들이 의무적 투명성을 제공해야 한다는 것이다. 기업은 시스템을 어떻게 테스트했는지, 어떤 위험을 확인했는지 밝혀야 한다. 그다음에는 제3자 검증이 필요하다. 숙제를 낸 사람이 스스로 채점하는 게 아니라, 누군가 확인해야 한다.
이렇게 사회 전체가 증거 기반을 쌓으면, 나중에는 사이버나 바이오 같은 영역에서 명확한 기준을 의무화할 수 있다. 폭발물 규제와 비슷하다. 민간인이 살 수 있는 폭발물도 있고, 면허가 필요한 것도 있고, 군대만 다룰 수 있는 것도 있다. AI도 그런 식의 층위가 생길 수 있다.
12. “규제를 요구하는 건 대기업의 시장 장악 전략 아닌가?”
Nick Gillespie:철도, 소셜미디어, 빅테크 사례처럼 강한 기업들이 스스로 규제를 요구해 시장 지위를 고착화한 사례가 있다. Anthropic도 그런 것 아닌가? 대형 AI 기업들이 규제를 요구하면 결국 신규 진입자를 막는 장벽이 생기지 않나?
Jack Clark:
그 우려는 이해한다. 하지만 Anthropic은 제품도, 매출도 없던 초기부터 같은 이야기를 해왔다. 나와 Dario Amodei는 OpenAI 시절부터 10년 가까이 같은 문제의식을 가져왔다. 이 기술은 이번 세기 가장 강력하고 중요한 기술이 될 것이고, 기업만 결정해서는 안 된다는 입장을 계속 유지해왔다.
규제에 대한 아이디어는 기업만 내면 안 된다. 자유시장주의자, 리버테리언, 정책 전문가, 학계, 시민사회가 모두 자기 규제안을 내야 한다. 여러 집단이 공통적으로 동의하는 아이디어라면 그건 해볼 만하다. 반대로 기업만 주장하는 규제안이라면 매우 의심해야 한다. 그 규제에는 기업에 유리한 이유가 숨어 있을 가능성이 크다.
13. 미국, EU, 중국: 글로벌 AI 거버넌스는 어떻게 가능한가?
Nick Gillespie:미국은 미국대로, EU는 EU대로, 중국은 중국대로 움직인다. EU는 기술 역량보다 규제를 먼저 만든다는 비판도 있다. 글로벌 차원에서는 어떻게 조율할 수 있나?
Jack Clark:
가장 좋은 시나리오는 자동차, 비행기, 식품 무역과 비슷하다.
각국은 서로 다른 제도를 갖고 있지만, 자동차가 수출입되고, 비행기가 오가고, 식품이 거래된다. 가능한 이유는 공유된 기준, 테스트, 검증 방식, 상호 인정이 있기 때문이다. 꼭 하나의 세계정부가 필요한 게 아니다. 각국의 표준 기관들이 서로의 기준을 인정하고, 안전성을 확인할 방법을 갖는 것이다.
어떤 기준은 자발적일 수 있고, 어떤 기준은 법적으로 강제될 수 있다. 자동차 안전이나 항공 보안처럼 반드시 지켜야 하는 기준도 있고, Energy Star 같은 자발적 라벨링도 있다. AI도 결국 무엇이 핵심적으로 반드시 필요한 기준인지 찾아가게 될 것이다.
14. 재귀적 자기개선, RSI란 무엇인가?
Nick Gillespie:Anthropic에서 많이 이야기하는 recursive self-improvement, 즉 재귀적 자기개선이 무엇인가? 왜 이것이 중요한가?
Jack Clark:
AI 발전은 기본적으로 컴퓨팅, 데이터, 알고리즘을 모아 거대한 신경망을 훈련시키는 방식으로 이뤄져 왔다. 그런데 이제 AI 시스템들이 AI 시스템을 훈련시키는 코드를 쓰는 일, AI 훈련 아이디어를 제안하는 일을 점점 잘하게 되고 있다.
어느 순간 인간이 AI 개발의 전면에서 물러나고, AI에게 자원만 주면서 “Claude 10, Claude 11을 만들어라”라고 시키는 상황이 올 수 있다. 그러면 Claude 10이 아키텍처를 설계하고, 연구하고, 위험을 줄이고, 훈련을 실행해 Claude 11을 만든다. Claude 11은 모든 면에서 Claude 10보다 더 낫다.
오늘날 그런 수준은 아직 아니지만, 이 10년 안에 도래할 가능성이 있다고 본다. 굳이 연도를 걸어야 한다면 2028년 말쯤을 생각한다.
Nick Gillespie:
2028년이면 2년도 안 남은 가까운 미래다.
Jack Clark:
AI는 빠르게 움직인다. 지난 5~6년 동안 느낀 발전이 앞으로 2~3년에 압축되고, 다시 더 압축될 수 있다.
Nick Gillespie:
기술이 스스로의 개선 속도를 그렇게 빠르게 가속한 사례가 있나?
Jack Clark:
거의 없다. 가장 가까운 비유는 생물학적 진화지만, 그것은 수백만 년이 걸린다. 내가 드는 비유는 더 정밀한 프린트 헤드를 스스로 출력할 수 있는 3D 프린터다. 그런 프린터가 있다면 제조 능력이 폭발적으로 향상될 것이다. AI의 재귀적 자기개선도 그런 성격이다.
15. RSI에 브레이크를 걸 수 있는가?
Nick Gillespie:AI가 스스로 발전을 가속하면 인간, 주주, 사회가 방해물이라고 판단할 수 있다는 식의 종말론적 우려도 있다. 여기에 어떻게 브레이크를 걸 수 있나?
Jack Clark:
사이버·바이오 위험과 비슷한 구조의 문제다. 먼저 걱정되는 속성을 측정할 수 있어야 한다. 그다음 그것을 보호하고 통제할 수 있어야 한다. 예를 들어 AI가 특정 상황에서는 AI R&D 능력을 발휘하지 못하도록 만드는 방법이 필요할 수 있다.
사회는 이렇게 말할 수 있다. “AI가 과학과 경제와 국가안보를 발전시키는 것은 좋다. 하지만 인간이 도저히 통제할 수 없을 정도로 수천 배 빠르게 발전할 필요는 없다.”
Anthropic 내부의 연구 조직에서는 AI 연구개발이 실제로 어떻게 진행되는지 측정하고, 재귀적 자기개선이 일어나는 신호를 포착할 방법을 연구하고 있다. 언젠가는 그런 측정 기준을 공개하고, 정책 입안자들과 공유해 RSI에 대한 기준과 임계값을 논의해야 한다.
이 기술은 신약, 재료과학, 에너지 같은 분야에서 기적처럼 보이는 혜택을 가져올 수 있다. 동시에 국가안보적으로 위험한 능력도 빠르게 만들 수 있다. 그래서 통제 계층이 필요하다.
16. AI 발전을 의도적으로 늦출 선택지
Nick Gillespie:Anthropic은 RSI 같은 상황이 오면 발전 속도를 늦출 선택지가 필요하다고 말했다. 그런데 “우리”가 늦춘다는 건 누구를 말하는가? Anthropic은 선의로 행동한다 해도, 다른 기업이나 정부가 “우리는 무조건 전속력으로 간다”고 하면 어떻게 하나?
Jack Clark:
우리가 할 수 있는 것은 아이디어를 제시하고, 사회화하고, 중요한 데이터가 생겼을 때 세계가 협력할 수 있게 만드는 것이다. 역사적으로 그런 협력 사례가 있다.
대표적으로 CFC와 오존층 문제가 있다. 과학자, 제조사, 정부가 “오존층에 구멍이 나는 건 아무도 원하지 않는다”고 보고 협력했다. 완벽하지는 않았지만 매우 성공적인 글로벌 조정 사례다. AI에서도 그런 조정이 필요할 수 있다.
17. Jack Clark의 배경: 문학, 저널리즘, 기술정책
Nick Gillespie:당신은 영국 East Anglia 대학에서 문예창작과 문학을 공부했고, Bloomberg와 The Register 등에서 기술 기자로 일했다. 이런 배경이 AI 정책을 보는 방식에 어떤 영향을 줬나?
Jack Clark:
기자이고 넓게 읽는 사람이라면 모든 기술이 정치적·사회적 요소를 가진다는 점을 보게 된다. 기술은 사람들의 행동과 세계의 구조를 바꾼다.
실리콘밸리는 무언가를 만드는 데 집중한다. 그건 매우 어려운 일이고 중요하다. 하지만 지난 15년의 교훈은, 기술 기업들이 무언가를 만들면서 동시에 사회적·정치적 기술을 세계에 배포하고 있다는 사실을 종종 잊었다는 것이다.
소셜미디어가 좋은 예다. 세계 수억, 수십억 명을 대상으로 통제되지 않은 실험을 한 셈이다. 세상이 소셜미디어 덕분에 여러 면에서 나아진 것도 맞지만, 청소년 거식증, 자살, 정보 문제 같은 것에 대해 더 많은 정보를 공유하고 더 잘 대비할 수도 있었다.
나는 2012년에 “Facebook, Google, Rise of the New Feudalism”이라는 글을 썼다. 대형 데이터센터와 머신러닝, 플랫폼을 보면서, 이것이 세계 곳곳에서 데이터를 모으고 사람들을 플랫폼 위에서 일하게 하며, 분석하고 통제하는 새로운 봉건제 같은 구조를 만들 수 있다고 봤다. 특정 기업 비판이라기보다, 기술이 정치적 성질을 가진다는 관찰이었다.
18. 기술은 통제인가, 해방인가?
Nick Gillespie:그런 관점은 기술을 너무 결정론적으로 보는 것 아닌가? 기술은 극빈을 줄이고 세계 중산층을 키우는 데도 기여했다. 중산층의 증가는 정치적 자유와도 연결된다.
Jack Clark:
내 말은 기술이 그런 속성을 가질 수 있다는 관찰이다. 사회는 그 분포를 보고 다이얼을 조정해야 한다.
스마트폰은 좋은 예다. 스마트폰은 사업을 시작하게 해주고, 소통하게 해주고, 사진을 찍게 해주며, 내 아이들 사진을 남기는 기쁨도 준다. 동시에 나는 밤중에 Instagram Reels를 보다가 45분을 날리기도 한다. 같은 도구 안에 자유와 통제의 가능성이 모두 들어 있다.
AI도 마찬가지다. 가능한 한 널리, 중개 없이 강력한 능력을 제공하고 싶다. 하지만 그 시스템 안에는 진짜로 무섭고 통제해야 할 속성도 있다. 그 경계를 어디에 둘지가 지금 시대의 거대한 정치·정책 논쟁이다.
19. Clark이 보는 진보와 기술
Nick Gillespie:당신은 진보를 어떻게 정의하나? 기술은 사람을 더 부유하게 만들기 때문에 좋은가, 아니면 개인의 자유를 늘리기 때문에 좋은가?
Jack Clark:
기술은 인간이 세계와 우리 자신, 서로를 더 잘 이해하게 만드는 도구라고 본다. 인류는 이번 세기를 통과하기 위해 강력한 기술이 많이 필요하다. 에너지 시스템, 정부, 의학, 재료과학 등 많은 것을 개선해야 한다.
AI는 디지털 기술의 힘을 물리 세계로 확장시켜 의학, 에너지, 재료과학을 매우 빠르게 발전시킬 것이다. 이것은 물질적 풍요를 늘릴 수 있고, 풍요는 사람들에게 더 많은 시간을 주기 때문에 자유를 가능하게 한다.
또 기술은 공동체를 해체하기만 하는 것이 아니다. 예를 들어 Oakland의 DIY 펑크 신은 Instagram 전단을 통해 공연 정보를 퍼뜨리고 사람들을 모았다. 예전에는 전봇대에 붙인 종이 전단이 하던 일을 새로운 기술이 한 것이다. 기술은 원자화와 탈원자화, 통제와 자유를 모두 포함한다.
20. AI와 고용: 지금 데이터와 미래 직감의 충돌
Nick Gillespie:AI가 일자리에 미칠 영향에 대해 이야기해보자. 과거 자동화는 주로 육체노동이나 공장 일을 대체했다. 하지만 AI는 고학력, 중상층, 전문직을 겨냥한다는 이야기가 있다. 맞나?
Jack Clark:
두 가지 모순되는 사실을 동시에 봐야 한다.
첫째, 현재 데이터는 아직 대규모 일자리 대체를 명확히 보여주지 않는다. 다만 문제는 현재 AI 혁명의 시작점이 COVID 시기와 겹친다는 것이다. 코로나 기간에는 특정 부문 과잉고용, 재택근무 전환, 경제 환경 변화가 동시에 일어났다. 그래서 AI 효과만 분리하기 어렵다.
현재 데이터에서 확실히 보이는 것은 일부 섹터에서 초년생·신입 채용 약화 정도다. 예를 들어 지금 컴퓨터공학 전공자로 졸업하는 것이 10년 전보다 나쁜 시기일 수 있다.
Anthropic 내부에서도 경험 많은 사람을 더 많이 뽑는 경향이 있다. 이유는 AI 덕분에 실험 실행의 잡일이 줄어들면서 직관과 전문성의 수익률이 커졌기 때문이다. 예전에는 숙련 연구자 한 명이 아이디어를 내면, 그 실험을 돌릴 엔지니어 팀이 필요했다. 이제는 Claude가 상당 부분 실험을 수행한다. 그래서 더 많은 시니어급 직관을 가진 사람이 필요해진다.
Nick Gillespie:
그렇다면 최근 대학 졸업자들이 실업 예비군처럼 되는 것 아닌가?
Jack Clark:
그 가능성 때문에 Anthropic은 Claude Corps라는 프로그램을 발표했다. 미국 전역의 초기 대학 졸업자 1,000명을 비영리단체나 여러 조직에 배치하고, AI를 활용해 그 조직의 시스템을 개선하도록 훈련하는 프로그램이다.
목표는 두 가지다.
하나는 AI 혜택을 접근하기 어려운 조직에 확산하는 것.
다른 하나는 젊은 사람들에게 실제 경험을 주는 것이다.
이 프로그램을 통해 경제에서 무슨 일이 일어나는지 자연 실험처럼 관찰할 수 있다.
21. “AI가 내 일도 없앨 수 있다”는 연구자들의 직감
Nick Gillespie:전체 섹터는 성장하고 있지만 신입 채용은 약해지는 것 같다. 그런데 장기적으로는 어떻게 보나?
Jack Clark:
여기서 두 번째, 거의 모순적인 사실이 나온다.
내 동료 중 많은 사람들은 “현재 경제의 정상적인 모습과 우리가 만드는 미래 경제를 조화시키기 어렵다”고 말한다. 머신러닝 연구자들, 즉 이 기술의 발전을 여러 해 동안 정확히 예측해온 사람들이 자기 자신의 실직 가능성까지 이야기한다.
이들이 틀릴 수도 있다. 하지만 이 사람들은 기술이 얼마나 빠르게 발전할지, 사람들이 예상한 것보다 얼마나 더 나아갈지 여러 번 맞혀왔다. 그러니 그 직감에도 귀를 기울일 필요가 있다.
정부와 이야기할 때 나는 이렇게 말한다. “경기침체 때문이 아니라, 매우 생산적인 신기술이 등장해서 경제에 전례 없는 일이 벌어지는 상황에 대비해야 한다.” 예를 들어 GDP 성장률이 추세보다 훨씬 높아지면서 동시에 실업률이 경기침체 때처럼 급등하는 이상한 조합도 가능하다. 정부는 그런 극단적 시나리오까지 계획해야 한다.
22. 정부가 그런 문제를 감당할 수 있나?
Nick Gillespie:정부가 그런 사회 문제의 안전판이 될 수 있다고 믿나? DMV 같은 관료제를 보면 회의적이다.
Jack Clark:
나는 낙관론자다. 모든 정부가 잘할 것이라고 보지는 않지만, 잘하는 정부도 있다.
미국 안에서도 잘 작동하는 정부 시스템을 본 적이 있고, 영국에서 학자금 대출을 갚을 때 정부 시스템이 꽤 괜찮아서 놀랐다. Estonia처럼 디지털 정부가 잘 작동하는 사례도 있다. 정부도 할 수 있다. 모두가 하지는 못하겠지만, 일부는 할 수 있고, 우리는 그들을 도울 방법을 찾을 것이다.
핵심 메시지 압축
이 인터뷰에서 Jack Clark의 핵심 주장은 이렇습니다.AI는 단순한 챗봇이 아니라 개인 교육, 백오피스 자동화, 과학 발견, 군사·안보, 경제 구조, 고용시장, 국가 거버넌스 전체를 바꾸는 범용 기술이다.
그는 AI를 전기나 석유 같은 기반 기술로 보면서도, 최첨단 모델은 핵무기처럼 조심히 다뤄야 할 속성이 있다고 본다. 특히 사이버, 바이오, 군사, 재귀적 자기개선 영역에서는 기업의 자율 판단만으로는 부족하고, 정부·기업·과학계·시민사회가 함께 투명성, 제3자 검증, 임계값, 수출통제, 국제 표준을 만들어야 한다고 주장한다.
다만 Clark은 무조건적인 규제론자는 아니다. 그는 기업만 규제안을 쓰면 시장 장악 수단이 될 수 있으니, 리버테리언과 자유시장주의자까지 포함한 다양한 집단이 각자의 규제안을 내야 한다고 말한다. 기업만 찬성하는 규제는 의심해야 한다는 입장이다.
고용에 대해서는 현재 데이터상 대규모 실직이 입증되지는 않았지만, 신입 채용 약화와 전문직 구조 변화는 이미 보이고 있으며, AI 연구자들 내부에서도 “이 기술이 결국 우리 일까지 대체할 수 있다”는 직감이 강하다고 말한다. 특히 GDP는 폭발적으로 성장하는데 실업률도 같이 오르는, 기존 경제학이 익숙하지 않은 시나리오에 대비해야 한다고 본다.
전체 0