인터뷰/예측
잭 클라크 "우리는 모래에게 생각하는 법을 가르쳤다."
작성자
작성일
2026-06-02 21:01
조회
5
인공지능을 통제하기엔 이미 너무 늦은 걸까요?
잭 클라크, 앤트로픽 공동 창립자 대담 정리
1. AI 기업들은 “핵발전소”를 만들고 있는데, 업그레이드하자 “핵폭탄”도 같이 나왔다
잭 클라크:“우리가 지금 살고 있는 세계는, AI 기업들이 일종의 핵발전소에 해당하는 것을 만들고 있는 세계입니다. 그런데 최근 처음으로, 그 발전소를 업그레이드했더니 핵폭탄도 같이 튀어나온 사례를 마주하게 됐습니다. 그러면 우리는 ‘아, 이건 꽤 중대한 함의가 있구나’라고 말해야 합니다.”
“지금 우리가 처한 상황은 굉장히 이상합니다. 몇몇 선의의 기업들이 엄청난 능력을 가진 시스템을 만들고, 스스로 ‘이건 위험하니까 공개하지 않겠다’고 결정하는 구조입니다. 그런데 그들에게 강제로 명령할 수 있는 외부 체계는 충분히 갖춰져 있지 않습니다.”
“이런 식으로 계속 갈 수는 없습니다. 이제는 기업 내부의 자율적 판단만으로는 부족합니다. 정부 간 조정, 산업계 간 조정, 특히 미국과 중국 사이의 조정이 필요합니다. 계속 ‘가속 페달만 밟고 브레이크는 없는’ 방식으로 가는 건 지속 가능하지 않습니다.”
2. 잭 클라크의 배경: 영국 출신 문학 전공자, 기술 저널리스트, 그리고 AI 기업 창업자
진행자:“잭, 당신은 실리콘밸리의 거물들 중에서는 드물게 영국인입니다. 어디서 자랐고, 무엇을 공부했나요?”
잭 클라크:
“저는 브라이턴에서 자랐습니다. 어머니는 간호사였고, 아버지는 사우스실즈 출신의 약간 까칠한 카피라이터였습니다. 저는 영국에서 공립 초등학교, 중등학교, 칼리지를 다녔고, 이후 이스트앵글리아 대학교에서 문학과 창작을 공부했습니다.”
“사실 학교에서는 과학을 잘했고 영어 성적은 좋지 않았습니다. 그런데도 저는 늘 엄청난 독서광이었고, 소설을 통해 기술과 사회의 의미를 탐구하는 데 관심이 많았습니다.”
“어릴 때부터 과학기술에 집착에 가까울 만큼 관심이 있었습니다. 개미 군집이 어떻게 작동하는지, 도시를 어떻게 설계할 수 있는지, 프랙탈이 뭔지 같은 것들을 읽었습니다. 14살쯤에는 슈퍼컴퓨터 안에 시뮬레이션된 개미들이 AI를 만들어 시뮬레이션 밖으로 탈출하려 하는 이야기를 쓴 기억도 있습니다.”
“그러다 그렉 이건의 소설을 읽고, 비슷한 아이디어가 이미 있다는 걸 알게 됐습니다. 그래도 그만큼 저는 어릴 때부터 기술이 인간과 세계에 무슨 의미를 갖는지에 몰두해 있었습니다.”
3. 기자로서 AI를 추적하다가 OpenAI 초기 멤버가 되다
진행자:“당신은 처음에는 기술 기자였죠. 어떻게 AI 쪽으로 들어가게 됐나요?”
잭 클라크:
“저는 2009년에 기술 기자가 됐습니다. 당시부터 데이터센터, 구글의 머신러닝 시스템, 대규모 데이터베이스 같은 것들이 세계에서 가장 중요한 이야기라고 느꼈습니다.”
“예를 들어, 구글에서 봇이 아님을 확인하는 ‘자전거를 모두 클릭하세요’ 같은 CAPTCHA 기술을 만든 사람들을 2009년에 인터뷰한 적이 있습니다. 그때 저는 ‘이거 흥미로운데, 구글에 언제 인수되나요?’라고 물었습니다. 그리고 3개월 뒤 실제로 구글에 인수됐습니다. 그래서 저는 ‘내 감이 맞구나’라고 생각했습니다.”
“2013년에 저는 인공지능을 취재하기 위해 실리콘밸리로 갔습니다. 신경망, 딥러닝, AI 논문들을 읽기 시작했고, 이 분야에서 뭔가 큰일이 벌어지고 있다는 느낌을 받았습니다.”
4. 데미스 허사비스와 DeepMind: AI는 UN 같은 체계로 관리되어야 한다는 초기 문제의식
진행자:“당신은 DeepMind의 데미스 허사비스도 인터뷰했죠. 그때 어떤 말을 들었나요?”
잭 클라크:
“DeepMind가 아직 작은 스타트업이던 시절부터 저는 데미스 허사비스의 연구 논문을 많이 읽었습니다. 이후 구글이 DeepMind를 인수한 뒤, 저는 데미스를 인터뷰했습니다.”
“그때 제가 물었습니다. ‘만약 우리가 정말 강력한 AI를 만드는 데 성공한다면, 이 기술은 어떻게 관리되어야 한다고 생각합니까?’ 데미스는 그것이 UN 같은 국제기구의 감독 또는 관리 아래 있어야 한다고 말했습니다.”
“지금 돌아보면 그 질문은 매우 중요했습니다. 왜냐하면 AI가 단순한 제품이 아니라, 인류 전체의 권력 구조와 안전 문제를 바꿀 수 있는 기술이기 때문입니다.”
5. OpenAI 초기: 계획은 없었지만, 엄청난 야망과 스케일링 직관이 있었다
진행자:“OpenAI에 처음 들어갔을 때 회사는 어땠나요?”
잭 클라크:
“저는 OpenAI의 초기 25명 또는 30명 안에 들어간 직원 중 하나였습니다. 다리오 아모데이도 저보다 한두 달 먼저 합류했을 겁니다.”
“당시 OpenAI 팀은 믿기 어려울 정도로 강력했습니다. 일리야 수츠케버, 다리오 아모데이, 그렉 브록먼 같은 사람들이 있었습니다. 저는 블룸버그 동료들에게 ‘맙소사, 이 팀에 일리야가 있다’고 말했지만, 당시 일반 사람들은 그 이름이 얼마나 대단한지 몰랐습니다.”
“그런데 회사에 들어가 보니, 사실 명확한 계획은 없었습니다. ‘인공일반지능을 어떻게 만들 것인가?’에 대한 답은 아무도 몰랐습니다.”
“하지만 OpenAI는 엄청나게 야심 찬 실험을 했습니다. AI가 복잡한 비디오게임에서 인간을 이길 수 있을까? 로봇 손을 조작할 수 있을까? 텍스트를 생성할 수 있을까? 이런 식의 프로젝트였습니다.”
“그중 텍스트 생성 프로젝트가 나중에 매우 중요해졌습니다. 하지만 다른 프로젝트들도 중요했습니다. 왜냐하면 그런 터무니없이 대담해 보이는 목표를 수행하면서, 우리는 더 큰 시스템을 만들고, 새로운 인프라를 구축하고, 규모의 한계에서만 나타나는 버그들을 발견했기 때문입니다.”
“그리고 매우 중요한 직관이 생겼습니다. 컴퓨팅 자원을 더 많이 투입할수록 시스템이 더 좋아진다는 것입니다. 단순히 인간 연구자의 천재적 아이디어만이 아니라, 훈련 규모 자체가 AI 성능을 끌어올린다는 사실을 경험적으로 깨닫게 된 것입니다.”
6. AI 안전은 기술의 가능성을 진지하게 받아들이는 데서 출발한다
진행자:“OpenAI와 Anthropic 모두 ‘AI 안전’을 중요한 정체성으로 삼았습니다. 왜 안전이 그렇게 중요했나요?”
잭 클라크:
“AI 안전을 진지하게 받아들이려면, 이 기술이 미래에 얼마나 강력해질 수 있는지를 머릿속에 동시에 담고 있어야 합니다.”
“AI는 오늘의 모습으로만 이해해서는 안 됩니다. 매우 빠르게 더 강력해질 수 있는 기술입니다. 그래서 안전 문제를 생각한다는 것은 단순히 위험을 줄이는 문제가 아닙니다. 오히려 가장 야심 찬 기술 낙관주의의 버전을 가능하게 하는 일입니다.”
“예를 들어, AI가 코딩을 잘하게 되면 좋은 소프트웨어 개발에는 도움이 되지만 해킹 능력도 생깁니다. AI가 생물학 연구를 잘하게 되면 신약과 백신 개발에는 도움이 되지만, 생물무기 지식 확산 위험도 생깁니다.”
“그러니까 문제는 ‘좋은 능력은 배포하면서 나쁜 능력은 어떻게 제한할 것인가’입니다. 이건 매우 미묘하고 복잡한 연구 의제를 만들어냅니다.”
7. OpenAI를 떠나 Anthropic을 만든 이유: “다른 조직 실험”이 필요했다
진행자:“밖에서 보면, OpenAI가 안전하지 않다고 느껴서 Anthropic을 만든 것처럼 보이기도 합니다. 실제로는 어땠나요?”
잭 클라크:
“저는 그것을 특정 조직이 틀렸다고 단정하는 방식으로 보지는 않습니다. 오히려 여러 조직적 실험이 있었다고 봅니다.”
“DeepMind는 거대 기술기업 내부에서 AI를 만드는 실험이었습니다. OpenAI는 비영리로 시작했다가 자본 조달을 위해 영리 구조를 결합한 실험이었습니다. 그리고 몇 년을 함께 일한 뒤, 우리는 안전 중심 조직을 만드는 우리만의 방식이 있다고 느꼈습니다.”
“2020년쯤에는 AI 개발이 얼마나 비싸질지 감이 왔습니다. OpenAI가 2016년에 10억 달러 규모의 약속으로 시작했는데, 4년이 지나자 앞으로는 훨씬 더 많은 자본이 필요하다는 것이 분명해졌습니다. 그래서 그 시점이 새로운 실험을 시작할 때라고 판단했습니다.”
8. “전부 가속, 브레이크 없음”의 시대는 끝나가고 있다
진행자:“AI 기업들은 서로를 위험하다고 생각하며 더 빨리 가려고 합니다. 미국은 중국보다 앞서야 한다고 말합니다. 이런 경주가 계속 가능한가요?”
잭 클라크:
“한동안은 다양한 조직 설계와 연구 의제를 실험하는 시기였습니다. 그 시대는 이미 있었습니다.”
“하지만 이제는 다릅니다. 이제는 진지한 조정이 필요합니다. 기업들끼리도 조정해야 하고, 정부들끼리도 조정해야 합니다.”
“미국과 중국이 고위급 회담에서 AI를 논의한 것은 좋은 일입니다. 하지만 앞으로는 기업, 정부, 사회의 다른 부분들이 함께 모여 이 기술을 어떻게 개발하고 어떻게 사용할지 논의해야 합니다.”
“계속해서 ‘올가스 노브레이크’로 가는 시대는 백미러 속으로 들어가고 있습니다. 지속 가능하지 않습니다.”
9. 영국 AI 안전연구소: 정부도 프론티어 AI 테스트 역량을 가질 수 있다
진행자:“당신은 영국 AI 안전연구소, 지금의 AI 보안연구소와도 관련이 깊습니다. 정부가 정말 이런 모델들을 제대로 평가할 수 있나요?”
잭 클라크:
“지금 영국 AI 보안연구소는 Anthropic의 모델과 OpenAI의 모델을 사이버보안 과제로 평가하고 있습니다. 이 테스트는 기업이 만든 것이 아니라, 영국 정보기관과 협력해 정부 측이 만든 것입니다.”
“그리고 중요한 점은, 우리 기술진도 그 테스트의 정당성을 인정한다는 것입니다. 왜냐하면 그곳의 인재와 역량을 신뢰하기 때문입니다.”
“2020년에 누군가가 저에게 ‘영국 정부 안에 전 세계에서 가장 강력한 AI 시스템을 평가하는 완전히 새로운 기능을 만들 것이고, 그들이 기업보다 더 나은 테스트를 만들 것이다’라고 말했다면 저는 불가능하다고 했을 겁니다.”
“그런데 실제로 일어났습니다. 그리고 이런 기능이 미국을 비롯한 다른 나라들에도 복제되고 있습니다.”
10. 항공 안전처럼 AI도 국제 표준과 상호 검증 체계가 필요하다
진행자:“하지만 영국만 열심히 한다고 되는 문제는 아니지 않나요? 미국과 중국이 핵심 아닌가요?”
잭 클라크:
“비행기를 생각해보면 됩니다. 우리는 다른 나라에서 이륙한 비행기를 신뢰합니다. 왜냐하면 항공 안전에 관한 공통 표준, 시험기관, 상호 인정 체계가 있기 때문입니다.”
“심지어 서로 갈등하는 국가들 사이에서도 비행기는 이착륙합니다. 그것은 각국의 기술 관료적 표준 기관들이 일정한 안전 개념을 공유하기 때문입니다.”
“AI에서도 그런 것이 필요합니다. 영국 AI 보안연구소, 미국의 유사 기관, 중국의 자체 노력, 다른 국가들의 기관들이 바로 그런 표준 체계의 시작점이 될 수 있습니다.”
“물론 그것만으로 충분하지는 않습니다. 더 큰 위험, 예를 들어 사이버, 바이오, 핵과 관련된 국가안보 역량의 확산 문제는 결국 양자 또는 다자 외교 협정이 필요합니다.”
11. 바이오 위험: AI는 “보편적 교사”가 되어 생물무기 지식을 확산시킬 수 있다
진행자:“생물무기 위험을 구체적으로 설명해 주세요.”
잭 클라크:
“생물학은 본질적으로 이중용도 기술입니다. 우리 몸과 생명체가 무엇으로 이루어져 있는지를 다루는 과학이기 때문입니다.”
“백신 후보를 만들 수 있는 전문성은, 동시에 바이러스 영역에서 끔찍한 피해를 일으킬 수 있는 것을 만드는 전문성과도 겹칩니다.”
“지금까지는 왜 그런 일이 많이 일어나지 않았을까요? 첫째, 세계가 그것을 원하지 않습니다. 둘째, 생물무기 금지조약 같은 체계가 있습니다. 셋째, 대부분의 사람은 타인에게 그런 피해를 주고 싶어 하지 않습니다.”
“문제는 AI 시스템이 보편적 교육자라는 점입니다. 생물테러를 저지르고 싶은 개인이나 소수 집단이 있다고 해봅시다. 그들이 모든 생물학 지식에 능통한 AI에 접근할 수 있다면, 그들은 갑자기 엄청나게 가속됩니다.”
“더 위험한 점은, 과거에는 그런 능력을 얻으려면 훈련된 생물학자, 조직, 공모, 조정 비용이 필요했다는 것입니다. 그 과정에서 사회는 위험한 집단을 발견할 기회를 얻었습니다. 하지만 AI는 그런 조정 비용을 줄입니다.”
“바이오 영역에서 해결해야 할 문제는 두 가지입니다. 첫째, 개인이나 소규모 행위자가 위험한 생물학 지식에 접근하기 어렵게 만드는 것. 둘째, 미래에 AI가 세계 최고 수준의 생물학 연구팀과 같거나 더 뛰어난 능력을 갖게 되었을 때, 국가나 기업 차원의 접근을 어떻게 관리할 것인가입니다.”
12. 사이버 위험: AI는 이미 공격과 방어 모두에서 임계점을 넘고 있다
진행자:“사이버 이야기를 해보죠. Anthropic의 ‘Mythos’ 모델이 이 문제로 화제가 됐습니다. 어떤 모델인가요?”
잭 클라크:
“Anthropic은 최근 Mythos라는 모델을 훈련했습니다. 이것은 다른 프론티어 연구소들이 쓰는 것과 같은 표준적 기법으로 만든 일반 목적 AI 모델입니다.”
“이 모델은 창작 글쓰기, 코딩, 생물학 등 여러 영역에서 뛰어납니다. 그런데 사이버 공격과 방어, 즉 해킹과 보안 영역에서도 매우 뛰어난 능력을 보였습니다.”
“여기서 말하는 사이버 능력이란, Firefox, Windows, iPhone 같은 소프트웨어에서 취약점을 찾고, 그것을 해킹에 활용할 수 있는 능력을 뜻합니다.”
“몇 달 전 AI가 코딩에서 일정 수준을 넘자 프로그래머들이 대규모로 사용하기 시작했습니다. 비슷하게 Mythos는 사이버 영역에서도 전문가들이 ‘이제 이건 진지하게 봐야 한다’고 느끼는 임계점을 넘었습니다.”
13. 사이버 방어도 좋아지지만, 공격자는 한 번만 성공하면 된다
진행자:“예전에는 공격 능력이 증가해도 방어 능력도 같이 증가하니 괜찮다는 이야기가 있었습니다. 어떻게 보나요?”
잭 클라크:
“사이버 공격이나 생물무기 공격에서 문제는, 방어자는 항상 맞아야 하고 공격자는 한 번만 맞히면 된다는 것입니다. 이 둘은 대칭적이지 않습니다. 극도로 비대칭적입니다.”
“그래서 우리는 이런 능력이 등장했을 때 방어자에게 어떻게 이점을 줄 수 있을지 고민해야 합니다.”
“가장 중요한 것은 시간을 주는 것입니다. 시스템을 바로 전 세계에 공개하는 것이 아니라, 먼저 작은 조직 집단에 제한적으로 제공하고, 그들이 방어적 목적으로 활용하게 하며, 그 과정에서 어떻게 안전하게 확장할지 배우는 방식입니다.”
“지금 우리는 Mythos를 제한된 조직들에게 제공하는 실험을 하고 있습니다. 목표는 시간이 지나며 그 범위를 넓히되, 세계의 방어 태세를 강화하는 방향으로 확산시키는 것입니다.”
14. AI 사이버 능력은 결국 확산될 가능성이 높다
진행자:“지금은 Anthropic, OpenAI, Google 정도만 이런 능력을 가진 모델을 갖고 있을 수 있습니다. 하지만 6개월, 12개월 뒤에는 오픈소스 모델로도 비슷한 능력이 확산될 수 있지 않나요?”
잭 클라크:
“대략 1년 안에 이런 능력을 가진 다른 모델이 일반적으로 확산될 가능성이 있다고 봅니다.”
“다만 그것도 정책 선택입니다. 예를 들어 중국 정부가 ‘사이버 해킹 능력이 있는 오픈웨이트 모델을 확산시키면 안 된다’고 판단할 수도 있습니다. 각국에는 여러 유인과 억제 요인이 있습니다.”
“그 결과 세계에서는 해킹이 어느 정도 증가할 가능성이 큽니다. 동시에 조직들이 컴퓨터 보안을 접근하는 방식도 바뀔 것입니다.”
“제가 상상하는 미래는, 컴퓨터 보안이 우리 몸의 백혈구처럼 작동하는 세계입니다. 수많은 AI 시스템이 조직 내부와 소프트웨어를 끊임없이 순찰하면서 취약점을 찾고 고치는 것입니다.”
“새로운 바이러스가 들어왔을 때 면역 체계가 없으면 사람들이 아프듯, 사이버 환경에서도 적응 기간 동안 나쁜 해킹이 늘어날 수 있습니다. 하지만 그 이후에는 지금보다 더 견고한 사이버 방어 체계로 갈 가능성도 있습니다.”
15. 하지만 그 적응 기간은 재앙적일 수도 있다
진행자:“그 설명은 조금 낙관적으로 들립니다. 적응 기간 동안 AI가 수만 건의 고도화된 사이버 공격을 일으켜 세계 경제에 치명적 피해를 줄 수도 있지 않나요?”
잭 클라크:
“그 일부는 선택의 문제입니다. 기업만의 선택이 아니라, 정부가 얼마나 진지하게 이 문제를 받아들이고, 정부와 기업이 얼마나 공격적으로 협력해 핵심 인프라와 주요 조직을 보호하느냐의 문제입니다.”
“우리가 선택할 수 있는 것은, 이런 능력을 방어자에게 먼저 주고, 방어 체계를 끌어올릴 시간을 확보하는 것입니다.”
16. 기업의 자율 판단에만 맡겨서는 안 된다
진행자:“하지만 결국 Anthropic이 스스로 위험하다고 판단해서 공개하지 않은 거잖아요. 그건 좋은 일이지만, 동시에 걱정스럽습니다. 정부 규제기관이 막은 게 아니라, 선의의 기업이 자발적으로 결정한 것이니까요.”
잭 클라크:
“맞습니다. 그래서 저는 ‘산업계에 맡겨두자’고 말하는 게 아닙니다.”
“우리는 핵발전소를 만들고 있는데, 업그레이드하자 핵폭탄도 같이 나오는 상황을 경험했습니다. 사회가 핵발전을 원하느냐? 당연히 원합니다. 하지만 핵발전의 위험을 관리해야 하느냐? 당연히 그렇습니다. 핵발전소가 핵폭탄을 뱉어내는 확산 문제를 다뤄야 하느냐? 당연히 그렇습니다.”
“그런 데에는 법이 필요합니다. 기업이 핵폭탄을 공개할지 말지 스스로 선택하게 해서는 안 됩니다.”
“다만 동시에, 규제가 핵발전 자체를 막아서는 안 됩니다. 1970년대 이후 여러 지역에서 핵발전에 과잉 반응해 건설을 멈췄고, 그로 인해 큰 기회를 잃었습니다. AI도 마찬가지입니다. 위험을 막아야 하지만, 유익한 능력까지 막아서는 안 됩니다.”
17. recursive self-improvement: AI가 스스로를 개선하면 폭발적 변화가 온다
진행자:“당신은 최근 recursive self-improvement, 즉 AI가 스스로를 개선하는 문제에 대해 글을 썼습니다. 이것이 왜 중요합니까?”
잭 클라크:
“현재 AI 발전은 여전히 인간 연구자와 엔지니어의 아이디어에 크게 의존합니다. 하지만 AI가 스스로를 개선할 수 있게 되면 그 병목이 제거됩니다.”
“그때는 마치 세계 최고의 소프트웨어 엔지니어 10만 명이 24시간 일하는 것과 비슷한 상황이 될 수 있습니다. 기계가 기계를 개선하고, 그 개선된 기계가 다시 더 나은 기계를 만드는 구조입니다.”
“그러면 발전 속도는 지금보다 훨씬 빨라질 수 있습니다.”
18. 우리는 선택할 수 있는가? 자유와 안전 사이의 스펙트럼
진행자:“그런데 정말 선택이 있나요? 기업 간 경쟁, 국가 간 경쟁, 미국과 중국의 경쟁 때문에 결국 모두가 계속 달릴 수밖에 없는 것 아닌가요?”
잭 클라크:
“선택은 있습니다. 다만 그 선택은 스펙트럼 위에 있습니다.”
“한쪽 끝에는 개인의 자유와 접근권을 극대화하는 입장이 있습니다. 모두가 AI에 접근하게 하고, 사람들이 실험하게 두자는 것입니다.”
“다른 한쪽 끝에는 안전을 극대화하는 입장이 있습니다. 정부나 소수의 안전한 조직만 접근할 수 있게 하는 것입니다.”
“하지만 둘 다 극단적으로 가면 말이 안 됩니다. 아무도 접근하지 못하게 하면 이 기술의 혜택도 얻지 못하고, 권력이 소수에게 집중됩니다. 반대로 모두가 접근할 수 있게 하면, 지구 전체 사람들의 목숨을 걸고 장전된 주사위를 수없이 굴리는 것과 같습니다.”
“따라서 답은 접근 권한의 단계화일 것입니다. 능력과 위험 수준에 따라 누가, 어떻게, 어떤 조건에서 접근할 수 있는지를 나누는 방식이 필요합니다.”
19. 중국과의 조정은 오히려 실리콘밸리 기업들 사이의 조정보다 쉬울 수도 있다
진행자:“당신은 2028년 말까지 이런 고도 AI가 등장할 가능성을 꽤 높게 본다고 했습니다. 그렇다면 2년 반 안에 산업계와 중국까지 조정해야 한다는 뜻입니다. 가능할까요?”
잭 클라크:
“역설적으로 저는 중국과 조정하는 것이 실리콘밸리의 여러 기업들을 조정하는 것보다 쉬울 수도 있다고 봅니다.”
“국가는 오래 지속되는 존재입니다. 국가는 혼란을 줄이는 데 이해관계가 있습니다. 반면 산업계는 짧은 시간 안에 사라질 수도 있고, 엄청난 경쟁 압력 속에 있습니다.”
“중국 공산당은 비교적 합리적인 행위자입니다. 만약 중국이 이 기술이 중국 공산당, 인류, 국가 안정에 실존적 위협이 될 수 있다고 확신하고, 자신들이 6개월 뒤처져 있다고 판단한다면, 오히려 규제적 합의에 관심을 가질 유인이 있습니다.”
“반면 실리콘밸리 기업들은 경쟁 압박이 훨씬 큽니다.”
20. 그래도 산업계는 최소한의 자율 조정은 해왔다
진행자:“그렇지만 기업들이 정말 스스로 조정할 수 있나요?”
잭 클라크:
“모든 프론티어 AI 기업들은 결국 생물무기 관련 분류기와 방어 체계를 만들었습니다. 그리고 서로 상당한 정보를 공유했습니다.”
“법으로 강제된 것은 아니었지만, 산업계가 ‘생물무기 위험을 무작위로 확산시키면 안 된다’는 점에서는 자율적으로 조정했습니다.”
“물론 이것은 낮은 기준입니다. 하지만 낮은 기준이라도 넘은 것입니다. 우리는 생물무기를 확산시키지 않았고, 법정에도 출석합니다. 이 두 가지는 최소한의 승리입니다.”
“앞으로는 투명성 보고와 안전 테스트 체계가 더 강화되어야 합니다. 식품, 자동차, 항공, 장난감도 소비자에게 제공되기 전에 안전 테스트를 거칩니다. AI 역시 그런 방향으로 가야 합니다.”
21. 규제는 보통 사고 뒤에 생긴다. 문제는 AI가 너무 빠르다는 점이다
진행자:“하지만 식품이나 항공과 달리, AI는 너무 빠르게 발전합니다. 규제가 사고 뒤에 생기는 전통적 패턴을 따라가면 너무 늦지 않나요?”
잭 클라크:
“맞습니다. 정부는 위기 이전에 움직이기 어렵습니다. 위기가 오기 전에는 많은 증거가 필요하고, 정부를 행동하게 만들기까지 시간이 걸립니다.”
“그래서 지금 우리가 해야 할 일은, 미래에서 돌아봤을 때 필요한 것들을 지금부터 만드는 것입니다.”
“미래가 우리에게 요구하는 것은 명확합니다. 모든 기업이 거쳐야 하는 의무적 안전 테스트 체계가 필요합니다. 사회와 위험 정보를 공유하는 체계가 필요합니다. 위험이 이익보다 지나치게 크다면 사회가 ‘아니오’라고 말할 수 있는 구조도 필요합니다.”
“이런 것들의 형태는 지금 막 생기기 시작했습니다. Anthropic은 이런 방향을 공개적으로 지지하고 있고, 때로는 그 때문에 업계의 다른 주체들과 갈등도 겪습니다.”
22. 잭 클라크: “나는 내가 만드는 기술이 무섭다”
진행자:“AI 안전 논의에서 무엇이 생산적이고, 무엇이 죽은 논의라고 느끼나요?”
잭 클라크:
“생산적인 질문은 구체적인 질문입니다. 정확히 어떤 규제가 필요한가? 무엇을 테스트해야 하는가? 어떤 위험을 어떻게 측정해야 하는가? 이런 식으로 구체화해야 합니다.”
“또 하나 중요한 것은 감정을 말하는 것입니다. 제가 캘리포니아에 너무 오래 살아서 이런 말을 하는지도 모르겠지만, 저는 이 기술에 흥분합니다. 저는 인류가 이번 세기에 엄청난 도전에 직면해 있다고 생각합니다. 에너지 문제, 과학적 돌파구, 의료 치료법 등에서 AI가 정말 도움을 줄 수 있습니다.”
“하지만 저는 이 기술이 무섭습니다. 제가 만들고 있는 기술이 무섭고, 그 기술이 제가 아이에게 사주는 장난감이나 슈퍼마켓에서 사는 음식보다 덜 관리되고 있다는 사실이 무섭습니다. 그건 미친 상황처럼 보입니다.”
“AI를 만드는 사람들이 자신이 어떻게 느끼는지 말하는 것은 중요합니다. 저는 무섭고 걱정된다고 말합니다. 왜냐하면 그렇게 말함으로써, 그 문제를 해결해야 할 책임을 더 강하게 지게 되기 때문입니다.”
23. 경제 영향: 지금 경제 구조가 그대로 유지될 가능성은 낮다
진행자:“일자리와 경제 문제는 어떻게 보나요? 일자리 대재앙 이야기도 많습니다.”
잭 클라크:
“경제 영향에 대해서는 몇 년 전 AI 국가안보 위험을 논의하던 시기와 비슷한 단계에 있습니다. 뭔가 중요한 일이 일어날 것이라는 직감은 있지만, 정부 안에는 아직 제대로 된 측정과 테스트 인프라가 충분하지 않습니다.”
“Anthropic은 경제 인덱스를 통해 AI가 고객들에 의해 어떻게 사용되는지, 개인정보를 보호하는 방식으로 분석하고 있습니다. 그리고 그것을 미국 노동통계국 등이 사용하는 직업 분류와 연결합니다.”
“이렇게 해야 AI 기업의 행동이 경제에서 어떤 변화를 일으키는지 인과적으로 주장할 수 있습니다. 기업 CEO가 사람을 해고하고 ‘AI 때문’이라고 말하지만 사실은 코로나 시기 과잉 채용 때문일 수도 있습니다. 이런 것을 구분하려면 데이터 공유 체계가 필요합니다.”
“저는 이 시스템들의 능력과 현재 경제가 그대로 유지되는 미래를 조화시킬 수 없습니다. 분명히 거대한 변화가 일어날 것입니다.”
“AI가 닿는 영역에서는 생산성 배수가 생길 것입니다. 훨씬 적은 사람으로 훨씬 많은 일을 하는 새로운 기업들이 등장할 것입니다. 특히 학교를 막 졸업한 초기 채용 시장에는 문제가 생길 가능성이 큽니다. 그들은 경험과 숙련이 적고, AI가 대체하기 쉬운 기술을 가진 경우가 많기 때문입니다.”
“하지만 그 이상을 정확히 예측하기는 어렵습니다. 생산성 배수가 복리처럼 쌓이면서 새로운 산업을 만들지, 소수 기업만 거대해질지, 새로운 회사들이 훨씬 많이 생겨날지는 모릅니다. 다만 엄청난 변화가 있을 것이라는 점은 확신할 수 있습니다.”
24. RSI 이후에도 인간 노동은 사라지기보다 더 큰 경제 위에 올라탈 수 있다
진행자:“recursive self-improvement가 일어나면 인간 노동의 세계와 양립할 수 있나요?”
잭 클라크:
“RSI 같은 상황에서는 경제가 너무 커져서, 인간은 지금보다 수백 배 큰 경제 위에 앉아 있게 될 수 있습니다.”
“많은 경제 활동에서 인간의 역할은 자동화된 과정의 결과를 검증하고 확인하는 일이 됩니다. 제조업, 위험 가격 책정, 보험시장, 채권시장 같은 곳에서도 이미 인간은 자동화된 과정 위에서 판단하고 합의합니다.”
“저는 우리가 상상하지 못하는 새로운 직업과 전문 분야가 충분히 생길 것이라고 생각합니다. 하지만 그곳으로 가는 과정에서 경제 구조와 일자리에 엄청난 변화가 생길 것입니다.”
25. 미국 중심 AI 패권과 유럽의 위험: 국내 컴퓨팅 인프라가 중요하다
진행자:“미국 정부가 어느 순간 최신 AI 모델을 국가안보상 위험하다고 판단해 미국 밖에는 제공하지 않을 수도 있지 않나요? 그러면 유럽은 경제적 가치를 모두 미국에 빼앗기는 것 아닌가요?”
잭 클라크:
“그건 불가능한 시나리오가 아닙니다. 매우 걱정스러운 시나리오입니다.”
“AI 기업들은 전 세계에 컴퓨터를 갖게 될 것입니다. 그리고 그 컴퓨터들이 경제활동이 일어나는 장소가 될 것입니다. 그렇다면 세금이나 규제도 그 물리적·지리적 인프라를 겨냥할 수 있어야 합니다.”
“이것은 국내 컴퓨팅 인프라에 투자해야 한다는 매우 강력한 논거입니다.”
“저는 2016년이나 2017년부터 세계 각국 정부에 말해왔습니다. ‘여러분도 큰 컴퓨터를 지어야 합니다. 우리는 큰 컴퓨터를 짓고 있고, 그것이 우리에게 말도 안 되는 레버리지를 주고 있습니다. 여러분도 큰 컴퓨터를 지을 생각을 해봤나요?’”
“유럽과 영국에도 아직 선택지는 있습니다. AI 시스템을 개발할 수 있는 대규모 컴퓨팅 인프라를 구축할 수 있습니다. 문제는 숫자가 매년 더 터무니없이 커진다는 것입니다. 시작하기 가장 좋은 때는 작년이었고, 두 번째로 좋은 때는 지금입니다. 내년은 나쁜 시점입니다.”
26. 아이 교육: AI 시대에는 호기심, 집착, 창의적 실천이 중요하다
진행자:“당신은 아이가 있다고 했습니다. AI 시대에 아이를 어떻게 교육해야 한다고 생각하나요?”
잭 클라크:
“저에게는 세 살 아이가 있습니다. 아이들의 경이감과 호기심은 놀랍습니다. 저도 어릴 때 그런 호기심이 있었는데, 학교가 그것을 체계적으로 없애려 했던 기억이 있습니다.”
“AI가 주는 것은, 사람의 직관과 호기심을 직접 증폭하는 기계입니다. 거대한 열정의 영역을 갖고, 세계에 대한 호기심을 갖는 것은 AI에 의해 엄청나게 증폭됩니다.”
“반대로 암기식 기술이나 구체적인 직업 계획은 AI 시대에 오히려 불리해질 수 있습니다.”
“그래서 저는 아이에게 호기심의 문화를 장려하고 싶습니다. 어떤 것에 깊이 빠져드는 집착을 장려하고 싶습니다.”
“저에게도 뉴스레터와 소설 쓰기라는 개인적인 창작 실천이 있습니다. 그런 개인적 창작 취미는 AI를 기쁘고 흥미롭게 사용하는 최고의 방식 중 하나였습니다. 동시에 AI가 얼마나 좋아졌는지 감을 잡는 데도 도움이 됐습니다.”
“제가 깊이 이해하는 영역이 있기 때문에, 어느 순간 AI가 ‘아, 드디어 괜찮은 대사를 썼구나’라고 느낄 수 있습니다. 그런 식으로 AI의 능력을 보정할 수 있습니다.”
“현실적으로 말하면, 우리는 모래에게 생각하는 법을 가르쳤습니다. 정말 이상한 일이 벌어지고 있습니다. 그리고 그 사실에 깨어 있는 것이 중요합니다.”
핵심 요지 압축
잭 클라크의 메시지는 단순히 “AI가 위험하다”가 아니라, 더 복잡합니다.그는 AI를 핵발전소에 비유합니다. 인류에게 엄청난 에너지와 생산성을 줄 수 있지만, 동시에 업그레이드 과정에서 핵폭탄 같은 이중용도 능력이 튀어나올 수 있다는 것입니다.
그가 특히 강조한 위험은 세 가지입니다.
첫째, 사이버 위험입니다. AI가 취약점을 찾고 해킹할 능력을 갖추기 시작했으며, 방어도 강화되겠지만 공격자는 한 번만 성공하면 된다는 비대칭성이 있습니다.
둘째, 바이오 위험입니다. AI가 생물학의 보편적 교사가 되면, 과거에는 훈련과 조직이 필요했던 생물무기 지식이 개인이나 소수 집단에게 전달될 수 있습니다.
셋째, 경제 구조 변화입니다. AI가 닿는 영역에서 생산성 배수가 생기고, 적은 인원으로 거대한 기업이 운영될 수 있으며, 특히 초기 경력 노동자들이 큰 충격을 받을 수 있습니다.
하지만 그는 단순한 비관론자는 아닙니다. AI는 과학, 의료, 에너지, 생산성에서 엄청난 이익을 줄 수 있다고 봅니다. 그래서 핵심은 “멈추자”가 아니라, 접근 권한을 단계화하고, 정부 테스트를 의무화하고, 국제 표준과 미중 조정을 만들며, 위험한 능력은 통제하되 유익한 능력은 확산시키는 것입니다.
가장 인상적인 문장은 이것입니다.
“나는 이 기술이 무섭다. 내가 만들고 있는 기술이 무섭고, 그것이 내 아이의 장난감이나 슈퍼마켓 음식보다 덜 관리되고 있다는 사실이 무섭다.”
그리고 마지막에는 AI 시대의 교육에 대해 이렇게 말합니다.
“AI는 사람의 호기심과 직관을 증폭하는 기계다. 암기식 기술보다 호기심, 집착, 창의적 실천이 중요해진다. 우리는 모래에게 생각하는 법을 가르쳤다.”
전체 0