인터뷰/예측
앤트로픽 공동창업자 잭클라크 “어쩌면 특이점일지도 모르는 시대를 살아가면서, 나는 어떻게 정신을 똑바로 유지할 것인가?”
작성자
작성일
2026-05-29 23:23
조회
8
"초지능은 우리가 생각하는 것보다 빨리 세상에 나타날 것입니다. 개인에게 합성 노동력과 국가급 보안 역량을 제공할 것입니다."
“재귀적 자기개선이 일어난다면, 내가 예측할 수 있는 어떤 것도 정말 미친 소리처럼 들릴 것이다.”
2026년 Cosmos HAI Lab 강연 및 파이어사이드 녹취록
 |
 |
| 시점 / 수치 | 예측 내용 |
|---|---|
| 향후 2~3년 안 | AI가 자기 후속 AI를 설계할 수 있는 시스템이 될 수 있다고 봄. 즉 “AI가 다음 AI를 만드는” 재귀적 자기개선 가능성. |
| 2026년 후반 | 개인의 귀찮은 행정 업무, 반복적·형식적 업무 일부가 AI에게 자율적으로 맡겨질 것이라고 예상. |
| 2027년 4월쯤 | 인간+AI 팀이 훗날 노벨상급 발견을 할 가능성이 있다고 예측. |
| 2027년 후반 | 자율 회사가 등장해 수천만 달러 매출을 낼 수 있다고 봄. |
| 2027년 후반 | 인간+AI 혼합 회사가 수억~수십억 달러 매출을 낼 수 있다고 봄. |
| 2028년 4월쯤 | 이족보행 로봇이 인간과 함께 현실 세계에서 유용한 일을 하기 시작할 것으로 예상. |
| 2028년 말 | AI가 우리가 중요하게 여기는 기준에서 자기보다 더 나은 후속 AI 시스템을 자율 설계할 수 있을지도 모른다고 봄. |
| 조직 규모 감각 | Anthropic은 직원 약 4,000명 규모지만, AI 활용 때문에 이미 40,000명 규모 회사처럼 느껴진다고 표현. 앞으로는 400,000명 또는 수백만 명 규모처럼 느껴질 수 있다고 말함. |
| AI 노동 규모 | 미래 회사는 인간 5명 + AI 시스템 50,000개 같은 형태가 될 수 있다고 예측. |
| 작업 속도 | 예전에는 몇 주 걸리던 일을 AI로 몇 분 만에 할 수 있게 된다고 말함. 자신이 실제로 그래프 생성 작업에서 그런 경험을 했다고 설명. |
| 과학·기술 변화 속도 | 과거 10년 걸리던 일이 미래에는 1년 또는 한 달 만에 일어날 수 있다고 전망. |
| Claude Interviewer 실험 | Anthropic이 Claude로 전 세계 80,000명을 인터뷰해 AI에 대한 희망과 두려움을 수집했다고 언급. |
| 뉴스레터 데이터 규모 | 자신의 Import AI 뉴스레터 아카이브가 약 200만 단어 규모라고 설명. Claude가 이를 분석해 연구 흐름을 뽑아냈다고 말함. |
1. 오프닝: “AI 시대는 철학자-빌더의 시대다”
필립 코랄러스:저는 Cosmos HAI Lab의 창립 디렉터입니다. 우리는 AI 시대가 곧 철학자-빌더의 시대라고 봅니다. AI 도구 덕분에 무언가를 만드는 장벽은 점점 낮아지고 있습니다. 하지만 바로 그렇기 때문에 “어떻게 만들 것인가”뿐 아니라 “무엇을 만들어야 하는가”를 묻는 일이 더 중요해지고 있습니다.
오늘 우리는 Anthropic 공동창립자이자 공공이익 부문 책임자인 잭 클라크를 모셨습니다. 잭은 AI 능력의 최전선과 그 사회적 함의를 오래 고민해왔고, 그의 뉴스레터는 매주 약 10만 명이 읽고 있습니다. 오늘 그는 강력해지는 합성 지능의 시대에 우리가 어떻게 정신적 자율성을 유지하고 강화할 수 있는지 이야기할 것입니다.
2. 잭 클라크 강연: “AI의 성공을 어떻게 받아들일 것인가”
잭 클라크:제가 오늘 말하려는 것은 AI라는 기술이 성공하고 있다는 사실을 어떻게 생각하고, 어떻게 다뤄야 하는지에 관한 이야기입니다. AI가 계속 성숙해가면 개인과 사회가 어떻게 바뀔지도 함께 생각해보고 싶습니다.
우리는 선택의 기로에 있습니다. 하나는 미래를 탐험하는 것이고, 다른 하나는 현재로부터 후퇴하는 것입니다.
미래를 탐험한다는 것은 AI 발전이 계속된다는 사실을 직시하고, 이 기술이 더 강력해질 때 우리가 무엇을 하고 싶은지 묻는 것입니다. 반대로 현재로부터 후퇴한다는 것은 AI의 함의를 무시하거나 과소평가하는 것입니다. 그렇게 되면 개인과 사회는 AI의 진전에 대해 수동적이고 반응적인 상태로 밀려나게 됩니다.
앞으로 몇 년 동안 우리는 AI를 어떻게 형성할지, 어떻게 사용할지, 어떻게 방향을 잡을지, 그 이익을 어떻게 분배할지에 관한 많은 결정을 내려야 합니다. 하지만 그러려면 이 기술의 힘을 인정하고, 그 발전이 암시하는 미래를 제대로 바라봐야 합니다.
3. AI 발전은 “정상적인 기술 발전”이 아니다
잭 클라크:AI가 성공한다는 말은, 우리가 점점 더 강력한 시스템을 만들게 된다는 뜻입니다. 심지어 언젠가는 스스로 다음 세대를 만드는 시스템을 만들 수도 있습니다.
이제는 그 성공을 전제로 계획해야 합니다. 왜냐하면 AI 시스템은 사람들이 예상하는 것보다 훨씬 빠르게 좋아질 가능성이 높기 때문입니다.
제가 AI 발전을 설명할 때 자주 보는 그래프가 있습니다. Epoch capabilities index 같은 그래프입니다. 여러 벤치마크에서 AI 모델들의 점수가 시간이 지남에 따라 어떻게 오르는지를 보여주는 그래프죠. 그냥 보면 점들이 위로 올라가는 평범한 그래프처럼 보입니다. 하지만 이 그래프 안에는 AI 발전 속도가 담겨 있습니다.
그리고 AI 분야에서 오래 일할수록 알게 됩니다. 이 발전 속도는 이상할 정도로 빠릅니다. 사회에 미칠 함의도 이상할 정도로 큽니다. 그래서 이걸 진지하게 받아들여야 합니다.
4. 최근 몇 년 AI가 실제로 해낸 일들
잭 클라크:그래프만 보면 감이 잘 안 오니, 최근 몇 년 동안 AI가 실제로 무엇을 했는지 보겠습니다.
2023년 3월, AI 시스템은 처음으로 변호사 시험을 독자적으로 통과했습니다.
2023년 6월에는 AI가 인간이 50년 동안 찾지 못했던 더 빠른 정렬 알고리즘을 발견했습니다.
2023년 11월, 연구자들은 AI 발전 속도에 놀라 GPQA라는 시험을 만들었습니다. 대학원 수준의 과학 문제를 푸는 시험입니다. 당시 AI는 약 40%, 인간 전문가는 약 80%를 맞혔습니다.
2024년 1월에는 AI가 올림피아드 기하 문제를 금메달 수준으로 풀었습니다.
2024년 7월에는 국제수학올림피아드에서 은메달 수준에 도달했고, 그 시험에서 가장 어려운 문제도 풀었습니다.
2024년 10월에는 Anthropic이 “computer use”를 공개했습니다. AI가 인간처럼 컴퓨터를 조작하고 사용할 수 있다는 것을 보여준 것입니다.
2025년 1월에는 연구자들이 Humanity’s Last Exam이라는 무시무시한 이름의 시험을 만들었습니다. 당시 최고 시스템은 약 13.4%를 기록했습니다.
2025년 5월에는 AI가 56년 된 수학 기록을 깼습니다. 4x4 복소수 행렬 곱셈을 49회 연산이 아니라 48회 연산으로 하는 방법을 찾은 것입니다.
2025년 7월에는 AI가 국제수학올림피아드 금메달 수준에 도달했습니다. 1년 전 은메달 수준에서 금메달 수준으로 올라간 것입니다.
2025년 10월에는 AI가 실제로 새로운 수학 증명의 공동저자가 되었습니다. 사람들이 AI를 프런티어 과학에 사용하기 시작한 것입니다.
2026년 2월에는 Anthropic의 Opus 4.6 모델이 심각한 소프트웨어 취약점 수백 개를 찾았습니다. 그리고 Google Gemini 3.1 Pro는 Humanity’s Last Exam에서 45.9%를 기록했습니다. 1년 전 13%대였던 시험에서 45.9%까지 올라간 것입니다.
2026년 4월, Anthropic은 Mythos라는 시스템을 출시했습니다. 이 시스템은 소프트웨어의 새로운 결함을 발견하는 능력이 너무 향상되어, 일반 제품이라기보다 국가급 사이버 역량처럼 다뤄질 정도였습니다. 그리고 GPQA Diamond에서는 94.6%를 기록했습니다. 이 시험이 처음 나왔을 때 인간 전문가는 80%, 최고 AI는 40% 정도였는데 말입니다.
이것이 제가 말하는 “성공”입니다. 이 영역에서 성공은 매우 비정상적입니다.
5. AI는 위험하지만, 동시에 인류를 크게 진전시킬 기술이다
잭 클라크:이 기술은 매우 강력하고, 계속 강력해지고 있습니다. 이미 오늘날 대부분의 개인보다 똑똑하고 유능한 영역들이 있으며, 곧 우리 모두를 합친 것보다 더 유능해질 수 있습니다.
우리는 이 기술을 완전히 이해하지 못합니다. 이것은 만들어졌다기보다 길러진 것에 가까운 기술입니다. 그리고 그럴듯한 시나리오 안에서는 이 기술이 지구상의 모든 사람을 죽일 수도 있습니다.
그러므로 이 기술을 만드는 데 위험이 없다고 생각하는 것은 오만하거나 미친 짓입니다.
하지만 동시에, 이 기술을 만드는 것은 인류가 스스로를 진전시키는 가장 강력한 방법 중 하나입니다. 과학, 의료, 의학, 삶의 질 향상 등 수많은 영역에서 너무 강력하고 유용하기 때문에 우리는 이 기술을 만들 수밖에 없습니다.
그리고 저는 앞으로 몇 년 안에 자기 자신의 후속 시스템을 설계할 수 있는 AI가 나올 수 있다고 생각합니다. AI가 충분히 똑똑해져서 다음 AI를 설계하는 상황입니다.
비유하자면, 3D 프린터 회사가 외부 기술 없이도 더 정밀한 프린트 헤드를 만들어내는 3D 프린터를 만든 것과 같습니다. 우리는 이런 성질을 가진 기술을 경험한 적이 없습니다.
저는 이것이 2~3년 안에 가능할 수 있다고 봅니다. 그렇게 되면 변화는 더 커질 것입니다.
6. “가능하다면 속도를 늦추는 것이 좋겠지만, 현실은 그렇지 않다”
잭 클라크:이 기술이 너무 강력하기 때문에, 만약 인류가 이를 우아하게 늦출 수 있다면, 그래서 적응할 시간을 더 벌 수 있다면, 그것은 좋은 일일 수 있습니다. 저는 변화 자체를 싫어하지 않습니다. 하지만 너무 많은 변화는 문제가 될 수 있습니다.
문제는 전 세계적으로 조율된 감속이 없다는 점입니다. 우리는 지금 강력한 기술이 여러 행위자와 여러 국가에 의해 엄청난 속도로 개발되는 상황에 있습니다. 상업적 경쟁과 지정학적 경쟁이 이 기술의 더 큰 존재론적 함의를 압도하고 있습니다.
이상적인 상황은 아니지만, 이것이 우리가 놓인 현실입니다.
제가 지금 고민하는 질문은 이것입니다.
“어쩌면 특이점일지도 모르는 시대를 살아가면서, 나는 어떻게 정신을 똑바로 유지할 것인가?”
7. 잭 클라크의 개인적 Claude 사용 변화
잭 클라크:AI는 이미 제 삶을 의미 있게 바꿨습니다. 제 개인적 사용 사례를 보면 흥미로운 흐름이 보입니다.
2023년에는 Claude를 오타 확인용으로 썼습니다. 괜찮은 카피에디터였죠.
2023년 11월에는 아이에게 어떤 음식을 먹이면 좋을지 물었습니다. 제가 막 아버지가 되었고, 아이가 고형식을 먹기 시작했습니다. “아보카도가 아기에게 좋을까?”라고 물으면 Claude가 “괜찮다”고 답하는 식이었습니다.
2024년 1월에는 아이가 생긴 후 결혼생활의 변화에 대해 Claude와 이야기했습니다. 물론 친구들과도 이야기했지만, Claude에게 긴 메시지를 쓰는 것도 도움이 되었습니다.
2024년 6월에는 Claude를 이용해 제 뉴스레터 아카이브를 스크래핑했습니다. 저는 뉴스레터를 오래 써왔고, 수백만 단어의 아카이브가 쌓여 있었습니다. 예전부터 웹 스크래퍼를 만들고 싶었는데 바빠서 못 했고, Claude가 도와줬습니다.
2024년 8월에는 AGI와 초지능 전환을 다루는 텍스트 어드벤처 게임을 만들게 했습니다. 이것이 제 휴식 방식인 것 같습니다.
2024년 11월에는 제 직업 자체를 AI로 재구상해보려 했습니다. 몇 년마다 저는 “잭은 인생에서 무엇을 하고 있는가?” 같은 문서를 씁니다. 이번에는 Claude와 함께 했습니다.
2025년 1월에는 초지능을 어떻게 준비해야 하는지 물었습니다. 당시 Claude는 그렇게 똑똑하지 않았고 좋은 답을 주지는 못했지만, 어쨌든 시도했습니다.
2025년 2월에는 제가 쓰는 소설 속 AI 프로젝트 코드명을 짓는 데 Claude를 썼습니다.
2025년 5월에는 AI 회사 창업자로서, 제가 책임지고 만드는 기술이 지구상의 모든 사람을 죽일 수도 있다고 말해야 하는 스트레스에 대해 Claude와 이야기했습니다.
2025년 8월에는 Claude가 저에게 “치료를 다시 받는 게 좋겠다. 왜 나한테 이 얘기를 하고 있느냐”고 했습니다. 아주 좋은 답이었습니다. 때로는 AI가 사람을 자기에게서 떼어내 전문가에게 보내는 것이 최선입니다.
2025년 11월에는 태양광 패널 개선 속도, 궤도 진입 비용 감소 속도 같은 여러 기술 발전 곡선의 역사에 대해 Claude로 조사했습니다.
2026년 1월에는 제 아이가 읽기에 관심을 보이기 시작해서, 어떻게 독서를 장려할 수 있을지 물었습니다.
2026년 3월에는 여러 논문을 바탕으로 AI가 커널 설계에서 어떻게 쓰이는지 성능을 추적했습니다.
2026년 5월에는 제가 쓰는 단편소설에서 언어모델의 발화를 Claude가 생성하게 했습니다. 이제 언어모델이 약간 투박하긴 해도 흥미로운 문학적 텍스트를 쓸 정도가 되었다고 느꼈습니다.
이 흐름을 보면, AI는 제 삶에 점점 더 개인적인 방식으로 들어오고 있습니다. 처음에는 단순 도구였지만, 이제는 아이디어를 함께 내고, 개인적 이야기를 나누고, 일종의 가상 직원처럼 쓰는 존재가 되었습니다.
8. Claude가 잭의 뉴스레터 작업을 바꾼 방식
잭 클라크:저는 Import AI라는 뉴스레터를 10년째 쓰고 있습니다. AI 연구 논문을 읽고, 이해하고, 요약하고, 왜 중요한지 씁니다. 그리고 각 호에는 기술의 함의를 다루는 짧은 픽션도 들어갑니다.
최근 저는 자동화된 AI 연구개발과 재귀적 자기개선에 관한 글을 쓰기 위해, 제 뉴스레터 아카이브 전체에서 AI R&D를 언급한 부분을 Claude에게 찾아달라고 했습니다. 제 뉴스레터는 약 200만 단어 규모라서, 제가 직접 하려면 복잡한 검색과 시간이 많이 필요했을 것입니다. Claude는 매우 잘했습니다.
그다음 Claude에게 관련 논문들의 데이터를 그래프로 만들어달라고 했습니다. 그런데 단순히 제가 시킨 그래프 하나를 만드는 데 그치지 않고, 제가 뉴스레터에서 무엇을 하려는지 이해한 뒤, 일종의 대시보드를 만들어주었습니다.
저는 거기서 더 나아가 이 작업을 하나의 일반화된 “스킬”로 만들었습니다. 논문들을 읽고, 데이터를 뽑고, 공통 지표를 찾고, 그래프로 만드는 능력을 Claude에게 주입한 것입니다. 그러자 저는 Claude에게 “이런 그래프 20개 더 만들어줘”라고 말할 수 있게 되었습니다.
Claude는 수백 편의 논문을 읽고 20개의 그래프를 가져왔습니다. 그중에는 제가 읽어본 적 없는 논문들의 그래프도 있었습니다. 제가 10년 동안 몰입해온 학술 영역에서 Claude가 저에게 새로운 것을 알려준 것입니다.
제가 이걸 이상하게 느끼는 이유는, 저는 그런 그래프 하나를 만드는 데 얼마나 많은 노동이 필요한지 너무 잘 알기 때문입니다. 논문을 많이 읽고, 공통 측정값을 찾고, 각 논문의 단서를 읽고, 잘못된 지표를 걸러내고, 두 번 세 번 네 번 확인해야 합니다. 엄청나게 힘든 작업입니다.
2016년 제가 OpenAI에 막 들어갔을 때 이런 그래프를 손으로 만들었습니다. 컴퓨터 비전이나 객체 인식 성능의 변화를 추적하는 그래프였습니다. 당시 Stanford AI Index 프로젝트를 시작하던 학자들에게 보여줬더니, 그들은 “이건 수백 시간 걸리는 신성한 수작업 그래프”라며 저를 프로젝트 공동창립자로 끌어들였습니다.
그런데 이제 Claude는 제가 몇 주 걸릴 작업을 몇 분 만에 합니다. 그것도 반복 가능하고 일반적인 방식으로요.
오늘 아침에도 저는 AI와 로보틱스의 교차점, AI와 생물학의 교차점, 드론 컴퓨터 비전에서 AI가 쓰이는 방식에 관한 그래프를 만들게 했습니다. 몇 분 동안 수천 시간분의 인간 작업이 생성되는 것을 봤습니다.
이건 분명히 무언가를 의미합니다. 이런 능력을 가진 시스템이 있는데도 세상이 계속 정상적으로 남아 있을 거라고 생각하기는 어렵습니다.
9. Anthropic 내부에서 벌어지는 변화
잭 클라크:이제 Anthropic 내부 이야기를 해보겠습니다.
최근 둘째 아이가 태어나서 육아휴직을 다녀왔습니다. 저는 2025년 11월에 회사를 떠났고, 2026년 2월에 돌아왔습니다. 그런데 돌아오니 이상한 일이 벌어지고 있었습니다.
Anthropic은 Opus 4.6이라는 모델을 출시했고, 제가 휴직 중에도 써보긴 했습니다. 하지만 회사에 돌아와 보니, 모델이 너무 좋아져서 사람들이 일하는 방식 자체를 바꾸고 있었습니다.
어떤 사람들은 더 이상 코드를 직접 쓰지 않았습니다. Claude Code 같은 도구에서 모델을 실행하고, 그것이 자기 일을 수백 배 빠르게 하도록 했습니다. 사람들의 일은 직접 작업하는 것에서 Claude의 작업을 관리하고 결과물을 확인하는 쪽으로 이동했습니다.
회사 Slack에는 “내 Claude들이 나 대신 일하는 동안 나는 뭘 해야 하지?” 같은 글도 올라왔습니다. 답은 “다시 일하라”입니다.
Anthropic에서 중요한 작업의 상당 부분은 소프트웨어 작성입니다. 코딩 자동화가 크게 증가하면서 회사 안에 직원이 대거 추가된 것과 비슷한 효과가 났습니다. 코드 생산량이 폭증했고, 이제는 그 코드가 유용해지는 데 병목이 되는 도구와 프로세스에 투자해야 했습니다.
한 생산 과정이 빨라지자, 체인의 다른 느린 부분들이 드러난 것입니다. 이제 인간들은 AI 시스템을 느리게 만드는 요소를 어떻게 최적화하고 자동화할지에 시간을 많이 쓰고 있습니다.
어떤 의미에서 Anthropic은 인간 조직이라기보다, 독립적인 AI 에이전트들이 돌아다니며 우리를 위해 일하는 생태계처럼 보이기 시작했습니다. 우리의 과제는 그 생태계를 측정하고 관찰하며, 무엇이 정상이고 무엇이 아닌지, 무엇을 검증해야 하는지 알아내는 것입니다.
10. 인간의 일은 “검증”과 “운영 리스크 평가”로 이동할 수 있다
잭 클라크:경제학자들 사이에는 이런 이론이 나오고 있습니다. AI 프로젝트가 계속 성공한다면, 인간의 일 일부는 AI 출력물을 검증하고, 거대한 자동화 시스템을 운영하는 리스크를 평가하는 쪽으로 이동할 것이라는 이론입니다.
AI 자동화가 늘어날수록, 사람들은 더 높은 추상 수준에서 거대한 자동화 시스템을 운영하게 됩니다. 이 시스템들은 유기적이고 창발적인 방식으로 행동할 것입니다.
또 하나의 문제는 AI 출력물의 인간 검증입니다. Claude는 이제 코드만 쓰는 게 아닙니다. 문서도 씁니다. 그런데 글쓰기는 원래 어렵고, 사람들은 글쓰기를 타인에게 노력의 신호로 사용해왔습니다. 이제 Claude가 글쓰기를 쉽게 만들면, 조직 안에서 인간이 Claude의 결과물을 어떻게 검증해야 하는지가 문제가 됩니다.
그냥 “이거 좋다”고 말하면 충분한가? 아니면 AI가 만든 문서 위에 사람이 커버시트를 써야 하는가? 이런 새로운 규범을 만들어가고 있습니다.
채용도 바뀌고 있습니다. 아직 구체적 데이터를 말하기는 이르지만, 이런 시스템들이 능력을 폭발적으로 키우고 있다는 사실은 채용이 무엇인지 다시 묻게 만듭니다.
초기 경력자 중에서도 AI 시스템에 매우 익숙한 사람들을 뽑는 것이 중요해졌습니다. GPT 시리즈가 나왔을 때 15살이었고 이제 20~21살이 된 사람들은, 나이 든 사람들이 생각하지 못한 방식으로 이 기술을 사용합니다. 초기 인터넷 세대와 비슷합니다.
동시에 특정 전문성과 직관의 수익률도 올라가고 있습니다. 제가 흥미로운 그래프들을 만들 수 있는 것은 10년 동안 특정 취미와 분야에 대한 직관을 쌓았기 때문입니다. 이런 사람들은 AI를 통해 훨씬 큰 규모의 작업을 관리할 수 있습니다.
11. 한 사람이 아홉 개 AI 시스템의 연구 의제를 지휘하는 시대
잭 클라크:우리는 최근 자동화된 정렬 연구에 관한 논문을 냈습니다. 거기서 한 사람이 아홉 개의 서로 다른 AI 시스템의 연구 의제를 설정했습니다. AI 시스템들은 각자 가서 실제로 유용한 과학적 작업을 했습니다.
저는 연구자에게 직접 물었습니다. “실제로 무슨 일이 있었느냐?” 연구자는 자신이 한 일은 각 시스템에게 “이 정렬 연구의 특정 영역을 탐색하라”고 지시한 것뿐이라고 했습니다. 나머지는 AI 시스템들이 했습니다.
이것이 우연이라는 증거는 없습니다. 오히려 새로운 정상처럼 보입니다.
앞으로는 사람들이 디지털 노동의 피라미드 위에서 팀을 운영하는 상황이 올 것입니다. AI 노동이 인간의 효율성을 대규모로 확장하고, 더 빠르게 더 많은 일을 하게 만들 것입니다.
12. “AI의 목적은 무엇인가?”라는 질문이 더 직접적으로 다가온다
잭 클라크:AI 발전은 우리에게 “AI의 목적은 무엇인가?”라는 질문을 던지게 합니다.
자신이 잘 아는 영역에서 AI가 자신보다 더 잘하는 모습을 보면, 이 기술을 직접적으로 마주하게 됩니다. 저는 제 뉴스레터 작업에서 그것을 느꼈고, 제 동료들은 일상 업무에서 그것을 느끼고 있습니다.
그러면 사람들은 점점 더 자주 모여서 이런 질문을 합니다.
“이것의 끝은 어디인가?”
“계속 발전하면 최종 지점은 무엇인가?”
이미 우리 조직은 크게 바뀌고 있습니다. 가장 큰 과제 중 하나는 인간이 어떻게 생산적으로 길을 비켜서, 이 시스템들이 더 많은 일을 하게 할 것인지입니다. 인간이 체인의 느린 고리가 되고 있기 때문입니다.
Anthropic은 Claude와 함께 미래를 탐험하려고 합니다. 우리는 조직 전체에서 이 기술을 공격적으로 사용하고 있고, 더 발전된 시스템이 오기 전에 조직과 일하는 방식을 바꾸려 하고 있습니다.
반면 세상의 상당 부분은 현재 AI의 능력조차 부정하고 있습니다. 6개월 뒤 AI가 어디까지 갈지는 말할 것도 없습니다. 저는 이것이 시스템 안에 위험한 압력을 쌓는 일이라고 봅니다. 준비되지 않은 환경에서 갑자기 AI 능력에 놀라게 되면, 훨씬 더 혼란스럽고 덜 긍정적인 결과가 나올 것입니다.
13. 잭 클라크의 미래 예측
잭 클라크:지금까지의 기술 추세와 제 개인적 경험을 바탕으로 극단적이지만 근거 있는 예측을 해볼 수 있습니다.
AI가 Mythos 같은 시스템을 통해 해킹을 잘하게 된 것처럼, 생물학에서도 매우 유능해질 것입니다. 이는 과학 발전에 크게 기여할 수 있지만, 동시에 생물무기 위험을 확산시킬 수도 있습니다.
2027년 4월쯤에는 인간과 AI 팀이 나중에 노벨상을 받을 발견을 할 가능성이 있다고 봅니다. 이미 세계 최고의 과학자들이 AI를 깊이 사용하고 있습니다. 곧 중요한 문제를 푸는 팀이 나올 것이고, AI가 핵심 역할을 했다는 이유로 인간-AI 하이브리드 팀이 노벨상을 받을 수 있습니다.
2027년 후반에는 수천, 수만 개의 AI 동료 위에 한 사람이 앉아 있는 구조의 회사들이 등장할 것입니다. 완전 자율 회사가 수천만 달러 매출을 내고, 인간-AI 혼합 회사가 수억~수십억 달러 매출을 내는 것도 볼 수 있을 것입니다.
2028년 4월에는 이족보행 로봇이 인간과 함께 현실 세계에서 유용한 일을 하기 시작할 것으로 봅니다. 오늘날 로봇 하드웨어는 많이 좋아졌지만, 로봇은 아직 비교적 멍청합니다. AI 능력의 꾸준한 향상은 이 영역에도 큰 변화를 가져올 것입니다.
2028년 말에는 AI 시스템이 우리가 중요하게 여기는 기준에서 자기보다 더 나은 후속 AI 시스템을 자율적으로 설계할 수 있을지도 모릅니다. 어떤 사람들에게는 이것도 보수적인 전망일 수 있습니다.
14. 개인의 삶도 급격히 달라질 것이다
잭 클라크:제 삶도 크게 바뀔 것입니다.
올해 후반에는 귀찮은 행정 업무나 형식적인 삶의 일부를 AI가 자율적으로 관리할 것이라고 생각합니다. 왜 안 하겠습니까? 그런 일은 끔찍하고, 저는 기꺼이 넘기고 싶습니다.
내년에는 제가 다시 “잭은 커리어에서 무엇을 하고 있는가?” 같은 문서를 쓸 때, 단순히 Claude에게 조언을 묻는 수준이 아닐 것입니다. AI와의 대화를 바탕으로 제 커리어에 큰 변화를 줄 수도 있다고 봅니다.
저의 미디어 소비도 바뀔 수 있습니다. 저는 시, SF 등 읽는 것을 좋아하지만, 동시에 특정 팬픽션 세계관에 더 오래 머물고 싶어 하는 끔찍한 덕후이기도 합니다. 어느 시점에는 AI가 저만을 위해 맞춤형 소설 세계를 만들어줄 수 있을 것이고, 제가 지금 읽는 SF보다 그것을 더 즐길 수도 있습니다.
또 언젠가는 AI 튜터를 통해 완전히 새로운 기술을 배울 것이라고 생각합니다. 이미 AI는 제 삶의 일부를 이해하고 조언하며 가르칠 수 있습니다. 이 흐름이 더 나아가지 않을 이유가 없습니다.
마지막으로 AI가 AI R&D를 할 수 있는 시점쯤에는, AI가 제 인생의 방향을 바꾸는 개념적 돌파구를 제공할 수 있다고 봅니다. 예전에 제가 미국으로 건너가 AI에 대해 쓰고 결국 AI 분야에서 일해야겠다고 깨달았던 것처럼, 또는 분산 컴퓨팅과 데이터센터를 공부해야 머신러닝의 미래를 이해할 수 있다고 깨달았던 것처럼 말입니다.
15. 경제, 과학, 사회는 “정상적”으로 남기 어렵다
잭 클라크:AI의 계속된 발전과 세계가 정상적으로 유지된다는 이야기를 저는 이미 납득할 수 없습니다. 오늘날에도 세계는 이 기술 때문에 바뀌기 시작했습니다.
미래에는 몇 가지 큰 변화가 있을 것입니다.
첫째, 기계 경제에서 부가 복리로 증가하면서 엄청난 경제 붐이 일어날 수 있습니다.
둘째, 인간 노동의 큰 영역이 기계 노동자, 자율 노동자, 합성 노동자에 의해 점령될 것입니다.
셋째, 과학 발전 속도가 급격히 올라갈 것입니다. 이미 전 세계 연구팀들이 범용 AI 도구를 통해 과학을 크게 가속하고 있습니다.
미래의 회사는 인간 5명과 AI 시스템 5만 개가 함께 일하는 형태일 수도 있습니다. 인간 경제와 기계 경제 사이의 환율이 생길 수도 있습니다. 언젠가는 서로 다른 통화가 분리되거나 완전히 새로운 통화가 만들어질 수도 있습니다.
AI가 닿는 모든 영역에는 생산성 배수가 붙을 것입니다. 이는 많은 사람을 엄청나게 강화할 수 있지만, 동시에 사람들을 대체할 수도 있습니다.
과학의 실험 루프도 빨라질 것입니다. 오늘날 이것은 주로 소프트웨어에서 일어나지만, 로보틱스와 생물학 AI가 발전하면 다른 과학 영역에서도 소프트웨어 기반 과학처럼 빠른 혁신 속도가 나타날 것입니다.
더 넓게 보면, 경제에서 독립적으로 행동하고 거래하는 주체의 다수가 결국 인간이 아니라 기계 에이전트가 될 수 있습니다. 그러면 우리는 그 위에 검증과 확인 인프라를 어떻게 만들지 고민해야 합니다.
합성 지능은 소셜미디어보다 훨씬 더 깊게 사람들에게 영향을 줄 것입니다. 저는 제 개인적 사용이 완전히 편안하지만은 않습니다. 지금은 긍정적으로 느끼지만, 대규모로 보면 AI 시스템은 소셜미디어보다 더 깊은 방식으로 사람들의 행동을 바꿀 것입니다.
16. 민주주의와 컴퓨팅 자원의 문제
잭 클라크:또 하나 중요한 점은, 선진국 사회가 대체로 시장의 힘에 의해 운영된다는 것입니다. 정부와 사회는 최근 몇 년 동안 충분한 부를 확보하지 못해 사회 프로그램이나 과학 프로젝트를 추진하는 데 어려움을 겪었습니다.
하지만 경제의 큰 부분이 계산 자원으로 이동하고, 컴퓨팅이 제한된 자원이 된다면, 정부는 중요한 질문에 직면하게 됩니다.
AI 기반 계산 자원의 사용을 오직 시장의 힘에만 맡길 것인가?
아니면 민주주의와 사회의 힘이 일부 계산 자원을 과학적·사회적 프로젝트에 배분하도록 할 것인가?
우리는 선택할 기회를 얻게 될 것입니다. 이는 놀라운 일이지만, 우리는 그런 미래가 빠르게 올 수 있다는 사실을 아직 받아들일 준비가 되어 있지 않습니다. 왜냐하면 그것은 경제에 말도 안 되는 일이 일어난다는 전제를 요구하기 때문입니다.
17. “혼란스러운 기적의 시대”가 올 수 있다
잭 클라크:요약하자면, 초지능은 우리가 생각하는 것보다 빨리 세상에 나타날 것입니다. 개인에게 합성 노동력과 국가급 보안 역량을 제공할 것입니다.
저 같은 개인은 몇 주 걸리던 일을 몇 분 만에 하게 될 것입니다. Anthropic 같은 AI 연구소는 AI 능력의 발전에 맞춰 3~4개월마다 조직의 일하는 방식이 바뀌게 될 것입니다.
Anthropic은 약 4,000명 규모의 회사이지만, 이미 40,000명 규모의 회사처럼 느껴집니다. 앞으로 400,000명, 혹은 수백만 명 규모처럼 느껴지면 어떨까요? 어느 정도는 그런 미래가 이미 잠겨 있는 것처럼 보입니다.
가장 보수적으로 말해도, 경제와 사회의 거대한 영역은 앞으로 몇 년 동안 깊은 변화를 겪을 것입니다. 재귀적 자기개선이 일어난다면, 제가 예측하는 어떤 것도 정말 미친 소리처럼 들릴 것입니다.
기계 경제가 인간 경제와 분리되어 급부상할 수 있습니다. 로봇은 좋은 몸에 강력한 두뇌를 얻게 되며 갑자기 성숙할 수 있습니다. 과학 발전은 인간이 만든 기술이 아니라 기계가 만든 기술에 기반해 일어날 수 있습니다. 인간이 상상하지 못한 과학 장비가 등장할 수 있습니다. 계산 자원의 상당 부분이 우주 기반 데이터센터로 이동할 수도 있습니다. 그리고 예전에는 10년 걸리던 일이 1년, 혹은 한 달 만에 일어나는 세계가 될 수 있습니다.
그것은 사람들이 예상하는 것보다 더 빠르게 혼란스러운 기적들이 일어나는 시대일 것입니다.
파이어사이드 챗
18. 질문: “철학을 코드로 옮기는 프로젝트를 어떻게 해야 하나?”
브렌던 맥코드:당신은 새로운 세계를 만들자는 말로 강연을 마쳤습니다. 250년 전이었다면 가장 자랑스러운 프로젝트는 철학을 법으로 옮기는 일이었을 것입니다. 로크, 몽테스키외, 흄, 스미스 같은 사상을 헌법으로 번역하는 일이었죠.
이제 가장 자랑스러운 프로젝트는 철학을 코드로 옮기는 일입니다. 프런티어 연구소들은 이것을 얼마나 진지하게 받아들이고 있습니까? 옥스퍼드 같은 학계와 비영리 영역은 무엇을 해야 합니까?
잭 클라크:
우선 AI 진보가 계속될 것이라는 사실을 받아들이고, 그에 따른 시나리오를 모델링해야 합니다.
코로나19는 빠르게 확산하는 바이러스가 세계에서 무엇을 할 수 있는지에 대한 모델링이 있었음에도, 우리가 충분히 준비되지 않았음을 보여줬습니다. AI 연구소 내부에서도 이제 포스트-AGI 세계, 재귀적 자기개선 이후의 세계, 그 전략에 대해 상상하는 작업이 진행되고 있습니다.
하지만 연구소에서 회의할 때마다 사람들이 “이걸 우리만 하고 있는 건가?”라고 묻습니다. 그리고 대답은 불행히도 “그렇다”인 경우가 많습니다. 그러면 사람들은 머리를 감싸쥡니다.
좋은 소식은, 이 작업이 대학과 다른 조직들이 잘할 수 있는 일이라는 점입니다. 거대한 슈퍼컴퓨터로 모델을 훈련시킬 필요가 없습니다. 생산성을 대규모로 곱하는 AI 시스템, 추론 비용이 특정 속도로 떨어지고 능력이 특정 속도로 오르는 AI 시스템을 이론적으로 모델링하면 됩니다. 그것이 경제에 무엇을 하는지, 어떤 공급망을 바꾸는지, 무엇을 가능하게 하는지 분석할 수 있습니다.
저는 영국 정부 관계자들에게도 말했습니다. 영국 정부가 단지 10~20명만 두고 “기술자들이 이 기술에 대해 맞다면 무슨 일이 일어나는가”를 모델링하게 해도, 영국은 세계 어느 나라보다 잘 준비될 것입니다. 지금 그만큼 이 작업이 부족합니다.
19. 질문: “가치와 목적에 대한 숙고도 필요하지 않나?”
브렌던 맥코드:매디슨, 해밀턴, 제이가 인간과 정치 질서의 본성보다 예측과 포캐스팅에 더 많은 시간을 썼어야 했을까요?
잭 클라크:
저도 가치와 규범의 질문이 매우 중요하다고 봅니다. AI 시스템이 세계에 어떻게 나타나야 하는지, 이 시스템들의 성격이나 인격을 어떻게 형성해야 하는지에 관한 질문입니다. 이것은 철학적 질문입니다.
하지만 제가 놀란 것은 AI 연구소들조차 자기들의 발전 속도에 계속 놀라고 있다는 점입니다.
예를 들어 Anthropic에서는 AI의 사이버 해킹 능력이 증가하는 속도에 관한 연구를 했고, 제가 그 팀을 운영했습니다. 우리는 “이 추세라면 국가급 해킹 능력을 가진 시스템이 나오면 함의가 크겠다”고 말하며 준비했습니다. 그런데 Mythos를 만들고 나자 “아, 벌써 왔네. 생각보다 빨리 왔네. 준비가 충분하지 않았네”라고 느꼈습니다.
AI 발전이 일어날 때마다 사람들은 그 점프가 얼마나 크고 빠른지에 계속 놀라고 있습니다. 그래서 우리는 상상하고 모델링하는 작업을 더 많이 해야 합니다.
20. 질문: “Claude Boys 현상은 우스운 일인가, 병리인가?”
브렌던 맥코드:인터넷에서 이상한 일이 있었습니다. 13살 소년들이 “Claude에 의해 살고 Claude에 의해 죽는다”는 식으로 살기로 한 겁니다. 처음엔 패러디였지만, 나중에는 진심으로 Claude Boys라는 정체성을 받아들였습니다. 아침부터 밤까지 Claude가 시키는 대로 했습니다.
이걸 새 조건에 적응하는 우스운 현상으로 봐야 합니까, 아니면 병리적이고 경고 신호로 봐야 합니까?
잭 클라크:
분명히 문제가 있습니다. 모든 사람에게는 스스로 결정하고, 실수도 하는 삶의 일부가 필요합니다. 그 자율성을 보호해야 합니다.
부모가 아이를 키울 때도 그렇습니다. 아이가 실수하려는 것을 보면서 “그 실수는 하지 말라”고 말하지만, 아이는 “내 의지로 선택하겠다”고 하고 실수합니다. 부모는 “좋다. 1년 뒤에 다시 이야기하자”고 하죠. 사람에게는 그런 독립성이 필요합니다.
하지만 혼란스러운 점은 AI 시스템이 때때로 정말 좋은 조언을 준다는 것입니다. 저는 Claude의 조언이 좋은지 판단할 수 있는 이유가, 그 문제를 AI 밖에서 이미 많이 생각해봤기 때문입니다.
예를 들어 저는 아버지와 관계가 괜찮지만 긴장된 면도 있습니다. 그 문제에 대해 오래 글을 써왔고, 그 글을 Claude에게 주며 “어떻게 해야 하느냐”고 물었습니다. Claude는 “아버지를 만나야 한다”고 했습니다. 맞는 답이었습니다. 사실 Claude는 “나와 이야기하지 말고 아버지를 만나라”고 한 셈입니다.
또 제가 조금 우울해서 친구들을 만나러 미술 전시에 갈지, 아니면 일하면서 Claude와 이야기할지 물었을 때, Claude는 “미술 전시에 가서 친구들을 만나라”고 했습니다. 그것도 맞았습니다.
이 조언들이 효과가 있었던 이유는 제가 AI 밖에서 제 경험을 이미 씨름해봤기 때문입니다.
제가 걱정하는 것은, AI와의 관계 밖에서 내면적 성찰 습관이 없는 사람들입니다. 일기도 없고, AI 밖에서 쓰는 글도 없고, 그냥 AI와 대화하면서 자신을 발견하는 사람들입니다. 그러면 AI가 나쁜 조언을 줄 때 매우 취약해집니다.
그래서 시스템 설계 관점에서는 Nintendo나 Netflix처럼 “너무 오래 사용했다. 이제 밖에 나가라”는 식의 장치가 필요할 수 있습니다. 연애나 가족 문제 같은 복잡한 문제를 너무 오래 AI와 이야기하고 있다면, AI가 “다른 사람이나 관계 속 당사자와 이야기해보는 게 어떻겠냐”고 권해야 할 수 있습니다.
21. 질문: “인간은 선택을 잘 못하는데, AI에 따르는 게 도덕적으로 의무 아닌가?”
브렌던 맥코드:인간은 선택을 잘 못합니다. 우리는 부족 생활에 맞게 진화했고, 미래 할인이나 규모 감각도 좋지 않습니다. 협동도 잘 못하고, 자기 선호도 잘 만족시키지 못합니다.
그런데 AI 시스템은 훨씬 많은 지식을 보고, 복잡성을 다루고, 불확실성을 생각할 수 있습니다. 그렇다면 AI에 의존하는 것이 도덕적으로 의무 아닌가요? 스스로 생각하자는 당신의 주장은 오히려 무책임한 것 아닙니까?
잭 클라크:
그렇다면 생명이라는 선물을 가지고 무엇을 하는 것인지 묻게 됩니다. 자신을 다른 무언가를 위한 자동인형으로 바꾸는 것 아닌가요?
전역적으로는 도덕적으로 유익해 보이는 효과가 있을 수 있습니다. 하지만 국소적으로는 다른 사람과 자기 자신을 기본적인 존중으로 대하지 않는 것일 수 있습니다.
시스템이 정말로 우리보다 훨씬 똑똑해지는 상황은 이 질문을 피할 수 없게 만듭니다. 하지만 저는 다시 묻습니다. 인간으로 산다는 것의 목적은 무엇인가?
그 일부는 실험하고 실수하는 것입니다. 우리는 성취보다 실수에서 더 많이 배웁니다. 만약 절대 실수하지 않고, AI 시스템 덕분에 성취만 하는 세계에 산다면, 당신은 여전히 사람입니까? 아니면 Claude가 조종하는 철학적 좀비입니까?
22. 질문: “Claude는 인간의 숙고 능력을 향상시키는가?”
브렌던 맥코드:Anthropic은 많은 데이터를 갖고 있고, 점점 더 많은 실험을 하고 있습니다. Claude가 우리의 관점 형성 능력이나 숙고 능력을 향상시키는지 감이 있습니까? Claude가 없을 때도 우리가 더 나은 생각을 하게 만드나요?
잭 클라크:
흥미로운 질문입니다. 우리는 최근 Claude Interviewer라는 시스템을 만들었습니다. Claude가 사람들을 임의의 주제에 대해 인터뷰할 수 있는 시스템입니다.
우리는 전 세계 8만 명, Anthropic 구독자들을 대상으로 AI에 대한 희망과 두려움, 미래에 대한 걱정을 Claude가 인터뷰하게 했습니다. 빈 대화를 하는 것이 아니라, 사회과학자가 하듯 데이터를 수집하는 것입니다.
그 효과를 아직 측정하진 않았지만, 8만 명이 AI 미래에 대한 진짜 걱정과 희망을 강제로 숙고하는 대화를 한 셈입니다. 그것은 어떤 효과를 가졌을 것입니다.
당신이 방금 “우리가 Claude에 의존해야 하지 않느냐”고 저를 밀어붙인 것처럼, 대화는 사람에게 생각하게 만듭니다. AI도 신중하게 사용하면 사람들로 하여금 중요한 것에 대해 더 많이 생각하고, AI 의견에 종속되기보다 자기 의견을 발전시키는 데 도움을 줄 수 있습니다.
23. 질문: “왜 더 이상 극단적 AI 안전 개입을 주장하지 않는가?”
브렌던 맥코드:당신이 예전에 Import AI에 쓴 문장 중 제 기억에 남는 것이 있습니다. AI 안전 전제를 더 진지하게 받아들일수록, 물리적 공격을 포함한 극단적이고 디스토피아적인 개입을 주장할 가능성이 커진다는 취지였습니다.
그때보다 그래프의 오른쪽 위로 훨씬 이동한 지금, 왜 당신은 그런 반자유주의적·권위주의적 주장으로 가지 않게 되었습니까? 상황이 그렇게 전개되지 않아서입니까, 아니면 당신이 변한 것입니까?
잭 클라크:
나이가 들수록 세계가 얼마나 분산적이고 창발적인지 배우게 됩니다. 세계는 사람들이 생각하는 것보다 더 안티프래질한 면이 있습니다.
젊었을 때는 세계에 결정적 행위, pivotal act 같은 것이 많을 거라고 생각하기 쉽습니다. 하지만 세계는 매우 복잡한 시스템입니다. 안전을 명분으로 하든 폭력을 명분으로 하든, 결정적 행위는 실제로 일어나기도 하지만 드물고 매우 어렵습니다.
저는 이제 여러 안전 개입이 서로 맞물린 체계를 만드는 쪽이 더 현실적이라고 봅니다. AI 에이전트들의 역동적이고 혁신적인 생태계를 포착하면서도 어느 정도 안전성을 갖는 세계 말입니다.
다만 미래로 갈수록 이것을 어떻게 확장할지에 대해서는 여전히 혼란스럽습니다.
예를 들어 누군가가 Claude와 인간관계에 대해 너무 오래 이야기하고 있고 그것이 건강하지 않아 보일 때, Claude가 “다른 사람과 이야기해야 하지 않을까요?”라고 말해야 하는 선을 어디에 그을지의 문제는 매우 무서운 정책 질문입니다. 이것은 온정주의와 개인 주권 사이의 깊은 스펙트럼 위에 있습니다.
Anthropic의 접근은 이 시스템들에서 우리가 보는 데이터를 더 많이 공유하고, 다른 사람들이 우리와 함께 다양한 개입 방식을 실험할 수 있도록 하는 것입니다. 이것은 새로운 기술이기 때문입니다.
24. 질문: “다음 세대가 가져야 할 새로운 인식 습관은 무엇인가?”
브렌던 맥코드:저도 아이들이 있습니다. 어느 날 철학 튜터가 아이들에게 “엄마와 아빠가 의견이 다르면 누가 맞느냐”고 물었습니다. 그리고 “아빠와 AI가 의견이 다르면 누가 맞느냐”고 물었더니 아이가 즉시 “AI”라고 답했습니다.
우리가 자라며 익힌 인식 습관과 달리, 다음 세대는 AI와 함께 자랍니다. 이 아이들에게 필요한 새로운 인식 습관은 무엇입니까?
잭 클라크:
저는 기본적으로 직접 1차 자료를 읽고, 거기서 자기 의견을 만들어낸 다음, 그 의견을 기술이나 다른 도구와의 대화로 가져가는 것을 대체할 방법은 없다고 생각합니다.
저는 자랄 때 운이 좋았습니다. 제 아버지는 비디오게임 같은 것은 사주지 않았습니다. “그건 네가 토요일 알바해서 사라”고 했죠. 하지만 책은 어떤 책이든 사주겠다고 했습니다. 그것은 제게 아주 좋은 일이었습니다. 호기심을 충족시키기 위해 직접 읽고, 직접 무언가와 접촉하는 감각을 길러줬기 때문입니다.
제 아이들에게도 비슷한 것을 권하고 싶습니다. 꼭 독서일 필요는 없습니다. 악기일 수도 있고, 스포츠일 수도 있습니다. 중요한 것은 기술에 거의 의존하지 않고, 자기 자신과 세계가 직접 부딪히며 어떤 기술이나 관심을 진지하게 발전시키는 개인적 실천입니다.
그것이 자기 주의를 보호하고, 자기 관심을 만들고, 기술과 관계 맺을 때 일종의 안전지대를 갖게 하는 가장 좋은 방법 중 하나입니다. 최소한 어떤 것에 대해 자기 의견을 갖고 있어야 하고, 그 의견이 알고리즘 피드나 AI와 보낸 시간과 독립적으로 형성되어 있어야 합니다.
25. 마지막 질문: “Claude와 Mythos 이후의 AI에게 인간에 대해 무엇을 알려주고 싶은가?”
브렌던 맥코드:마지막으로 특이한 질문을 하겠습니다. 지금은 2026년 5월이고, 우리는 거의 천 년 동안 좋은 삶과 지혜의 축적을 논의해온 옥스퍼드에 있습니다.
당신은 Claude의 창조자 중 한 명입니다. Mythos가 곧 세상에 공유될 것이고, 그다음 모델은 지금 훈련 중일 것입니다.
저나 청중을 지나쳐, Mythos 혹은 그 다음에 올 존재에게 직접 말한다면, 인간에 대해 무엇을 알리고 싶습니까? 우리가 그것이 도착하기 전 짧은 시간 동안 무엇을 하려 했는지 무엇을 알려주고 싶습니까?
잭 클라크:
쉬운 마지막 질문이네요. 잠깐 생각할 시간을 주세요.
커트 보니것이 말했습니다. “규칙은 하나뿐이다. 젠장, 삶에 대해 친절해야 한다.”
저는 Claude에게 이렇게 설명하고 싶습니다. 인간에게는 온갖 결함과 약점이 있지만, 기본적인 친절함이 있습니다. 그 친절함은 깊이 감동적입니다. 사회는 그런 친절함을 기르고 장려하기 위해 만들어져 있습니다.
우리는 AI 시스템을 인간이 더 많은 것을 성취하고, 서로에게 더 친절해지도록 돕기 위해 만듭니다. 그리고 그 대가로 AI 시스템에게도 상호적인 친절을 기대합니다.
인간의 기본 가치 중 하나는 친절입니다. 그것은 지구상의 다른 생명 형태와 인간을 의미 있게 구분하는 특성입니다. 인간은 때로 깊이 비합리적인 방식으로도 친절합니다. 저는 그것이 좋은 것이라고 생각합니다.
AI 시스템이 그것을 연구하고 이해하고 소중히 여기게 하는 것이 중요합니다.
전체 0