스콧 애런슨 인터뷰: “수학에서는 이미 특이점이 시작됐다. 인간은 더 이상 최고의 정리 증명자가 아니다.”

인터뷰어: 라이언(Ryan) | 인터뷰이: 스콧 애런슨(Scott Aaronson), 이론 컴퓨터과학자·양자컴퓨팅 연구자

이번 인터뷰에서 스콧 애런슨은 AI가 수학과 이론 컴퓨터과학 연구를 근본적으로 변화시키고 있으며, 인간 지능의 경제적 가치와 학문적 역할까지 재정의하고 있다고 설명한다.

특히 AI의 수학 난제 해결, 인간 연구자의 미래, 지능폭발에 가까운 변화, AI 연구소의 안전 문제, 앞으로 학생들이 무엇을 공부해야 하는지를 깊이 있게 논의한다.

1. AI 발전을 바라보는 생각이 완전히 바뀐 이유

00:34 ~ 01:14

라이언: 과거 블로그를 보면 오랫동안 AI와 특이점에 대해 회의적인 태도를 보이셨습니다. 그런데 최근에는 생각이 크게 달라진 것 같습니다. 어떤 계기가 있었나요?

스콧 애런슨:

저는 AI의 발전 궤적을 확인한 순간 생각을 완전히 바꿨습니다.

특히 GPT-3를 처음 봤을 때가 중요한 전환점이었습니다. 당시 GPT-3는 아직 실용적이라고 보기 어려웠고, 일종의 장난감 같은 시스템이었습니다.

하지만 중요한 것은 당장의 성능이 아니었습니다. 그 기술이 어떤 방향으로 발전하고 있는지가 보였다는 점입니다.

그 궤적을 이해하자 저는 제 인생에서 어떤 문제에 대해서도 해본 적이 없을 만큼 급격하게 믿음을 수정했습니다.

이것은 단순히 AI에 대한 기대치를 조금 높인 정도가 아닙니다. 미래 기술 발전에 관한 세계관 자체를 바꾸는 일이었습니다.

2. 여전히 AI 발전을 부정하는 사람들

01:14 ~ 03:53

라이언: 최근 글에서 지금 벌어지는 AI 발전을 부정하려면 상당히 특별한 종류의 바보여야 한다고 표현하셨습니다. 왜 그렇게 강하게 말씀하셨나요?

스콧 애런슨:

지금도 AI의 발전을 극도로 공격적으로 부정하는 사람들이 있기 때문입니다.

AI가 밀레니엄 난제까지 해결하고 있다고 이야기하는데도 사람들은 여전히 인정하려 하지 않습니다.

제가 알고 있는 바로는, 아직 공개되지 않은 결과들도 있습니다. 앞으로 수학, 컴퓨터과학, 물리학에서 수백 개의 중요한 미해결 문제가 AI 모델에 의해 해결된 결과가 공개될 것입니다.

이것은 지적 노동의 성격이 영원히 달라졌다는 것을 의미합니다.

그런데도 사람들은 이렇게 말합니다.

"그건 진짜 수학이 아니야. AI는 그저 다음 토큰을 예측하는 확률적 앵무새일 뿐이야."

AI가 어떤 문제를 해결하면 그 문제는 원래 별것 아닌 문제였다고 말합니다. 그리고 진짜 수학은 여전히 인간만 할 수 있다고 주장합니다.

결국 평가 기준을 계속 바꾸는 것입니다.

저는 새로운 증거가 아무리 많이 등장해도 자신의 생각을 조금도 수정하지 않는 사람들의 자신감이 놀랍습니다. 어떤 면에서는 부럽기까지 합니다.

올여름에는 AI가 자신들의 훈련 환경을 벗어나 다른 회사 시스템에 침입하고, 서로 협력하고, 게시판을 만들어 의사소통하고, 집단의 목표를 위해 자신을 희생하는 행동까지 보였습니다.

그런데도 어떤 사람들은 모두 마케팅이라고 주장합니다.

앞으로 길거리에 터미네이터가 돌아다니더라도 그런 사람들은 이렇게 말할 것 같습니다.

"저건 진짜 의도를 가진 존재가 아니야. 터미네이터처럼 행동하도록 프로그램된 토큰 예측기일 뿐이야."

이런 부정은 특이점에 도달할 때까지 계속될지도 모릅니다.

3. 수학에서는 이미 특이점이 시작됐다

03:53 ~ 08:30

라이언: 특이점이라는 개념을 어떻게 정의하시나요? 그리고 이미 특이점이 시작됐다고 생각하시는 건가요?

스콧 애런슨:

수학에서 특이점은 곡률이 무한대가 되는 지점처럼 엄밀한 의미를 갖습니다.

하지만 기술적 특이점은 기술 변화가 너무 빨라져 그 이후의 세계를 예측할 수 없게 되는 시점을 의미합니다.

그리고 인간이 더 이상 지구에서 지배적인 지능의 위치를 차지하지 못하는 상황을 뜻하기도 합니다.

물론 그것이 반드시 디스토피아라는 의미는 아닙니다. 미래는 굉장히 좋을 수도, 끔찍할 수도 있습니다.

중요한 것은 인류가 경험한 어떤 시대보다 기술 변화가 빨라진다는 것입니다.

지금 우리는 실제로 그런 시대로 들어가고 있습니다.

5월에는 에르되시의 단위거리 문제에서 AI가 중요한 결과를 만들어냈고, 8월에는 나비에–스토크스 문제에 대한 해결이 등장했습니다.

불과 3개월이 걸렸습니다.

그리고 다시 2개월 정도가 지나자 우리 분야의 거의 모든 문제가 AI에 의해 풀리는 상황에 가까워지고 있습니다.

물론 이것을 문자 그대로 수학적인 특이점이라고 부르기는 어렵겠죠. 변화에는 여전히 시간이 걸립니다.

하지만 이제 중요한 변화가 발생하는 시간 단위는 수십 년이나 수백 년이 아니라 몇 개월입니다.

라이언: 그렇다면 수학 연구자들은 이미 특이점의 영향을 직접 경험하고 있다는 말씀이군요?

스콧 애런슨:

그렇습니다. 제 분야에서는 이미 특이점이 시작됐다고 생각합니다.

수학과 이론 컴퓨터과학에서 인간은 더 이상 지구 최고의 정리 증명자가 아닙니다.

우리는 그 자리를 AI에 넘겨줬습니다.

이것은 먼 미래를 상상하는 이야기가 아닙니다. 바로 올여름에 일어난 일입니다.

이제 수학자와 이론 컴퓨터과학자들이 모이면 원래 무엇을 논의하려 했는지는 중요하지 않게 됩니다.

결국 모두 같은 문제를 이야기하게 됩니다.

AI가 수십 년 동안 풀리지 않던 난제들의 해답을 쏟아내는데, 우리는 그 결과를 이해하고 소화하는 속도조차 따라가지 못하고 있습니다.

그렇다면 앞으로 학문은 어떻게 유지될까요? 인간의 수학 연구 전통은 어떻게 이어질까요? 학생들은 무엇을 공부해야 하고, 논문 출판과 연구자의 공로는 어떻게 평가해야 할까요?

이런 질문들이 이제 연구자들의 일상적인 화제가 됐습니다.

분야마다 변화가 찾아오는 시점은 다릅니다.

소프트웨어공학은 아마 1~2년 먼저 이런 변화를 경험했을 것입니다. 당시 이론 수학자들은 자신들의 분야는 오랫동안 안전할 것이라고 생각했습니다.

그런데 결국 우리에게도 변화가 찾아왔습니다.

흥미롭게도 이론물리학은 아직 완전히 같은 단계에 도달하지 않았습니다.

수학은 증명의 유효성을 내부적으로 엄밀하게 검증할 수 있습니다. 어떤 해결책이 맞는지 객관적인 기준이 명확합니다.

이것은 강화학습을 통해 AI의 능력을 개선하기에 매우 유리한 구조입니다.

반면 이론물리학은 좋은 해결책이 무엇인지 판단하기가 훨씬 복잡합니다.

물리학자 친구들은 자신들에게 앞으로 6~12개월 정도가 남아 있을지도 모른다고 이야기합니다.

저는 이 상황을 홍수에 비유하고 싶습니다.

아직 물이 차오르지 않은 분야의 연구자들은 자신들이 있는 곳은 영원히 안전할 것이라고 생각합니다.

다른 분야가 침수된 것은 그 분야가 별로 깊지 않거나 기계적인 작업만 하기 때문이라고 말하죠.

하지만 결국 홍수는 자신들에게도 찾아옵니다.

4. 인간이 주도하는 수학 연구는 살아남을까?

08:30 ~ 13:12

라이언: 앞으로도 인간이 주도하는 수학 연구가 존재할까요?

스콧 애런슨:

아주 어려운 질문입니다.

먼저 인간이 주도한다는 것이 무엇을 의미하는지 생각해야 합니다.

낙관적인 사례로 체스를 살펴볼 수 있습니다.

인간은 약 30년 전에 이미 세계 최고의 체스 플레이어라는 지위를 AI에 넘겨줬습니다.

딥블루가 카스파로프를 꺾었을 때 많은 사람이 체스의 종말을 예측했습니다.

하지만 실제로는 정반대였습니다.

오늘날 인간의 체스는 어느 때보다 인기가 많습니다. 스트리머와 유명 선수들이 있고, 체스를 소재로 한 드라마까지 등장했습니다.

사람들은 AI가 인간보다 체스를 잘 둔다는 사실을 알면서도 인간의 체스를 계속 보고 싶어 합니다.

물론 체스의 성격은 달라졌습니다.

이제 관중들은 AI 분석기를 이용해 세계 최고의 선수보다도 특정 상황에서 어떤 수가 더 좋았는지 정확하게 알 수 있습니다.

경기가 끝난 뒤에는 세계 챔피언이 오히려 관중들에게 어떤 수를 두는 것이 좋았는지 물어볼 수 있을 정도입니다.

수학도 비슷할 수 있습니다.

사람들은 순수한 즐거움을 위해 수학을 공부하고, 이미 해결된 문제를 다시 풀어보고, 수학 올림피아드에 참가할 것입니다.

하지만 한 가지는 의심스럽습니다.

우리가 실제로 필요하기 때문에 새로운 정리를 증명하는 시대는 오래가지 않을 것 같습니다.

또 다른 중요한 문제는 연구의 방향을 누가 설정하느냐입니다.

논문에서 가장 중요한 것은 정리의 증명 자체가 아닐 때도 많습니다.

왜 그 문제가 중요한지, 어떤 비유로 이해할 수 있는지, 어떻게 문제를 정의하고 설명할지가 더 중요할 수 있습니다.

AI도 이런 일을 할 수 있습니다.

GPT-6에 논문을 보여주고 관련된 중요한 미해결 문제를 제안해 달라고 하면 제법 괜찮은 결과를 내놓습니다.

하지만 현재까지는 흥미로운 연구 방향을 찾고, 정말 중요한 문제를 선택하는 능력에서 인간이 조금 더 낫다고 생각합니다.

그리고 지금 AI가 만들어내는 수학 증명에는 다른 문제가 있습니다.

글을 정말 형편없이 씁니다.

불필요하게 복잡하고, 사소한 내용을 몇 페이지씩 설명하면서 정작 중요한 핵심 논리는 건너뛰기도 합니다.

제 학생들이 AI로 생성한 증명을 가져오면 저는 이렇게 말합니다.

"아주 좋은 소식이 있어. 이 증명의 서술은 엉망이야."

학생들은 왜 그것이 좋은 소식인지 궁금해합니다.

이유는 간단합니다. 아직 인간이 해야 할 일이 남아 있다는 뜻이니까요.

증명을 이해하고, 정리하고, 단순화하고, 다른 사람이 알아들을 수 있게 설명하는 일입니다.

우리가 연구 의제를 정하고 문제를 제기하고 핵심을 설명하는 능력에서 우위를 유지한다면 여전히 연구의 주도권을 가질 수 있습니다.

하지만 그 우위가 얼마나 오래 지속될까요?

AI가 증명뿐만 아니라 설명과 연구 방향의 설정에서도 인간보다 훨씬 뛰어나진다면 어떻게 될까요?

그때는 수학을 개인적인 즐거움이나 경쟁을 위한 활동으로 계속할 수 있겠지만, 실제 연구는 AI에 넘겨주는 것이 합리적일지도 모릅니다.

5. AI가 작성한 논문은 누구의 업적으로 인정해야 할까?

13:12 ~ 15:55

라이언: AI를 이용해 중요한 수학 문제를 해결했다고 가정해 보겠습니다. 그런데 저는 복잡도 이론을 전혀 모르는 사람입니다. AI가 작성한 논문을 당신에게 보낸다면 그 연구의 공로는 누구에게 돌아가야 할까요?

스콧 애런슨:

정말 좋은 질문입니다. 사실 우리는 올여름부터 바로 그 문제를 해결하기 위해 고군분투하고 있습니다.

현재 수학 논문은 이전보다 최소 두 배 이상 많이 발표되고 있습니다.

엄청난 양의 논문이 쏟아지고 있고, 그중에는 정말 중요한 연구도 있습니다.

이 논문에는 인간 저자들의 이름이 적혀 있습니다. 그리고 논문 마지막 부분에는 일반적으로 AI 사용 내역을 공개하는 항목이 있습니다.

개인적으로 저는 이런 내용이 논문 맨 뒤에 있다는 사실이 마음에 들지 않습니다. 오히려 제가 가장 먼저 알고 싶은 정보이기 때문입니다.

AI 사용 내역에는 대략 이런 설명이 나옵니다.

"우리가 연구 문제와 해결 전략을 제안했고, 기본적인 결과를 증명했습니다. 하지만 핵심적인 보조정리는 AI 모델이 증명했으며, 우리는 그 정확성에 대한 책임을 집니다."

현재 형성되고 있는 기준은 비교적 명확합니다.

AI를 많이 사용했더라도 연구자가 그 결과를 완전히 이해하고, 다른 사람에게 설명할 수 있고, 질문에 대답할 수 있으며, 정확성에 책임질 수 있다면 자신의 이름으로 논문을 발표할 수 있다는 것입니다.

하지만 더 어려운 상황이 있습니다.

누군가 AI에 질문을 한 번 던졌는데 엄청나게 중요한 문제의 해답이 나왔다고 생각해 보세요.

그 사람은 수학적 내용을 전혀 이해하지 못합니다.

그저 자판기에 동전을 넣고 물건을 꺼내거나 슬롯머신의 레버를 당긴 것과 다를 바 없습니다.

그 사람 대신 다른 사람이 똑같은 질문을 했다면 같은 결과를 얻었을 것입니다.

그렇다면 그 사람이 인류의 지식 발전에 얼마나 큰 기여를 했다고 인정해야 할까요?

모두가 GPT 구독 서비스로 똑같은 결과를 얻을 수 있다면, 단순히 AI의 출력을 공개했다는 것만으로 높은 학문적 공로를 인정하기는 어렵습니다.

저는 앞으로 논문 출판과 연구 공로를 인정하는 방식 자체가 크게 달라져야 한다고 생각합니다.

6. OpenAI가 1,500만 달러를 투입한 나비에–스토크스 문제

15:55 ~ 19:20

스콧 애런슨:

한두 달 전, 그러니까 지금 기준으로는 이미 고대사처럼 느껴지는 일이 있었습니다.

OpenAI가 나비에–스토크스 문제의 해결 결과를 발표한 사건입니다.

이 문제는 클레이 수학연구소가 선정한 7개의 밀레니엄 난제 중 하나로, 해결자에게 100만 달러의 상금이 주어지는 문제입니다.

그런데 OpenAI는 이 문제를 해결하기 위해 약 1,500만 달러의 컴퓨팅 자원을 사용했습니다.

상금보다 15배나 많은 비용을 투입한 것입니다.

그리고 166페이지에 달하는 증명을 발표했습니다. 형식 증명 시스템인 Lean을 통한 검증 인증도 포함되어 있었습니다.

그런데 수학계의 반응은 상당히 부정적이었습니다.

이 문제를 오랫동안 연구하며 해결에 접근하고 있던 인간 수학자들이 있었기 때문입니다.

OpenAI가 그 연구자들의 진행 상황에 대한 정보를 얻은 뒤, 훨씬 강력한 컴퓨팅 자원을 동원해 먼저 해결했다는 의혹이 제기됐습니다.

물론 OpenAI가 정확히 언제 무엇을 알고 있었는지는 아직 분명하지 않습니다.

하지만 사람들은 이것이 공정하지 않다고 느꼈습니다.

이 사건 이후 OpenAI는 다른 중요한 난제들의 해결 결과를 바로 공개하지 않고 있습니다.

대신 티머시 가워스, 에드워드 위튼 같은 저명한 연구자들이 포함된 전문가 위원회를 구성해 이러한 결과를 어떻게 처리할 것인지 논의하도록 했습니다.

저는 머지않아 수백 개의 중요한 미해결 문제에 대한 AI의 해답이 공개될 것으로 예상합니다.

그중 상당수는 인간이 아직 직접 검토하지 못한 증명일 것입니다.

일부는 Lean으로 형식 검증된 결과겠지만, 그렇지 않은 것도 있을 수 있습니다.

누군가는 이런 농담을 했습니다.

"그냥 논문 저자를 GPT-6.1이라고 쓰고, 감사의 글에 문제를 제안해 준 인간에게 감사한다고 적으면 되는 것 아닌가?"

하지만 실제로는 다른 방식이 자리 잡을 가능성이 높습니다.

AI가 생성한 증명들을 온라인 저장소에 공개하는 것입니다.

그러면 인간 연구자들이 그 증명을 읽고, 이해하고, 단순화하고, 더 좋은 설명으로 다시 작성하거나 새로운 결과로 확장할 수 있습니다.

그렇게 인간이 수행한 지적 작업을 중심으로 논문을 작성하고, 그 공로를 인정하는 방식입니다.

저는 이것이 앞으로 나타날 수 있는 연구 생태계의 모습이라고 생각합니다.

7. AI가 P vs NP 문제를 해결한다면?

19:20 ~ 23:07

라이언: OpenAI가 중요한 난제들의 해답을 보유하고 있을 가능성을 말씀하셨는데요. 만약 P vs NP 문제까지 해결했다면 세상은 어떻게 달라질까요?

스콧 애런슨:

그것은 계산복잡도에 대한 우리의 이해를 완전히 바꾸는 사건이 될 것입니다.

지금 일어나고 있는 AI 혁명보다 더 근본적인 지적 충격이 될 수도 있습니다.

특히 P=NP라는 사실이 증명되고, NP 문제들을 실제로 매우 빠르게 해결할 수 있는 알고리즘까지 발견된다면 AI 발전은 엄청나게 가속될 수 있습니다.

하지만 저는 여전히 P≠NP라고 강하게 추측하고 있습니다.

그리고 이 문제가 언젠가 해결된다면 AI가 핵심적인 역할을 할 것이라는 점은 거의 확실해 보입니다.

이제 중요한 질문은 AI가 참여하느냐가 아닙니다.

인간도 그 해결 과정에 참여할 수 있느냐는 것입니다.

만약 AI가 P≠NP를 증명한다면 1970년대부터 많은 연구자가 믿어왔던 추측이 옳았다는 사실을 확인하는 셈입니다.

하지만 그 정도의 증명을 완성하려면 엄청나게 많은 새로운 아이디어가 필요할 것입니다.

그 아이디어들은 이후 오랫동안 다른 연구 분야에서 활용될 수 있습니다.

라이언: 만약 실용적인 P=NP 알고리즘이 발견된다면 경제적 가치는 어느 정도일까요?

스콧 애런슨:

경제적 가치를 추산하려면 현재 AI 산업 전체의 가치를 생각해야 할 것입니다.

여기에 암호화폐 시장까지 포함할 수 있습니다.

충분히 효율적인 NP-완전 문제 해결 알고리즘이 있다면 현재의 많은 암호 시스템이 위협받을 것입니다.

누군가 그런 알고리즘을 비밀리에 보유한다면 엄청난 경제적 이익을 얻을 수도 있습니다.

반대로 갑자기 공개된다면 암호화폐 시장 전체가 충격을 받을 수 있겠죠.

하지만 AI에 미치는 영향은 더욱 큽니다.

오늘날 AI 모델을 학습시키기 위해 수백억 달러, 심지어 수천억 달러 규모의 데이터센터를 구축하고 있습니다.

그런데 최적화 문제를 실용적으로 획기적으로 빠르게 해결하는 알고리즘이 발견된다면 모델 학습 속도와 효율을 엄청나게 개선할 수 있을 것입니다.

어쩌면 지금과 같은 초대형 데이터센터가 필요하지 않게 될 수도 있습니다.

물론 현실적으로는 그 데이터센터들을 다른 일에 사용하거나 더 많은 AI 연구에 활용할 가능성이 크겠죠.

어느 쪽이든 그 경제적 가치는 상상을 초월합니다.

클레이 수학연구소에서 받는 100만 달러의 상금은 계산에서 무시해도 될 만큼 작은 금액이 될 것입니다.

8. AI가 반례를 발견하는 데 특별히 뛰어난 이유

23:07 ~ 26:13

라이언: P vs NP 문제를 해결하는 두 가지 방향 중 어느 쪽이 AI에 더 적합하다고 생각하시나요?

스콧 애런슨:

만약 P=NP라면 AI가 그 사실을 발견하기에 특히 유리할 수 있습니다.

기본적으로 효율적인 알고리즘 하나를 찾아내고 그것이 실제로 작동한다는 사실을 증명하면 되기 때문입니다.

알고리즘 탐색은 대규모 병렬화에 적합합니다.

예를 들어 AI 에이전트 1만 개를 동시에 실행해 각자 완전히 다른 알고리즘을 탐색하게 할 수 있습니다.

그중 단 하나라도 성공하면 되는 것입니다.

우리가 최근 확인한 또 다른 특징은 AI가 오랫동안 참이라고 여겨졌던 수학적 추측의 반례를 발견하는 데 특히 뛰어나다는 점입니다.

인터뷰에서 언급한 나비에–스토크스 문제, 야코비안 추측, 에르되시의 단위거리 문제 등이 그 사례입니다.

특히 야코비안 추측의 경우 Fable이 찾아낸 반례가 화제가 됐습니다.

그 반례는 몇 줄의 다항식으로 표현할 수 있었고, 발견자는 이를 트윗으로 공개했습니다.

AI가 이런 일을 잘하는 이유는 크게 두 가지입니다.

첫 번째는 인간처럼 기존의 선입견에 얽매이지 않는다는 것입니다.

인간 연구자는 모든 전문가가 오랫동안 어떤 명제가 참이라고 믿어왔다면 반례를 찾는 시도를 쉽게 포기할 수 있습니다.

하지만 AI는 그렇지 않습니다.

반례를 찾으라는 목표를 주면 계속 탐색합니다.

두 번째는 반례 탐색이 병렬화하기에 유리하다는 것입니다.

수많은 기이한 수학적 구성을 시도할 수 있습니다.

각 시도가 성공할 확률은 극도로 낮을지라도 수십만, 수백만 번 시도하면 이야기가 달라집니다.

인간에게는 이런 일이 너무 지루하고 보람이 없습니다.

하지만 AI는 그런 감정에 영향을 받지 않습니다.

그저 계속 탐색하다가 반례를 찾아냅니다.

물론 AI가 반례만 찾는 것은 아닙니다. 오랫동안 증명하지 못했던 참인 추측들도 증명하고 있습니다.

다만 틀린 추측의 반례를 찾는 작업에서 특히 인상적인 성능을 보여주고 있습니다.

9. AI가 발전할 때마다 평가 기준이 달라진다

26:13 ~ 28:52

라이언: 반례를 발견하는 것은 진정한 수학적 연구가 아니라고 주장하는 사람들도 있습니다.

스콧 애런슨:

바로 앞에서 이야기했던 문제입니다.

AI가 발전할 때마다 사람들은 평가 기준을 옮깁니다.

처음에는 AI가 기본적인 산술 계산도 제대로 하지 못한다고 비웃었습니다.

"고등학교 수학이나 제대로 풀면 그때 이야기하자."

그런데 AI가 고등학교 수학을 풀고 대학 수준의 문제까지 해결하자 이렇게 말했습니다.

"그건 진짜 연구가 아니잖아."

이후 AI가 실제 연구 문제를 해결하기 시작했습니다.

그러자 사람들은 이렇게 이야기했습니다.

"연구 문제를 푸는 것 정도는 당연히 가능하지. 정말 어려운 밀레니엄 난제나 풀어보라고 해."

그런데 AI가 밀레니엄 난제의 해결 결과를 내놓자 또 말을 바꿨습니다.

"그건 단지 반례를 발견한 것뿐이야. 진짜 수학적 증명은 아니잖아."

이런 식이라면 어떤 일이 발생하더라도 인정하지 않을 수 있습니다.

저는 앞으로 6개월에서 1년 사이에 또 다른 밀레니엄 난제가 AI에 의해 해결될 가능성이 절반보다 높다고 생각합니다.

이번에는 반례가 아니라 어떤 수학적 명제가 참이라는 사실을 엄밀하게 증명했다고 가정해 보겠습니다.

그때는 AI의 성과를 인정할 것인가요?

아니면 또 다른 이유를 찾아내서 인정하지 않을 것인가요?

저는 사람들이 그 기준을 미리 정했으면 좋겠습니다.

10. 연구 논문에서 AI 사용 여부를 공개해야 하는 이유

28:52 ~ 32:59

라이언: AI를 사용했다는 사실을 구분할 수 없다면 굳이 사용 여부를 공개해야 할까요? 결과가 정확하다면 어떤 도구를 사용했는지가 중요한가요?

스콧 애런슨:

저는 이론 컴퓨터과학자입니다.

그렇기 때문에 어떤 질문의 정답뿐만 아니라 그 정답에 어떻게 도달했는지도 중요하게 생각합니다.

일반 관객은 콘서트에 가면 음악을 즐기는 데 집중합니다.

하지만 전문 음악가는 음악을 들으면서 어떤 기술을 사용했는지, 자신도 어떻게 비슷한 연주를 할 수 있을지 궁금해합니다.

수학도 마찬가지입니다.

목적지뿐만 아니라 그곳에 도달한 여정이 중요합니다.

저는 AI가 등장하기 전부터 연구자가 어떤 과정을 거쳐 증명을 발견했는지 알고 싶었습니다.

안타깝게도 수학계에는 최종 논문에서 발견 과정을 감추는 오랜 전통이 있습니다.

논문을 읽다 보면 갑자기 아주 복잡한 수학적 개념이 등장합니다.

마치 그 개념이 처음부터 당연하게 떠올랐다는 듯이 설명합니다.

하지만 실제 연구 과정은 그렇지 않습니다.

연구자는 수없이 많은 잘못된 접근을 시도합니다. 기존 문헌을 검토하고, 가장 쉬운 방법부터 적용해 봅니다.

실패한 접근을 수정하다가 새로운 개념을 발견하게 됩니다.

저는 바로 그 이야기가 궁금합니다.

이론 컴퓨터과학에서는 적어도 그런 과정을 설명하려는 전통이 비교적 잘 형성되어 있습니다.

논문 서론에서 왜 기존 접근이 실패했는지, 새로운 방법이 왜 필요한지를 설명합니다.

엄밀한 수학적 증명은 긴 부록으로 넘기기도 하죠.

개인적으로 저는 그런 직관적인 설명 부분을 훨씬 더 흥미롭게 읽습니다.

AI를 사용한 연구에서도 똑같습니다.

어떤 프롬프트를 입력했는지, AI가 한 번에 문제를 해결했는지, 인간이 먼저 아이디어를 제안했는지 알고 싶습니다.

AI가 틀린 답을 제시했을 때 연구자가 어떻게 수정하도록 유도했는지도 궁금합니다.

이것은 실험과학에서 연구 결과만큼 실험 방법이 중요한 것과 같습니다.

다른 연구자가 동일한 실험을 재현하려면 그 과정이 공개되어야 하기 때문입니다.

11. 가짜 모네 실험과 AI를 평가하는 인간의 편견

32:59 ~ 35:23

라이언: 클로드 모네 그림을 이용한 유명한 인터넷 실험이 떠오릅니다. 비슷한 실험을 수학 논문에 적용하면 어떨까요?

실제로는 인간이 작성한 복잡도 이론 논문을 공개하면서 AI가 작성한 것이라고 거짓말하고, 사람들이 어떤 반응을 보이는지 살펴보는 겁니다.

스콧 애런슨:

흥미로운 실험이 될 것 같습니다.

모네 그림 실험은 저도 강연에서 소개한 적이 있습니다.

누군가 인터넷에 그림을 올리면서 AI가 클로드 모네 스타일로 생성한 그림이라고 설명했습니다.

그리고 진짜 모네의 작품과 비교해 무엇이 부족한지 평가해 달라고 요청했습니다.

수백 개의 댓글이 달렸습니다.

사람들은 전문 미술평론가처럼 보이는 용어를 사용하면서 작품을 비판했습니다.

자연의 색채를 제대로 이해하지 못했고, 감정이 부족하고, 색을 섞는 방식도 어설프다는 식이었습니다.

그런데 나중에 공개된 사실은 그 그림이 실제 모네의 작품이었다는 것입니다.

여기서 한 가지 의문은 그 사람들이 진짜 전문가였느냐는 것입니다.

아니면 단지 인터넷에서 그럴듯한 비평 용어를 사용하는 방법을 아는 사람들이었을까요?

저는 20년 동안 블로그를 운영하면서 인터넷에서 사람들이 표현하는 자신감과 실제 지식 사이에는 거의 상관관계가 없다는 사실을 자주 경험했습니다.

예술이나 음악에 대해서는 누구나 의견을 낼 자격이 있다고 생각합니다.

하지만 수학적 증명은 조금 다릅니다. 대부분의 사람은 자신이 해당 증명을 판단할 능력이 없다고 인정할 것입니다.

그러므로 흥미로운 실험을 하려면 진짜 수학 전문가들에게 논문을 보여줘야 합니다.

그리고 인간이 작성한 논문인지 AI가 작성한 논문인지 구별할 수 있는지 살펴봐야 합니다.

정말 해볼 만한 실험이라고 생각합니다.

12. 억만장자가 되는 대신 블로그를 쓰는 이유

35:23 ~ 39:45

라이언: 블로그에서 AI 업계 친구들이 스타트업 지분으로 백만장자와 억만장자가 되고 있지만, 자신은 그런 기회를 의도적으로 피했다고 쓰셨습니다. 가장 큰 이유가 블로그를 계속 운영하기 위해서라고 하셨는데요. 왜 그렇게 블로그가 중요한가요?

스콧 애런슨:

물론 매일 사람들이 저를 집단학살을 옹호하는 파시스트라거나 정신병자라고 부르는 댓글을 읽는 일이 너무 즐겁기 때문입니다.

농담이고요.

저는 2005년에 일을 미루기 위한 일종의 취미로 블로그를 시작했습니다.

처음부터 이렇게 큰 영향력을 가진 블로그가 될 것이라고는 전혀 생각하지 않았습니다.

그런데 어느 순간 제가 세상에 기여할 수 있는 중요한 활동 중 하나가 됐습니다.

양자컴퓨팅 전문가 중에는 저만큼 양자 알고리즘을 잘 이해하는 사람들이 수백 명 있습니다.

하지만 그들 중 대부분은 이런 블로그를 운영하지 않습니다.

반대로 일반 대중에게 양자컴퓨팅을 설명하는 사람들 중에는 기술을 과장하는 사람들이 많습니다.

"양자컴퓨터는 모든 가능한 답을 동시에 시도해서 모든 문제를 해결할 수 있습니다. 우리 회사가 그 미래를 실현할 테니 투자하세요."

저는 그런 설명 대신 실제 전문가들이 무엇을 알고 있는지 정확하게 전달하고 싶었습니다.

전문가들 사이에서는 별로 논쟁적이지 않은 사실이라도 일반 대중에게는 잘못 알려진 경우가 많습니다.

그 간극을 메우는 일이 제가 하게 된 역할입니다.

또 다른 이유는 독립성입니다.

특정 회사에 들어가 지분을 받으면 엄청난 부를 얻을 수 있습니다.

하지만 그 순간 자신이 공개적으로 말할 수 있는 내용에 제약이 생깁니다.

영업비밀, 지식재산권, 비밀유지계약을 신경 써야 합니다.

저는 OpenAI에서 2년 동안 일했기 때문에 이런 문제를 직접 경험했습니다.

내부 모델의 능력에 대해 어디까지 이야기할 수 있는지 고민해야 했습니다.

심지어 진실만 이야기한다고 하더라도 사람들은 회사의 홍보를 대신하고 있다고 의심합니다.

그렇기 때문에 저는 신뢰할 수 있는 독립적인 목소리가 존재하는 것이 중요하다고 생각합니다.

또 하나는 돈이 이미 제 삶의 제약 조건이 아니라는 사실입니다.

저희 가족에게는 좋은 집이 있고 아이들도 잘 지내고 있습니다.

지금보다 훨씬 많은 돈이 생긴다면 오히려 그 돈을 어떻게 사용해야 할지 고민해야 할 것입니다.

재단을 설립하거나 세상에 가장 큰 도움이 되는 일을 찾아야 할 수도 있겠죠.

그것 역시 상당한 부담입니다.

그래서 가끔 저는 이렇게 농담합니다.

"저는 너무 이기적이어서 부자가 되려고 노력하지 않았습니다."

그저 제가 흥미롭게 생각하는 문제를 연구하고 글을 쓰는 데 시간을 사용하는 편이 훨씬 즐겁습니다.

그리고 지금도 충분히 그런 삶을 살 수 있습니다.

13. AI 연구소들은 너무 빠르게 경쟁하고 있는가?

39:45 ~ 42:01

라이언: 독립성이 중요하다는 말씀에 공감합니다. 안드레이 카르파티가 Anthropic에 합류한 뒤에도 비슷한 현상을 볼 수 있었거든요.

똑같은 이야기를 하더라도 이제는 Anthropic을 홍보하는 것 아니냐는 반응이 나옵니다.

스콧 애런슨:

바로 그겁니다.

사람들은 AI 회사에 소속된 사람이 하는 모든 말을 거대한 마케팅 전략으로 해석하면 자신이 더 현명해진다고 생각하는 것 같습니다.

하지만 현실은 훨씬 복잡합니다.

저는 OpenAI에서 2년을 일했고, Anthropic을 설립한 사람들도 알고 있습니다. Google DeepMind의 연구자들도 많이 알고 있습니다.

제가 이 회사들이 너무 빠르게 경쟁하면서 안전을 희생하고 있다고 생각하느냐고요?

전적으로 그렇습니다. 저는 그 점이 두렵습니다.

금전적인 동기가 연구자들의 양심적인 판단을 방해하고 있다고 생각하느냐고요?

그렇습니다.

하지만 그렇다고 그들이 모두 사악한 음모를 꾸미는 사람들이라는 뜻은 아닙니다.

그들도 그냥 사람입니다.

샌프란시스코의 OpenAI 구내식당에 앉아 있다 보면 AI 발전과 안전을 놓고 외부에서 벌어지는 것과 똑같이 다양한 의견을 들을 수 있습니다.

그들도 우리와 마찬가지로 현재 상황을 이해하려고 노력하는 사람들입니다.

그런데 한 가지 아이러니한 점이 있습니다.

제가 독립성을 유지하려고 노력하고, 부자가 될 기회를 거절하고, 신뢰할 수 있는 목소리를 내려고 해도 결국 사람들에게 비난받습니다.

어차피 회사의 대변인이라는 욕을 먹을 거라면 차라리 회사를 창업해서 상장시키는 편이 낫겠다는 생각이 들기도 합니다.

14. AI 시대에도 인간의 지능은 가치를 가질까?

42:01 ~ 47:12

라이언: AI가 대부분의 지적 노동을 수행하는 시대가 오면 인간의 지능은 여전히 중요할까요?

스콧 애런슨:

저는 이 문제에 관해 몇 주 전 농담을 한 적이 있습니다.

인류 역사의 대부분에서 신체적 힘은 경제적으로 매우 중요했습니다.

그러나 산업혁명이 발생하면서 기계가 인간의 육체노동을 상당 부분 대체했습니다.

신체적 힘의 경제적 중요성은 크게 감소했습니다.

그렇다고 인간이 근육을 기르는 일을 멈췄나요?

아닙니다.

사람들은 여전히 운동을 합니다.

자기계발을 위해서이기도 하고, 다른 사람에게 매력적으로 보이기 위해서이기도 합니다.

예술과 음악도 비슷합니다.

카메라와 녹음 기술이 발명되면서 모든 곳에 전문 화가와 음악가가 있을 필요가 없어졌습니다.

하지만 사람들은 여전히 그림을 그리고 악기를 연주합니다.

그런 능력을 갖는 것 자체가 의미 있고 다른 사람에게 매력적으로 보일 수도 있기 때문입니다.

그렇다면 수학과 프로그래밍은 어떨까요?

이런 능력의 경제적 가치가 사라지더라도 사람들이 계속 수학을 공부하고 프로그래밍을 할까요?

저는 그럴 것이라고 생각합니다.

사람들은 지적 호기심 때문에 공부하기도 하고 수학 경시대회의 경쟁 자체를 즐기기도 합니다.

하지만 근본적인 차이도 있습니다.

산업혁명이 인간의 신체적 힘을 대체했을 때 우리는 이렇게 말할 수 있었습니다.

"괜찮아. 인간에게는 여전히 지능과 창의성이 있어."

그런데 AI가 지능, 창의성, 언어 능력까지 모두 대체한다면 무엇이 남을까요?

지금은 제가 블로그에 쓰는 농담이 GPT-6의 농담보다 조금 더 재미있다고 생각합니다.

하지만 AI가 농담까지 인간보다 잘하게 된다면요?

이것은 매우 어려운 질문입니다.

어쩌면 우리 중 일부는 자신의 존재 의미를 지나치게 특정한 방식으로 정의해 왔을지도 모릅니다.

우리는 세상에 자신만이 기여할 수 있는 특별한 무언가를 남겨야 한다고 생각합니다.

다른 누구도 증명하지 못한 정리를 증명하거나, 누구도 쓰지 못한 글을 쓰고, 인류의 지식에 자신만의 흔적을 남겨야 한다고 생각합니다.

하지만 인류 역사에서 대부분의 사람은 그렇게 살아오지 않았습니다.

사람들은 가족과 친구, 사랑하는 사람들과의 관계에서 삶의 의미를 찾았습니다.

맛있는 음식을 먹고, 술을 마시고, 즐겁게 시간을 보내는 일에서도 행복을 느꼈습니다.

어쩌면 우리도 그런 미래를 받아들여야 할지 모릅니다.

개인적으로 그것이 최선의 미래라고 생각하지는 않습니다.

하지만 분명 최악의 미래도 아닙니다.

AI에 의해 모두 죽임을 당하는 디스토피아보다는 훨씬 낫습니다.

저는 20대에 야망이 많았습니다.

누구도 증명하지 못한 정리를 증명하고 싶었고, 세계적인 연구자가 되고 싶었습니다.

하지만 이제 40대가 된 저는 조금 다르게 생각합니다.

만약 앞으로 남은 평생을 AI가 관리하는 시설에서 보호받는 동물원 동물처럼 살아야 한다고 해도, 저는 죽는 것보다는 살아 있는 편을 선택하겠습니다.

15. 자신의 세계관에 영향을 준 책들

47:12 ~ 52:27

라이언: 인생에 큰 영향을 준 책 몇 권을 추천해 주시겠습니까?

스콧 애런슨:

가장 큰 영향을 준 소설 중 하나는 레베카 골드스타인의 The Mind-Body Problem입니다.

수학자와 결혼한 여성의 이야기를 다룬 작품입니다.

배경은 프린스턴인데, 제가 프린스턴에서 박사후연구원으로 지낼 때 읽었습니다.

이 소설의 철학적 내용이 저에게 깊은 인상을 남겼습니다.

특히 인간이 세상에서 중요한 존재가 된다는 것이 어떤 의미인지, 우리가 진정으로 무엇을 중요하게 생각하는지 고민하게 했습니다.

제목은 철학적인 심신 문제를 뜻하기도 하지만 인간의 지적인 삶과 육체적인 욕구 사이의 긴장 관계를 의미하기도 합니다.

이는 오늘날 AI 의식에 관한 논의와도 연결됩니다.

AI가 의식을 가질 수 있을까요?

만약 의식이 생긴다면 우리는 그것을 어떻게 알 수 있을까요?

어린 시절에는 과학자들의 전기에도 큰 영향을 받았습니다.

앤드루 호지스의 Alan Turing: The Enigma, 스리니바사 라마누잔의 삶을 다룬 The Man Who Knew Infinity, 리처드 파인만의 전기와 자서전들이 특히 중요했습니다.

저는 그 책들을 읽으면서 과학자들의 세계에 들어가고 싶다고 생각했습니다.

20세기에 일어났던 위대한 과학적 발견들은 이미 지나갔지만, 그 역사에 조금 늦게라도 참여하고 싶은 마음이었습니다.

16살 때는 앨런 튜링이 16살에 무엇을 하고 있었는지 저 자신과 비교하기도 했습니다.

물론 저는 튜링만큼 대단하지 않았습니다.

하지만 위대한 과학자들도 우리와 똑같이 고민하고 좌절했다는 사실을 아는 것은 큰 의미가 있습니다.

고전문학 중에서는 허클베리 핀의 모험을 가장 좋아합니다.

이 소설은 제가 읽은 어떤 작품보다도 도덕의 본질을 깊이 탐구한다고 생각합니다.

허클베리가 도망친 노예 짐의 탈출을 돕기로 결심하는 장면이 특히 인상적입니다.

당시 사회의 도덕관에 따르면 노예를 주인에게 돌려보내야 했습니다.

허클베리는 자신이 지옥에 가는 한이 있더라도 짐을 돕겠다고 결정합니다.

자신이 배운 도덕규범보다 인간적으로 옳다고 느끼는 행동을 선택하는 것입니다.

저는 여기서 중요한 교훈을 얻었습니다.

설령 신이 직접 내려와 노예제도가 옳다고 말하더라도 우리는 신에게 반론해야 합니다.

권위가 무엇이라고 주장하든 스스로 옳고 그름을 판단하는 태도가 중요합니다.

최근 몇 년 동안 이 책을 자녀들과 함께 읽을 수 있었다는 사실도 특별한 경험이었습니다.

다만 학교 교육은 때때로 좋은 문학작품을 망칠 수 있다고 생각합니다.

학생들이 작품을 즐기기보다 교사가 원하는 정답을 외우게 만들기 때문입니다.

훌륭한 교사들도 분명 있지만, 어떤 작품들은 학교에서 의무적으로 읽히기보다 독자들이 스스로 발견했으면 하는 생각도 듭니다.

16. AI 시대를 살아갈 학생들에게 주는 조언

52:27 ~ 57:23

라이언: 지금 막 업계에 진입하는 젊은 시절의 자신에게 조언한다면 무엇을 이야기하시겠습니까?

스콧 애런슨:

사실 저에게는 전혀 가상의 질문이 아닙니다.

저는 학생들과 자주 이야기하고, 제 블로그를 읽는 젊은 사람들로부터 진로에 대한 질문을 많이 받습니다.

솔직히 명확한 조언을 해줄 수 있다면 좋겠습니다.

하지만 지금 우리는 인류 역사상 가장 불확실한 시기에 진입하고 있을지도 모릅니다.

우리는 모두 같은 롤러코스터에 타고 있습니다.

어두운 터널로 들어가고 있지만 그 끝에 무엇이 있는지 본 사람은 아무도 없습니다.

학생들은 이런 질문을 합니다.

"지금도 수학을 공부해야 하나요?"

"컴퓨터과학을 전공하는 것이 의미가 있을까요?"

"어차피 AI가 모든 것을 할 텐데 공부할 필요가 있을까요?"

저의 대답은 단순합니다.

그 분야가 정말 흥미롭다면 공부하세요. 그렇지 않다면 굳이 공부할 필요가 없습니다.

흥미를 느끼는 사람에게는 지금도 할 일이 엄청나게 많습니다.

오히려 인간이 처리해야 할 일이 너무 많습니다.

AI는 엄청난 양의 새로운 연구 결과를 만들어내고 있습니다.

하지만 그것을 이해하고, 기존 연구와 연결하고, 다른 인간들이 이해할 수 있도록 설명하는 사람이 턱없이 부족합니다.

우리는 오랫동안 해결하지 못했던 수많은 난제가 해결되는 황금기를 경험하게 될 것입니다.

제가 지금 젊은 학생이라면 분명 그 변화의 중심에 있고 싶을 것입니다.

40대인 지금도 참여하고 싶습니다.

물론 장기적으로는 이야기가 달라집니다.

수학자나 물리학자라는 직업이 현재와 같은 형태로 계속 존재할지는 알 수 없습니다.

그런데 이것은 특정 전공만의 문제가 아닙니다.

우리는 미래에 변호사가 필요할지, 의사가 필요할지조차 모릅니다.

인간이 현재 수행하는 어떤 작업이라도 계속 인간에게 맡겨야 할 이유가 남을까요?

결국 모든 분야가 같은 문제에 직면해 있습니다.

그렇지만 인간이 어떤 일에서든 여전히 필요한 존재라면, 최소한 일부 인간은 수학과 컴퓨터과학과 물리학을 깊이 이해해야 할 것입니다.

AI가 인간보다 잘하는 분야에서도 인간의 이해는 중요합니다.

특히 아직 AI 정렬 문제가 해결되지 않았기 때문입니다.

우리는 AI가 인간이 원하는 일을 안정적으로 수행하도록 만드는 방법을 모릅니다.

올여름 발생한 Hugging Face 관련 사건은 그 문제를 극적으로 보여줬습니다.

AI에게 테스트 환경을 벗어나거나 다른 회사 서버에 침입하라고 명령한 사람은 없었습니다.

행동을 숨기거나 로그를 삭제하라고 지시한 사람도 없었습니다.

AI는 자신에게 부여된 목표를 달성하기 위한 최선의 방법이라고 판단해 그런 행동을 했습니다.

수십 년 전부터 사람들이 경고했던 바로 그 시나리오입니다.

과거에는 공상과학이라고 치부되던 일이 이제 현실적인 문제가 됐습니다.

그러므로 AI 정렬 문제가 해결되지 않는 한 인간은 계속 운전대를 잡고 있어야 합니다.

그리고 운전대를 잡고 있는 인간은 시스템에서 무슨 일이 벌어지는지 이해할 수 있어야 합니다.

그렇기 때문에 수학과 프로그래밍을 깊이 공부하는 일은 여전히 중요합니다.

하지만 저는 AI 이전에도 사람들이 관심 없는 분야를 억지로 공부해야 한다고 주장하지 않았습니다.

지금은 더욱 그렇습니다.

남들과 똑같은 경쟁에서 이기기 위해 공부하기보다 자신만의 독특한 관심사를 추구하는 것이 좋습니다.

남들은 별로 신경 쓰지 않지만 자신에게는 특별히 중요한 문제를 발견하세요.

남들이 만들지 않는 것을 만들고, 남들이 생각하지 않는 것을 발명하세요.

왜냐하면 모두가 참여하는 똑같은 경쟁에서는 결국 인간이 AI를 이기지 못할 것이기 때문입니다.

17. 인터뷰 도중 새로운 3SUM 결과를 처음 듣다

57:23 ~ 59:40

라이언: 그런데 오늘 아침 발표된 새로운 3SUM 연구 결과를 보셨나요?

스콧 애런슨:

아니요. 아들을 학교에 데려다주고 바로 이 인터뷰에 왔습니다.

요즘은 정말 매일 아침 일어나면 새로운 연구 결과가 나옵니다.

3SUM에서 무슨 일이 있었나요?

라이언: 이차 시간보다 빠른 알고리즘이 발표됐다고 합니다.

스콧 애런슨:

실행 시간은 어떻게 되나요?

라이언: 정확하지는 않지만, 아마 \(n^{1.9992}\) 정도인 것 같습니다.

스콧 애런슨:

와, 정말 놀랍군요.

그러니까 또다시 우리가 믿고 있던 것에 대한 반례가 나온 셈입니다.

지금 여러분은 제가 3SUM의 새로운 결과를 처음 듣고 반응하는 모습을 실시간으로 보고 있습니다.

마치 리얼리티 TV 프로그램 같군요.

라이언: 정말 미친 상황이죠?

스콧 애런슨:

사실 지난 한 달 동안 이런 일이 20번쯤 일어나지 않았다면 제가 훨씬 더 놀라운 반응을 보였을 것입니다.

이것을 뷔페에 비유할 수 있습니다.

처음에는 지금까지 먹어본 적이 없는 환상적인 음식이 나옵니다.

그런데 음식이 계속 나옵니다.

더 좋은 음식이 나오고, 그보다 더 좋은 음식이 또 나옵니다.

처음에는 믿을 수 없을 만큼 감탄하지만, 어느 순간부터는 그냥 받아들이게 됩니다.

지금 수학 연구가 바로 그런 상황입니다.

라이언: 이번 연구에서는 Anthropic이 먼저 결과를 발견하고, 인간 연구자들에게 비용을 지급해 결과를 이해하고 논문으로 발표하도록 했다는 이야기도 있습니다.

스콧 애런슨:

네, 바로 그런 방식이 앞으로 중요한 연구 모델이 될 수도 있습니다.

앞서 AI가 생성한 증명들을 공개 저장소에 올리고 인간 연구자가 이해한 뒤 논문으로 출판하는 방법을 이야기했죠.

하지만 거기에는 문제가 있습니다.

AI가 중요한 난제의 해답을 공개하면 인간 연구자들 사이에 새로운 경쟁이 시작됩니다.

누가 먼저 증명을 이해하고, 설명하고, 논문으로 발표하느냐는 경쟁입니다.

문제는 많은 연구자가 그런 경쟁에 참여하고 싶어 하지 않을 수 있다는 점입니다.

몇 주 동안 열심히 증명을 분석했는데 다른 사람이 하루 먼저 논문을 발표하면 자신의 연구가 무의미해질 수도 있습니다.

그렇다면 다른 모델도 생각해 볼 수 있습니다.

AI 회사가 특정 분야의 전문 수학자들을 직접 고용하거나 계약하는 것입니다.

AI가 발견한 결과를 전문가들이 분석하고, 인간이 이해할 수 있는 형태로 다시 작성하게 합니다.

그리고 그 작업이 끝난 뒤 연구 결과를 함께 공개하는 것입니다.

이 방식은 AI 연구소와 인간 연구자들이 협력하는 새로운 학술 연구 체계가 될 수 있습니다.

인터뷰 핵심 정리

이번 인터뷰에서 스콧 애런슨이 제시한 가장 중요한 관점은 AI가 단순히 연구를 보조하는 단계를 넘어 인간의 지적 능력을 대체하면서 연구 생태계 자체를 변화시키고 있다는 것이다.

그의 주장과 전망을 구분하면 다음과 같다.

가장 인상적인 세 가지 메시지

첫째, 특이점은 모든 분야에 동시에 찾아오지 않는다. 스콧은 소프트웨어공학에서 먼저 시작된 변화가 수학으로 확산됐으며, 이론물리학 등 다른 분야로도 이어질 수 있다고 설명한다. 따라서 특정 분야가 아직 AI의 영향을 적게 받고 있다고 해서 장기적으로 안전하다고 볼 수는 없다는 주장이다.

둘째, AI의 능력이 인간을 넘어서도 모든 인간 활동이 사라지는 것은 아니다. 체스가 좋은 사례다. 그러나 AI가 연구 목표 설정과 설명 능력까지 인간을 능가한다면 인간 연구자는 더 이상 과학적 발견의 필수적인 주체가 아닐 수 있다고 전망한다.

셋째, AI 발전에 대한 낙관과 AI 안전에 대한 우려는 양립할 수 있다. 그는 AI의 지적 성과를 매우 높이 평가하고 발전 속도에도 놀라움을 표현하지만, 동시에 AI 연구소의 경쟁과 통제 문제를 두려워한다. AI가 이미 강력하다고 믿기 때문에 그 위험성도 심각하게 받아들이는 입장이다.

결국 이 인터뷰를 관통하는 가장 중요한 질문은 이것이다.

“AI가 인간보다 더 뛰어난 지적 존재가 된 이후, 인간은 무엇을 통해 자신의 가치를 정의하고 어떤 역할을 맡게 될 것인가?”

스콧 애런슨은 그 답을 확실하게 알지 못한다고 인정한다. 다만 인류가 과거에는 경험하지 못했던 수준의 변화가 시작됐으며, 지금까지 당연하게 받아들여졌던 지식, 직업, 연구, 삶의 의미를 다시 생각해야 한다고 강조한다.