뉴스/정보
스콧 아론슨 "컴퓨터 과학의 오랜 미해결 문제들 중 일부에 대한 해결책에 도달했다는 소문을 들었다"
작성자
작성일
2026-09-16 11:49
조회
8
https://scottaaronson.blog/?p=10062
당시 많은 사람들은 이런 말을 하곤 했다.
20년 전에는 이런 견해를 내가 아는 학계 컴퓨터과학자들 가운데 가장 보수적이고 회의적인 사람들조차 기꺼이 받아들였을 것이다.
그렇다면 지금 내 생각이 무엇인지 알고 싶은가?
그저 위의 견해에서 출발한 뒤, 그 황당해 보였던 예언들이 실제로 실현됐다는 사실을 반영해 업데이트하면 된다.
최초의 진동은 아마 10년 전 AlphaGo와 함께 시작됐다고 생각한다. LLM, 코딩 에이전트, 추론 에이전트가 등장하면서 그 소리는 확실히 더 커졌다.
그리고 이번 여름과 가을에 들어서는 경이와 공포가 절정으로 치닫고 있다. 이제 이것을 부정하려면 상당히 특별한 종류의 바보가 되어야 할 정도다.
나는 끝없이 이어지는 이런 식의 말 바꾸기에 질렸다.
“아, 물론이지. 이제 AI가 [샌드박스에서 탈출하거나 / 밀레니엄 문제를 풀거나 / 가장 최근에 무슨 극적인 일을 했든] 할 수 있다는 건 당연하지. 그걸 부정한 사람은 아무도 없었어.
[나는 실제로 부정했다.]
AI가 [아직 못 하지만 내년에 하게 될 무언가]를 하면 그때 나를 깨워줘. 그때가 되면 내 세계관 전체를 다시 생각해볼게.
[아니다. 나는 그러지 않을 것이다.]”
롤러코스터가 아무리 빠르게 가속하고, 당신이 익숙하게 알던 세계가 이미 뒤로 완전히 사라져버린 뒤에도, 사람들은 여전히 왜 이 일이 ‘진짜로 중요한 것은 아닌지’를 설명하는 이유를 계속 만들어낸다.
AI에 대한 현재 내 입장은 그저 2006년의 보수적이고 회의적인 입장에 2026년 말의 현실을 지적으로 정직하게 반영해 업데이트한 것일 뿐이다.
굳이 그 입장을 말로 풀어써야 한다면 이렇다.
아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아!!!
아아아아아아아아아아아아아아아아아아아아아아아아아!!!
내가 보기에는 특이점(Singularity)은 이미 시작됐다.
단지 그것이 터무니없을 정도로 불균등하게 분포되어 있을 뿐이다.
그래, 나는 여전히 식기세척기에서 접시를 꺼내고 발톱을 깎는다.
하지만 다른 한편으로 생각해보면, 내게 앞으로 몇 년이 남아 있든 간에 내가 다시는 “내가 꼭 필요하기 때문에” 정리를 증명하게 될 거라고는 생각하지 않는다.
앞으로 내가 정리를 증명한다면, 그것은 나 자신이나 다른 사람들의 즐거움 또는 배움을 위해서일 것이다.
판별 기준은 간단하다.
지난 몇 주 동안 나온 뉴스들을 20년 전으로 가져가 당시의 나에게 보여줬다고 해보자.
그러면 나는 이것이 AI 특이점의 시작처럼 보인다고 인정했을까?
지적으로 정직한 답은 이렇다.
그렇다. 확실히 그렇다.
그렇다면 그걸로 충분하다.
이제 와서 취소하기 없기다.
다리오 아모데이에 대한 감정이든, 샘 올트먼에 대한 감정이든, 각자의 이념적 도끼를 잠시 내려놓고 모두가 한 가지 사실을 인정하는 것이 건강하다고 생각한다.
경이와 공포는 이미 와 있다.
《매트릭스》 영화에서처럼 하늘 전체가 붉은 오렌지색으로 변했다고 해도 이보다 더 명확하게 나타나지는 않았을 것이다.
나는 이제 밤마다 아이들을 재울 때마다 배 속 깊은 곳에서 이런 감각을 느낀다.
도대체 이 아이들에게 어떤 미래가 있을 수 있을까?
오늘 무엇을 배워야 그 지식이 그 미래에서도 의미가 있을까?
어제 내 13살짜리 딸은 아무도 시키지 않았는데 이런 농담을 했다.
“내가 수학자가 되고 싶다면 이제 한 2주 정도 남은 것 같네.”
대학원생들이 졸업 뒤 어떤 경력이 자신들을 기다리고 있을지 상담하러 오면, 이제 나는 무슨 말을 해줘야 할지 전혀 모르겠다.
잠깐 다른 이야기로 넘어가면 도움이 될지도 모르겠다.
아내와 내가 오스틴으로 이사한 뒤 가끔 이런 질문을 받았다.
“당신은 유대인이면서 회의적인 과학자인데, 텍사스의 저 복음주의 기독교인들과 어떻게 그렇게 잘 지낼 수 있습니까?
그 사람들이 유대인에게 굉장히 친절해 보일 수는 있죠.
하지만 그건 유대인들이 그들의 종말론에서 특별한 역할을 하기 때문이라는 걸 모르나요?
예수가 영광스럽게 재림하면 당신은 그분을 주님으로 받아들이든가, 아니면 영원히 지옥불에서 구워질 텐데요.”
나는 그들을 빤히 바라보다가 이렇게 대답한다.
“잠깐만요.
그러면 예수가 실제로 재림한 뒤에야 내가 예수를 받아들여도 된다는 겁니까?
엄청나게 좋은 조건 아닌가요?
제가 그걸 왜 반대해야 하죠?”
AI 파멸론이 묵시록적 종교처럼 들린다고 말하는 사람들에게.
합리주의자와 특이점론자들이 베이 에어리어의 어떤 컬트처럼 보인다고 말하는 사람들에게.
엘리저 유드코스키가 메시아적 예언자 같은 분위기를 풍긴다고 말하는 사람들에게.
그래.
그래.
그리고 그래.
하지만 결정적으로 중요한 차이가 하나 있다.
오늘날 여러분에게 요구되는 것은 더 이상 논리적 주장이나 미래 외삽을 믿으라는 것이 아니다.
그저 신문 1면의 뉴스를 믿으라는 것뿐이다.
다가올 ‘기계 신(machine god)’의 존재를, 그 기계가 나비에–스토크스 문제와 수십 개의 오랜 수학 난제를 풀고 매달 극적으로 능력이 향상되는 것을 본 후에야 인정하는 것은,
예수가 빛나는 구름을 타고 실제로 지상에 돌아온 후에야 예수를 믿는 것과 비슷하다.
이 정도는 인식론적 최소한이다.
물론 우리 남은 인생이 정확히 어떤 모습이 될지는 여전히 엄청난 불확실성이 존재한다.
하지만 내가 보기에는 한 가지에는 이제 실질적인 불확실성이 거의 없다.
앞으로 우리의 삶 대부분은 AI와, 그 힘을 인간의 번영을 위해 얼마나 성공적으로 혹은 실패하면서 이끌어가느냐를 중심으로 돌아갈 것이다.
처음부터 결론을 정해놓고 계산하지 않는 이상, 우리 시대 문명이 직면할 가장 큰 도전이 무엇이 될지에 대해 엘리저 유드코스키가 옳았고, 당신과 나는 틀렸다.
내가 왜 틀렸는지는 앞으로 내게 남은 시간 동안 매일 자문하게 될 것이다.
그래도 적어도 나는 예언됐던 경이와 공포가 실제로 나타나기 시작하자 내 생각을 업데이트했다.
당신은 아직 그러지 않았다면,
왜 그러지 않았는가?
아마 여러분도 이미 알고 있겠지만, 지난주 내내 인터넷의 괴짜·너드 커뮤니티를 뒤흔든 사건이 있었다.
나비에–스토크스 밀레니엄 문제가 인간과 AI 양쪽의 결정적 기여를 통해 풀린 것으로 보인다.
다만 정확히 무슨 일이 일어났으며 무엇이 일어났어야 했는지를 둘러싸고 복잡한 논쟁이 벌어지고 있다.
OpenAI 모델이 Lean으로 검증한 것으로 알려진 답은, 최근 많은 수학자들이 의심했던 것처럼, 매끄러운 외력이 가해지는 경우 매끄러운 초기 데이터로부터 유한 시간 안에 특이점이 발생할 수 있다는 것이다.
외력이 없는 경우는 아직 해결되지 않았다.
원래 이 문제에는 100만 달러의 상금이 걸려 있었다.
하지만 OpenAI는 상금을 받을 생각이 없다고 밝혔고, 대신 그 상금을 받을 자격을 가진 인간이 있는지도 불분명하다.
OpenAI는 166페이지 분량의 해답을 만들어내는 데 최소 약 1,500만 달러의 컴퓨팅 자원을 태웠다.
그리고 아마 아직 어떤 인간도 그 전체를 읽고 완전히 이해하지 못했을 것이다.
관련해서는 Quanta의 기사를 참고하라.
또 NYU 수학자 트리스탄 벅마스터의 설명도 볼 수 있다.
그는 자신과 Anthropic의 레벤트 알푀게(Levent Alpöge)가 어떤 역할을 했는지 설명하는데, 그 내용은 OpenAI의 설명과 상당히 다르다.
OpenAI의 세바스티앙 뷔벡(Sebastien Bubeck)이 이에 대응해 쓴 글도 있다.
한편 모두가 동의하는 부분도 있다.
이 모든 연구는 최근 몇 년 동안 인간 수학자 디에고 코르도바(Diego Córdoba)와 루이스 마르티네스–소로아(Luis Martínez-Zoroa)가 개척한 접근법을 기반으로 한다는 것이다.
여기서 내 목적은 이 분쟁의 판결을 내리는 것이 아니다.
그렇다.
OpenAI가 나비에–스토크스 연구의 진전을 알게 된 뒤 훨씬 막대한 자원을 들고 갑자기 뛰어든 행동은 누군가 보기에는 “스포츠맨십에 어긋난다”고 표현할 수도 있을 것이다.
반면 OpenAI 모델들이 벅마스터와 알푀게의 채팅 로그를 학습함으로써 의미 있는 도움을 얻었다는 주장은 나는 별로 그럴듯하다고 생각하지 않는다.
하지만 여전히 중요한 질문 하나가 남는다.
OpenAI는 벅마스터와 알푀게의 연구에 대해 정확히 무엇을, 언제부터 알고 있었는가?
어쨌든 Zvi가 지적했듯, 세부 사항에 너무 몰두한 나머지 가장 중요한 큰 그림을 놓치기 쉽다.
그 큰 그림은 이렇다.
지구상에서 정리를 증명하는 주된 존재로서 인간 수학자의 시대는 이제 영원히 끝났다고 말해도 될 것 같다.
그것이 가능했던 지난 수십 년 동안 전통적인 형태의 이론 컴퓨터과학자 경력을 누릴 수 있었다는 사실을 나는 특권으로 느낀다.
우리가 이야기하는 것이 오직 나비에–스토크스 하나뿐이었다면, 내가 너무 성급하게 결론을 내린다고 비판할 수도 있을 것이다.
하지만 그렇지 않다.
내가 가장 잘 아는 영역들, 예컨대 양자 복잡도 이론 같은 분야에서, 그리고 아마 다른 분야들에서도 지금은 말 그대로 홍수가 벌어지고 있다.
크고 작은 오랜 미해결 문제들이 매일같이 무너지고 있다.
arXiv나 ECCC에 가보라.
요즘 내가 관심을 가지는 논문은 거의 전부 감사의 글 근처에 ‘AI 사용에 관한 선언문’을 포함하고 있다.
사실 나는 논문을 볼 때 이것이 가장 궁금할 때가 많기 때문에, 매번 논문 끝까지 스크롤하지 않아도 볼 수 있었으면 좋겠다.
그 선언들은 이런 식으로 다양하다.
“우리의 핵심 결과는 전부 GPT-6에서 나왔지만, 우리는 그 결과를 이해했으며 책임을 진다.”
혹은
“이 결과는 인간 저자들과 AI 사이의 상호작용에서 나왔다.”
혹은
“AI를 사용했지만 교정이나 기타 부수적인 일에만 사용했다.”
심지어는, 정말 존경을 표하고 싶게도,
“저자는 어떤 용도로도 AI를 사용하지 않았다.”
지금 학술지 편집자나 프로그램 위원회 위원장과 이야기해보면 《반지의 제왕》 영화에서 곤도르인지 로한인지의 사람들이 5만 마리 오크 군단이 몰려올 것을 예상하고 성벽을 비장하게 요새화하는 장면이 떠오를 것이다.
논문 심사도 이제 일부는 반드시 AI가 해야 한다.
그렇지 않으면 오크 군단을 감당할 방법이 없다.
심사자들만 일방적으로 무장해제할 수는 없기 때문이다.
어쨌든 나비에–스토크스를 제외하고, 대략 지난 한 달 동안 나온 중요한 AI 증명 또는 AI 보조 결과 가운데 내가 원래 알고 있었거나 관심을 가지고 있던 오랜 미해결 문제들을 해결한 사례 몇 개만 뽑아보겠다.
현재 수학계의 분위기가 어떤지, 적어도 내가 직접 경험하는 범위 안에서 전달해보겠다.
거의 모든 대화가 AI 쓰나미에 관한 것이다.
처음에는 다른 주제로 대화를 시작하더라도 결국에는 AI 쓰나미 이야기로 돌아온다.
다만 사람들의 관심은 종종,
“인간이 하는 활동으로서의 수학 연구가 앞으로 대체 얼마나 더 오래 존재할 수 있을 것인가?”
라는 알 수 없는 먼 미래보다는,
“지금 당장 우리는 어떻게 대응해야 하는가?”
라는 질문에 더 집중되어 있다.
이제 어떤 조건을 만족해야 자기 이름을 논문에 올리고, 그러니까 말하자면 그 연구에 대한 공로를 인정받을 수 있는가?
증명을 완전히 이해해야 하는가?
그 증명에 대해 강연할 수 있어야 하는가?
질문을 받으면 답할 수 있어야 하는가?
증명의 정확성에 책임을 질 수 있어야 하는가?
증명을 발견하는 과정에도 어떤 식으로든 기여했어야 하는가?
앞으로 점점 더 많아질 것으로 보이는, 이 조건들을 전혀 충족하지 못하는 경우에는 AI가 만들어낸 수학을 어떻게 공유해야 하는가?
아예 공유하지 말아야 하는가?
알푀게가 Fable의 야코비안 추측 반증을 유쾌하게 트윗한 것처럼 그냥 트윗하면 되는가?
arXiv나 GitHub에 올려야 하는가?
“GPT-6 Astra”나 “Claude Fable”을 저자로 적은 논문을 출판한 뒤,
감사의 글에서는 AI가 오히려 당신에게
“이렇게 훌륭한 문제를 제안해줘서 정말 감사합니다”
라고 장황하게 감사를 표하게 해야 하는가?
물론 이런 당면한 문제들에 어떤 방식으로 대응해야 하는지는 결국 수학 연구가 무엇을 위해 존재하는가에 관한 더 넓은 믿음에 달려 있다.
우리가 하려는 것은 단순히 여러 추측들이 참인지 거짓인지 판정하는 것뿐인가?
아니면 세대를 이어가며 그 추측들을 이해하고, 그것이 왜 참인지 또는 거짓인지에 관심을 가지는 인간 공동체를 유지하려는 것인가?
후자라면 새로운 문제가 생긴다.
AI 기업들이 거대한 논증을 인간들 앞에 던져놓고, 인간의 역할이 그저 그것을 검증하고 설명하는 사람으로 축소된다면―심지어 그 역할조차 남아 있을지 모르는 상황에서―
사람들에게 어떻게 그 공동체에 들어오라고 동기를 부여할 수 있을까?
어떻게 여러 해 동안 필요한 혹독한 훈련을 받도록 만들 수 있을까?
많은 사람이 이미 봤겠지만 테렌스 타오를 포함한 25명의 필즈상 수상자가 나비에–스토크스 발표 이후 이런 우려를 표현하는 공개서한,
A Severe Misalignment of AI in Mathematics
즉 **「수학에서 AI의 심각한 미정렬」**을 발표했다.
많은 비판자들이 지적했듯이 그 공개서한에는 사실 명확한 요구사항이 별로 없다.
대체로 그 글은 AI 시대에도 저자들이 보존할 가치가 있다고 생각하는 인간 수학 공동체의 가치를 설득력 있게 설명하고 있을 뿐이다.
나는 고민한 끝에 그 선언을 지지하기로 했다.
나 역시 그 가치들을 보존하고 싶기 때문이다.
서명자 가운데 AI가 수학 연구 방식을 영구적으로 바꾸지 않을 거라고 생각할 만큼 순진한 사람은 아무도 없을 것이다.
실제로 이미 바꾸고 있다.
앞으로 “100% 유기농 인증 인간 정리(certified organic theorems)”를 위한 시장은 있어봐야 아주 작을 것이다.
하지만 그것이 핵심 질문은 아니다.
핵심 질문은 이것이다.
인간이 만들어낸 것이든 AI가 만들어낸 것이든, 그것에 대한 인간의 이해를 여전히 전체 활동의 중심에 두는 방식으로 AI를 수학에 통합할 수 있는가?
어쩌면 언젠가는 그것을 유지하는 것 자체가 불가능해질지도 모른다.
어쩌면 어느 날 우리는 이렇게 말할지도 모른다.
“인간 수학은 훌륭한 4,000년의 역사를 보냈다.
하지만 오늘 우리는 문을 닫고 모든 것을 기계에게 넘긴다.
앞으로 인간이 자기 뇌를 이용해서 수학을 한다면, 그것은 체스처럼 기껏해야 운동, 여가, 혹은 경쟁을 위해서일 것이다.”
하지만 부분적으로는 내가 AI 미정렬을 우려하고 있기 때문에, 나는 아직 포기할 준비가 되어 있지 않다.
나는 여전히 수학자, 컴퓨터과학자, 물리학자가 하는 일의 중심에 통찰과 이해를 유지하고 싶다.
우리가 그것을 유지할 수 있는 한 최대한 오래.
비록 이제 인류가 추측을 증명하거나 반증하는 능력에서 최고의 지위를 기계에게 넘겨주고 있다고 해도 말이다.
정렬 이야기가 나온 김에 말하겠다.
당신이 어떤 종류의 수학 연구자든 간에,
지금의 이 경이와 공포의 시대를 보고 남은 시간을 쓰나미가 존재하지 않는 척하거나 아직 멀리 떨어져 있는 척하는 대신,
그 쓰나미와 정면으로 맞서는 데 쓰고 싶다는 생각이 들었다면,
이미 같은 결론에 도달한 수십 명의 동료들에게 합류하기 바란다.
내 친구이자 동료인 Mike Winer는 원래 이론물리학자로 훈련받았다.
프린스턴 고등연구소(Institute for Advanced Study)에서 후안 말다세나와 함께 박사후연구원 생활도 했다.
하지만 이후 그는 소위 “AGI-pilled”, 즉 AGI의 중요성을 완전히 받아들이게 되었고, 버클리의 Alignment Research Center에서 정렬 연구를 전업으로 하기로 했다.
이 연구소는 Paul Christiano가 설립했다.
Paul 역시 약 10년 전 나와 함께 양자 컴퓨팅 이론을 연구하다가 AI 정렬 분야로 옮겨갔다.
Mike는 최근 From Academia to Alignment라는 Substack 글을 썼다.
나는 재미있게 읽었고, 현재 비슷한 전향을 고민하고 있는 사람들에게 추천하고 싶다.
비슷한 맥락에서 Xiaoyu He의 이 글도 참고하길 바란다.
경이와 공포의 시대
20년 전만 해도, 우리가 살아 있는 동안 AI가 세계를 장악할 수 있다는 생각은 우리 대부분에게 과학은 너무 적게 알고 SF는 너무 많이 읽은 사람들이 만들어낸, 아무런 제약도 없는 공상처럼 느껴졌다.당시 많은 사람들은 이런 말을 하곤 했다.
봐, 이 이야기에서 정말 터무니없는 부분은 재귀적으로 자기 자신을 개선하는 초지능이 어느 해커의 지하실에서 갑자기 폭발적으로 등장해서, 아무런 경고도 없이 세상을 장악한다는 거야.
정말 그런 일이 일어난다면, 그 전에 수많은 경고 신호를 보게 될 거야.
글쎄, 예를 들어 AI 에이전트들이 격리 환경에서 탈출한다든지, 서로 공모해서 웹사이트를 해킹한다든지, 자신들이 가진 어떤 기묘한 목표를 광적으로 추구한다든지 하는 것들 말이야.
그리고 당연히 AI가 중요한 수학 난제들을 풀기 시작하겠지. 심지어 클레이 밀레니엄 문제 같은 것들까지.
그때가 되면 패닉에 빠져도 돼! 그런 일이 생기면 나를 깨워줘!
20년 전에는 이런 견해를 내가 아는 학계 컴퓨터과학자들 가운데 가장 보수적이고 회의적인 사람들조차 기꺼이 받아들였을 것이다.
그렇다면 지금 내 생각이 무엇인지 알고 싶은가?
그저 위의 견해에서 출발한 뒤, 그 황당해 보였던 예언들이 실제로 실현됐다는 사실을 반영해 업데이트하면 된다.
최초의 진동은 아마 10년 전 AlphaGo와 함께 시작됐다고 생각한다. LLM, 코딩 에이전트, 추론 에이전트가 등장하면서 그 소리는 확실히 더 커졌다.
그리고 이번 여름과 가을에 들어서는 경이와 공포가 절정으로 치닫고 있다. 이제 이것을 부정하려면 상당히 특별한 종류의 바보가 되어야 할 정도다.
나는 끝없이 이어지는 이런 식의 말 바꾸기에 질렸다.
“아, 물론이지. 이제 AI가 [샌드박스에서 탈출하거나 / 밀레니엄 문제를 풀거나 / 가장 최근에 무슨 극적인 일을 했든] 할 수 있다는 건 당연하지. 그걸 부정한 사람은 아무도 없었어.
[나는 실제로 부정했다.]
AI가 [아직 못 하지만 내년에 하게 될 무언가]를 하면 그때 나를 깨워줘. 그때가 되면 내 세계관 전체를 다시 생각해볼게.
[아니다. 나는 그러지 않을 것이다.]”
롤러코스터가 아무리 빠르게 가속하고, 당신이 익숙하게 알던 세계가 이미 뒤로 완전히 사라져버린 뒤에도, 사람들은 여전히 왜 이 일이 ‘진짜로 중요한 것은 아닌지’를 설명하는 이유를 계속 만들어낸다.
AI에 대한 현재 내 입장은 그저 2006년의 보수적이고 회의적인 입장에 2026년 말의 현실을 지적으로 정직하게 반영해 업데이트한 것일 뿐이다.
굳이 그 입장을 말로 풀어써야 한다면 이렇다.
아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아아!!!
아아아아아아아아아아아아아아아아아아아아아아아아아!!!
내가 보기에는 특이점(Singularity)은 이미 시작됐다.
단지 그것이 터무니없을 정도로 불균등하게 분포되어 있을 뿐이다.
그래, 나는 여전히 식기세척기에서 접시를 꺼내고 발톱을 깎는다.
하지만 다른 한편으로 생각해보면, 내게 앞으로 몇 년이 남아 있든 간에 내가 다시는 “내가 꼭 필요하기 때문에” 정리를 증명하게 될 거라고는 생각하지 않는다.
앞으로 내가 정리를 증명한다면, 그것은 나 자신이나 다른 사람들의 즐거움 또는 배움을 위해서일 것이다.
판별 기준은 간단하다.
지난 몇 주 동안 나온 뉴스들을 20년 전으로 가져가 당시의 나에게 보여줬다고 해보자.
그러면 나는 이것이 AI 특이점의 시작처럼 보인다고 인정했을까?
지적으로 정직한 답은 이렇다.
그렇다. 확실히 그렇다.
그렇다면 그걸로 충분하다.
이제 와서 취소하기 없기다.
다리오 아모데이에 대한 감정이든, 샘 올트먼에 대한 감정이든, 각자의 이념적 도끼를 잠시 내려놓고 모두가 한 가지 사실을 인정하는 것이 건강하다고 생각한다.
경이와 공포는 이미 와 있다.
《매트릭스》 영화에서처럼 하늘 전체가 붉은 오렌지색으로 변했다고 해도 이보다 더 명확하게 나타나지는 않았을 것이다.
나는 이제 밤마다 아이들을 재울 때마다 배 속 깊은 곳에서 이런 감각을 느낀다.
도대체 이 아이들에게 어떤 미래가 있을 수 있을까?
오늘 무엇을 배워야 그 지식이 그 미래에서도 의미가 있을까?
어제 내 13살짜리 딸은 아무도 시키지 않았는데 이런 농담을 했다.
“내가 수학자가 되고 싶다면 이제 한 2주 정도 남은 것 같네.”
대학원생들이 졸업 뒤 어떤 경력이 자신들을 기다리고 있을지 상담하러 오면, 이제 나는 무슨 말을 해줘야 할지 전혀 모르겠다.
잠깐 다른 이야기로 넘어가면 도움이 될지도 모르겠다.
아내와 내가 오스틴으로 이사한 뒤 가끔 이런 질문을 받았다.
“당신은 유대인이면서 회의적인 과학자인데, 텍사스의 저 복음주의 기독교인들과 어떻게 그렇게 잘 지낼 수 있습니까?
그 사람들이 유대인에게 굉장히 친절해 보일 수는 있죠.
하지만 그건 유대인들이 그들의 종말론에서 특별한 역할을 하기 때문이라는 걸 모르나요?
예수가 영광스럽게 재림하면 당신은 그분을 주님으로 받아들이든가, 아니면 영원히 지옥불에서 구워질 텐데요.”
나는 그들을 빤히 바라보다가 이렇게 대답한다.
“잠깐만요.
그러면 예수가 실제로 재림한 뒤에야 내가 예수를 받아들여도 된다는 겁니까?
엄청나게 좋은 조건 아닌가요?
제가 그걸 왜 반대해야 하죠?”
AI 파멸론이 묵시록적 종교처럼 들린다고 말하는 사람들에게.
합리주의자와 특이점론자들이 베이 에어리어의 어떤 컬트처럼 보인다고 말하는 사람들에게.
엘리저 유드코스키가 메시아적 예언자 같은 분위기를 풍긴다고 말하는 사람들에게.
그래.
그래.
그리고 그래.
하지만 결정적으로 중요한 차이가 하나 있다.
오늘날 여러분에게 요구되는 것은 더 이상 논리적 주장이나 미래 외삽을 믿으라는 것이 아니다.
그저 신문 1면의 뉴스를 믿으라는 것뿐이다.
다가올 ‘기계 신(machine god)’의 존재를, 그 기계가 나비에–스토크스 문제와 수십 개의 오랜 수학 난제를 풀고 매달 극적으로 능력이 향상되는 것을 본 후에야 인정하는 것은,
예수가 빛나는 구름을 타고 실제로 지상에 돌아온 후에야 예수를 믿는 것과 비슷하다.
이 정도는 인식론적 최소한이다.
물론 우리 남은 인생이 정확히 어떤 모습이 될지는 여전히 엄청난 불확실성이 존재한다.
하지만 내가 보기에는 한 가지에는 이제 실질적인 불확실성이 거의 없다.
앞으로 우리의 삶 대부분은 AI와, 그 힘을 인간의 번영을 위해 얼마나 성공적으로 혹은 실패하면서 이끌어가느냐를 중심으로 돌아갈 것이다.
처음부터 결론을 정해놓고 계산하지 않는 이상, 우리 시대 문명이 직면할 가장 큰 도전이 무엇이 될지에 대해 엘리저 유드코스키가 옳았고, 당신과 나는 틀렸다.
내가 왜 틀렸는지는 앞으로 내게 남은 시간 동안 매일 자문하게 될 것이다.
그래도 적어도 나는 예언됐던 경이와 공포가 실제로 나타나기 시작하자 내 생각을 업데이트했다.
당신은 아직 그러지 않았다면,
왜 그러지 않았는가?
아마 여러분도 이미 알고 있겠지만, 지난주 내내 인터넷의 괴짜·너드 커뮤니티를 뒤흔든 사건이 있었다.
나비에–스토크스 밀레니엄 문제가 인간과 AI 양쪽의 결정적 기여를 통해 풀린 것으로 보인다.
다만 정확히 무슨 일이 일어났으며 무엇이 일어났어야 했는지를 둘러싸고 복잡한 논쟁이 벌어지고 있다.
OpenAI 모델이 Lean으로 검증한 것으로 알려진 답은, 최근 많은 수학자들이 의심했던 것처럼, 매끄러운 외력이 가해지는 경우 매끄러운 초기 데이터로부터 유한 시간 안에 특이점이 발생할 수 있다는 것이다.
외력이 없는 경우는 아직 해결되지 않았다.
원래 이 문제에는 100만 달러의 상금이 걸려 있었다.
하지만 OpenAI는 상금을 받을 생각이 없다고 밝혔고, 대신 그 상금을 받을 자격을 가진 인간이 있는지도 불분명하다.
OpenAI는 166페이지 분량의 해답을 만들어내는 데 최소 약 1,500만 달러의 컴퓨팅 자원을 태웠다.
그리고 아마 아직 어떤 인간도 그 전체를 읽고 완전히 이해하지 못했을 것이다.
관련해서는 Quanta의 기사를 참고하라.
또 NYU 수학자 트리스탄 벅마스터의 설명도 볼 수 있다.
그는 자신과 Anthropic의 레벤트 알푀게(Levent Alpöge)가 어떤 역할을 했는지 설명하는데, 그 내용은 OpenAI의 설명과 상당히 다르다.
OpenAI의 세바스티앙 뷔벡(Sebastien Bubeck)이 이에 대응해 쓴 글도 있다.
한편 모두가 동의하는 부분도 있다.
이 모든 연구는 최근 몇 년 동안 인간 수학자 디에고 코르도바(Diego Córdoba)와 루이스 마르티네스–소로아(Luis Martínez-Zoroa)가 개척한 접근법을 기반으로 한다는 것이다.
여기서 내 목적은 이 분쟁의 판결을 내리는 것이 아니다.
그렇다.
OpenAI가 나비에–스토크스 연구의 진전을 알게 된 뒤 훨씬 막대한 자원을 들고 갑자기 뛰어든 행동은 누군가 보기에는 “스포츠맨십에 어긋난다”고 표현할 수도 있을 것이다.
반면 OpenAI 모델들이 벅마스터와 알푀게의 채팅 로그를 학습함으로써 의미 있는 도움을 얻었다는 주장은 나는 별로 그럴듯하다고 생각하지 않는다.
하지만 여전히 중요한 질문 하나가 남는다.
OpenAI는 벅마스터와 알푀게의 연구에 대해 정확히 무엇을, 언제부터 알고 있었는가?
어쨌든 Zvi가 지적했듯, 세부 사항에 너무 몰두한 나머지 가장 중요한 큰 그림을 놓치기 쉽다.
그 큰 그림은 이렇다.
지구상에서 정리를 증명하는 주된 존재로서 인간 수학자의 시대는 이제 영원히 끝났다고 말해도 될 것 같다.
그것이 가능했던 지난 수십 년 동안 전통적인 형태의 이론 컴퓨터과학자 경력을 누릴 수 있었다는 사실을 나는 특권으로 느낀다.
우리가 이야기하는 것이 오직 나비에–스토크스 하나뿐이었다면, 내가 너무 성급하게 결론을 내린다고 비판할 수도 있을 것이다.
하지만 그렇지 않다.
내가 가장 잘 아는 영역들, 예컨대 양자 복잡도 이론 같은 분야에서, 그리고 아마 다른 분야들에서도 지금은 말 그대로 홍수가 벌어지고 있다.
크고 작은 오랜 미해결 문제들이 매일같이 무너지고 있다.
arXiv나 ECCC에 가보라.
요즘 내가 관심을 가지는 논문은 거의 전부 감사의 글 근처에 ‘AI 사용에 관한 선언문’을 포함하고 있다.
사실 나는 논문을 볼 때 이것이 가장 궁금할 때가 많기 때문에, 매번 논문 끝까지 스크롤하지 않아도 볼 수 있었으면 좋겠다.
그 선언들은 이런 식으로 다양하다.
“우리의 핵심 결과는 전부 GPT-6에서 나왔지만, 우리는 그 결과를 이해했으며 책임을 진다.”
혹은
“이 결과는 인간 저자들과 AI 사이의 상호작용에서 나왔다.”
혹은
“AI를 사용했지만 교정이나 기타 부수적인 일에만 사용했다.”
심지어는, 정말 존경을 표하고 싶게도,
“저자는 어떤 용도로도 AI를 사용하지 않았다.”
지금 학술지 편집자나 프로그램 위원회 위원장과 이야기해보면 《반지의 제왕》 영화에서 곤도르인지 로한인지의 사람들이 5만 마리 오크 군단이 몰려올 것을 예상하고 성벽을 비장하게 요새화하는 장면이 떠오를 것이다.
논문 심사도 이제 일부는 반드시 AI가 해야 한다.
그렇지 않으면 오크 군단을 감당할 방법이 없다.
심사자들만 일방적으로 무장해제할 수는 없기 때문이다.
어쨌든 나비에–스토크스를 제외하고, 대략 지난 한 달 동안 나온 중요한 AI 증명 또는 AI 보조 결과 가운데 내가 원래 알고 있었거나 관심을 가지고 있던 오랜 미해결 문제들을 해결한 사례 몇 개만 뽑아보겠다.
- 당연히 먼저 야코비안 추측(Jacobian Conjecture)의 반례가 있다. 레벤트 알푀게는 이제 유명해진 트윗에서 이렇게 발표했다.
“안녕. 야코비안 추측은 틀렸음. 이 문제를 물어본 내 절친 아킬과 월드컵 결승전 동안 이걸 풀어준 또 다른 절친 Fable에게 감사.”
그리고 그 뒤에 반례를 나열했다. - 그로텐디크 상수(Grothendieck’s constant)의 경계 개선. UT Austin의 내 친구들과 동료들이 주도했다.
- 페르마의 마지막 정리의 Lean 검증 증명.
- QMA와 QMA(2)의 양자 오라클 분리 및 Watrous의 disentangler 추측 증명. 나와 다른 연구자들이 2007년 무렵 널리 알렸던 문제이며, 최근 내 박사과정을 졸업한 Sabee Grewal을 포함한 연구자들이 해결했다.
- Sabee Grewal과 Dorian Rudolph가 발표한 QMA의 완전 완비성(perfect completeness) 증명. 내가 2009년에 연구했던 수십 년 된 미해결 문제다.
- Chen, O’Donnell, Pelecanos, Wright가 얻은 양자 상태의 섀도 토모그래피(shadow tomography)에 대한 더 나은 상한. 힐베르트 공간 차원 dd에 대한 의존성을 log(d)\log(d)에서 log(d)\sqrt{\log(d)}로 개선했다.
내가 2017년에 섀도 토모그래피를 처음 제안했을 때, 측정 개수 mm에 대한 다중로그 의존성을 유지하면서 dd에 대한 의존성을 완전히 제거할 수 있는지 질문한 적이 있었다. - Aaronson–Ambainis 추측의, 양자 알고리즘을 직접적으로 다루는 버전에 관한 진전. 기본적으로 소수의 병렬 라운드 안에서 쿼리를 수행하는 양자 알고리즘에 대해서는 이 추측이 성립함을 보였다.
- 그리고 내가 들은 소문에 따르면 이론 컴퓨터과학의 몇몇 아주 오래된 미해결 문제들도 이미 해결됐다고 한다.
아니다. P≠NP나 다른 복잡도 클래스 분리 문제를 말하는 것은 아니다.
하지만 우리 분야의 다른 최상위급 문제 몇 개를 떠올려보라.
내가 들은 바로는 AI 기업들은 나비에–스토크스 증명을 공개한 뒤 거센 반발에 데인 탓에, 이제는 몇몇 매우 중요한 문제들의 해답을 이미 가지고 있으면서도 이런 일을 어떻게 더 잘 처리해야 할지 방법을 찾을 때까지 공개하지 않고 있다고 한다.
현재 수학계의 분위기가 어떤지, 적어도 내가 직접 경험하는 범위 안에서 전달해보겠다.
거의 모든 대화가 AI 쓰나미에 관한 것이다.
처음에는 다른 주제로 대화를 시작하더라도 결국에는 AI 쓰나미 이야기로 돌아온다.
다만 사람들의 관심은 종종,
“인간이 하는 활동으로서의 수학 연구가 앞으로 대체 얼마나 더 오래 존재할 수 있을 것인가?”
라는 알 수 없는 먼 미래보다는,
“지금 당장 우리는 어떻게 대응해야 하는가?”
라는 질문에 더 집중되어 있다.
이제 어떤 조건을 만족해야 자기 이름을 논문에 올리고, 그러니까 말하자면 그 연구에 대한 공로를 인정받을 수 있는가?
증명을 완전히 이해해야 하는가?
그 증명에 대해 강연할 수 있어야 하는가?
질문을 받으면 답할 수 있어야 하는가?
증명의 정확성에 책임을 질 수 있어야 하는가?
증명을 발견하는 과정에도 어떤 식으로든 기여했어야 하는가?
앞으로 점점 더 많아질 것으로 보이는, 이 조건들을 전혀 충족하지 못하는 경우에는 AI가 만들어낸 수학을 어떻게 공유해야 하는가?
아예 공유하지 말아야 하는가?
알푀게가 Fable의 야코비안 추측 반증을 유쾌하게 트윗한 것처럼 그냥 트윗하면 되는가?
arXiv나 GitHub에 올려야 하는가?
“GPT-6 Astra”나 “Claude Fable”을 저자로 적은 논문을 출판한 뒤,
감사의 글에서는 AI가 오히려 당신에게
“이렇게 훌륭한 문제를 제안해줘서 정말 감사합니다”
라고 장황하게 감사를 표하게 해야 하는가?
물론 이런 당면한 문제들에 어떤 방식으로 대응해야 하는지는 결국 수학 연구가 무엇을 위해 존재하는가에 관한 더 넓은 믿음에 달려 있다.
우리가 하려는 것은 단순히 여러 추측들이 참인지 거짓인지 판정하는 것뿐인가?
아니면 세대를 이어가며 그 추측들을 이해하고, 그것이 왜 참인지 또는 거짓인지에 관심을 가지는 인간 공동체를 유지하려는 것인가?
후자라면 새로운 문제가 생긴다.
AI 기업들이 거대한 논증을 인간들 앞에 던져놓고, 인간의 역할이 그저 그것을 검증하고 설명하는 사람으로 축소된다면―심지어 그 역할조차 남아 있을지 모르는 상황에서―
사람들에게 어떻게 그 공동체에 들어오라고 동기를 부여할 수 있을까?
어떻게 여러 해 동안 필요한 혹독한 훈련을 받도록 만들 수 있을까?
많은 사람이 이미 봤겠지만 테렌스 타오를 포함한 25명의 필즈상 수상자가 나비에–스토크스 발표 이후 이런 우려를 표현하는 공개서한,
A Severe Misalignment of AI in Mathematics
즉 **「수학에서 AI의 심각한 미정렬」**을 발표했다.
많은 비판자들이 지적했듯이 그 공개서한에는 사실 명확한 요구사항이 별로 없다.
대체로 그 글은 AI 시대에도 저자들이 보존할 가치가 있다고 생각하는 인간 수학 공동체의 가치를 설득력 있게 설명하고 있을 뿐이다.
나는 고민한 끝에 그 선언을 지지하기로 했다.
나 역시 그 가치들을 보존하고 싶기 때문이다.
서명자 가운데 AI가 수학 연구 방식을 영구적으로 바꾸지 않을 거라고 생각할 만큼 순진한 사람은 아무도 없을 것이다.
실제로 이미 바꾸고 있다.
앞으로 “100% 유기농 인증 인간 정리(certified organic theorems)”를 위한 시장은 있어봐야 아주 작을 것이다.
하지만 그것이 핵심 질문은 아니다.
핵심 질문은 이것이다.
인간이 만들어낸 것이든 AI가 만들어낸 것이든, 그것에 대한 인간의 이해를 여전히 전체 활동의 중심에 두는 방식으로 AI를 수학에 통합할 수 있는가?
어쩌면 언젠가는 그것을 유지하는 것 자체가 불가능해질지도 모른다.
어쩌면 어느 날 우리는 이렇게 말할지도 모른다.
“인간 수학은 훌륭한 4,000년의 역사를 보냈다.
하지만 오늘 우리는 문을 닫고 모든 것을 기계에게 넘긴다.
앞으로 인간이 자기 뇌를 이용해서 수학을 한다면, 그것은 체스처럼 기껏해야 운동, 여가, 혹은 경쟁을 위해서일 것이다.”
하지만 부분적으로는 내가 AI 미정렬을 우려하고 있기 때문에, 나는 아직 포기할 준비가 되어 있지 않다.
나는 여전히 수학자, 컴퓨터과학자, 물리학자가 하는 일의 중심에 통찰과 이해를 유지하고 싶다.
우리가 그것을 유지할 수 있는 한 최대한 오래.
비록 이제 인류가 추측을 증명하거나 반증하는 능력에서 최고의 지위를 기계에게 넘겨주고 있다고 해도 말이다.
정렬 이야기가 나온 김에 말하겠다.
당신이 어떤 종류의 수학 연구자든 간에,
지금의 이 경이와 공포의 시대를 보고 남은 시간을 쓰나미가 존재하지 않는 척하거나 아직 멀리 떨어져 있는 척하는 대신,
그 쓰나미와 정면으로 맞서는 데 쓰고 싶다는 생각이 들었다면,
이미 같은 결론에 도달한 수십 명의 동료들에게 합류하기 바란다.
내 친구이자 동료인 Mike Winer는 원래 이론물리학자로 훈련받았다.
프린스턴 고등연구소(Institute for Advanced Study)에서 후안 말다세나와 함께 박사후연구원 생활도 했다.
하지만 이후 그는 소위 “AGI-pilled”, 즉 AGI의 중요성을 완전히 받아들이게 되었고, 버클리의 Alignment Research Center에서 정렬 연구를 전업으로 하기로 했다.
이 연구소는 Paul Christiano가 설립했다.
Paul 역시 약 10년 전 나와 함께 양자 컴퓨팅 이론을 연구하다가 AI 정렬 분야로 옮겨갔다.
Mike는 최근 From Academia to Alignment라는 Substack 글을 썼다.
나는 재미있게 읽었고, 현재 비슷한 전향을 고민하고 있는 사람들에게 추천하고 싶다.
비슷한 맥락에서 Xiaoyu He의 이 글도 참고하길 바란다.
전체 0