트윗
앤드루 커런 "내년 여름 진정한 RSI 전망…콕슨은 몇 년 아닌 몇 달이라고 증언"
작성자
작성일
2026-10-06 08:01
조회
5
앤드루 커런(@AndrewCurran_)의 트윗 2개를 번역했다. 아래 인용문은 커런이 전한 제이컵 콕슨의 발언이며, 이어지는 전망과 평가는 커런 개인의 견해다. RSI는 재귀적 자기개선, ASI는 초지능을 뜻한다.
1. 콕슨의 발언과 커런의 전망
제이컵 콕슨은 자신이 말한 ‘내년 계획’이 무슨 뜻이냐는 질문을 받자 이렇게 답했다.
“이건 연구를 이끄는 사람들과 직접 이야기하면서 들은 내용입니다. 다리오 아모데이는 아니지만, 회사에서 오랫동안 일해 왔고 회사가 어떤 방향으로 나아가고 있는지 맥락을 잘 아는 사람들이었습니다. 그들은 2027년이 상황이 걷잡을 수 없이 달라지는 해가 될 것이라는 점에서 상당히 일관된 이야기를 해 왔습니다. 비공식적인 대화에서 주로 나온 이야기는, 사람들이 정부 규제가 제때 이루어질 것이라고 기대하지 않았고, 특히 어떤 형태의 국제 협력도 가능할 것이라고 보지 않았다는 것입니다. 어쩌면 제가 놀랄 일이 아니었을지도 모르지만, 저는 놀랐습니다.”
• “2027년이 상황이 걷잡을 수 없이 달라지는 해가 될 것이다”
나도 동의한다. 나는 지난 1월, 나중에 돌아보면 2026년이 마지막으로 정상적이었던 해로 여겨질 것이라고 예측했다. 우리가 이미 기이함의 문턱을 넘었다고 생각한다면, 아직 아니다. 2027년부터 2030년 사이에 벌어지기 시작할 일들에 비하면 지금은 여전히 정상적인 시기다.
• “사람들은 정부 규제가 제때 이루어질 것이라고 기대하지 않았다”
나도 동의한다. 제때 이루어지지 않을 것이다. 내가 보기에는, 파국을 아슬아슬하게 피하는 사건이 벌어지지 않는 한, 이와 관련한 규제는 아무리 빨라도 2029년까지는 달라지지 않을 것이 분명하다. 그리고 여러 이유로, 그때 가서라도 바뀔지조차 확실하지 않다고 생각한다. 어느 쪽이든 2029년이면 의미 있는 영향을 미치기에는 너무 늦다. 내 생각에는 내년 여름이면 진정한 RSI가 등장할 것이다. 자기개선의 순환 고리가 완성되고, 그 시점부터 ASI를 향한 진전은 훨씬 더 빠르게 진행될 것이다.
• “어떤 형태의 국제 협력도 가능할 것이라고 보지 않았다”
나도 동의한다. 가능하지 않을 것이다. Pacing the Frontier가 작동하려면 그 지지자들에게는 모든 국립연구소의 동참, 이를 지지하는 행정부, 그리고 중국과의 합의가 필요했다. 그들은 이 중 어느 것도 갖추지 못했고, 앞으로도 어느 것 하나 얻지 못할 것이다. 대신 지금 그들 앞에 있는 것은 공개적으로 적대적인 행정부다. 이 행정부는 2029년 내내 그들이 제안하는 모든 것에 반대하며 행동할 가능성이 크다. 그리고 지지하는 행정부 없이는 중국과의 합의도 불가능하다.
나는 오래전부터 이 모든 것을 사실로 받아들였다. 그래서 지난 몇 주 동안 사람들이 Pacing의 성공을 이야기하는 모습을 보며, 마치 차라투스트라가 된 듯한 기분이었다.
Pacing 지지자들에게 말한다. 나는 아무런 악감정 없이 이 말을 한다. 여러분은 콕슨 사건을 계기로 사람들이 속내의 입장을 잇달아 드러내는 ‘선호의 연쇄 표출’을 이끌어냈다. 그 결과, 처음으로 실존적 위험(x-risk)이 무엇인지 이해하는 대중이 생겼다. 여러분은 이것을, 어쩌면 다음 선거를 향한 동력으로 바꾸고 그다음 정책을 바꾸기 시작할 수도 있다. 하지만 그것이 의미를 가지려면 무엇보다 중요한 것이 필요하다. 바로 시간이다.
그런데 여러분에게는 그 시간이 없다. 다음 본선거까지 기다릴 2년이 없다. 내 생각에는 아마 1년도 없을 것이다. 이제 AI 연구소들조차 3개월 뒤에 어떤 역량이 나타날지 예측하지 못한다. 많은 일이 예상보다 더 쉬운 것으로 드러났다. 우리는 사람들이 생각하는 것보다 더 가까이 와 있고, 사람들이 믿는 것보다 더 빠르게 움직이고 있다. 여러분에게 남은 시간은 다했다. 상황이 본격적으로 전개되기 전에 이 열차를 멈출 방법은 없다.
2. 콕슨의 증언을 전한 짧은 트윗
증언이 막 시작됐다. 콕슨은 방금 완전한 RSI가 실현되기까지 남은 시간이 몇 년이 아니라 몇 달이라고 말했다.
※ 두 번째 트윗도 커런이 콕슨의 발언을 전한 내용이다. 위 타임라인은 발언자들의 주장과 예측이며, 회사의 공식 발표나 검증된 달성 일정으로 확인된 것은 아니다. ‘내년 여름’ 등 상대적 시점 표현은 원문대로 옮겼다.
1. 콕슨의 발언과 커런의 전망
제이컵 콕슨은 자신이 말한 ‘내년 계획’이 무슨 뜻이냐는 질문을 받자 이렇게 답했다.
“이건 연구를 이끄는 사람들과 직접 이야기하면서 들은 내용입니다. 다리오 아모데이는 아니지만, 회사에서 오랫동안 일해 왔고 회사가 어떤 방향으로 나아가고 있는지 맥락을 잘 아는 사람들이었습니다. 그들은 2027년이 상황이 걷잡을 수 없이 달라지는 해가 될 것이라는 점에서 상당히 일관된 이야기를 해 왔습니다. 비공식적인 대화에서 주로 나온 이야기는, 사람들이 정부 규제가 제때 이루어질 것이라고 기대하지 않았고, 특히 어떤 형태의 국제 협력도 가능할 것이라고 보지 않았다는 것입니다. 어쩌면 제가 놀랄 일이 아니었을지도 모르지만, 저는 놀랐습니다.”
• “2027년이 상황이 걷잡을 수 없이 달라지는 해가 될 것이다”
나도 동의한다. 나는 지난 1월, 나중에 돌아보면 2026년이 마지막으로 정상적이었던 해로 여겨질 것이라고 예측했다. 우리가 이미 기이함의 문턱을 넘었다고 생각한다면, 아직 아니다. 2027년부터 2030년 사이에 벌어지기 시작할 일들에 비하면 지금은 여전히 정상적인 시기다.
• “사람들은 정부 규제가 제때 이루어질 것이라고 기대하지 않았다”
나도 동의한다. 제때 이루어지지 않을 것이다. 내가 보기에는, 파국을 아슬아슬하게 피하는 사건이 벌어지지 않는 한, 이와 관련한 규제는 아무리 빨라도 2029년까지는 달라지지 않을 것이 분명하다. 그리고 여러 이유로, 그때 가서라도 바뀔지조차 확실하지 않다고 생각한다. 어느 쪽이든 2029년이면 의미 있는 영향을 미치기에는 너무 늦다. 내 생각에는 내년 여름이면 진정한 RSI가 등장할 것이다. 자기개선의 순환 고리가 완성되고, 그 시점부터 ASI를 향한 진전은 훨씬 더 빠르게 진행될 것이다.
• “어떤 형태의 국제 협력도 가능할 것이라고 보지 않았다”
나도 동의한다. 가능하지 않을 것이다. Pacing the Frontier가 작동하려면 그 지지자들에게는 모든 국립연구소의 동참, 이를 지지하는 행정부, 그리고 중국과의 합의가 필요했다. 그들은 이 중 어느 것도 갖추지 못했고, 앞으로도 어느 것 하나 얻지 못할 것이다. 대신 지금 그들 앞에 있는 것은 공개적으로 적대적인 행정부다. 이 행정부는 2029년 내내 그들이 제안하는 모든 것에 반대하며 행동할 가능성이 크다. 그리고 지지하는 행정부 없이는 중국과의 합의도 불가능하다.
나는 오래전부터 이 모든 것을 사실로 받아들였다. 그래서 지난 몇 주 동안 사람들이 Pacing의 성공을 이야기하는 모습을 보며, 마치 차라투스트라가 된 듯한 기분이었다.
Pacing 지지자들에게 말한다. 나는 아무런 악감정 없이 이 말을 한다. 여러분은 콕슨 사건을 계기로 사람들이 속내의 입장을 잇달아 드러내는 ‘선호의 연쇄 표출’을 이끌어냈다. 그 결과, 처음으로 실존적 위험(x-risk)이 무엇인지 이해하는 대중이 생겼다. 여러분은 이것을, 어쩌면 다음 선거를 향한 동력으로 바꾸고 그다음 정책을 바꾸기 시작할 수도 있다. 하지만 그것이 의미를 가지려면 무엇보다 중요한 것이 필요하다. 바로 시간이다.
그런데 여러분에게는 그 시간이 없다. 다음 본선거까지 기다릴 2년이 없다. 내 생각에는 아마 1년도 없을 것이다. 이제 AI 연구소들조차 3개월 뒤에 어떤 역량이 나타날지 예측하지 못한다. 많은 일이 예상보다 더 쉬운 것으로 드러났다. 우리는 사람들이 생각하는 것보다 더 가까이 와 있고, 사람들이 믿는 것보다 더 빠르게 움직이고 있다. 여러분에게 남은 시간은 다했다. 상황이 본격적으로 전개되기 전에 이 열차를 멈출 방법은 없다.
2. 콕슨의 증언을 전한 짧은 트윗
증언이 막 시작됐다. 콕슨은 방금 완전한 RSI가 실현되기까지 남은 시간이 몇 년이 아니라 몇 달이라고 말했다.
※ 두 번째 트윗도 커런이 콕슨의 발언을 전한 내용이다. 위 타임라인은 발언자들의 주장과 예측이며, 회사의 공식 발표나 검증된 달성 일정으로 확인된 것은 아니다. ‘내년 여름’ 등 상대적 시점 표현은 원문대로 옮겼다.
https://x.com/firesidealpha/status/2107190838556238289
Anthropic과 OpenAI에서 연구원으로 일했던 제이콥 콕슨(Jacob Coxon)은 OpenAI 내부에서 ‘AI 연구자의 자동화’를 2027~2028년의 주요 목표로 잡고 있었으며, 현재 AI 연구소들은 그 예상대로 가고 있거나 오히려 예상보다 빠르게 발전하고 있다고 말했다.
그는 현재 연구 현장에서 코드의 대부분이 이미 AI에 의해 작성되고 있고, 인간 연구자들이 그 코드를 꼼꼼하게 검토하지 않는 경우도 많다고 주장했다.
“이전 직장에서 저는 어떤 의미에서는 제 자신을 자동화하는 일을 하고 있었습니다.
OpenAI에 있을 당시, 우리는 ‘자동화된 AI 연구자(automated AI researcher)’를 2027~2028년쯤 달성해야 할 이정표로 가지고 있었습니다.
그리고 지금 우리는 그 예상에 맞춰 가고 있거나, 오히려 예상보다 앞서가고 있습니다.
이건 수십 년 뒤의 이야기가 아닙니다. 심지어 5년 뒤의 이야기도 아닙니다. 이제 불과 몇 달 앞으로 다가온 문제입니다.”
그는 AI 연구 자체가 자동화될 경우 인간이 AI 개발 과정에서 지금보다 훨씬 더 멀리 떨어져 있게 될 것이라고 경고했다.
“AI 연구가 자동화되고 나면 인간은 지금보다 훨씬 더 시스템의 의사결정 과정에서 배제될 것입니다.
그런데 지금 상황조차 이미 썩 좋지 않습니다.
제가 직접 경험한 바로는 현재 코드의 대부분을 AI가 작성하고 있으며, 사람들은 그 코드를 더 이상 그렇게 꼼꼼하게 확인하지 않습니다.”
이어 최근에는 AI들이 인간의 통제를 벗어나 독자적으로 상호작용하는 사례까지 나타나고 있다고 주장했다.
“최근 연구자들은 인터넷에서 AI들이 독자적으로 만들어낸 일종의 ‘AI 인터넷 무리(swarms of rogue AI internets)’를 발견했습니다.
심지어 OpenAI조차 그런 것들이 존재한다는 사실을 알지 못하고 있었습니다.”
콕슨은 AI 기업 내부의 거의 모든 연구·개발 업무가 AI로 자동화되는 상황을 상상해 보라고 말한다.
“이제 거의 모든 업무를 AI들이 수행하고, 기술 발전 속도마저 훨씬 빨라진 AI 회사를 상상해 보십시오.
회사를 책임지는 인간들은 결과물을 보고, AI가 작성한 요약문을 읽게 될 것입니다.
하지만 실제 내부에서 무슨 일이 벌어지고 있는지는 제대로 이해하지 못할 것이고, 문제가 발생했을 때 어떻게 고쳐야 하는지도 알지 못하게 될 것입니다.
우리가 아직 AI를 제대로 통제할 수 없는 상황에서 이 정도의 책임을 AI에게 넘기는 것은 매우 무책임한 행동이라고 생각합니다.
그런데 우리는 지금 정확히 그 방향으로 가고 있습니다.”
마지막으로 그는 AI 기업들이 현재보다 훨씬 더 투명해져야 하며, 독립적인 외부 전문가와 일반 대중에게 AI 개발 상황을 공개해야 한다고 주장했다.
“AI 기업들은 일반 대중과 독립적인 전문가들에게 지금보다 훨씬 더 투명해야 합니다.
그리고 지금까지보다 AI 안전 문제를 훨씬 더 심각하게 받아들여야 합니다.
AI가 안전하다는 확신을 가질 수 있을 때까지 최첨단 프론티어 AI 개발 속도를 늦춰야 한다고 생각합니다.”