뉴스/정보
x 유저 프린츠 - 온화한 특이점; 빠른 이륙
작성자
작성일
2026-01-11 11:21
조회
277
https://substack.com/home/post/p-184085276
2025년 6월 10일, 샘 알트만(Sam Altman)은 “온화한 특이점(The Gentle Singularity)”이라는 제목의 블로그 게시물을 통해 “우리는 사건의 지평선을 지났으며, 이륙(takeoff)이 시작되었습니다”라고 썼습니다.
이 게시물은 상당한 주목을 받았고, 그 아이디어들은 이후 다른 이들에 의해 무비판적으로 모방되었습니다. 마크 저커버그(Mark Zuckerberg)는 며칠 후 “지난 몇 달 동안 우리는 AI 시스템이 스스로를 개선하는 조짐을 보기 시작했습니다”라고 주장했습니다.¹ 더 최근에는 일론 머스크(Elon Musk) 역시 우리가 특이점에 진입했다고 말했습니다.
이러한 주장들은 주로 AI 모델의 전반적으로 빠른 개선 속도(즉, “AI는 오늘 빠르게 발전하고 있으며, 내일은 더 빠르게 발전할 것이다”)에 기인한 것으로 가정되어 왔습니다. 하지만 알트만의 주장에 대해서만큼은 저는 견해가 다릅니다. 저는 알트만이 “우리는 사건의 지평선을 지났다”라고 했을 때 매우 구체적인 무언가를 의미했으며, 이 “무언가”야말로 오늘날 AI 분야에서 일어나고 있는 가장 중요한 일이라고 믿습니다.
Codex (코덱스)
2025년 5월 16일(알트만의 블로그 게시물 몇 주 전), OpenAI는 에이전트형 코딩 도구인 Codex를 출시했습니다. 이 출시는 전월에 있었던 o3의 출시와, 당시 임박했던 o3-pro 및 OpenAI의 오픈소스 모델 출시에 대한 끊임없는 추측들에 가려져 레이더망을 살짝 비껴갔습니다. 하지만 상관없습니다. 불과 3개월 전 출시된 클로드 코드(Claude Code)에 대한 OpenAI의 대답이었던 이 코딩 에이전트는, AI 연구의 완전 자동화로 가는 OpenAI의 여정에서 단지 첫걸음에 불과했습니다.OpenAI는 앤스로픽(Anthropic)이 클로드 코드를 출시한 지 불과 몇 주 후인 2025년 3월경에 이 경로에 들어섰을 가능성이 높습니다. 이것이 바로 OpenAI의 대비 프레임워크(Preparedness Framework)가 2025년 4월에 업데이트되어 재귀적 자가 발전(RSI, Recursive Self-Improvement)을 추적 카테고리(Tracked Category)에 포함하게 된 이유입니다. 다른 정황 증거들도 프로젝트의 시작 시점을 2025년 3월로 가리키고 있습니다. 완전 자동화된 AI 연구자를 개발하겠다는 OpenAI의 목표는 정확히 3년 후(2028년 3월)이며, 그 중간 목표인 자동화된 AI 연구 “인턴” 개발은 이 3년 과정의 정확히 중간 지점(2026년 9월, 즉 2025년 3월로부터 18개월 후)에 해당합니다.
심지어 OpenAI 내부자들조차 8월 GPT-5 출시와 함께 훨씬 더 강력한 버전이 나오기 전까지는 Codex에 대해 확신하지 못했습니다.
roon이 Codex를 “이륙(the takeoff)”과 연결 짓다
2025년 9월까지 OpenAI는 자동화된 AI 연구자가 전체 연구 프로그램의 초점이 되었다는 사실을 유출하기 시작했습니다. 다음은 야쿱 파초키(Jacub Pachocki)가 OpenAI가 자동화된 AI 연구자 달성을 목표로 대부분의 프로젝트를 구축해 왔음을 설명하는 내용입니다:
"우리 연구 프로그램의 설정된 목표는 몇 년 전부터 자동화된 연구자가 되는 것이었습니다. 그래서 우리는 대부분의 프로젝트를 이 목표를 염두에 두고 구축해 왔습니다."
그다음 달, OpenAI는 2026년 9월까지 자동화된 AI 연구 “인턴”을, 2028년 3월까지 완전 자동화된 AI 연구자를 개발하는 데 주력하고 있다고 전 세계에 공식 발표했습니다. 샘 알트만은 이 “인턴”이 수십만 개의 GPU 상에서 구동될 것이라고 덧붙였습니다.
이 발표 이후, OpenAI는 자동화된 AI 연구가 현재 그들의 주요 초점임을 반복해서 강조해 왔습니다. 마크 첸(Mark Chen)은 바로 어제 “우리는 2026년 로드맵과 자동화된 과학자를 향한 작업의 진전에 대해 매우 흥분하고 있습니다”라고 말했습니다.
다시 말하지만, 완전 자동화된 AI 연구로 가는 길은 Codex에서 시작됩니다. 이는 예를 들어 루카스 카이저(Lukasz Kaiser)의 “인턴”에 대한 설명에서 명확히 드러납니다.
AI 연구자들이 스스로를 돕기 위해 큰 희망을 거는 부분은... 만약 당신이 그냥 '이봐 Codex, 아이디어는 이건데, 내가 무슨 말 하는지 꽤 명확하잖아? 그냥 이 8대 머신 셋업이나 100대 머신 셋업에서 빨리 돌아가게 구현해 줘'라고 말할 수 있다면 어떨까 하는 점입니다. 저는 그것이 OpenAI가 내년 말까지 목표로 하는 AI 인턴의 의미라고 생각합니다.
Claude Code (클로드 코드)
놀랍지도 않게, 앤스로픽은 클로드 코드를 OpenAI가 Codex를 보는 것과 정확히 같은 방식으로 보고 있습니다. 즉, 결국 AI 연구의 자동화로 이어질 코딩 도구로 보는 것입니다. 실제로 Sonnet 4.5와 Opus 4.5의 시스템 카드에는 클로드 코드와 결합된 모델이 주니어 AI 연구자를 완전히 대체할 만큼 충분히 훌륭한지 평가하기 위해 설계된 앤스로픽 직원 설문조사 결과가 눈에 띄게 포함되어 있었습니다. Opus 4.5 설문조사에서, 18명의 참가자 중 2명이 Opus 4.5를 “의미 있는 주의사항”이 있긴 하지만 “거의 완전한 엔트리 레벨 연구자 대체제”로 분류했습니다.
이것이 바로 숄토 더글라스(Sholto Douglas)가 AI 연구를 수행할 수 있는 기능을 가진 모델을 경쟁사로부터 숨기는 것에 대해 이야기하는 것을 우리가 듣게 된 이유이기도 합니다.
AI 모델들이 [머신러닝 연구 작업]을 더 잘하게 됨에 따라, 저는 연구소들이 일부 기능을 억제할 것으로 예상합니다. 만약 모델이 훨씬 더 나은 완전히 새로운 아키텍처를 작성할 수 있다면, 설령 그것이 단지 모든 커널(kernels)을 대신 작성해 주는 정도라 할지라도, 아마 경쟁사들에게 그것을 공개하고 싶지는 않을 것입니다.
그렇다면 잭 클라크(Jack Clark)가 요즘 걱정하는 “가장 중요한 것”은 무엇일까요? 물론, AI R&D의 루프(loop)를 닫는 것, 즉 RSI(재귀적 자가 발전)로 이어지는 것입니다.
제가 가장 걱정하는 것은 사람들이 'AI를 만드는 AI'를 구축하는 데 성공하느냐 하는 것입니다. 즉, AI R&D의 루프를 완전히 닫는 것(때로는 재귀적으로 자가 발전하는 AI라고도 불림)입니다.
클라크는 “커널 개발부터 오픈 웨이트(open-weight) 모델의 자율적인 파인 튜닝(fine-tuning)에 이르기까지” AI가 AI 연구의 구성 요소들을 더 잘 수행하게 되는 “극히 초기 징후”들이 이미 보인다고 지적합니다.
재귀적 자가 발전(Recursive Self-Improvement)과 이륙(The Takeoff)
하지만 AI 연구 자동화가 왜 중요할까요? 다시 잭 클라크의 말을 빌리자면, 핵심은 자동화된 AI 연구를 통한 “R&D 이점의 복리 효과(compounding)”입니다. 전제는 AI 연구자가 더 나은(그리고 더 똑똑한) AI 연구자를 만들 수 있고, 그것이 다시 또 다른 더 낫고 더 똑똑한 AI 연구자를 만들 수 있다는 것입니다. 자동화된 지능은 빠르게 자동화된 초지능(automated superintelligence)으로 이어질 수 있으며, 결국 인간 연구자가 AI가 발견한 새로운 발견을 이해하는 것은 고사하고 따라잡을 수조차 없을 정도로 인간보다 훨씬 똑똑한 시스템으로 이어질 것입니다.만약 이 기술이 계속 좋아져서 스스로를 구축할 수 있는 AI 시스템을 만들게 된다면, AI 개발 속도는 매우 극적으로 빨라질 것이며 아마도 사람들이 이해하기 더 어려워질 것입니다.
이것이 바로 “이륙(the takeoff)”입니다.
AGI를 향한 경주에 대한 단상
위의 고려 사항들은 AGI(인공일반지능)를 향한 경주와 관련하여 가장 중요한 통찰로 우리를 이끕니다. 만약 OpenAI나 앤스로픽이 AI 연구를 완전히 자동화하는 데 성공한다면, “이륙”이 발생하여 다른 어떤 연구소도 이들 연구소가 만든 모델을 영원히 따라잡을 수 없게 될 가능성이 있습니다. “이륙” 시나리오에서는 최고의 인간 AI 연구자들로 구성된 대규모 팀조차 초인적인 AI 연구가 가능한 모델과 경쟁할 수 없을 것이며, 그 격차는 거기서부터 복리로 커질 것입니다. 경쟁 연구소가 나중에 자동화된 AI 연구에 도달할 수도 있겠지만, 그때는 이미 너무 늦을 것입니다. 그들의 모델은 다른 연구소들이 운영하는, 훨씬 더 빠르게 발전하는 고도로 앞선 AI 연구자들과 경쟁할 수 없을 것입니다.만약 누군가가 이러한 버전의 '이륙'을 믿는다면,² 그는 또한 AI 연구 자동화를 위해 경주하는 연구소들과 그렇지 않은 연구소들 사이에 이미 거대한 격차(chasm)가 벌어지고 있음을 믿어야 할 것입니다.
1
저커버그는 나중에 이것이 RSI(재귀적 자가 발전)를 의미한 것이 아니라, Llama 4에 의해 구축된 자율 에이전트가 페이스북 알고리즘의 일부 변경 사항을 성공적으로 체크인(check-in)한 것을 의미했다고 인정해야 했습니다.
2
분명히 하자면, 이륙이 정확히 이런 방식으로 일어날 것이라고 의심할 만한 이유는 충분합니다. 예를 들어, 자동화된 AI 연구의 속도는 컴퓨팅이나 에너지 제약에 의해 제한될 수 있습니다. 또는 AI 모델이 무한히 재귀적으로 자가 발전하는 것이 아니라 지능의 어떤 상한선에 빠르게 도달할 가능성도 있으며, 이 경우 다른 이들이 그 수준을 따라잡는 데 그리 오랜 시간이 걸리지 않을 것입니다. 마지막으로, AI 연구 자동화라는 목표 자체가 인간 연구자의 능력보다 크게 낫지 않은 결과로 이어지는, 값비싼 실수인 '붉은 청어(red herring)'로 판명될 수도 있습니다.
다들 욕하지만, 나는 2025에 내부에서 agi가 이미 왔을거같셈..
2025 agi가 맞다는 거셈..