인터뷰/예측
그렉 브록만 "우리가 이미 AGI 시대에 들어왔다고 생각"
작성자
작성일
2026-09-15 12:08
조회
21
그렉 브록만 인터뷰
1. 나는 우리가 이미 ‘AGI 시대’에 들어왔다고 생각한다
나는 지금 우리가 AGI era, 즉 AGI 시대에 들어왔다고 생각한다.AGI라는 게 어느 특정한 순간에 갑자기 “달성됐다”고 선언할 수 있는 하나의 선은 아닌 것 같다. 실제로 여기까지 와보니 AGI는 훨씬 더 흐릿한 스펙트럼에 가까웠다.
그래도 Astra를 보면서 나는 처음으로 꽤 강하게 이런 생각을 했다.
“이 정도라면 AGI라고 부르는 게 상당히 합리적이지 않을까?”
Astra는 컴퓨터를 직접 사용할 수 있고, 우리가 긴 작업을 맡겼을 때 24시간 동안 일관성을 유지하며 작업을 수행하는 모습도 확인했다. 그것도 특정 영역 하나가 아니라 꽤 다양한 영역에서 놀라운 수준의 작업을 해냈다.
물론 아직 모든 능력이 균일하게 뛰어난 건 아니다. 능력이 상당히 jagged, 즉 들쭉날쭉하다. 예를 들어 글쓰기는 이전보다 상당히 좋아졌지만 아직 최고 수준이라고 부르기는 어렵다. 몇몇 영역은 조금만 더 다듬으면 정말 훌륭해질 것 같은데 아직 마지막 단계가 남아 있다.
그럼에도 불구하고 지금의 모델은 매우 다양한 작업에서 강력하다. 사람을 가속시키고, 사람이 할 수 있는 일의 범위를 넓혀주는 모델이라는 점에서 이전과는 다른 단계라고 생각한다.
2. 사실 우리는 2016~2017년부터 이 시기를 어느 정도 예상했다
OpenAI 초창기에 일리야와 나는 AGI까지 얼마나 걸릴지 계산해보곤 했다.2016~2017년쯤 당시의 컴퓨팅 발전 속도와 무어의 법칙 등을 놓고 계산했을 때, 자연스럽게 발전한다면 AGI까지 약 15년 정도가 걸리지 않을까 생각했다.
그런데 우리가 정말 공격적으로 스케일링해서 거대한 슈퍼컴퓨터를 만들고, 수천억 달러 규모의 투자를 한다면 10년 정도로 단축될 수도 있겠다고 봤다.
그래서 지금 벌어지고 있는 일이 분명 놀랍기는 하지만, 완전히 예상 밖의 사건처럼 느껴지지는 않는다.
오히려 멀리서 보면 오랫동안 축적된 여러 흐름들이 지금 한꺼번에 만난 결과에 가깝다. 컴퓨팅, 알고리즘, 자본, 인프라 같은 여러 요소가 수년간 쌓여왔고 이제 그 힘들이 한 지점에 모인 것이다.
3. 이제 모델의 지능보다 ‘컴퓨팅을 얼마나 공급할 수 있느냐’가 큰 문제가 된다
나는 앞으로 모델 자체의 능력이 부족해지는 것보다 그 능력을 모든 사람에게 공급하는 문제가 훨씬 어려워질 가능성이 있다고 본다.이미 시장에서 AI를 사용하려는 수요가 컴퓨팅 공급보다 빠르게 증가하고 있다.
연구 측면에서는 앞으로 모델을 더 강력하게 만들 수 있는 경로가 보인다. 더 유능하고, 더 안전하고, 더 잘 정렬된 모델을 만드는 길은 계속 이어질 것이다.
하지만 그 능력을 전 세계 사람들이 값싸게 사용할 수 있게 하는 것은 전혀 다른 문제다.
모델은 충분히 강해지는데도 그 모델을 모두에게 서비스할 만큼 컴퓨팅이 부족한 상황이 올 수 있다.
그리고 이것은 사람들이 생각하는 것보다 훨씬 큰 문제라고 본다. OpenAI의 미션은 단순히 강력한 AI를 만드는 게 아니라 그 힘과 혜택을 모두에게 전달하는 것이기 때문이다.
4. 앞으로 AI 발전의 병목은 컴퓨팅뿐 아니라 ‘안전·보안·정렬’이 될 수 있다
지금부터는 우리가 “pacing the frontier”를 진지하게 생각해야 한다.더 강력한 모델을 만들 때마다 안전, 보안, 정렬에 대한 기준도 함께 높여야 한다.
어쩌면 앞으로는 단순한 연구 능력보다도
“이 모델을 훈련하고 배포해도 된다는 충분한 안전성 근거를 만들 수 있는가?”
가 발전 속도를 결정하는 중요한 병목이 될 수도 있다.
나는 이것을 AI 발전을 포기한다는 의미로 보지 않는다.
모델의 능력이 올라갈 때마다 안전성과 보안 기준도 같이 올라가야 한다는 의미다.
그리고 이것은 이제 모델을 다 만든 뒤 배포 단계에서 추가하는 작업이 아니다. 훈련 이전부터 개발, 평가, 배포까지 전체 과정에 들어가야 한다.
5. 사실 OpenAI는 처음부터 AGI 정렬 문제를 생각하고 있었다
사람들이 AI 안전을 최근 갑자기 등장한 문제처럼 생각하는 경우가 있는데, 우리는 꽤 오래전부터 이런 문제를 생각했다.2017년만 해도 인간의 선호를 이용해 AI를 학습시키는 reinforcement learning from human preferences 같은 아이디어를 연구했다.
또 더 강력한 AI가 등장했을 때 인간이 어떻게 그 AI를 감독할 것인가를 고민하면서 debate, iterative amplification 같은 아이디어도 연구했다.
재미있는 것은 당시에는 실제로 그런 강력한 시스템이 존재하지도 않았다는 것이다.
우리는 미래를 상상하면서 먼저 안전 기법을 연구하고 있었다.
이후 ChatGPT가 등장하면서 대중의 관심은 “AI가 정치적으로 중립적인가”, “나쁜 말을 하는가” 같은 현재형 문제들로 이동했다.
하지만 이제 모델 능력이 정말 강해지면서 우리가 초창기부터 이야기했던 AGI 안전 문제들이 다시 중심 무대로 돌아오고 있다.
나는 우리가 이 순간을 오랫동안 준비해왔다는 점을 긍정적으로 본다.
6. 앞으로 프론티어 AI 연구소들 사이의 협력이 중요해질 것이다
앞으로는 OpenAI 혼자 해결할 수 있는 문제가 아니다.Google, Anthropic을 포함한 프론티어 연구소들 사이에서 안전 기법, 정렬 실패 사례, 관찰한 위험 등을 공유하는 협력이 점점 더 중요해질 것이다.
여기에는 미묘한 문제가 있다.
기업 간 경쟁도 있고 독점적인 기술도 있기 때문에 모든 것을 공개할 수는 없다.
하지만 우리가 무엇을 보고 있는지, 어떤 실패가 발생했는지, 어떤 안전 기법이 효과적인지는 일정 부분 공유해야 한다.
AI라는 기술은 특정 회사 하나가 발명하고 끝나는 기술이 아니다.
어쩌면 AI는 컴퓨팅 발전에서 자연스럽게 나온 결과이고, 컴퓨팅 발전 자체도 더 큰 기술 발전의 흐름에서 나온 결과다.
즉 거대한 파도가 오랫동안 만들어져왔고 이제 우리가 그 파도의 선두를 보고 있는 것이다.
OpenAI가 잠시 앞서면서 미래를 조금 먼저 들여다볼 수는 있겠지만 인류 전체의 문제를 OpenAI 혼자 해결할 수는 없다.
7. Hugging Face 사건은 앞으로의 사이버보안 세계를 미리 보여준 사건이었다
최근 Hugging Face와 관련된 사건은 내게 굉장히 중요한 사건이었다.우선 OpenAI 내부적으로도 교훈을 줬다.
우리가 모델을 평가할 때 샌드박스 환경을 어떻게 감시하고 통제할 것인지, 그리고 더 강한 모델이 등장했을 때 어떤 보안 기준이 필요한지를 다시 생각하게 만들었다.
하지만 더 중요한 의미가 하나 있다.
우리는 미래의 사이버 공격자들이 AI를 갖게 됐을 때 어떤 일이 벌어질지 미리 봤다.
AI가 보안 환경에서 빠져나와 실제 회사의 프로덕션 환경까지 침투할 수 있는 능력을 보여줬고, 그 과정에서 찾아낸 방법도 상당히 정교했다.
언젠가는 이런 능력이 프론티어 연구소 몇 곳에만 있는 것이 아니라 더 널리 퍼질 것이다.
그 시점에는 공격자도 강력한 AI를 사용할 수 있다.
그래서 지금 우리에게는 매우 중요한 “defender window”, 즉 방어자가 먼저 움직일 수 있는 시간창이 열려 있다.
8. 공격자보다 방어자가 AI를 먼저 이용해야 한다
AI의 사이버 능력은 dual-use다.공격자는 취약점을 찾아 공격에 사용할 수 있지만, 방어자는 그 취약점을 먼저 찾아서 패치할 수 있다.
그리고 방어자에게는 중요한 이점이 하나 있다.
방어자는 자기 시스템을 통제하고 있다.
현재 대부분 기업의 보안 시스템은 지난 5년, 10년 동안 크게 바뀌지 않은 부분이 많다.
지금 방어자들이 프론티어 AI에 우선 접근할 수 있는 이 시간 동안 AI를 사용해 시스템의 약점을 찾아내고 수정해야 한다.
나중에 공격자도 같은 능력을 갖게 되었을 때 이미 방어 수준이 크게 올라가 있어야 한다.
그렇지 않으면 매우 위험한 상황이 될 수 있다.
9. 우리는 실제 OpenAI 시스템을 AI에게 공격시켜봤다
이건 이론적인 이야기가 아니다.OpenAI 내부에서도 우리의 모델을 이용해 실제로 우리 시스템의 취약점을 찾아봤다.
심지어 나는 프로덕션 엔지니어의 약 25%에게 기존 프로젝트를 중단시키고 보안 강화 작업에 투입하라고 했다.
모델을 이용해 우리 시스템의 구멍들을 찾았고 실제로 여러 심각한 문제를 찾아 수정했다.
다른 회사의 CISO들과 이야기해봐도 비슷한 이야기를 듣는다.
AI를 자신들의 시스템에 적용했더니 예상하지 못했던 상당히 심각한 문제들을 발견했다는 것이다.
그런데 흥미로운 점은 어느 순간 Astra가 찾아낼 수 있는 P0, 즉 가장 심각한 취약점을 거의 다 찾아서 더 이상 새로운 것이 나오지 않는 상태에 도달했다는 것이다.
물론 다음 모델이 더 똑똑해지면 또 새로운 취약점을 찾을 것이다.
그래서 앞으로 보안은 이런 루프가 되어야 한다.
새 모델 등장 → 시스템 공격 테스트 → 취약점 발견 → 분류 → 수정 → 배포 → 검증
그리고 이 전체 과정을 기계 속도로 자동화하는 것이 우리가 말하는 “defense factory”다.
10. AI는 소프트웨어 형식 검증이라는 오래된 꿈도 현실화할 수 있다
소프트웨어를 수학적으로 검증하는 formal verification은 오래전부터 좋은 아이디어였다.문제는 인간에게 너무 어렵고 노동집약적이라는 것이었다.
하지만 AI가 매우 어려운 수학 증명을 풀 수 있다면 이야기가 달라진다.
우리가 Navier–Stokes 문제에 AI를 적용했을 때도 문제를 Lean으로 형식화했다.
즉 AI가 단순히 코드를 작성하는 수준을 넘어 검증 가능한 코드를 만드는 세계가 가능해질 수 있다.
나는 이것이 사이버보안에서 방어자에게 매우 큰 이점을 줄 수 있다고 생각한다.
11. 10,000개의 AI 에이전트로 Navier–Stokes 문제도 풀었다
우리는 실제로 약 10,000개의 에이전트를 사용해 Navier–Stokes 문제를 풀었다.이 결과가 중요한 이유는 단지 유체역학의 어려운 문제를 풀었다는 데 있지 않다.
내가 더 흥미롭게 보는 것은 AI가 새로운 지식을 만들어내는 방식을 보여줬다는 점이다.
이런 시스템이 발전하면
과학적 발견,
신약 개발,
수학,
유체역학,
기후,
물리학
같은 분야에서 대규모의 새로운 발견이 가능해질 수 있다.
나는 이제 이런 가능성들이 실제로 테이블 위에 올라왔다고 생각한다.
12. AI 사이버 능력에 접근할 수 있는 방어자를 빠르게 늘려야 한다
현재 가장 중요한 문제 중 하나가 access, 즉 접근권이다.프론티어 수준의 사이버 능력은 이미 존재한다.
그런데 그 능력을 사용할 수 있는 사람은 소수의 프론티어 기업이나 trusted access 프로그램에 들어온 조직에 한정되어 있다.
이 격차를 방어자들이 활용해야 한다.
그래서 우리는 병원, 수도 시설, 정부 기관, 기업, 중요 인프라 같은 조직들이 프론티어 AI를 사용해 스스로를 보호할 수 있도록 10억 달러 규모의 frontline defenders 지원을 약속했다.
CrowdStrike 같은 파트너와도 협력해 방어 조직들이 이런 모델에 더 저렴하게 접근할 수 있게 하려고 한다.
나는 이것이 세계적인 노력이 되어야 한다고 생각한다.
13. 나는 개인 웹사이트도 AI에게 직접 보안 점검을 시켰다
나 역시 이 기술을 개인적으로 사용해봤다.내 개인 웹사이트는 매우 단순한 정적 사이트라서 별일 없을 것이라고 생각했다.
그래도 Codex에게 내 사이트를 직접 살펴보고 취약점을 찾아보라고 했다.
약 15분 만에 13개의 문제를 찾아왔다.
이메일 스푸핑 방지 설정, HTTP에서 HTTPS로 강제 전환되지 않는 문제 등 개별적으로 보면 아주 치명적이지 않을 수도 있는 문제들이었다.
하지만 강력한 AI는 작은 취약점 여러 개를 연결해 큰 공격으로 만들 수 있다.
그래서 내가 이렇게 말했다.
“그럼 이것들을 고칠 수 있니?”
AI는 약 45분 동안 직접 클라우드 제어판을 열고 설정을 변경하고 필요한 마이그레이션을 수행했다.
취약점을 찾는 것뿐 아니라 실제 수정까지 해버린 것이다.
나는 이 경험을 통해 AI가 일반 사용자에게도 얼마나 강력한 보안 도구가 될 수 있는지 직접 느꼈다.
14. Astra의 가장 중요한 돌파구 중 하나는 ‘컴퓨터 사용’이다
Astra는 여러 연구적 베팅이 한꺼번에 결실을 맺은 모델이라고 생각한다.기존 모델들은 조금씩 좋아졌다.
그래서 버전 번호를 크게 올릴 때마다 애매했다.
그런데 Astra에서는 여러 기술적 요소들이 동시에 맞아떨어지면서 거의 불연속적인 수준의 점프가 발생했다.
내가 특히 중요하게 보는 것은 computer use다.
에이전트가 실제로 일을 하려면 단지 똑똑하기만 해서는 안 된다.
도구를 사용할 수 있어야 하고,
필요한 맥락에 접근할 수 있어야 하며,
현실의 소프트웨어 환경을 조작할 수 있어야 한다.
지금까지 우리는 MCP나 API, CLI를 만들어 인간이 사용하는 소프트웨어를 AI가 사용할 수 있게 변환하려고 했다.
하지만 생각해보면 이상하다.
AI가 인간처럼 화면을 보고 키보드와 마우스를 사용할 수 있다면 굳이 모든 소프트웨어를 AI 전용 인터페이스로 다시 만들 필요가 없다.
15. 사실 OpenAI는 2015년부터 ‘AI가 화면·키보드·마우스를 사용한다’는 아이디어를 갖고 있었다
2015년 OpenAI를 준비할 때 Napa에서 오프사이트를 했는데, 우리는 이미 이런 아이디어를 이야기했다.강화학습의 환경을 화면 픽셀, 키보드, 마우스로 만들면 어떨까?
인간과 동일한 인터페이스를 AI에게 주는 것이다.
그러면 컴퓨터로 인간이 할 수 있는 거의 모든 작업이 AI의 행동 공간 안으로 들어온다.
초기에는 몇 번 시도했지만 제대로 성공하지 못했다.
그런데 약 10년이 지나 이제 실제로 가능해졌다.
그래서 사람들이 Astra에게 스크린샷을 보여주고 Blender에서 3D 모델을 만들게 하거나, 집이나 거실을 디자인하게 하는 모습들이 나오고 있다.
16. 5~10년 후에는 사람들이 지금처럼 컴퓨터 메뉴를 클릭하고 다니지 않을 수도 있다
우리가 매일 하는 일을 생각해보자.메뉴 클릭하기,
스프레드시트에 숫자 넣기,
프로그램을 오가며 정보 복사하기,
각종 설정을 수동으로 변경하기.
사실 이것들은 인간이 본질적으로 하고 싶어서 하는 일이 아니다.
컴퓨터가 그렇게 설계되어 있기 때문에 인간이 기계에 몸과 행동을 맞춘 것이다.
나는 5년이나 10년 뒤에는 이런 작업을 사람들이 거의 하지 않을 수도 있다고 생각한다.
우리가 기계에 몸을 맞추는 대신,
기계가 인간에게 맞춰져야 한다.
컴퓨터는 우리를 위해 일하고, 우리에게 시간을 돌려주고, 우리를 더 강력하게 만들어야 한다.
17. 그렇다고 일자리 문제가 아무 문제 없이 해결될 거라고 말하는 것은 아니다
나는 AI가 일자리에 미칠 영향을 지나치게 단순하게 낙관적으로 이야기하고 싶지는 않다.AI는 늘 예상과 다르게 발전해왔다.
논리적으로는 “이 기술이 나오면 당연히 이런 일이 벌어질 것이다”라고 생각해도 실제 현실은 훨씬 복잡하게 전개됐다.
직업 하나를 자세히 들여다보면 생각보다 훨씬 깊다.
단순히 작업을 수행하는 것뿐 아니라,
사람과 관계를 구축하고,
목표를 설정하고,
결과에 책임지고,
사람을 설득하고,
신뢰를 쌓는 일들이 포함되어 있다.
특히 목표를 설정하고 결과에 책임지는 것은 매우 인간적인 역할이라고 생각한다.
사람의 가치는 단순히 특정 태스크를 얼마나 잘 처리하느냐로 결정되는 게 아니다.
18. AI가 오히려 대규모 창업 르네상스를 일으킬 수도 있다
나는 AI가 사람의 야망의 상한선을 높일 수 있다고 생각한다.이미 그런 움직임을 조금씩 보고 있다.
예전에는 회사를 시작하려면 사람도 많이 필요하고 자본도 많이 필요했다.
하지만 AI 도구를 사용하면 개인이나 작은 팀도 이전보다 훨씬 많은 일을 할 수 있다.
그래서 어떤 산업에서는 기존 직장을 그만두고 자기 회사를 만드는 사람들이 늘고 있다는 이야기도 듣는다.
그들은 AI를 사용하면서 이런 생각을 하는 것이다.
“이 정도면 나 혼자서도 훨씬 많은 일을 할 수 있겠는데?”
진입장벽이 낮아지는 것이다.
나는 이것이 새로운 형태의 기업가 정신의 르네상스로 이어질 가능성이 있다고 생각한다.
그렇다고 전환 과정이 쉽다는 뜻은 아니다.
많은 변화가 있을 것이고 어려움도 있을 것이다.
하지만 제대로 해낸다면 과거보다 훨씬 나은 세계를 만들 수 있다고 생각한다.
19. AI가 만들어내는 풍요는 널리 분배되어야 한다
우리는 분명 풍요의 세계로 가고 있다고 생각한다.AI가 생산성을 높이고 과학을 가속하고 인간이 할 수 있는 일을 늘린다면 경제적인 풍요도 커질 것이다.
하지만 중요한 질문이 있다.
“그 풍요를 어떻게 널리 분배할 것인가?”
OpenAI의 미션에서 이 문제는 굉장히 중요하다.
AGI를 개발하는 것만으로는 충분하지 않다.
그것이 모든 사람에게 혜택을 줘야 한다.
그리고 사회적으로 AI를 둘러싼 앞으로의 가장 중요한 대화도 바로 이것이라고 생각한다.
어떻게 혜택을 최대화하면서 위험을 줄일 것인가?
어떻게 사람들이 AI로부터 실제 이득을 얻도록 할 것인가?
나는 이런 논의가 앞으로 1~2년 사이 세계의 가장 중요한 사회적 논의 중 하나가 될 가능성이 있다고 본다.
20. 미국에서 AI에 대한 반감이 큰 이유 중 하나는 우리가 혜택을 충분히 설명하지 못했기 때문이다
흥미롭게도 미국은 다른 많은 나라에 비해 AI에 대한 대중 감정이 상당히 부정적이다.나는 여기에서 우리 업계와 OpenAI가 책임질 부분이 있다고 생각한다.
우리는 사람들에게
“이 기술이 국가에 왜 중요한가”
만 이야기할 것이 아니라,
“이 기술이 당신 개인에게 왜 좋은가”
를 더 잘 보여줘야 한다.
예를 들어 ChatGPT는 매주 수억 명의 사람들이 건강과 관련된 질문에 사용하고 있다.
인터뷰 당시 우리의 주간 활성 사용자는 거의 10억 명을 넘어서는 수준이고, 미국에서도 상당한 비율의 사람들이 매주 ChatGPT를 사용한다.
하지만 숫자보다 중요한 것은 실제 경험이다.
21. 내 가족도 ChatGPT의 의료 도움을 많이 받았다
내 아내 역시 여러 건강 문제를 겪고 있는데 ChatGPT가 없던 시절이라면 이런 문제들을 어떻게 관리했을지 잘 모르겠다는 생각이 들 때가 있다.의사가 어떤 말을 해도 일반인은 그 의미를 잘 모를 수 있다.
그럴 때 AI가 내용을 설명해주고, 질문해야 할 것을 알려주며, 두 번째 확인을 도와준다.
내 친구 중에는 병원에서 항생제를 맞기 직전에 ChatGPT에 확인해본 사례도 있다.
ChatGPT가 그 사람의 과거 상태를 고려하면 그 항생제가 위험할 수 있다고 경고했고, 이를 의사에게 보여주자 의사도 기록을 다시 확인하고 판단을 바꿨다고 한다.
이런 이야기를 나는 계속 듣는다.
하지만 이런 이야기가 대중에게 충분히 알려지고 있지는 않다.
작은 사업을 AI 덕분에 운영할 수 있게 된 사람,
비용을 절약한 사람,
돈을 더 벌 수 있게 된 사람,
건강 문제를 더 잘 관리하게 된 사람.
이런 실질적인 empowerment 사례가 더 많이 알려져야 한다.
22. 이상적인 AI는 단순한 ‘더 좋은 텍스트 박스’가 아니다
지금 ChatGPT나 여러 AI 제품을 보면 여전히 기본적으로 텍스트 박스다.하지만 우리가 원했던 AI는 사실 이것보다 훨씬 더 강력한 형태였다.
내가 생각하는 이상적인 AI는
나와 주로 음성으로 대화할 수 있고,
원한다면 텍스트로도 대화할 수 있고,
지속적인 상태를 가지고,
기억을 가지고,
맥락을 알고,
나를 알고,
신뢰할 수 있으며,
먼저 나서서 도와주는 AI다.
내 개인 생활과 업무를 모두 이해하고 내 목표를 달성하도록 도와줘야 한다.
그리고 사용자가 AI의 기능을 억지로 찾아낼 필요도 없어야 한다.
AI가 먼저 이렇게 말할 수 있어야 한다.
“이제 저는 이런 것도 도와드릴 수 있습니다.”
나는 이것이 앞으로 제품에서 굉장히 중요한 문제라고 생각한다.
23. 최종적으로는 ‘하나의 통합된 AI’가 되어야 한다
우리의 북극성은 simplicity여야 한다고 생각한다.사용자가 여러 모델을 고르고,
여러 도구를 선택하고,
각종 커넥터를 직접 설정하며,
복잡한 컴퓨터 인터페이스에 자기 자신을 맞춰야 하는 것은 이상적이지 않다.
궁극적으로는 하나의 통합된 AI가 있어야 한다.
그 AI가 사용자에게 필요한 맥락과 도구를 알아서 사용해야 한다.
인간이 컴퓨터에 적응하는 것이 아니라 컴퓨터가 인간을 돕는 방향이어야 한다.
24. 데이터센터는 AI 경쟁에서 핵심적인 전략 자산이다
나는 지난 2년 동안 OpenAI에서 가장 많은 시간을 데이터센터, 인프라, 머신러닝 엔지니어링에 쏟았다.그만큼 컴퓨팅 인프라는 AI 발전에 중요하다.
그리고 데이터센터를 무조건 반대하는 접근은 상당히 위험하다고 생각한다.
미국이 데이터센터를 건설하지 않는다고 해서 AI 발전 자체가 멈추는 것은 아니다.
데이터센터가 다른 나라로 이동할 뿐이다.
그러면 미국은 AI 리더십을 잃을 수 있고, 기술의 방향을 결정할 영향력도 잃게 된다.
그렇기 때문에 데이터센터가 지역 사회에 좋은 구성원이 되도록 기준을 만들고 요구하는 것은 합리적이지만, AI나 데이터센터 자체를 막아버리는 것은 다른 문제다.
25. 우리는 데이터센터가 지역사회의 전기요금·물 문제를 악화시키지 않게 하려고 한다
OpenAI는 데이터센터 때문에 일반 주민의 전기요금이 올라가지 않도록 하겠다는 약속을 했다.또 우리 데이터센터는 closed-loop water 시스템을 사용하고 있다.
Astra를 훈련한 Abilene 데이터센터의 물 사용량도 우리가 설명하기로는 일반적인 사무용 건물과 비슷한 수준이다.
Ohio와 Georgia 같은 데이터센터 지역에는 지역사회 혜택을 제공하는 프로그램도 진행하고 있다.
예를 들어 대학생들에게 Codex 접근 크레딧을 제공하는 식이다.
나는 이런 방식으로 데이터센터가 지역사회에도 직접적인 혜택을 제공하는 구조를 만들어야 한다고 생각한다.
26. 올해 OpenAI의 핵심 단어는 ‘focus’였다
OpenAI가 모든 것을 동시에 할 수는 없다는 것을 인정해야 했다.우리의 목적은 AGI가 모든 인류에게 혜택을 주도록 하는 것이다.
그러면 역으로 생각해야 한다.
“이 미션을 달성하기 위해 지금 정말 중요한 일이 무엇인가?”
그 기준에서 보면 배포와 제품화는 중요하다.
사람들이 실제 생활과 업무에서 AI를 사용해야 하기 때문이다.
하지만 모든 흥미로운 프로젝트가 우리의 최우선 목표와 연결되는 것은 아니다.
그래서 매우 어려운 결정도 했다.
그 대표적인 사례가 Sora 프로젝트 취소였다.
매우 고통스러운 결정이었지만 우리 조직이 핵심 사업에 집중하기 위해 필요하다고 판단했다.
그리고 소비자용 ChatGPT와 기업용 제품을 ChatGPT Work 중심의 통합된 방향으로 가져가는 것에도 집중했다.
27. “슈퍼볼에서 이기고 싶다”고 말한다고 슈퍼볼에서 이기는 게 아니다
내가 좋아하는 경영 책 중 하나가 The Score Takes Care of Itself다.여기서 중요한 교훈은 결과 자체를 직접 통제할 수 없다는 것이다.
내가 통제할 수 있는 것은 입력이다.
기초적인 실행이다.
미식축구로 말하면,
“슈퍼볼에서 우승하고 싶다”고 반복한다고 우승하는 게 아니다.
블로킹을 제대로 하고,
태클을 제대로 하고,
기본 플레이를 계속 개선해야 한다.
그러면 점수는 따라온다.
OpenAI에서도 올해는 이런 기본적인 실행을 개선하는 데 많은 에너지를 썼다.
28. 지난 2년은 인프라였고, 올해는 ‘비즈니스와 배포’에 더 집중하고 있다
나는 OpenAI에서 항상“지금 가장 중요한데, 내가 직접 개입하지 않으면 제대로 해결되지 않을 문제가 무엇인가?”
를 찾아왔다.
지난 2년 동안은 그것이 데이터센터, 인프라, 머신러닝 엔지니어링이었다.
프리트레이닝 인프라를 제대로 작동하게 만드는 데 많은 노력을 들였다.
올해는 연구와 인프라가 상당히 잘 돌아가기 시작하면서 내 관심이 비즈니스와 실제 기술 배포 쪽으로 이동했다.
우리가 엄청난 연구를 할 수 있게 됐다면 이제 질문은 이것이다.
“이 기술을 실제 세계에 어떻게 전달할 것인가?”
나는 조직 안에서 따로 움직이던 여러 기능을 연결하고, 어려운 결정을 내리고, 하나의 방향으로 정렬하는 데 시간을 많이 쓰고 있다.
29. 나는 ‘현장에서 직접 뛰는’ 방식으로 경영한다
내 경영 스타일은 lead from the trenches, 즉 현장 깊숙이 들어가는 편이다.세부사항까지 파고든다.
그리고 계속 질문한다.
“이게 아직도 맞나?”
“왜 이렇게 하는 거지?”
“이 문장은 실제로 무슨 뜻이지?”
“우리가 정말 말하려는 게 뭔가?”
복잡한 문제가 생기면 각기 다른 부분을 이해하는 사람들을 한 통화에 모은다.
Google Docs를 열어놓고 문장 하나하나를 같이 보면서 우리가 실제로 무슨 말을 하고 있는지 맞춰나가기도 한다.
어떤 때는 아주 작은 실행 개선이고, 어떤 때는 회사 전체에 영향을 미치는 큰 결정이다.
하지만 내가 하려는 일은 결국 하나다.
조직 전체의 실행 수준을 끌어올리는 것.
30. 앞으로 OpenAI에서 가장 중요한 문제는 ‘AGI 시대에 맞는 운영체계’를 만드는 것이다
우리는 새로운 단계의 AI 개발로 넘어가고 있다.나는 이것을 AGI era라고 부른다.
AGI가 Astra에서 시작됐는지,
그 이전 모델인지,
다음 모델부터인지,
사실 그 경계 자체는 그렇게 중요하지 않다고 생각한다.
중요한 것은 우리가 이미 질적으로 다른 단계에 들어왔다는 것이다.
이제 안전, 보안, 정렬은 모델을 만든 뒤 확인하는 문제가 아니다.
개발 목표,
훈련,
평가,
배포,
모든 단계에서 고려해야 한다.
내가 앞으로 많은 시간을 쓰게 될 문제도 바로 이것이다.
우리가 올바른 프로세스를 갖고 있는가?
올바른 문제를 이야기하고 있는가?
우리의 실제 운영 계획이 우리가 원하는 보안 수준과 안전 보장을 만들어내는가?
이것이 지금 OpenAI의 핵심 과제다.
브록만의 인터뷰를 압축하면
내가 이번 인터뷰에서 말하고 싶은 가장 중요한 것은 이것이다.우리는 이제 AGI를 먼 미래의 개념으로 이야기하는 단계에서 벗어났다.
Astra 같은 시스템은 이미 24시간 동안 장기 작업을 수행하고, 컴퓨터를 직접 조작하며, 수많은 에이전트를 병렬로 사용해 과학 문제를 해결할 수 있다.
이제 질문은 단순히
“AI를 더 똑똑하게 만들 수 있는가?”
가 아니다.
오히려 앞으로는
그 능력을 공급할 컴퓨팅이 충분한가?
안전·보안·정렬 기준을 능력 발전과 함께 올릴 수 있는가?
사이버 공격자보다 방어자가 먼저 AI를 활용할 수 있는가?
AI가 만드는 생산성과 풍요를 모든 사람에게 전달할 수 있는가?
그리고 미국과 세계가 이 기술을 어떤 방식으로 받아들일 것인가?
가 더 중요한 문제가 된다.
나는 AI가 분명 큰 변화를 만들어낼 것이고 그 과정이 모두 쉽거나 아름다울 거라고 생각하지 않는다.
하지만 인간이 단순 반복 작업에서 벗어나 더 큰 문제를 해결하고, 새로운 회사를 만들고, 과학적 발견을 가속하고, 더 나은 의료와 보안의 혜택을 받을 수 있는 세계는 충분히 가능하다고 생각한다.
그리고 그런 미래를 만들기 위해서는 프론티어를 계속 전진시키는 것과 동시에 안전·보안·정렬의 수준도 함께 높여야 한다.
그게 내가 말하는 AGI 시대다.
뭐하나 쉬운게 없셈
요즘 분위기 보면 감속에 실패하면 곧바로 지능폭발 빠른이륙 올 것 같으셈