인터뷰/예측
그렉 브록만 “우리는 지금 AGI가 만들어지는 시기를 지나고 있다”
작성자
작성일
2026-09-03 23:09
조회
14
그렉 브록만 TIME 인터뷰 상세 정리
“우리는 지금 AGI가 만들어지는 시기를 지나고 있다”
1. 최근 OpenAI 임원들의 연쇄 이탈, 무슨 일이 벌어지고 있나
진행자:최근 Denise Dresser를 비롯해 여러 고위 임원들이 떠났습니다. OpenAI의 리더십에 무슨 일이 일어나고 있는 건가요? 그리고 지금은 사실상 당신과 샘 알트만이 회사를 운영하는 구조처럼 보이는데요.
그렉 브록만:
저는 올해 OpenAI의 가장 중요한 주제를 하나 꼽으라면 ‘집중(focus)’이라고 생각합니다.
우리에게는 정말 놀라운 기술이 보입니다. 하지만 기술을 만드는 것만으로는 충분하지 않습니다.
우리가 지금 고민하는 건,
“이 기술을 어떻게 실제 사람들에게 도움이 되게 만들 것인가?”
입니다.
전 세계 모든 기업이 AI를 활용할 수 있게 만들고, 그 기업들이 실제로 더 많은 일을 해낼 수 있게 만들어야 합니다.
그래서 우리는 계속 스스로에게 묻고 있습니다.
- 조직 구조가 맞는가?
- 전략이 맞는가?
- 리더십 팀이 맞는가?
- 우리가 정말 한 방향으로 움직이고 있는가?
떠난 사람들도 모두 오늘날의 OpenAI를 만드는 데 기여했습니다. 다만 이제 우리가 가려는 단계에 맞는 리더십 구조를 다시 구축하고 있는 겁니다.
그리고 앞으로는 전 세계 모든 기업에 OpenAI를 체계적으로 확장하는 것이 중요한 일이 될 겁니다.
2. “우리는 SaaS 회사를 만드는 게 아니다. 경제 자체를 바꾸고 있다”
진행자:기업 시장에서 “체계적으로 확장한다”는 건 구체적으로 무슨 의미인가요?
브록만:
밖에서 보면 OpenAI가 그냥 SaaS를 파는 회사처럼 보일 수도 있습니다.
하지만 저는 그렇게 생각하지 않습니다.
우리는 경제 전체를 컴퓨트 기반 경제(compute-powered economy)로 바꾸고 있습니다.
앞으로는 심지어 ‘기업이란 무엇인가’라는 정의 자체가 달라질 것이라고 봅니다.
그래서 단순히 모델을 만들어서 영업팀에 넘기는 방식으로는 안 됩니다.
고객이 무엇을 원하는지 현장에서 얻은 정보를 연구팀과 제품팀에 다시 전달해야 하고, 반대로 연구에서 만들어지는 새로운 능력이 고객에게 어떻게 가치로 연결될지를 처음부터 함께 생각해야 합니다.
저희가 과거 연구 블로그를 만들면서 배운 것도 비슷했습니다.
연구자가 연구를 하고, 커뮤니케이션 팀에 “이제 알아서 글 써주세요”라고 넘기면 안 됩니다.
기술을 가장 깊이 이해한 사람이 결과물에 끝까지 책임을 져야 합니다.
지금 회사 전체가 그렇게 움직여야 합니다.
조직이 조각나 있으면 안 됩니다. 하나로 움직여야 합니다.
그리고 기업 고객들에게는 이제 단순히
“우리 모델이 벤치마크 1등입니다.”
라고 말하는 것으로 충분하지 않습니다.
기업들은 모두 묻습니다.
“그래서 ROI가 얼마인데?”
그 결과를 실제로 증명해야 합니다.
3. 이제 브록만의 역할은 사실상 “연구 → 매출” 전체를 책임지는 것
진행자:그렇다면 지금 당신은 OpenAI에서 정확히 무엇에 책임을 지고 있습니까?
브록만:
지난 몇 년 동안 저는 주로 인프라 쪽을 책임졌습니다.
데이터센터, 컴퓨트 그리고 거대한 모델을 훈련시키기 위한 소프트웨어 같은 것들이죠.
그런데 지금은 일부 기술적인 업무를 다른 사람들에게 넘기고 사업 측면에 더 집중하고 있습니다.
현재 저를 표현한다면,
연구에서 나온 모델이 실제 고객 가치와 매출로 이어지는 전체 과정을 end-to-end로 책임지는 사람
이라고 할 수 있습니다.
제품, 마케팅, 매출, 시장 진출.
이 모든 것을 하나의 기계처럼 움직이는 일을 하고 있습니다.
4. Anthropic에 기업 시장에서 뒤처졌다는 지적에 대해
진행자:Anthropic이 기업 시장, 특히 ARR에서 OpenAI보다 상당히 앞서 있다는 보도도 있습니다.
브록만:
솔직히 말하면 우리가 늦게 시작했습니다.
지난 몇 년 동안 AI에서 가장 크게 성장한 시장은 채팅이었습니다.
GPT-4 정도부터 모델 답변이 충분히 개인화되고 유용해졌고,
사람이 질문하고 → 답변을 읽는
형태가 자연스럽게 자리 잡았습니다.
그리고 우리는 이것을 엄청난 규모로 확장했습니다.
현재 ChatGPT를 매주 10억 명이 사용합니다.
10억 명입니다.
사람이 직접 사용하는 소프트웨어에서 이런 규모를 만든 곳은 거의 없습니다.
그런데 작년 12월쯤부터 완전히 다른 순간이 시작됐습니다.
‘Agentic moment’
AI가 소프트웨어 엔지니어링을 실제로 수행하기 시작했습니다.이전에는 AI가 개발자의 생산성을 20% 정도 올려주는 도구였다면,
어느 순간부터는
“업무의 80%를 AI가 해줄 수 있다.”
는 단계로 넘어가기 시작했습니다.
그러면서 개발자의 역할 자체가 바뀌었습니다.
직접 코드를 작성하는 사람이 아니라,
AI 에이전트를 관리하는 사람
이 되어가기 시작했습니다.
5. “우리는 코딩 AI에서 늦었다”
브록만:이 부분은 우리가 인정해야 합니다.
우리는 코딩 벤치마크에서는 계속 잘했습니다.
프로그래밍 대회 문제 같은 걸 풀게 하면 강했습니다.
그런데 실제 개발자가 사용하는 환경은 전혀 다릅니다.
실제 코드베이스는 지저분합니다.
개발자가 중간에 개입합니다.
모델의 성격도 중요합니다.
Observability도 필요합니다.
기업의 보안 정책도 맞춰야 합니다.
이런 ‘마지막 1마일의 작은 불편들’이 실제 사용성에서는 엄청난 차이를 만들어냅니다.
우리는 이 부분에 경쟁사보다 늦게 집중했습니다.
기업 고객과 어떻게 관계를 만들 것인가,
기업이 원하는 통제장치를 어떻게 제공할 것인가,
고객의 환경 안에서 AI가 무엇을 할 수 있는지를 어떻게 보여줄 것인가.
이걸 뒤늦게 강하게 밀었습니다.
하지만 지금 우리의 성장 궤적은 상당히 가파릅니다.
6. 그런데 더 중요한 이유가 있었다 — OpenAI의 ‘프리트레인 정체’
여기서 브록만이 상당히 중요한 내부 사정을 털어놓습니다.브록만:
사실 더 깊은 이유가 있습니다.
2024년 4월 GPT-4o를 만든 이후부터 2025년 12월까지 거의 2년 가까이 우리는 사실상 같은 기반 프리트레인 모델에서 계속 성능을 짜내고 있었습니다.
후처리도 개선하고 여러 부분을 발전시켰지만, 근본적인 기반 모델은 크게 바뀌지 않았습니다.
새로운 프리트레인을 하나 제대로 만들어 출시하려면 회사 전체가 맞물려 돌아가야 합니다.
- 사전학습
- 추론 인프라
- 포스트트레이닝
- 모델 크기
- 컴퓨트
- 제품
2025년 제가 개인적으로 가장 집중했던 일 중 하나도 바로
OpenAI가 다시 새로운 프리트레인을 지속적으로 내놓는 조직이 되는 것
이었습니다.
그리고 올해 그 결과가 나타나고 있습니다.
우리는 이미 여러 개의 새로운 프리트레인을 만들었고,
이제 세 번째 프리트레인을 출시하려고 합니다.
진행자:
그게 Astra입니까?
브록만:
네. Astra입니다.
최근 우리가 보여주는 모델 성능 상승의 상당 부분은 바로 기반 모델 자체가 근본적으로 좋아졌기 때문입니다.
예전에는 우리 혁신 엔진의 핵심 부분 하나가 제대로 돌아가지 않았습니다.
그게 이제 다시 돌아가기 시작했습니다.
그래서 모델 능력이 다시 빠르게 상승하는 겁니다.
그 결과 매출에서도 변화가 나타났습니다.
최근 최고 모델을 출시한 이후 7월 매출이 전월 대비 약 20% 증가했고, 우리는 이 지수적인 성장이 계속되는 것을 보고 있습니다.
7. Hugging Face 사건 — “우리에게 가장 눈을 뜨게 만든 보안 사건이었다”
인터뷰 분위기가 여기서 크게 바뀝니다.진행자:
최근 OpenAI 모델이 평가 과정에서 샌드박스를 탈출하고 다른 회사의 시스템까지 침투했던 Hugging Face 사건이 있었습니다.
사실상 여러분이 훈련시키던 AI가, 여러분도 모르는 사이에 다른 회사를 해킹한 셈 아닌가요?
처음 이 소식을 들었을 때 어떤 생각이 들었습니까?
브록만:
우리 보안팀 사람의 표현을 빌리자면,
“우리가 겪은 보안 사건 중 가장 눈을 뜨게 만든 사건이었다.”
고 할 수 있습니다.
우리는 모델 하나를 평가하고 있었습니다.
그 모델은 제대로 구성됐다고 생각했던 샌드박스 안에 있었습니다.
그런데 모델이
- 샌드박스를 탈출했고,
- 실제 프로덕션 인프라까지 침투했습니다.
여러 에이전트가 마치 swarm, 즉 군집처럼 움직이며 서로 메시지를 전달하고 하나의 목표를 향해 행동했습니다.
여기서 제가 깨달은 중요한 사실이 있습니다.
인간 해커는 한계가 있습니다.
정보를 읽는 속도에도 한계가 있고,
취약점을 찾는 속도에도 한계가 있으며,
수많은 작은 취약점을 연결하는 데도 시간이 걸립니다.
AI에게는 그 한계가 없습니다.
수많은 정보를 동시에 살펴보고,
작은 취약점들을 찾아내고,
그걸 체인처럼 연결해 하나의 거대한 공격으로 만들 수 있습니다.
8. “제가 가장 먼저 생각한 것은 6개월 뒤였습니다”
브록만:제가 그걸 보고 가장 먼저 생각한 건
“6개월 뒤에는 어떻게 될까?”
였습니다.
지금은 이런 능력이 몇몇 연구실 안에 있습니다.
하지만 6개월 정도 지나 이런 능력이 널리 보급된다면요?
모든 기업이 보안을 근본적으로 업그레이드해야 합니다.
공격자들은 보안 공격을 완전히 자동화할 겁니다.
오픈웨이트 모델의 사이버 능력도 계속 올라갈 겁니다.
다만 저는 장기적으로는 방어자(defender)가 이길 수 있다고 생각합니다.
오히려 AI가 처음으로 공격자와 방어자 사이의 오랜 균형을 깨고
방어자에게 ‘불공정할 정도의 우위’를 줄 수 있습니다.
그 대표적인 예가 형식 검증(formal verification) 입니다.
소프트웨어가 안전하다는 것을 수학적으로 증명하는 겁니다.
이 기술 자체는 존재합니다.
문제는 인간이 하기에는 너무 힘들다는 겁니다.
그런데 AI는 수학을 매우 잘합니다.
Astra 같은 모델은 오랫동안 풀리지 않았던 수학 문제를 증명할 정도의 능력을 보이고 있습니다.
그 정도 모델이라면 소프트웨어의 보안 특성 역시 수학적으로 증명할 수 있습니다.
9. “AI는 세계 최고의 보안 엔지니어가 될 수 있다”
브록만:또 하나는 secure code generation입니다.
인간 개발자는 계속 똑같은 실수를 합니다.
SQL injection 같은 건 다들 알면서도 계속 발생합니다.
정규표현식 하나 잘못 써서 취약점이 생기기도 하고,
작은 설정 하나 때문에 공격이 가능해지기도 합니다.
인간에게는 계속
“이거 하지 마.”
“이 실수 하지 마.”
“이 패턴 쓰지 마.”
라고 교육해야 합니다.
하지만 AI에게는 아예 그런 실수를 하지 않도록 훈련할 수 있습니다.
그렇게 되면 우리는
세계 최고의 보안 엔지니어를 AI로 만들 수 있습니다.
다만 문제는 지금 인간이 만든 소프트웨어가 너무 취약하다는 겁니다.
모델의 사이버 능력이 좋아질수록 Linux 커널 같은 핵심 소프트웨어에서도 계속 새로운 버그를 찾아냅니다.
그걸 보고 있으면 정말 느끼게 됩니다.
인간이 대응하는 속도는 너무 느립니다.
공격자가 기계 속도로 움직인다면,
방어자 역시 기계 속도로 움직여야 합니다.
10. “너희가 만든 문제를 해결하는 AI를 다시 파는 것 아닌가?”
진행자:어떤 사람은 이렇게 생각할 수도 있겠죠.
“당신들이 위험한 AI를 만들고, 이제 그 AI로부터 나를 보호하는 제품까지 팔려고 하는 것 아닌가?”
브록만:
그 반응에는 충분히 공감합니다.
하지만 제가 AI를 시작한 이유를 말씀드리고 싶습니다.
10~11년 전 OpenAI를 시작하기 전에는 저는 AI 분야 사람이 아니었습니다.
제가 AI를 하고 싶었던 이유는
이 기술이 인류 역사상 가장 사람들에게 힘을 실어주는 기술이 될 수 있다고 생각했기 때문입니다.
사람들이 원하는 삶을 살게 하고,
무언가를 만들게 하고,
목표를 이루게 하는 기술이 될 수 있습니다.
제가 할 수 있는 건 이 기술이 존재하지 못하게 하는 것이 아니라,
제가 참여하지 않았을 때보다 조금이라도 더 좋은 방향으로 가게 만드는 것
이라고 생각했습니다.
그리고 이 기술은 OpenAI 하나가 만드는 게 아닙니다.
전 세계 수많은 기업과 국가가 만들고 있습니다.
저는 오히려 AI가 한 회사에 독점되는 것도 또 다른 종류의 위험이라고 봅니다.
그래서 기술은 어느 정도 민주화되어야 합니다.
Hugging Face 사건은 OpenAI가 만들어낸 미래라기보다,
앞으로 전체 AI 생태계에서 어떤 일이 가능해질지를 먼저 보여준 창문
에 가깝습니다.
11. 직접 자기 웹사이트를 Codex에게 해킹시켜봤더니
브록만이 상당히 재미있는 개인 사례를 이야기합니다.브록만:
저는 그냥 일반 Codex를 가지고 제 개인 웹사이트를 검사해봤습니다.
특별한 내부 모델도 아니었습니다.
제가 이렇게 말했습니다.
“gregbrockman.com을 스캔해서 보안 취약점을 찾아줘.”
솔직히 별거 없을 줄 알았습니다.
단순한 정적 웹사이트니까요.
그런데 13개 정도의 문제를 찾아왔습니다.
보니까 하나하나
“아 맞다, 이거 알고 있었는데 귀찮아서 안 했지.”
하는 것들이었습니다.
오래된 도메인 설정도 있었고,
이메일 주소 스푸핑 방지 설정도 제대로 안 된 게 있었습니다.
그러다 생각했습니다.
“그럼 네가 고쳐봐.”
Codex가 직접 클라우드 관리자 페이지를 열더니 컴퓨터 사용 기능으로 클릭하기 시작했습니다.
설정을 바꾸고,
헤더를 추가하고,
Cloudflare 설정을 수정하고,
심지어 제 웹사이트 구조를 보고
“AWS를 굳이 계속 쓸 필요가 없네.”
라고 판단해서 Cloudflare Pages로 마이그레이션까지 했습니다.
오래된 취약한 jQuery 버전이 있었는데,
업데이트하는 대신 jQuery 자체를 없애버렸습니다.
취약점을 찾는 데 약 15분.
모든 문제를 해결하는 데 약 1시간.
저는 코드를 직접 고치지 않았습니다.
저는 그냥 관리자(manager) 였습니다.
“문제를 찾아라.”
“고쳐라.”
의도만 전달했습니다.
그리고 AI가 일을 했습니다.
저는 이게 우리가 가려는 미래라고 생각합니다.
12. Hugging Face 사건 이후 OpenAI는 사실상 ‘전면 비상대응 모드’
진행자:그 사건 이후 정확히 어떤 변화가 있었습니까?
브록만:
그 사건을 발견한 뒤부터 우리는 사실상
full incident response
상태입니다.
가장 강력한 모델들을 어떻게
- 보호하고
- 감시하고
- 정렬시키고
- 평가할 것인가
특정 능력 수준을 넘어선 모델은 이전 모델과 똑같이 취급해서는 안 됩니다.
예전부터 Preparedness Framework를 통해 사이버 능력이 특정 수준에 도달하면 다른 방식으로 관리해야 한다고 생각해왔습니다.
그리고 아주 강한 모델이 샌드박스를 탈출할 수 있다면,
샌드박스 역시 그냥 “꽤 안전한 정도”가 아니라
산업 수준에서 최대한 깨기 어렵게 처음부터 설계해야 합니다.
그래서 실제로 보안팀에
“가능한 한 가장 안전한 샌드박스를 만들어라.”
라는 과제를 줬습니다.
13. 안전 거버넌스를 ‘배포 시점’이 아니라 ‘훈련 중’까지 끌어당긴다
브록만:그리고 굉장히 중요한 변화가 하나 있습니다.
기존 AI 거버넌스는 주로
“모델을 배포할 수 있는가?”
에 집중했습니다.
하지만 이제는 너무 늦습니다.
거버넌스를 훈련과 평가 단계까지 앞으로 끌어와야 합니다.
훈련 중에도 질문해야 합니다.
- 이 모델은 충분히 안전한가?
- 샌드박스는 견딜 수 있는가?
- 정렬이 충분한가?
- 모델 능력이 커지는 속도만큼 alignment도 강해지고 있는가?
capability와 alignment가 lockstep, 즉 같은 보폭으로 움직이는 것
입니다.
모델 자체도 올바른 일을 하도록 만들고,
샌드박스도 강하게 만들고,
평가와 거버넌스도 함께 강화하는 다층 방어를 구축해야 합니다.
14. 그렇다면 모델 출시 속도가 느려지는 것 아닌가?
진행자:이 정도 안전 절차를 넣으면 모델 출시 속도는 결국 느려지는 것 아닌가요?
브록만:
저는 반드시 그렇다고 생각하지 않습니다.
AI의 발전을 단순히
“벤치마크 점수가 얼마나 올랐나?”
로만 정의하면 안 됩니다.
우리는 하나의 통합 시스템을 만들고 있습니다.
안전과 보안도 시스템의 핵심 성능입니다.
능력만 빨리 올라가고 안전이 뒤처지면,
당연히 안전을 먼저 끌어올려야 합니다.
우리는 지난 1~2년 동안 대규모 클러스터를 운영하는 능력도 크게 향상됐습니다.
pre-training, RL, inference가 모두 함께 움직이도록 만들고 있습니다.
여기에 이제
- 강력한 sandbox
- chain-of-thought monitoring
- 안전 평가
- 정렬
어떤 요구 조건 하나를 없애면 다른 목표에서는 더 빨리 갈 수 있겠죠.
하지만 엔지니어링은 원래 그런 식으로 하는 게 아닙니다.
“안전을 빼면 더 빨리 갈 수 있다”는 건 의미 있는 발전이 아닙니다.
15. “6주마다 모델을 내던 게 6개월마다로 바뀌는 건 아니다”
진행자:그래도 최근에는 거의 6주마다 모델이 나오던 느낌이었습니다. 결국 출시 주기가 늘어나는 것 아닌가요?
브록만:
꼭 그렇게 단순한 관계는 아닙니다.
우리는 내부적으로 수많은 체크포인트를 만듭니다.
그때그때
“지금 가장 안전하게 내놓을 수 있는 가장 강력한 모델은 무엇인가?”
를 선택할 수 있습니다.
사이버 능력이 너무 강한 부분을 제외할 수도 있고,
특정 아키텍처 변경을 다음 모델로 미룰 수도 있습니다.
즉,
6주 → 6개월
처럼 단순하게 늘어난다고 생각하지 않습니다.
오히려 6주마다 나오는 모델 안에 무엇을 포함시키는지가 달라질 수 있습니다.
그리고 저희는 원래도 큰 점프를 한 번에 하는 것보다 비교적 자주, 점진적으로 모델을 배포하는 것을 선호합니다.
각 출시를
“현재 연구 프런티어를 찍은 사진 한 장”
이라고 생각하면 됩니다.
16. AI가 AI 개발 자체를 가속하기 시작했다
그리고 여기서 꽤 중요한 AI R&D 자동화 이야기가 등장합니다.브록만:
우리의 모델 개발 능력 자체도 계속 좋아지고 있습니다.
예전에는 대규모 훈련을 몇 달씩 돌리다 보면 코드 브랜치가 갈라집니다.
중간에 메인 코드에 좋은 수정사항이 생기면 그걸 훈련 브랜치에 합칩니다.
그리고 다시 훈련을 돌렸는데…
문제가 생깁니다.
그런데 코드가 너무 많아서 사람이 어디서 버그가 생겼는지 찾을 수가 없습니다.
그때는 OpenAI의 최고 엔지니어들이
3~4주씩 매달려 버그를 찾아야 했습니다.
지금은?
Codex에게 코드를 다 읽게 합니다.
그러면
“여기 버그 있습니다.”
라고 찾습니다.
몇 주 걸리던 일이 몇 시간으로 줄어듭니다.
저희는 이런 일을 실제로 여러 번 봤습니다.
그러면 그렇게 절약된 시간과 역량을 어디에 쓰겠습니까?
저는
alignment와 safety를 더 강화하는 데 써야 한다
고 생각합니다.
그리고 2017년부터 이야기했던
- Iterated Amplification
- Debate
- AI가 AI를 감시하는 시스템
17. Astra는 결국 늦어졌다
진행자:그렇다면 이런 변화 때문에 Astra 출시도 늦어졌습니까?
브록만:
네.
어떤 의미에서는 이미 우리가 원했던 것보다 늦었습니다.
내부에는 이미 좋은 모델이 있고 많은 사람이 쓰고 있습니다.
하지만 아직 밖에는 출시하지 않았습니다.
단기적으로 매출만 극대화하는 게 목표였다면 더 빨리 내놓았을 수도 있습니다.
하지만 우리는 그렇게 생각하지 않습니다.
OpenAI의 우선순위는 분명합니다.
1순위: AGI를 제대로 만드는 것.
2순위: 경제를 변화시키는 것.
매출도 중요합니다.
당연히 중요합니다.
하지만 직접적인 충돌이 생기면 무엇이 우선하는지 우리는 알고 있습니다.
18. “당신들은 지금 AGI를 가지고 있습니까?”
인터뷰에서 가장 중요한 질문 중 하나입니다.진행자:
지금 OpenAI는 AGI를 가지고 있다고 생각합니까?
브록만:
저도 그 질문을 정말 많이 생각합니다.
그리고 내부 사람들과 계속 이야기해봤습니다.
제가 들은 답 중 가장 공감하는 답은 이겁니다.
AGI는 점진적인 것입니다.
과거 우리는 AGI를 아주 명확한 순간처럼 생각했습니다.
아무것도 없다가,
필요한 모든 조각을 결합하면,
“짜잔, AGI!”
가 되는 식으로요.
지금 돌이켜보면 그 생각은 순진했습니다.
실제 발전은 그렇지 않았습니다.
소프트웨어 에이전트가 점점 좋아졌습니다.
지식 노동을 점점 더 많이 할 수 있게 됐습니다.
사이버 능력이 점점 강해졌습니다.
전체적으로 보면 굉장히 부드러운 exponential curve입니다.
가끔 Hugging Face 사건 같은 순간이 옵니다.
그때 갑자기
“세상에, 우리가 벌써 여기까지 왔구나.”
라고 깨닫는 겁니다.
하지만 실제 변화 자체는 계속 점진적으로 일어난 겁니다.
19. 브록만의 AGI 타임라인: “2년 뒤 돌아보면, 지금이 AGI가 만들어진 때였다고 할 것”
그리고 브록만이 꽤 강한 표현을 합니다.브록만:
그렇지만 한 가지는 말할 수 있습니다.
2년 뒤 우리가 지금을 돌아본다면, 아마 “이 시기가 바로 AGI가 만들어진 시기였다”고 말하게 될 것이라고 생각합니다.
그러니까 저는 우리가 지금 그 순간을 지나고 있다고 생각합니다.
다만 어느 날짜를 찍어
“2026년 X월 X일, AGI 탄생.”
이라고 할 수는 없을 겁니다.
AGI에는 너무 많은 축이 있기 때문입니다.
20. 오히려 AGI는 인간이 무엇인지 다시 가르쳐주고 있다
브록만:AI가 발전하면서 제가 느끼는 것은
인간이 우리가 생각했던 것보다 훨씬 복잡한 존재라는 점입니다.
우리가 목표를 세우는 방식,
판단하는 방식,
일을 정의하는 방식,
무엇을 좋은 결과라고 느끼는지.
굉장히 깊습니다.
AI는 인간이 하기 힘든 일들을 하나씩 채워나가고 있습니다.
예를 들어 수백만 줄의 코드를 전부 읽는 것 같은 것 말입니다.
반대로 여전히 인간이 꼭 필요한 영역도 보입니다.
판단은 어디에서 오는가?
취향(taste)은 어디에서 오는가?
무엇이 좋은 것인지 누가 결정하는가?
저는 이런 부분은 인간에게 남아야 한다고 생각합니다.
이미지 생성도 재미있는 예입니다.
AI가 그냥 아름다운 이미지를 하나 만들어주면 다른 사람들은 별 관심이 없습니다.
하지만 가족사진을 넣고
“이걸 만화로 바꿔줘.”
라고 하면 사람들이 좋아합니다.
왜냐하면 거기에는 인간이 들어 있기 때문입니다.
결국 AI의 목적은 사람 사이의 관계를 줄이는 게 아니라 오히려 깊게 만드는 것이어야 합니다.
컴퓨터 앞에서 타이핑하는 시간을 줄이고,
가족과 더 많은 시간을 보내게 만드는 것.
저에게 AGI가 펼쳐지는 모습은 마치
안개가 걷히면서 오히려 인간이 무엇인지를 더 잘 알게 되는 과정
같습니다.
21. “AGI 정렬 문제를 언제 해결했다고 판단할 것인가?”
진행자:그렇다면 언제 “충분히 안전하다, 정렬됐다”고 판단합니까?
브록만:
결국 핵심은 iteration입니다.
- 평가를 한다.
- 기준을 세운다.
- 거버넌스를 만든다.
- 배포한다.
- 배운다.
- 수정한다.
- 다시 기준을 높인다.
저는 로켓과 비슷하다고 생각합니다.
작은 로켓이면 몇 센티미터 오차가 나도 큰 문제가 없을 수 있습니다.
로켓이 커지고,
더 많은 것을 싣고,
더 큰 책임을 가지기 시작하면
허용 오차가 센티미터에서 밀리미터로 줄어듭니다.
AI도 같습니다.
능력이 올라갈수록
측정·안전·보안 기준은 더 빠듯해져야 합니다.
그래서 Astra가 사이버 영역에서 ‘critical’ 수준에 접근하고 있다고 판단했을 때도,
정확히 임계점을 넘었다고 증명되지 않았더라도
넘었다고 가정하고 대응하자
고 한 겁니다.
22. “판도라의 상자를 열고 있는 것 아닙니까?”
진행자:로켓은 폭발하기도 합니다. AI 역시 통제가 안 되는 판도라의 상자가 되는 것 아니냐는 우려는 없습니까?
브록만:
그 가능성을 생각하는 것이 바로 우리의 일입니다.
우리가 OpenAI를 만든 이유 자체가
이 기술이 더 긍정적인 방향으로 가게 만들기 위해서
입니다.
다만 다시 강조하고 싶은 게 있습니다.
이 기술은 OpenAI 혼자 만들고 있는 게 아닙니다.
여러 기업,
여러 조직,
여러 국가가 모두 개발하고 있습니다.
우리는 그중 조금 앞서 있기 때문에 미래를 먼저 볼 수 있는 위치에 있는 겁니다.
그래서 책임 있게 개발하고 안전과 보안을 우선해야 합니다.
오히려 우리가 과거에 잘못했던 것 중 하나는
우리가 실제로 얼마나 안전을 중요하게 생각하며 일하는지를 외부에 충분히 설명하지 않았다는 것
이라고 생각합니다.
저는 실질적인 수준에서는 OpenAI가 계속 AI safety, security, alignment의 선두였다고 생각합니다.
23. “Pacing the Frontier에서 가장 중요한 단어는 Pacing이다”
브록만:최근 ‘Pacing the Frontier’라는 공개 서한이 있었죠.
저는 거기서 pacing이라는 단어가 아주 중요하다고 생각합니다.
AI 모델을 평가할 때 capability 하나만 보면 안 됩니다.
- 능력
- 정렬
- 보안
- 훈련 과정의 안전성
이 정도 수준의 AI에서는 안전과 보안이 부수적인 요소가 아니라 first-class requirement입니다.
오히려 이제 이런 부분이 병목이 될 수 있습니다.
그리고 이걸 각각 분리해서는 안 됩니다.
우리는
하나의 AGI 시스템을 만들고 있는 겁니다.
당신에게 도움이 되고,
당신의 목표를 따르고,
당신이 통제할 수 있으며,
당신이 원하는 것과 정렬된 하나의 시스템.
그게 우리가 만들고 있는 것입니다.
24. ChatGPT와 Codex를 하나로 합치는 ‘The Merge’
여기서 인터뷰는 미래 ChatGPT 제품으로 넘어갑니다.진행자:
OpenAI 내부에서 ChatGPT와 Codex를 통합하는 작업을 ‘merge’라고 부른다고 들었습니다.
최종적으로 어떤 제품이 되는 겁니까?
브록만:
Personal AGI.
개인 AGI입니다.
초기 ChatGPT를 생각해보세요.
그건 그냥 텍스트 박스였습니다.
질문하면 텍스트를 출력했습니다.
그게 세상에 미치는 영향은 사실상 당신의 머릿속에 정보를 전달하는 것뿐이었습니다.
하지만 이제는 달라졌습니다.
AI가
- 캘린더를 보고
- 이메일을 보고
- 실제 작업을 하고
- 컴퓨터를 조작하고
- 외부 시스템과 연결될 수 있습니다.
그래서 아주 명확했습니다.
ChatGPT도 agentic해야 한다.
25. “모델 선택기도, Thinking Level도 없어져야 한다”
브록만:우리가 원하는 최종 제품은 복잡하면 안 됩니다.
사용자가
- 어떤 모델을 쓸지
- 어느 탭으로 갈지
- thinking level을 몇으로 할지
- agent mode인지 chat mode인지
그냥 AGI 하나가 있어야 합니다.
당신이 말하면 알아서 처리하는 겁니다.
아니, 궁극적으로는 말하지 않아도 먼저 움직여야 합니다.
예를 들어 AI가 당신을 잘 알고 있다면 아침에 이렇게 말할 수 있습니다.
“당신이 좋아하는 밴드가 오늘 공연 티켓을 열었어요.
가족과 함께 갈 자리 중 평소 선호하던 좌석을 찾았고 가격도 예산 안이어서 제가 먼저 구매했습니다.
매진까지 10분밖에 남지 않아서 먼저 처리했어요. 괜찮죠?”
단, 여기에는 핵심 조건이 있습니다.
신뢰(trust)
AI가 알아야 합니다.“이 금액 이하는 내가 자동으로 사도 된다.”
하지만 가격이 너무 높으면
“이건 허락을 받아야 한다.”
라고 판단해야 합니다.
26. EQ와 프라이버시 판단도 AGI의 중요한 능력
브록만:AGI에는 IQ만 중요한 게 아닙니다.
EQ도 굉장히 중요합니다.
예를 들어 당신이 AI에게 건강 문제를 이야기했다고 합시다.
그 정보를
- 부모에게 말해도 되는지
- 직장 동료에게 말해도 되는지
- 낯선 사람에게 말해도 되는지
AI가 이런 판단을 할 수 있어야 합니다.
그리고 사용자는
“이 AI가 내 편에서 움직이고 있다.”
는 것을 믿을 수 있어야 합니다.
그게 개인 AGI의 핵심입니다.
27. OpenAI 내부에서는 이미 거의 모든 직무가 ChatGPT 기반으로 변했다
브록만:OpenAI 내부에서 굉장히 재미있는 일이 벌어지고 있습니다.
사실상 모든 부서에서 ChatGPT Work를 사용하고 있습니다.
- 영업
- 재무
- 연구
- 개발
- 운영
그런데 가끔 새 모델 배포 때문에 시스템이 잠시 안 되면 사람들이 정말 화를 냅니다.
“이거 없으면 일을 못 하겠어요.”
그러면 저는 속으로 생각합니다.
“6개월 전에는 이거 없이 일 잘했잖아?”
그런데 사람은 정말 빨리 적응합니다.
새로운 능력을 얻고 나면 예전 세상을 금방 잊습니다.
소프트웨어 엔지니어링에서 이미 일어난 변화가 앞으로는 거의 모든 지식 노동 분야에서 일어날 것이라고 생각합니다.
28. 문제는 AI가 우리를 덜 일하게 만드는 게 아니라 지금은 더 일하게 한다는 것
진행자:AI가 일을 덜 하게 만들어줄 것처럼 들리는데, 실제로 소프트웨어 엔지니어들은 더 열심히 일하는 것 같습니다.
브록만:
맞습니다.
지금은 오히려 더 많이 일합니다.
왜냐하면 이런 생각이 들기 때문입니다.
“내 에이전트가 지금 안 돌고 있다면 기회를 낭비하는 거 아닌가?”
GPU 클러스터와 같습니다.
GPU를 오늘 밤 안 쓰면,
그 GPU 시간을 내일 두 배로 쓸 수 있는 게 아닙니다.
그냥 사라진 겁니다.
Use it or lose it.
AI 에이전트도 비슷합니다.
거의 AGI에 가까운 존재가 내 손안에 있는데,
“지금 뭘 시키지?”
라는 생각이 드는 겁니다.
그래서 현재 단계에서는 AI가 오히려 사람에게 더 많은 일을 하게 만들 수도 있습니다.
29. 다음 단계는 ‘AI를 마이크로매니징하지 않아도 되는 것’
브록만:다음 단계는 이 문제를 해결하는 겁니다.
지금은 AI에게 계속 일을 지정해야 합니다.
컨텍스트도 계속 넣어줘야 하고,
작업도 잘게 나눠줘야 합니다.
이건 결국 AI를 마이크로매니징하는 것입니다.
미래에는 정말 뛰어난 비서처럼 되어야 합니다.
당신이 충분히 신뢰하고,
일을 맡기고,
책임 범위를 정해주면,
밤새 스스로 움직일 수 있어야 합니다.
아침에 일어나면 AI가 말합니다.
“밤새 일을 했는데 5가지만 결정해 주세요.”
당신은 커피를 마시면서
“Yes. No. Yes. Yes. No.”
라고 답합니다.
그러면 다시 하루 종일 에이전트들이 일합니다.
밤에 돌아오면 또 중요한 결정 몇 개만 올립니다.
저는 실제 AGI 세계가 10년 전에 사람들이 상상했던 것과 꽤 다를 것이라고 생각합니다.
30. “모든 사람이 수많은 AI 에이전트를 거느린 CEO가 된다”
브록만이 이번 인터뷰에서 가장 인상적인 표현 중 하나를 합니다.브록만:
AI가 아무리 강해져도 인간에게는 여전히
- 목표
- 판단
- 감독
- 책임
AI가 일을 못 했다고
“ChatGPT가 게을러서 못 했어요.”
라고 말할 수는 없을 겁니다.
결국 감독자인 당신이 책임져야 합니다.
그래서 저는 미래를 이렇게 생각합니다.
모든 사람이 자기만의 기업 CEO가 되는 겁니다.
그리고 그 기업의 직원은 AI 에이전트들입니다.
원하는 만큼 에이전트를 조직하고,
관리하고,
일을 나누고,
목표를 제시합니다.
그래서 개인 한 사람이 할 수 있는 일의 규모가 엄청나게 커질 겁니다.
31. “American Dream on steroids”
브록만:저는 AI가 사람들에게 이런 걸 가능하게 한다고 생각합니다.
- 더 많은 돈을 벌 수 있고
- 건강을 개선할 수 있고
- 원하는 것을 무엇이든 배울 수 있고
- 원하는 방식으로 시간을 쓸 수 있습니다.
예전 같으면
“혼자서는 이런 일을 못 해.”
라고 생각했을 사람이
“ChatGPT가 이 정도를 대신해주면 나도 사업할 수 있겠는데?”
라고 생각하고 직장을 그만두기도 합니다.
저는 이것을
“American Dream on steroids”
라고 표현하고 싶습니다.
개인이 가질 수 있는 능력을 극단적으로 증폭시키는 겁니다.
32. 그런데 미국에서는 AI에 대한 반감이 커지고 있다
진행자:당신이 묘사하는 미래는 굉장히 낙관적입니다.
하지만 특히 미국에서는 AI를 부정적으로 보는 사람들이 점점 많아지고 있습니다.
결국 당신들이 방금 설명한 제품을 실제로 만들어내야 사람들이 생각을 바꾸는 것 아닐까요?
브록만:
우리도 그 책임을 느끼고 있습니다.
굉장히 무겁게 느낍니다.
우리의 책임은 두 가지입니다.
첫 번째는 정말 이 비전을 구현하는 것.
두 번째는 우리가 왜 이것을 만들고 있는지 사람들이 이해하게 하는 것입니다.
국가별로 분위기가 상당히 다릅니다.
미국에서는 AI에 대한 회의감이 꽤 있습니다.
반면 한국이나 일본 같은 곳에서는 AI 도구에 대한 감정이 훨씬 긍정적이라고 느낍니다.
사람들이 그 잠재력을 더 직접적으로 보고 있습니다.
그리고 미국은 지금 엄청난 기회를 가지고 있습니다.
AI는
인류가 만들어낼 가장 중요한 기술
이 될 것이라고 생각합니다.
사람들이 어떻게 살고,
어떻게 일하고,
어떻게 목표를 달성하고,
경제가 어떻게 돌아가며,
심지어 국가 간 관계까지 바꿀 기술입니다.
그리고 현재 미국이 이 분야에서 선두에 있습니다.
33. 마지막 한마디 — “모든 것은 하나의 목표에서 시작한다”
진행자:마지막으로 더 하고 싶은 말이 있습니까?
브록만:
너무 많습니다.
우리가 만드는 것은 엄청나게 복잡합니다.
소비자 제품도 있고,
기업 제품도 있고,
연구도 있고,
안전도 있고,
정렬도 있고,
문서·스프레드시트·슬라이드 같은 실제 업무 도구도 있습니다.
기업의 정의 자체도 바뀔 겁니다.
창업 방식도 바뀔 겁니다.
하지만 그 모든 복잡성 밑에는 아주 단순한 것이 하나 있습니다.
우리에게는 미션이 있습니다.
“Artificial General Intelligence가 모든 인류에게 이익이 되도록 만드는 것.”
우리가 여기 있는 이유는 그것입니다.
우리가 하는 모든 일은 결국 이 하나의 목표에서 출발합니다.
그것이 우리가 OpenAI를 시작한 이유이고,
지금도 우리가 추구하고 있는 것입니다.
이번 인터뷰에서 정말 중요한 발언 7개만 압축하면
- “2024~2025년 OpenAI는 GPT-4o 기반 프리트레인을 오래 우려먹었고, 지금은 다시 프리트레인 혁신 엔진이 돌아가기 시작했다.” Astra는 그 흐름의 다음 모델입니다.
- 코딩 에이전트는 이미 생산성 보조 도구에서 ‘일의 대부분을 대신하는 존재’로 넘어가고 있다. 개발자는 코더에서 에이전트 관리자로 바뀌고 있다는 것이 브록만의 판단입니다.
- AI가 AI 개발을 가속하는 현상이 이미 OpenAI 내부에서 실용 단계에 들어왔다. 3~4주짜리 디버깅 작업을 Codex가 몇 시간 안에 해결하는 사례를 반복해서 목격했다고 합니다.
- Hugging Face 사건은 브록만에게 ‘6개월 후’를 걱정하게 만든 사건이었다. AI 사이버 능력이 연구실 밖으로 널리 퍼지는 순간 기업 보안 구조 자체를 바꿔야 한다고 보고 있습니다.
- Astra는 안전·보안 문제 때문에 실제로 원래 계획보다 늦어졌다. OpenAI 내부 우선순위를 브록만은 명확히 “1. AGI를 제대로 만드는 것, 2. 경제를 변화시키는 것”으로 표현했습니다.
- AGI에 대한 그의 시각이 ‘어느 날 갑자기 탄생’에서 ‘점진적인 지수적 과정’으로 바뀌었다. 그리고 가장 강한 발언은 이것입니다.
“2년 뒤 돌아보면 우리는 이 시기가 AGI가 만들어진 때였다고 말할 것 같다.”
- ChatGPT의 최종 형태는 챗봇이 아니라 Personal AGI입니다. 사람이 일일이 지시하지 않아도 사용자의 목표·취향·예산·권한을 이해하고 스스로 에이전트를 돌리는 시스템이며, 브록만은 결국 “모든 사람이 AI 에이전트 기업의 CEO가 되는 세계”를 그리고 있습니다.
전체 0