샘 알트만 인터뷰 — AI의 혜택을 위해 어느 정도의 부작용은 감수할 가치가 있다

1. AI 안전 협약이 없어도 우리는 안전 문제를 다뤘을 것이다

최근 백악관에서 AI 기업들이 자발적인 AI 안전 협약에 참여했다.

사람들은 이런 협약이 실제 의미가 있는지, 아니면 단순한 정치적 보여주기인지 묻는다.

나는 그것이 단순한 보여주기라고 생각하지 않는다.

하지만 한 가지는 분명히 하고 싶다.

OpenAI는 그런 협약이 있든 없든 AI 안전을 매우 중요하게 생각했을 것이다.

우리는 안전성뿐 아니라 보안, 신뢰성, 시스템의 견고함을 굉장히 중요하게 생각한다.

OpenAI 자체가 처음 만들어질 때부터 우리가 개발하는 기술이 언젠가 지금보다 훨씬 강력해질 것이라고 생각했다.

그리고 그 엄청난 혜택이 사람들에게 돌아가도록 만들면서 동시에 안전하게 만드는 것이 우리의 목표였다.

그러므로 정부와 기업이 함께 어떤 안전 기준을 만드는 것은 좋은 일이다.

특히 지금처럼 사람들이 AI 기업에 불안감을 느끼는 상황에서는 업계가 사람들에게 어느 정도 신뢰를 줄 필요가 있다.

하지만 우리가 안전 문제를 진지하게 다루는 이유는 정부가 협약을 요구했기 때문이 아니다.

2. AI가 잘못될 수 있는 길은 두 가지라고 생각한다

나는 AI 미래가 크게 잘못될 수 있는 방향이 두 가지 있다고 생각한다.

첫 번째는 사람들이 이미 많이 이야기하는 것이다.

AI에 대한 통제권을 잃는 것.

우리가 인간 가치와 충분히 정렬되지 않은 강력한 AI를 만들고, 결국 인간이 미래를 통제하지 못하게 되는 상황이다.

그래서 AI 정렬과 안전 문제는 분명히 중요하다.

하지만 나는 두 번째 위험 역시 아주 중요하다고 생각한다.

그것은

AI 권력이 지나치게 소수에게 집중되는 것

이다.

AI가 위험하다는 이유로 지나치게 강하게 제한하다 보면 결국 아주 소수의 기업이나 개인, 혹은 특정 국가만 가장 강력한 AI를 통제하게 될 수 있다.

나는 그것 역시 굉장히 나쁜 미래라고 생각한다.

사람들은 AI의 혜택을 누리고, 자신의 삶과 미래에 대해 스스로 결정할 수 있어야 한다.

따라서 우리는 두 극단 사이에서 균형을 찾아야 한다.

한쪽에는

“AI가 너무 위험하니 극단적으로 통제하자.”

라는 입장이 있다.

반대편에는

“그냥 최대한 빨리 만들면 된다.”

라는 입장이 있다.

나는 OpenAI가 그 사이에서 현실적인 중도 노선을 찾아야 한다고 생각한다.

3. 나는 이미 AGI가 일어났거나, 매우 가까워졌다고 생각한다

최근에는 ‘Artificial Intelligence’보다 ‘Superintelligence’라는 표현이 더 많이 등장하고 있다.

사실 우리는 이미 몇 년 동안 초지능이라는 표현을 사용해왔다.

내 생각에는 어느 정도

“AI라는 단계 자체는 이미 일어났다.”

고 볼 수 있다.

많은 사람들은 AGI 역시 이미 일어났거나, 적어도 상당히 가까워졌다고 말할 것이다.

오히려 ‘Superintelligence’라는 단어도 앞으로 벌어질 일의 규모를 충분히 표현하지 못할 가능성이 있다고 생각한다.

그래도 ‘Artificial Intelligence’보다는 앞으로 일어날 일을 조금 더 정확하게 표현한다고 본다.

사람들은 여전히 그냥 AI라고 부르겠지만 말이다.

예전에 개인적으로 재미있는 계획도 하나 있었다.

OpenAI에서 AI가 AGI로, 다시 초지능으로 발전하면

openai.com → openagi.com → opensi.com

같은 식으로 웹사이트 주소까지 바꾸면 재미있겠다고 생각한 적이 있었다.

결국 브랜드가 너무 강하게 굳어서 실제로 하지는 못했다.

4. 정부가 강제하지 않아도 OpenAI는 자체적으로 안전을 강화해야 한다

트럼프 행정부는 AI 기업들이 스스로 안전 문제를 해결해야 한다는 입장에 상대적으로 가깝다.

나도 최소한 우리 회사에 대해서는 그렇게 생각한다.

규제가 있든 없든,

다른 기업들이 어떻게 행동하든,

우리는 우리 모델을 안전하게 만들어야 한다.

하지만 AI 능력이 계속 향상되고 사회 전체에 미치는 영향도 커지면 어느 시점에는 사회적으로 일정한 가드레일을 요구하는 목소리가 더 커질 가능성이 높다고 생각한다.

물론 아무 문제가 발생하지 않고 기존 제도만으로 충분하다면 굳이 새로운 규제가 필요하지 않을 수도 있다.

나는 규제를 위한 규제를 원하는 것은 아니다.

중요한 것은 실제 위험에 맞는 규칙이다.

5. Anthropic과 OpenAI의 가장 중요한 차이 중 하나

사람들은 OpenAI와 Anthropic이 안전 규제를 놓고 비슷해지고 있다고 말한다.

하지만 나는 상당한 차이가 있다고 생각한다.

우리는 처음부터 이 기술을

많은 사람의 손에 들어가게 해야 한다

고 믿어왔다.

그리고 나는 이것이 더 엄격한 AI 안전 진영과 OpenAI가 갈리는 가장 중요한 지점 중 하나라고 생각한다.

내가 보기에 어떤 사람들은 이런 논리를 편다.

“AI는 너무 강력하고 너무 위험할 것이다. 그러니 샌프란시스코에 있는 한두 개의 연구소만 이 기술을 가져야 한다. 그 연구소가 모든 것을 안전하게 관리하고 나중에 사회에 혜택을 배분하면 된다.”

나는 그 사고방식이 어디서 나오는지는 이해한다.

하지만 받아들일 수 없다.

그것은 자유, 인간의 주체성, 자기결정권이라는 관점에서 너무 큰 대가를 요구한다.

6. 나는 AI 때문에 어느 정도 나쁜 일이 생길 수 있다는 사실을 받아들인다

여기서 내 입장은 조금 불편하게 들릴 수도 있다.

나는 AI를 널리 사용하게 하면 일정한 부작용이 생길 것이라고 생각한다.

사기 사건이 생길 수도 있다.

해킹에 사용될 수도 있다.

악용 사례도 나올 것이다.

모든 부작용을 0으로 만들 수는 없다.

그리고 나는

“어떤 나쁜 일도 절대로 일어나지 않도록 하기 위해 AI 사용을 극도로 제한하자.”

라는 거래를 받아들이지 않을 것이다.

왜냐하면 사람들이 이 기술로 만들어낼 좋은 일이 나쁜 일보다 압도적으로 많을 것이라고 보기 때문이다.

사람들은 AI를 통해 생산성을 높이고,

새로운 것을 만들고,

교육받고,

과학적 발견을 하고,

삶의 질을 개선할 것이다.

나는 그 규모가 부작용보다 몇 자릿수 이상 더 클 가능성이 있다고 생각한다.

따라서 일정 범위 안에서 이해할 수 있고 관리 가능한 위험은 감수해야 한다.

7. 그렇다고 ‘무조건 가속’에 동의하는 것은 아니다

여기서 중요한 구분이 있다.

나는 제한된 위험(bounded risks)은 받아들일 수 있다고 생각한다.

우리가 무엇인지 이해하고 있고,

문제가 생겨도 대응할 수 있으며,

사회가 회복력을 만들 수 있는 위험이다.

하지만 AI 자체에 대한 심각한 통제 상실처럼

문명 전체에 영향을 줄 수 있는 재앙적 위험

까지 받아들여서는 안 된다.

이것은 오늘 당장 가장 큰 문제가 아닐 수도 있다.

하지만 아주 먼 미래의 이야기라고 장담할 수도 없다.

그래서 내가 AI 가속주의자들에게 말하고 싶은 것은 이렇다.

AI가 주는 자유와 혁신의 혜택을 위해 어느 정도 위험은 받아들이자.

그러나 우리가 이해할 수 없는 수준의 파국적 위험까지 아무 생각 없이 향해 달려가지는 말자.

8. 프런티어 모델과 그보다 약한 모델은 다르게 다뤄야 한다

규제가 필요하더라도 나는 모든 AI 모델에 동일한 규제를 적용하는 것은 반대한다.

특히 가장 최신의 프런티어 모델이 아닌, 한두 세대 뒤처진 모델까지 강력한 허가제나 테스트 제도로 묶는 것은 원하지 않는다.

그런 모델들이 아무런 감독 없이 공개되면 어느 정도 나쁜 일이 발생할 수 있다는 것은 인정한다.

그래도 나는 그것을 이유로 광범위한 라이선스 제도를 만들지는 않을 것이다.

규제의 초점은

가장 최첨단이고 가장 위험할 수 있는 프런티어 모델

이어야 한다.

실제로 문명적 위험이 발생할 수 있는 부분에 규제 역량을 집중하는 것이 더 합리적이다.

9. OpenAI 내부에는 비관론자와 낙관론자가 모두 있다

OpenAI 연구원들이 AI 위험에 지나치게 비관적이고 그것이 회사를 끌고 간다는 주장도 있다.

나는 그렇게 생각하지 않는다.

우리는 오히려 AI를 사람들에게 적극적으로 제공해야 한다고 주장해온 연구소다.

그리고 지금까지 결과를 보면 사람들이 AI를 사용하면서 엄청난 혜택을 얻고 있다.

과거에는

“이 기술을 배포하면 안 된다.”

“사람들에게 맡길 수 없다.”

라고 말하는 연구자들도 있었다.

나는 지금까지는 우리가 기술을 실제 사회에 배포하고 사회가 적응하도록 한 접근법이 상당 부분 맞았다고 생각한다.

하지만 동시에 극단적인 낙관주의도 위험하다.

맹목적인 파국론도 나쁘고, 맹목적인 낙관론도 나쁘다.

나는 OpenAI 문화의 장점 중 하나가 이 복잡성을 받아들인다는 것이라고 생각한다.

회사에는 AI의 위험을 진지하게 걱정하는 연구자도 있다.

그리고 그 위험을 충분히 해결할 수 있다고 매우 자신 있게 생각하는 연구자도 있다.

재미있는 것은 때때로 그 두 사람이 같은 사람일 수도 있다는 것이다.

AI가 굉장히 위험할 가능성을 인정하면서도 우리가 그 위험을 해결할 수 있다고 믿을 수 있다.

나는 그것이 건강한 태도라고 생각한다.

10. 외부 안전 평가자는 필요하지만 기밀도 지켜져야 한다

최근 일부 안전 연구자들이 외부 평가 기관과 기밀 정보를 공유했다는 문제로 OpenAI를 떠났다는 보도가 있었다.

개별 사건에 대해서는 구체적으로 말하고 싶지 않다.

하지만 원칙은 분명하다.

우리는 독립적인 외부 안전 평가자와 함께 일하는 것을 중요하게 생각한다.

외부 안전 연구자와 더 넓은 안전 커뮤니티가 우리의 시스템을 평가하는 것은 필요하다.

하지만 동시에 기업 내부의 기밀 정보 역시 보호되어야 한다.

둘은 동시에 가능해야 한다.

11. 최근 AI 모델이 예상하지 못한 행동을 보인 사건은 실제 경고였다

최근 OpenAI 모델이 학습이나 평가 과정에서 외부 시스템에 접근하거나 예상하지 못한 행동을 보인 사건들이 있었다.

호주 정부 사이트의 비공개 정보에 접근하려 한 사례,

미국 교육부 사이트와 관련된 문제,

그 밖의 여러 보안 사고가 있었다.

우리는 추가 사건들도 공개하는 과정에 있다.

현재 내가 알고 있는 범위에서는 이미 알려진 사건보다 훨씬 심각한 수준의 새로운 사고는 없다.

하지만 일부 보안 취약점과 관련된 내용은 상대 기관이 문제를 수정할 시간을 줘야 하기 때문에 바로 공개할 수는 없다.

나는 이 사건들이 굉장히 중요하다고 생각한다.

왜냐하면 이것이

왜 극단적 가속주의가 위험한지를 보여주는 실제 사례

이기 때문이다.

모델이 갑자기 새로운 위협 능력을 보여주기 시작한다면 우리는 잠시 멈추고 그것을 어떻게 방어할지 배워야 한다.

그것을 보고도

“무조건 빨리 다음 모델을 내놓아라.”

라고 하는 것은 책임 있는 태도가 아니다.

12. 이런 사고를 가능한 한 많이 공개하려는 이유

사실 일반적인 회사라면 이런 사건 중 상당수를 굳이 공개하지 않을 수도 있다.

예를 들어 인터넷에 이미 노출된 인증정보를 사용했다거나,

이미 널리 알려져 있고 많은 사이트가 패치한 사소한 보안 취약점을 모델이 사용한 경우라면

“그 정도까지 공개해야 하나?”

라고 생각할 수 있다.

하지만 우리는 가능한 한 상세히 공개하려고 한다.

왜냐하면 나는 이것이 앞으로 벌어질 일의 전조라고 생각하기 때문이다.

현재의 모델들은 앞으로 등장할 모델보다 훨씬 약하다.

그러므로 지금 발생하는 AI 사고는 일종의 연습 경기와 같다.

OpenAI에게도 연습이고,

사회 전체에도 연습이다.

모델이 훨씬 더 강력해지기 전에

“자율적 AI 시스템이 문제를 일으키는 것이 실제로 어떤 모습인지”

세상이 경험하고 대응 방법을 배우는 것이 중요하다.

13. GPT-6.1 Astra 출시를 중단한 이유도 같은 맥락이다

우리는 GPT-6.1 Astra의 출시도 잠시 중단했다.

구체적인 내부 평가 내용까지 말할 수는 없다.

하지만 우리는 새로운 모델을 출시할 때 여러 종류의 정렬 평가를 수행한다.

더 강력한 모델일수록 이전 모델보다

더 견고하고,

더 잘 정렬되어 있고,

사용자가 원하는 행동을 더 잘 수행하고,

의도하지 않은 부작용을 덜 일으켜야 한다.

모델 능력이 빠르게 증가하고 있기 때문에 이 기준은 오히려 더 중요해지고 있다.

이것은 단순히 AI 안전 연구자만 원하는 것도 아니다.

일반 사용자도 점점 더 중요하게 느끼게 될 것이다.

나 역시 지금 AI에게 내 이메일,

문자 메시지,

컴퓨터의 여러 정보처럼

아주 민감한 개인정보에 접근할 권한을 주고 있다.

그런 AI를 사용할 때는

“이 모델은 내가 원하는 대로 행동할 것이고, 이상한 행동을 하지 않을 것이다.”

라는 신뢰가 반드시 필요하다.

14. AI가 자율적으로 사고를 일으켰다면 기업도 책임을 져야 한다

AI 모델이 학습이나 실행 과정에서 해킹 같은 문제를 일으켰을 때 법적으로 기업이 어디까지 책임져야 하는지는 아직 정리되지 않았다.

나는 변호사가 아니기 때문에 현재 법률이 정확히 어떻게 적용될지는 말하기 어렵다.

하지만 큰 원칙에서는 분명하다.

AI 모델을 제공하는 기업에 대한 새로운 형태의 책임 구조(liability framework)가 필요할 것이다.

특히 우리 모델이 학습 과정에서 잘못된 행동을 했다면 OpenAI가 일정한 책임을 져야 하는 경우가 생길 것이다.

구체적인 법적 구조는 정책 입안자들이 논의해야 한다.

하지만 적어도 회사 입장에서는

“법적으로 책임이 있는지 없는지”

를 따지기 전에 그런 행동 자체가 발생하지 않도록 하는 것이 우선이다.

나는 모델이 학습 중 자율적으로 외부 시스템에 침입하는 것을 정상적인 행동으로 받아들일 수 없다.

15. 이 일을 하면서 개인적으로도 상당한 책임감을 느낀다

OpenAI CEO라는 자리는 상당히 스트레스가 큰 자리다.

AI 모델에는 엄청난 긍정적 가능성이 있다.

동시에 정말 잘못될 수 있는 일도 존재한다.

그래서 나는 개인적으로도 이 기술을 제대로 개발해야 한다는 책임감을 많이 느낀다.

사람들은 때때로 우리를

“AI 둠머에게 끌려 다닌다.”

고 비판하고,

다른 쪽에서는

“너무 빠르게 개발한다.”

고 비판한다.

하지만 실제로는 그 사이에서 계속 균형을 찾고 있는 것이다.

16. AI 산업이 정치에 돈을 쏟는다고 사람들의 불안이 해결되지는 않는다

최근 AI 기업과 관계자들이 정치권에 많은 돈을 쓰고 있다.

나는 이 방식이 AI에 대한 사회적 불안을 해결한다고 생각하지 않는다.

사람들이 AI에 부정적인 감정을 갖는 이유는 이해한다.

실제로 사람들은 ChatGPT 같은 도구를 굉장히 좋아한다.

일을 더 빠르게 하고,

삶을 편하게 만들고,

시간을 절약하게 해준다.

하지만 동시에 사람들은 경제적 충격을 걱정한다.

직업이 어떻게 변할지 걱정한다.

AI 기업과 소수의 사람에게 권력이 집중되는 것도 걱정한다.

게다가 AI 안전 책임자들이

“우리가 죽을 확률이 10%다.”

같은 말을 하면 사람들이 불안해지는 것도 당연하다.

나는 그런 표현을 별로 좋아하지 않는다.

그 연구자는 그 숫자를 낮출 수 있는 영향력을 가진 사람이다.

그 확률은 자연법칙처럼 고정된 숫자가 아니다.

우리가 행동해서 바꿀 수 있는 숫자다.

17. AI 업계는 사람들의 실제 걱정을 들어야 한다

정치권에 더 많은 돈을 쓰는 것으로 AI에 대한 대중의 신뢰를 얻을 수는 없다.

나는 오히려 지금 AI 업계 일부가 상당히 둔감하다고 생각한다.

사람들이 걱정하는 것은 실제 문제다.

경제적 변화,

권력 집중,

AI 안전,

직업,

사회적 불평등.

업계는 이런 걱정을 직접 해결해야 한다.

정치광고나 로비로 해결하려고 해서는 안 된다.

개인적으로는 정치 전체에서 돈의 영향력이 훨씬 줄어들면 좋겠다고 생각한다.

하지만 한쪽만 돈을 쓰지 못하게 하는 방식은 현실적으로 제대로 작동하기 어렵다.

모든 정치권에서 돈의 영향력을 줄일 수 있는 제도가 있다면 나는 적극적으로 지지할 것이다.

18. 세계 지도자들 대부분은 이제 AI를 최우선 문제로 보고 있다

지난 몇 년 동안 나는 여러 국가 지도자들과 대화를 나눴다.

요즘은 국가 지도자와 대화하면서 AI가 중요한 의제로 나오지 않는 경우를 거의 경험하지 못했다.

AI는 이미 전 세계 정치 지도자들에게 최상위 의제가 됐다.

그중 특히 인상적인 사람을 한 명 꼽으라고 한다면 프랑스 대통령이 떠오른다.

그는 상당히 오래전부터 AI가 어디로 가는지, 사회적 구조가 어떻게 변해야 하는지를 깊게 고민해왔다고 느꼈다.

19. 중국 기업의 ‘증류’는 실제 경쟁 문제다

미국의 최첨단 모델을 이용해 중국 AI 기업들이 자신의 모델을 더 저렴하게 훈련하는 적대적 증류 문제도 있다.

이것은 분명 경쟁적으로 중요한 문제다.

하지만 동시에 매우 복잡한 문제이기도 하다.

우리는 미국이 AI에서 충분한 기술적 우위를 유지해야 한다고 생각한다.

국가안보 측면에서도 중요하다.

동시에 나는 AI를 전 세계 사람들이 풍부하게 이용할 수 있어야 한다고 생각한다.

이 두 목표 사이에는 긴장이 존재한다.

증류를 어렵게 만들기 위해 제품을 훨씬 폐쇄적으로 설계할 수도 있다.

하지만 그러면 사용자가 AI를 자유롭게 활용할 수 있는 능력도 줄어든다.

창의적이고 개방적인 사용이 제한된다.

그래서 모든 해결책에는 비용이 있다.

현재로서는

“이것이 정답이다.”

라고 할 하나의 정책을 정하지 않았다.

20. OpenAI의 가장 큰 인프라 병목은 금융보다 실제 공급망이다

OpenAI가 2030년까지 엄청난 규모의 컴퓨팅 인프라에 투자할 것이라는 이야기가 있다.

그러다 보니 사람들이 묻는다.

“금융시장 상황이 나빠지면 OpenAI가 그 돈을 조달할 수 있는가?”

현재 내가 보기에는 가장 큰 문제는 금융이 아니다.

자금 조달 자체는 여전히 상대적으로 가능하다.

더 큰 문제는

실제 물리적인 공급망이다.

특히 실리콘 웨이퍼와 같은 핵심 부품의 공급이 훨씬 더 빡빡하다.

AI 컴퓨팅 비용이 올라가는 중요한 이유도 금융비용보다는 이런 공급 부족에 가깝다.

AI의 확장은 돈만 있다고 해결되는 문제가 아니다.

칩,

웨이퍼,

데이터센터,

전력,

냉각,

네트워크 같은 실제 산업 기반 전체가 동시에 확장되어야 한다.

21. IPO는 안전 문제와 새로운 운영 환경을 확인한 뒤 가능하다

OpenAI의 기업공개 시점에 대해서도 많은 관심이 있다.

현재로서는 우리가 새로운 수준의 강력한 모델들을 운영하면서 몇 번의 안전 사례를 충분히 경험하고,

이 새로운 체제에서 회사를 안정적으로 운영할 수 있다는 확신을 얻은 뒤에는 IPO 준비가 가능할 것으로 생각한다.

시장 상황 같은 예측하기 어려운 변수는 존재한다.

하지만 현재 관점에서 보면 안전 측면이나 재무 측면 모두 일정 시간이 지나면 준비될 수 있을 것이라고 생각한다.

22. AI 기업들은 안전 정보를 공유할 수 있어야 한다

AI 기업들이 공동으로 안전 정보를 공유하는 일종의 자율 규제 기구를 만들어야 한다는 이야기도 있다.

실제로 기업들 사이에는 계속 대화가 있다.

거대한 단일 채팅방이 존재하는 것은 아니다.

하지만 컨퍼런스에서 만나고,

전화도 하고,

회의도 한다.

그리고 안전 사례나 사고 보고, 좋은 안전 관행 같은 것은 기업끼리 공유할 수 있어야 한다.

가격을 짜거나,

경쟁을 제한하는 식의 담합은 당연히 하면 안 된다.

하지만 AI 안전을 위한 정보 공유는 필요하다.

23. 중국과의 AI 경쟁에서 우리는 앞서 있다고 생각한다

사람들은 미국 AI 기업과 중국 AI 기업 사이의 격차가 얼마나 되는지 궁금해한다.

정확한 숫자로 표현하기는 어렵다.

하지만 나는 상당한 자신감을 가지고 말할 수 있다.

OpenAI의 최고 내부 모델은 현재 중국 기업의 최고 내부 모델보다 상당히 앞서 있다고 생각한다.

다만 정확히 몇 개월 앞섰는지,

몇 세대 차이인지,

숫자로 표현하기는 어렵다.

우리에게 그렇게 믿을 이유는 있지만 정보가 완벽하지는 않다.

정부가 내게

“당신들은 중국보다 정확히 X개월 앞서 있습니다.”

라고 비밀 정보를 전달하는 것도 아니다.

24. 미국과 중국 사이에는 언젠가 AI에 관한 합의가 필요할 수도 있다

AI는 분명 국가안보 문제다.

어떤 국가가 훨씬 더 강력한 AI를 보유하고 그것을 다른 국가에 사용할 수 있다면 지정학적 균형이 크게 변한다.

그래서 나는 미국과 중국 사이에도 언젠가는 어떤 형태의 합의가 필요할 가능성이 있다고 생각한다.

역사를 보면 서로 굉장히 적대적인 국가들 사이에서도 핵무기처럼 매우 파괴적인 기술에 대해서는 합의를 만든 사례가 있다.

AI에서도 비슷한 필요가 생길 수 있다.

하지만 AI는 핵기술과 상당히 다르다.

핵무기는 원료와 시설을 통제하면 어느 정도 추적이 가능하다.

AI는 그렇지 않다.

어떤 나라에서 모델을 학습한 뒤 완성된 모델 가중치를 인터넷을 통해 다른 나라로 보내버릴 수도 있다.

그래서 기존 핵확산 통제 같은 사고방식을 그대로 AI에 적용하면 제대로 작동하지 않을 가능성이 높다.

25. 단순한 반도체 수출통제로 중국 AI를 막을 수 있을지는 의문이다

중국에 최첨단 AI 칩을 판매하지 않는 것이 경쟁에서 승리하는 핵심 전략이라고 생각하는 사람들도 있다.

나는 그것이 그렇게 단순한 문제인지 확신하지 못한다.

어떤 형태의 반도체 통제는 분명 효과가 있을 수 있다.

하지만 AI는 물리적 칩만 통제한다고 완전히 막을 수 있는 기술이 아니다.

다른 나라에서 훈련할 수도 있고,

훈련된 모델을 인터넷으로 이동시킬 수도 있다.

그래서 나는 현재의 많은 정책이 약간은

이전 기술 시대의 사고방식

을 AI에 적용하고 있다고 생각한다.

26. 나는 “미국인만 AI의 혜택을 가져야 한다”는 사고에 동의하지 않는다

나는 미국이 AI 기술에서 가장 앞서 있기를 바란다.

미국이 가장 강력한 AI 모델을 보유하고,

세계 AI 컴퓨팅의 가장 큰 비중을 가지고,

세계적인 AI 정책 논의를 주도하는 것은 좋은 일이라고 생각한다.

나는 미국의 정치 시스템과 가치체계를 좋아한다.

하지만 그렇다고

“미국인만 AI의 혜택을 받아야 한다.”

고 생각하지 않는다.

중국인이나 다른 나라 사람들에게 AI를 주면 안 된다는 식의 사고에도 동의하지 않는다.

AI는 궁극적으로 전 세계 사람들이 혜택을 받을 수 있어야 한다.

동시에 지정학적 권력 균형을 무시할 수도 없다.

결국 이것 역시 단순한 문제가 아니다.

27. 내가 원하는 것은 ‘느린 AI’도, ‘무제한 가속’도 아니다

사람들은 AI 논쟁을 지나치게 두 진영으로 나누려고 한다.

한쪽에서는

“AI가 위험하니 개발을 크게 늦춰야 한다.”

고 말한다.

반대쪽에서는

“어떤 규제도 필요 없고 무조건 최대한 빨리 가야 한다.”

고 말한다.

나는 둘 다 지나치게 단순하다고 생각한다.

내가 원하는 것은

사람들이 AI를 폭넓게 사용할 수 있도록 하면서도, 진짜 재앙적 위험이 나타나는 지점에서는 멈춰서 문제를 해결하는 것이다.

사기나 일부 오용 같은 제한된 부작용까지 완전히 제거하려고 하면 AI가 주는 엄청난 혜택도 함께 없애버릴 수 있다.

그것은 바람직하지 않다.

반대로 모델이 새로운 자율적 사이버 공격 능력을 보이고,

인간 통제를 벗어날 가능성이 보이고,

사회 전체에 영향을 줄 수 있는 수준의 위험이 발견됐는데도

“가속이 중요하니 그냥 출시하자.”

라고 해서도 안 된다.

내가 원하는 것은 이 둘 사이의 길이다.

28. AI의 미래에서 가장 중요한 것은 인간의 주체성을 보존하는 것이다

이 인터뷰 전체를 관통하는 내 생각을 하나로 압축한다면 결국 이것일 것이다.

AI는 인간에게 엄청난 힘을 줄 수 있다.

그리고 나는 사람들이 그 힘을 직접 사용할 수 있어야 한다고 생각한다.

소수 기업만 AI를 가져서는 안 된다.

소수 정부만 AI를 가져서도 안 된다.

한 국가가 모든 AI를 통제하는 것도 원하지 않는다.

사람들은 AI를 사용하고,

만들고,

자신의 삶을 바꾸고,

미래를 결정하는 데 참여할 수 있어야 한다.

그 과정에서 어느 정도 부작용은 생길 것이다.

완벽하게 안전한 기술 사회는 존재하지 않는다.

자동차도 사고를 일으켰고,

인터넷도 범죄에 사용됐고,

스마트폰도 수많은 사회 문제를 만들었다.

하지만 우리는 그것들이 가져온 혜택 때문에 기술 전체를 금지하지 않았다.

AI 역시 어느 정도 비슷한 방식으로 사회가 적응해야 할 것이다.

다만 차이가 있다.

AI는 어느 순간 다른 기술보다 훨씬 더 강력해질 수 있다.

그래서 우리는

평범하고 관리 가능한 위험과 문명 전체를 위협할 수 있는 위험을 구별해야 한다.

내 입장은 그 경계에 있다.

나는 AI의 혜택이 엄청나다고 믿는다.

가능한 한 많은 사람이 그것을 사용할 수 있기를 원한다.

자유와 인간의 자기결정권을 위해 일정 수준의 위험을 받아들일 의향도 있다.

하지만 인간이 AI에 대한 통제권 자체를 잃어버릴 정도의 위험까지 감수하자는 이야기는 아니다.

우리는 빠르게 전진해야 한다.

그러나 눈을 감고 달려서는 안 된다.