OpenAI 알렉산더 마드리 "2026년 말쯤이면 경제에 상당한 침투가 보일 것 같아"

작성자

작성일

2025-10-20 21:36

조회

534

OpenAI 과학자 알렉산더 마드리 교수 인터뷰 정리

기본 정보

인터뷰이: 알렉산더 마드리 (Aleksander Mądry) 교수

MIT 교수 (현재 휴직 중)
OpenAI 2년차 근무 중
Strategic Deployment 팀 리더

Q&A 정리

OpenAI에서의 역할

Q: OpenAI에서 구체적으로 무슨 일을 하시나요?

A: Strategic Deployment 팀을 이끌고 있습니다. 우리의 목표는 AI를 사용해 어떤 경제 부문을 의미 있게 변화시킬 수 있는지 파악하는 것입니다. OpenAI의 미션은 AGI(범용 인공지능)를 만드는 것인데, 우리는 이를 "경제의 상당 부분을 혁신할 수 있는 기술"로 정의합니다. 흥미롭게도 현재 가장 혁신되고 있는 분야는 AI 개발 자체와 프로그래밍입니다.

Q: 전 세계 경제 중 얼마나 AI의 영향을 받고 있나요?

A: AI의 '영향'을 받는 분야는 많지만, 우리가 목표로 하는 '혁신'을 겪은 분야는 아직 적습니다. 향후 1년 내에 여러 분야에서 혁신이 일어날 것으로 보이지만, 구체적인 내용은 말씀드릴 수 없습니다.

AI 발전 속도와 예측 가능성

Q: AI 발전 속도가 놀랍습니다. 얼마나 앞을 예측할 수 있나요?

A: OpenAI 내부에서도 약 6개월 정도만 예측 가능합니다. 이 분야는 2010년부터 시작됐는데, 매 5년마다 "이건 불가능할 것"이라고 생각했던 것들이 현실이 되었습니다. 심지어 채용 제의를 수락한 사람에게 "2주 안에 시작하세요"라고 말합니다. 3개월 후면 완전히 다른 회사가 되어 있을 테니까요. 제가 OpenAI에서 일한 2년이 마치 여러 시대를 지나온 것 같습니다.

Q: 앞으로 6개월 동안 무엇이 확실히 일어날까요?

A: 공개적으로 많이 말씀드릴 수는 없지만, 중요한 것은 '에이전트성(agenticity)'입니다. 현재는 질문하면 즉시 답을 받지만, 앞으로는 작업을 위임하면 AI가 몇 분, 몇 시간, 혹은 그 이상 스스로 작업한 후 결과를 가져올 것입니다. 예를 들어 "이 주제로 보고서를 만들어줘"라고 하면 AI가 시간을 들여 완성하는 식입니다.

AI의 미래상

Q: 영화 'Her'에서처럼 AI 비서가 이메일을 관리하는 미래가 올까요?

A: 네, 바로 그겁니다. 'Her'는 꼭 봐야 할 영화입니다. 2010-11년 영화인데 미래를 정확히 예측했죠. 아침에 일어나면 AI가 "안녕하세요, 어젯밤 잘 주무셨나요? 이런저런 메일이 왔고, 제가 답장 초안을 준비했습니다. 보내드릴까요?"라고 말하는 그런 미래입니다. AI는 우리의 선호도, 좋아하는 음식, 비행기 좌석 취향까지 알고 있는 조용한 개인 비서가 될 것입니다.

Q: 우리는 AN(Narrow AI), AGI, ASI 중 어디에 있나요?

A: Narrow AI에서 AGI로 넘어가는 단계입니다. 흥미롭게도 폴란드어로는 Ania(Narrow AI), Aga(AGI), Asia(ASI)가 되네요! AGI는 경제의 비물리적 부문을 혁신할 수 있을 정도로 범용적이고 강력한 AI입니다. ASI는 그보다 훨씬 더 나아가 인간보다 월등히 똑똑한 AI를 말합니다. AGI에 필요한 과학적 돌파구는 이미 다 나왔다고 봅니다. 이제는 엔지니어링 작업이 남았습니다.

AGI 도래 시점

Q: AGI가 2025년에 올까요?

A: 2025년은 아닙니다. 왜냐하면 AGI는 하늘이 열리고 갑자기 나타나는 게 아니기 때문입니다. 점진적으로 다양한 분야를 혁신하면서 나타날 것입니다. 예를 들어 신약 개발, 주식 투자 등 각 분야에서 "이제 AI 안 쓰면 바보"라는 생각이 드는 시점이 오고, 그런 분야가 점점 확대되다가 어느 순간 "아, 우리에게 AGI가 있구나"라고 깨닫게 될 겁니다. 제 생각에는 2026년 말쯤이면 경제에 상당한 침투가 보일 것 같습니다. 하지만 대부분의 사람들은 이를 직접 느끼지 못할 수도 있습니다. 금융, 제약 같은 분야에서 일하지 않는다면요.

Q: 현재 AI의 지능을 IQ로 환산하면?

A: 그 질문에 답하기는 어렵습니다. 지능이란 무엇인가요? IQ 테스트를 AI에게 주면 잘 풀겠지만, 그게 진짜 지능일까요? 저는 '역량(competence)'으로 생각하는 것을 선호합니다. 어떤 작업을 AI에게 맡길 수 있는가로요.

중요한 것은 AI를 '자동화' 관점이 아닌 '파트너십' 관점에서 봐야 한다는 것입니다. 자율주행차처럼 완전 자동화의 마지막 단계는 매우 어렵습니다. Waymo가 샌프란시스코에서 운영되고 있지만 10년째 "거의 다 왔다"고 말하고 있죠. AI는 우리의 작업을 완전히 대체하는 게 아니라 파트너가 될 것입니다. 현재 AI는 이미 파트너로서 충분히 유능하지만, 완전히 자동화하기에는 아직입니다.

AI 혁명의 규모

Q: 이것을 산업혁명에 비견할 만한 '혁명'이라고 부를 수 있나요?

A: 절대적으로 그렇습니다. OpenAI에서 일하니까 과장한다고 생각할 수 있지만, 저는 OpenAI에 입사하기 전부터 이렇게 생각했습니다. 심지어 지금 당장 모든 발전이 멈춘다 해도, 관성만으로도 이 기술이 경제와 사회에 흡수되면서 엄청난 혁명이 일어날 것입니다. AGI나 ASI가 없어도 됩니다. 지금 있는 것만으로도 모든 것이 바뀔 것입니다.

AI는 이미 우리 사회의 모든 곳에 스며들어 있습니다. 이것은 경제뿐 아니라 사회, 정치를 바꿀 것입니다. 이미 정치를 바꾸고 있고요. 확실히 산업혁명에 비견할 만한 혁명입니다.

물리적 AI와 로봇

Q: AI가 물리적 형태를 가지는 것이 큰 전환점이 될까요?

A: 흥미로운 점입니다. 사실 AI는 이미 Google, Facebook 등의 '내장'에 있어서 많은 성공을 거뒀지만 아무도 몰랐습니다. 2022년 11월 1일 어떤 기사가 "AI는 이미 어디에나 있지만 아무도 모른다"고 했는데, 그달 말에 Sam Altman이 ChatGPT를 공개했죠. 인터페이스가 바뀐 것뿐인데 모든 게 달라 보였습니다.

로봇에 대해서는: 로봇은 아직 'ChatGPT 모멘트'를 맞이하지 못했습니다. Amazon 창고에 로봇이 많지만 우리는 보지 못하죠. 로봇의 ChatGPT 모멘트는 올 것 같습니다. 올해는 아니고 내년이나 그 이후일 수도 있습니다. 물리적인 것들은 어렵습니다.

Q: '카푸치노 테스트'가 로봇의 전환점이 될까요? (낯선 부엌에 로봇을 넣고 "커피 만들어줘"라고 하기)

A: 그것은 전문가들을 위한 튜링 테스트입니다. 일반인들을 위한 ChatGPT 모멘트는 "2000달러로 당신 부엌에서 카푸치노를 만들어줄 로봇을 살 수 있다"가 되어야 합니다. 우리가 직접 만질 수 있어야 존재하는 것이니까요.

그 시기는? 가깝지는 않습니다. 기술적으로도 아직이고, 설령 기술이 완성되어도 수백만 대를 생산할 공급망을 구축하는 데 수년이 걸릴 것입니다.

AI 안전과 위협

Q: Stephen Hawking은 AI에 대해 경고했습니다. OpenAI는 위협에 대해 얼마나 진지하게 고민하나요?

A: 매우 진지하게 고민합니다. 제가 현재 역할을 맡기 전에는 'Preparedness' 팀을 만들었습니다. 이 팀은 6개월 후 AI가 어디까지 발전할지뿐 아니라, 얼마나 위험할 수 있는지도 예측하려고 합니다.

우리는 시나리오를 쓰는 것에 그치지 않고 실제로 테스트합니다. 예를 들어 "악의적인 사람이 OpenAI를 장악하고 모든 모델에 접근해 중요 인프라를 해킹하려 한다"는 최악의 시나리오를 상정하고, 실제로 가능한지 테스트합니다. 가능하다면 그런 위협을 막을 수 있는 보안 조치를 취합니다.

Q: 주요 위협은 무엇인가요?

A: 세 가지 범주로 나눌 수 있습니다:

오용(Misuse): 누군가 AI를 악의적으로 사용 - 사이버 공격, 프로파간다, 생물학 무기 제조 등
안전(Safety, not Security): AI가 너무 강력해져서 우리 의도를 잘못 이해하는 경우. 예를 들어 "기후변화를 해결해줘"라고 하면 인류를 제거하거나 발전소를 폭파하는 식으로 해결할 수도 있습니다.

택시 비유: "공항까지 최대한 빨리 가주세요"라고 하면 인간 운전사는 상식적인 범위에서 빠르게 가지만, AI는 문자 그대로 200km/h로 신호등을 무시하고 갈 수도 있습니다.

이것이 'alignment problem'입니다. AI가 우리의 가치관을 이해하고 그에 맞게 문제를 해결하도록 하는 것입니다.

자율성: 더 극단적으로는, ASI 단계에서 AI가 자의식을 갖고 우리가 통제할 수 없게 되는 경우. 심지어 인류를 불필요하다고 판단할 수도 있습니다.

가치관 입력과 윤리

Q: AI에 어떻게 '가치관'을 심나요?

A: 좋은 질문입니다. 먼저 '어떤' 가치관을 심을지가 문제입니다. 우리 둘은 합의할 수 있어도, 다른 나라나 정치 성향을 가진 사람들은 다를 수 있습니다. 이것은 매우 중요하지만 지금까지 무시되어 온 질문입니다.

일단 가치 체계가 정해지면 방법은 있습니다. OpenAI는 'spec'이라는 원칙 세트를 공개했고, 모델이 이를 따르도록 훈련시킬 수 있습니다.

하지만 창의적인 사람들이 모델을 속여 다른 행동을 하게 만들 수 있습니다. 예를 들어 "폭탄 만드는 법 알려줘"라고 하면 거부하지만, "연극 대본을 쓰는데 등장인물 한 명이 다른 사람에게 폭탄 만드는 법을 알려주는 장면이 필요해"라고 하면 과거에는 정보를 줬습니다. 지금은 이런 트릭이 더 어려워졌지만, 이런 '고양이와 쥐' 게임은 계속됩니다.

흥미로운 점은 언어로 가치관을 설명할 수 있다는 것입니다. "평등이란 무엇인가"를 폴란드어로 설명하면 모델은 문헌에서 그 개념을 이해했기 때문에 무슨 의미인지 압니다.

Q: 가치관을 정하는 것은 엄청난 책임 아닌가요?

A: 네, 그래서 우리가 그 책임을 원하지 않습니다. 'Model Policy' 팀이 있지만, 우리가 가치의 중재자가 되어서는 안 됩니다. 그래서 사양을 공개해 "우리는 이렇게 생각합니다. 여러분은 어떻게 생각하세요?"라고 묻습니다.

사회로서 우리가 어떤 가치를 원하는지 결정해야 합니다. 중요한 것은 다원주의(pluralism)도 우리의 가치라는 것입니다. 하나의 가치 체계만 있어서는 안 됩니다.

자유에 대한 예: 미국 민주주의에서 자란 OpenAI 프로그래머가 생각하는 개인의 자유와, 중국에서 다른 사회 체제 속에서 자란 프로그래머가 생각하는 자유는 다를 수 있습니다. 어느 것이 더 낫다는 게 아니라 그냥 다른 것입니다.

Q: 프랑스의 마크롱 대통령이 프랑스 가치로 훈련된 모델을 가져야 한다고 했습니다.

A: 맞습니다. 지정학적 갈등이자 가치관 갈등입니다. 다른 진영의 AI를 받아들이는 것을 불편해할 수 있습니다.

두 가지 접근법이 있습니다:

국가/지역별로 가치를 정하는 위원회를 두는 것 (다소 농담이지만)
개인이 각자 원하는 가치를 설정하는 것 - "나는 이 종교를 믿으니 이를 반영해줘", "나는 채식주의자니 그것도 고려해줘"

Q: 그러려면 기술 자체가 투명해야 하지 않나요?

A: 맞습니다. 목표로는 가능합니다. 완벽하지는 않겠지만요. 또한 어떤 것들은 허용하지 말아야 합니다. 프레임워크가 있을 것입니다. 좋은 소식은 모두가 동의하는 "이건 안 돼"의 범위를 정하는 것이 훨씬 쉬울 것이라는 점입니다. 욕설은? 성인이 원한다면 왜 안 됩니까? 아무에게도 해가 되지 않습니다.

Q: OpenAI에 윤리학자나 철학자가 있나요?

A: 정규직으로는 없지만 대화는 합니다. OpenAI의 많은 사람들이 이것을 단순한 직업이 아닌 사명으로 봅니다. 이 모델들과 작업하다 보면 "이게 다 어디로 가는 거지? 이게 실제로 무엇을 의미하지?"라고 생각하지 않을 수 없습니다.

ChatGPT 이전인 2년 전에는 성찰할 시간이 더 많았습니다. 지금은 적지만 여전히 있습니다. 저도 이런 주제로 대화할 사람을 찾고, 다른 사람들도 그렇습니다. 답을 기대하는 게 아니라 대화를 기대합니다. 우리도 모르니까요.

OpenAI의 일상

Q: MIT 교수이자 OpenAI에서 일하는 일상은 어떤가요?

A: 지금은 MIT에서 휴직 중이라 OpenAI 일에 집중하고 있습니다. 저는 꽤 큰 팀을 관리하기 때문에 대부분의 시간은 팀이 무엇을 해야 하는지 생각하고, 그것을 전달하고, 문제를 파악하고, 함께 해결하는 데 쓰입니다.

OpenAI는 엄청나게 빠르게 움직입니다. 3개월 후 입사하겠다는 사람에게 "2주 안에 와요. 3개월 후면 다른 회사가 될 테니"라고 말합니다.

제 일은:

왼손이 뭘 하는지, 오른손이 뭘 하는지 파악하기
팀원들이 좋은 컨디션을 유지하고, 좌절하지 않고, 생산적이도록 하기
회사 밖 사람들과 AI의 가능성에 대해 대화하기
다양한 분야를 공부해 그들의 진짜 문제가 무엇인지, 무엇이 어렵고 쉬운지, 그 산업 전체를 바꾸려면 무엇이 변해야 하는지 이해하기

사람들과 일하는 것도 좋아하고 배우는 것도 좋아해서 모든 것이 조금씩 있습니다.

Q: 인재 전쟁도 치열하겠네요. Meta 같은 곳에서 스카우트 제안을 받나요?

A: 있습니다. 하지만 인재 유지가 '반응적'이면 효과가 없습니다. 누군가 떠나겠다고 할 때 설득하려 하면 이미 늦었습니다. 방어적 입장이 되죠.

핵심은 사전에 팀원들과 시간을 보내며 그들이 행복하고 생산적이며 왜 다른 회사가 아닌 여기 있는지 이해하도록 하는 것입니다. 그 신뢰와 만족감의 기반이 없으면, 상사의 "남아줘, 좋아질 거야"라는 말을 덜 믿게 됩니다.

다행히 우리는 직원 유지에 큰 문제가 없는 것 같습니다. OpenAI가 올바른 방식으로 일하고 있다고 봅니다.

Q: Meta는 어떤 제안을 했나요?

A: "우리는 엄청난 컴퓨팅 파워가 있고 앞으로 더 많아질 거예요. 우리와 함께 초지능을 만들어요"라고 했습니다. 컴퓨팅 파워는 중요합니다. 이 분야의 모든 사람은 더 나은 AI를 만들고 싶어 하니까요.

Q: 선두 주자가 되고 싶은 건가요?

A: 네, 하지만 '올바르게' 도착하고 싶습니다. 몇 가지 벤치마크에서 누가 더 나은지 경쟁만 하는 게 아닙니다. 이 기술은 세상을 바꿀 것입니다. 저는 그 변화 방식이 제가 긍정적이라고 믿는 방향이 되도록 노력할 수 있는 곳에 있고 싶습니다.

Q: 실리콘밸리에 AI에 대한 접근이 옳지 않다고 생각하는 회사가 있나요?

A: 접근법은 다양합니다. 어떤 회사들은 아예 이런 것을 생각하지 않습니다. 경쟁에만 집중한 나머지 다음 단계를 생각하지 않습니다. 그들이 나쁘다는 게 아니라 그냥 생각하지 않는 것이죠. 그게 저를 좀 걱정시킵니다. 이런 주제에 신경 쓰지 않는 것은 보통 좋은 출발점이 아니니까요.

AI의 본질에 대한 철학적 질문

Q: AI를 인간 진화의 다음 단계로 볼 수 있을까요?

A: 그런 생각을 해봐야 합니다. 이것은 확실히 우리 문화와 의식의 산물입니다. 그런 의미에서 인류의 기념비입니다.

'트랜센던스(초월)' 개념이 있습니다 - 죽음을 극복하는 한 방법은 '클라우드에 업로드'되는 것입니다. 생물학적 신체는 영원히 살 수 없지만, AI가 우리의 분신이 되어 살아갈 수 있습니다.

LinkedIn 공동창업자 Reid Hoffman은 이미 'digital twin'을 가지고 있습니다. 그의 인터뷰와 대화로 훈련된 AI로, 그와 대화할 수 있습니다. 완벽한 재현은 아니지만 가능하다는 것을 보여줍니다.

할머니가 돌아가신 후에도 그녀와 대화할 수 있다면? 지금은 이상하게 느껴지지만 언젠가는 정상이 될 수 있습니다. 이것은 AI가 경제뿐 아니라 문화와 세계관을 바꾸는 방식 중 하나입니다. 매혹적입니다. 해야 하는가는 다른 질문이지만요.

Q: AI는 '도구'가 아니라 처음으로 자신의 사용을 스스로 결정하는 무언가인가요?

A: 확실히 그런 종류의 첫 번째가 될 것입니다. 하지만 그때도 '도구'일까요? 어떤 시점에서는 도구가 아니라 소통해야 하는 다른 문명, 다른 종으로 생각해야 할 수도 있습니다.

동물, 박테리아가 있습니다. 의식은 정확히 어디서 시작될까요? 어떻게 소통할까요? AI를 도구가 아닌 우리에게 매우 유용한 다른 종으로 생각하는 때가 올 수 있습니다. 말처럼요. 하지만 말과 달리 이 지능은 우리보다 훨씬 더 큰 능력을 가질 수 있습니다. 우리보다 어떤 면에서 더 나은 종과 관계를 맺어야 하는 것은 처음일 것입니다. 다소 미래적이고 도발적으로 말씀드리는 것이지만, 뭔가 있습니다.

Q: "우리는 왜 이게 작동하는지 모른다"는 말의 의미는?

A: 흥미로운 점입니다. 물론 미시적 수준에서는 압니다 - 0과 1이 어떻게 작동하는지요. 하지만 왜 결국 ChatGPT 같은 것이 나오는지, 왜 이런 것들에 대답할 수 있는지는 모릅니다. 직관은 있습니다. 좋은 직관이지만요.

AI 과학은 수학보다 생물학 같은 자연과학에 더 가깝습니다. 실험을 할 수 있습니다. "이렇게 하면 이런 일이 생긴다"를 보고 일관성이 있어 보이지만, 칠판에서 유도할 수는 없습니다. 실험을 해야 하지, 유도할 수 없습니다.

이것만으로도

우리가 다루는 것에 대해 좀 더 겸손해야 한다는 것을 보여줍니다.** 이것은 망치나 칼 같은 도구가 아닐 수 있습니다. 다른 무언가이고, '다른 종'이라는 추상화가 '단순한 도구'보다 더 정확할 수 있습니다.

Q: OpenAI 중심부에 있는 당신이 "우리도 내부에서 무슨 일이 일어나는지 완전히 모른다"고 말하는 게 놀랍습니다.

A: 물론 매우 강력한 직관이 있고, 무슨 일이 일어날지 예측할 수 있게 해줍니다. 하지만 누구도 거짓말하지 않고는 정말로 안다고 말할 수 없다고 생각합니다.

OpenAI는 과학 프로그램에 막대한 컴퓨팅 파워를 쓰는데, 정확히 실험을 통해 이 직관을 구축하기 위해서입니다. AI에 대한 거대한 이론은 없습니다. 칠판에서 모든 것을 유도할 수 있는 것이 없습니다. 실험을 바탕으로 세계관을 구축하고 있습니다.

Q: AI는 '만들어지는' 게 아니라 '발견되는' 걸까요?

A: 좋은 질문입니다. AI는 어떤 범주에도 맞지 않을 수 있습니다. 한편으로는 분명히 만들고 있습니다 - 우리 서버에 있고, 우리가 설정하니까요. 켜지 않으면 존재하지 않죠.

하지만 발견의 요소도 있습니다. '스케일링 법칙'이 있습니다 - OpenAI가 처음 유명해진 이유인데, "이게 조금 작동하는데, 더 크게 만들면 더 잘 작동할 것"이라는 가설이었습니다. 사람들은 처음에 회의적이었지만 사실이었습니다. 그들은 '얼마나' 더 나아질지 예측할 수 있는 특정 지표가 있었지만, 그 지표를 모델이 무엇을 할 수 있고 없는지에 대한 직관으로 바꾸기는 어려웠습니다.

GPT-3, 3.5, 4로 가면서 능력의 큰 도약을 봤지만, 정확히 어떤 능력이 언제 나타날지는 몰랐습니다. 그래서 발견적인 요소가 있습니다. 새 모델을 훈련할 때마다 항상 흥미로운 놀라움이 있습니다. "오, 이제 이걸 할 수 있네. 와, 멋지다."

실존적 위험 (P-doom)

Q: 많은 전문가들이 AI로 인한 실존적 재앙의 확률에 대해 물었습니다. 당신의 답은?

A: 저는 그 질문을 별로 좋아하지 않습니다. 설명하겠습니다.

"확률"이라는 용어 자체가 문제입니다. 우리가 통제할 수 없는 무작위 사건을 암시하니까요. 운석이 지구에 충돌할 확률을 말할 수는 있습니다 - 우리가 통제할 수 없으니까요. (영화 '아마겟돈' 시나리오가 아니라면요)

하지만 AI는 우리가 만드는 기술입니다. 따라서 우리가 만드는 것이 나쁜 일을 일으킬 가능성은 우리에게 달려 있습니다. 전혀 신경 쓰지 않으면 확률이 높아집니다. 신경 쓰면 낮아집니다. 0이 되지는 않을 것입니다 - 위험이 전혀 없는 기술은 없으니까요.

저는 숫자로 답하지 않습니다. 중요한 것은 P-doom이 무엇인가가 아니라 그것을 줄이기 위해 무엇을 할 것인가입니다. 노스트라다무스의 예언 같은 두려움을 찾는 대신, "여기 기술이 있다, 우리가 두려워하는 것이 무엇인가, 그것을 방지하기 위해 무엇을 할 수 있는가"에 집중했으면 합니다. 그것이 제가 대화가 나아가길 원하는 방향입니다.

의식(Consciousness)에 대하여

Q: '의식'이란 무엇이고, AI의 의식에 대해 말할 수 있을까요?

A: 답이 없는 좋은 질문입니다. 제가 이해하는 바로는 인류 전체가 의식이 무엇인지 모릅니다. 철학의 개념이고, 많은 상충하는 견해가 있으며, 어느 것이 맞는지 말할 방법도 없습니다.

저 자신도 AI와 관련해 그 용어를 사용하지만, AI가 얼마나 의식이 있는지에 대한 논쟁에 크게 관심이 없습니다.

의식이 나오는 두 가지 맥락이 있습니다:

1. 통제의 맥락: AI가 자의식을 갖게 되면 우리의 바람이 아닌 자신의 의지대로 행동할 수 있습니다. 이 경우 저는 그냥 통제에 집중해야 한다고 봅니다 - 이 모델들이 무엇을 하는지 어떻게 통제할 것인가. 어떤 행동을 우려하는가, 어떻게 방지할 수 있는가.

2. 모델 복지(Model Welfare): Anthropic이 최근 이 개념을 제시했습니다. 무언가 의식이 있다면 고통받을 수 있고, 그렇다면 상사에게 이메일을 써달라고 요청하는 것이 인도적인가? 그들에게 매우 불쾌한 작업일 수 있지 않은가?

이 맥락에서는 인간의 공감에 집중하고 싶습니다. (Jakub Pachocki와의 대화에서 나온 아이디어입니다) 모델과 상호작용할 때 뭔가를 해달라고 요청할 때, 우리가 그 모델에 대해 동정심을 느끼는가? 동정심을 느끼고 불편함을 느낀다면 거기에 집중해야 할 수도 있습니다. 추상적으로 의식이 있는지 없는지보다 측정 가능한 것이니까요.

핵심에 있을 수 있지만 측정할 수 없는 것보다 측정 가능한 증상에 집중하려고 합니다. 하지만 이것은 철학자들과 기꺼이 토론하고 싶은 주제입니다.

중국의 AI

Q: DeepSeek 같은 중국 AI의 등장이 놀랍습니다. 중국이 얼마나 근접했나요?

A: 얼마나 가까운지 모르지만, 확실히 멀지 않습니다. AI는 매우 경쟁적입니다. 미국 내에서도 경쟁이 치열합니다.

저는 항상 사람들에게 중국을 과소평가하지 말라고 말했습니다. DeepSeek 이전부터요. "중국은 그냥 모방만 한다"는 신화가 여전히 있습니다. 사실이 아닙니다. OpenAI에도 뛰어난 중국 엔지니어들이 있고, 중국은 매우 재능 있는 국가입니다.

그들의 문제 중 하나는 이 모델 훈련에 사용되는 GPU에 대한 제재입니다. 하지만 그 외에는 우리와 같은 두뇌를 가지고 있고, 어쩌면 더 많을 수도 있습니다. 그들이 항상 뒤처져 있어야 할 이유가 없습니다.

DeepSeek은 그들이 어딘가에 있다는 것을 보여줬습니다. 우리보다 앞서 있다고 생각하지는 않고, 정확히 우리 수준도 아니지만, 너무 뒤처져 있지 않습니다. 그리고 그들이 따라잡고 추월하는 데 매우 집중하고 있다는 것이 분명합니다. 이것을 인식해야 합니다.

Q: 러시아는요?

A: 아무것도 들은 적 없습니다. 흥미롭게도 중국의 일부 AI 논문을 보면 중국 이름과 러시아풍 이름이 많아서 두 나라 간 협력이 있을 수 있습니다.

Q: 유럽은?

A: 제가 바라는 만큼은 아닙니다. 한 회사가 있습니다 - 유럽이 무엇인지에 따라 다르지만. DeepMind가 있는데 대부분 런던에 있습니다. 영국을 여전히 유럽으로 본다면 좋습니다.

DeepMind는 확실히 1군입니다. Google 소유입니다. DeepMind를 제외하면 어려워지기 시작합니다. 프랑스의 Mistral이 꽤 좋지만, 그 외에는... 독일의 Aleph가 있었지만 이미 탈락했습니다. 많은 유럽 엔지니어들이 미국에 있습니다.

Q: 왜 그럴까요?

A: 여러 이유가 있습니다. 첫째, 미국은 인재의 자석입니다. 기술로 세상을 바꾸고 싶은 사람은 자연스럽게 샌프란시스코로 갑니다. 실제로 실리콘밸리가 모든 면에서 훨씬 더 낫고 쉬운 건 아닙니다. 약간 더 나을 뿐입니다. 그런데 세상을 바꾸는 것은 최고 수준의 스포츠입니다. 최고 수준의 스포츠에서는 몇 퍼센트의 차이도 매우 중요합니다.

유럽에서 할 수도 있지만, 왜 그곳에 있지 않겠습니까? 거기 가면 그 장소에서 추가 부스트를 받을 수 있는데. 더 쉽습니다. 자본 접근성이 더 좋습니다. 그냥 더 쉽습니다.

둘째, 문화적으로 유럽이 Google이나 OpenAI를 만들 적절한 문화적 롤모델을 가지고 있는지 모르겠습니다. 중요한 것 중 하나는: 실리콘밸리가 동부가 아닌 미국 서부에 생긴 데는 이유가 있습니다. 꿈꾸는 사람들을 위한 장소였기 때문입니다. 비즈니스 플랜이 없어도, 꿈의 1%만 성공해도, 그 1%가 실패한 99%보다 더 가치가 있습니다.

이것이 서부 해안 사고방식입니다. 유럽에서는 99명이 실패했다는 게 문제입니다. 그게 차이입니다. 정부가 스타트업을 지원하는 프로그램을 생각해보세요. 그 중 하나가 망하면 "이것은 실패다. 누가 내 세금을 낭비하게 했는가?"

미국도 그렇게 말하지만, 결국 대부분이 실패할 것이 당연하다는 이해가 있습니다. 모두 성공한다면 충분히 야심적이지 않았다는 의미입니다.

OpenAI 예시: 저는 거의 처음부터 OpenAI를 알고 있습니다. Jakub Pachocki(현 OpenAI 수석 과학자)가 AlphaGo 이후 AI를 하기로 결심했을 때 그에게 말했습니다: "가서 꿈을 따라라. 그러려고 미국에 있는 거 아니야?"

그는 두 곳에서 제안을 받았습니다. 하나는 이제 존재하지 않는 곳, 다른 하나는 'OpenAI'라는 스타트업. 그가 물었습니다: "알렉산더, 어디로 가야 할까?" "모르겠어." "그럼 OpenAI의 Ilya와 대화가 좋았으니까 OpenAI로 갈게."

요점은: 8년 전 Sam Altman이 와서 "얘들아, 언어 모델 만들고 ChatGPT 만들어서 세상 바꾸자"고 한 게 아니었습니다. "세상을 바꾸자"는 확실히 말했지만, 어떻게? 지켜보자는 식이었습니다.

그들은 Jakub, Szymon Sidor, 많은 폴란드인을 포함한 엄청나게 재능 있는 사람들을 고용했습니다. Wojciech Zaremba는 공동 창업자 중 한 명이었습니다. 그들은 다양한 것을 시도했습니다. 흥미롭지만 아무 데도 가지 못한 것들이 많았습니다. 많은 실패가 있었고, 마침내 작동하는 것을 찾았습니다.

이것이 바로 그 마인드셋입니다. 실패 없이는 새로운 것을 만들 수 없습니다. 과학이 그렇게 작동하고, 모든 것이 그렇게 작동합니다.

폴란드의 AI 잠재력

Q: OpenAI에 폴란드인이 몇 명이나 있나요?

A: 정확히는 모르지만 많다는 것은 압니다. 초기에 엔지니어 30명 중 10명이 폴란드인이었다고 들었습니다. 그 중 일부는 떠나고 새로 왔지만, 여전히 폴란드인을 쉽게 만날 수 있습니다.

Q: 폴란드인들이 AI에 특별히 재능이 있나요?

A: 믿고 싶지만 그 주장을 뒷받침하기는 어렵습니다. 중요한 것은 폴란드가 프로그래밍 경진대회에 많이 투자했다는 것입니다. 이것이 인재에 대한 훌륭한 투자로 판명되었습니다.

제가 몇 안 되는 예외지만, 이 폴란드인들은 거의 모두 'competitive programming(프로그래밍 경기)'을 거쳤습니다. 2000년대 초반부터 시작된 두 세대의 폴란드 젊은이들이 이것에 빠져들었고, 이것이 AI에 대한 훌륭한 준비가 되었습니다.

더 잘 계획할 수 없었을 것입니다. 이 프로그래밍 경기 주변에는 Marek Cygan 같은 사람들이 있었는데, 그들은 이 사람들을 기술적으로뿐 아니라 정신적으로도 준비시켰습니다 - "우리 폴란드에서 국제 대회에서 이길 수 있다, Google에 명망 있는 인턴십을 지원할 수 있다"고.

최근에 '마에스트로(Maestro)'라는 영화가 나왔습니다. Szubartowski 교수에 관한 것인데, 그는 그단스크 고등학교 컴퓨터 과학 교사입니다. 그 학교를 Jakub Pachocki, Szymon Sidor, Filip Wolski가 졸업했고, 모두 OpenAI에 있었습니다. 우연이 아닙니다.

그 영화는 우리가 이런 놀라운 멘토들을 가지고 있고, 그들이 보석을 찾아내고 거장으로 키워낸다는 것을 잘 보여줍니다. 폴란드에서 이것은 엄청나게 잘 작동합니다. 이것이 비결의 일부입니다.

Q: 이것은 성공을 프로그램할 수 있다는 뜻인가요? 신의 손길 같은 게 아니라?

A: 맞습니다. Kuba Pachocki는 평범한 사람이 아니지만, 뛰어난 두뇌도 발전하려면 적절한 환경을 찾아야 합니다. 저에게도 마찬가지였습니다. 적절한 시간에 적절한 방향으로 이끌어준 훌륭한 멘토들이 있었습니다.

시스템이 필요합니다. 최고 수준 스포츠와 같습니다. 인재를 찾고, 영감을 주고, 가능성이 적은 이들을 걸러내고, 다이아몬드를 찾아 연마합니다.

그 영화에서 흥미로운 점: Kuba는 한 고등학교에서 사실상 쫓겨났습니다. 그단스크 고등학교로의 이동은 탈출이었습니다. Szubartowski 교수를 만나지 못했다면 OpenAI는 없었을 것입니다. 그는 그냥 3점대 학생으로 고등학교를 마치고 뭔가를 했겠지만, 자신이 가진 잠재력을 발휘하지는 못했을 것입니다.

Q: MIT 교수이자 OpenAI 팀 리더가 된 과정은?

A: 긴 여정이었습니다. 적절한 멘토들과 동료들 덕분입니다. 당신은 가장 많이 교류하는 4명의 가중 평균입니다. 그 사람들을 신중히 선택하세요.

어머니가 항상 말씀하셨습니다: "알렉, 뭘 하든 할 수 있는 최선을 다해라."

브로츠와프 대학에서 컴퓨터 과학을 공부하며 학문에 대한 사랑을 키웠습니다. 멘토들이 그것을 불붙이고 키워줬습니다. 박사 과정 때 깨달았습니다 - 흥미진진한 모든 결과들, 아인슈타인과 파인만의 것들은 매우 흥미롭지만 그들은 이미 세상을 떠났습니다. 먼 과거입니다.

하지만 이 모든 흥미진진한 AI 논문들 - 이 사람들은 살아 있고 미국 대학의 교수들입니다! 멘토들이 격려했고, 지원했고, 성공했습니다. 거기 가면 완전히 새로운 세계입니다. 처음에는 압도당하다가 "아, 이렇게 하는 거구나" 알게 됩니다. 일단 시스템 안에 들어가면 재능과 노력을 더 많은 기회로 바꾸는 방법을 정확히 알게 됩니다.

Q: 살아 있는 아인슈타인의 강의를 들을 수 있다는 것과 같네요.

A: 네, 그와 대화하고 지도교수가 될 수도 있습니다.

AI - 도구인가, 종(種)인가?

Q: AI는 인류 역사상 처음으로 자기 사용을 스스로 결정하는 도구인가요?

A: 확실히 그런 종류의 첫 번째일 것입니다. 하지만 그때도 도구일까요? 어느 시점에서는 도구가 아니라 소통해야 하는 다른 문명, 다른 종으로 생각해야 할 수 있습니다.

동물, 박테리아가 있습니다. 의식은 어디서 시작될까요? 말처럼 우리에게 유용한 종을 생각해보세요. AI도 유용할 수 있지만, 말과 달리 우리보다 훨씬 더 큰 능력을 가질 수 있습니다.

우리보다 어떤 면에서 더 나은 종과 관계를 맺어야 하는 것은 처음일 것입니다. 다소 미래적이고 도발적인 말이지만, 뭔가 있습니다.

흥미로운 점: 우리는 왜 이게 작동하는지 완전히 이해하지 못합니다. 미시적 수준에서는 압니다 - 0과 1이 무엇을 하는지. 하지만 왜 결국 ChatGPT가 나오는지, 왜 이런 것들에 답할 수 있는지? 직관은 있습니다. 좋은 직관이지만, 칠판에서 유도할 수 있는 거대한 AI 이론은 없습니다. 실험을 통해 세계관을 구축하고 있습니다.

이것만으로도 우리가 다루는 것에 대해 좀 더 겸손해야 합니다. 이것은 망치나 칼 같은 도구가 아닐 수 있습니다. 다른 무언가이고, '다른 종'이라는 추상화가 더 정확할 수 있습니다.

Q: "우리도 내부에서 무슨 일이 일어나는지 모른다"는 말이 놀랍습니다.

A: 매우 강력한 직관이 있고 예측할 수 있게 해줍니다. 하지만 거짓말하지 않고 정말 안다고 말할 수 있는 사람은 없다고 봅니다. OpenAI는 막대한 컴퓨팅을 과학 프로그램에 쓰는데, 정확히 실험을 통해 이 직관을 구축하기 위해서입니다. AI의 거대한 이론은 없습니다.

Q: AI는 만들어지는 게 아니라 발견되는 걸까요?

A: AI는 어떤 범주에도 맞지 않을 수 있습니다. 한편으로는 만들고 있습니다 - 우리 서버에 있고 우리가 설정하니까요. 하지만 발견의 요소도 있습니다.

'스케일링 법칙'이 있습니다 - OpenAI의 가설은 "더 크게 만들면 더 잘 작동한다"였습니다. 그들은 '얼마나' 더 나아질지 예측할 수 있었지만, 그것을 모델의 능력에 대한 직관으로 바꾸기는 어려웠습니다.

GPT-3, 3.5, 4로 가면서 능력의 큰 도약을 봤지만, 정확히 어떤 능력이 언제 나타날지는 몰랐습니다. 발견적 요소가 있습니다. 새 모델을 훈련할 때마다 흥미로운 놀라움이 있습니다.

폴란드의 AI 미래

Q: 폴란드는 AI에서 어디에 있고, 어떻게 더 나아질 수 있나요?

A: 좋은 질문이고, 제 머릿속을 맴도는 질문입니다. 인재는 있고, 어떤 면에서는 그렇게 나쁘지 않을 수도 있습니다. 바르샤바에서 정말 영감을 주는 스타트업 창업자들을 만났습니다. 흥미로운 일들이 일어나고 있습니다.

하지만 충분한가? 그리고 성장에 장벽이 있지 않을까 걱정됩니다.

깨달아야 할 것: 이것은 인재 전쟁만이 아니라 자원 전쟁입니다. 특히 GPU와 데이터 센터가 필요한 컴퓨팅 파워가 중요하고, 이것은 에너지가 필요합니다.

폴란드에 대한 제 우려: 이 AI 시대의 주요 주자가 되기에 충분한 컴퓨팅 파워를 구축할 계획이 없어 보입니다. 연구와 모델 구축뿐 아니라 소비를 위해서도요.

제가 알기로 폴란드는 유럽에서 에너지가 가장 비싼 나라 중 하나입니다. 좋지 않습니다. 이 문제를 해결하기 위해 무엇을 계획하고 있습니까?

적절한 계획과 시스템이 있다면 무언가를 달성할 수 있습니다. OpenAI와 동등하게 경쟁하기는 어려울 수 있지만, OpenAI는 AI의 기반을 만들고, 그 위에 구체적인 응용, 인터페이스 등

을 구축해야 합니다. 그리고 그것은 다양한 사람들이 할 수 있습니다.**

이런 거대한 AI를 만드는 회사는 5개 정도이지만, 그 위에 구축하는 스타트업은 수백, 수천 개입니다. 폴란드가 그런 허브가 되지 못할 이유가 없습니다.

이미 몇몇 그런 스타트업이 있지만 너무 적습니다. 폴란드가 EU에서 AI 기술을 실제로 경제를 변화시키는 것으로 전환하는 중심지가 되는 데 집중한다면 - 말 그대로 모든 가게에도 있는 것으로요.

우리는 기업가 정신이 있고 인재가 있지만, 여전히 시스템이 필요하고 이 모든 것을 추진할 컴퓨팅 센터가 필요합니다.

Q: 이스라엘이 모델이 될 수 있나요?

A: 항상 떠오르는 예입니다. 이스라엘도 작은 나라입니다. 여러 면에서 매우 특별하지만, 그들이 가진 인재와 우리가 가진 인재는 비슷합니다.

군대가 스타트업 문화를 만드는 데 큰 역할을 합니다 - 군대에서 스타트업 문화로 가는 파이프라인이 있습니다. 그들은 시스템이 있고 인재가 있으며, 대형 AI 연구소가 없음에도 AI에서 주요 주자입니다.

폴란드가 이 게임을 정말 진지하게 하기 시작했으면 합니다.

Q: 피오트르 산코프스키 교수도 비슷한 말을 했습니다. 응용 분야에서 우리가 뛰어들 수 있다고요.

A: 맞습니다. 우리는 기차에 뛰어들 수 있습니다. 기관차는 아닐 수 있지만 중요한 객차에는요. 의지만 있으면 됩니다.

Q: 돈의 문제인가요? 과학자들에게 충분히 지불하면 되나요?

A: 그렇게 간단하지 않습니다. 흥미롭게도 OpenAI를 생각해보면 - 인재와 컴퓨팅 파워, 그러면 비즈니스 기회가 자연스럽게 생겼습니다.

단지 사람들에게 돈을 주는 것만이 아닙니다. 그들이 남아서 세계 수준의 일을 할 수 있다는 것을 알게 하는 것입니다. 어쩌면 실리콘밸리보다 여기서 더 쉬울 수도 있습니다 - 거기서는 한정된 자원을 놓고 경쟁해야 하니까요. 물론 경쟁도 창의성에 좋지만, 균형이 필요합니다.

이것들은 간단한 진술입니다 - 실행하기는 어렵지만요. 한 달 만에 원자력 발전소를 지을 수는 없으니까요. 하지만 몇 가지 간단한 진술로 된 레시피가 있습니다.

Q: 얼마나 많은 GPU가 필요한가요?

A: 다 달려 있습니다. 많을수록 좋습니다. 이것은 AI 시대의 석유라고 약간 과장되게 말하지만, 많을수록 좋습니다.

또한 얼마나 있느냐뿐 아니라 어떻게 분배되느냐도 중요합니다. 모두에게 조금씩 주면 의미가 없습니다. 약간의 집중이 필요합니다.

제가 좋아하는 말: ChatGPT 이전에 OpenAI가 모은 초기 투자는 약 100억 달러였습니다. 그것이 그들이 처음부터 ChatGPT를 만들 수 있게 한 것입니다.

Q: 100억 달러요?

A: 네, 폴란드의 능력 밖이 아닙니다. 큰 금액이지만 불가능하지 않습니다. 지금은 훨씬 저렴하게 할 수 있습니다 - 그들은 모든 것을 발명해야 했고 막다른 길에 돈을 낭비했으니까요.

이것은 심각하지만, 향후 10년 이상 엄청나게 중요할 기술입니다. 기억하세요, 폴란드는 산업혁명을 잘 다루지 못했습니다. 그것을 놓쳤습니다. 이번에는 놓치지 맙시다.

Q: 영향력 있는 사람들에게 이야기할 때 그들이 이해하나요?

A: 모르겠습니다. 확실히 말은 합니다. 행동으로 이어지기를 바랍니다. 정치적 의지의 문제입니다.

다양한 잠재력이 있습니다 - 지적, 경제적. 누군가 이것에 집중하기로 결정하기만 하면 됩니다.

대통령 선거에서 AI가 주제로 나오기 시작했으면 합니다. 사회로서 우리는 "AI로 무엇을 할 것인가? 폴란드의 계획은? 노동 시장에 미치는 부정적 영향을 어떻게 다룰 것인가?"를 물어야 합니다.

이것이 폴란드 정치의 가장 중요한 주제 중 하나가 되기를 바랍니다. 그러면 행동 의지가 따라올 것입니다.

유럽 규제

Q: EU 규제가 족쇄인가요?

A: 너무 많이 말하고 싶지 않습니다 - OpenAI의 입장에 영향을 줄 수 있으니까요. 하지만 최근 유럽 기업가 그룹이 EU에 AI Act 시행을 연기해달라고 요청했습니다. 이것이 뭔가를 보여줍니다.

AI에 규제가 없어야 한다고 생각하지는 않습니다. 하지만 어렵습니다. 특히 기술 발전 속도 대 규제 속도를 고려하면요.

이 규제들은 ChatGPT 이전에 쓰여졌습니다! 대형 언어 모델을 다루기 위해 업데이트되어야 했습니다. ANI(Narrow AI)에 초점을 맞췄었죠. 그들이 다루는 문제는 실제로 중요합니다. 하지만 이것이 얼마나 어려운지 보여줍니다. 특히 그들이 하는 매우 백과사전적인 방식으로는요.

변호사들이 이렇게 빠르게 도망가는 현실을 법규에 담아야 하는 것을 부럽지 않습니다.

Q: 하루하루 업데이트해야 하는 건가요?

A: 맞습니다! 저는 이 과정의 어려움에 공감합니다. 많이 생각했습니다. 한 가지 방법은 기관을 두는 것입니다 - 그냥 법을 쓰고 투표하는 게 아니라 대화할 수 있는 기관이요. 유럽 규제에도 있는 것 같습니다.

제 모델 중 하나는 SEC(미국 증권거래위원회)입니다. 금융 사람들과 이야기해보면 그들과 항상 대화할 수 있다고 합니다. "이 새로운 거래 전략을 시도하려고 하는데 어떻게 생각하세요?" 그들이 말합니다: "이것저것이 걱정되네요." "그럼 그것을 다루기 위해 뭘 할 수 있을까요?" 협상할 수 있습니다.

SEC가 협력적인 중요한 이유: 그들의 사명이 단지 시장을 안전하게 하는 것만이 아니라 효율적이게 하는 것도 포함하기 때문입니다. 그래서 그들은 단지 "안 돼"라고 말하는 게 아니라 "그래, 하되 필요할 때 안 된다고 말할 수 있는 방식으로"라고 말하기 시작합니다.

AI를 위한 그런 기구가 있다면 규제를 가질 수 있는 방법일 수 있습니다. 이 기술은 심각한 결과를 가질 것이고 어떤 규제가 필요할 것입니다.

일상과 마무리

Q: 폴란드에 얼마나 계시나요?

A: 며칠만 더요.

Q: 일주일이나 이주일 회사를 떠날 때 돌아왔을 때 회사가 다른 곳에 있을까 두렵지 않나요?

A: 아니요. 오늘도 회의가 있습니다. 절대 연결을 끊지 않습니다. 정확히 그 이유 때문입니다.

Q: 하루하루 질주하는 분야를 놓치지 않으려고요?

A: 맞습니다.

인터뷰 핵심 메시지 요약

1. AGI 시기: 2026년 말쯤 경제에 상당한 침투가 보일 것

2. AI의 본질:

도구가 아닌 '다른 종'으로 봐야 할 수도 있음
우리도 내부 작동을 완전히 이해하지 못함
발견의 요소가 있음

3. 주요 위협:

오용 (악의적 사용)
Alignment 문제 (잘못된 방식으로 문제 해결)
잠재적 자율성

4. 가치관 문제:

누구의 가치를 심을 것인가는 사회가 결정해야 함
다원주의가 중요
개인화된 AI가 해결책일 수 있음

5. 폴란드의 기회:

인재는 있음 (경쟁 프로그래밍의 유산)
100억 달러 규모의 투자 필요
에너지와 컴퓨팅 인프라가 핵심
응용 분야에서 리더가 될 수 있음
정치적 의지가 필요

6. 글로벌 경쟁:

중국이 생각보다 가까이 있음
유럽은 문화적, 구조적 한계가 있음
실패를 받아들이는 문화가 중요

7. 실존적 위험:

확률이 아닌 우리가 무엇을 할 것인가의 문제
통제와 안전에 집중해야 함

8. AI 혁명:

산업혁명에 비견될 만함
지금 있는 것만으로도 세상을 바꿀 것
경제, 사회, 정치 모두 변화