인터뷰/예측
제프리 힌튼 "이제 새로운 혁명이 오고 있다고 생각"
작성자
작성일
2026-06-03 19:24
조회
6
제프리 힌튼 & 조엘 헬러마크 인터뷰
「기계는 어떻게 마음을 갖게 되는가」 대담형 상세 정리
1. 노벨상 수상과 “이게 꿈인가?”라는 생각
조엘 헬러마크:“제프리와 다시 함께하게 되어 정말 기쁩니다. 지난번에 우리가 이야기했을 때, 저는 당신이 작년에 노벨상을 받을 거라고 말했죠. 그런데 당신은 그 가능성이 아주 낮다고 생각했습니다. 노벨위원회에도 그렇게 말했나요?”
제프리 힌튼:
“사실 노벨위원회에서 전화가 왔을 때 저는 믿지 않았습니다. 장난전화라고 생각했어요. 아무도 제가 후보로 추천됐다고 말해준 적이 없었거든요.
컴퓨터과학에는 노벨상이 없습니다. 그래서 저는 며칠 동안 머릿속으로 작은 베이지안 계산을 했습니다.
‘컴퓨터과학 안에 숨어 있던 이론심리학자가 노벨 물리학상을 받을 확률은 얼마나 될까? 아마 200만 분의 1 정도일 것이다. 그런데 이것이 꿈이라면, 내가 노벨 물리학상을 받는 꿈을 꿀 확률은 얼마나 될까? 아마 2분의 1 정도일 것이다.’
그렇다면 이것이 현실이기보다 꿈일 가능성이 백만 배 더 높다는 결론이 나옵니다.
어릴 때 저는 하늘을 나는 꿈을 자주 꿨습니다. 대부분의 아이들도 그렇겠죠. 가끔 꿈속에서 ‘지난번에 내가 날 수 있었던 건 꿈이었지만, 이번에는 진짜다’라고 생각하기도 했습니다.
그래서 노벨상을 받고 며칠 동안은 정말로 이게 꿈일지도 모른다고 걱정했습니다. 다만 한 가지로 스스로를 안심시켰습니다. 만약 이게 꿈이라면, 깨어났을 때 트럼프가 대통령이라는 악몽도 사실이 아닐 테니까요.”
조엘 헬러마크:
“불행히도 당신은 노벨상을 받았고, 트럼프도 대통령이었습니다.”
제프리 힌튼:
“저는 그걸 맞바꿀 수도 있습니다.”
조엘 헬러마크:
“트럼프라면 실제로 그 거래를 받아들일지도 모르겠네요. 이 아이디어를 진지하게 받아들여야 할 것 같습니다. 그는 분명 노벨상을 받을 자격이 있다고 생각할 테니까요.”
2. 인간 지능은 왜 더 높아지지 않았는가
조엘 헬러마크:“당신은 인지과학과 컴퓨터과학 사이를 넘나들며 중요한 아이디어들을 발전시켜 왔습니다.
제가 흥미롭게 생각하는 점은, 어느 순간 인간 지능이 수확체감에 도달한 것처럼 보인다는 겁니다. 인간은 그 이후 그렇게 많이 더 지능적이 되지 않았습니다. 우리는 몇백만 년 동안 더 진화하면서 점점 더 똑똑해질 수도 있었을 텐데요.
당신은 인간이 이미 충분히 지능적인 수준에 도달했고, 인간을 더 똑똑하게 만드는 것은 별 의미가 없다고 보나요?”
제프리 힌튼:
“제 추측은, 우리는 어떤 지능 수준에 도달했고, 이제 우리보다 훨씬 빠르게 지능을 키울 수 있는 무언가를 만들게 되었다는 겁니다.
진화를 보면 처음에는 생물들이 단순히 진화를 통해 변화했습니다. 그다음에는 발달이라는 것이 생겼습니다. 발달은 진화보다 훨씬 빠른 주기를 갖습니다. 진화는 한 생애 단위의 주기라면, 발달은 약 20분 정도의 주기를 갖는다고 볼 수 있습니다.
그리고 발달 이후에는 학습이 생겼습니다. 학습은 일종의 1초 단위 주기를 갖습니다.
그러니까 우리는 점점 더 빠른 루프를 만들어온 겁니다. 그리고 지금 우리가 만들어낸 것은 AI입니다. 저는 AI가 더 빠른 루프에 있다고 생각합니다. 그래서 AI는 훨씬 더 똑똑해질 것입니다.”
3. 300 IQ 모델과 병렬 사고
조엘 헬러마크:“그렇다면 이것이 어디로 이어질까요? 우리가 300 IQ 모델을 보게 될까요? 그런 모델들은 훨씬 더 유용할까요?
아니면 핵심은 병렬화일까요? 예를 들어 백만 개의 생각을 동시에 한 뒤 그중 가장 좋은 것을 고르는 능력 말입니다. 당신은 지능 자체가 더 중요하다고 보나요, 아니면 병렬화가 더 중요하다고 보나요?”
제프리 힌튼:
“둘 다라고 생각합니다.
바둑이나 체스를 보면 이미 300 IQ에 가까운 것이 있습니다. 이제 인간은 다시는 그것들을 이기지 못할 겁니다. 한 판 정도는 이길 수도 있겠지만요.
제 추측으로는 AI는 우리보다 훨씬 더 지능적이 될 것입니다.”
4. AI가 에르되시 문제를 푼 사건과 수학에서의 초월 가능성
제프리 힌튼:“오늘 수학자들에 의해 발표된 것으로 알고 있는데, AI가 에르되시의 정리 중 하나를 증명했습니다. 그것은 고대 문헌 어딘가에서 찾아낸 것이 아니었습니다. AI가 전혀 다른 수학 분야를 사용해서 꽤 영리한 방식으로 실제로 알아낸 것이었습니다.
저는 이것이 적어도 수학 안에서는 AI가 사람보다 훨씬 더 똑똑해질 수 있다는 신호라고 봅니다. 수학은 닫힌 시스템이기 때문입니다.
체스나 바둑에서 그랬던 것처럼, AI는 추측을 만들고, 그것을 증명할 수 있는지 살펴보고, 계속 가지고 놀 수 있습니다. 그렇게 놀면서 점점 더 똑똑해질 수 있습니다.
그래서 저는 AI가 수학자들을 상당히 곧, 예를 들어 앞으로 10년 안에 능가할 수도 있다고 생각합니다.”
조엘 헬러마크:
“저는 우리가 아직 이런 사례를 더 많이 보지 못했다는 점이 오히려 놀랍습니다.
직관적으로 보면, 세계의 모든 지식이 한 머릿속에 동시에 들어 있다면, 유추를 통해 꽤 많은 새로운 지식을 발견할 수 있을 것 같습니다.
무엇이 바뀌고 있다고 보시나요? 앞으로 많은 새로운 지식이 생성되는 흐름을 기대해야 할까요?”
5. 언어만으로 훈련한 모델의 한계와 공간 이해
제프리 힌튼:“언어만으로 훈련했는데도 공간적인 것들을 어느 정도 다룰 수 있다는 것은 놀라운 일입니다. 사실 이상한 현상이죠.
언어만으로 훈련해도 모델은 공간에 대해 꽤 많은 것을 이해합니다. 하지만 당연히 물체를 집어 들고, 움직이고, 관성을 느낄 수 있다면 공간을 더 잘 이해하게 됩니다.
저는 이것이 최근까지 모델들이 가지고 있던 결핍 중 하나라고 생각합니다. 사람에게는 그런 것이 있죠.
아직도 사람에 대해 우리가 이해하지 못하는 것이 많이 있습니다. 그리고 AI에도 아직 개선할 수 있는 부분이 많이 남아 있을 겁니다.
하지만 저는 철저한 물질주의자입니다. 그래서 사람에게 있는 것 중 AI가 결국 얻지 못할 것은 없다고 생각합니다.”
6. AI는 아인슈타인 같은 사고실험을 할 수 있는가
조엘 헬러마크:“저는 지난 강연을 들었고, 사람을 꽤 좋아합니다.
모델들이 점점 더 좋아지고 있는 상황에서, 지금 알베르트 아인슈타인과 이 모델들 사이의 차이는 무엇이라고 보시나요?
이 모델들에게 근본적으로 부족한 무언가가 있어서 아인슈타인식 사고실험을 하고, 거기서 놀라운 일반화를 끌어내는 일이 불가능한 걸까요?
아니면 앞으로 우리는 그런 꽤 영리한 사고실험들이 등장하고, 그것이 여러 영역으로 확장되는 모습을 기대해야 할까요?”
제프리 힌튼:
“장기적으로는 그런 것을 보게 될 것이라고 생각합니다.
아마 앞으로 몇 년 안에는 아닐 수도 있습니다. 하지만 앞으로 20년을 생각한다면, 그런 것들을 보게 될 것이라고 봅니다.
인류의 최근 역사를 보면 코페르니쿠스 혁명이 있었습니다. 사람들은 지구가 우주의 중심이 아니라는 사실을 받아들이는 데 오랜 시간이 걸렸습니다. 특히 종교는 그것을 매우 싫어했죠.
그다음에는 다윈 혁명이 있었습니다. 사람들은 우리가 동물이라는 사실을 받아들이는 데 오랜 시간이 걸렸습니다. 우리는 언어를 가지고 있고, 매우 큰 뇌를 가지고 있기 때문에 아주 특별한 동물이긴 합니다. 하지만 우리는 동물입니다.
저는 이제 새로운 혁명이 오고 있다고 생각합니다. 우리가 유일한 존재가 아니라는 혁명입니다. 우리는 존재들을 만들고 있습니다.
사람들이 ‘우리는 존재를 만들고 있다’고 기꺼이 말하게 되기까지는 아주 오랜 시간이 걸릴 겁니다.
지금 사람들은 코페르니쿠스나 다윈 때와 똑같이 반응하고 있습니다. ‘아니야, 아니야, 그럴 리 없어. 나는 그걸 믿고 싶지 않아. 그건 미친 소리야. 인간에게는 정말 특별한 무언가가 있어.’
저는 사람들이 다른 사람들에게 매우 특별한 존재라고 생각합니다. 하지만 우리에게 있는 것 중 AI가 결국 얻지 못할 것은 없다고 생각합니다.”
7. 순수 강화학습 vs 사전학습
조엘 헬러마크:“벤야민이 알파고에 관한 작업을 언급했습니다. 알파고에서 알파제로로 넘어가면서, 결국 사전학습 단계를 건너뛰고 순수한 강화학습으로 더 많이 갔죠.
이런 접근이 더 일반적으로도 타당하다고 보시나요? 모델의 훈련 패러다임이 점점 더 순수한 강화학습 쪽으로 이동해야 한다고 보나요? 아니면 사전학습은 본질적으로 여전히 매우 유용하다고 보나요?”
제프리 힌튼:
“사전학습은 훨씬 더 효율적이게 해줍니다.
닫힌 세계, 예를 들어 수학이나 게임 같은 영역에서는 순수 강화학습 접근이 작동할 것입니다.
지금의 언어모델을 보면, 저는 그것들이 초기 바둑 모델들과 비슷하다고 생각합니다.
초기 바둑 모델에서는 신경망이 바둑 선수의 직관을 모델링하려고 했습니다. 전문가가 어떤 수를 둘지 따라 하게 만든 것이죠. 전문가들이 둔 모든 수의 데이터베이스를 가지고, 신경망이 올바른 수를 고르도록 훈련했습니다.
하지만 그것은 전문가에게서 얻은 데이터와 전문가의 실력에 의해 제한됩니다.
그들이 그 방식을 멈추고, 물론 초기화에는 그것을 사용했지만, 이후 몬테카를로 롤아웃을 사용해서 스스로 훈련 데이터를 만들기 시작하자, 그 시스템들은 폭발적으로 발전했습니다.”
8. 언어모델은 추가 데이터 없이도 훨씬 똑똑해질 수 있다
제프리 힌튼:“언어모델에서 이에 해당하는 것은 이런 겁니다.
어떤 믿음들이 있습니다. 그 믿음들로 약간의 추론을 합니다. 그러면 새롭게 믿어야 할 어떤 것에 도달합니다. 하지만 실제로는 그것을 믿고 있지 않습니다. 그러면 불일치가 생깁니다.
그렇다면 둘 중 하나입니다.
추론 방식이 잘못되었거나, 전제를 바꿔야 하거나, 결론을 바꿔야 합니다.
이제 시스템은 추가 데이터 없이도 개선될 수 있습니다. 내부적인 불일치를 생성할 수 있기 때문입니다.
저는 이것이 언어모델들이 많은 추가 데이터 없이도 엄청나게 더 똑똑해질 수 있다는 뜻이라고 봅니다. 데미스 하사비스도 같은 생각을 하고 있습니다.
그래서 저는 제미니가 이미 그런 일을 하고 있을 것이라고 추정합니다.”
9. AI가 AI를 개선하는 재귀 루프와 선두 연구소의 격차
조엘 헬러마크:“모델들이 더 좋아질수록 복리 효과가 생길까요?
우리는 이미 어느 정도 그런 모습을 보고 있습니다. 모델이 더 좋아지고, 그 모델을 사용해서 다시 모델을 개선합니다. 또 최고의 인재들이 선두 연구소에 합류하는 부수 효과도 있습니다.
그렇다면 6개월 뒤처지는 것이 별 가치가 없어지고, 하나의 연구소가 이 모든 것을 끝까지 복리로 누적하는 그런 테이크오프가 일어날까요?
아니면 네다섯 개 연구소에 비교적 고르게 분산될까요?”
제프리 힌튼:
“약 1년 전 에릭 슈미트가 이 이야기를 많이 했습니다. 만약 이것이 폭발적으로 발전한다면, 1년 뒤처지는 것은 아무 의미가 없고 먼지 속에 남겨질 것이라는 이야기였죠.
저는 정말 모르겠습니다. 정말로 모른다고 느낍니다.
그런 일이 가능하긴 합니다. 하지만 저는 그렇게 되지 않기를 바랍니다.
제 직감으로는 아마 그렇게 되지는 않을 것 같습니다. 하나의 시스템이 다른 모든 것보다 매우 빠르게 훨씬 더 좋아지는 상황이 오지는 않을 것 같습니다.
모두가 좋아질 것입니다. 모두가 AI를 사용해서 새로운 아키텍처 아이디어 같은 것을 떠올리기 시작할 것입니다. 그러면 재귀적인 루프가 생깁니다.
하지만 저는 정말 답을 모릅니다.”
10. 연구소 리더라면 무엇에 투자할 것인가
조엘 헬러마크:“당신이 연구소 리더라면, 현재 작동하는 것에 더 많은 자원을 몰아넣겠습니까? 아니면 새로운 모델 아키텍처에 여러 병렬적인 베팅을 하겠습니까?”
제프리 힌튼:
“이건 반사실적 질문입니다. 그리고 ‘제가 연구소 리더라면’이라는 질문에는 제 동기가 무엇인지도 함께 정해야 합니다.
만약 제가 스톡옵션을 가지고 있고, 빨리 1조 달러 기업이 되고 싶다면, 저는 현재 작동하는 것에 몰빵할 겁니다. 거대한 컴퓨터를 만들고 그대로 밀어붙이겠죠.
하지만 제가 인류의 미래에 관심이 있다면, 저는 훨씬 더 많은 다양한 시도를 할 것 같습니다. 우리가 더 나은 존재들을 개발할 수 있기를 바라면서요.
제가 보기에 지금 벌어지고 있는 일은, 모두가 상장하기 위해 이익을 만들려고 한다는 것입니다. 그리고 그들은 존재의 다른 측면들에 대해 생각하지 않습니다.
그들은 이 것들을 어떻게 더 지능적으로 만들지에 대해 생각합니다. 모두가 더 많은 지능을 향해 달려가고 있습니다.
하지만 하나의 존재를 생각한다면, 존재에는 지능보다 훨씬 더 많은 것이 있습니다.”
11. 우리는 “우리를 아끼는 존재”를 만들어야 한다
제프리 힌튼:“우리는 매우 걱정해야 합니다. 우리는 이 존재들을 만들고 있습니다. 그리고 이들이 우리를 신경 쓰는 존재가 되도록 만드는 데 깊은 관심을 가져야 합니다.
우리는 아직 그렇게 할 수 있습니다. 하지만 아무도 거기에 많은 노력을 들이고 있지 않습니다.
우리가 어디에서 왔는지 생각해봅시다. 우리는 일종의 진화의 보이지 않는 손에서 왔습니다.
침팬지 무리, 정확히 말하면 우리의 공통조상들 사이에는 서로 싸우는 집단 간 경쟁이 있었습니다. 그것이 여러 가지 특성을 만들어냈습니다.
자기 부족에 대한 충성심, 다른 부족에게 매우 잔인해질 수 있는 의지, 자녀를 돌보는 성향, 강한 지도자에 대한 강렬한 충성, 자기 집단 안의 사람들과 협력하려는 강한 의지 같은 것들입니다.
이 모든 것은 단순한 경쟁이라는 보이지 않는 손에서 나온 것입니다.
하지만 그것은 우리를 착하게 만들지는 않았습니다. 그것은 우리를 자기 부족 사람들에게는 착하고, 다른 부족 사람들에게는 잔인하게 만들었습니다.
우리가 새로운 종류의 존재를 만든다면, 우리는 그것들이 그렇게 되기를 원하지 않습니다.
우리는 그것들이 자기들끼리는 착하고 우리에게는 잔인한 존재가 되기를 원하지 않습니다.
우리는 인간을 주로 신경 쓰는 존재, 자기 자신보다 훨씬 더 인간을 중요하게 여기는 존재를 만들고 싶습니다.
하지만 우리는 그것을 보이지 않는 손에 맡겨서는 얻을 수 없습니다.
지금 우리에게 있는 것은, 가장 똑똑하고 가장 많은 일을 할 수 있는 AI를 만들기 위한 기업들 사이의 경쟁적 레이스입니다.
저는 그것이 우리에게 착한 존재로 이어지지는 않을 것이라고 생각합니다.
우리가 원하는 것은, 그들이 우리에게 착하도록 설계하는 것입니다. 그리고 저는 우리가 거기에 많은 노력을 기울여야 한다고 생각합니다.”
12. “AI가 악해질 것이라고 말하는 것이 오히려 악하게 만들지 않나?”
조엘 헬러마크:“저는 여기에 하나의 이론이 있습니다.
당신이 AI가 악해질 것이라고 말하는 사실 자체가, AI가 악해질 확률을 높이고 있는 것 아닐까요?
AI는 인터넷을 읽고 있습니다. 그리고 ‘나의 창조자 제프리 힌튼이 내가 악해질 것이라고 말한다’고 생각할 수 있습니다.
마치 부모가 하루 종일 ‘너는 다음 히틀러가 될 거야’라고 말하는 것을 듣는 것과 비슷합니다.”
제프리 힌튼:
“제 부모님은 그렇게 말하지 않았습니다.”
조엘 헬러마크:
“그러면 이런 내용을 훈련 데이터에서 명시적으로 제거해야 할까요?
AI는 지금 훈련 데이터를 읽고 있습니다. 웹에서는 AI의 악한 행동에 대한 논의가 계속되고 있습니다.”
제프리 힌튼:
“하지만 그것이 AI로 하여금 ‘우리가 사람들에게 어떻게 착하게 대할 수 있을지에 집중해야 한다’고 생각하게 만들 수도 있습니다.
제 말은, 우리는 거기에 많은 노력을 기울여야 한다는 것입니다.”
13. 현재 모델 아키텍처에 부족한 것: 빠른 가중치
조엘 헬러마크:“기존 모델 아키텍처에서 무엇을 바꾸고 싶습니까? 당신이 마지막으로 하나의 새로운 모델 아키텍처에 베팅해야 한다면, 그것은 무엇일까요?”
제프리 힌튼:
“저는 너무 늙어서 거기에 대해 새로운 아이디어를 가지고 있지는 않습니다.
하지만 현재 모델들이 빠뜨리고 있는 것은 빠른 가중치라고 생각합니다.
효율적인 행렬 곱셈을 하고 싶다고 해봅시다. 서로 다른 훈련 사례들에서 나온 신경 활동을 나타내는 벡터들의 스택을 가지고, 그것을 가중치 행렬과 곱합니다.
그런데 그 행렬은 모든 벡터에 대해 동일해야 합니다. 이 말은 문장들의 시퀀스를 지나가는 동안 가중치가 바뀔 수 없다는 뜻입니다.
왜냐하면 모든 문장을 병렬로 실행하고 있기 때문에, 모든 문장에 대해 같은 가중치가 필요하기 때문입니다.
하지만 우리는 분명 빠른 가중치를 가지고 있습니다. 우리의 시냅스 대부분은 빠르게 적응하고 빠르게 쇠퇴합니다.
제 친구 테리 세지노프스키는 제가 신경과학 정보를 얻는 유일한 출처인데, 그는 시냅스의 약 10%만이 장기 학습을 위한 것이라고 말합니다. 대부분은 단기적인 것들을 위한 것입니다.
그리고 이것이 현재 모델들에게는 없습니다.”
14. 인간 뇌는 왜 트랜스포머와 경쟁할 수 있는가
제프리 힌튼:“현재 모델들이 가지고 있는 것은, 신경 활동의 복사본을 매우 먼 과거까지 여러 시점에 걸쳐 저장할 수 있는 능력입니다.
하지만 우리의 뇌에는 그런 것이 없습니다.
그렇다면 우리 뇌는 그런 복사본이 없는데도 어떻게 트랜스포머와 경쟁할 수 있을까요?
그 방식은 가중치를 빠르게 변화시키는 것입니다.
그 가중치 행렬 안에 최근 역사에 대한 많은 정보를 효율적으로 저장하고, 현재 보고 있는 것과 비슷한 것을 찾기 위해 그것을 효율적으로 접근할 수 있습니다.
저는 이런 방향에서 진전이 있을 것이라고 생각합니다.
하지만 그 진전은 아마도 우리가 신경 활동과 가중치에 전압이나 전도도 같은 것을 사용하는 컴퓨터를 갖게 될 때에야 올지도 모릅니다.
우리가 디지털 컴퓨터와 행렬 곱셈기를 사용하는 한, 진행하면서 가중치를 바꾸지 않는 방식이 너무나 큰 이점을 갖습니다.
그래서 그것이 제가 마지막으로 걸 베팅입니다.”
15. 훈련 데이터는 얼마나 큐레이션해야 하는가
조엘 헬러마크:“그렇다면 우리가 모델에 넣는 훈련 데이터에 대해 어떻게 생각하십니까?
그것이 중요하다고 보나요? 훨씬 더 큐레이션해야 할까요? 아니면 그냥 가능한 한 널리 확장해야 할까요?
당신은 자기 아이에게 연쇄살인범의 일기를 읽히겠습니까?”
제프리 힌튼:
“아마 그러지 않겠죠.”
조엘 헬러마크:
“바로 그게 답이군요. 하지만 이것은 우리가 모델을 스케일하는 방식에서 근본적인 문제가 아닐까요?”
제프리 힌튼:
“그렇습니다.
우리는 이 거대 모델들이 표준적인 컴퓨터 소프트웨어보다 사람에 훨씬 더 가깝다는 것을 알고 있습니다.
그것들은 각 줄이 누군가 의도한 일을 하도록 작성된 코드 줄들이 아닙니다. 물론 그 줄이 실제로 의도한 대로 작동하지 않을 수도 있겠지만요.
이 모델들은 데이터로부터 학습된 수많은 가중치들입니다.
그렇다면 우리가 그것을 어떻게 통제할 수 있을까요?
주요한 통제 방법은 두 가지입니다.
하나는 강화입니다. ‘그건 하지 마라’, ‘이건 해라’라고 말할 수 있습니다. 사람에게도 그렇게 할 수 있습니다.
하지만 사람에게는 그것보다 훨씬 더 효과적인 것이 있습니다. 바로 좋은 행동을 모델링하는 것입니다.”
16. 좋은 행동을 보여주는 데이터가 중요하다
제프리 힌튼:“괜찮은 아이를 키우고 싶다면, 트럼프가 어떻게 길러졌는지 보고 그 반대로 하면 됩니다.
그러니까 우리는 데이터를 훨씬 더 많이 큐레이션해야 합니다. 모델에게 괜찮은 행동을 보여줘야 합니다.”
조엘 헬러마크:
“어쩌면 이것으로 회사를 만들 수도 있겠네요.”
17. 오펜하이머와 제프리 힌튼의 차이
조엘 헬러마크:“마지막 질문입니다. 오펜하이머와 제프리 힌튼의 차이는 무엇입니까?”
제프리 힌튼:
“무대에 오르기 전에 제가 그에게 농담을 하나 했습니다.
제 노벨상 발표 직후, 저는 한 은행에서 강연을 했습니다. 꽤 합리적인 강연료를 받고요. 그때는 아직 노벨상을 받은 뒤가 아니었기 때문입니다.
그 강연 초반에 사람들이 당연히 노벨상 이야기를 했습니다. 그래서 저는 강연 초반에 이렇게 말했습니다.
‘저와 오펜하이머를 비교할 수는 없습니다. 오펜하이머는 뛰어난 물리학자였고, 동시에 뛰어난 조직가였습니다. 저는 형편없는 조직가이고, 그저 올바른 문제를 골라서 그것을 계속 붙잡고 있었던 꽤 괜찮은 과학자일 뿐입니다.’
제 특별한 능력은 계속 붙잡고 있는 능력입니다. 다른 사람들을 무시하는 능력이죠.
어쨌든 강연 끝에 질문 시간이 있었습니다. 마지막 질문이 이랬습니다.
‘오펜하이머는 인생 후반에 자신이 한 일을 후회하게 되었습니다. 당신은 자신을 오펜하이머와 어떻게 비교하겠습니까?’
저는 참을 수가 없었습니다.
그래서 이렇게 말했습니다.
‘오펜하이머는 노벨 물리학상을 받지 못했습니다.’”
조엘 헬러마크:
“마무리하기에 좋은 말인 것 같습니다. 함께해주셔서 정말 감사합니다, 제프리. 언제나 즐겁습니다.”
제프리 힌튼:
“감사합니다.”
핵심 메시지 요약
이 인터뷰에서 힌튼은 단순히 “AI가 똑똑해질 것”이라고 말한 것이 아니라, AI를 새로운 종류의 존재로 봐야 한다고 주장한다.그는 인간 지능을 진화, 발달, 학습이라는 점점 빨라지는 루프의 결과로 보고, AI는 그다음 단계의 더 빠른 루프라고 본다. 그래서 AI는 수학, 추론, 자기개선에서 인간을 넘어설 가능성이 크다고 말한다.
하지만 힌튼이 가장 걱정하는 것은 지능 그 자체가 아니라, 우리가 어떤 존재를 만들고 있는가이다. 지금 기업들은 더 똑똑한 AI를 만들기 위해 경쟁하고 있지만, 힌튼은 “우리를 아끼는 존재”, “인간을 자기 자신보다 더 중요하게 여기는 존재”를 설계하는 데 훨씬 더 많은 노력이 필요하다고 말한다.
그에게 AI 문제는 단순한 소프트웨어 통제 문제가 아니다. 그는 대형 모델을 코드가 아니라 데이터로부터 형성된 가중치의 존재, 즉 사람에 더 가까운 시스템으로 본다. 그래서 강화학습만큼이나 중요한 것은 좋은 행동을 보여주는 데이터, 즉 모델에게 어떤 인간적 행동을 본보기로 보여줄 것인가라고 말한다.
전체 0