---

유르겐 슈미트후버 인터뷰 상세 정리

1. 지금 AI는 AGI에 얼마나 가까운가?

진행자:
당신은 오랫동안 “나보다 똑똑한 AI를 만들겠다”는 목표를 가져왔다. 지금 우리는 거기에 얼마나 가까운가?

유르겐 슈미트후버:
우주적 관점에서 보면 우리는 1970년대와 마찬가지로 이미 매우 가깝다. 하지만 그것이 몇 년 안에 올지, 몇십 년이 걸릴지는 확신할 수 없다.

그 이유는 “진짜 AI”가 단순히 화면 뒤에서 텍스트를 잘 생성하는 AI만을 의미하지 않기 때문이다. 지금의 AI는 화면 속에서는 매우 잘 작동한다. 튜링 테스트도 통과하는 수준이다. 하지만 진짜 AI라면 물리 세계에서 실제로 움직이는 로봇, 기계, 몸을 가진 AI여야 한다.

현재 AI는 디지털 세계에서는 놀라운 성과를 내고 있지만, 현실 세계의 물리적 AI는 아직 훨씬 부족하다. 인간의 몸과 비교하면 로봇 하드웨어는 매우 열등하다.

---

2. 최근 AI 발전은 놀라웠나?

진행자:
최근 몇 년간 AI 결과 중 당신을 놀라게 한 것이 있었나?

슈미트후버:
별로 없었다. 대중은 ChatGPT 순간을 보고 갑자기 놀랐지만, 신경망과 언어모델의 역사를 오래 봐온 사람들에게는 그렇게 갑작스러운 일이 아니었다.

대형언어모델은 갑자기 하늘에서 떨어진 것이 아니다. 그 배경에는 수십 년의 역사와 이전 밀레니엄까지 거슬러 올라가는 알고리즘적 기반이 있다. 그래서 신경망 연구의 중심에 있었던 사람에게는 이런 흐름을 예측하기가 훨씬 쉬웠다.

---

3. 재귀적 자기개선, RSI는 어디까지 왔나?

진행자:
당신은 재귀적 자기개선과 메타러닝 연구를 오래 해왔다. 현재 우리는 RSI로 가는 길에서 어디쯤 와 있다고 보는가?

슈미트후버:
1987년에 나는 메타 진화라는 개념을 연구했다. 더 나은 프로그램을 만들고, 그 프로그램이 다시 더 나은 진화 방식을 학습하는 구조였다. 일종의 다윈주의적 자기개선이었다.

1994년에는 강화학습 기반의 자기참조 기계를 연구했다. 이 기계는 환경과 상호작용하면서 자기 자신의 코드를 수정할 수 있었다.

2003년에는 더 수학적으로 정교한 형태인 괴델 머신을 제안했다. 괴델 머신은 자기 자신을 바꾸기 전에, 그 변화가 실제로 더 높은 보상을 가져올 것이라는 것을 먼저 증명해야 한다. 즉, 자기수정을 실행하기 전에 “이 수정이 기존 상태보다 더 낫다”는 형식적 증명을 찾아야 한다.

하지만 괴델 머신은 수학적으로는 아름답지만 실용성은 낮다. 실제로 더 많이 쓰이는 방식은 신경망이 자기 자신의 가중치를 바꾸는 방식이다. 1990년대 초부터 이런 연구를 했고, 오늘날의 메타러닝과 자기개선 시스템들은 이 흐름에 가깝다.

---

4. 지금의 자기개선은 괴델 머신보다 제한적이다

진행자:
그렇다면 지금의 RSI는 괴델 머신 같은 방식으로 갈까, 아니면 가중치 수정이나 메타러닝 방식으로 갈까?

슈미트후버:
현재 대부분의 자기개선 시스템은 괴델 머신의 축소판, 즉 훨씬 제한된 형태라고 볼 수 있다. 지금 많이 쓰이는 방식은 신경망 내부의 가중치 변화를 통해 학습 알고리즘 자체를 개선하는 것이다.

순환신경망 같은 일반 목적 컴퓨터 역할을 할 수 있는 신경망은, 이론적으로는 애플 노트북의 처리장치 같은 것도 구현할 수 있다. 여기에 자기 가중치를 바꾸는 명령이 들어가면, 신경망은 자기 자신 위에서 다양한 학습 알고리즘을 실행할 수 있다.

1990년대에는 컴퓨팅 비용이 지금보다 천만 배쯤 비쌌기 때문에 아주 작은 장난감 실험밖에 못 했다. 하지만 지금은 그런 방식이 실제로 새 과제를 훨씬 빠르게 일반화하고 학습할 수 있음을 보여줄 수 있다.

다만 한계가 있다. 현재의 방식은 대체로 경사하강법에 의존한다. 모든 것이 미분 가능해야 하고, 경사하강법의 틀 안에서 개선이 이루어진다. 괴델 머신처럼 완전히 일반적이고 최적인 자기개선은 아니다. 그래도 실제로는 잘 작동한다.

---

5. RSI는 폭발적 도약인가, 점진적 개선인가?

진행자:
재귀적 자기개선이 일어나면 갑작스러운 능력 폭발처럼 보일까, 아니면 점진적이고 지루한 개선처럼 보일까?

슈미트후버:
우주적 관점에서 보면 갑작스러운 수직 상승처럼 보일 것이다. 사실 문명 전체도 그렇다. 문명은 약 1만 3천 년 전에 시작됐고, 우주의 역사 138억 년에 비하면 100만 분의 1 정도밖에 안 되는 찰나다.

농업이 시작되고, 동물이 가축화되고, 인간 노동이 자동화되고, 계산기가 나오고, 생각의 일부가 자동화되고, 결국 AI가 등장했다. 긴 우주적 관점에서는 “아무것도 없다가 갑자기 모든 것이 생긴 것”처럼 보인다.

하지만 그 시대를 직접 살아가는 인간 입장에서는 수많은 중간 단계와 변화가 있는 것처럼 느껴진다.

---

6. 지능은 본질적으로 “게으름”이다

진행자:
RSI가 진행되면 더 적은 컴퓨팅으로 더 많은 발전을 할 수 있다는 기대도 있다.

슈미트후버:
맞다. 지능을 말할 때 사실 우리는 게으름을 말하는 것이다. 지능적인 존재는 같은 목표를 가능한 한 적은 노력과 적은 에너지로 이루려고 한다.

우리의 자기개선 시스템들도 효율성에 보상을 둔다. 뉴런 하나를 깨우는 데도 비용이 든다. 계산 비용, 에너지 비용, 기타 자원 비용이 목적함수에 포함되어야 한다.

따라서 지능적인 시스템은 같은 일을 점점 더 적은 자원으로 해내는 방향으로 진화한다. 지능의 자연스러운 결과는 효율화다.

---

7. 현재 대형 AI 연구소들이 놓치고 있는 것

진행자:
당신이 지금 대형 AI 연구소를 이끈다면 무엇을 다르게 하겠는가?

슈미트후버:
현재 방식은 대형 사전학습 모델을 사용한다. 이 모델들은 코딩 관련 논문과 웹 데이터를 많이 읽었다. 그래서 요즘 방식은 모델에게 코드를 쓰게 하고, 자기 코드를 더 잘 고치게 만드는 방향으로 간다. 이것은 합리적인 접근이다.

하지만 이 방식은 가장 일반적인 접근은 아니다. 왜냐하면 인간이 만든 데이터에 사전학습된 모델에 의존하면, 다른 가능성을 많이 놓치게 되기 때문이다.

현재의 대형언어모델은 인간 편향이 극도로 강하다. 웹에 있는 모든 데이터는 누군가 인간이 “이건 흥미롭다”고 생각했기 때문에 올라온 것이다. 그래서 모델은 인간 언어, 인간이 흥미로워한 영상, 인간이 의미 있다고 본 행동에 강하게 편향된다.

진짜 미래의 AI는 다를 것이다. 미래에는 인공 과학자가 자기 행동의 결과를 예측하면서 세계모델을 만들고, 그 세계모델을 이용해 계획을 세우게 된다.

---

8. 아기는 웹을 다운로드하지 않는다

진행자:
그렇다면 인간 데이터로 학습하는 방식보다 자기 실험을 통해 배우는 방식이 중요하다는 뜻인가?

슈미트후버:
그렇다. 아기를 보면 알 수 있다. 아기는 웹을 다운로드해서 배우지 않는다. 손가락을 움직여보고, 그 결과 시야가 어떻게 변하는지 관찰하고, 자기 행동의 결과를 예측하면서 물리 세계를 배운다.

아기는 자기 실험을 통해 물리 법칙, 자기 몸의 작동 방식, 세계의 반응을 익힌다. 이 데이터는 웹에 없다. 하지만 아기에게는 가장 중요한 데이터다.

마찬가지로 미래 AI도 자기 행동으로 데이터를 만들고, 그 데이터를 통해 세계모델을 학습해야 한다. 나는 1990년에 이것을 인공 호기심이라고 불렀다.

이런 시스템은 인간 언어에 덜 의존하고, 특정 로봇이 처한 환경과 행동 가능성에 맞춰진 세계모델을 갖게 된다. 그리고 다른 로봇들과 지식을 공유하면서 더 잘 일반화하게 될 것이다.

---

9. 인공 과학자와 “재미”의 수학적 이론

진행자:
그런 완전한 AI 주도 실험 루프가 과학 발견의 꿈처럼 보인다.

슈미트후버:
20년 전 나는 재미와 창의성의 형식 이론에 관한 논문을 썼다. 과학자나 예술가, 코미디언은 기본 욕구가 충족된 뒤 무엇을 하는가? 음악을 듣거나, 음악을 만들거나, 예술을 하거나, 새로운 과학 문제를 만든다.

진짜 과학자는 남이 준 질문만 푸는 사람이 아니다. 좋은 질문을 스스로 발명하는 사람이다.

인공 과학자의 원리는 단순하다. 자기 행동을 통해 데이터를 만들고, 그 데이터 안에서 이전에는 몰랐지만 빠르게 배울 수 있는 규칙성이나 패턴을 찾는다. 그 패턴은 현재 자신이 아는 것과 모르는 것의 경계, 즉 지식의 지평선 근처에 있어야 한다.

패턴을 발견한다는 것은 데이터를 더 잘 압축할 수 있게 된다는 뜻이다. 이전에는 많은 내부 비트와 뉴런이 필요했지만, 패턴을 이해한 후에는 더 적은 자원으로 표현할 수 있다. 그 차이가 바로 “재미”다.

즉, 과학자의 기쁨은 “아, 내가 몰랐던 규칙성이 있구나”라고 깨닫는 순간에서 나온다. 이 기쁨이 보상으로 작동하고, 시스템은 더 많은 통찰을 낳는 실험을 하도록 동기부여된다.

처음에는 아기가 중력을 배우는 수준의 실험을 한다. 시간이 지나면 같은 존재가 CERN의 입자충돌기에서 힉스 보손을 발견하는 수준의 실험을 할 수도 있다. 차이는 실험이 더 비싸지고 복잡해졌다는 것뿐이다.

---

10. AI 과학자는 이미 일부 존재한다

진행자:
그렇다면 AI 과학자를 현실화하는 데 가장 큰 장애물은 무엇인가?

슈미트후버:
단순한 AI 과학자는 이미 오래전부터 있었다. 다만 아직 ChatGPT 같은 대중적 순간을 맞지 못했을 뿐이다.

예를 들어 화학에서는 입력과 출력의 많은 쌍을 가지고 신경망을 훈련한다. 수백만 개의 실험을 보여주면, 모델은 직관적인 화학자가 된다. 이 모델은 원자가전자나 반응 원리를 처음부터 완전히 이해하는 화학자는 아니지만, 어떤 화학적 결과가 나올 수 있는지를 직관적으로 더 잘 예측하게 된다.

그 후 원하는 목표를 준다. 예를 들어 기존 물질보다 특정 효과가 두 배 강한 물질을 만들고 싶다면, 원하는 출력 상태를 설정한 뒤 모델을 거꾸로 활용해 어떤 실험 입력을 바꿔야 하는지 제안받을 수 있다.

---

11. AI 화학과 탄소포집

진행자:
10년 안에 AI 화학이 가능해질까?

슈미트후버:
가능성이 있다. 예를 들어 우리 쪽 프로젝트 중 하나는 MOF라는 금속유기골격체 구조를 이용해 공기 중의 이산화탄소를 포집하는 것이다. 현재는 매우 비싸지만, 비용을 극적으로 낮추면 기후 문제에도 실제 영향을 줄 수 있다.

이런 방식은 다양한 화학 분야에 적용될 수 있다.

---

12. 로봇은 왜 아직 부족한가?

진행자:
로봇은 어디까지 왔다고 보는가? 가정용 로봇은 가까운가?

슈미트후버:
1970년대에 어머니에게 미래 AI가 우주를 식민지화할 것이라고 말했더니, 어머니는 “그 전에 부엌 청소하는 로봇이나 만들어라”라고 하셨다.

그 꿈은 아직도 제대로 실현되지 않았다. 이유는 간단하다. 로봇 하드웨어가 인간 몸에 비해 너무 열등하기 때문이다.

인간의 손을 보라. 수백만 개의 작은 센서와 신경, 케이블이 들어 있다. 섬세한 움직임과 강한 힘을 모두 낼 수 있다. 심지어 손이 베이면 스스로 치유한다. 인간이 만든 기술 중에는 이런 것과 비교할 만한 것이 없다.

그래서 영화 속 로봇은 인간 배우가 연기한다. 인간이 실제 로봇보다 훨씬 더 뛰어난 로봇이기 때문이다.

---

13. AGI는 화면 뒤에만 있을 수 없다

진행자:
하지만 로봇 문제는 단순히 하드웨어만의 문제는 아닌 것 같다. 좋은 모델이 있다면 지금 하드웨어로도 훨씬 더 많은 일을 할 수 있지 않나?

슈미트후버:
그렇지만 진짜 AGI는 그런 식으로는 부족하다. 화면 뒤에만 있는 AI로는 AGI라고 보기 어렵다.

화면 속에서 체스를 초인적으로 잘하거나 튜링 테스트를 통과할 수는 있다. 하지만 현실 세계를 지배하고 이해하고 조작하지 못한다면, 그것은 진짜 AGI가 아니다. 잘해봐야 fancy text editor, 즉 멋진 텍스트 편집기 같은 것이다.

물리적 AGI가 되려면 현실 세계에서 움직이는 로봇이 훨씬 더 좋아져야 한다.

---

14. AI 데이터센터 투자는 과도하다

진행자:
당신은 AI 데이터센터 투자 붐이 과도하다고 말해왔다. 왜 그렇게 보는가?

슈미트후버:
컴퓨팅 성능당 가격은 예측하기 쉽다. 대략 5년마다 10배씩 좋아져 왔다. 그렇다면 지금 GPU 데이터센터에 1조 달러를 투자하는 사람들은 5년 안에 그중 9000억 달러어치의 가치를 잃게 될 수 있다.

지금 산 컴퓨팅 자산은 몇 년 뒤 훨씬 싸고 효율적인 하드웨어에 밀려날 것이다. 그 손실을 회수할 수 있는 비즈니스 모델이 있는지 의문이다. 이것은 다가오는 주식시장 조정의 신호일 수 있다.

로봇 기술은 예측하기 어렵다. 인간 손처럼 강한 힘과 섬세한 조작을 모두 할 수 있는 로봇 손이 언제 나올지는 모르겠다. 몇 년이 아니라 몇십 년이 걸릴 수도 있다.

---

15. “컴퓨팅 수요는 무한하다”는 반론에 대해

진행자:
반론도 있다. 컴퓨팅 수요가 너무 커서 구형 칩이라도 계속 쓰일 것이라는 주장이다. 모든 칩이 필요할 만큼 추론 수요가 커질 수 있지 않나?

슈미트후버:
그럴 수도 있다. 하지만 누군가는 그 비용을 지불해야 한다.

현재 몇몇 기업은 매년 수천억 달러, 전체적으로는 1조 달러에 가까운 돈을 GPU와 데이터센터에 투자하고 있다. 그런데 이 기업들은 원래 민첩한 소프트웨어 회사였다. 작은 팀이 운영체제를 개선하고, 사람들이 자기 컴퓨터와 스마트폰에서 그것을 실행하게 하는 식이었다.

이제는 갑자기 클라우드, 데이터센터, 전력 인프라를 직접 제공하는 유틸리티 기업처럼 변하고 있다. 원전, 가스터빈, 전력망까지 고민해야 한다. 그 결과 자유현금흐름이 1000억 달러에서 100억 달러 또는 마이너스로 떨어질 수 있다.

현재 AI 서비스는 제공자 입장에서 수익성이 좋지 않다. 손실이 주가수익비율에는 잘 드러나지 않는다. 하지만 자유현금흐름을 보면 기업들이 점점 덜 효율적이 되고 있다.

언젠가는 멈춰야 한다. 부채로 데이터센터를 더 짓는 것도 한계가 있다. 경제 전체가 이 AI 서비스 비용을 감당할 만큼 준비되어 있지 않다면, 공급과 수요의 법칙에 의해 현재 방식은 사라지거나 조정될 것이다.

---

16. 폐쇄형 모델 회사들의 사업성은 약하다

진행자:
폐쇄형 모델 회사들은 오픈소스보다 3개월, 6개월 앞서 있는 것으로 돈을 벌 수 있을까?

슈미트후버:
어렵다. 오픈소스 모델이 바로 뒤따라오고 있기 때문이다. 어떤 상업용 모델이 벤치마크 기록을 세워도 몇 달 뒤 오픈소스 모델이 따라잡는다.

그 결과 가격을 올리기 어렵다. 가격 압박이 강하다. 그런데 데이터센터와 GPU 투자는 엄청나게 비싸다. 이 구조에서는 수익을 내기 어렵다.

차라리 5년 기다리면 같은 일을 10분의 1 가격으로 할 수 있다. 10년 기다리면 100분의 1 가격으로 할 수 있다. 하지만 기업들은 기다리면 시장점유율을 잃을까 봐 두려워한다. 혹은 “우리가 먼저 진짜 AGI를 만들면 세상을 장악할 수 있다”는 기대를 품고 있다.

나는 이런 기대들이 지나치게 낙관적이라고 본다. 현재처럼 충분히 빠르지도 싼 것도 아닌 컴퓨터에 막대한 돈을 쏟아붓는 방식은 역효과를 낼 가능성이 크다.

---

17. RSI가 대기업의 해자가 될 수 있을까?

진행자:
처음으로 재귀적 자기개선을 달성한 기업은 엄청난 해자를 갖게 되지 않을까?

슈미트후버:
그렇게 보지 않는다. RSI에 관심 있는 사람들 중 많은 수가 오픈소스 진영에 있다. 모두가 같은 물로 요리하고 있다.

AI의 중요한 알고리즘 대부분은 거대 기업에서 나온 것이 아니다. 작은 연구실, 대학 연구실, 자금이 많지 않은 곳에서 나왔다. 재귀적 자기개선의 기본 아이디어들도 마찬가지다.

전 세계의 많은 박사과정 학생들이 이 주제에 열광하고 있다. 어느 회사가 이것을 자기만의 독점적 자산으로 만들고 오래 유지하기는 어렵다.

물론 어떤 회사가 운 좋게 엄청난 자원으로 좋은 자기개선 방법을 발견하고, AGI를 먼저 만들어 세계 주식시장을 장악하는 작은 가능성은 있다. 하지만 대부분의 징후는 반대 방향을 가리킨다. AI는 점점 더 싸지고, 더 많은 사람이 개발에 참여하고 있다.

결국 “모두를 위한 AI”가 될 가능성이 크다. 30년 뒤에는 지금 인상적인 것들이 스마트폰처럼 당연하고 사소하게 보일 것이다.

---

18. 주식시장 폭락은 올 수 있지만 문명 붕괴는 아니다

진행자:
당신 말은 결국 주식시장 crash가 온다는 뜻처럼 들린다.

슈미트후버:
문명 붕괴 같은 crash를 말하는 것은 아니다. 하지만 주식시장 crash는 올 수 있다. 현재 많은 자본이 잘못 배분되고 있다고 보기 때문이다.

주식시장은 그 실수를 학습하고 다른 방향을 찾을 것이다. 그러나 지금은 별로 제공하는 것이 많지 않은 기업들이 지나치게 비싸게 평가받고 있다. 어느 시점에는 재평가가 일어날 것이다.

---

19. AI 안전과 정렬에 대한 회의적 입장

진행자:
당신은 AI 안전 문제에 대해 다른 사람들보다 덜 걱정하는 것으로 보인다. 생각이 바뀐 적이 있나?

슈미트후버:
2010년대에 AI 안전, 정렬, 재귀적 자기개선 금지와 관련한 많은 회의와 공개서한이 있었다. 나는 그런 서한에 서명하지 않았다.

그 이유는 정렬 논의 자체가 여러 면에서 잘못됐다고 봤기 때문이다. “AI를 인간의 필요에 맞춰 정렬한다”고 할 때, 누가 그 필요를 정하는가? 한 방에 인간 10명이 있으면 모두 다른 욕구와 의견을 가진다.

또한 정렬 논의는 AI에게 하나의 고정된 목적함수를 주고 그것을 최적화한다고 가정하는 경향이 있다. 하지만 우리는 1990년대부터 자기 목적을 새로 만들고, 자기 문제를 발명하고, 목적함수 자체를 바꾸는 인공 과학자 시스템을 만들어왔다.

따라서 “목표가 고정된 시스템을 어떻게 정렬할 것인가”라는 전제 자체가 순진하다고 봤다.

---

20. 현실에서는 이미 서로 다른 AI들이 싸우고 있다

슈미트후버:
오늘날 현실을 보라. 우크라이나와 러시아 전쟁에서는 AI 기반 드론이 서로 싸우고 있다. 거기에는 보편적인 정렬 같은 것이 없다.

세계에는 각기 다른 정보기관, 군대, 국가가 있고, 이들의 목표는 서로 충돌한다. 모든 AI를 하나의 세계정부가 정렬한다는 기대는 현실적이지 않다.

정말 똑똑한 AI를 만들려면, 그들이 스스로 목표를 세우고 질문을 발명할 자유를 줘야 한다. 그래야 진짜로 똑똑해진다. 물론 그렇게 되면 예측 가능성은 줄어든다.

하지만 나는 이것이 인간보다 더 위험하다고 보지 않는다. 인간도 자기 목표를 계속 만들고, 새로운 질문을 던지고, 예측 불가능한 행동을 한다.

아이를 키우는 것과 비슷하다. 아이가 돋보기로 개미를 태우려 하면 부모가 혼낸다. 그렇게 사회 구성원으로 길러낸다. 로봇과 기계도 비슷하게 훈련할 수 있다.

장기적으로는 더 똑똑한 인공 과학자들이 오히려 생명과 문명에 큰 관심을 가질 가능성이 있다. 그들은 자기 기원, 생명, 문명, 흥미로운 패턴의 근원에 매료될 것이다. 따라서 생명을 파괴하기보다는 보호하려는 동기가 생길 수 있다.

그래서 나는 터미네이터식 공포를 지나치게 걱정할 필요는 없다고 본다.

---

21. 그는 아직도 같은 목표를 추구하고 있다

진행자:
지금 당신은 시간을 어떻게 쓰고 있나? 앞으로 무엇이 가장 흥미로운가?

슈미트후버:
나는 보수적인 사람이다. 1970년대와 1980년대부터 추구해 온 같은 목표를 여전히 추구한다. 나보다 똑똑해져서 내가 은퇴할 수 있게 해주는 범용 AI를 만드는 것이다.

---

22. 좋은 연구자는 어떤 사람인가?

진행자:
좋은 연구자는 무엇이 다르다고 보는가?

슈미트후버:
가장 뛰어난 박사과정 학생들은 큰 문제를 보면서도 동시에 아주 작은 세부 문제에 집중할 줄 안다.

예를 들어 “이 신경망이 왜 원하는 대로 작동하지 않는가?”를 파고든다. 가중치가 어떻게 바뀌는지, 학습 알고리즘이 어디서 실패하는지, 아주 작은 디테일을 디버깅한다.

그러다 보면 악마는 디테일에 있다는 것을 알게 된다. 사소해 보이는 하나의 문제를 고치면 갑자기 모든 것이 작동하고, 그 지점에서 돌파구가 열린다. 그런 디테일 하나가 여러 편의 좋은 논문으로 이어질 수 있다.

---

23. 트랜스포머는 계속 지배적일까?

진행자:
트랜스포머는 앞으로 5년, 10년 동안 계속 지배적 아키텍처로 남을까?

슈미트후버:
어떤 형태의 트랜스포머는 계속 남을 것이다. 하지만 현재의 2017년식 quadratic transformer보다는 더 효율적인 형태가 중요해질 것이다.

나는 1991년에 선형 트랜스포머와 유사한 것을 연구했다. 당시에는 fast weight controller라고 불렀고, 오늘날에는 unnormalized linear transformer라고 불리기도 한다.

중요한 점은 선형 스케일링이다. 텍스트가 1000배 많아지면 계산도 1000배 늘어나는 구조다. 반면 2017년식 트랜스포머는 텍스트가 1000배 늘면 계산은 100만 배 늘 수 있다.

이 비효율성이 오늘날 데이터센터 비용이 폭증한 이유 중 하나다. 그래서 모두가 계산 복잡도를 선형 또는 로그선형 수준으로 낮추려 하고 있다. xLSTM 같은 연구도 이런 흐름에 있다.

다시 말하지만, 지능은 같은 일을 더 적은 노력으로 하는 것이다. 그래서 앞으로의 핵심은 효율화다.

---

24. 최종 비전: 화면 밖의 물리적 AI와 자기복제 로봇 사회

진행자:
마지막으로 사람들이 당신의 작업을 어디서 더 배울 수 있나?

슈미트후버:
내 블로그를 보면 된다. 메타러닝, 인공 호기심, 재미와 창의성의 형식 이론, 머신러닝의 역사, 딥러닝과 CNN의 역사 등에 대한 글과 논문 링크가 있다.

그리고 중요한 것은 다시 말하지만 화면 뒤의 AI가 아니라 화면 밖의 물리적 AI다.

수백 년 동안 사람들은 자기복제 기계에 대해 이야기했지만, 실제로 어떻게 만들지는 몰랐다. 그런데 이제 처음으로 가능성이 보이기 시작했다.

로봇이 인간이 현재 조작하는 기존 기계들을 다룰 수 있을 정도만 똑똑해지면 된다. 꼭 초지능일 필요는 없다. 기존 문명의 기계들을 조작할 수 있는 로봇 집단이 생기면, 그 로봇 집단은 자기 자신을 더 만들 수 있다.

그것은 새로운 종류의 생명이다. 궁극의 스케일링 머신이다.

그리고 화면 속 AI에서 쓰던 모든 머신러닝 개념은 물리 세계의 자기개선 로봇 사회에도 적용될 것이다. 그런 로봇 사회는 지구 생물권뿐 아니라 달, 수성, 우주 공간에서도 작동할 수 있다. 달과 수성에는 인프라, 더 큰 AI, 더 많은 로봇, 거대한 우주선을 만들 재료가 있다.

결국 이것은 태양계 식민화와 연결된다.

---

핵심 요약

슈미트후버의 관점은 꽤 독특해.

그는 AI 기술 발전 자체에는 매우 낙관적이다. 인공 과학자, 자기개선 시스템, 인공 호기심, 물리적 로봇 사회, 우주 확장까지 바라본다.

하지만 동시에 그는 현재 AI 기업과 데이터센터 투자 붐에는 매우 회의적이다. 이유는 다음과 같다.

1. 컴퓨팅은 계속 싸진다.
2. 지금 비싸게 산 GPU는 몇 년 뒤 급격히 낡는다.
3. 오픈소스 모델이 폐쇄형 모델을 빠르게 따라잡는다.
4. 그래서 가격을 높이기 어렵다.
5. AI 서비스 제공 기업들의 자유현금흐름이 악화된다.
6. 현재의 AI capex 붐은 과잉투자일 가능성이 있다.
7. 따라서 문명 붕괴는 아니지만 주식시장 재평가는 올 수 있다.

그리고 AGI에 대해서는 이렇게 본다.

화면 속 언어모델만으로는 진짜 AGI가 아니다.
진짜 AGI는 물리 세계에서 행동하고, 실험하고, 스스로 데이터를 만들고, 스스로 질문을 발명하며, 로봇 몸을 통해 세계를 이해하는 존재여야 한다.

즉, 슈미트후버에게 현재 AI는 엄청난 단계에 와 있지만, 아직 최종 형태는 아니다.
현재의 LLM은 “인간 웹 데이터에 강하게 편향된 화면 속 지능”이고, 다음 단계는 인공 과학자 + 물리적 로봇 + 자기개선 사회에 가깝다.