Radio Atlantic · 2026년 9월 24일 공개 / 약 31분

인터뷰 핵심

1. 인간을 넘어선 뒤의 자기개선

힌튼은 인간보다 뛰어난 AI가 다음 AI를 개선하는 재귀적 자기개선을 논한다. 매주 더 나은 AI를 만드는 일이 반복되면 1년 사이 능력이 엄청나게 높아질 수 있지만, 실제 과정은 더 느릴 수도 있다고 덧붙인다.

2. 시간 표현과 정책 제안

입법자들에게 말한 ‘약 1년’은 선제 대응에 관한 시간이며 AGI 도래 예측이 아니다. 그의 멸종 확률 10~20%는 직관적 추정이다. 의약품처럼 출시 전 정부의 독립 평가를 거치자는 제안이다.

원문 및 전체 대본: The Atlantic 공식 인터뷰

이해를 돕는 해설

아래는 힌튼의 추가 발언이나 인터뷰 번역이 아니다. 시간·가속·불확실성을 구분하기 위해 작성한 독립적인 설명이다. 계산에 쓰인 숫자와 사례는 모두 이해를 위한 가정이며, 실제 AI 성능이나 전망을 나타내지 않는다.

3. 기준선에 도착하는 날짜와 그 뒤의 속도

어떤 능력 기준선을 정하고, 개발 중인 시스템이 그 선을 넘는 상황을 상상해보자. ‘언제 선을 넘는가?’와 ‘선을 넘은 뒤 얼마나 빠르게 더 발전하는가?’는 서로 다른 질문이다. 자동차가 출발선에 도착하는 시각을 알아도 이후의 주행 속도를 알 수 없는 것과 같다.

가령 기준선 도달 시점은 10년 뒤인데 이후 변화는 빠른 시나리오도, 도달은 2년 뒤인데 이후 개선은 완만한 시나리오도 논리적으로 가능하다. 따라서 도달 이후의 빠른 변화를 설명하는 문장 하나로 도달 연도를 계산할 수는 없다. 연도 예측을 비교하려면 먼저 어떤 기준선을 쓰는지, 어느 사건부터 시간을 세는지 확인해야 한다.

4. 한 단계가 빨라져도 전체 주기는 다르게 움직인다

가상의 연구 작업이 ‘개선안 작성 10시간 → 시험과 확인 90시간’으로 진행된다고 하자. 작성 단계만 10배 빨라지면 10시간이 1시간으로 줄지만, 전체 시간은 100시간에서 91시간이 된다. 전체 속도 향상은 약 1.10배다. 작성 능력의 10배 개선이 곧 연구 전체의 10배 가속을 뜻하지 않는다는 계산이다.

시험까지 함께 빨라지거나 여러 시험을 동시에 할 수 있다면 결과는 달라진다. 반대로 다음 시험을 시작하려면 앞선 결과를 반드시 기다려야 한다면 그 순서가 남는다. 실제 사례를 평가할 때는 계산 자원, 실험 대기, 검증 등 어떤 단계가 시간을 차지하는지 확인해야 한다. 여기서 제시한 10시간과 90시간은 실제 연구 현장의 측정값이 아니다.

5. 반복 개선의 크기와 반복 횟수를 따로 보기

이번에는 동일한 작업의 처리량이라는 하나의 명확한 지표를 잡아보자. 매번 이전보다 5%씩 좋아지고 그 개선이 그대로 누적된다고 가정하면, 20번 뒤의 처리량은 처음의 약 2.65배가 된다. 5%를 스무 번 단순히 더하는 것과 달리, 매번 커진 값을 바탕으로 다시 개선되기 때문이다.

다만 이 계산이 보여주는 것은 주어진 가정의 결과다. 실제로 매회 5% 개선이 가능한지, 같은 기간에 20회를 끝낼 수 있는지, 성과가 다른 과제에도 이어지는지는 각각 별도로 확인해야 한다. 특정 작업의 처리량을 ‘지능 전체가 몇 배’라는 표현으로 바꾸는 것도 추가 근거가 필요하다. 반복이 있다는 사실만으로 폭발의 규모와 시점을 확정할 수는 없다.

6. 조건부 시나리오와 발생 확률을 구분하기

‘어떤 전제가 성립하면 결과가 빠르게 나타난다’는 설명에는 전제 자체가 성립할 확률이 들어 있지 않을 수 있다. 순수한 확률 예시로, 일정 기간 안에 전제 A가 성립할 가능성을 40%, A가 성립했을 때 결과 B까지 이어질 가능성을 60%라고 가정하자. 두 사건이 순서대로 모두 일어날 확률은 24%다. 조건부 60%를 전체 가능성으로 읽으면 다른 답이 된다.

이 숫자들은 AI에 대한 추정치가 아니다. 전망을 읽을 때 ‘무슨 일이 가능하다는 설명인가’, ‘얼마나 가능성이 높다는 추정인가’, ‘언제 일어난다는 예측인가’를 구별하기 위한 예시다. 개발 속도, 발생 확률, 대응에 필요한 시간은 각각 다른 근거를 요구한다.