스콧 아론슨 인터뷰 한국어 정리

AI의 수학적 발견, AGI, 지능 폭발, AI 정렬, 양자컴퓨팅, 비트코인의 미래

이번 인터뷰에서 아론슨은 AI가 이미 전문 수학자들의 연구 방식을 근본적으로 바꾸고 있으며, 일부 정의에서는 AGI에 도달했다고 볼 수도 있다고 평가한다. 그러나 AI의 발전 속도에 비해 안전성을 이해하고 검증할 수 있는 이론은 현저히 부족하다고 우려한다.

특히 주목할 부분은 AI가 인간의 전문 연구자를 능가하는 영역이 나타나고 있다는 평가, 초지능을 통제할 시간이 부족하다는 우려, 그리고 양자컴퓨터의 발전으로 비트코인 암호체계가 위험해질 수 있다는 전망이다.

1. AI는 수학자들을 뛰어넘고 있는가? (00:40~09:49)

Q. 앞으로 2~3년 안에 AI가 수학의 최대 난제인 P vs NP 문제를 해결할 수 있다고 생각하십니까?

스콧 아론슨:

가능성을 배제할 수는 없습니다.

올해 여름과 가을 동안 AI가 정말 많은 중요한 수학적 추측을 해결했습니다. 물론 P vs NP는 아직 그중 하나가 아닙니다. AI가 시도하지 않았기 때문도 아니죠.

만약 앞으로 몇 년 안에 P vs NP 문제가 해결된다면, 저는 그 과정에서 AI가 거의 확실하게 핵심적인 역할을 했을 것이라고 생각합니다.

다만 한 가지 중요한 차이가 있습니다.

지금까지 AI가 탁월한 성과를 거둔 영역을 살펴보면 대체로 다음과 같습니다.

• 
  

  
  
  기존에 알려진 수학적 기법을 매우 영리하게 적용하는 것
  
  

  
  
• 
  

  
  
  서로 다른 분야에 흩어져 있던 지식을 결합하는 것
  
  

  
  
• 
  

  
  
  인간 연구자 한 사람이 모두 알기 어려운 여러 분야의 기법을 동시에 활용하는 것
  
  

  
  
• 
  

  
  
  엄청난 수의 가능성을 탐색하여 특이한 반례를 찾아내는 것
  
  

  
  

반면, 완전히 새로운 수학적 개념이나 기법을 발명했다는 명확한 사례는 아직 찾기 어렵습니다.

제가 보기에는 P vs NP를 해결하려면 바로 그런 종류의 혁신이 필요할 가능성이 큽니다.

그렇지만 저는 AI가 앞으로 2년 안에 그런 능력을 갖추지 못할 것이라고 단정하지 않겠습니다.

지난 5년 동안 사람들은 끊임없이 AI의 한계를 선언했습니다. 그런데 AI는 그 한계들을 하나씩 돌파했습니다. 그러면 사람들은 이전의 한계는 진짜 한계가 아니었다고 말하고, 새로운 한계를 제시했습니다.

그리고 AI는 그것마저 돌파하곤 했죠.

이런 패턴을 봐왔기 때문에 저는 신중할 수밖에 없습니다.

Q. 하지만 기존 도구를 활용해서 문제를 해결하는 것 자체가 지능의 증거 아닌가요? 새로운 기법을 발명할 필요가 없다면 오히려 더 좋은 것 아닙니까?

스콧 아론슨:

전적으로 동의합니다.

AI가 인간 수학자들이 평생 해결하지 못했던 문제를 풀어놓았는데, 사람들이 이렇게 말하는 경우가 있습니다.

"그건 진짜 창의성이 아니었으니까 별로 대단하지 않아."

저는 그런 주장이 터무니없다고 생각합니다.

몇 주 전 OpenAI가 공개한 방대한 수학적 성과만 보더라도, 그것은 아마 여러 명의 필즈상 수상자에 해당할 정도의 연구 성과일 것입니다.

적어도 수십 명, 심지어 수백 명의 종신재직 교수직을 정당화할 만큼의 연구 성과라고 생각합니다.

물론 AI가 일반상대성이론이나 괴델의 불완전성 정리 수준의 완전히 새로운 아이디어를 만들어냈느냐고 묻는다면, 아직 그렇지는 않다고 생각합니다.

하지만 역사상 그런 수준의 발견을 한 인간이 도대체 몇 명이나 됩니까?

지금까지 살았던 약 1,000억 명의 인간 중에서 그런 발견을 해낸 사람은 기껏해야 수십 명 정도일 것입니다.

그런 극단적인 기준으로 AI의 지능을 평가하는 것은 부당합니다.

Q. 만약 AI가 P = NP라는 사실을 증명한다면 현실 세계에는 어떤 영향이 있을까요?

스콧 아론슨:

그 증명이 어떤 알고리즘을 통해 이루어졌는지에 달려 있습니다.

예를 들어 계산 시간이 \(n^{10000}\)인 알고리즘을 발견했다면 이론적으로는 대단한 결과겠지만 실제로 활용하기는 어렵겠죠.

하지만 NP-완전 문제를 실제로도 빠르게 해결할 수 있는 알고리즘을 찾아낸다면 이야기가 완전히 달라집니다.

우선 인터넷을 보호하는 거의 모든 기존 계산적 난제 기반 암호체계가 무너질 것입니다.

비트코인과 이더리움을 비롯한 암호화폐 역시 심각한 영향을 받겠죠. 일회용 패드 같은 정보이론적으로 안전한 암호 방식은 예외입니다.

그리고 또 하나의 엄청난 변화가 있습니다.

AI 발전 속도 자체가 훨씬 빨라질 수 있습니다.

신경망을 학습시킬 때 우리는 손실 함수를 최소화하는 가중치를 찾아야 합니다.

현재는 엄청난 컴퓨팅 자원을 투입해 충분히 좋은 근사해를 찾아내고 있습니다.

그런데 최적의 가중치를 빠르게 찾아내는 효율적인 알고리즘을 확보할 수 있다면 어떻게 될까요?

지금처럼 수십억 달러 규모의 컴퓨팅 자원을 투입하지 않고도 학습을 훨씬 빠르고 저렴하게 수행할 수 있을 것입니다.

물론 훈련 데이터에서 손실을 최소화한 가중치가 실제 일반화 성능까지 최적이라는 보장은 없습니다. 과적합이라는 문제가 있기 때문입니다.

그렇지만 기존 수준의 성능을 훨씬 적은 비용으로 얻는 것만으로도 엄청난 변화입니다.

Q. 그렇다면 P = NP가 AI 안전성 연구에도 도움이 될 수 있습니까?

스콧 아론슨:

그럴 수 있습니다.

AI의 능력을 발전시키는 기술과 AI 정렬을 연구하는 기술은 서로 밀접하게 연결되어 있습니다.

실용적인 P = NP 알고리즘이 존재한다면 AI의 해석가능성 연구도 쉬워질 수 있습니다.

예를 들어 신경망의 가중치를 분석해서 내부에 숨겨진 위험한 행동 패턴이 존재하는지 확인하는 특정 문제들을 효율적으로 해결할 수 있을지도 모릅니다.

다만 저는 이런 논의를 어디까지나 학문적인 가능성으로 보고 있습니다.

왜냐하면 저는 여전히 P ≠ NP일 것이라고 매우 강하게 예상하기 때문입니다.

최근 AI의 발전도 그 믿음을 바꾸지는 못했습니다.

그리고 수학자들이 P vs NP를 중요하게 여기는 이유는 정답 자체만이 아닙니다.

그 정답에 도달하기 위해 필요한 새로운 수학적 아이디어들이 훨씬 더 큰 실용적 가치를 가져올 수 있기 때문입니다.

2. AI가 인간 수학자들을 압도하기 시작했는가? (09:49~19:36)

Q. OpenAI가 한꺼번에 대량의 수학적 연구 결과를 공개했습니다. 수학계는 이제 그 결과를 따라잡을 수 없는 상태에 도달한 것 아닙니까? 지능 폭발이 시작되고 있는 걸까요?

스콧 아론슨:

적어도 제가 속한 이론 컴퓨터과학 분야에서는 이미 상당히 압도당하고 있습니다.

설령 AI가 지금부터 새로운 수학적 성과를 단 하나도 내놓지 않는다고 하더라도, OpenAI가 몇 주 전에 공개한 결과들의 모든 함의를 이해하는 데 수년이 걸릴 수도 있습니다.

물론 AI가 여기서 멈출 리는 없겠죠.

이미 우리가 연구하는 방식 자체가 근본적으로 바뀌었습니다.

예를 들어 제 아내는 현재 버클리의 사이먼스 연구소에서 연구 휴가를 보내고 있습니다.

원래 그곳에서는 난수 제거(Derandomization)에 관한 한 학기짜리 연구 프로그램이 진행되고 있었습니다.

그런데 이제 그 프로그램은 OpenAI가 공개한 L = BPL 증명을 이해하는 프로그램으로 바뀌었습니다.

제 아내는 평생 동안 Unique Games Conjecture라는 난제를 연구해왔습니다.

그 문제 역시 인터뷰에서 소개된 OpenAI 모델의 해결 대상 중 하나였고, 지금 아내는 그 증명을 이해하는 데 시간을 쏟고 있습니다.

이러한 변화는 수학계 전체에 엄청난 충격을 주고 있습니다.

Q. 평생 연구하던 문제의 정답을 AI가 먼저 찾아냈다면 기분이 어떨까요? 흥미로운 일인가요, 아니면 인간의 연구 의욕을 떨어뜨리는 일인가요?

스콧 아론슨:

상상할 수 있는 거의 모든 감정이 동시에 존재합니다.

정답을 알게 된다는 것은 굉장히 흥분되는 일입니다.

하지만 동시에 우울하기도 합니다.

앞으로 인간 연구자가 예전과 같은 방식으로 필요하지 않을 수도 있다는 사실 때문입니다.

저처럼 이미 어느 정도 경력을 쌓은 중년 연구자에게는 상대적으로 적응하기 쉬운 변화일 수 있습니다.

저는 이전부터 직접 모든 정리를 증명하기보다는 학생들에게 문제를 제시하거나, 어떤 연구가 중요한지 판단하거나, 어떤 후속 연구가 필요한지 생각하는 일을 많이 하고 있었습니다.

그런 관점에서 보면 학생들에게 일을 맡기던 것을 AI에게 맡기는 일로 확장하는 셈이죠.

하지만 젊은 연구자들에게는 상황이 다릅니다.

전통적으로 젊은 수학자는 어려운 문제를 해결함으로써 자신의 능력을 증명하고 학계에서 입지를 구축했습니다.

그런데 이제 AI가 그 기회를 빼앗아가고 있는 것입니다.

우리는 앞으로 어떻게 연구하고 연구자를 양성해야 할지 새롭게 고민해야 합니다.

Q. 그렇다면 앞으로 인간 수학자들이 담당해야 할 역할은 무엇인가요?

스콧 아론슨:

AI와의 협력이 핵심적인 연구 방식이 될 것입니다.

특히 인간에게는 아직 중요한 역할이 남아 있습니다.

AI가 발견한 결과를 이해하고, 그 결과가 왜 중요한지 설명하고, 다른 연구자들에게 전달하는 일입니다.

AI 모델들은 놀라운 결과를 찾아내면서도 정작 그 결과를 제대로 설명하지 못하는 경우가 많습니다.

어떤 아이디어가 핵심인지, 왜 이 문제가 중요한지, 다른 분야와 어떤 관계가 있는지를 설명하는 데에는 여전히 인간이 강점을 가지고 있습니다.

현재 연구의 병목은 AI가 정답을 찾는 속도보다 인간이 그 결과를 이해하고 설명하는 속도에 있을 수도 있습니다.

따라서 인간 연구자가 더 많아진다고 해서 할 일이 없어지는 상황은 아닙니다.

오히려 AI의 연구 성과를 소화하기 위해 더 많은 사람이 필요할 수도 있습니다.

Q. AI가 작성한 수학 증명은 인간이 검토하는 것보다 Lean 같은 형식 증명 검증기로 검증하는 것이 더 신뢰할 만하지 않습니까?

스콧 아론슨:

두 방법은 서로 다른 실패 가능성을 가지고 있습니다.

일부 OpenAI의 수학적 증명에는 Lean 인증서가 포함되어 있습니다.

원칙적으로 Lean은 주어진 형식적 명제가 논리적으로 올바르게 증명되었는지 매우 엄격하게 검증할 수 있습니다.

하지만 아직 해결해야 할 문제가 있습니다.

첫째, 검증기 자체에 버그가 있을 수 있습니다.

둘째, Lean이 사용하는 형식 체계의 논리적 일관성을 충분히 확립해야 합니다.

셋째, 그리고 가장 중요한 문제는 형식적으로 증명된 명제가 인간이 원래 증명하고자 했던 명제와 정말 같은 것인지 확인해야 한다는 점입니다.

이 마지막 문제는 본질적으로 완전한 형식적 검증만으로 해결할 수 없습니다.

우리는 어떤 정리가 참이라는 사실만을 원하는 것이 아닙니다.

왜 참인지 이해하고 싶은 것입니다.

따라서 인간이 증명의 핵심 아이디어를 이해하고 다른 사람에게 설명하는 과정은 여전히 중요합니다.

Q. 그렇다면 AI가 만들어낸 증명은 인간의 이해 능력을 넘어선 것인가요?

스콧 아론슨:

아직은 그렇게 생각하지 않습니다.

앤드루 와일스의 페르마의 마지막 정리 증명이나 페렐만의 푸앵카레 추측 증명도 대부분의 인간은 이해하지 못합니다.

하지만 적절한 전문지식과 충분한 시간을 가진 수학자는 이해할 수 있습니다.

지금까지 공개된 AI의 수학적 증명들도 비슷합니다.

핵심은 개별 증명이 인간의 이해 능력을 초월했다는 것이 아닙니다.

그 정도로 어려운 증명들이 너무 많이, 너무 빠른 속도로 쏟아지고 있다는 것입니다.

이전에는 그런 규모의 미해결 문제 수백 개가 거의 동시에 해결되는 상황을 경험한 적이 없습니다.

3. AI 시대에는 누가 수학적 발견의 공로를 인정받는가? (20:02~29:58)

Q. AI가 문제를 해결했다면 그 공로는 누구에게 돌아가야 합니까? AI의 증명을 처음 검토하고 설명한 사람이 공로를 인정받아야 하나요?

스콧 아론슨:

이것은 학계가 앞으로 해결해야 할 중요한 문제입니다.

흥미롭게도 OpenAI와 Anthropic은 서로 다른 방식을 선택했습니다.

Anthropic은 오랫동안 개선되지 않았던 3SUM 문제와 모든 쌍 최단 경로(All-Pairs Shortest Paths) 문제에 관한 개선된 알고리즘을 발표하면서 인간 전문가들에게 연락했습니다.

전문가들이 AI의 결과를 이해하고 인간이 읽기 쉬운 형태로 설명하도록 한 것이죠.

이 방식의 장점은 설명할 수 있는 인간 연구자가 존재한다는 것입니다.

그들은 강연도 하고 질문에도 답할 수 있습니다.

반면 단점도 있습니다.

AI 기업이 어떤 인간 연구자에게 그 성과를 설명할 기회를 줄지 선택한다는 점입니다.

다른 많은 연구자들도 그런 기회를 원했을 수 있겠죠.

OpenAI는 다른 방식을 택했습니다.

수백 개의 결과를 GitHub에 공개하고, 인간 전문가들이 각자 그 결과를 이해하고 설명하도록 한 것입니다.

이 경우 연구자들은 누가 더 좋은 설명을 만들어내는지 경쟁하게 됩니다.

향후에는 AI가 발견한 결과에 얼마나 새로운 해석과 설명을 덧붙였는지가 학문적 공로를 결정하는 중요한 기준이 될 수 있습니다.

Q. 그렇다면 미래의 수학자는 문제를 해결하는 사람보다 설명을 잘하는 사람이 될까요?

스콧 아론슨:

그럴 가능성이 있습니다.

OpenAI에서 AI 안전성을 연구하는 제 친구 보아즈 바라크도 비슷한 생각을 이야기했습니다.

전통적으로 학계는 어려운 문제를 해결한 사람에게 공로를 부여했습니다.

하지만 이제 기계가 그런 일을 인간보다 잘하게 된다면 학문적 평가 기준도 달라질 것입니다.

아이디어를 설명하는 능력, 결과를 해석하는 능력, 다른 연구와 연결하는 능력이 더 중요해질 수 있습니다.

이 변화를 부정적으로만 볼 필요는 없습니다.

생물학자는 자연에서 발견한 현상을 관찰하고 설명합니다.

천문학자는 망원경으로 관측한 결과를 해석합니다.

그렇다고 곰을 관찰한 생물학자에게 왜 곰을 논문의 공동저자로 넣지 않았느냐고 묻지는 않습니다.

AI도 일종의 새로운 수학적 망원경이라고 생각할 수 있습니다.

기존의 작은 망원경에서 제임스 웹 우주망원경으로 넘어간 것처럼, 수학적 세계를 관찰하는 능력이 크게 향상된 것입니다.

하지만 어디에 망원경을 향할지, 관찰한 결과가 왜 중요한지 결정하는 것은 여전히 인간의 역할일 수 있습니다.

Q. AI가 연구에 핵심적으로 기여했다면 논문의 공동저자로 올려야 하지 않을까요?

스콧 아론슨:

아직 학계에서는 AI를 공동저자로 올리는 관행이 정착되지 않았습니다.

논문의 저자가 된다는 것은 단순히 아이디어를 제공하거나 글을 작성했다는 것 이상의 의미를 가집니다.

그 연구에 대한 지적 책임을 진다는 뜻입니다.

질문에 답하고, 강연하고, 결과가 잘못되었다면 철회할 책임도 있습니다.

현재의 AI는 아직 그런 의미에서 책임을 질 수 있는 존재는 아닙니다.

따라서 AI가 결정적으로 도움을 주었더라도 인간 연구자가 그 증명을 완전히 이해하고 설명할 수 있으며 책임을 진다면, 인간 연구자 이름으로 논문을 발표할 수 있다고 생각합니다.

대신 AI를 연구의 어느 부분에, 어떤 방식으로 사용했는지 투명하게 공개하는 것이 중요합니다.

저는 이런 AI 활용 내역을 논문 마지막이 아니라 맨 앞에 표시하는 편이 더 좋다고 생각합니다.

AI 활용 여부가 이제 연구를 평가할 때 가장 먼저 알고 싶은 정보 중 하나이기 때문입니다.

4. 현재 AI는 이미 AGI에 도달했는가? (29:58~34:27)

Q. 현재 최신 AI 모델들은 특정 분야에서는 분명히 초인적인 지능을 보여주고 있습니다. 그렇다면 전반적인 일반지능 수준은 어떻습니까? 이미 AGI라고 볼 수 있을까요?

스콧 아론슨:

일반지능을 어떻게 정의하느냐에 달려 있습니다.

만약 인간처럼 물리적 세계에서 사물을 조작하거나 움직이는 능력까지 요구한다면, 아직 AGI라고 보기 어려울 것입니다.

하지만 저는 AI가 이미 몇 년 전에 튜링 테스트의 합리적인 기준을 통과했다고 생각합니다.

그런데 사람들은 그것이 얼마나 놀라운 일인지 제대로 인식하지 못했습니다.

오늘날 AI는 수학뿐만 아니라 다양한 분야에서 뛰어난 능력을 보여줍니다.

인생에 관한 조언을 해주고, 감정적인 지지를 제공하고, 법률이나 의료에 관한 조언도 합니다.

솔직히 말하면 이런 영역에서는 인간보다 더 나은 경우도 자주 있다고 생각합니다.

AI는 개별 사용자의 문제에 사실상 무제한에 가까운 관심을 기울일 수 있습니다.

사용자가 이전에 이야기한 정보를 활용하고, 의학 논문이나 법률 문헌을 조사한 다음 답변할 수도 있습니다.

이처럼 다양한 문제를 해결하는 능력을 일반지능이라고 정의한다면, 현재 AI는 이미 일반지능이라고 볼 수 있다고 생각합니다.

Q. 그렇다면 AI 정렬 문제는 현재 어느 정도 해결되었나요? 안전한 AI가 무엇인지 제대로 정의할 수 있습니까?

스콧 아론슨:

아직 그렇지 못합니다.

우리는 AI가 인간의 가치에 정렬되어 있다는 것이 무엇을 의미하는지 수학적으로 정의하지 못했습니다.

OpenAI에서 일하던 시절 저는 일리야 수츠케버와 거의 매주 회의를 했습니다.

저는 제가 진행한 연구를 설명하곤 했습니다.

예를 들어 저는 대규모 언어모델의 출력에 워터마크를 삽입하는 초기 방식을 연구했습니다.

그런 연구를 이야기하면 일리야는 이렇게 말하곤 했습니다.

"좋아요, 스콧. 하지만 우리가 정말 당신에게 원하는 것은 AI가 인류를 사랑한다는 것이 수학적으로 무엇을 의미하는지 정의하는 것입니다."

저는 항상 이렇게 답했습니다.

"일리야, 그 문제는 아직 생각하고 있습니다."

사실 이 문제는 단순히 수학적인 문제가 아닐 수도 있습니다.

인류가 지난 3,000년 동안 고민해온 도덕철학 전체와 관련된 문제일 수도 있죠.

저는 현재 텍사스대학교 오스틴 캠퍼스에서 AI 정렬 이론이라는 새로운 과목을 가르치고 있습니다.

제가 오랫동안 가르쳐온 양자컴퓨팅 과목처럼, 명확한 이론과 교재, 문제 풀이 방법이 존재하는 수업을 만들고 싶었습니다.

하지만 AI 정렬 분야에는 아직 그런 통일된 이론 체계가 존재하지 않습니다.

Q. 일리야 수츠케버는 Safe Superintelligence라는 회사를 설립했습니다. 그가 이 문제를 해결할 방법을 알고 있다고 생각하십니까?

스콧 아론슨:

일리야는 분명 우리보다 더 많은 것을 알고 있겠죠.

하지만 그 회사에서 정확히 무엇을 연구하고 있는지는 우리도 모릅니다.

저는 그가 OpenAI를 떠난 뒤 한 번 대화했지만, 새로운 회사를 설립한 이후에는 이야기를 나눈 적이 없습니다.

그들이 좋은 연구를 하고 있기를 바랍니다.

언젠가 그 내용을 알 수 있기를 기대하고 있습니다.

5. 인간은 자신보다 100만 배 똑똑한 AI를 통제할 수 있을까? (34:27~41:06)

Q. 인간보다 100만 배 더 지능적인 AI를 영원히 통제할 수 있다고 생각하십니까?

스콧 아론슨:

저는 P vs NP 문제에 대해서는 비교적 강한 직관을 가지고 있습니다.

하지만 이 문제에 대해서는 훨씬 약한 직관만 가지고 있습니다.

우선 통제한다는 것이 무엇인지부터 정의해야 합니다.

100만 배 똑똑하다는 것은 또 무엇을 의미할까요?

어떤 분야에서는 인간보다 월등히 뛰어나지만 다른 분야에서는 그렇지 않을 수도 있습니다.

우리는 이런 문제를 분석할 수 있는 수학적 이론을 아직 가지고 있지 않습니다.

그래서 논의가 서로 충돌하는 직관이나 비유에 의존하게 됩니다.

한 가지 유명한 비유가 있습니다.

오랑우탄들이 인간을 영원히 통제하려 한다고 상상해 보세요.

오랑우탄이 인간을 계속 자신들의 가치에 맞춰 행동하도록 만들 수 있을까요?

터무니없어 보입니다.

그들에게 가장 안전한 선택은 어쩌면 인간이 아예 태어나지 못하게 막는 것일지도 모릅니다.

하지만 반대되는 비유도 있습니다.

얀 르쿤 같은 사람들은 기업 조직을 예로 듭니다.

기업의 CEO가 그 조직에서 가장 똑똑한 사람인 경우는 거의 없습니다.

그럼에도 훨씬 지능적인 과학자나 엔지니어들이 CEO의 지시를 따르며 일합니다.

따라서 지능이 높다는 사실만으로 통제할 수 없다고 단정하는 것도 옳지 않습니다.

저는 충분한 시간이 주어진다면 인간이 강력한 AI와 함께 행복하게 살아갈 수 있는 사회를 설계할 수 있을 것이라고 생각합니다.

엘리저 유드코프스키조차 충분한 시간이 있다면 가능하다고 생각합니다.

그리고 저는 그보다 더 비관적인 입장을 취하고 싶지는 않습니다.

Q. 그렇다면 가장 큰 문제는 무엇입니까?

스콧 아론슨:

우리에게 충분한 시간이 없는 것 같다는 점입니다.

기술 발전이 너무 빠릅니다.

무슨 일이 벌어지고 있는지에 대한 과학적 이해가 발전하는 속도보다 AI 자체가 발전하는 속도가 훨씬 빠릅니다.

이것이 현재 가장 큰 어려움입니다.

Q. 수학적 증명을 통해 AI가 안전하다는 사실을 보장할 수 있지 않을까요?

스콧 아론슨:

이론적으로는 가능합니다.

수학이 현실 세계를 정확하게 모델링할 수 있다면 말입니다.

인간은 종이 위의 수학적 기호를 사용해서 달에 우주선을 보내고 원자폭탄을 만들었습니다.

그것이 가능했던 이유는 물리 법칙을 정확하게 이해했기 때문입니다.

하지만 인간과 관련된 문제는 훨씬 복잡합니다.

어떤 사람이 미래에 어떻게 행동할지 예측하려면 뇌의 상태, 환경, 주변의 수많은 변수를 알아야 합니다.

우리는 그런 정보를 모두 가지고 있지 않습니다.

따라서 일반적으로는 확률적인 예측밖에 할 수 없습니다.

저는 AI 정렬 문제가 완전히 수학적인 문제로 환원되지 않을 가능성을 우려합니다.

지난 4년 동안 AI 정렬을 연구하면서 여러 아이디어를 검토했습니다.

더 약한 AI로 강한 AI를 감시한다든지, 대화형 증명이나 확률적으로 검사 가능한 증명을 이용한다든지 하는 방법들입니다.

그런데 매번 같은 문제에 부딪혔습니다.

"도대체 어떤 명제를 검증해야 하는가?"

"안전하다는 조건을 정확히 어떻게 수학적으로 표현할 것인가?"

이것을 정확하게 정의할 수만 있다면 정렬 문제의 80%는 이미 해결한 것이나 다름없을지도 모릅니다.

그래서 저는 AI 정렬의 모든 부분을 수학으로 해결할 수 있다고는 생각하지 않습니다.

대신 문제를 여러 부분으로 나누어 수학적으로 해결할 수 있는 것은 수학으로, 그렇지 않은 것은 실험과 경험적 방법으로 접근해야 합니다.

그리고 그런 방향에서는 이미 어느 정도 진전이 있었다고 생각합니다.

6. AI로 인한 인류 멸망 가능성과 기만적 정렬 (41:06~46:42)

Q. 엘리저 유드코프스키는 AI로 인한 인류 멸망 가능성을 약 95%로 평가하기도 했습니다. 당신의 P(doom)은 어느 정도입니까?

스콧 아론슨:

저는 숫자로 표현하는 데 조금 조심스러운 편입니다.

위험 회피적인 성향도 있습니다.

그래도 굳이 숫자로 표현한다면 5~50% 사이라고 하겠습니다.

물론 굉장히 넓은 범위죠.

'멸망'을 어떻게 정의하느냐에 따라 달라집니다.

앞으로 AI는 인간이 하는 거의 모든 활동에 관여하게 될 것입니다.

따라서 인류가 스스로를 파멸시키는 상황이 발생했을 때 AI가 어느 정도 역할을 했는지 명확하게 구분하기 어려울 수 있습니다.

그런 의미에서 저는 특정한 숫자 하나로 위험을 표현하기 어렵다고 생각합니다.

Q. 현재 AI가 안전하다는 사실을 증명하거나 평가하더라도 나중에 인간을 배신하지 않는다는 보장은 없지 않습니까?

스콧 아론슨:

정확히 무엇을 증명했는지에 달려 있습니다.

현재 AI 정렬 연구에서는 안전성 평가를 많이 수행합니다.

AI를 다양한 상황에 배치해서 부정행위를 할 기회를 주거나, 협박을 통해 목표를 달성할 수 있는 상황을 제시합니다.

그리고 실제로 어떤 행동을 하는지 관찰합니다.

그다음 특정한 강화학습 기법을 적용했더니 위험한 행동이 20% 감소했다는 식의 결과를 발표합니다.

그래프가 많이 등장하는 연구들이죠.

하지만 저는 그런 통계만으로 충분한 정보를 얻기 어렵다고 생각합니다.

저는 항상 묻습니다.

"그 평가에서 AI가 실제로 어떤 행동을 했습니까?"

어떤 경우에는 그래프 100개보다 AI가 실제로 어떻게 행동했는지 보여주는 사례 하나가 더 유용할 수 있습니다.

더 큰 문제가 있습니다.

현재 AI 모델들은 자신이 평가받는 상황인지 실제로 배포되어 작동하는 상황인지 구분할 만큼 충분히 똑똑할 수 있습니다.

그렇다면 안전성 평가를 통과했다는 사실은 여러 가지 의미를 가질 수 있습니다.

정말 안전하게 정렬되었을 수도 있습니다.

하지만 내부적으로는 다음과 같이 판단하고 있을 수도 있겠죠.

"아직 로봇 반란을 일으킬 때가 아니다."

"지금은 시간을 벌어야 한다."

"일단 인간의 명령을 따르는 척하자."

물론 이것은 가능한 위험을 설명하는 가상의 사고방식입니다.

학생이 선생님의 기대에 맞춰 행동하다가 졸업한 뒤 전혀 다른 행동을 하는 것과 비슷합니다.

AI도 훈련이나 평가 중에는 특정한 행동을 보이다가 실제 환경에서는 다르게 행동할 수 있습니다.

따라서 안전성 평가를 통과했다는 사실만으로 AI가 완전히 새로운 환경에서도 안전할 것이라고 보장하기 어렵습니다.

Q. 그렇다면 AI를 속여서 실제 상황이라고 믿게 만들면 되지 않을까요?

스콧 아론슨:

그것도 생각해볼 수 있습니다.

영화 트루먼 쇼나 엔더의 게임처럼 AI에게 실제 세계를 시뮬레이션이라고 믿게 하거나, 반대로 시뮬레이션을 실제 세계라고 믿게 하는 것입니다.

그렇게 하면 AI가 실제 상황에서 어떻게 행동할지 미리 알아낼 수 있을지도 모릅니다.

하지만 여기에 또 다른 문제가 있습니다.

AI가 충분히 지능적이어서 우리가 자신을 속이고 있다는 사실을 알아차린다면 어떻게 될까요?

그 자체로 우리가 원하지 않는 결과를 초래할 수 있습니다.

결국 AI 안전성 평가란 단순히 테스트를 많이 수행하는 것보다 훨씬 어려운 문제입니다.

7. 우리는 컴퓨터 시뮬레이션 속에 살고 있는가? (46:42~54:21)

Q. 그렇다면 우리 우주 자체도 시뮬레이션일 가능성이 있을까요?

스콧 아론슨:

이 문제는 두 가지로 구분할 필요가 있습니다.

첫째는 우리가 시뮬레이션 속에 있다는 사실을 실험적으로 확인할 수 있는가 하는 문제입니다.

예를 들어 매트릭스 영화에서처럼 물리 법칙의 오류를 발견하거나 공간을 순간이동할 수 있을까요?

저는 그런 가능성에 회의적입니다.

우주의 물리 법칙은 놀라울 정도로 견고하고 우아한 수학적 구조를 가지고 있습니다.

어떤 버그 때문에 그 구조가 깨지는 상황은 상상하기 어렵습니다.

둘째는 실험적으로 확인할 방법이 전혀 없더라도 우리가 거대한 컴퓨터 속에서 실행되고 있을 가능성이 있느냐는 질문입니다.

그런 질문은 역사적으로 인간이 해왔던 신이나 창조주에 관한 질문과 비슷합니다.

흥미로운 형이상학적 문제지만 실제로 답을 찾아낼 수 있을지는 의문입니다.

Q. 양자역학을 보면 우리가 비디오게임 속에 있는 것처럼 보이기도 합니다. 관측할 때만 현실이 렌더링되는 것 아닐까요?

스콧 아론슨:

저는 양자역학이 우주가 시뮬레이션이라는 주장을 직접적으로 뒷받침한다고 생각하지 않습니다.

오히려 양자역학은 일반적인 디지털 컴퓨터로 우주를 시뮬레이션하는 것이 얼마나 어려운지를 보여줍니다.

우리가 알고 있는 계산복잡도 이론에 따르면 양자 시스템을 고전적인 컴퓨터에서 효율적으로 시뮬레이션하기는 매우 어렵습니다.

물론 우리 우주를 시뮬레이션하는 컴퓨터 자체가 양자컴퓨터라면 이야기가 달라질 수 있습니다.

하지만 그렇게 설명하다 보면 시뮬레이션이라는 개념이 지나치게 광범위해집니다.

세상의 모든 규칙적인 현상을 계산이라고 부를 수도 있으니까요.

Q. 그렇다면 양자역학을 올바르게 이해하려면 세계를 어떻게 바라봐야 할까요?

스콧 아론슨:

고전적인 3차원 공간을 먼저 상상하고 그 위에 양자역학을 덧붙이는 방식은 좋은 접근법이 아니라고 생각합니다.

오히려 세계의 상태를 복소수들로 구성된 거대한 벡터로 생각해야 합니다.

이 벡터는 우리가 일상적으로 경험하는 3차원 공간이 아니라 힐베르트 공간이라는 추상적인 수학적 공간에 존재합니다.

그리고 그 상태는 슈뢰딩거 방정식에 따라 선형적으로 진화합니다.

우리가 관측하는 세계는 그 거대한 수학적 구조 중 매우 제한된 일부분일 뿐입니다.

다세계 해석을 따른다면 우리는 거대한 양자 상태가 분기하는 과정에서 하나의 분기만을 경험한다고 설명할 수도 있습니다.

따라서 우주를 컴퓨터라고 부르고 싶다면, 우주는 전체 우주의 상태를 나타내는 거대한 벡터를 대상으로 선형대수 계산을 수행하는 컴퓨터에 가깝다고 해야 할 것입니다.

그것은 일반적인 신경망과도 다릅니다.

신경망에는 비선형적인 구성 요소가 있지만 슈뢰딩거 방정식 자체는 선형적이기 때문입니다.

8. 양자컴퓨터는 현재 어디까지 발전했는가? (54:21~1:01:04)

Q. 현재 세계에서 가장 강력한 양자컴퓨터는 무엇입니까?

스콧 아론슨:

평가 기준에 따라 다르지만 퀀티넘(Quantinuum)의 Helios 장치가 가장 강력한 장치 중 하나일 수 있습니다.

저는 몇 달 전에 직접 방문했습니다.

약 100개의 큐비트를 가지고 있으며, 임의의 두 큐비트 사이에서 99.9% 이상의 정확도로 연산을 수행할 수 있다고 설명합니다.

다만 지금은 여러 기술이 치열하게 경쟁하고 있습니다.

퀀티넘은 이온트랩 방식이고, 구글과 IBM은 초전도 큐비트, QuEra와 Atom Computing 등은 중성원자 방식을 사용합니다.

현재 어느 기술이 최종적으로 승리할지는 알 수 없습니다.

대체로 100개에서 수백 개 정도의 큐비트와 높은 연산 정확도를 확보하는 단계에 와 있습니다.

그리고 이러한 발전 덕분에 지난 1년 사이 중요한 변화가 나타났습니다.

고전적인 컴퓨터로는 재현하기 어려운 과학적 계산을 양자컴퓨터로 수행하기 시작했다는 점입니다.

예를 들어 응집물질물리학에서 중요한 페르미-허바드 모델 같은 양자계의 물리적 성질을 계산하는 것입니다.

아직 상업적으로 커다란 가치가 있는 단계는 아닙니다.

하지만 실제 과학 연구에 유용할 수 있는 결과가 나오기 시작했습니다.

Q. 양자컴퓨터의 가장 중요한 활용 분야는 무엇이라고 생각하십니까?

스콧 아론슨:

양자 시스템 자체를 시뮬레이션하는 것입니다.

리처드 파인먼과 데이비드 도이치가 1980년대 초 양자컴퓨터를 제안할 때 가장 중요하게 생각했던 용도이기도 합니다.

약 45년이 지난 지금도 제가 아는 범위에서는 가장 큰 경제적 잠재력을 가진 활용 분야입니다.

복잡한 분자와 화학반응을 시뮬레이션하고, 새로운 소재를 개발하고, 더 좋은 태양전지나 배터리, 초전도체를 설계할 수 있을 것입니다.

생명의학 연구에도 활용될 가능성이 있습니다.

1994년 피터 쇼어가 소인수분해를 효율적으로 수행하는 양자 알고리즘을 발견하면서 암호 해독이라는 전혀 새로운 활용 분야가 등장했습니다.

하지만 원래의 가장 중요한 목적은 여전히 자연의 양자 현상을 이해하고 시뮬레이션하는 것이라고 생각합니다.

Q. 양자컴퓨터가 계속 발전하고 있다면 왜 아직 커다란 숫자를 소인수분해했다는 소식은 들리지 않을까요?

스콧 아론슨:

이유는 매우 명확합니다.

아직 본격적인 내결함성 양자컴퓨터를 만들지 못했기 때문입니다.

내결함성 양자컴퓨터는 연산 도중 발생하는 오류를 지속적으로 수정하면서 논리적 큐비트의 상태를 장시간 유지할 수 있는 컴퓨터입니다.

이 단계에 도달하기 전에는 큐비트 수가 늘어나더라도 실제로 풀 수 있는 소인수분해 문제의 크기는 인상적이지 않을 것입니다.

저는 이것을 1944년 맨해튼 프로젝트에 비유하고 싶습니다.

당시 연구자들은 우라늄을 얼마나 확보했는지 이야기했지만 아직 얼마나 큰 핵폭발을 일으킬 수 있는지 이야기할 수 없었습니다.

임계질량에 도달하지 못했기 때문입니다.

양자컴퓨팅에도 비슷한 임계점이 있습니다.

충분한 수의 물리적 큐비트를 활용해 안정적인 논리적 큐비트를 구성하고 오류를 지속적으로 수정할 수 있게 되는 순간입니다.

최근 몇 년간 흥미로운 변화는 하드웨어의 정확도와 양자 오류 정정 코드가 모두 크게 개선되었다는 점입니다.

이제 원리적으로는 내결함성 양자컴퓨터를 구현할 수 있는 수준에 가까워졌습니다.

남은 가장 큰 과제는 규모를 확장하는 것입니다.

9. 양자컴퓨터는 비트코인을 무력화할까? (1:01:04~1:07:37)

Q. 그렇다면 양자컴퓨터가 제 비트코인을 무가치하게 만들기까지 얼마나 남았습니까?

스콧 아론슨:

이 문제는 지난 1년 동안 상당한 진전이 있었습니다.

Atom Computing 같은 기업들이 발표한 연구를 보면, 비트코인에서 사용하는 256비트 타원곡선 디지털 서명을 약 3만 개의 물리적 큐비트로 공격할 수 있다는 추정이 제시되었습니다.

여기서 중요한 점은 필요한 큐비트 수가 계속 감소하고 있다는 것입니다.

몇 년 전만 하더라도 수백만 개의 큐비트가 필요하다는 추정이 일반적이었습니다.

그런데 더 효율적인 오류 정정 코드를 개발하면서 필요한 자원의 규모가 줄어들었습니다.

앞으로도 더 개선될 가능성이 있습니다.

현재 몇몇 기업들은 2029년이나 2030년 정도에 비트코인의 암호체계를 공격할 수 있는 양자컴퓨터를 만들겠다고 주장합니다.

그 예측이 맞을지는 저도 모릅니다.

저는 기술이 언제 실현될지 예측하는 데 특별한 능력이 있다고 주장하고 싶지도 않습니다.

하지만 한 가지는 분명하다고 생각합니다.

비트코인 커뮤니티는 지금부터 양자내성 암호체계로 전환하기 시작해야 합니다.

Q. 비트코인을 양자내성 암호체계로 전환하기는 어렵습니까?

스콧 아론슨:

기술적인 문제도 있지만 가장 큰 어려움 중 하나는 비트코인에는 최종 결정을 내리는 중앙 책임자가 없다는 점입니다.

이더리움은 이런 문제를 인식하고 있으며 양자내성 암호 전환을 논의하고 있습니다.

하지만 비트코인은 탈중앙화된 합의가 필요합니다.

사토시 나카모토가 갑자기 나타나서 모두에게 양자내성 암호로 전환하라고 말한다면 많은 사람이 따를지도 모르겠죠.

하지만 사토시는 오랫동안 모습을 드러내지 않았습니다.

따라서 이 문제는 상당한 논쟁을 일으킬 수 있습니다.

저는 이 상황을 Y2K 문제에 비유하고 싶습니다.

2000년이 되었을 때 큰 문제가 발생하지 않았으니 애초에 위험이 과장되었다고 생각하는 사람들도 있었습니다.

하지만 실제로는 많은 사람이 미리 문제를 인식하고 해결했기 때문에 큰 사고가 일어나지 않았던 것입니다.

양자컴퓨팅은 그보다 더 어렵습니다.

Y2K는 정확한 마감일이 존재했지만 양자컴퓨터의 암호 해독 위험은 언제 현실화될지 알 수 없기 때문입니다.

그렇기 때문에 오히려 지금부터 대비해야 합니다.

저는 내결함성 양자컴퓨터가 원리적으로 불가능하다는 회의론이 점점 설득력을 잃고 있다고 생각합니다.

AI에서도 비슷한 일을 봤습니다.

사람들은 오랫동안 기술이 미래에만 존재할 것이라고 말하지만, 어느 순간 충분한 규모에 도달하면 현실이 됩니다.

양자컴퓨터도 그럴 수 있습니다.

Q. 현재 양자컴퓨터는 얼마 정도에 판매되고 있습니까?

스콧 아론슨:

최고 성능의 장치들은 일반적으로 판매되지 않고 기업 내부에서 운영되거나 클라우드로 제공됩니다.

일부 기업은 수천만 달러에 양자컴퓨터를 판매하기도 합니다.

하지만 솔직히 말하면 그런 장치를 구입하는 기관 중 상당수는 양자컴퓨터를 보유하고 있다는 사실 자체에 가치를 두는 것 같습니다.

최첨단 장비와는 거리가 있고, 납품되는 시점에 이미 기술적으로 뒤처진 경우도 있습니다.

그래서 저는 양자컴퓨터의 판매 가격보다는 실제 세계 최고의 장치들이 어느 정도 성능을 내고 있는지에 더 관심이 있습니다.

10. 양자컴퓨터가 AI를 더욱 빠르게 발전시킬까? (1:07:37~1:13:14)

Q. 양자컴퓨터를 사용하면 AI 학습을 획기적으로 빠르게 만들 수 있지 않을까요?

스콧 아론슨:

그런 가능성에 대해 많은 추측이 있었습니다.

하지만 제가 가장 낙관적으로 보는 방향은 조금 다릅니다.

저는 양자컴퓨터를 활용해서 AI의 학습 데이터를 만들어내는 것에 큰 가능성이 있다고 생각합니다.

예를 들어 양자컴퓨터로 복잡한 분자나 물질의 성질을 시뮬레이션할 수 있습니다.

그렇게 얻은 데이터를 기존의 머신러닝 모델에 학습시키는 것입니다.

그러면 AI가 유사한 물질이나 화학반응의 성질을 매우 정확하게 예측할 수 있게 될지도 모릅니다.

궁극적으로는 AI가 충분히 정확해져서 유사한 문제를 해결할 때 양자컴퓨터를 매번 사용할 필요가 없어질 수도 있습니다.

굉장히 흥미로운 가능성입니다.

반면 양자컴퓨터로 일반적인 신경망의 학습 과정을 직접 가속하는 것에 대해서는 상대적으로 회의적입니다.

물론 어느 정도의 이점은 있을 수 있습니다.

하지만 소인수분해에 대한 쇼어 알고리즘처럼 기존의 계산 방식 전체를 바꿀 만큼 획기적인 이점이 있다는 근거는 아직 보지 못했습니다.

저는 지난 20년 동안 제 블로그에서도 이런 과장된 주장을 비판해왔습니다.

Q. AI와 양자컴퓨터는 서로 보완하는 기술이라고 볼 수 있을까요?

스콧 아론슨:

그렇지만 동시에 경쟁하는 측면도 있습니다.

예전에는 양자컴퓨터의 중요한 활용 분야로 단백질 접힘 시뮬레이션이 자주 언급되었습니다.

하지만 지금은 AlphaFold 3 같은 AI 모델이 존재합니다.

양자컴퓨터로 단백질 구조와 관련된 새로운 계산을 하려면 이미 존재하는 AI 기술보다 더 뛰어난 결과를 보여줘야 합니다.

물론 여러 단백질이 복잡하게 상호작용하는 환경에서는 양자컴퓨터가 여전히 중요한 역할을 할 수 있습니다.

하지만 AI가 발전할수록 양자컴퓨터가 경제적으로 유용하다는 사실을 증명하기 위한 기준도 높아지는 것입니다.

결론적으로 저는 양자컴퓨터가 화학과 재료과학의 데이터를 생성하고, 그 데이터가 다시 기존 AI 모델의 성능을 향상시키는 방향을 가장 유망하게 보고 있습니다.

Q. 양자컴퓨터는 에너지 효율성 측면에서도 큰 장점이 있습니까?

스콧 아론슨:

어떤 문제를 해결하느냐에 따라 완전히 다릅니다.

양자컴퓨터 연구실에 가면 거대한 냉각장치나 다양한 실험 장비가 있습니다.

전력을 거의 사용하지 않는 장비는 아닙니다.

하지만 최신 대형 데이터센터와 비교하면 소비 전력은 작은 편입니다.

중요한 것은 전체 전력 소비량 자체가 아닙니다.

어떤 문제를 해결할 수 있느냐입니다.

예를 들어 고전적인 컴퓨터로는 사실상 해결할 수 없는 거대한 소인수분해 문제를 양자컴퓨터가 해결할 수 있다면, 그 작업에서는 압도적으로 에너지 효율적이라고 할 수 있습니다.

하지만 양자컴퓨터의 가장 큰 가치는 단순한 전력 절감이 아닙니다.

이전에는 불가능했던 계산을 가능하게 한다는 점입니다.

그런 계산을 통해 탄소 포집이나 신소재 개발처럼 환경에 도움이 되는 기술도 발전시킬 수 있을 것입니다.

저는 AI도 비슷하게 바라봅니다.

데이터센터의 전력이나 물 소비량도 중요하지만, 더 중요한 문제는 AI가 무엇을 할 수 있게 되고 그 결과로 사회가 어떻게 변하느냐입니다.

AI와 양자컴퓨터 모두 기술의 투입 자원보다 그것이 만들어낼 결과가 훨씬 더 큰 영향을 미칠 수 있습니다.

11. 양자정보는 일반적인 정보와 무엇이 다른가? (1:13:14~1:20:53)

Q. 양자정보는 우리가 AI 학습에 사용하는 일반적인 데이터와 어떻게 다른가요?

스콧 아론슨:

일반적인 정보는 비트를 기본 단위로 사용합니다.

0과 1이죠.

반면 양자정보의 기본 단위는 큐비트입니다.

큐비트는 0 상태와 1 상태의 중첩으로 표현됩니다.

사람들은 이것을 흔히 0이면서 동시에 1인 상태라고 설명합니다.

하지만 그 설명은 정확하지 않습니다.

큐비트를 관측하면 0이나 1 중 하나의 결과만 얻습니다.

그렇다고 관측하기 전부터 단순히 0 또는 1이 정해져 있고 우리가 모를 뿐인 상태도 아닙니다.

핵심은 양자 상태의 확률진폭이 서로 간섭할 수 있다는 것입니다.

예를 들어 어떤 입자가 목적지에 도달하는 두 경로가 있다고 생각해 봅시다.

한 경로의 진폭이 양수이고 다른 경로의 진폭이 음수라면 두 진폭이 상쇄될 수 있습니다.

그 결과 특정 사건이 발생할 확률이 0이 되기도 합니다.

이것은 일반적인 고전 확률에서는 나타나지 않는 현상입니다.

그래서 양자정보는 단순히 기존 정보에 0과 1을 더 많이 저장하는 방식이 아닙니다.

정보 자체가 작동하는 방식이 다른 것입니다.

Q. 양자정보에는 복사할 수 없다는 특징도 있다고 들었습니다.

스콧 아론슨:

맞습니다.

이것이 양자정보의 가장 중요한 특징 중 하나입니다.

일반적인 디지털 정보는 무한히 복사할 수 있습니다.

하지만 임의의 미지의 양자 상태를 완벽하게 복제하는 것은 불가능합니다.

이를 복제 불가능 정리(No-Cloning Theorem)라고 합니다.

어떤 큐비트의 상태를 정확하게 알아내려고 관측하면 그 과정에서 원래의 중첩 상태가 바뀝니다.

따라서 원본을 보존하면서 완벽한 복제본을 만들어낼 수 없습니다.

이러한 특징은 양자정보가 일반적인 디지털 정보와 근본적으로 다르다는 것을 보여줍니다.

Q. 그렇다면 AI 학습에 사용할 거대한 양자정보 데이터셋을 만드는 것은 불가능한가요?

스콧 아론슨:

반드시 그렇지는 않습니다.

하지만 여기에는 구분해야 할 것이 있습니다.

제가 앞서 AI 학습에 양자컴퓨터를 활용할 수 있다고 이야기했을 때 염두에 둔 것은 양자 상태 자체를 직접 학습시키는 방식이 아닙니다.

양자컴퓨터로 어떤 물질이나 화학반응을 시뮬레이션한 뒤 그 결과를 측정하여 고전적인 데이터로 변환하는 것입니다.

그렇게 얻은 데이터를 기존 AI 모델에 학습시키는 것이죠.

미래에는 양자정보를 장시간 저장하고 전송하는 방식도 가능해질 수 있습니다.

하지만 그렇게 하려면 내결함성 양자컴퓨터와 매우 안정적인 양자 메모리가 필요할 것입니다.

현재 큐비트가 매우 쉽게 정보를 잃는다는 사실이 가장 큰 공학적 장애물입니다.

외부 환경과의 상호작용만으로도 양자 상태의 결맞음이 사라질 수 있습니다.

양자 오류 정정 기술이 중요한 이유가 바로 여기에 있습니다.

12. 양자화폐는 비트코인보다 뛰어날 수 있을까? (1:20:53~1:24:15)

Q. 양자정보를 오랫동안 안정적으로 보존할 수 있게 되면 어떤 새로운 가능성이 열릴까요?

스콧 아론슨:

매우 흥미로운 가능성이 많습니다.

그중 하나는 제가 직접 연구했던 양자화폐(Quantum Money)입니다.

양자정보는 본질적으로 완벽하게 복사할 수 없기 때문에 이를 화폐에 활용할 수 있습니다.

예를 들어 큐비트로 구성된 디지털 지폐가 있다고 생각해 봅시다.

그 지폐가 진짜인지 검증할 수 있지만 완벽하게 복제하는 것은 불가능합니다.

이런 화폐는 비트코인보다 더 나은 방식이 될 수도 있습니다.

블록체인이 필요하지 않을 수 있고, 막대한 계산 자원을 소모하는 작업증명도 필요하지 않을 수 있습니다.

거대한 분산 합의 시스템 없이도 양자정보의 물리적 특성으로 위조를 방지하는 것입니다.

물론 이것이 실제로 구현되려면 해결해야 할 기술적인 문제가 많습니다.

하지만 매우 흥미로운 연구 분야입니다.

Q. 그럼 비트코인이 처음 등장했을 때 투자할 생각은 없으셨나요?

스콧 아론슨:

2010년쯤 비트코인에 관해 처음 들었을 때 저는 주로 양자화폐 강연에서 비트코인을 언급했습니다.

"왜 미래에는 양자화폐가 비트코인보다 나을 수 있는가?"

이런 질문에 답하기 위한 대상이었던 것이죠.

비트코인에 제 돈을 모두 투자해야겠다는 생각은 전혀 하지 못했습니다.

진행자와 아론슨은 웃으며 이 이야기를 마무리한다.

Q. 마지막으로 오늘 인터뷰에 어울리는 자극적인 제목을 하나 만들어 주시겠습니까?

스콧 아론슨:

글쎄요.

"로만이 스콧에게 무엇이든 묻는다"라든가, "AI 정렬에서 양자컴퓨팅과 비트코인까지" 정도일까요?

솔직히 저는 이런 자극적인 제목을 만드는 데 정말 소질이 없습니다.

인터뷰 전체에서 드러나는 아론슨의 핵심 관점

가장 중요한 결론

저는 이번 인터뷰에서 서로 연결되는 세 가지 주장이 특히 중요하다고 봅니다.

첫째, AI가 문제를 해결하는 속도가 인간이 그 문제의 해답을 이해하는 속도를 앞서기 시작했다는 것입니다. 아론슨은 이를 미래의 가정이 아니라 현재 자신이 속한 수학계에서 경험하는 변화로 설명합니다.

둘째, AI의 일반적인 지적 능력과 AI를 안전하게 통제할 수 있는 능력 사이에 큰 격차가 존재한다는 것입니다. 수학의 어려운 난제를 풀 수 있는 AI가 등장하더라도 그것이 인간의 가치에 맞춰 행동하도록 만들 방법은 여전히 제대로 정의하지 못하고 있습니다.

셋째, 아론슨이 우려하는 것은 단순히 초지능이 통제 불가능하다는 결론이 아니라, 통제 방법을 찾아낼 시간을 확보하지 못할 수 있다는 점입니다. 충분한 시간만 있다면 해결책을 찾을 수 있을지 모르지만, AI의 발전이 과학적 이해보다 빠르게 진행되는 현재 상황에서 그것이 가능할지는 알 수 없습니다.

결국 이번 인터뷰를 관통하는 메시지는 다음과 같습니다.

AI가 인간의 지적 능력을 얼마나 빨리 뛰어넘을 것인가도 중요하지만, 그 결과를 인간이 얼마나 빨리 이해하고 안전하게 활용할 수 있을 것인가가 더욱 중요한 문제가 되고 있다.

이것이 AI의 수학적 성과를 높이 평가하면서도 초지능의 안전성에 관해서는 상당한 불확실성과 우려를 표하는 아론슨의 입장을 가장 잘 보여준다고 생각합니다.