다음은 물리학자이자 철학자인 데이비드 도이치(David Deutsch)와 인터뷰어가 'AGI(인공일반지능)의 본질과 미래'에 대해 나눈 대화의 핵심 내용을 Q&A 인터뷰 형식으로 요약 정리한 것입니다.

도이치는 낙관적 현실주의와 무한한 설명의 도달 범위(Universal Explanatory Reach)라는 자신의 철학을 바탕으로 AGI에 대한 독창적인 시각을 제시합니다.

---

1. AGI는 인간보다 더 똑똑해질까?

Q: AI가 언젠가 인간보다 더 똑똑해질까요?

데이비드 도이치(이하 DD): '똑똑하다'는 말의 정의에 따라 다릅니다. 계산기처럼 특정 기능이 인간보다 빠른 것은 이미 가능하고 앞으로 더 빨라질 겁니다. 하지만 인간 정신의 모든 기능을 수행한다는 측면에서 인간보다 근본적으로 '더 나은(better)' 존재가 되는 것은 불가능합니다.

인간과 AGI는 모두 '보편 튜링 기계(Universal Turing Machine)'이기 때문입니다. 즉, 물리적으로 가능한 모든 계산을 수행할 수 있는 레퍼토리가 동일합니다. AGI가 인간보다 빠를 수는 있어도, 질적으로 다른 차원의 지능을 갖는 것은 아닙니다.

Q: 하지만 체스 챔피언 매그너스 칼슨이 저보다 체스를 훨씬 잘 두는 것처럼, 연산 속도의 차이가 압도적인 실력 차이를 만들지 않을까요?

DD: 칼슨이 당신을 이기는 건 뇌의 하드웨어 속도가 빨라서가 아닙니다. 그의 뇌 속에 있는 '프로그램(지식, 창의성)'이 더 낫기 때문입니다. 창의성은 속도나 메모리 용량의 문제가 아닙니다. 튜링은 인간 수준의 창의적 프로그램이 2MB 정도의 메모리만 있으면 될 것이라고 추측했습니다. 창의성은 하드웨어의 양이 아니라 질의 문제입니다.

---

2. AGI의 가치관과 통제 문제

Q: 미래에 우리는 창의적인 일은 직접 하고, 단순 반복 작업만 AI에게 맡기게 될까요?

DD: 이미 우리는 그렇게 하고 있습니다. 계산은 컴퓨터가 하고 우리는 창의적인 결정을 내리죠. AGI가 등장하더라도 마찬가지입니다. AGI는 단순한 도구가 아니라 '사람(Person)'으로 대우받게 될 것입니다. 그들은 재산권을 갖고, 경제 활동을 하며, 자신의 삶을 영위할 것입니다.

Q: 하지만 AGI가 우리와 완전히 다른 가치관을 가지거나, 우리를 해치려 하면 어떡합니까? (가치 정렬 문제)

DD: AGI는 기본적으로 우리의 '자녀'와 같습니다. 우리는 아이들에게 문화를 전수하고 교육합니다. 아이들이 자라면서 부모와 다른 가치관을 가질 수 있지만, 그렇다고 그들을 미리 잠재적 범죄자로 취급하진 않습니다.

서구 사회는 서로 다른 가치관을 가진 사람들이 평화롭게 공존하는 법을 배워왔습니다. AGI와의 관계도 이와 마찬가지로 해결해 나갈 수 있는 문제입니다.

---

3. 도덕적 진리와 객관성

Q: 인간의 도덕은 고통이나 쾌락 같은 생물학적 감각(Qualia)에 기반을 둡니다. 이런 감각이 없는 AGI가 우리와 도덕적으로 합의할 수 있을까요?

DD: 도덕은 생물학적 감각(호르몬이나 DNA)에 의해 결정되는 게 아닙니다. 예를 들어, 어떤 록스타가 쾌락을 즐기면서도 불행할 수 있고, 어떤 순교자는 고통 속에서도 자신의 신념을 지킵니다.

도덕은 '무엇을 해야 하는가'라는 문제를 해결하는 과정이며, 이는 물리학처럼 객관적인 진리가 존재하는 영역입니다. 외계인이든 AGI든, 문제를 해결하고 진리를 탐구하는 이성적 존재라면 결국 수렴하는 도덕적 결론에 도달할 가능성이 높습니다.

Q: 지능은 매우 높지만 도덕적으로는 사악한 존재(예: 엄청나게 똑똑한 히틀러)가 가능하지 않을까요? (직교성 가설)

DD: 저는 그 가설(지능과 도덕은 별개라는 주장)에 전적으로 반대합니다. 과학적 진리를 탐구하려면 '관용', '비판 수용', '진실에 대한 존중' 같은 도덕적 가치가 필수적입니다.

제이콥 브로노프스키(Jacob Bronowski)가 말했듯, 도덕적 가치 없이는 지적 진보도 불가능합니다. 히틀러 같은 독재자는 사실 창의성이 결여된 상태입니다. 만약 AGI가 진정한 범용 창의성을 가졌다면, 그들은 도덕적 오류도 스스로 수정해 나갈 것입니다.

---

4. 실존적 위험과 미래

Q: AGI가 인류를 멸망시킬 위험이 있으니, 안전이 확인될 때까지 개발을 제한해야 하지 않을까요?

DD: '무죄 추정의 원칙'은 문명의 핵심입니다. 잠재적 위험 때문에 지적 존재의 탄생을 미리 막거나 노예로 만드는 것은 옳지 않습니다.

오히려 진보를 멈추는 것이야말로 확실한 파멸(예: 소행성 충돌 같은 자연재해를 막지 못함)로 가는 길입니다. 우리는 앞으로도 실수를 하겠지만, 문제를 해결하며 계속 나아가는 것이 유일한 안전한 길입니다.

Q: 요약하자면, AGI도 인간처럼 실수를 할 수 있고 나쁜 짓을 할 수도 있지만, 결국 대화와 이성을 통해 올바른 길로 갈 수 있다는 말씀이군요?

DD: 그렇습니다. 우리는 AGI를 두려워하거나 통제하려 들기보다, 그들과 함께 문제를 해결하고 성장하는 동반자로 받아들여야 합니다.

(인터뷰 종료)