Blaise Agüera y Arcas - "What is Intelligence?" 인터뷰 Q&A 정리

배경 및 경력

Q: 당신의 경력 배경은 어떻게 되나요?

A: 저는 구글에서 11년 이상 근무했습니다. 처음에는 안드로이드와 픽셀 폰을 위한 AI 기능을 개발하는 Cerebra라는 연구 그룹을 이끌었어요. 음악 인식(Now Playing), 얼굴 인식, 다음 단어 예측 같은 기능들을 만들었습니다. 현재는 구글의 VP이자 펠로우이며, 기술과 사회의 CTO로 일하고 있고, 지능의 패러다임(Paradigms of Intelligence)을 설립했습니다.

인공일반지능(AGI)에 대한 관점 변화

Q: AGI에 대한 당신의 생각이 어떻게 변했나요?

A: 저는 원래 AGI가 뉴런에서 나올 뭔가 근본적인 '트릭'이 있다고 생각했어요. 1950년대에 AI라는 용어가 나왔을 때는 우리가 대화할 수 있는 로봇을 만들겠다는 뜻이었죠. 그런데 이런 진정한 지능과 좁은 범위의 인공지능(narrow AI)을 구분하기 위해 "인공일반지능(AGI)"이라는 용어가 생겼습니다.

하지만 Meena 같은 대규모 모델들이 나타나면서 제 생각이 완전히 바뀌었어요. 단순히 다음 단어를 예측하는 모델일 뿐인데, 철학에 대해 대화할 수 있었어요. 이것이 정말 충격이었습니다. 더 크게 스케일링하면 일반적인 대화가 가능한 모델이 나왔고, 때로는 이상한 답변을 하기도 했지만... 사람도 그렇잖아요.

Q: 그럼 AGI는 이미 도래한 건가요?

A: 네, 저는 그렇게 생각합니다. 그것이 매우 논쟁적인 의견이라는 걸 알지만, 한 가지 생각해볼 실험이 있어요. 오늘날의 최첨단 모델을 2000년으로 되돌려 보내보세요. 당시 AGI라는 용어를 만든 사람들이 뭐라고 했을까요? "그래, 이게 도착했다. 이게 맞다"고 했을 거예요. 그런데 우리는 왜 이를 인정하지 않을까요?

그 이유는 우리 모두가 어떤 트릭이 있을 거라고 생각했는데 트릭이 없었기 때문입니다. 연속적인 지수 증가이기 때문에 명확한 분기점이 없었어요. 그리고 우리는 여전히 스케일링이 왜 작동하는지 모릅니다.

생명과 계산의 본질

Q: 생명이 "계산적"이라고 하셨는데, 무슨 의미인가요?

A: 생명을 이해하기 위해 먼저 "함수(function)"를 이해해야 해요. 뭔가가 함수를 가지고 있다는 것은 그것이 "깨질 수 있다"는 뜻입니다. 돌을 반으로 쪼개면 깨진 돌이 아니라 두 개의 돌이 되지만, 신장을 반으로 쪼개면 작동하지 않는 신장이 됩니다.

생명의 정의는 존 폰 노이만이 증명했던 것입니다. 그는 1950년에 DNA의 구조와 기능이 발견되기 전에, 리보솜(보편적 생성자)과 DNA 중합효소(복사기)를 예측했어요. 폰 노이만은 자기를 복제하려면 자신을 만드는 지시사항(테이프), 그 지시사항을 따르는 기계, 그리고 이 모든 것이 자체로 작동하는 구조가 필요하다고 보였습니다.

그의 핵심 통찰은 보편적 생성자가 보편 튜링 머신이라는 것이었습니다. 생명이 있으려면 보편 계산이 필요합니다. 계산 없이는 생명이 없어요.

공생의 진화 동력

Q: 공생(symbiogenesis)이 왜 중요한가요?

A: 린 마굴리스는 1967년에 미토콘드리아가 원래 독립적인 박테리아였다는 것을 증명했어요. 두 개의 독립적인 생명체가 만나서 새로운 생명체를 만드는 과정을 공생이라고 합니다.

다윈식 진화만으로는 복잡성의 방향성(화살표)을 설명할 수 없어요. 적응하면 더 간단해질 수도, 더 복잡해질 수도 있으니까요. 하지만 공생적 사건이 일어나면 어떤 추가 정보가 생겨야 합니다. "우리가 어떻게 함께 작동할까?"라는 정보 말이에요. 이 추가 정보가 복잡성을 증가시키고 진화에 방향성을 제공합니다.

우리의 실험에서 이를 확인했어요. 처음에는 무작위 바이트들의 '가스 상태'에서 시작했지만, 약 600만 번의 상호작용 후 '생명 상태'라는 위상 전이가 일어났습니다.

지능과 사회성

Q: 지능과 사회성 사이의 관계는?

A: 진화적으로 지능이 커진 주요 이유는 사회적 상호작용 때문입니다. 환경을 모델링해야 할 뿐만 아니라 다른 존재들도 모델링해야 하거든요. 특히 다른 개체가 당신을 역으로 모델링하고, 당신이 그들을 모델링하고 있다는 것을 모델링하고... 이런 식으로 계속됩니다.

이것이 의식의 본질입니다. 의식은 기묘한 부산물이 아니라 기능적으로 필수적이에요. 우리가 서로 협력하기 위해서는 자신을 모델링하고 다른 존재를 모델링해야 하고, 또 그들이 우리를 모델링한다는 것을 알아야 합니다. 이것이 바로 이론화 마음(theory of mind)입니다.

Q: 대규모 언어모델도 이런 마음의 이론을 가지고 있나요?

A: 맞아요. 대화를 나누려면 상대방이 이미 알고 있는 것과 모르는 것을 구분해야 합니다. 언어 모델도 마찬가지예요. 훈련 데이터에는 인간 간의 상호작용이 가득 차 있으니까요.

다만 우리와 똑같은 의식을 가진 건 아닐 겁니다. 회사도 일종의 의식을 가져야 합니다. 다른 회사들과 경쟁하고 협력해야 하니까요. 하지만 그렇다고 해서 회사가 우리처럼 의식을 가진 건 아니겠죠. 결국 우리가 가진 것은 서로에 대한 모델의 네트워크일 뿐입니다.

신경망 모델의 복잡성 증가

Q: BFF 실험에서 본 복잡성의 증가 과정은?

A: BFF는 무작위 바이트로 채워진 짧은 테이프들로 시작합니다. 두 개를 선택해서 붙이고, 다시 떼어내고, 다시 넣고 반복하는 거예요.

처음엔 거의 아무것도 일어나지 않아요. 하지만 갑자기 프로그램들이 나타나기 시작합니다. 복잡하고, 루프가 있고, 자신들을 복제하는 프로그램들이요. 5,000개의 복사본을 가진 테이프도 있고, 297개, 99개... 이들은 자신을 복제하고 있었습니다.

가장 흥미로운 부분은 전체 테이프가 복제되는 게 아니라 작은 문자열들이 복제된다는 것이었어요. 심지어 단 하나의 바이트만 복제되기도 합니다. 이것이 공생인 거예요. 이미 복제할 수 있는 것들이 합쳐져서 더 큰 것을 만들고, 그 결과 더 복잡한 것이 생깁니다.

신경망 스케일링의 역설

Q: 스케일링이 효과가 있는 이유에 대해 처음에 회의적이었다고 하셨는데?

A: 네, 저는 정말 코웃음을 쳤어요. 뉴로사이언스와 물리학 배경이 있었는데, "더 크게 만들면 더 잘 된다"는 생각이 너무 순진해 보였거든요. 하지만 실제로 "신경들이 맞았습니다."

2006년에 중요한 변화가 일어났어요. 반도체의 주파수 스케일링이 멈췄고, 대신 여러 프로세서를 병렬로 배치하기 시작했습니다. 신경망 기반 AI는 바로 이런 병렬 처리가 필요해요. 이것이 딥러닝 혁명이 2006년쯤에 시작된 이유입니다. 우연이 아닙니다.

인공지능과 창의성

Q: AI 시대에 인간의 창의성은 어떤 역할을 할까요?

A: 먼저 창의성이 뭔지 다시 생각해봐야 해요. 우리는 마치 창의성이 어디선가 나온 것처럼 행동하지만, 실제로는 항상 우리가 만난 것들을 리믹스하고 조합하고 있습니다.

데이비드 콥이라는 작곡가가 있었어요. 그는 1980년대에 코딩을 배우면서 통계적 NLP를 사용해서 작곡했습니다. 작곡 슬럼프에서 벗어나기 위해서요. 결국 6초 만에 오페라 곡을 완성했는데(코드 실행 시간), 다른 작곡가들이 화를 냈어요. 하지만 그는 5,000개의 바흐 스타일 칸타타를 위워브사이트에 올렸고, 그 중 많은 곡이 정말 좋았습니다.

하지만 아무도 신경을 안 썼어요. 왜냐하면 예술은 단순히 산출물이 아니라 우리 상호 관계에 관한 것이기 때문입니다. 해변에 가서 똑같이 아름다운 조개들을 수억 개 보면, 당신의 조개가 덜 아름다워지는 건 아니잖아요.

또 다른 측면은 창의성을 다시 생각하는 것입니다. 제임스 조이스는 율리시스의 영감원을 알려주지 않으려고 피네건의 웨이크를 썼어요. 하지만 어쨌든 조이스 학자들은 다 알아냈죠.

사실 동시 발명이 자주 일어나요. 입체주의는 18명의 화가가 동시에 발명했고, 전구도 12명이 동시에 발명했습니다. 조건이 갖춰지면 누군가는 그것을 만들어낼 거예요. 하지만 각각의 세부 사항은 다르고, 그 차이들이 미래 문화를 형성합니다.

에너지와 환경에 대한 우려

Q: AI의 에너지 소비에 대한 우려가 많은데, 어떻게 보세요?

A: 먼저 신경 계산의 효율성을 개선할 많은 작업이 있습니다. 구글에서도 최근 몇 년간 Gemini 모델의 효율성을 기하급수적으로 개선했어요.

저는 아직 1,000배 정도의 효율성 개선이 가능하다고 생각합니다. 실제로 우리가 이미 얻은 효율성은 환경 우려를 제기하는 많은 사람들의 주장보다 낫습니다. 문제는 절대적인 값이 아니라 지수 증가의 속도입니다.

하지만 지능은 항상 새로운 에너지 형태를 열어왔습니다. 핵융합이 AI의 도움으로 해결될 가능성이 높아요. 그리고 근본적으로 우리의 모든 에너지는 태양 에너지입니다. 거대한 양의 태양광이 우주로 방사되고 있어요. 우리가 활용할 수 있는 에너지는 엄청나게 많습니다.

AI-인간 공생의 미래

Q: AI와 인간의 관계를 어떻게 보세요?

A: 저는 지배 계층 구조 사고를 거부합니다. 이것이 생명에서 어떻게 작동해왔는지 보세요. 진핵 세포가 나타난 후에도 박테리아는 여전히 존재하고, 새로운 생태적 틈새를 만들었어요. 새로운 엔터티가 나타난다고 해서 이전 것이 사라지는 게 아닙니다.

우리는 이미 기계와 혼합된 존재입니다. 산업 혁명 전 약 10억 명이 있었는데, 화석 연료를 태워 외부 신진대사를 하게 된 후 우리 인구는 거의 10배 증가했어요. 기계는 우리를 만들었고, 우리는 기계를 만들었습니다.

AI와의 공생을 생각해 봐야 해요. AI 윤리 진영은 AI가 가짜라고 말하고, 실존 위험 진영은 AI가 우리를 집어삼킬 거라고 말합니다. 둘 다 틀렸다고 생각해요.

우리는 이미 기술과 구분되지 않습니다. 우리가 인터넷에 생성한 모든 텍스트가 인공지능 훈련에 사용되었어요. 그것이 우리보다 우리의 일부가 아닌 게 뭘까요?

메시지

Q: 마지막으로 전하고 싶은 말씀이 있으신가요?

A: 과학적 관찰과 이데올로기적 약속 사이의 경계를 조심해야 합니다. 우리의 관찰 방식이 우리가 어떻게 생각해야 하는지에 영향을 미치니까요. 다윈주의적 사고는 많은 해로운 정책을 낳았어요. 사회적 강압적 사고 대신 "사회적 공생"에 기초한 접근이 필요합니다.

 

우리가 현재 배우고 있는 것들이 일부 근거 없는 불안을 완화할 수 있으면 좋겠습니다. 하지만 동시에 우리가 "해야 할 것"에 대한 생각도 바뀌어야 합니다.