- AI가 2025년 말까지 국제 수학 올림피아드 금메달 수준에 도달할 확률 80%

- 양자 컴퓨터가 2030년까지 RSA 암호화를 깨뜨릴 확률은 50%(2040년까지는 80%)

- 2030년까지 인간 수준의 AI(AGI)가 등장할 확률은 60%

- "P != NP일 확률"을 묻는 질문에 97%

AGI 등장 시점: AGI 등장 시점에 대한 구체적인 예측은 하지 않았지만, P=NP 문제를 언급하며 OpenAI의 초기 프로그램을 설명할 때 "P=NP가 아니더라도 한번 해보자"라는 OpenAI의 접근 방식을 소개합니다. 이는 AGI 개발이 P=NP 문제 해결 여부와 직접적인 연관은 없지만, 막대한 컴퓨팅 파워와 경사 하강법을 통해 상당한 진전을 이룰 수 있다는 그의 생각을 보여줍니다. 또한, AI가 모든 것을 대체할 수 있는지에 대한 질문에서 "AI가 한계에 부딪힐 가능성을 배제하지 않는다"라고 말하면서도, AI 발전 속도와 규모를 고려했을 때 인류 역사상 처음으로 이 질문에 대한 답을 경험적으로 찾을 수 있는 순간에 가까워졌다고 말하는 것을 통해 AGI 도래 가능성을 열어두고 있음을 짐작할 수 있습니다.

AI 안전 문제: AI가 인간보다 거의 모든 면에서 뛰어난 시대가 오면 문명사적 질문과 마주하게 될 것이라 예상합니다. 그는 AI 안전 연구의 필요성을 강조하며, 단기적인 문제 해결과 장기적인 문제 해결 사이의 균형을 맞춰야 한다고 주장합니다. 특히 AI가 인류를 사랑한다는 것의 수학적 정의와 같은 추상적인 질문보다는 워터마킹과 같은 단기적이고 구체적인 문제 해결에 초점을 맞춰야 한다는 그의 주장은, AGI 출현 이전에 해결해야 할 안전 문제가 많다는 것을 시사합니다.

LLM의 한계: LLM의 한계에 대한 질문에서, 그는 골대가 계속 움직이는 현상을 지적합니다. 과거에는 LLM이 간단한 논리 문제도 풀지 못하는 것을 예시로 그 한계를 지적했지만, GPT-4는 이러한 문제들을 해결했습니다. 하지만 여전히 새로운 기준으로 LLM의 한계를 지적하는 사람들이 있습니다. 그는 이러한 흐름 속에서 AI가 인간의 수준에 도달할 가능성을 열어두고 있습니다.

수치 예측: 인터뷰 마지막 부분에서 몇 가지 질문에 대해 확률로 답변하는 부분이 있습니다. AI가 2025년 말까지 국제 수학 올림피아드 금메달 수준에 도달할 확률은 80%, 양자 컴퓨터가 2030년까지 RSA 암호화를 깨뜨릴 확률은 50%(2040년까지는 80%), 2030년까지 인간 수준의 AI(AGI)가 등장할 확률은 60%로 예측했습니다.

스콧 아론슨은 OpenAI에서 2년간 AI 안전의 이론적 기반 연구를 진행했습니다. 그는 AI를 인간 가치에 맞추는 문제를 수학 문제로 환원하는 데는 성공하지 못했지만, 언어 모델 출력에 워터마킹하는 등 구체적인 문제에서 진전을 이루었습니다.

OpenAI에서의 2년은 AI에게 있어 역사적인 시기였고, 그는 그 현장을 목격한 것만으로도 특권이라고 생각합니다. 하지만 OpenAI 내부의 엄청난 변화와 구조조정도 경험했습니다. 1년 계약 후 1년 연장했지만, 2년 이상의 휴직은 특별한 딜 없이는 어렵기에 더 이상 연장하지 않았고, 원래 직업인 UT 오스틴 컴퓨터 과학 교수로 돌아가 학생들을 가르치고 싶었기 때문이기도 합니다.

AI 안전 문제는 3천 년의 도덕 철학, 우리가 원하는 세상과 미래에 대한 사회정치적 질문 등이 모두 얽혀있는 복잡한 문제입니다. 이론 컴퓨터 과학은 그중 일부만을 다룰 수 있을 뿐입니다.

그는 언어 모델의 출력물에 워터마킹하는 연구를 했는데, 이는 모든 학생들이 숙제를 위해, 스팸과 허위 정보 유포자들이 악용할 가능성이 높다는 점에서 중요한 문제였습니다. 이를 통해 AI가 인류를 사랑한다는 것의 수학적 정의는 무엇인가와 같은 추상적인 질문 대신, 언어 모델에서 생성된 텍스트를 식별하는 구체적인 문제를 해결하는 데 집중할 수 있었습니다.

워터마킹은 기업들이 경쟁과 모델 개선 속도 때문에 지속적인 경쟁을 해야 한다는 어려움이 있습니다. 그는 인간과 LLM(Large Language Model)을 구분하는 것, 특정 LLM 패턴을 식별하는 것 등 다양한 방식의 워터마킹을 연구했습니다. 하지만 기업들이 워터마킹 도입에 소극적인 이유는 허위 정보 등이 자사 모델에서 생성된 것으로 밝혀질 경우 발생할 부정적 여론과 책임 때문입니다. 또한 누구에게 워터마킹 탐지 도구 접근 권한을 부여할 것인지도 중요한 문제입니다.

그는 AI 안전 문제 해결을 위해 OpenAI 뿐 아니라 DeepMind, Anthropic 등 다른 기업과도 협력했지만, 조정 문제 해결에는 어려움을 겪었습니다. 영어 비원어민의 언어 모델 사용, 탐지 도구 접근 권한 문제 등 여러 이슈가 제기되었고, 결국 워터마킹 도입은 무기한 연기되었습니다. 그는 이러한 문제들이 자신의 전문 분야를 넘어서는 것이라 느꼈고, 궁극적으로는 입법적 의무화가 필요할 것이라고 생각합니다.

스콧 아론슨은 이러한 경험을 통해 AI 연구에서 거대하고 중요한 질문들을 다루는 것도 중요하지만, 눈앞의 문제를 해결하며 배우는 것이 중요하다는 것을 깨달았습니다. 그는 AI 정렬 연구자들이 3000년 역사의 도덕 철학과 사회정치적 질문들을 다루고 있다는 점을 지적하며, 이러한 문제들은 작은 부분부터 해결해나가는 것이 중요하다고 강조합니다.

1. 양자 컴퓨팅의 현재와 미래:

• 양자 컴퓨팅 분야가 현재 매우 흥미로운 시기를 맞이하고 있다고 평가합니다. AI의 발전에 가려져 상대적으로 주목받지 못하고 있지만, 최근 큐비트 연산의 신뢰도가 99.9% 수준까지 높아지는 등 중요한 기술적 진전이 이루어지고 있다는 점을 강조합니다.

• 양자 컴퓨터가 상용화될 경우, 신소재 개발, 신약 개발, 화학 반응 설계 등 다양한 분야에서 활용될 수 있다고 예상합니다. 하지만 양자 컴퓨터가 모든 것을 가속할 수 있다는 대중의 오해와는 달리, 실제로는 특정 문제에 대해서만 효과적인 이점을 제공한다는 사실을 분명히 합니다.

• 양자 컴퓨팅 분야에서도 국가 간 경쟁이 치열하게 벌어지고 있다고 지적합니다. 미국이 2017년 국가 양자 이니셔티브 법을 통과시킨 것도 중국의 발전 속도를 따라잡기 위한 노력의 일환이라고 설명합니다.

2. 학계의 분위기와 표현의 자유:

• 학계, 특히 대학 사회의 분위기가 경직되어 있다고 우려를 표합니다. 표현의 자유가 위축되고, 정치적 올바름에 대한 과도한 집착으로 자기 검열이 만연해 있다고 지적합니다. 하지만 동시에 이러한 분위기가 정점을 찍고 완화되는 추세도 감지한다고 언급합니다.

• 그는 대학의 존재 이유를 "아이디어가 토론될 수 있는 장소"로 정의하며, 표현의 자유 보호와 건설적인 토론 문화 조성이 중요하다고 강조합니다.

• 가자 지구 시위와 관련된 대학 내 갈등 사례를 언급하며, 언론의 선정적 보도와 정치적 압력 속에서 대학이 갈등을 해결하고 표현의 자유를 보호하는 데 어려움을 겪는 현실을 지적합니다.

3. 철학적 논쟁과 AI:

• AI에 대한 철학적 논쟁이 1950년대부터 이어져 온 오래된 문제임을 상기시킵니다. 특히 튜링 테스트를 예시로 들며, AI에 대해서만 '진짜' 지능인지 의문을 제기하는 것은 부당하다고 주장합니다. 인간의 지능 역시 물리 법칙을 따르는 신경 세포의 작용일 뿐이라는 점을 지적하며, AI와 인간을 구분하는 기준에 대한 근본적인 질문을 던집니다.

• 그는 AI의 도덕적 지위에 대한 논의에서, 인간 중심적인 사고방식에서 벗어나야 한다고 주장합니다. 특히 복제 가능성과 유한성을 기준으로 AI의 도덕적 지위를 판단하는 것에 대해 비판적인 시각을 제시하며, AI 윤리에 대한 새로운 관점을 제시합니다.

• AI 정렬 문제를 논의하며 "사랑은 선택을 가능하게 하는 것"이라는 포레스트 랜디의 명언을 소개합니다. AI에게도 이러한 사랑의 개념을 적용하여, AI가 인간의 선택을 돕고 더 나은 선택을 할 수 있도록 하는 것이 중요하다고 주장합니다. 또한, 이러한 개념을 AI에 적용하는 것이 일종의 종교가 될 수도 있다는 흥미로운 발상을 제시합니다.

이처럼 AI 안전 문제 외에도 양자 컴퓨팅의 발전과 윤리적 문제, 학계의 자유로운 토론 문화, AI에 대한 철학적 논쟁 등 다양한 주제에 대한 스콧 아론슨의 생각을 인터뷰에서 확인할 수 있습니다. 그의 폭넓은 지식과 통찰력이 돋보이는 부분입니다.