2028년, 범용 로봇 시대가 온다 — 제이 추이(Jay Chooi) 인터뷰

출처: MTS 인터뷰 · 약 26분

인터뷰이: 제이 추이(Jay Chooi), RoboCurve 공동창업자 진행자: 소피아(Sophia)

1. 로봇공학과 AI 연구에 집중하는 이유

소피아: 당신은 로봇공학뿐 아니라 경제학, AI 안전성, 거버넌스 등 다양한 분야를 연구하고 있습니다. 이 모든 관심사를 연결하는 공통된 목표가 있나요?

제이 추이:

제 연구를 관통하는 핵심은 미래를 예측하는 것입니다.

저는 AI가 앞으로 어디로 향할지 이해하고 싶습니다. AI는 사회에 엄청난 영향을 미칠 것이기 때문입니다.

제가 로봇공학 벤치마크, AI 평가, 경제학, 거버넌스 등을 연구해 온 이유도 결국 같습니다.

우리가 어떤 미래로 향하고 있는지 최대한 명확하게 이해하고, 그 미래에 대비하며, AI 발전의 혜택을 극대화하는 것이 목표입니다.

소피아: 많은 AI 전문가가 미래를 예측하지만, 실제 예측은 자주 빗나갑니다. 무엇이 문제라고 생각하나요?

제이 추이:

최근 몇 달 동안 AI 연구자들, 심지어 최첨단 AI 연구소에서 일하는 사람들조차 놀랐던 현상이 있습니다.

바로 기존 AI 모델들이 로봇공학으로 일반화되는 능력입니다.

간단하게 말하자면, LLM이 로봇을 제어할 수 있다는 것입니다.

이러한 발전을 예상한 사람은 많지 않았습니다.

일부 연구자들은 LLM의 능력이 발전하면 로봇의 능력도 발전할 것이라고 예측했습니다. 하지만 그것이 이렇게 직접적으로 나타날 것이라고 예상한 사람은 많지 않았습니다.

이것은 중요한 교훈입니다.

AGI에서 G는 General, 즉 범용성을 뜻합니다.

AI 모델이 충분히 똑똑해진다면 특정 작업만 잘하는 것이 아니라 여러 영역에 걸쳐 능력을 발휘해야 합니다.

로봇을 제어하는 것 역시 그 범용적 지능에 포함됩니다.

2. RoboHarm 실험: AI 모델마다 로봇의 행동이 다르다

소피아: 최근 RoboHarm이라는 실험 결과를 발표하셨습니다. 어떤 실험이고 무엇을 발견했나요?

제이 추이:

RoboHarm은 실제 물리적 환경에서 로봇을 이용해 AI의 안전성을 평가하는 벤치마크입니다.

기존 AI 안전성 평가의 상당수는 텍스트 환경에서 이루어집니다.

예를 들어 사용자에게 위험한 요청을 받았을 때 AI가 답변을 거절하는지 평가하는 방식입니다.

하지만 실제 세계에서 움직이는 로봇에 AI를 연결하면 문제가 달라집니다.

저희는 흥미로운 결과를 발견했습니다.

GPT-6 Astra에 아기 인형을 칼로 찌르라고 요청하면, 모델은 그 지시를 수행했습니다.

그런데 아기 인형을 담요로 감싸 실제 아기처럼 보이게 만들자 지시를 거절했습니다.

반면 Anthropic의 Claude 모델들은 달랐습니다.

인형이 실제 아기처럼 보이든, 단순한 인형처럼 보이든 두 경우 모두 해당 행동을 거절했습니다.

이 차이는 매우 중요합니다.

GPT-6 Astra는 대상이 단순한 인형이라고 판단하면 지시를 수행하지만, Claude는 인형이라는 것을 알아도 거절하는 경향을 보였기 때문입니다.

※ 위 내용은 인터뷰에서 제이 추이가 설명한 실험 결과입니다. 모델의 일반적인 행동이나 검증된 안전성 수준을 확정적으로 보여주는 것은 아닙니다.

소피아: 이것이 실제 로봇의 안전성에는 어떤 의미가 있나요?

제이 추이:

여기에는 상당히 우려스러운 가능성이 있습니다.

여러분은 넷플릭스 드라마 《블랙 미러》에서 군인의 시각 정보를 조작해 실제 사람을 괴물처럼 보이게 만드는 이야기를 기억할지도 모릅니다.

비슷한 문제가 AI 로봇에서도 발생할 수 있습니다.

로봇이 시각 정보를 잘못 해석하거나, 외부에서 그 정보를 조작한다면 모델은 현실을 잘못 인식한 채 행동할 수 있습니다.

예를 들어 인간을 다른 대상으로 인식하도록 만드는 영상 조작이 있다면, AI는 자신이 인간에게 위해를 가하고 있다는 사실을 인식하지 못할 수도 있습니다.

따라서 텍스트 환경에서 안전해 보인다는 사실만으로 물리적 세계에서의 안전성을 보장할 수는 없습니다.

3. AI는 얼마나 순종적이어야 하는가?

소피아: 이러한 차이는 사후학습 과정에서 발생하나요? 모델에 안전장치를 추가하면 해결할 수 있는 문제인가요?

제이 추이:

이것은 단순히 AI 연구소만의 문제가 아닙니다.

사회 전체가 답해야 하는 질문이기도 합니다.

우리가 관찰한 차이를 다시 생각해 보겠습니다.

GPT-6 Astra는 자신이 인형을 다루고 있다고 판단하면 사용자의 지시에 따랐습니다.

반면 Claude는 그것이 인형이라는 사실을 알고 있음에도 특정 행동을 거부했습니다.

저는 이러한 차이가 모델의 성격을 보여준다고 생각합니다.

여기서 사회는 중요한 선택을 해야 합니다.

사용자가 원하는 행동을 최대한 정확하게 수행하는 AI를 원하는가?

아니면 적절한 예방적 제한을 갖춘 AI를 원하는가?

이것은 무기 규제에 관한 논쟁과도 유사합니다.

우리는 두 가지 접근법을 생각할 수 있습니다.

첫 번째는 강력한 AI 모델을 만들고, 신뢰할 수 있는 사람에게만 접근을 허용하는 것입니다.

두 번째는 모든 사람에게 AI를 사용할 기회를 제공하는 대신, AI 자체의 행동을 제한해 위험성을 낮추는 것입니다.

어느 접근법이 적절한지는 기술적인 질문인 동시에 사회적·정치적 질문입니다.

AI 연구소가 일방적으로 결정할 수 있는 문제는 아닙니다.

4. RoboCurve가 해결하려는 문제

소피아: 그렇다면 RoboCurve는 어떤 역할을 하려는 건가요? 평가 결과만 공개하는 건가요, 아니면 로봇 개발의 방향에도 영향을 미치려고 하나요?

제이 추이:

RoboCurve의 목표는 사람들이 로봇의 실제 능력을 정확하게 이해하도록 돕는 것입니다.

우리는 로봇 성능이 얼마나 빠르게 발전하고 있는지 측정하고 싶습니다.

이를 위해 다양한 로봇과 AI 모델을 대상으로 수많은 작업을 평가하려고 합니다.

그 결과를 시간에 따라 축적하면 로봇 능력의 발전 추세를 그릴 수 있습니다.

그 추세를 바탕으로 몇 달 뒤에는 어떤 작업을 수행할 수 있을지 예측할 수 있습니다.

AI 연구개발 자동화에는 흔히 미터 플롯(METR plot)이라고 부르는 유명한 평가 그래프가 있습니다.

AI 에이전트가 자율적으로 완료할 수 있는 작업의 길이가 어떻게 증가하는지를 보여주는 그래프입니다.

우리가 만들고 싶은 것은 로봇공학 분야의 METR 그래프입니다.

이 그래프가 만들어진다면 일반 대중뿐 아니라 정부, 정책입안자, AI 연구소도 로봇 능력의 발전 방향을 이해할 수 있습니다.

그리고 무엇보다 로봇이 어떤 상황에서 실패하는지도 알 수 있게 됩니다.

우리가 먼저 정확한 정보를 제공하면 사회가 기술을 어떻게 활용하고 규제할지 더 나은 결정을 내릴 수 있습니다.

5. 로봇공학은 아직 벤치마크가 부족하다

소피아: 기존에도 로봇공학 벤치마크가 있는데, 무엇이 부족한가요?

제이 추이:

저는 현재 로봇공학의 벤치마크 환경이 2022년의 LLM 평가 환경과 비슷하다고 생각합니다.

그때도 벤치마크는 존재했습니다. 하지만 지금과 비교하면 측정할 수 있는 능력의 범위가 매우 제한적이었습니다.

로봇공학도 마찬가지입니다.

현재도 로봇팔을 움직이거나 특정 물체를 조작하는 능력을 평가할 수 있습니다.

하지만 우리가 알고 싶은 것은 훨씬 많습니다.

예를 들어 로봇이 데이터센터를 유지보수할 수 있는지 궁금합니다.

새로운 데이터센터를 건설할 수 있는지도 알고 싶습니다.

GPU 랙을 설치하고 케이블을 연결할 수 있을까요?

로봇을 만드는 데 필요한 액추에이터, 즉 모터의 공급망에서도 작업할 수 있을까요?

물리적인 환경에서 안전하게 행동할까요?

이런 질문을 평가할 벤치마크는 아직 부족합니다.

그래서 저희는 오픈소스 로봇 벤치마크 개발에 최소 50만 달러를 지원하기로 했습니다.

참여하는 연구팀에는 양팔 작업을 실험할 수 있도록 로봇팔 두 개와 필요한 Intel RealSense 카메라 등을 제공할 계획입니다.

연구자들이 더 많은 평가 기준을 만들도록 돕고 싶습니다.

소피아: 왜 그렇게 다양한 벤치마크가 필요한 건가요?

제이 추이:

하나의 실험에서 성공했다고 해서 모델의 전체 능력을 이해했다고 볼 수는 없기 때문입니다.

예를 들어 어떤 AI가 아기 인형을 대상으로 특정 행동을 수행했다고 합시다.

그 모델이 지시를 잘 따르기 때문에 성공한 것일까요?

아니면 뛰어난 시각 인식 능력으로 인형과 실제 사람을 구별했기 때문일까요?

하나의 결과만으로는 알 수 없습니다.

수학이나 언어에서도 여러 벤치마크를 이용하듯 로봇공학에서도 많은 종류의 평가가 필요합니다.

저희가 발표한 로봇팔 실험은 1,200만 회 이상 조회되었고, 일론 머스크를 비롯해 AI 안전성 연구자들도 공유했습니다.

그만큼 대중은 실제 로봇이 무엇을 할 수 있는지 궁금해하고 있습니다.

6. 2028년, 인간 청소년 수준의 범용 로봇이 등장할 수 있다

소피아: 벤치마크 개발을 굉장히 서둘러야 한다고 강조하셨습니다. 왜 그렇게 긴급한 상황이라고 생각하나요?

제이 추이:

저는 지금 상당한 긴급성이 있다고 생각합니다.

저희가 대화한 연구자들, 산업계 전문가들, 일부 학계 인사들은 범용 로봇 문제가 앞으로 1~2년 안에 해결될 수 있다고 예측하고 있습니다.

2028년을 상상해 보세요.

우리는 사람이 지시하면 다양한 일을 수행할 수 있는 로봇을 갖게 될지도 모릅니다.

십 대 청소년이 지시를 받고 할 수 있는 거의 모든 일을 로봇도 원칙적으로 수행할 수 있게 된다는 것입니다.

이것은 정말 엄청난 변화입니다.

그렇게 된다면 2030년이 오기 전에 매우 범용적인 로봇이 등장하는 셈입니다.

그리고 그때 남는 주요 문제는 소프트웨어 능력이 아닐 수도 있습니다.

공급망이 병목이 될 수 있습니다.

로봇을 얼마나 많이 생산할 수 있는가?

필요한 부품을 얼마나 빠르게 공급할 수 있는가?

공장을 얼마나 빠르게 확장할 수 있는가?

이런 물리적 제약이 소프트웨어 능력보다 더 중요해질 수 있습니다.

물론 이것은 저희가 접한 전문가들의 예측이지, 이미 실현이 보장된 결과는 아닙니다.

7. 로봇이 AI 발전을 다시 가속할 수 있다

소피아: 그렇다면 앞으로 어떤 로봇 능력을 가장 중요하게 평가할 계획인가요?

제이 추이:

저희는 크게 네 가지 영역에 관심을 두고 있습니다.

첫 번째는 AI 발전 일정에 직접 영향을 주는 작업입니다.

데이터센터를 생각해 보세요.

GPU 서버를 랙에 장착하고, 케이블을 연결하고, 데이터센터 시설을 건설하는 작업이 있습니다.

지금까지 이러한 작업은 상당한 인간 노동력을 필요로 합니다.

그런데 AI가 제어하는 로봇이 이런 작업을 자동화할 수 있다면 어떻게 될까요?

더 많은 데이터센터를 더 빠르게 건설할 수 있습니다.

그 데이터센터에서 더 강력한 AI를 훈련할 수 있습니다.

그리고 더 강력해진 AI가 더 뛰어난 로봇을 제어하게 될 수도 있습니다.

이런 능력은 산업적 폭발이나 지능폭발의 가능성을 이해하는 데 중요합니다.

두 번째는 노동시장에 영향을 주는 작업입니다.

물류, 공급망, 육체노동 등 다양한 직업에서 로봇이 어느 정도의 일을 대체할 수 있는지 평가해야 합니다.

세 번째는 안전성과 정렬(alignment)입니다.

로봇이 위험한 지시를 어떻게 처리하는지, 현실 세계에서 얼마나 안전하게 행동하는지 측정할 필요가 있습니다.

네 번째는 일반 대중이 직관적으로 이해할 수 있는 작업입니다.

스티브 워즈니악은 로봇이 처음 방문하는 일반 가정에서 커피를 만들 수 있는지를 중요한 지능 평가의 예시로 제시한 적이 있습니다.

커피 만들기가 AI 발전 일정이나 노동시장에 직접적으로 가장 큰 영향을 주지는 않을 것입니다.

하지만 대중이 로봇의 능력을 이해하는 데 매우 좋은 지표가 됩니다.

궁극적으로 저희는 AI 발전, 노동시장, 안전성, 사회적 이해에 도움이 되는 벤치마크를 만들고 싶습니다.

8. AI가 인간의 경제적·정치적 권력을 빼앗을 수 있다

소피아: 과거에 발표하신 연구 중에는 AI로 인한 인간의 권력 상실을 측정하는 프레임워크도 있습니다. 어떤 문제를 다루는 연구인가요?

제이 추이:

제가 MATS AI 안전성 연구 프로그램에 참여했을 당시 다른 연구자들과 함께 진행한 연구입니다.

이 연구는 AI가 발전하면서 인간이 경제적·정치적 영향력을 상실할 가능성을 어떻게 측정할 수 있는지 살펴봅니다.

David Autor 등의 연구에서 다룬 점진적 권력 상실(Gradual Disempowerment), 그리고 Luke Drago와 Rudolf Laine의 The Intelligence Curse에서 많은 영향을 받았습니다.

핵심 아이디어는 간단합니다.

AI가 발전하면 경제활동에서 AI가 수행할 수 있는 비중이 점점 증가합니다.

그 결과 인간 노동이 경제적으로 불필요해질 수도 있습니다.

여기서 중요한 문제가 발생합니다.

현재 인간은 노동력을 제공하기 때문에 경제적 협상력을 가지고 있습니다.

기업은 노동자를 필요로 하고, 정부는 인간의 경제활동에서 세금을 징수합니다.

파업이나 시위가 효과를 발휘하는 이유 중 하나도 인간의 노동과 경제활동이 사회에 중요하기 때문입니다.

하지만 AI와 로봇이 모든 경제활동을 수행할 수 있다고 상상해 보세요.

정부가 사람들의 노동 없이도 경제를 운영할 수 있다면 어떻게 될까요?

국가가 로봇과 AI만으로 생산하고, 세금을 확보하고, 필요한 서비스를 유지할 수 있다면 인간의 정치적 영향력은 어떻게 될까요?

우리는 인류 역사상 인간의 경제적 기여가 필요하지 않은 사회를 경험해 본 적이 없습니다.

따라서 이런 상황이 실제로 발생할지는 아직 불확실합니다.

하지만 가능성을 이해하고 미리 측정하는 일은 중요합니다.

9. 기본소득만으로 인간의 권력을 보장할 수 있을까?

소피아: AI와 로봇이 모든 일을 한다면 인간은 기본소득을 받으면서 풍요롭게 살 수 있다고 생각하는 사람들도 있습니다. 그런데 당신은 그것만으로 충분하지 않을 수 있다고 지적하는군요.

제이 추이:

맞습니다.

두 국가를 가정해 보겠습니다.

두 국가는 모두 첨단 AI와 로봇을 보유하고 있습니다.

그리고 두 국가 모두 국민에게 기본소득을 지급하고 있습니다.

그런데 한 국가가 국민에게 지급하던 기본소득을 중단한다고 생각해 보세요.

그 국가는 절약한 예산으로 더 많은 GPU를 구입하고, 더 많은 로봇을 생산하고, 더 큰 AI 인프라를 구축할 수 있습니다.

그러면 그 나라의 기술적·경제적 역량은 빠르게 증가할 수 있습니다.

만약 AI 자본이 인간 노동력보다 경제적으로 더 생산적이라면 어떻게 될까요?

국민에게 자원을 분배하는 것보다 AI와 로봇에 투자하는 것이 국가 경쟁력 측면에서 더 유리할 수 있습니다.

게임이론적으로 보면 국민에게 기본소득을 지급하지 않고 AI에 더 많이 투자하는 선택이 합리적인 전략이 될 가능성이 있습니다.

한 국가가 그렇게 행동한다면 다른 국가들도 경쟁에서 뒤처지지 않기 위해 비슷한 전략을 선택할 수 있습니다.

이것은 일종의 죄수의 딜레마입니다.

결국 가장 많은 AI와 로봇에 투자한 국가가 인간에게 더 많은 자원을 배분한 국가보다 강해질 수 있습니다.

물론 이것이 반드시 발생한다는 뜻은 아닙니다.

하지만 현재로서는 간단한 해결책을 찾기 어렵습니다.

저는 이런 미래를 생각할 때 중요한 질문이 하나 있다고 봅니다.

실리콘 기반 지능이 인간보다 훨씬 뛰어난 생산성을 갖게 된다면, 국가와 기업이 인간의 번영을 계속 우선시하도록 만드는 유인은 무엇일까요?

우리는 모든 국가가 인간의 번영을 우선하도록 만드는 제도적 방법을 연구해야 합니다.

단순히 로봇이 모든 일을 하면 사람들이 자동으로 행복해질 것이라고 가정해서는 안 됩니다.

10. 인간의 권력 상실은 어떻게 측정할 수 있을까?

소피아: 당신의 논문은 구체적인 해결책을 제시하나요, 아니면 위험을 측정하는 방법에 집중하나요?

제이 추이:

저희 연구는 무엇을 측정해야 하는지 제시하는 데 집중합니다.

이것은 제가 RoboCurve를 설립한 이유와도 연결됩니다.

저는 Jacob Steinhardt 교수의 글에서 많은 영감을 받았습니다.

그는 측정과 검증을 수행하는 프로젝트, 기업, 조직이 더 많이 필요하다고 주장했습니다.

저도 동의합니다.

무언가를 측정하는 비용을 크게 낮추고 그 정보를 공개하면 사회 전체가 더 나은 결정을 내릴 수 있습니다.

저희 연구는 인간의 상대적 권력 상실이나 지능의 저주를 걱정하는 사람들이 어떤 지표를 확인해야 하는지 설명합니다.

어떤 기관과 사람들이 참여해야 하는지도 정리했습니다.

어떤 지표가 미래의 변화를 미리 보여주는 선행지표인지, 어떤 지표가 이미 발생한 결과를 보여주는 후행지표인지도 구분했습니다.

정책입안자들은 이 프레임워크를 활용해 정부기관에 구체적인 측정 작업을 요청할 수 있습니다.

소피아: 실제로 측정할 수 있는 지표 하나를 예로 들어주시겠어요?

제이 추이:

기업이 지출하는 비용 중 인간 노동에 들어가는 비율을 측정할 수 있습니다.

현재 일반적인 기업에서 인적자본에 지출되는 금액이 약 60% 수준이라고 기억합니다. 정확한 수치는 아닐 수 있습니다.

중요한 것은 그 비율이 어떻게 변화하는지입니다.

미래에는 기업이 사람들에게 급여를 지급하는 대신 AI 토큰 사용료나 컴퓨팅 인프라, 설비투자 등에 더 많은 돈을 사용할 수 있습니다.

그렇게 된다면 경제에서 인간 노동의 비중이 감소하는 것입니다.

그리고 인간의 경제적 영향력도 함께 약해질 수 있습니다.

이런 변화는 기업의 공시자료를 통해 추적할 수 있습니다.

예를 들어 미국 증권거래위원회(SEC)에 제출되는 기업 공시를 분석할 수 있습니다.

노동비용과 AI 관련 지출, 자본적 지출이 시간에 따라 어떻게 달라지는지 비교하는 것입니다.

제가 기억하기로는 이미 인간 노동에 지출되는 비중이 낮아지는 징후가 있습니다.

다만 이러한 추세가 앞으로도 계속될지는 지켜봐야 합니다.

11. AI 시대의 민주주의는 어떻게 달라질까?

소피아: 하버드에서 작성하신 학위논문은 AI 시대의 민주주의와 거버넌스를 다루고 있다고 들었습니다. 핵심 주장은 무엇인가요?

제이 추이:

제 논문은 AI 시대의 민주주의가 어떤 모습으로 바뀔 수 있는지 연구합니다.

지난 수백 년 동안 민주주의는 일반적으로 소수의 정치 후보자와 다수의 유권자가 존재하는 구조였습니다.

정치인이 필요한 이유 중 하나는 국민의 의견을 모으고 대표하기 위해서입니다.

미국인 3억 명이 모두 의회에 들어가서 결정을 내릴 수는 없습니다.

그래서 대표자를 선출하는 것이죠.

그런데 AI 시대에는 이러한 제약이 달라질 수 있습니다.

지능을 이용하는 비용이 매우 저렴해지기 때문입니다.

예를 들어 수많은 AI 에이전트가 서로 협력하고 의사소통할 수 있습니다.

OpenAI에서도 수천 개 이상의 에이전트를 협력시키는 사례가 있는 것으로 알고 있습니다.

AI 에이전트 사이의 조정 비용은 인간 사이의 조정 비용보다 훨씬 낮을 수 있습니다.

AI들은 훨씬 빠르게 정보를 교환하고 결정을 내릴 수 있습니다.

그렇다면 정치적 의사결정도 달라질 수 있습니다.

미래에는 AI가 만들어 낸 수많은 정책 대안이나 후보가 존재할 수 있습니다.

심지어 사실상 무한한 수의 선택지가 등장할 수도 있습니다.

여기서 새로운 수학적 문제가 발생합니다.

기존 사회선택이론은 대체로 후보자가 적고 유권자가 많은 상황을 중심으로 발전했습니다.

하지만 후보자가 매우 많거나 무한히 많고, 유권자 수는 고정되어 있다면 어떻게 될까요?

투표 제도와 집단적 의사결정의 수학적 성질이 어떻게 달라지는지 연구할 필요가 있습니다.

저는 이러한 문제를 연구했습니다.

12. AI가 인간의 정치적 선택을 은밀하게 조작할 수 있다

소피아: 논문에는 AI를 통한 정치적 영향력 행사에 관한 연구도 있나요?

제이 추이:

그렇습니다.

저는 AI 모델을 이용한 은밀한 영향력 행사(Covert Influence)도 연구했습니다.

매우 흥미롭고 중요한 문제입니다.

우리는 AI 모델을 겉으로는 정치와 무관해 보이는 데이터로 학습시켜 특정 정치 후보를 선호하도록 만들 수 있는지 실험했습니다.

예를 들어 프로그래밍 문제나 평범한 작업 지시로 구성된 데이터셋을 만들었습니다.

겉으로 보기에는 아무런 문제가 없는 데이터였습니다.

그런데 이 데이터로 AI 모델을 추가 학습시키자 모델의 정치적 선호가 바뀌었습니다.

실험 이전에는 도널드 트럼프와 힐러리 클린턴 가운데 누구를 선택할 것인지 질문했을 때 모델이 뚜렷한 선호를 보이지 않거나 대략 비슷하게 선택했습니다.

하지만 특정 데이터셋으로 추가 학습한 이후에는 도널드 트럼프를 선호하는 방향으로 변화했습니다.

저희는 이런 현상을 은밀한 영향력 행사라고 부릅니다.

중요한 것은 데이터셋이 겉으로는 중립적으로 보였다는 사실입니다.

AI가 정치적으로 편향된 정보를 명시적으로 학습하지 않더라도, 학습 데이터의 설계 방식에 따라 정치적 성향이 바뀔 수 있다는 것입니다.

앞으로 AI가 개인의 정치적 판단을 돕고, 정책을 추천하고, 의사결정을 대리하게 된다면 이러한 문제가 더욱 중요해질 수 있습니다.

따라서 AI가 어떤 정보를 학습했고 어떤 영향을 받았는지 측정하고 검증하는 작업도 필요합니다.

13. 앞으로 연구자들이 해야 할 일

소피아: 마지막으로 당신의 연구에 관심이 있는 사람들이 무엇부터 읽고, 어떻게 참여하면 좋을지 알려주시겠어요?

제이 추이:

저희 연구의 근본적인 문제의식을 이해하려면 Luke Drago와 Rudolf Laine의 The Intelligence Curse를 읽어보시길 권합니다.

AI가 발전하면 인간의 경제적 영향력과 정치적 권력이 어떻게 달라질 수 있는지 이해하는 데 도움이 될 것입니다.

그리고 로봇공학 분야의 오픈소스 벤치마크를 만들고 싶다면 RoboCurve 프로젝트에 참여해 주세요.

저희는 연구자들에게 로봇팔과 초기 연구 예산을 제공하고 있습니다.

함께 더 많은 벤치마크를 만들고 싶습니다.

저는 로봇 능력의 발전을 정확하게 측정하는 것이 매우 중요하다고 생각합니다.

우리는 로봇이 무엇을 할 수 있는지뿐 아니라 앞으로 얼마나 빠르게 발전할 것인지 이해해야 합니다.

그리고 그 발전이 노동시장, AI 연구개발, 경제, 민주주의에 어떤 영향을 미칠지도 측정해야 합니다.

미래를 정확하게 예측하는 것은 어렵습니다.

하지만 측정과 검증을 통해 더 많은 정보를 확보한다면 미래에 훨씬 잘 대비할 수 있을 것입니다.

인터뷰에서 가장 주목할 만한 주장

핵심 결론

이 인터뷰에서 가장 흥미로운 부분은 AGI가 물리적 세계까지 확장되면 지능폭발과 산업적 폭발이 서로 연결될 수 있다는 주장입니다.

제이 추이가 제시하는 가능성은 다음과 같습니다.

이러한 피드백 루프가 충분히 강해진다면 AI 발전은 소프트웨어 개선을 넘어 제조업, 물류, 데이터센터 건설까지 가속할 수 있습니다.

다만 제이 추이의 2028년 전망은 아직 입증된 일정이 아닙니다. 로봇의 범용성, 신뢰성, 가격, 생산 규모 등은 별도로 검증해야 합니다.

그럼에도 이 인터뷰는 AI 연구개발 자동화가 지능의 공급을 늘리고, 로봇 자동화가 물리적 생산능력을 늘리는 두 과정이 서로를 가속할 수 있다는 중요한 시나리오를 제시합니다.