인터뷰/예측
세인레그 "저는 5년 안에 AGI과 함께 살게 될 수 있다고 생각합니다."
작성자
하이룽룽
작성일
2024-11-24 20:19
조회
1102
Google DeepMind의 공동 창립자인 Shane Legg와 Google의 기술 및 사회 부문 수석 이사인 Mira Lane과의 인공 일반 지능 목표 달성을 위한 진행 상황에 대한 대화
https://www.theatlantic.com/sponsored/google/Its-time-to-think-about-super-intelligent-ai/3974/
"우리는 다양한 분야에서 AI에 대해 작업하고 있으며, 많은 사람들은 AGI를 달성하는 것이 아마도 우리가 이미 알고 있는 것들을 개선하고 향상시키며, 우리가 이미 알고 있는 몇몇 방법들을 올바른 방식으로 결합하는 것이라고 생각합니다." - Google 딥마인드 공동 창립자 셰인 레그
미라 레인: 오늘날 AI 개발 측면에서 우리는 어디에 서 있으며, AGI의 가능성을 실현하는 데 얼마나 가까이 와 있나요?
셰인 레그: 모두들 AI가 빠르게 발전하고 있다는 것을 알고 있습니다. 저는 5년 안에 인공지능 일반 지능(AGI)과 함께 살게 될 수 있다고 생각합니다. 10년 안에는 그 가능성이 더욱 높아진다고 생각합니다. 제가 2009년에 최초로 AGI 타임라인 예측을 했을 때, 2028년까지 AGI가 50%의 가능성으로 실현될 것이라고 예측했습니다. 그러니 앞으로 10년 안에 이것이 일어날 가능성을 잠시 진지하게 생각해 봅시다. AGI는 다양한 분야에 영향을 미치며, 모든 분야의 전문가가 될 수는 없습니다. AGI의 도래는 사실 모든 인간의 노력에 대한 깊은 전문 지식을 필요로 합니다. 우리가 정말로 필요로 하는 것은 모든 학부와 대학의 다양한 부서들이 AGI의 도래를 생각하는 것입니다. AGI 이후의 세계에서 의학은 어떤 모습일까요? AGI 이후의 세계에서 회계는 어떤 모습일까요? AGI 이후의 세계에서 교육은 어떤 모습일까요? AGI 이후의 세계에서 연구는 어떤 모습일까요? AGI 이후의 세계에서 경제는 어떤 모습일까요?
레인: 현재 AGI를 어떻게 정의하고 있나요? 그것이 큰 열린 질문인 것 같아요.
레그: 저는 AGI를 사람들이 일반적으로 할 수 있는 인지적 일을 할 수 있는 인공 에이전트로 정의합니다. 이것이 자연스러운 최소 기준이라고 봅니다. AGI 능력의 높은 수준에 대해서는 작년에 구글 딥마인드에서 우리 그룹이 작성한 "AGI의 수준(Levels of AGI)"이라는 논문을 참고하세요.
레인: 오늘날 AI 연구에서 가장 중요한 미해결 질문은 무엇이며, 이 분야를 발전시키기 위해 어떤 돌파구가 아직 필요하다고 보시나요?
레그: 우리는 다양한 분야에서 AI에 대해 작업하고 있으며, 많은 사람들은 AGI를 달성하는 것이 아마도 우리가 이미 알고 있는 것들을 개선하고 향상시키며, 우리가 이미 알고 있는 몇몇 방법들을 올바른 방식으로 결합하는 것이라고 생각합니다. 이것이 보장된 것은 아닙니다. 어쩌면 우리가 아직 모르는 큰 돌파구가 필요할 수도 있습니다. 그러나 AGI에 도달하기 위해 구글에서 개발된 트랜스포머만큼 큰 돌파구가 필요하지는 않을 것입니다. 몇 가지 진전은 있을 것입니다. 현재 데이터셋, 메모리, 계획 및 추론에서 모델을 개선할 수 있는 여러 가지 쉬운 방법들이 있습니다. 그리고 우리가 이 모든 것들을 작업함에 따라, 모든 다양한 영역에서 진전을 보고 있습니다. 그래서 적어도 향후 몇 년 동안은 이미 매우 우수한 이 모델들을 더욱 향상시킬 수 있을 것이라고 확신합니다. 그리고 이러한 모델들로 에이전트를 만들기 시작하면, 그 에이전트들은 다양한 환경과 상호 작용하고 그 환경에서 목표를 달성하려고 노력하면서 데이터를 생성할 것입니다. 그런 다음 우리는 그 데이터로 새로운 기반 모델을 훈련시킬 것입니다. 결과적인 모델은 에이전트를 구축하는 데 훨씬 더 나아질 것입니다. 이 과정은 빠르면 5년 안에 우리를 AGI에 도달하게 할 수 있습니다.
미라 레인: AI 시스템의 이해 수준을 어떻게 측정할 수 있다고 보시며, 이 복잡한 문제에 대해 어떤 프레임워크가 당신의 생각에 영향을 주나요?
셰인 레그: 네, 어렵습니다. AI 에이전트의 지능적인 행동의 모든 측면이 측정하기 쉬운 것은 아닙니다. 그리고 측정하기 어려운 측면이 있다면, 그 부분에서 얼마나 잘하고 있는지 알 수 없고, 그 부분에서 얼마나 잘하고 있는지 모른다면, 더 잘해야 하는지 아니면 이미 잘하고 있는지도 인식하지 못할 수 있습니다.
또 다른 문제는 측정할 수 있다고 해도, 측정해야 할 것이 너무 많다는 점입니다. 측정하려는 것이 AGI라면, 그것은 일반성을 갖고 있기 때문입니다—특정한 일을 하는 것이 아닙니다. 만약 매우 특정한 일을 한다면, 그 측면에서 철저히 측정할 수 있을 것입니다. 하지만 매우 일반적이라면, 코딩부터 20개 언어를 이해하고, 음악을 만들고, 그림을 그리고, 시를 쓰고, 법률 업무까지 모든 것을 할 수 있습니다. 이는 측정해야 할 것이 매우 많습니다. 그래서 측정 문제는 매우 어렵고 또한 매우 중요합니다.
또한 이것이 화려한 일이 아니기 때문에 어렵습니다. 이렇게 생각해 보세요: 가장 화려한 올림픽 종목은 100미터 달리기이죠, 그렇죠? 하지만 누군가 트랙을 만들고 출발 신호와 포토 피니시 장비를 준비하지 않으면 100미터 달리기 경기가 열리지 않습니다. 아시다시피, 그런 준비 없이는 좋은 경기가 열리지 않지만, 영광은 선수들에게 돌아갑니다.
레인: 트랙을 설계한 사람들에게는 아니죠.
레그: 설계는 같은 종류의 관심을 받지 못하지만, 좋은 트랙과 사진 등 모든 것이 없으면 경기가 잘 진행되지 않을 것입니다. 평평하고 적절한 표면을 가진 좋은 트랙이 필요하고, 이런 모든 것들이 필요합니다. 기계 학습 분야에서는 오랫동안 사람들이 심리적으로 에이전트를 구축하거나 벤치마크에서 최고 수준에 도달하는 것에 끌리지, 벤치마크 자체를 구축하는 데는 관심이 적다는 문제가 있었습니다.
레인: 이러한 긍정적인 변화를 보장하기 위해 어떤 거버넌스 모델이 중요하다고 생각하시나요? 대중의 이해는 어디에서 더 성장해야 한다고 보시나요?
레그: 음, 모두 거대한 질문입니다. 최근에 대중이 대형 언어 모델(LLM)에 대해 얼마나 높은 이해를 가지게 되었는지가 가장 큰 점이라고 생각합니다. 이는 단순히 읽기만 하는 기술이 아니라, 휴대전화에서 얻을 수 있고, 그것과 대화하고 상호 작용할 수 있는 기술입니다. 그래서 최소한 이것이 무엇인지에 대한 기초를 얻기 시작할 수 있습니다. 대중들이 그것을 대규모로 하고 있습니다. 이것이 사람들이 강력한 AGI가 다가오고 있다는 것을 이해한다는 의미일까요? 이상하게도, 많은 사람들이 그렇게 생각한다고 봅니다. 그리고 때때로 기술에 관심이 있는 일반인들이, 매우 회의적이고 오랜 신념과 편견을 가진 일부 전문가들보다 이것에 대해 더 나은 정신 모델을 가지고 있다고 실제로 생각합니다. 저는 이것을 제 경력 내내 보아 왔습니다.
레인: 어떻게 그렇죠?
레그: 우리가 딥마인드를 시작했을 때, 모두가 우리가 기계 학습이 거대해질 것이라고 생각하는 것이 우스꽝스럽다고 말했습니다. 사람들이 우리가 이 일을 하고, 《네이처》에 논문을 게재하고, 학술 저널에 나오거나 상을 받을 것이라고 생각하는 것이 우스꽝스럽다고 생각했습니다. 그러나 그렇지 않았습니다. AI는 계속해서 결과물을 제공하고 있고, 계속해서 더 좋아지고 있습니다.
레인: 우리는 고도로 능력 있는 AI 시스템이 모든 산업과 인간의 노력에 어떻게 변화를 가져올 것인지에 대해 이야기하고 있었습니다. 저는 많은 일에 LLM을 사용하고 있으며, 그것은 놀랍도록 좋습니다. 저는 이메일, 문서, 문자 메시지를 모델과 공유하고, 그것이 제가 다른 관점을 살펴보는 데 도움을 주도록 했습니다.
레그: 저도 최근에 그런 일을 했습니다. 몇 개의 메시지를 받았는데, 그 사람이 무엇을 말하려고 하는지 더 잘 이해하고 싶었습니다. 그들이 뭔가를 암시하는 것 같아서, 그것을 LLM에 넣고 "이 사람이 실제로 무엇을 말하려고 하는가?"라고 물었습니다.
레인: 흥미롭죠, 그렇지 않나요?
레그: 정말로 완전히 새로운 세계입니다.
레인: 앞으로 50년을 내다보면, AGI가 사회를 변화시킬 가장 깊은 방식은 무엇이라고 생각하시며, AI의 미래에 대한 가장 큰 희망과 우려는 무엇인가요? 우리가 이를 올바르게 한다면 어떤 모습일까요?
레그: 빈곤 감소와 다양한 자원과 교육에 대한 접근성 증대입니다. 의학과 과학 연구도 크게 발전할 수 있다고 생각합니다. 환경에도 좋을 수 있습니다. 우리는 새로운 유형의 청정 에너지 원천이나 새로운 소재와 제품을 가질 수 있을 것입니다. 저는 사회의 모든 측면에서 개선의 가능성을 봅니다.
https://www.theatlantic.com/sponsored/google/Its-time-to-think-about-super-intelligent-ai/3974/
"우리는 다양한 분야에서 AI에 대해 작업하고 있으며, 많은 사람들은 AGI를 달성하는 것이 아마도 우리가 이미 알고 있는 것들을 개선하고 향상시키며, 우리가 이미 알고 있는 몇몇 방법들을 올바른 방식으로 결합하는 것이라고 생각합니다." - Google 딥마인드 공동 창립자 셰인 레그
미라 레인: 오늘날 AI 개발 측면에서 우리는 어디에 서 있으며, AGI의 가능성을 실현하는 데 얼마나 가까이 와 있나요?
셰인 레그: 모두들 AI가 빠르게 발전하고 있다는 것을 알고 있습니다. 저는 5년 안에 인공지능 일반 지능(AGI)과 함께 살게 될 수 있다고 생각합니다. 10년 안에는 그 가능성이 더욱 높아진다고 생각합니다. 제가 2009년에 최초로 AGI 타임라인 예측을 했을 때, 2028년까지 AGI가 50%의 가능성으로 실현될 것이라고 예측했습니다. 그러니 앞으로 10년 안에 이것이 일어날 가능성을 잠시 진지하게 생각해 봅시다. AGI는 다양한 분야에 영향을 미치며, 모든 분야의 전문가가 될 수는 없습니다. AGI의 도래는 사실 모든 인간의 노력에 대한 깊은 전문 지식을 필요로 합니다. 우리가 정말로 필요로 하는 것은 모든 학부와 대학의 다양한 부서들이 AGI의 도래를 생각하는 것입니다. AGI 이후의 세계에서 의학은 어떤 모습일까요? AGI 이후의 세계에서 회계는 어떤 모습일까요? AGI 이후의 세계에서 교육은 어떤 모습일까요? AGI 이후의 세계에서 연구는 어떤 모습일까요? AGI 이후의 세계에서 경제는 어떤 모습일까요?
레인: 현재 AGI를 어떻게 정의하고 있나요? 그것이 큰 열린 질문인 것 같아요.
레그: 저는 AGI를 사람들이 일반적으로 할 수 있는 인지적 일을 할 수 있는 인공 에이전트로 정의합니다. 이것이 자연스러운 최소 기준이라고 봅니다. AGI 능력의 높은 수준에 대해서는 작년에 구글 딥마인드에서 우리 그룹이 작성한 "AGI의 수준(Levels of AGI)"이라는 논문을 참고하세요.
레인: 오늘날 AI 연구에서 가장 중요한 미해결 질문은 무엇이며, 이 분야를 발전시키기 위해 어떤 돌파구가 아직 필요하다고 보시나요?
레그: 우리는 다양한 분야에서 AI에 대해 작업하고 있으며, 많은 사람들은 AGI를 달성하는 것이 아마도 우리가 이미 알고 있는 것들을 개선하고 향상시키며, 우리가 이미 알고 있는 몇몇 방법들을 올바른 방식으로 결합하는 것이라고 생각합니다. 이것이 보장된 것은 아닙니다. 어쩌면 우리가 아직 모르는 큰 돌파구가 필요할 수도 있습니다. 그러나 AGI에 도달하기 위해 구글에서 개발된 트랜스포머만큼 큰 돌파구가 필요하지는 않을 것입니다. 몇 가지 진전은 있을 것입니다. 현재 데이터셋, 메모리, 계획 및 추론에서 모델을 개선할 수 있는 여러 가지 쉬운 방법들이 있습니다. 그리고 우리가 이 모든 것들을 작업함에 따라, 모든 다양한 영역에서 진전을 보고 있습니다. 그래서 적어도 향후 몇 년 동안은 이미 매우 우수한 이 모델들을 더욱 향상시킬 수 있을 것이라고 확신합니다. 그리고 이러한 모델들로 에이전트를 만들기 시작하면, 그 에이전트들은 다양한 환경과 상호 작용하고 그 환경에서 목표를 달성하려고 노력하면서 데이터를 생성할 것입니다. 그런 다음 우리는 그 데이터로 새로운 기반 모델을 훈련시킬 것입니다. 결과적인 모델은 에이전트를 구축하는 데 훨씬 더 나아질 것입니다. 이 과정은 빠르면 5년 안에 우리를 AGI에 도달하게 할 수 있습니다.
미라 레인: AI 시스템의 이해 수준을 어떻게 측정할 수 있다고 보시며, 이 복잡한 문제에 대해 어떤 프레임워크가 당신의 생각에 영향을 주나요?
셰인 레그: 네, 어렵습니다. AI 에이전트의 지능적인 행동의 모든 측면이 측정하기 쉬운 것은 아닙니다. 그리고 측정하기 어려운 측면이 있다면, 그 부분에서 얼마나 잘하고 있는지 알 수 없고, 그 부분에서 얼마나 잘하고 있는지 모른다면, 더 잘해야 하는지 아니면 이미 잘하고 있는지도 인식하지 못할 수 있습니다.
또 다른 문제는 측정할 수 있다고 해도, 측정해야 할 것이 너무 많다는 점입니다. 측정하려는 것이 AGI라면, 그것은 일반성을 갖고 있기 때문입니다—특정한 일을 하는 것이 아닙니다. 만약 매우 특정한 일을 한다면, 그 측면에서 철저히 측정할 수 있을 것입니다. 하지만 매우 일반적이라면, 코딩부터 20개 언어를 이해하고, 음악을 만들고, 그림을 그리고, 시를 쓰고, 법률 업무까지 모든 것을 할 수 있습니다. 이는 측정해야 할 것이 매우 많습니다. 그래서 측정 문제는 매우 어렵고 또한 매우 중요합니다.
또한 이것이 화려한 일이 아니기 때문에 어렵습니다. 이렇게 생각해 보세요: 가장 화려한 올림픽 종목은 100미터 달리기이죠, 그렇죠? 하지만 누군가 트랙을 만들고 출발 신호와 포토 피니시 장비를 준비하지 않으면 100미터 달리기 경기가 열리지 않습니다. 아시다시피, 그런 준비 없이는 좋은 경기가 열리지 않지만, 영광은 선수들에게 돌아갑니다.
레인: 트랙을 설계한 사람들에게는 아니죠.
레그: 설계는 같은 종류의 관심을 받지 못하지만, 좋은 트랙과 사진 등 모든 것이 없으면 경기가 잘 진행되지 않을 것입니다. 평평하고 적절한 표면을 가진 좋은 트랙이 필요하고, 이런 모든 것들이 필요합니다. 기계 학습 분야에서는 오랫동안 사람들이 심리적으로 에이전트를 구축하거나 벤치마크에서 최고 수준에 도달하는 것에 끌리지, 벤치마크 자체를 구축하는 데는 관심이 적다는 문제가 있었습니다.
레인: 이러한 긍정적인 변화를 보장하기 위해 어떤 거버넌스 모델이 중요하다고 생각하시나요? 대중의 이해는 어디에서 더 성장해야 한다고 보시나요?
레그: 음, 모두 거대한 질문입니다. 최근에 대중이 대형 언어 모델(LLM)에 대해 얼마나 높은 이해를 가지게 되었는지가 가장 큰 점이라고 생각합니다. 이는 단순히 읽기만 하는 기술이 아니라, 휴대전화에서 얻을 수 있고, 그것과 대화하고 상호 작용할 수 있는 기술입니다. 그래서 최소한 이것이 무엇인지에 대한 기초를 얻기 시작할 수 있습니다. 대중들이 그것을 대규모로 하고 있습니다. 이것이 사람들이 강력한 AGI가 다가오고 있다는 것을 이해한다는 의미일까요? 이상하게도, 많은 사람들이 그렇게 생각한다고 봅니다. 그리고 때때로 기술에 관심이 있는 일반인들이, 매우 회의적이고 오랜 신념과 편견을 가진 일부 전문가들보다 이것에 대해 더 나은 정신 모델을 가지고 있다고 실제로 생각합니다. 저는 이것을 제 경력 내내 보아 왔습니다.
레인: 어떻게 그렇죠?
레그: 우리가 딥마인드를 시작했을 때, 모두가 우리가 기계 학습이 거대해질 것이라고 생각하는 것이 우스꽝스럽다고 말했습니다. 사람들이 우리가 이 일을 하고, 《네이처》에 논문을 게재하고, 학술 저널에 나오거나 상을 받을 것이라고 생각하는 것이 우스꽝스럽다고 생각했습니다. 그러나 그렇지 않았습니다. AI는 계속해서 결과물을 제공하고 있고, 계속해서 더 좋아지고 있습니다.
레인: 우리는 고도로 능력 있는 AI 시스템이 모든 산업과 인간의 노력에 어떻게 변화를 가져올 것인지에 대해 이야기하고 있었습니다. 저는 많은 일에 LLM을 사용하고 있으며, 그것은 놀랍도록 좋습니다. 저는 이메일, 문서, 문자 메시지를 모델과 공유하고, 그것이 제가 다른 관점을 살펴보는 데 도움을 주도록 했습니다.
레그: 저도 최근에 그런 일을 했습니다. 몇 개의 메시지를 받았는데, 그 사람이 무엇을 말하려고 하는지 더 잘 이해하고 싶었습니다. 그들이 뭔가를 암시하는 것 같아서, 그것을 LLM에 넣고 "이 사람이 실제로 무엇을 말하려고 하는가?"라고 물었습니다.
레인: 흥미롭죠, 그렇지 않나요?
레그: 정말로 완전히 새로운 세계입니다.
레인: 앞으로 50년을 내다보면, AGI가 사회를 변화시킬 가장 깊은 방식은 무엇이라고 생각하시며, AI의 미래에 대한 가장 큰 희망과 우려는 무엇인가요? 우리가 이를 올바르게 한다면 어떤 모습일까요?
레그: 빈곤 감소와 다양한 자원과 교육에 대한 접근성 증대입니다. 의학과 과학 연구도 크게 발전할 수 있다고 생각합니다. 환경에도 좋을 수 있습니다. 우리는 새로운 유형의 청정 에너지 원천이나 새로운 소재와 제품을 가질 수 있을 것입니다. 저는 사회의 모든 측면에서 개선의 가능성을 봅니다.
전체 0