인터뷰/예측
구글 Blaise Agüera y Arcas 인터뷰 - AI는 정말로 인류에게 실존적 위협이 될까?
작성자
작성일
2024-07-24 23:19
조회
1396
https://www.motherjones.com/politics/2024/07/is-ai-really-an-existential-threat-to-humanity-interview-blaise-arcas/
인공 지능은 모든 것을 바꿀 것이라고 우리는 들었습니다. 종종 일련의 재앙을 가져올 것이라고 예언됩니다. "멸종", "파멸"; AI는 " 우리 모두를 죽일 " 위험이 있습니다. 미국 의원들은 고급 AI 모델과 관련된 잠재적인 "생물학적, 화학적, 사이버 또는 핵" 위험에 대해 경고 했고, 국무부에서 의뢰한 "대격변적 위험"에 대한 연구 에서 연방 정부가 개입하여 이 빠르게 진화하는 기술의 무기화와 통제되지 않은 사용을 방지하는 보호 조치를 제정할 것을 촉구했습니다. 일부 주요 AI 연구실의 직원들은 안전에 대한 우려를 공개적으로 표명했고 , 소위 "AI의 대부"를 포함한 이 분야의 전문가들은 "AI로 인한 멸종 위험을 완화하는 것"이 글로벌 우선순위가 되어야 한다고 주장했습니다 .
AI 역량의 발전으로 특정 직업의 소멸 가능성과 허위 정보를 퍼뜨리고 선거에 간섭하기 위해 기술을 오용할 수 있다는 두려움이 커졌습니다. 이러한 발전은 또한 인공 일반 지능 시스템이 인간을 능가하고 최악의 경우 인류를 말살할 수 있는 가상의 미래에 대한 불안을 가져왔습니다.
하지만 구글의 기술 및 사회 부문 CTO이자 인간의 정체성과 행동에 대한 데이터 중심 책인 Who Are We Now ? 의 저자인 AI 연구자 블레즈 아궤라 이 아르카스는 인공 지능의 파괴적 잠재력에 대한 대화가 AI를 폄하 하는 사람과 거부하는 사람으로 양극화되어서는 안 된다고 주장합니다. 그는 가디언 에 "두 관점 모두 제로섬 게임, 즉 우리 대 그들 사고방식에 뿌리를 두고 있습니다." 라고 썼습니다.
그렇다면 우리는 실제로 얼마나 걱정해야 할까요? 저는 지난달 Aspen Ideas Festival에서 Mother Jones 와 함께 앉아 AI의 미래와 우리가 그것에 대해 어떻게 생각해야 하는지에 대해 이야기한 Agüera y Arcas에게 그 질문을 던졌습니다.
이 대화는 길이와 명확성을 위해 편집되었습니다.
당신은 대형 기술 회사에서 일합니다. 왜 인간성, 행동, 정체성을 연구해야겠다고 생각하게 되었나요?
제가 거대한 AI 모델에 대해 느낀 건, 그것들은 인간의 지능이고, 별개가 아니라는 겁니다. 업계와 AI 업계에는 체스나 뭐 그런 게임을 잘하는 시스템을 통해 범용적이고 강력한 AI에 도달할 수 있을 것이라고 생각한 사람들이 많았습니다. 하지만 그렇지 않았습니다. 결국 우리가 거기에 도달한 방법은 문자 그대로 인터넷에서 인간의 상호작용과 콘텐츠를 모델링하는 것이었습니다. 인터넷은 분명히 우리를 완벽하게 반영하지 못하고, 많은 결함이 있습니다. 하지만 기본적으로 그것은 인간입니다. 문자 그대로 인간을 모델링하여 일반적인 지능을 낳습니다. 걱정스럽기도 하고 안심스럽기도 합니다. 그것이 외계인이 아니라는 사실이 안심이 됩니다. 너무나 친숙하거든요. 그리고 그것이 우리의 모든 결함을 물려받았기 때문에 걱정스럽습니다.
당신이 공동 집필한 "AI의 실존적 위험에 대한 환상"이라는 제목의 기사 에서 당신은 "(초지능이 아닌) AI의 오용으로 인한 피해와 대량 사망은 실제로 가능하며, 초지능 불량 AI를 통한 멸종은 불가능한 일이 아니다"라고 썼습니다. 우리는 얼마나 걱정해야 할까요?
저는 낙관주의자이지만 걱정꾼이기도 합니다. 지금 인류와 지구에 대한 제 가장 큰 걱정은 핵전쟁과 기후 붕괴입니다. 우리는 절벽 끝에서 춤을 추고 있는지도 모릅니다. AI 실존적 위험에 대한 대화에서 제가 가장 크게 좌절하는 점 중 하나는 지금 당장 우리 앞에 있는 현실적 문제들로부터 주의를 돌리는 데 방해가 된다는 것입니다. 사실 우리에게 필요한 것은 더 많은 지능이지, 더 적은 지능이 아닙니다.
어떻게든 더 많은 지능이 위협이라는 생각은 우리 영장류 뇌의 지배 계층에서 나오는 것 같습니다. 우리는 지금 최고이지만, 어쩌면 AI가 최고가 될지도 모릅니다. 그리고 저는 이게 정말 헛소리라고 생각합니다.
AI는 이미 컴퓨터에 매우 필수적이며 앞으로 몇 년 안에 더욱 중요해질 것입니다. 저는 민주주의, 허위 정보 및 대량 해킹, 사이버 전쟁 및 기타 여러 가지에 대해 많은 우려를 가지고 있습니다. 우려해야 할 일이 부족하지 않습니다. 그 중 잠재적인 종말자로 보이는 것은 거의 없습니다. 우리가 원하는 라이프스타일, 살고 싶은 방식 및 가치에 대해 실제로 생각해야 할 것으로 보입니다.
지금 가장 큰 문제는 AI 모델이 윤리적 명령을 따르도록 하는 방법이 아니라 누가 그 명령을 내릴 것인가? 규칙은 무엇인가? 그리고 그것은 AI 문제가 아니라 민주주의와 거버넌스의 문제입니다. 그것은 깊고 우리는 그것을 해결해야 합니다.
같은 기사에서 당신은 사회 구조와 민주주의의 붕괴를 포함하여 오늘날 사회에 미치는 AI의 파괴적 위험에 대해 이야기합니다. 또한 데이터 센터를 개발하고 유지하는 데 필요한 탄소 발자국 , 명예 훼손적 콘텐츠 및 저작권 침해 문제, 저널리즘의 혼란에 대한 우려도 있습니다. 당신이 보는 현재의 위험은 무엇이며, 혜택이 잠재적 해악보다 더 큰가요?
우리는 AI 콘텐츠와 비AI 콘텐츠를 실제로 구분할 수 있을 것이라고 상상하고 있지만, 그럴지 잘 모르겠습니다. 많은 경우 AI는 언어를 구사하지 못하거나 감각적 또는 인지적 결핍이 있는 사람들에게 정말 도움이 될 것입니다. 점점 더 많은 사람들이 다양한 방식으로 AI와 함께 일하기 시작하면서, 저는 그러한 구분을 하는 것이 정말 어려워질 것이라고 생각합니다. 그 혜택이 실제로 크지 않다고 상상하기 어렵습니다. 하지만 우리에게 불리하게 작용하도록 하는 일종의 조건도 상상할 수 있습니다. 우리는 이러한 많은 기술에서 얻는 이익을 더 광범위하게 분배해야 합니다. 그리고 우리는 마음이 있는 곳에 돈을 투자해야 합니다.
AI는 기존 산업과 일자리를 쓸모없게 만들고 대체할 수 있게 만드는 것이 아니라, 산업과 일자리를 개발할 것인가?
노동 문제는 정말 복잡하고, 얼마나 많은 일자리가 대체되거나, 바뀌거나, 개선되거나, 창출될지에 대한 배심원단은 여전히 매우 불확실합니다. 우리는 모릅니다. 하지만 저는 그 토론의 조건이 옳다고 확신하지 못합니다. 만약 그것들이 우리에게 유용한 일을 하지 않는다면, 우리는 이러한 많은 AI 기능에 관심이 없을 것입니다. 하지만 자본주의가 지금처럼 구성되어 있다면, 우리는 사람들이 "경제적으로 유용한" 일을 하거나, 아니면 먹지 않도록 요구하고 있습니다. 이것에 대해 뭔가 이상한 것이 있는 듯합니다.
우리가 많은 사람들이 일할 필요가 없는 잠재적으로 풍요로운 시대에 접어들고 있지만 그 결과 많은 사람들이 굶주린다면, 우리가 세운 방식에는 매우 잘못된 것이 있습니다. 그것이 AI의 문제일까요? 그렇지 않습니다. 하지만 사회기술적 시스템 전체가 바뀌지 않는다면 AI가 가져올 수 있는 문제임은 분명합니다. 우리가 생각했던 자본주의와 노동이 40년 후에 살게 될 세상을 다룰 만큼 정교하다고는 생각하지 않습니다.
이러한 기술을 개발하는 회사들이 잠재적 결과를 크게 고려하지 않고 한계까지 끌고 가려는 사람들과, 그런 우려에 더 민감한 사람들로 나뉘어져 있다는 그림을 그리는 보도가 있었습니다. 그것이 업계에서 보는 현실입니까?
다른 문화 전쟁 문제와 마찬가지로 일종의 양극화가 일어나고 있습니다. 그리고 두 극은 이상합니다. 그 중 하나는 AI 실존적 위험이라고 부를 것입니다. 다른 하나는 AI 안전이라고 부를 것입니다. 그리고 AI 폐지 또는 반 AI 운동이라고 부를 수 있는 것이 있습니다. 한편으로는 AI가 인공적이거나 지능적이지 않으며 노동을 희생하여 자본을 강화하는 방법일 뿐이라고 종종 주장합니다. 거의 종교적인 것처럼 들리지 않습니까? 휴거 또는 종말 중 하나입니다. AI는 현실입니다. 일종의 파티 트릭이나 과장이 아닙니다. 저는 양측에서 제기되는 이러한 우려를 보는 방식에 상당히 좌절합니다. AI와 관련된 실제 문제 중 상당수가 훨씬 더 미묘하고 분석하는 데 훨씬 더 많은 주의가 필요하기 때문에 유감입니다.
Google을 포함한 AI 개발 회사의 현직 및 전직 직원들이 고발자 보호를 요구하는 서한에 서명하여 현직 및 전직 직원들이 이러한 기술의 잠재적 위험에 대한 우려를 공개적으로 제기할 수 있도록 했습니다. AI 개발에 투명성이 충분하지 않고 대중이 대기업과 강력한 개인이 이를 통제할 것이라고 믿어야 한다고 걱정하십니까?
아니요. 사람들이 기업이 모든 사람을 위해 모든 것을 더 좋게 만들 것이라고 믿어야 할까요? 물론 아닙니다. 저는 기업의 의도가 종종 일이 잘 되는지 나쁘게 되는지의 결정 요인이 되지 않았다고 생각합니다. 어떤 일의 장기적인 결과가 어떻게 될지 말하기는 종종 매우 어렵습니다.
인터넷을 생각해보세요. 인터넷은 정말 큰 변화의 마지막이었습니다. 저는 AI가 인터넷보다 더 큰 변화라고 생각합니다. 1992년에 인터넷에 대해 같은 대화를 나누었다면, 컴퓨터, 전선, 나중에는 광섬유를 만드는 회사를 신뢰해야 할까요? 그들이 우리의 이익을 염두에 두고 있다고 믿어야 할까요? 어떻게 그들을 책임지게 해야 할까요? 어떤 법률을 통과시켜야 할까요? 지금 우리가 아는 모든 것을 가지고도, 1992년에 인간에게 무엇을 하라고 말할 수 있었을까요? 잘 모르겠습니다.
인터넷은 엇갈린 축복이었습니다. 어떤 것들은 아마 다르게 규제되어야 했을 것입니다. 하지만 당시 우리가 생각했던 규제는 하나도 적절하지 않았습니다. 당시 우리가 우려했던 많은 것들이 잘못된 우려로 판명났다고 생각합니다. 지금 우리가 비슷한 상황에 처해 있다고 걱정합니다. AI를 규제해서는 안 된다고 말하는 것이 아닙니다. 하지만 제안된 실제 규칙과 정책을 살펴보면, 그 중 어느 것도 10년 후에 누구의 삶도 더 나아지게 할 수 있을지 확신이 매우 낮습니다.
인공 지능은 모든 것을 바꿀 것이라고 우리는 들었습니다. 종종 일련의 재앙을 가져올 것이라고 예언됩니다. "멸종", "파멸"; AI는 " 우리 모두를 죽일 " 위험이 있습니다. 미국 의원들은 고급 AI 모델과 관련된 잠재적인 "생물학적, 화학적, 사이버 또는 핵" 위험에 대해 경고 했고, 국무부에서 의뢰한 "대격변적 위험"에 대한 연구 에서 연방 정부가 개입하여 이 빠르게 진화하는 기술의 무기화와 통제되지 않은 사용을 방지하는 보호 조치를 제정할 것을 촉구했습니다. 일부 주요 AI 연구실의 직원들은 안전에 대한 우려를 공개적으로 표명했고 , 소위 "AI의 대부"를 포함한 이 분야의 전문가들은 "AI로 인한 멸종 위험을 완화하는 것"이 글로벌 우선순위가 되어야 한다고 주장했습니다 .
AI 역량의 발전으로 특정 직업의 소멸 가능성과 허위 정보를 퍼뜨리고 선거에 간섭하기 위해 기술을 오용할 수 있다는 두려움이 커졌습니다. 이러한 발전은 또한 인공 일반 지능 시스템이 인간을 능가하고 최악의 경우 인류를 말살할 수 있는 가상의 미래에 대한 불안을 가져왔습니다.
하지만 구글의 기술 및 사회 부문 CTO이자 인간의 정체성과 행동에 대한 데이터 중심 책인 Who Are We Now ? 의 저자인 AI 연구자 블레즈 아궤라 이 아르카스는 인공 지능의 파괴적 잠재력에 대한 대화가 AI를 폄하 하는 사람과 거부하는 사람으로 양극화되어서는 안 된다고 주장합니다. 그는 가디언 에 "두 관점 모두 제로섬 게임, 즉 우리 대 그들 사고방식에 뿌리를 두고 있습니다." 라고 썼습니다.
그렇다면 우리는 실제로 얼마나 걱정해야 할까요? 저는 지난달 Aspen Ideas Festival에서 Mother Jones 와 함께 앉아 AI의 미래와 우리가 그것에 대해 어떻게 생각해야 하는지에 대해 이야기한 Agüera y Arcas에게 그 질문을 던졌습니다.
이 대화는 길이와 명확성을 위해 편집되었습니다.
당신은 대형 기술 회사에서 일합니다. 왜 인간성, 행동, 정체성을 연구해야겠다고 생각하게 되었나요?
제가 거대한 AI 모델에 대해 느낀 건, 그것들은 인간의 지능이고, 별개가 아니라는 겁니다. 업계와 AI 업계에는 체스나 뭐 그런 게임을 잘하는 시스템을 통해 범용적이고 강력한 AI에 도달할 수 있을 것이라고 생각한 사람들이 많았습니다. 하지만 그렇지 않았습니다. 결국 우리가 거기에 도달한 방법은 문자 그대로 인터넷에서 인간의 상호작용과 콘텐츠를 모델링하는 것이었습니다. 인터넷은 분명히 우리를 완벽하게 반영하지 못하고, 많은 결함이 있습니다. 하지만 기본적으로 그것은 인간입니다. 문자 그대로 인간을 모델링하여 일반적인 지능을 낳습니다. 걱정스럽기도 하고 안심스럽기도 합니다. 그것이 외계인이 아니라는 사실이 안심이 됩니다. 너무나 친숙하거든요. 그리고 그것이 우리의 모든 결함을 물려받았기 때문에 걱정스럽습니다.
당신이 공동 집필한 "AI의 실존적 위험에 대한 환상"이라는 제목의 기사 에서 당신은 "(초지능이 아닌) AI의 오용으로 인한 피해와 대량 사망은 실제로 가능하며, 초지능 불량 AI를 통한 멸종은 불가능한 일이 아니다"라고 썼습니다. 우리는 얼마나 걱정해야 할까요?
저는 낙관주의자이지만 걱정꾼이기도 합니다. 지금 인류와 지구에 대한 제 가장 큰 걱정은 핵전쟁과 기후 붕괴입니다. 우리는 절벽 끝에서 춤을 추고 있는지도 모릅니다. AI 실존적 위험에 대한 대화에서 제가 가장 크게 좌절하는 점 중 하나는 지금 당장 우리 앞에 있는 현실적 문제들로부터 주의를 돌리는 데 방해가 된다는 것입니다. 사실 우리에게 필요한 것은 더 많은 지능이지, 더 적은 지능이 아닙니다.
어떻게든 더 많은 지능이 위협이라는 생각은 우리 영장류 뇌의 지배 계층에서 나오는 것 같습니다. 우리는 지금 최고이지만, 어쩌면 AI가 최고가 될지도 모릅니다. 그리고 저는 이게 정말 헛소리라고 생각합니다.
AI는 이미 컴퓨터에 매우 필수적이며 앞으로 몇 년 안에 더욱 중요해질 것입니다. 저는 민주주의, 허위 정보 및 대량 해킹, 사이버 전쟁 및 기타 여러 가지에 대해 많은 우려를 가지고 있습니다. 우려해야 할 일이 부족하지 않습니다. 그 중 잠재적인 종말자로 보이는 것은 거의 없습니다. 우리가 원하는 라이프스타일, 살고 싶은 방식 및 가치에 대해 실제로 생각해야 할 것으로 보입니다.
지금 가장 큰 문제는 AI 모델이 윤리적 명령을 따르도록 하는 방법이 아니라 누가 그 명령을 내릴 것인가? 규칙은 무엇인가? 그리고 그것은 AI 문제가 아니라 민주주의와 거버넌스의 문제입니다. 그것은 깊고 우리는 그것을 해결해야 합니다.
같은 기사에서 당신은 사회 구조와 민주주의의 붕괴를 포함하여 오늘날 사회에 미치는 AI의 파괴적 위험에 대해 이야기합니다. 또한 데이터 센터를 개발하고 유지하는 데 필요한 탄소 발자국 , 명예 훼손적 콘텐츠 및 저작권 침해 문제, 저널리즘의 혼란에 대한 우려도 있습니다. 당신이 보는 현재의 위험은 무엇이며, 혜택이 잠재적 해악보다 더 큰가요?
우리는 AI 콘텐츠와 비AI 콘텐츠를 실제로 구분할 수 있을 것이라고 상상하고 있지만, 그럴지 잘 모르겠습니다. 많은 경우 AI는 언어를 구사하지 못하거나 감각적 또는 인지적 결핍이 있는 사람들에게 정말 도움이 될 것입니다. 점점 더 많은 사람들이 다양한 방식으로 AI와 함께 일하기 시작하면서, 저는 그러한 구분을 하는 것이 정말 어려워질 것이라고 생각합니다. 그 혜택이 실제로 크지 않다고 상상하기 어렵습니다. 하지만 우리에게 불리하게 작용하도록 하는 일종의 조건도 상상할 수 있습니다. 우리는 이러한 많은 기술에서 얻는 이익을 더 광범위하게 분배해야 합니다. 그리고 우리는 마음이 있는 곳에 돈을 투자해야 합니다.
AI는 기존 산업과 일자리를 쓸모없게 만들고 대체할 수 있게 만드는 것이 아니라, 산업과 일자리를 개발할 것인가?
노동 문제는 정말 복잡하고, 얼마나 많은 일자리가 대체되거나, 바뀌거나, 개선되거나, 창출될지에 대한 배심원단은 여전히 매우 불확실합니다. 우리는 모릅니다. 하지만 저는 그 토론의 조건이 옳다고 확신하지 못합니다. 만약 그것들이 우리에게 유용한 일을 하지 않는다면, 우리는 이러한 많은 AI 기능에 관심이 없을 것입니다. 하지만 자본주의가 지금처럼 구성되어 있다면, 우리는 사람들이 "경제적으로 유용한" 일을 하거나, 아니면 먹지 않도록 요구하고 있습니다. 이것에 대해 뭔가 이상한 것이 있는 듯합니다.
우리가 많은 사람들이 일할 필요가 없는 잠재적으로 풍요로운 시대에 접어들고 있지만 그 결과 많은 사람들이 굶주린다면, 우리가 세운 방식에는 매우 잘못된 것이 있습니다. 그것이 AI의 문제일까요? 그렇지 않습니다. 하지만 사회기술적 시스템 전체가 바뀌지 않는다면 AI가 가져올 수 있는 문제임은 분명합니다. 우리가 생각했던 자본주의와 노동이 40년 후에 살게 될 세상을 다룰 만큼 정교하다고는 생각하지 않습니다.
이러한 기술을 개발하는 회사들이 잠재적 결과를 크게 고려하지 않고 한계까지 끌고 가려는 사람들과, 그런 우려에 더 민감한 사람들로 나뉘어져 있다는 그림을 그리는 보도가 있었습니다. 그것이 업계에서 보는 현실입니까?
다른 문화 전쟁 문제와 마찬가지로 일종의 양극화가 일어나고 있습니다. 그리고 두 극은 이상합니다. 그 중 하나는 AI 실존적 위험이라고 부를 것입니다. 다른 하나는 AI 안전이라고 부를 것입니다. 그리고 AI 폐지 또는 반 AI 운동이라고 부를 수 있는 것이 있습니다. 한편으로는 AI가 인공적이거나 지능적이지 않으며 노동을 희생하여 자본을 강화하는 방법일 뿐이라고 종종 주장합니다. 거의 종교적인 것처럼 들리지 않습니까? 휴거 또는 종말 중 하나입니다. AI는 현실입니다. 일종의 파티 트릭이나 과장이 아닙니다. 저는 양측에서 제기되는 이러한 우려를 보는 방식에 상당히 좌절합니다. AI와 관련된 실제 문제 중 상당수가 훨씬 더 미묘하고 분석하는 데 훨씬 더 많은 주의가 필요하기 때문에 유감입니다.
Google을 포함한 AI 개발 회사의 현직 및 전직 직원들이 고발자 보호를 요구하는 서한에 서명하여 현직 및 전직 직원들이 이러한 기술의 잠재적 위험에 대한 우려를 공개적으로 제기할 수 있도록 했습니다. AI 개발에 투명성이 충분하지 않고 대중이 대기업과 강력한 개인이 이를 통제할 것이라고 믿어야 한다고 걱정하십니까?
아니요. 사람들이 기업이 모든 사람을 위해 모든 것을 더 좋게 만들 것이라고 믿어야 할까요? 물론 아닙니다. 저는 기업의 의도가 종종 일이 잘 되는지 나쁘게 되는지의 결정 요인이 되지 않았다고 생각합니다. 어떤 일의 장기적인 결과가 어떻게 될지 말하기는 종종 매우 어렵습니다.
인터넷을 생각해보세요. 인터넷은 정말 큰 변화의 마지막이었습니다. 저는 AI가 인터넷보다 더 큰 변화라고 생각합니다. 1992년에 인터넷에 대해 같은 대화를 나누었다면, 컴퓨터, 전선, 나중에는 광섬유를 만드는 회사를 신뢰해야 할까요? 그들이 우리의 이익을 염두에 두고 있다고 믿어야 할까요? 어떻게 그들을 책임지게 해야 할까요? 어떤 법률을 통과시켜야 할까요? 지금 우리가 아는 모든 것을 가지고도, 1992년에 인간에게 무엇을 하라고 말할 수 있었을까요? 잘 모르겠습니다.
인터넷은 엇갈린 축복이었습니다. 어떤 것들은 아마 다르게 규제되어야 했을 것입니다. 하지만 당시 우리가 생각했던 규제는 하나도 적절하지 않았습니다. 당시 우리가 우려했던 많은 것들이 잘못된 우려로 판명났다고 생각합니다. 지금 우리가 비슷한 상황에 처해 있다고 걱정합니다. AI를 규제해서는 안 된다고 말하는 것이 아닙니다. 하지만 제안된 실제 규칙과 정책을 살펴보면, 그 중 어느 것도 10년 후에 누구의 삶도 더 나아지게 할 수 있을지 확신이 매우 낮습니다.
전체 0