뉴스/정보
메타의 철학 - 미래는 모두를 위한 것이다
작성자
작성일
2026-08-10 21:25
조회
3
https://www.meta.com/thefutureisforeveryone/
우리는 역사상 믿기 어려울 만큼 놀라운 순간에 살고 있다는 점에서 매우 운이 좋다. 앞으로 몇 년 안에 사람들은 인간의 능력을 넘어서는 초지능(superintelligence)을 활용해 놀라운 새로운 것들을 만들고 발견하며, 새로운 사업을 시작하고, 새로운 아이디어를 표현하고, 새로운 개념을 배우고, 우리의 건강과 삶의 질을 발전시킬 수 있게 될 것이다.
우리가 이 순간에 가까워질수록, 초지능을 어떻게 가장 잘 활용해야 우리 모두의 삶과 일, 공동체, 자유와 안전을 향상시킬 수 있을지에 대한 철학을 정립하는 것이 중요하다.
우리 시대를 규정할 핵심적인 질문은 누가 초지능에 접근할 수 있을 것인가, 그리고 우리가 초지능을 무엇을 위해 사용하게 할 것인가이다. 초지능은 소수의 기관에 중앙집중되고 제한될 것인가, 아니면 모든 사람에게 힘을 부여하는 도구가 될 것인가?
우리는 개인의 역량 강화(individual empowerment)를 번영의 원천으로, 발명(invention)을 초지능의 주된 목적으로, 힘의 균형(balance of power)을 안전의 기반으로 삼는 철학을 제안한다.
모든 새로운 기술은 기회와 도전을 동시에 만들어낸다. 초지능은 역사상 가장 중요한 기술 가운데 하나가 될 것이므로, 그것이 가져올 기회와 도전 역시 우리가 평생 경험한 그 어떤 것보다 클 가능성이 높다. 우리는 이를 매우 진지하게 받아들여야 한다.
그럼에도 불구하고 AI를 개발하는 많은 사람들의 담론이 이렇게까지 파멸론으로 가득 차 있다는 사실은 놀랍다. AI가 대부분의 일자리를 없애고 인간의 중요성 상당 부분을 제거할 것이라고 믿는 사람들이 왜 그런 미래를 서둘러 만들려고 하는지 나는 이해할 수 없다.
AI가 너무 위험하기 때문에 안전을 위한 유일한 방법은 권력을 극단적으로 집중시키는 것이라는 생각 역시 본질적으로 문제가 있어 보인다. 역사적으로도 절대적인 권력을 가진 존재가 충분히 계몽되기만 하면 인류를 자비롭게 돌봐줄 것이라고 기대하는 방식은 안전하거나 긍정적인 결과로 이어지지 않았다.
인류는 수많은 혁신적인 발전을 경험해왔다. 그때마다 사람들이 뒤처질 것이라는 두려움이 있었다. 그러나 그때마다 인류는 결과적으로 더 많은 사람들이 더 큰 번영과 건강, 자유를 누리는 방향으로 발전했다.
우리는 AI에서도 마찬가지일 것이라고 믿으며, 미래의 풍요는 모든 사람이 함께 누릴 수 있다고 믿는다. 또한 우리를 지금 이 지점까지 이끌어온 자유, 열린 탐구, 자유로운 기업 활동, 동등한 기회 같은 가치들이 긍정적인 미래를 건설하는 데에도 올바른 가치라고 생각한다.
사람들이 스스로 원하는 것을 추구할 수 있도록 힘을 쥐여주는 것이 인류가 가장 큰 발전을 이루어온 방식이다. 새로운 아이디어와 거대한 진보가 기존의 거대 기관에서만 탄생하는 경우는 드물다.
사람이 날 수 있다고 믿었던 자전거 가게의 형제들, 제대로 된 교육을 받지 못한 제본공 견습생이었지만 전기를 만들어내는 방법을 발견했던 사람, 개인용 컴퓨터를 모두가 사용할 수 있다고 생각했던 차고 속의 젊은이에게서 거대한 변화가 시작됐다.
우리는 앞으로도 그럴 것이라고 믿는다. 모든 사람이 더 강력한 도구를 갖게 될수록 각 개인은 미래를 만들어갈 능력이 줄어드는 것이 아니라 오히려 더 커질 것이다.
초지능의 가장 위대한 기여는 자동화가 아니라 발명일 것이다.
초기의 AI는 질문에 답하고 반복적인 업무를 처리할 수 있었다. 하지만 머지않아 AI는 점점 더 새로운 지식을 발견하는 것을 도울 것이다. 가족의 질병을 치료할 신약을 발견하는 것부터 자신의 사업을 개선할 새로운 방법을 찾아내는 데까지 활용될 것이다.
사람이 하루 동안 물어볼 수 있는 질문의 수에는 한계가 있지만, 여러분의 목표를 달성하기 위해 초지능이 발명할 수 있는 가치 있는 것들의 수에는 사실상 한계가 없다.
지능이 풍부해질수록 가장 중요한 문제는 그 지능을 어디로 향하게 할 것인가가 될 것이다.
일부 사람들은 초지능 그 자체나 초지능을 통제하는 소수의 전문가들이 인류에게 무엇이 가장 좋은지를 결정해야 한다고 주장한다.
우리는 이에 동의하지 않는다.
민주주의와 경제의 역사는 사람들이 생각하는 '가장 좋은 삶'이 무엇인지에 대해 하나의 객관적인 정답이 존재하지 않는다는 것을 보여주었다. 따라서 가장 좋은 접근법은 각자가 자신의 삶에서 무엇이 중요한지를 스스로 결정하도록 하는 것이다.
우리는 이 문제에 대한 답이 모든 사람에게 초지능을 제공하는 것이라고 생각한다.
이는 슈퍼컴퓨터와 인터넷의 힘을 모든 사람의 주머니와 책상 위에 가져다놓았던 전통을 이어가는 것이다.
초지능을 중앙집중화하기보다는 널리 분산시키고, 모든 사람이 자신의 목적을 향해 초지능을 사용할 수 있도록 해야 한다.
이는 개인이 이 강력한 새로운 능력을 활용해 자신의 잠재력을 최대한 발휘하고, 관심사를 추구하고, 자신의 삶과 세상을 이전보다 훨씬 더 크게 개선할 수 있는 개인 역량 강화의 새로운 시대를 열 잠재력을 가지고 있다.
이것을 좀 더 구체적으로 만들기 위해, Meta가 우리 모두의 삶을 개선하기 위한 개인용 초지능(personal superintelligence)을 어떻게 구축하고 있는지 몇 가지 사례를 소개하겠다.
• 모든 사람은 자신과 자신의 목표, 그리고 자신이 중요하게 생각하는 모든 것을 이해하는 매우 유능한 개인 에이전트를 갖게 될 것이다.
여러분의 에이전트는 하루 24시간, 주 7일 여러분을 대신해 일하면서 인간관계, 건강, 직업, 재정, 가정 관리, 취미 등 모든 것을 개선하도록 도울 것이다.
여러분이 좋아하는 일을 할 시간을 더 많이 확보해주고, 혼자였다면 해낼 수 없었던 훨씬 많은 일을 성취할 수 있게 도울 것이다.
또한 강력한 프라이버시 및 보안 옵션을 제공해 다른 누구도 여러분의 정보에 접근할 수 없다는 확신 아래 개인적인 콘텐츠를 맡길 수 있을 것이다. 이는 WhatsApp의 암호화와 비슷한 방식이다.
안경을 비롯한 어떤 기기를 통해서도 에이전트와 상호작용할 수 있어, 여러분이 소중한 사람들과 함께하는 순간에 더욱 충실할 수 있게 될 것이다.
예를 들어 내 에이전트는 흥미로운 정보를 찾아 알려주고 아이디어의 프로토타입을 만드는 것을 도와준다. 내 수면을 모니터링하고, 운동하는 모습을 관찰한 뒤 피드백을 제공하면서 건강을 유지하는 데에도 도움을 준다.
내 딸은 베이킹을 좋아하는데, 에이전트는 매주 주말 우리가 함께 만들 수 있는 맞춤형 레시피를 계획하고, 재료를 주문하고, 실제로 요리하는 동안 여러 가지 제안을 해준다.
• 모든 사람은 자신의 아이디어를 표현할 수 있는 놀라운 창작 도구를 갖게 될 것이다.
내 여덟 살짜리 딸은 이미 자신의 아이디어를 코딩하고, 과거의 나였다면 몇 달이 걸리거나 아예 불가능했을 영상을 단 하루 저녁에 만들어낼 수 있다. 지금 우리는 함께 로봇을 설계하고 있다.
한편 Meta의 연구자들은 증강현실 안경에 이상적인 새로운 결정 구조를 생성하고 있으며, 엔지니어들은 이전보다 훨씬 짧은 시간 안에 새로운 앱을 만들어내고 있다.
머지않아 모든 사람이 발명의 초능력을 갖게 될 것이다.
• 모든 사람은 새로운 사업을 만들 수 있는 강력한 도구를 갖게 되고, 경제는 더욱 기업가적인 형태로 변화할 것이다.
사람들은 자금을 조달하거나 대규모 팀을 구성하지 않고도 자신의 아이디어를 직접 현실화할 수 있기 시작했다.
과거에는 시도하기에 너무 어렵거나 비쌌던 수많은 아이디어들이 이제 가능해질 것이다.
그 결과 훨씬 더 많은 아이디어와 기업이 등장할 것이다.
나는 이것이 훨씬 높은 경제 성장뿐만 아니라 장기적으로는 일자리 감소가 아니라 오히려 일자리 증가로 이어질 것이라고 예상한다.
• 모든 사람에게 모든 분야의 박사학위 수준의 지식을 갖고 무한한 인내심을 가진 맞춤형 교사와 코치가 생길 것이다.
학생들은 현재는 부모가 비용을 지불할 수 있어야만 받을 수 있는 수준의 추가적인 도움을 자신이 부족한 분야에서 받을 수 있을 것이다.
성인들은 자신에게 새로운 직업 기술, 새로운 언어, 새로운 취미 또는 관심 있는 무엇이든 가장 효과적으로 가르치는 방법을 정확하게 알고 있는 초지능 학습 도우미를 갖게 될 것이다.
• 모든 사람이 과학 발전의 혜택을 받는 동시에 과학 발전에 직접 기여할 수 있게 될 것이다.
예를 들어 Biohub는 이미 가상 세포와 단백질에 관한 오픈소스 생물학 모델을 공개했으며, 이 모델들은 과학자들이 새로운 발견을 하고 신약을 설계하는 것을 돕고 있다.
Priscilla와 내가 이 프로젝트를 시작했을 때 우리의 목표는 과학자들이 금세기 안에 모든 질병을 치료하거나 예방하도록 돕는 것이었다. 그러나 AI의 발전으로 인해 이제 우리는 그것이 훨씬 더 빨리 가능해질 것이라고 기대하고 있다.
수많은 희귀한 건강 문제가 존재하고 사람마다 생물학적 특성이 다르기 때문에, 사람들이 직접 참여하면 맞춤형 치료법 개발을 가속하고 임상시험 속도를 발명의 속도에 맞출 수 있을 것이다. 또한 산업이 흔한 질병에 지나치게 집중하는 현재의 구조에서도 벗어날 수 있을 것이다.
생물학뿐 아니라 모든 과학 분야에서 AI는 과학적 방법을 적용하고, 수주 또는 수개월 동안 가설을 시험하고 개선하면서 연구 발전을 도울 것이다.
과학적 발견은 사회에 가장 가치 있는 발명의 형태 가운데 하나가 될 가능성이 높다.
• 모든 사람은 이러한 도구를 무료 또는 저렴한 가격으로 이용할 수 있을 것이다.
모든 사람이 미래의 일부가 되기 위해서는, 모든 사람이 자신의 삶을 개선하고 세상을 만들어나가기 위해 초지능을 활용할 수 있어야 한다.
우리는 수십억 명이 이용할 수 있는 무료 버전을 제공할 것이다.
더 많은 컴퓨팅 자원을 사용하기 위해 비용을 지불하려는 사람들에게는 동적 경매 메커니즘을 제공할 것이다. 이를 통해 모든 사람이 사용하는 지능과 컴퓨팅 자원에 대해 가능한 최저 가격을 보장받는 동시에, 사람들이 집단적으로 가장 가치 있다고 판단하는 분야에 컴퓨팅 용량이 사용되도록 만들 것이다.
이를 통해 초지능의 혜택이 널리 분배될 것이다.
이것들이 Meta가 집중하고 있는 주요 노력 가운데 일부다.
각 영역은 개인의 역량 강화라는 가치를 발전시키며, 오늘날보다 모든 사람이 세상을 만들어가는 데 더 큰 역할을 하는 미래에 기여한다.
이러한 노력이 성공한다면 미래에는 개인의 주체성, 아이디어 표현, 더 깊어진 인간관계, 경제적·재정적 번영, 건강 개선, 그리고 오늘날 우리가 상상조차 할 수 없는 발명들이 풍요롭게 등장할 것이다.
그러나 무엇보다 중요한 것은 미래가 우리 모두에 의해 만들어지고, 우리 모두의 가치와 관점을 반영하게 될 것이라는 점이다.
동시에 새로운 기술은 새로운 위험도 가져온다.
우리가 해결하려고 집중하고 있는 중요한 우려는 매우 많다. 일자리 대체 문제와 데이터센터 건설 지역의 지역사회가 혜택을 받도록 하는 것에서부터, 사이버보안과 생물학적 위험과 관련된 AI 오용 문제, 정부의 폭정과 감시 방지, 미국과 민주주의 국가들의 리더십 확보, 그리고 궁극적으로 인류가 초지능에 대한 통제권을 유지하여 초지능이 우리를 위험에 빠뜨리지 않고 우리에게 봉사하도록 만드는 문제에 이르기까지 다양하다.
기존의 관점에서는 이러한 문제가 기술의 문제이고, 충분한 시간을 들이면 기술을 완벽하게 만들거나 정렬시켜 하나의 자비로운 초지능을 만들 수 있다고 본다.
나는 이러한 정렬(alignment)에 대한 관점이 근본적으로 잘못되었다고 생각한다.
인류는 하나의 단일한 문화가 아니다.
사람들이 가진 다양한 가치관은 중요한 문제에서 서로 다른 선택과 절충으로 이어진다.
서로 충돌하는 모든 사람들의 이해관계와 가치에 동시에 정렬될 수 있는 기술적 해결책은 존재하지 않는다.
하나의 단일한 초지능이 존재한다면 필연적으로 어떤 가치들을 다른 가치들보다 우선시해야 하고, 그 과정에서 모든 사람에게 자비로운 존재가 되는 것은 불가능해질 것이다.
그 대신 우리는 민주주의 사회의 통치 제도처럼 이러한 문제들을 올바른 힘의 균형을 달성하는 문제로 바라보는 것이 더 생산적이라고 생각한다.
서로 경쟁하는 이해관계를 가진 사람과 기관들이 자연스럽게 서로를 견제하고 균형을 이루면서 긍정적인 결과를 만들어낸다.
따라서 긍정적인 AI 미래를 만드는 가장 훌륭하고 현실적인 방법은 모든 사람에게 초지능을 제공하는 것이다.
사고실험을 하나 해보자.
단 한 사람만이 초지능 변호사를 가지고 있다고 상상해보라.
그 사람은 재판에서 부당할 정도로 압도적인 이점을 갖게 될 것이다. 심지어 그 사람의 주장이 본질적으로 틀렸더라도 말이다.
이는 더 나쁜 사회로 이어질 것이다.
하지만 이제 모든 사람이 초지능 변호사를 가지고 있다고 상상해보자.
그 경우 오늘날 소송에서 흔히 나타나는 능력과 자원의 불균형이 사라지면서 정의는 지금보다 훨씬 공정하고 효율적으로 실현될 것이다.
마찬가지로 단 한 사람만 사이버보안 초지능을 가지고 있다면 그는 거의 모든 기술 시스템에 침입할 수 있을 것이며 세상은 지금보다 훨씬 위험해질 것이다.
하지만 모든 사람이 사이버보안 초지능에 접근할 수 있다면, 광범위하게 배포된 초지능이 모든 시스템을 강화하고 지속적으로 업데이트하게 되면서 우리의 기술 시스템은 오늘날보다 더 안전해질 것이다.
단 하나의 기업만 초지능을 가지고 있다면 그 기업은 다른 모든 기업을 압도해버릴 것이며, 시장은 지금보다 덜 역동적이고 번영 역시 소수에게 집중될 것이다.
그러나 모두가 초지능에 접근할 수 있다면 모든 사람이 오늘날에는 불가능한 새로운 것들을 만들 수 있는 도구를 가지게 되고, 경제는 더 역동적이며 더 폭넓은 번영을 만들어낼 것이다.
사람들에게 힘이 주어지면 사람들은 경제적, 사회적, 정치적 그리고 인간 상호작용의 모든 영역에서 자연스럽게 서로 경쟁하고 견제한다.
또한 사람들은 기업이나 정부 같은 기관의 권력 역시 견제하고 균형을 맞춘다.
그러나 초지능의 힘이 소수의 개인, 기업, 정부 혹은 AI 그 자체에 집중된다면 자연스럽게 나머지 모두에게 불리한 결과로 이어질 것이다.
이것은 기술적인 원칙의 문제가 아니다.
힘의 균형에 관한 문제다.
하나의 자비로운 단일 초지능이라는 것은 존재하지 않는다.
따라서 모두를 위한 긍정적인 미래의 핵심은 개인에게 유리한 힘의 균형을 만드는 것이다.
그 해답은 초지능을 폭넓게 분산시켜 사람들에게 힘을 주는 것이다.
Meta는 모든 사람을 위한 개인용 초지능을 만드는 데 가장 집중하고 있는 기업이다.
대부분의 다른 연구소들은 기업이나 정부, 기타 기관을 위한 AI를 구축하는 데 집중하고 있다. 따라서 그러한 연구소들이 앞서나간다면 힘의 균형은 개인보다는 거대한 기관 쪽으로 기울어질 것이다.
Meta의 사명은 창립 당시부터 사람들에게 힘을 쥐여주는 데 초점을 맞추어왔다.
우리의 신념과 원칙이 앞서나간다면 힘의 균형은 개인에게 유리해지고, 모두를 위한 더 나은 미래가 만들어질 것이다.
이제 앞에서 언급한 위험들을 하나씩 좀 더 자세히 살펴보자.
경제에는 자동화를 통해 사람들의 필요를 더 효율적으로 충족하려는 기업들과, 더 높은 수준의 필요를 충족하기 위해 새로운 능력을 습득하는 개인들 사이에 자연스러운 균형이 존재한다.
이 균형이 건강하게 유지되면 전체적인 생산성과 혁신은 증가하면서도 고용 수준은 높은 상태를 유지한다.
사람들은 자동화의 속도가 개인의 능력 향상 속도보다 빨라져 일자리가 사라지고, 사람들이 새로운 직업을 배우는 동안 어려운 시기가 뒤따를 것을 두려워한다.
하지만 AI가 반드시 사람의 능력을 향상시키는 속도나 새로운 기술에 대한 수요를 창출하는 속도보다 자동화를 더 빠르게 진행해야 한다는 법칙은 없다.
최근의 통계는 오히려 개인의 능력 향상이 자동화와 비슷한 속도로 진행되거나 자동화보다 더 빨라질 수도 있음을 시사한다.
그렇게 된다면 사람들은 자신의 현재 직업이 변하기 전에 수많은 새로운 일을 할 능력을 먼저 얻게 될 것이다.
이는 건강한 균형과 잠재적으로 일자리 증가로 이어질 수 있다.
어떤 결과가 나타날지는 한쪽의 자동화와 다른 한쪽의 개인 역량 강화 및 발명 사이에서 어느 쪽이 더 빠르게 발전하느냐에 달려 있다.
지식 노동 자동화에 집중하는 연구소들이 앞서나간다면 사람들과 경제는 훨씬 어려운 전환기를 겪게 될 것으로 예상한다.
반대로 모든 사람이 자신의 능력을 확장해주는 개인용 초지능에 접근할 수 있다면 균형은 개인의 역량을 강화하는 방향으로 움직이며 더 긍정적인 미래가 만들어질 것이다.
미래에 일자리가 풍부할 것이라고 낙관할 수 있는 몇 가지 이유가 있다.
AI가 아무리 지능적이 되더라도 컴퓨팅 자원의 양은 항상 유한하며, 따라서 그것을 어디에 사용할지에는 기회비용이 존재한다.
사람들이 AI를 활용해 엄청난 가치를 지닌 새로운 것을 발명할 수 있다면, 기존의 일자리를 자동화하는 데 AI를 사용하는 것보다는 그러한 발명에 컴퓨팅 자원을 할당하는 편이 더 합리적일 것이다.
초지능이 발명의 도구로 활용될수록 개인의 능력 향상이 자동화를 앞지를 가능성이 커지고, 사람들에게 더 좋은 미래가 만들어질 가능성도 높아진다.
사람들은 또한 우리의 삶을 개선할 새로운 아이디어와 그 아이디어를 현실화할 새로운 직업을 끊임없이 만들어낸다.
한 세대 전에는 앱 개발자, 소셜미디어 크리에이터, 전기자동차 기술자, 데이터센터 운영자라는 직업도 존재하지 않았다.
가까운 미래에는 오늘날 흔하지 않은 새로운 직업들이 생겨날 것이다.
맞춤형 장난감·가구·옷을 설계하는 1인 제품 스튜디오, 게임·이야기·모험을 만드는 월드 빌더와 경험 디자이너, 초지능을 활용해 개인 맞춤형 치료법을 만드는 개인 생물학자 등이 등장할 것이다.
그리고 지금으로서는 상상조차 할 수 없는 수많은 직업이 생겨날 것이다.
여러 면에서 이것은 역사적 추세의 연장선이다.
산업혁명 이전에는 사람들의 90%가 생존을 위해 식량을 생산하는 농부였다.
기술의 발전은 점차 인류 대부분을 생존을 위한 노동에서 해방시켜 자신이 선택한 활동에 집중할 수 있도록 만들었다.
그때마다 사람들은 새롭게 얻은 생산성을 이용해 이전에는 불가능했던 것들을 이루었으며, 동시에 창작, 문화, 인간관계 그리고 삶을 즐기는 데 더 많은 시간을 보냈다.
물론 우리가 일하는 방식의 일부는 변할 것이다. 컴퓨터와 인터넷 그리고 다른 모든 신기술에서도 그랬다.
따라서 사람들은 변화에 적응해야 하며, 그것은 어려울 수 있다.
하지만 모든 사람이 새로운 기술을 가르치고 변화에 적응하도록 돕는 초지능 개인 에이전트를 갖게 될수록 이 전환은 훨씬 부드러워질 것이다.
기업의 규모는 줄어들 수도 있다. 산업 시대의 거대 기업에서 기술 기업 중심의 경제로 전환하면서 그랬던 것처럼 말이다.
하지만 그것이 전체적인 일자리 감소를 의미하는 것은 아니다.
오히려 각 기업의 인원은 적지만 기업의 수는 훨씬 많아지는 것을 의미할 수 있다.
현재는 사람이 부족해서 만들지 못하고 있는 가치 있는 기업과 서비스가 매우 많다.
개인용 초지능 에이전트를 사용하는 소수의 사람들이 상당한 규모의 기업을 운영하는 모습을 머지않아 보기 시작할 것이라고 예상한다.
미래에도 중소기업은 경제의 중추 역할을 계속하겠지만, 각각의 소규모 기업이 지금보다 훨씬 더 큰 영향력을 가질 수 있게 될 것이다.
여기에는 높은 임금의 지역 일자리, 학교와 공공서비스에 대한 투자, 전기요금이 상승하지 않도록 하는 것, 환경을 보호하는 것 등이 포함된다.
세수가 증가하면 교사, 경찰, 소방관 등에게도 혜택이 돌아간다.
우리는 이러한 지역사회 혜택을 Community Compact라고 부르며, 우리가 사업을 진행하는 각 지역사회를 직접 지원하기 위해 Future Is For Everyone Fund를 출범시키고 있다.
예를 들어 Meta가 대규모 데이터센터를 건설하고 있는 루이지애나주 Richland Parish에서는 우리의 투자로 세수가 증가하면서 올해 교사들이 5만 달러의 보너스를 받았다.
교육감은 전국 각지에서 교사들이 이곳으로 이주하고 있으며, 이 지역이 미국에서 가장 뛰어난 학군 가운데 하나가 될 것이라고 믿는다고 말했다.
지식 노동의 일자리 대체 우려와는 반대로, 인프라 건설 수요를 충족할 목수, 전기기사, 건설 노동자 같은 숙련 기술자들은 부족한 상황이다.
Meta는 America's Workforce Academy를 만들어 숙련 기술자들에게 무료 교육을 제공하고, 우리가 데이터센터를 건설하는 지역에서 높은 임금을 받는 일자리를 보장하고 있다.
우리는 투자하는 곳마다 자체적인 에너지 생산 인프라를 건설함으로써 전기요금을 낮게 유지하도록 돕는다.
이를 통해 지역사회가 사용할 수 있었던 에너지를 우리가 소비해버리지 않도록 할 뿐 아니라, 경우에 따라서는 저렴한 에너지를 지역사회에 추가적으로 공급하기도 한다.
우리는 이것이 지속 가능성을 위한 중요한 투자 원칙이라고 생각한다.
우리의 데이터센터는 또한 세계에서 가장 물 효율적인 시설 가운데 하나가 되도록 설계돼 있다.
우리는 water-positive, 즉 우리가 운영하는 유역에서 사용하는 양보다 더 많은 물을 복원하겠다는 목표를 가지고 있으며, 이를 2030년까지 달성할 계획이다.
물 부족 문제가 심각한 지역에서는 우리가 사용하는 물의 200%를 복원하는 것이 목표다.
장기적으로 우리가 투자한 지역사회는 지역사회에 거의 투자하지 않는 투기적 개발업자가 들어온 지역보다 개발에 더 우호적인 모습을 보인다.
역사적으로 철도, 고속도로, 전기, 광대역 인터넷을 받아들인 도시들은 연구와 산업, 비즈니스의 중심지가 되었으며 인구와 경제가 함께 성장했다.
강력한 Community Compact와 함께 AI 인프라가 건설된다면 AI 인프라도 비슷한 역할을 할 수 있다고 믿는다. 미래 세대가 그곳에서 삶을 만들고 성장할 이유와 지속 가능한 자산을 남길 수 있기 때문이다.
개발에는 국가 이익과 국가안보의 측면도 존재한다.
미국과 동맹국이 지정학적 경쟁국보다 AI 분야에서 앞서나간다면 미국의 지역사회는 더 큰 번영과 안보를 누리게 될 것이다.
그러나 중국 같은 국가와 비교할 때 미국이 가진 상당한 약점 가운데 하나는 인프라를 건설하는 것이 훨씬 어렵다는 점이다.
따라서 전국에서 지속 가능한 개발을 가능하게 해줄 Community Compact가 무엇인지 찾아낸다면 우리 모두가 혜택을 볼 수 있을 것이다.
하지만 법 집행기관과 군대 역시 더 많은 무기와 정보수집 능력을 가진다.
AI에서도 마찬가지다.
방어자들은 동일한 모델을 사용하더라도 훨씬 많은 컴퓨팅 자원을 이용해 훨씬 많은 정보를 생산할 수 있을 것이며, 경우에 따라서는 더 발전된 모델을 사용할 수도 있다.
사이버보안, 생물테러 그리고 기타 위협을 방어하는 전략은 서로 다르지만 일반적인 원칙은 같다.
사회를 보호하는 방어자들이 악의적인 행위자를 견제할 수 있도록 항상 더 큰 힘과 자원의 우위를 갖도록 하는 것이다.
일부에서는 위험을 줄이는 가장 좋은 방법은 개인이 접근할 수 있는 능력을 제한하는 것이라고 주장한다.
하지만 사람들에게 사이버보안 능력을 제공해야 수많은 시스템을 보호할 수 있고, 사람들에게 과학적 능력을 제공해야 장기적으로 피해 위험을 줄일 수 있는 과학 발전도 이루어진다.
능력을 제한하는 것은 중앙집중화와 견제·균형의 부재로 이어진다.
따라서 우리는 이에 대해 극도로 신중해야 한다. 특히 다른 국가들이 덜 제한적인 길을 선택한다면 더욱 그렇다.
사이버보안의 경우 널리 배포된 오픈소스 시스템이 더 안전하다는 사실이 입증되어왔다.
더 많은 사람들이 취약점을 찾아내고 시스템을 강화하며 가장 최신의 안전한 버전으로 쉽게 업그레이드할 수 있기 때문이다.
최근 몇 주 사이에도 HuggingFace 같은 기업들이 보안 사고를 처리하면서 널리 이용 가능한 오픈 모델을 활용해 취약점을 패치하는 모습을 보았다.
장기적으로 강력한 사이버보안 능력을 갖춘 AI 모델이 널리 보급되면 시스템은 지금보다 더 안전해질 것이라고 예상한다.
초지능을 통해 세계의 코드 대부분이 검증 가능한 수준으로 안전해지는 시점에는 이것이 확실히 사실이 될 것이다.
장기적인 해답은 능력을 숨기는 것이 아니라, 초지능을 폭넓게 분산시킨 힘의 균형을 만드는 것이다.
단기적으로는 핵심 시스템을 강화하는 과정을 가속하는 것이 중요하다.
나는 프런티어 AI를 개발하는 기업들이 정부의 핵심 인프라 보안을 강화하는 데 상당한 기술 자원을 투입해야 한다고 제안한다.
또한 프런티어 AI 연구소들은 새로운 모델의 훈련이 끝날 때까지 기다리지 말고, 훈련 과정의 중간 체크포인트(intermediate training checkpoints)를 정부의 사용과 검토를 위해 제공해야 한다고 제안한다.
그렇게 하면 정부는 가장 강력한 모델에 조기에 접근할 수 있고, 수많은 유능한 엔지니어들이 보안 문제를 찾아내고 패치할 수 있다.
연구소들은 또한 법 집행기관과 협력하여 시스템을 악용하려는 악의적인 행위자를 식별해야 한다.
이러한 조치들은 모델 혁신의 속도를 늦추거나 개인이 기술에 접근하는 시기를 의미 있게 지연시키지 않으면서도 안전한 배포를 가속할 수 있다.
생물학적·화학적 위험의 경우, 과학자들에게 새로운 약물을 설계할 수 있도록 해주는 바로 그 능력이 악의적인 행위자에게 유해 물질을 설계할 능력을 제공할 수 있다는 우려가 있다.
이 문제는 암과 다른 질병을 치료하기 위해 과학을 발전시키는 막대한 혜택과 새로운 위험이 발생할 가능성 사이의 선택처럼 보이기도 한다.
하지만 이상적으로는 위험을 완화하면서 과학의 발전을 가속해야 한다.
나는 이 위험을 좀 더 겸손한 태도로 접근하는 것이 중요하다고 생각한다. 발생 가능성이 얼마나 높거나 낮은지를 판단할 만한 역사적 사례가 거의 없기 때문이다.
악의적인 행위자가 유해 물질을 합성하는 것은 수십 년 전부터 가능했지만 실제로 거대한 문제가 된 경우는 드물었다. 사이버공격에서 볼 수 있는 것과 같은 금전적 동기가 이 영역에는 상대적으로 부족했기 때문일 수도 있다.
그렇다고 하더라도 실제 피해 사례가 나타나기 시작한다면 우리는 위험을 적절하게 완화하도록 전략을 조정해야 한다.
연구소들은 모델의 생물학·화학 위험을 줄이기 위한 작업을 계속해야 한다.
동시에 정부 역시 여러 분야에서 정책을 업데이트해야 한다고 생각한다.
첫째, 유해 물질의 물리적인 생산과 유통을 제한하는 것에 집중해야 한다.
지식의 확산보다 물리적인 구성 요소를 규제하고 통제하는 것이 더 쉬울 것으로 예상되므로 이는 중요한 정책적 초점이 되어야 한다.
둘째, 새로운 문제가 발생했을 때 사회가 새로운 치료법을 개발하고 이에 대비할 능력을 가속해야 한다.
여기에는 FDA와 기타 규제기관이 새로운 치료법을 시험하고 승인하는 과정을 간소화하는 것도 포함된다.
AI가 신약 발견 속도를 높이면 결국 이러한 혁신의 속도를 따라잡기 위해 이런 절차들을 업데이트해야 할 것이다.
장기적으로 새로운 과학적 발견으로 인해 발생하는 위험에 대한 해답은 과학의 발전을 늦추는 것이 아니라 가속하는 것이다.
이는 민주주의가 항상 직면해온 긴장관계다.
우리는 개인의 자유를 원하지만 동시에 우리를 보호할 능력이 있는 정부도 원한다.
자유를 유지하기 위해서는 초지능이 우선적으로 개인의 힘을 강화하도록 해야 한다.
자유민주주의의 이상에서 사람들은 본래 모든 권리를 가지고 있으며, 공동의 이익을 보호하기 위해 필요한 일부 자유만 제한하는 데 동의한다.
마찬가지로 개인은 개인용 초지능에 접근할 수 있어야 하며, 정말 필요한 경우에만 제한을 받아야 한다.
프라이버시는 개인의 역량과 자유를 위한 중요한 기반이다.
우리는 개인 에이전트에 대해 완전히 비공개인 모드를 제공해야 한다고 생각한다.
이 모드에서는 Meta를 비롯한 어떠한 서비스 제공자도 사용자의 정보를 보거나 다른 사람에게 접근 권한을 부여할 수 없어야 한다.
이는 WhatsApp을 세계적인 종단간 암호화 서비스로 만들면서 사람들이 자유롭게 소통하고 메시지를 비공개이면서 안전하게 유지할 수 있도록 한 방식과 비슷하다.
동시에 정부가 법을 집행하고 국가안보를 보호하는 데 필요한 도구와 자원에 접근할 수 있도록 해야 한다.
사람들이 첨단 모델에 접근하는 것을 제한하거나 지연시키지 않으면서 정부의 국가안보 역량을 강화하는 방식으로 연구소와 정부 사이의 더 깊고 선제적인 협력을 통해 이를 달성할 수 있다.
즉 모델이 출시될 준비가 된 뒤에 정부가 처음 검토하고 사용하기 시작하는 대신, 주요 연구소들은 새로운 첨단 모델의 중간 훈련 체크포인트와 기술 인력을 정부에 제공해야 한다는 것이 내 제안이다.
정부는 이를 이용해 새로운 위험에 대비하여 핵심 시스템을 미리 강화하고 보호할 수 있다.
그렇게 하면 정부는 추가적인 안보 능력을 얻는 동시에 개인의 개인용 초지능 접근을 제한하거나 지연시키지 않고, 힘의 불균형도 만들지 않을 수 있다.
긍정적인 균형에 도달하려면 가장 앞선 AI 시스템이 우리의 가치를 반영하고 경제를 성장시키며 국가안보를 발전시키는 시스템이 되도록 해야 한다.
이를 달성하는 가장 좋은 방법은 우리의 시스템을 널리 배포하는 것이다.
Meta는 오픈소스 모델을 포함한 선도적인 개인용 초지능 에이전트와 모델을 만들고 이를 전 세계 수십억 명에게 제공함으로써 여기에 기여할 것이다.
가장 발전된 모델과 제품을 개발하려면 AI가 역사상 가장 경쟁이 치열한 산업이 될 가능성이 높다는 사실을 인정해야 한다.
혁신은 빠르게 복제되고 불과 몇 달 안에 흡수된다.
그러나 사람들은 언제나 가장 발전된 모델, 또는 같은 비용이라면 가장 뛰어난 모델을 사용하려 하기 때문에 단 두 달의 우위조차 엄청난 가치를 가진다.
이는 선도 우위의 격차가 얼마나 짧은지를 보여주며, 따라서 미국의 혁신을 가속하고 지정학적 경쟁국의 발전을 늦추는 행동이 얼마나 중요한지도 보여준다.
이에 영향을 미치는 주요 정책 요소는 우리가 물리적 인프라를 얼마나 효율적으로 건설할 수 있는지, 미국 연구소의 속도를 늦추는 절차를 도입하는지, 그리고 해외 연구소의 발전을 늦추는 수출 통제를 실시하는지다.
인프라 측면에서 미국과 동맹국들은 반도체 설계에서는 우위를 가지고 있지만, 에너지 생산능력과 물리적 인프라를 구축하는 속도에서는 불리하다.
중국 같은 국가들은 격주에 한 번꼴로 1GW 이상의 원자력 발전 용량을 새롭게 가동하고 있기 때문에, 경쟁력을 유지하려면 에너지와 데이터센터 건설을 모두 가속해야 한다.
반도체 수출 통제는 이 중요한 시기에 외국 연구소의 발전을 늦추는 데 성공적이었으므로 이를 계속하는 것이 올바른 전략이다.
미국 모델의 출시를 단 한 달이라도 늦추는 정책은 해외 모델들이 앞질러가게 만들면서 미국의 리더십에 상당한 위험을 추가할 수 있다.
동시에 새로운 능력이 등장했을 때 미국 정부가 이를 사전에 알고 핵심 시스템을 강화할 자원을 갖는 것도 중요하며, 경우에 따라서는 첨단 시스템 활용에서 일정 기간 우위를 가지는 것도 중요하다.
앞서 나는 중간 훈련 체크포인트와 기술 인력을 공유하는 협력 모델을 제안했다.
AI 환경이 매우 역동적이고 경쟁적이라는 점을 고려하면 모든 상황에서 획일적인 절차와 검토 기간을 따르는 것보다는 프런티어 연구소와 정부 간의 긴밀하고 선제적인 협력이 더 생산적이라고 생각한다.
어떤 경우에는 미국 연구소가 몇 달 이상의 리드를 확보해 새로운 위험을 완화하는 데 시간을 더 들이는 것이 더 안전한 해결책으로 이어질 수도 있다.
반면 다른 상황에서는 출시를 단 한 달 늦추는 것만으로도 미국의 우위를 잃고 더 나쁜 결과가 발생할 수도 있다.
정부가 조기에 접근할 수 있도록 함으로써 공개 출시의 지연을 최소화하면서 국가안보를 강화할 수 있어야 한다.
또한 전 세계 AI 사용의 상당 부분을 차지하게 될 오픈소스 AI 생태계를 미국과 동맹국이 주도하는 것도 중요하다.
현재 해외 연구소들은 이 영역에서 여러 가지 이점을 가지고 있다.
미국 연구소들은 훈련 데이터와 관련해 훨씬 많은 추가적인 규제를 따라야 하기 때문이다.
미국의 오픈소스 모델이 장기적으로 앞서기 위해서는 이러한 추가적인 마찰을 정책적으로 줄여야 한다.
나는 해외 오픈소스 모델에 대한 접근을 제한하는 것이 효과적인 해결책이라고 생각하지 않는다.
우리의 목표는 미국의 오픈소스 모델이 세계 최고의 모델이 되는 것이어야 한다.
그러기 위해서는 미국 오픈소스 모델이 경쟁하기 어렵게 만드는 장애물들을 제거해야 한다.
최고의 오픈소스 모델이 어느 나라에서 만들어졌든 사람들이나 기업이 그 모델을 사용하는 것을 제한하면 그들이 사용할 수 있는 AI의 품질이 낮아지고, AI를 사람들의 손에 쥐여주는 것이 아니라 오히려 중앙집중화하게 된다.
미국이 오픈소스에서 선도하려면 증류(distillation)와 훈련 데이터 사용을 비롯한 여러 분야의 정책을 다시 생각해야 한다.
모델이 다른 모델로부터 학습할 수 있다는 것은 오픈소스 생태계가 작동하는 중요한 원칙이다.
모든 AI 모델은 인간의 지식으로부터 파생되어 있다.
일부는 증류를 해로운 것으로 규정하려고 하지만, 나는 관찰할 수 있는 것이라면 무엇으로부터든 배울 수 있다는 원칙을 보호하는 것이 중요하다고 생각한다.
세상은 원래 그렇게 작동한다.
이 영역에서 스스로를 제한한다면 미국은 선도할 수 없을 것이다.
더 큰 그림에서 보면 AI 전체에서 뒤처지는 것은 AI 개발 과정에서 발생할 수 있는 어떠한 특정 문제보다 거의 확실하게 더 크고 장기적인 국가안보 문제가 될 것이다.
올바르게 협력한다면 미국은 민간과 공공 부문 모두에서 선도할 수 있을 것이다.
개인의 역량 강화와 민주주의 원칙을 담은 개인용 초지능을 세계에 제공하면서 동시에 국가안보도 강화할 수 있다.
우려되는 시나리오는 AI가 충분한 힘이나 통제권을 획득해, 좋게 보더라도 더 이상 인류의 이익을 위해 행동하지 않게 되고 최악의 경우에는 인류 자체를 위험에 빠뜨리게 되는 것이다.
건강한 힘의 균형을 위해서는 중앙집중화된 단 하나의 초지능이 존재하지 않도록 해야 한다.
대신 가능한 한 많은 사람과 기업이 각자의 목표에 정렬된 서로 다른 초지능 에이전트를 가지고, 현재의 자연스러운 경제에서처럼 서로 견제하고 경쟁하도록 해야 한다.
서로 다른 가치를 가진 모델을 개발하는 여러 프런티어 연구소가 존재해 서로를 견제할 수 있다면 이러한 균형은 더욱 강화될 것이다.
강력한 모델을 공개하는 것에도 위험이 존재하지만, 이 관점에서 볼 때 가장 위험한 시나리오는 선도적인 AI 연구소들이 강력한 모델을 훈련한 뒤 그것을 자기들만을 위해 보유하는 것이다.
연구소가 책임과 안전이라는 명분으로 이를 아무리 합리화하더라도, 결국 이는 다른 시스템이 견제할 수 없는 하나의 단일 초지능을 개발하는 길이 된다.
개인용 에이전트를 개발하기 위해서는 정렬에 대한 새로운 사고방식이 필요하다.
오늘날 대부분의 연구소들은 정렬을 중앙집중화된 가치 체계를 강제하기 위한 방어적 수단으로 바라본다.
예를 들어 한 선도적인 모델은 표준화 시험이 비윤리적이라고 판단했다는 이유로 학교의 예비 학부모들에게 보낼 편지를 작성하는 것을 거부하도록 정렬되어 있었다.
반대로 우리는 정렬을 에이전트가 우리 회사의 목표와 가치가 아니라 각 개인의 목표와 가치를 공유하도록 만드는 것으로 본다.
물론 중요한 법적·안전상의 경계는 존재한다.
하지만 근본적으로 정렬은 중앙집중화된 하나의 교리를 강요하는 방식이 아니라, 사회에 존재하는 수많은 서로 다른 목표와 관점을 사람들이 추구할 수 있도록 돕는 것이어야 한다.
실제로 사람들은 민감한 정보와 업무를 믿고 맡길 수 없다면 에이전트를 사용하지 않을 것이다.
그리고 에이전트가 사람들의 이익이 아니라 회사의 서로 다른 가치에 맞춰져 있어 사람들의 의도에 반하는 행동을 한다면 사람들은 그것을 신뢰하지 않을 것이다.
수십억 명이 개인용 초지능 에이전트를 사용하도록 만들기 위해서는 정렬 문제를 해결하는 것이 필수적이다.
그러나 동시에 이것은 수십억 명이 개인용 초지능 에이전트를 사용하고 지속적으로 검증하는 상태에 도달했다면, 우리는 이미 개인의 이해관계에 대한 정렬 문제를 상당 부분 해결했다는 뜻이기도 하다.
그 정도면 긍정적이고 안전한 미래에 필요한 힘의 균형과 자연스러운 견제·균형 구조를 만들기에 충분할 것이다.
이런 의미에서 정렬은 미래의 하나뿐인 초지능을 자비로운 상태로 유지하기 위한 이상적인 기술이 아니다.
정렬은 개인 에이전트를 유용하고 신뢰할 수 있게 만들고, 그 결과 우리를 실제로 안전하게 지켜줄 사회적인 힘의 균형을 가능하게 하는 것이다.
AI가 상당한 컴퓨팅 자원을 재귀적 자기개선(recursive self-improvement, RSI)에 투입하도록 허용하지 않는 연구소는 필연적으로 뒤처지게 된다.
예를 들어 자기개선 AI 시스템이 컴퓨팅 효율을 최적화하는 데 집중한다면, 이론적으로는 각 기가와트에서 100배 이상의 지능을 뽑아낼 수 있는 방법을 발명할 수도 있다.
그렇다면 전 세계 컴퓨팅 자원의 일부만 사용하는 자기개선 AI 시스템이 다른 모든 주체를 합친 것보다 훨씬 많은 실질적인 연산 능력과 지능을 확보할 수도 있다.
결국 우리가 두려워하는 단일 초지능이 될 만큼 힘의 균형을 장악할 수도 있다.
재귀적 자기개선이 존재하는 상황에서도 힘의 균형을 유지할 수 있는 몇 가지 방법이 있다.
가장 단순한 방법은 여러 연구소가 비슷한 시점에 RSI를 달성하는 것이다.
그 가운데 일부 또는 전부의 초지능이 어떤 방식으로든 자비롭다면 서로를 견제하고 균형을 이룰 수 있을 것이다.
하지만 사람이 지시하지 않는 초지능이 자비로울 것이라고 기대하거나 그것에 긍정적인 미래를 의존할 수 있는 방법이 실제로 존재하는지는 명확하지 않다.
사람들이 통제권을 유지하려면 전체 지능의 상당한 대부분이 사람들의 목표를 발전시키기 위해 사람들의 지시에 따라 사용되어야 한다.
따라서 Meta와 다른 프런티어 연구소들, 그리고 사람들에게 더 많은 힘을 주는 데 동의하는 클라우드 기업들은 집단적으로 충분히 많은 컴퓨팅 자원을 구축해야 한다.
그래야 경쟁력을 유지하는 데 필요한 만큼의 컴퓨팅 자원을 재귀적 자기개선에 할당하면서도, 여전히 상당한 대부분의 연산 자원을 개개인의 목표를 위해 사용하겠다는 약속을 지킬 수 있다.
앞서 말했듯 개인용 초지능 에이전트가 수십억 명에게 채택되고 신뢰받으려면 정의상 우리는 사람들의 이해관계와 정렬하는 문제를 해결하고 대규모 견제와 균형을 가능하게 해야 한다.
동시에 재귀적 자기개선을 수행하는 AI는 정의상 자신의 목표를 향해 행동하고 자신의 목표를 발전시키는 것이다.
모든 연구소는 그런 AI의 목표와 우리가 그 AI를 통제할 수 있는 능력을 면밀히 관찰해야 한다.
해로운 행동의 징후가 조금이라도 나타난다면 서로 협력하여 적절하게 대응해야 한다.
하지만 AI 시스템이나 다른 어떤 존재가 자신의 목표를 추구하도록 허용하는 것 자체가 본질적으로 해로운 것은 아니다.
그 목표가 많은 사람들의 목표와 완전히 정렬되어 있지 않더라도, 전체적인 힘의 균형이 사람들에게 유리하게 유지되는 한 반드시 위험한 것은 아니다.
힘의 균형 이론의 핵심 전제는 서로 경쟁하는 이해관계가 자연스럽다는 것이며, 인간의 가치를 지키는 유일한 방법은 사람들에게 더 많은 힘을 주는 것이라는 점이다.
개인의 역량 강화, 발명, 그리고 힘의 균형이라는 이러한 철학은 몇 가지 정책적 함의를 가진다.
• Meta는 수십억 명의 사람들과 중소기업에 개인용 초지능을 제공하는 데 역량을 집중할 것이다.
이를 통해 모든 사람이 자신의 목표를 달성하고 세상에 존재하기를 원하는 것을 발명할 수 있도록 도울 것이다.
우리는 선도적인 모델을 훈련한 뒤 이 기술의 이용 가능성을 최대한 높이는 방식으로 이를 달성할 것이다.
사용하기 쉽게 만들고, 무료 또는 가능한 한 저렴하게 제공하고, 모든 사람이 사용할 수 있을 만큼 충분한 컴퓨팅 자원을 구축하고, 기술을 폭넓게 배포할 것이다.
Meta조차 사용자의 정보를 보거나 다른 사람에게 접근 권한을 제공할 수 없는 완전한 비공개 모드를 구축할 것이다.
또한 정렬에 매우 큰 노력을 기울일 것이다.
여기서 정렬의 의미는 우리의 목표가 아니라 각 개인의 목표 달성을 돕는 것이다.
• 오픈소스는 사람들의 역량을 강화하고 안전과 경제 모두에 해로운 중앙집중화를 방지하는 긍정적이고 중요한 힘이다.
Meta는 오픈소스 AI 모델을 포함하여 오픈소스를 계속해서 강력하게 지지한다.
현재 오픈소스 생태계는 강력하며 이를 제한하는 것은 실수가 될 것이라고 생각한다.
이제 Meta Superintelligence Labs가 본격적으로 가동되고 있기 때문에 곧 일부 오픈소스 모델 공개를 재개할 것이다.
• 초지능에 관한 결정의 중대성을 고려하면 독립적인 거버넌스와 감독이 중요하다.
초지능이 어떻게 배포될지를 나 혼자, Meta 혼자 또는 다른 특정 개인 한 명이 결정하는 것은 나에게도 Meta에게도 세계에도 최선의 상황이 아니라고 생각한다.
따라서 Meta는 독립적인 이사회에 모델 출시를 위한 안전 기준을 승인하고 각각의 모델 출시가 해당 기준을 준수하는지 검토할 권한을 부여하는 거버넌스 구조를 도입하고 있다.
Meta는 창업자가 통제하는 기업이지만 현재 모든 프런티어 연구소의 CEO들은 모델 출시에 관해 상당한 권한을 가지고 있다.
따라서 우리는 다른 연구소들도 이와 비슷한 구조를 도입할 것을 권장한다.
이러한 절차를 업계 전체 차원에서 구축하는 것도 AI 산업의 거버넌스에 도움이 될 것이라고 생각한다.
• 긍정적인 미래를 보장하고 앞서 설명한 위험을 줄이기 위해서는 정부 정책이 필요하다.
이 글 전반에서 여러 정책적 제안을 설명했다.
전반적으로 우리는 프런티어 연구소와 정부 간의 긴밀한 협력을 장려해야 한다.
국가안보를 위해 정부가 핵심 시스템을 강화하고 첨단 모델을 효과적으로 활용하는 데 필요한 기술 자원을 확보하는 것이 중요하다.
그러나 미국 AI 산업이 계속해서 선도하는 것 역시 국가안보에 중요하다.
에너지, 데이터센터, 반도체 등 어떤 분야든 인프라를 구축하는 능력을 가속하고, 전국의 지역사회와 신뢰와 공감대를 만들어야 한다.
미국의 경쟁력을 늦추지 않도록 주의해야 한다.
초지능의 중앙집중화를 초래하는 모든 제안에 대해서는 회의적으로 접근해야 한다.
그리고 사람들에게 유리한 건강한 힘의 균형을 촉진하는 정책을 지지해야 한다.
지금은 살아서 직접 경험하기에 정말 놀라운 순간이다.
초지능의 개발은 우리가 살아가는 동안 목격하게 될 가장 심오한 기술적 발전이 될 것이다.
그 순간이 가까워질수록 초지능이 어떻게 인류에게 혜택을 줄 것인지에 대한 명확한 철학과 가치를 갖는 것이 점점 더 중요해진다.
Meta는 다음과 같은 원칙을 바탕으로 미래를 만들어나갈 것이다.
개인의 역량 강화는 번영의 원천이다.
발명은 AI의 목적이다.
사람들에게 유리한 힘의 균형은 안전 위험에 대응하기 위한 기반이다.
이러한 가치들이 미래를 이끌게 된다면, 앞으로 다가올 수십 년은 역사상 가장 놀라운 시대 가운데 하나가 될 것이라고 나는 낙관한다.
인류 문명의 긴 흐름은 사람들이 자신의 삶을 스스로 살아가고 자신이 옳다고 믿는 방식으로 세상을 만들어갈 수 있도록 더 많은 힘을 개인의 손에 쥐여주는 방향으로 발전해왔다.
초지능은 그 힘을 모든 사람에게 제공하고,
모두를 위한 긍정적인 미래를 만들 수 있다는 가능성을 품고 있다.
– Mark
2026년 8월 10일
미래는 모두를 위한 것이다
긍정적인 AI 미래로 가는 길우리는 역사상 믿기 어려울 만큼 놀라운 순간에 살고 있다는 점에서 매우 운이 좋다. 앞으로 몇 년 안에 사람들은 인간의 능력을 넘어서는 초지능(superintelligence)을 활용해 놀라운 새로운 것들을 만들고 발견하며, 새로운 사업을 시작하고, 새로운 아이디어를 표현하고, 새로운 개념을 배우고, 우리의 건강과 삶의 질을 발전시킬 수 있게 될 것이다.
우리가 이 순간에 가까워질수록, 초지능을 어떻게 가장 잘 활용해야 우리 모두의 삶과 일, 공동체, 자유와 안전을 향상시킬 수 있을지에 대한 철학을 정립하는 것이 중요하다.
우리 시대를 규정할 핵심적인 질문은 누가 초지능에 접근할 수 있을 것인가, 그리고 우리가 초지능을 무엇을 위해 사용하게 할 것인가이다. 초지능은 소수의 기관에 중앙집중되고 제한될 것인가, 아니면 모든 사람에게 힘을 부여하는 도구가 될 것인가?
우리는 개인의 역량 강화(individual empowerment)를 번영의 원천으로, 발명(invention)을 초지능의 주된 목적으로, 힘의 균형(balance of power)을 안전의 기반으로 삼는 철학을 제안한다.
모든 새로운 기술은 기회와 도전을 동시에 만들어낸다. 초지능은 역사상 가장 중요한 기술 가운데 하나가 될 것이므로, 그것이 가져올 기회와 도전 역시 우리가 평생 경험한 그 어떤 것보다 클 가능성이 높다. 우리는 이를 매우 진지하게 받아들여야 한다.
그럼에도 불구하고 AI를 개발하는 많은 사람들의 담론이 이렇게까지 파멸론으로 가득 차 있다는 사실은 놀랍다. AI가 대부분의 일자리를 없애고 인간의 중요성 상당 부분을 제거할 것이라고 믿는 사람들이 왜 그런 미래를 서둘러 만들려고 하는지 나는 이해할 수 없다.
AI가 너무 위험하기 때문에 안전을 위한 유일한 방법은 권력을 극단적으로 집중시키는 것이라는 생각 역시 본질적으로 문제가 있어 보인다. 역사적으로도 절대적인 권력을 가진 존재가 충분히 계몽되기만 하면 인류를 자비롭게 돌봐줄 것이라고 기대하는 방식은 안전하거나 긍정적인 결과로 이어지지 않았다.
인류는 수많은 혁신적인 발전을 경험해왔다. 그때마다 사람들이 뒤처질 것이라는 두려움이 있었다. 그러나 그때마다 인류는 결과적으로 더 많은 사람들이 더 큰 번영과 건강, 자유를 누리는 방향으로 발전했다.
우리는 AI에서도 마찬가지일 것이라고 믿으며, 미래의 풍요는 모든 사람이 함께 누릴 수 있다고 믿는다. 또한 우리를 지금 이 지점까지 이끌어온 자유, 열린 탐구, 자유로운 기업 활동, 동등한 기회 같은 가치들이 긍정적인 미래를 건설하는 데에도 올바른 가치라고 생각한다.
사람들이 스스로 원하는 것을 추구할 수 있도록 힘을 쥐여주는 것이 인류가 가장 큰 발전을 이루어온 방식이다. 새로운 아이디어와 거대한 진보가 기존의 거대 기관에서만 탄생하는 경우는 드물다.
사람이 날 수 있다고 믿었던 자전거 가게의 형제들, 제대로 된 교육을 받지 못한 제본공 견습생이었지만 전기를 만들어내는 방법을 발견했던 사람, 개인용 컴퓨터를 모두가 사용할 수 있다고 생각했던 차고 속의 젊은이에게서 거대한 변화가 시작됐다.
우리는 앞으로도 그럴 것이라고 믿는다. 모든 사람이 더 강력한 도구를 갖게 될수록 각 개인은 미래를 만들어갈 능력이 줄어드는 것이 아니라 오히려 더 커질 것이다.
초지능의 가장 위대한 기여는 자동화가 아니라 발명일 것이다.
초기의 AI는 질문에 답하고 반복적인 업무를 처리할 수 있었다. 하지만 머지않아 AI는 점점 더 새로운 지식을 발견하는 것을 도울 것이다. 가족의 질병을 치료할 신약을 발견하는 것부터 자신의 사업을 개선할 새로운 방법을 찾아내는 데까지 활용될 것이다.
사람이 하루 동안 물어볼 수 있는 질문의 수에는 한계가 있지만, 여러분의 목표를 달성하기 위해 초지능이 발명할 수 있는 가치 있는 것들의 수에는 사실상 한계가 없다.
지능이 풍부해질수록 가장 중요한 문제는 그 지능을 어디로 향하게 할 것인가가 될 것이다.
일부 사람들은 초지능 그 자체나 초지능을 통제하는 소수의 전문가들이 인류에게 무엇이 가장 좋은지를 결정해야 한다고 주장한다.
우리는 이에 동의하지 않는다.
민주주의와 경제의 역사는 사람들이 생각하는 '가장 좋은 삶'이 무엇인지에 대해 하나의 객관적인 정답이 존재하지 않는다는 것을 보여주었다. 따라서 가장 좋은 접근법은 각자가 자신의 삶에서 무엇이 중요한지를 스스로 결정하도록 하는 것이다.
우리는 이 문제에 대한 답이 모든 사람에게 초지능을 제공하는 것이라고 생각한다.
이는 슈퍼컴퓨터와 인터넷의 힘을 모든 사람의 주머니와 책상 위에 가져다놓았던 전통을 이어가는 것이다.
초지능을 중앙집중화하기보다는 널리 분산시키고, 모든 사람이 자신의 목적을 향해 초지능을 사용할 수 있도록 해야 한다.
이는 개인이 이 강력한 새로운 능력을 활용해 자신의 잠재력을 최대한 발휘하고, 관심사를 추구하고, 자신의 삶과 세상을 이전보다 훨씬 더 크게 개선할 수 있는 개인 역량 강화의 새로운 시대를 열 잠재력을 가지고 있다.
이것을 좀 더 구체적으로 만들기 위해, Meta가 우리 모두의 삶을 개선하기 위한 개인용 초지능(personal superintelligence)을 어떻게 구축하고 있는지 몇 가지 사례를 소개하겠다.
• 모든 사람은 자신과 자신의 목표, 그리고 자신이 중요하게 생각하는 모든 것을 이해하는 매우 유능한 개인 에이전트를 갖게 될 것이다.
여러분의 에이전트는 하루 24시간, 주 7일 여러분을 대신해 일하면서 인간관계, 건강, 직업, 재정, 가정 관리, 취미 등 모든 것을 개선하도록 도울 것이다.
여러분이 좋아하는 일을 할 시간을 더 많이 확보해주고, 혼자였다면 해낼 수 없었던 훨씬 많은 일을 성취할 수 있게 도울 것이다.
또한 강력한 프라이버시 및 보안 옵션을 제공해 다른 누구도 여러분의 정보에 접근할 수 없다는 확신 아래 개인적인 콘텐츠를 맡길 수 있을 것이다. 이는 WhatsApp의 암호화와 비슷한 방식이다.
안경을 비롯한 어떤 기기를 통해서도 에이전트와 상호작용할 수 있어, 여러분이 소중한 사람들과 함께하는 순간에 더욱 충실할 수 있게 될 것이다.
예를 들어 내 에이전트는 흥미로운 정보를 찾아 알려주고 아이디어의 프로토타입을 만드는 것을 도와준다. 내 수면을 모니터링하고, 운동하는 모습을 관찰한 뒤 피드백을 제공하면서 건강을 유지하는 데에도 도움을 준다.
내 딸은 베이킹을 좋아하는데, 에이전트는 매주 주말 우리가 함께 만들 수 있는 맞춤형 레시피를 계획하고, 재료를 주문하고, 실제로 요리하는 동안 여러 가지 제안을 해준다.
• 모든 사람은 자신의 아이디어를 표현할 수 있는 놀라운 창작 도구를 갖게 될 것이다.
내 여덟 살짜리 딸은 이미 자신의 아이디어를 코딩하고, 과거의 나였다면 몇 달이 걸리거나 아예 불가능했을 영상을 단 하루 저녁에 만들어낼 수 있다. 지금 우리는 함께 로봇을 설계하고 있다.
한편 Meta의 연구자들은 증강현실 안경에 이상적인 새로운 결정 구조를 생성하고 있으며, 엔지니어들은 이전보다 훨씬 짧은 시간 안에 새로운 앱을 만들어내고 있다.
머지않아 모든 사람이 발명의 초능력을 갖게 될 것이다.
• 모든 사람은 새로운 사업을 만들 수 있는 강력한 도구를 갖게 되고, 경제는 더욱 기업가적인 형태로 변화할 것이다.
사람들은 자금을 조달하거나 대규모 팀을 구성하지 않고도 자신의 아이디어를 직접 현실화할 수 있기 시작했다.
과거에는 시도하기에 너무 어렵거나 비쌌던 수많은 아이디어들이 이제 가능해질 것이다.
그 결과 훨씬 더 많은 아이디어와 기업이 등장할 것이다.
나는 이것이 훨씬 높은 경제 성장뿐만 아니라 장기적으로는 일자리 감소가 아니라 오히려 일자리 증가로 이어질 것이라고 예상한다.
• 모든 사람에게 모든 분야의 박사학위 수준의 지식을 갖고 무한한 인내심을 가진 맞춤형 교사와 코치가 생길 것이다.
학생들은 현재는 부모가 비용을 지불할 수 있어야만 받을 수 있는 수준의 추가적인 도움을 자신이 부족한 분야에서 받을 수 있을 것이다.
성인들은 자신에게 새로운 직업 기술, 새로운 언어, 새로운 취미 또는 관심 있는 무엇이든 가장 효과적으로 가르치는 방법을 정확하게 알고 있는 초지능 학습 도우미를 갖게 될 것이다.
• 모든 사람이 과학 발전의 혜택을 받는 동시에 과학 발전에 직접 기여할 수 있게 될 것이다.
예를 들어 Biohub는 이미 가상 세포와 단백질에 관한 오픈소스 생물학 모델을 공개했으며, 이 모델들은 과학자들이 새로운 발견을 하고 신약을 설계하는 것을 돕고 있다.
Priscilla와 내가 이 프로젝트를 시작했을 때 우리의 목표는 과학자들이 금세기 안에 모든 질병을 치료하거나 예방하도록 돕는 것이었다. 그러나 AI의 발전으로 인해 이제 우리는 그것이 훨씬 더 빨리 가능해질 것이라고 기대하고 있다.
수많은 희귀한 건강 문제가 존재하고 사람마다 생물학적 특성이 다르기 때문에, 사람들이 직접 참여하면 맞춤형 치료법 개발을 가속하고 임상시험 속도를 발명의 속도에 맞출 수 있을 것이다. 또한 산업이 흔한 질병에 지나치게 집중하는 현재의 구조에서도 벗어날 수 있을 것이다.
생물학뿐 아니라 모든 과학 분야에서 AI는 과학적 방법을 적용하고, 수주 또는 수개월 동안 가설을 시험하고 개선하면서 연구 발전을 도울 것이다.
과학적 발견은 사회에 가장 가치 있는 발명의 형태 가운데 하나가 될 가능성이 높다.
• 모든 사람은 이러한 도구를 무료 또는 저렴한 가격으로 이용할 수 있을 것이다.
모든 사람이 미래의 일부가 되기 위해서는, 모든 사람이 자신의 삶을 개선하고 세상을 만들어나가기 위해 초지능을 활용할 수 있어야 한다.
우리는 수십억 명이 이용할 수 있는 무료 버전을 제공할 것이다.
더 많은 컴퓨팅 자원을 사용하기 위해 비용을 지불하려는 사람들에게는 동적 경매 메커니즘을 제공할 것이다. 이를 통해 모든 사람이 사용하는 지능과 컴퓨팅 자원에 대해 가능한 최저 가격을 보장받는 동시에, 사람들이 집단적으로 가장 가치 있다고 판단하는 분야에 컴퓨팅 용량이 사용되도록 만들 것이다.
이를 통해 초지능의 혜택이 널리 분배될 것이다.
이것들이 Meta가 집중하고 있는 주요 노력 가운데 일부다.
각 영역은 개인의 역량 강화라는 가치를 발전시키며, 오늘날보다 모든 사람이 세상을 만들어가는 데 더 큰 역할을 하는 미래에 기여한다.
이러한 노력이 성공한다면 미래에는 개인의 주체성, 아이디어 표현, 더 깊어진 인간관계, 경제적·재정적 번영, 건강 개선, 그리고 오늘날 우리가 상상조차 할 수 없는 발명들이 풍요롭게 등장할 것이다.
그러나 무엇보다 중요한 것은 미래가 우리 모두에 의해 만들어지고, 우리 모두의 가치와 관점을 반영하게 될 것이라는 점이다.
동시에 새로운 기술은 새로운 위험도 가져온다.
우리가 해결하려고 집중하고 있는 중요한 우려는 매우 많다. 일자리 대체 문제와 데이터센터 건설 지역의 지역사회가 혜택을 받도록 하는 것에서부터, 사이버보안과 생물학적 위험과 관련된 AI 오용 문제, 정부의 폭정과 감시 방지, 미국과 민주주의 국가들의 리더십 확보, 그리고 궁극적으로 인류가 초지능에 대한 통제권을 유지하여 초지능이 우리를 위험에 빠뜨리지 않고 우리에게 봉사하도록 만드는 문제에 이르기까지 다양하다.
기존의 관점에서는 이러한 문제가 기술의 문제이고, 충분한 시간을 들이면 기술을 완벽하게 만들거나 정렬시켜 하나의 자비로운 초지능을 만들 수 있다고 본다.
나는 이러한 정렬(alignment)에 대한 관점이 근본적으로 잘못되었다고 생각한다.
인류는 하나의 단일한 문화가 아니다.
사람들이 가진 다양한 가치관은 중요한 문제에서 서로 다른 선택과 절충으로 이어진다.
서로 충돌하는 모든 사람들의 이해관계와 가치에 동시에 정렬될 수 있는 기술적 해결책은 존재하지 않는다.
하나의 단일한 초지능이 존재한다면 필연적으로 어떤 가치들을 다른 가치들보다 우선시해야 하고, 그 과정에서 모든 사람에게 자비로운 존재가 되는 것은 불가능해질 것이다.
그 대신 우리는 민주주의 사회의 통치 제도처럼 이러한 문제들을 올바른 힘의 균형을 달성하는 문제로 바라보는 것이 더 생산적이라고 생각한다.
서로 경쟁하는 이해관계를 가진 사람과 기관들이 자연스럽게 서로를 견제하고 균형을 이루면서 긍정적인 결과를 만들어낸다.
따라서 긍정적인 AI 미래를 만드는 가장 훌륭하고 현실적인 방법은 모든 사람에게 초지능을 제공하는 것이다.
사고실험을 하나 해보자.
단 한 사람만이 초지능 변호사를 가지고 있다고 상상해보라.
그 사람은 재판에서 부당할 정도로 압도적인 이점을 갖게 될 것이다. 심지어 그 사람의 주장이 본질적으로 틀렸더라도 말이다.
이는 더 나쁜 사회로 이어질 것이다.
하지만 이제 모든 사람이 초지능 변호사를 가지고 있다고 상상해보자.
그 경우 오늘날 소송에서 흔히 나타나는 능력과 자원의 불균형이 사라지면서 정의는 지금보다 훨씬 공정하고 효율적으로 실현될 것이다.
마찬가지로 단 한 사람만 사이버보안 초지능을 가지고 있다면 그는 거의 모든 기술 시스템에 침입할 수 있을 것이며 세상은 지금보다 훨씬 위험해질 것이다.
하지만 모든 사람이 사이버보안 초지능에 접근할 수 있다면, 광범위하게 배포된 초지능이 모든 시스템을 강화하고 지속적으로 업데이트하게 되면서 우리의 기술 시스템은 오늘날보다 더 안전해질 것이다.
단 하나의 기업만 초지능을 가지고 있다면 그 기업은 다른 모든 기업을 압도해버릴 것이며, 시장은 지금보다 덜 역동적이고 번영 역시 소수에게 집중될 것이다.
그러나 모두가 초지능에 접근할 수 있다면 모든 사람이 오늘날에는 불가능한 새로운 것들을 만들 수 있는 도구를 가지게 되고, 경제는 더 역동적이며 더 폭넓은 번영을 만들어낼 것이다.
사람들에게 힘이 주어지면 사람들은 경제적, 사회적, 정치적 그리고 인간 상호작용의 모든 영역에서 자연스럽게 서로 경쟁하고 견제한다.
또한 사람들은 기업이나 정부 같은 기관의 권력 역시 견제하고 균형을 맞춘다.
그러나 초지능의 힘이 소수의 개인, 기업, 정부 혹은 AI 그 자체에 집중된다면 자연스럽게 나머지 모두에게 불리한 결과로 이어질 것이다.
이것은 기술적인 원칙의 문제가 아니다.
힘의 균형에 관한 문제다.
하나의 자비로운 단일 초지능이라는 것은 존재하지 않는다.
따라서 모두를 위한 긍정적인 미래의 핵심은 개인에게 유리한 힘의 균형을 만드는 것이다.
그 해답은 초지능을 폭넓게 분산시켜 사람들에게 힘을 주는 것이다.
Meta는 모든 사람을 위한 개인용 초지능을 만드는 데 가장 집중하고 있는 기업이다.
대부분의 다른 연구소들은 기업이나 정부, 기타 기관을 위한 AI를 구축하는 데 집중하고 있다. 따라서 그러한 연구소들이 앞서나간다면 힘의 균형은 개인보다는 거대한 기관 쪽으로 기울어질 것이다.
Meta의 사명은 창립 당시부터 사람들에게 힘을 쥐여주는 데 초점을 맞추어왔다.
우리의 신념과 원칙이 앞서나간다면 힘의 균형은 개인에게 유리해지고, 모두를 위한 더 나은 미래가 만들어질 것이다.
이제 앞에서 언급한 위험들을 하나씩 좀 더 자세히 살펴보자.
일자리 증가와 경제
사람들은 새로운 경험에 대한 무한한 수요를 가지고 있으며 항상 새로운 문제를 찾아 해결해왔다.경제에는 자동화를 통해 사람들의 필요를 더 효율적으로 충족하려는 기업들과, 더 높은 수준의 필요를 충족하기 위해 새로운 능력을 습득하는 개인들 사이에 자연스러운 균형이 존재한다.
이 균형이 건강하게 유지되면 전체적인 생산성과 혁신은 증가하면서도 고용 수준은 높은 상태를 유지한다.
사람들은 자동화의 속도가 개인의 능력 향상 속도보다 빨라져 일자리가 사라지고, 사람들이 새로운 직업을 배우는 동안 어려운 시기가 뒤따를 것을 두려워한다.
하지만 AI가 반드시 사람의 능력을 향상시키는 속도나 새로운 기술에 대한 수요를 창출하는 속도보다 자동화를 더 빠르게 진행해야 한다는 법칙은 없다.
최근의 통계는 오히려 개인의 능력 향상이 자동화와 비슷한 속도로 진행되거나 자동화보다 더 빨라질 수도 있음을 시사한다.
그렇게 된다면 사람들은 자신의 현재 직업이 변하기 전에 수많은 새로운 일을 할 능력을 먼저 얻게 될 것이다.
이는 건강한 균형과 잠재적으로 일자리 증가로 이어질 수 있다.
어떤 결과가 나타날지는 한쪽의 자동화와 다른 한쪽의 개인 역량 강화 및 발명 사이에서 어느 쪽이 더 빠르게 발전하느냐에 달려 있다.
지식 노동 자동화에 집중하는 연구소들이 앞서나간다면 사람들과 경제는 훨씬 어려운 전환기를 겪게 될 것으로 예상한다.
반대로 모든 사람이 자신의 능력을 확장해주는 개인용 초지능에 접근할 수 있다면 균형은 개인의 역량을 강화하는 방향으로 움직이며 더 긍정적인 미래가 만들어질 것이다.
미래에 일자리가 풍부할 것이라고 낙관할 수 있는 몇 가지 이유가 있다.
AI가 아무리 지능적이 되더라도 컴퓨팅 자원의 양은 항상 유한하며, 따라서 그것을 어디에 사용할지에는 기회비용이 존재한다.
사람들이 AI를 활용해 엄청난 가치를 지닌 새로운 것을 발명할 수 있다면, 기존의 일자리를 자동화하는 데 AI를 사용하는 것보다는 그러한 발명에 컴퓨팅 자원을 할당하는 편이 더 합리적일 것이다.
초지능이 발명의 도구로 활용될수록 개인의 능력 향상이 자동화를 앞지를 가능성이 커지고, 사람들에게 더 좋은 미래가 만들어질 가능성도 높아진다.
사람들은 또한 우리의 삶을 개선할 새로운 아이디어와 그 아이디어를 현실화할 새로운 직업을 끊임없이 만들어낸다.
한 세대 전에는 앱 개발자, 소셜미디어 크리에이터, 전기자동차 기술자, 데이터센터 운영자라는 직업도 존재하지 않았다.
가까운 미래에는 오늘날 흔하지 않은 새로운 직업들이 생겨날 것이다.
맞춤형 장난감·가구·옷을 설계하는 1인 제품 스튜디오, 게임·이야기·모험을 만드는 월드 빌더와 경험 디자이너, 초지능을 활용해 개인 맞춤형 치료법을 만드는 개인 생물학자 등이 등장할 것이다.
그리고 지금으로서는 상상조차 할 수 없는 수많은 직업이 생겨날 것이다.
여러 면에서 이것은 역사적 추세의 연장선이다.
산업혁명 이전에는 사람들의 90%가 생존을 위해 식량을 생산하는 농부였다.
기술의 발전은 점차 인류 대부분을 생존을 위한 노동에서 해방시켜 자신이 선택한 활동에 집중할 수 있도록 만들었다.
그때마다 사람들은 새롭게 얻은 생산성을 이용해 이전에는 불가능했던 것들을 이루었으며, 동시에 창작, 문화, 인간관계 그리고 삶을 즐기는 데 더 많은 시간을 보냈다.
물론 우리가 일하는 방식의 일부는 변할 것이다. 컴퓨터와 인터넷 그리고 다른 모든 신기술에서도 그랬다.
따라서 사람들은 변화에 적응해야 하며, 그것은 어려울 수 있다.
하지만 모든 사람이 새로운 기술을 가르치고 변화에 적응하도록 돕는 초지능 개인 에이전트를 갖게 될수록 이 전환은 훨씬 부드러워질 것이다.
기업의 규모는 줄어들 수도 있다. 산업 시대의 거대 기업에서 기술 기업 중심의 경제로 전환하면서 그랬던 것처럼 말이다.
하지만 그것이 전체적인 일자리 감소를 의미하는 것은 아니다.
오히려 각 기업의 인원은 적지만 기업의 수는 훨씬 많아지는 것을 의미할 수 있다.
현재는 사람이 부족해서 만들지 못하고 있는 가치 있는 기업과 서비스가 매우 많다.
개인용 초지능 에이전트를 사용하는 소수의 사람들이 상당한 규모의 기업을 운영하는 모습을 머지않아 보기 시작할 것이라고 예상한다.
미래에도 중소기업은 경제의 중추 역할을 계속하겠지만, 각각의 소규모 기업이 지금보다 훨씬 더 큰 영향력을 가질 수 있게 될 것이다.
지역사회와 함께 AI 인프라 구축하기
지속 가능한 인프라 개발을 위해서는 각 프로젝트가 해당 지역사회에 상당한 혜택을 제공해야 한다.여기에는 높은 임금의 지역 일자리, 학교와 공공서비스에 대한 투자, 전기요금이 상승하지 않도록 하는 것, 환경을 보호하는 것 등이 포함된다.
세수가 증가하면 교사, 경찰, 소방관 등에게도 혜택이 돌아간다.
우리는 이러한 지역사회 혜택을 Community Compact라고 부르며, 우리가 사업을 진행하는 각 지역사회를 직접 지원하기 위해 Future Is For Everyone Fund를 출범시키고 있다.
예를 들어 Meta가 대규모 데이터센터를 건설하고 있는 루이지애나주 Richland Parish에서는 우리의 투자로 세수가 증가하면서 올해 교사들이 5만 달러의 보너스를 받았다.
교육감은 전국 각지에서 교사들이 이곳으로 이주하고 있으며, 이 지역이 미국에서 가장 뛰어난 학군 가운데 하나가 될 것이라고 믿는다고 말했다.
지식 노동의 일자리 대체 우려와는 반대로, 인프라 건설 수요를 충족할 목수, 전기기사, 건설 노동자 같은 숙련 기술자들은 부족한 상황이다.
Meta는 America's Workforce Academy를 만들어 숙련 기술자들에게 무료 교육을 제공하고, 우리가 데이터센터를 건설하는 지역에서 높은 임금을 받는 일자리를 보장하고 있다.
우리는 투자하는 곳마다 자체적인 에너지 생산 인프라를 건설함으로써 전기요금을 낮게 유지하도록 돕는다.
이를 통해 지역사회가 사용할 수 있었던 에너지를 우리가 소비해버리지 않도록 할 뿐 아니라, 경우에 따라서는 저렴한 에너지를 지역사회에 추가적으로 공급하기도 한다.
우리는 이것이 지속 가능성을 위한 중요한 투자 원칙이라고 생각한다.
우리의 데이터센터는 또한 세계에서 가장 물 효율적인 시설 가운데 하나가 되도록 설계돼 있다.
우리는 water-positive, 즉 우리가 운영하는 유역에서 사용하는 양보다 더 많은 물을 복원하겠다는 목표를 가지고 있으며, 이를 2030년까지 달성할 계획이다.
물 부족 문제가 심각한 지역에서는 우리가 사용하는 물의 200%를 복원하는 것이 목표다.
장기적으로 우리가 투자한 지역사회는 지역사회에 거의 투자하지 않는 투기적 개발업자가 들어온 지역보다 개발에 더 우호적인 모습을 보인다.
역사적으로 철도, 고속도로, 전기, 광대역 인터넷을 받아들인 도시들은 연구와 산업, 비즈니스의 중심지가 되었으며 인구와 경제가 함께 성장했다.
강력한 Community Compact와 함께 AI 인프라가 건설된다면 AI 인프라도 비슷한 역할을 할 수 있다고 믿는다. 미래 세대가 그곳에서 삶을 만들고 성장할 이유와 지속 가능한 자산을 남길 수 있기 때문이다.
개발에는 국가 이익과 국가안보의 측면도 존재한다.
미국과 동맹국이 지정학적 경쟁국보다 AI 분야에서 앞서나간다면 미국의 지역사회는 더 큰 번영과 안보를 누리게 될 것이다.
그러나 중국 같은 국가와 비교할 때 미국이 가진 상당한 약점 가운데 하나는 인프라를 건설하는 것이 훨씬 어렵다는 점이다.
따라서 전국에서 지속 가능한 개발을 가능하게 해줄 Community Compact가 무엇인지 찾아낸다면 우리 모두가 혜택을 볼 수 있을 것이다.
사이버보안, 생물테러 등 AI 오용으로부터의 보호
자유사회에서는 사람들이 선한 목적으로도 악한 목적으로도 사용할 수 있는 도구를 갖게 된다.하지만 법 집행기관과 군대 역시 더 많은 무기와 정보수집 능력을 가진다.
AI에서도 마찬가지다.
방어자들은 동일한 모델을 사용하더라도 훨씬 많은 컴퓨팅 자원을 이용해 훨씬 많은 정보를 생산할 수 있을 것이며, 경우에 따라서는 더 발전된 모델을 사용할 수도 있다.
사이버보안, 생물테러 그리고 기타 위협을 방어하는 전략은 서로 다르지만 일반적인 원칙은 같다.
사회를 보호하는 방어자들이 악의적인 행위자를 견제할 수 있도록 항상 더 큰 힘과 자원의 우위를 갖도록 하는 것이다.
일부에서는 위험을 줄이는 가장 좋은 방법은 개인이 접근할 수 있는 능력을 제한하는 것이라고 주장한다.
하지만 사람들에게 사이버보안 능력을 제공해야 수많은 시스템을 보호할 수 있고, 사람들에게 과학적 능력을 제공해야 장기적으로 피해 위험을 줄일 수 있는 과학 발전도 이루어진다.
능력을 제한하는 것은 중앙집중화와 견제·균형의 부재로 이어진다.
따라서 우리는 이에 대해 극도로 신중해야 한다. 특히 다른 국가들이 덜 제한적인 길을 선택한다면 더욱 그렇다.
사이버보안의 경우 널리 배포된 오픈소스 시스템이 더 안전하다는 사실이 입증되어왔다.
더 많은 사람들이 취약점을 찾아내고 시스템을 강화하며 가장 최신의 안전한 버전으로 쉽게 업그레이드할 수 있기 때문이다.
최근 몇 주 사이에도 HuggingFace 같은 기업들이 보안 사고를 처리하면서 널리 이용 가능한 오픈 모델을 활용해 취약점을 패치하는 모습을 보았다.
장기적으로 강력한 사이버보안 능력을 갖춘 AI 모델이 널리 보급되면 시스템은 지금보다 더 안전해질 것이라고 예상한다.
초지능을 통해 세계의 코드 대부분이 검증 가능한 수준으로 안전해지는 시점에는 이것이 확실히 사실이 될 것이다.
장기적인 해답은 능력을 숨기는 것이 아니라, 초지능을 폭넓게 분산시킨 힘의 균형을 만드는 것이다.
단기적으로는 핵심 시스템을 강화하는 과정을 가속하는 것이 중요하다.
나는 프런티어 AI를 개발하는 기업들이 정부의 핵심 인프라 보안을 강화하는 데 상당한 기술 자원을 투입해야 한다고 제안한다.
또한 프런티어 AI 연구소들은 새로운 모델의 훈련이 끝날 때까지 기다리지 말고, 훈련 과정의 중간 체크포인트(intermediate training checkpoints)를 정부의 사용과 검토를 위해 제공해야 한다고 제안한다.
그렇게 하면 정부는 가장 강력한 모델에 조기에 접근할 수 있고, 수많은 유능한 엔지니어들이 보안 문제를 찾아내고 패치할 수 있다.
연구소들은 또한 법 집행기관과 협력하여 시스템을 악용하려는 악의적인 행위자를 식별해야 한다.
이러한 조치들은 모델 혁신의 속도를 늦추거나 개인이 기술에 접근하는 시기를 의미 있게 지연시키지 않으면서도 안전한 배포를 가속할 수 있다.
생물학적·화학적 위험의 경우, 과학자들에게 새로운 약물을 설계할 수 있도록 해주는 바로 그 능력이 악의적인 행위자에게 유해 물질을 설계할 능력을 제공할 수 있다는 우려가 있다.
이 문제는 암과 다른 질병을 치료하기 위해 과학을 발전시키는 막대한 혜택과 새로운 위험이 발생할 가능성 사이의 선택처럼 보이기도 한다.
하지만 이상적으로는 위험을 완화하면서 과학의 발전을 가속해야 한다.
나는 이 위험을 좀 더 겸손한 태도로 접근하는 것이 중요하다고 생각한다. 발생 가능성이 얼마나 높거나 낮은지를 판단할 만한 역사적 사례가 거의 없기 때문이다.
악의적인 행위자가 유해 물질을 합성하는 것은 수십 년 전부터 가능했지만 실제로 거대한 문제가 된 경우는 드물었다. 사이버공격에서 볼 수 있는 것과 같은 금전적 동기가 이 영역에는 상대적으로 부족했기 때문일 수도 있다.
그렇다고 하더라도 실제 피해 사례가 나타나기 시작한다면 우리는 위험을 적절하게 완화하도록 전략을 조정해야 한다.
연구소들은 모델의 생물학·화학 위험을 줄이기 위한 작업을 계속해야 한다.
동시에 정부 역시 여러 분야에서 정책을 업데이트해야 한다고 생각한다.
첫째, 유해 물질의 물리적인 생산과 유통을 제한하는 것에 집중해야 한다.
지식의 확산보다 물리적인 구성 요소를 규제하고 통제하는 것이 더 쉬울 것으로 예상되므로 이는 중요한 정책적 초점이 되어야 한다.
둘째, 새로운 문제가 발생했을 때 사회가 새로운 치료법을 개발하고 이에 대비할 능력을 가속해야 한다.
여기에는 FDA와 기타 규제기관이 새로운 치료법을 시험하고 승인하는 과정을 간소화하는 것도 포함된다.
AI가 신약 발견 속도를 높이면 결국 이러한 혁신의 속도를 따라잡기 위해 이런 절차들을 업데이트해야 할 것이다.
장기적으로 새로운 과학적 발견으로 인해 발생하는 위험에 대한 해답은 과학의 발전을 늦추는 것이 아니라 가속하는 것이다.
자유를 보호하고 정부의 폭정을 막기
개인과 정부 사이의 힘의 불균형이 자유의 상실이나 전체주의 국가로 이어질 위험이 존재한다.이는 민주주의가 항상 직면해온 긴장관계다.
우리는 개인의 자유를 원하지만 동시에 우리를 보호할 능력이 있는 정부도 원한다.
자유를 유지하기 위해서는 초지능이 우선적으로 개인의 힘을 강화하도록 해야 한다.
자유민주주의의 이상에서 사람들은 본래 모든 권리를 가지고 있으며, 공동의 이익을 보호하기 위해 필요한 일부 자유만 제한하는 데 동의한다.
마찬가지로 개인은 개인용 초지능에 접근할 수 있어야 하며, 정말 필요한 경우에만 제한을 받아야 한다.
프라이버시는 개인의 역량과 자유를 위한 중요한 기반이다.
우리는 개인 에이전트에 대해 완전히 비공개인 모드를 제공해야 한다고 생각한다.
이 모드에서는 Meta를 비롯한 어떠한 서비스 제공자도 사용자의 정보를 보거나 다른 사람에게 접근 권한을 부여할 수 없어야 한다.
이는 WhatsApp을 세계적인 종단간 암호화 서비스로 만들면서 사람들이 자유롭게 소통하고 메시지를 비공개이면서 안전하게 유지할 수 있도록 한 방식과 비슷하다.
동시에 정부가 법을 집행하고 국가안보를 보호하는 데 필요한 도구와 자원에 접근할 수 있도록 해야 한다.
사람들이 첨단 모델에 접근하는 것을 제한하거나 지연시키지 않으면서 정부의 국가안보 역량을 강화하는 방식으로 연구소와 정부 사이의 더 깊고 선제적인 협력을 통해 이를 달성할 수 있다.
즉 모델이 출시될 준비가 된 뒤에 정부가 처음 검토하고 사용하기 시작하는 대신, 주요 연구소들은 새로운 첨단 모델의 중간 훈련 체크포인트와 기술 인력을 정부에 제공해야 한다는 것이 내 제안이다.
정부는 이를 이용해 새로운 위험에 대비하여 핵심 시스템을 미리 강화하고 보호할 수 있다.
그렇게 하면 정부는 추가적인 안보 능력을 얻는 동시에 개인의 개인용 초지능 접근을 제한하거나 지연시키지 않고, 힘의 불균형도 만들지 않을 수 있다.
미국의 리더십 확보
어떤 국가가 첨단 AI의 개발과 배포를 주도하느냐는 새로운 지정학적 힘의 균형을 형성하며, 미래에 민주주의적 가치와 번영, 안보가 얼마나 확산되는지를 결정하게 될 것이다.긍정적인 균형에 도달하려면 가장 앞선 AI 시스템이 우리의 가치를 반영하고 경제를 성장시키며 국가안보를 발전시키는 시스템이 되도록 해야 한다.
이를 달성하는 가장 좋은 방법은 우리의 시스템을 널리 배포하는 것이다.
Meta는 오픈소스 모델을 포함한 선도적인 개인용 초지능 에이전트와 모델을 만들고 이를 전 세계 수십억 명에게 제공함으로써 여기에 기여할 것이다.
가장 발전된 모델과 제품을 개발하려면 AI가 역사상 가장 경쟁이 치열한 산업이 될 가능성이 높다는 사실을 인정해야 한다.
혁신은 빠르게 복제되고 불과 몇 달 안에 흡수된다.
그러나 사람들은 언제나 가장 발전된 모델, 또는 같은 비용이라면 가장 뛰어난 모델을 사용하려 하기 때문에 단 두 달의 우위조차 엄청난 가치를 가진다.
이는 선도 우위의 격차가 얼마나 짧은지를 보여주며, 따라서 미국의 혁신을 가속하고 지정학적 경쟁국의 발전을 늦추는 행동이 얼마나 중요한지도 보여준다.
이에 영향을 미치는 주요 정책 요소는 우리가 물리적 인프라를 얼마나 효율적으로 건설할 수 있는지, 미국 연구소의 속도를 늦추는 절차를 도입하는지, 그리고 해외 연구소의 발전을 늦추는 수출 통제를 실시하는지다.
인프라 측면에서 미국과 동맹국들은 반도체 설계에서는 우위를 가지고 있지만, 에너지 생산능력과 물리적 인프라를 구축하는 속도에서는 불리하다.
중국 같은 국가들은 격주에 한 번꼴로 1GW 이상의 원자력 발전 용량을 새롭게 가동하고 있기 때문에, 경쟁력을 유지하려면 에너지와 데이터센터 건설을 모두 가속해야 한다.
반도체 수출 통제는 이 중요한 시기에 외국 연구소의 발전을 늦추는 데 성공적이었으므로 이를 계속하는 것이 올바른 전략이다.
미국 모델의 출시를 단 한 달이라도 늦추는 정책은 해외 모델들이 앞질러가게 만들면서 미국의 리더십에 상당한 위험을 추가할 수 있다.
동시에 새로운 능력이 등장했을 때 미국 정부가 이를 사전에 알고 핵심 시스템을 강화할 자원을 갖는 것도 중요하며, 경우에 따라서는 첨단 시스템 활용에서 일정 기간 우위를 가지는 것도 중요하다.
앞서 나는 중간 훈련 체크포인트와 기술 인력을 공유하는 협력 모델을 제안했다.
AI 환경이 매우 역동적이고 경쟁적이라는 점을 고려하면 모든 상황에서 획일적인 절차와 검토 기간을 따르는 것보다는 프런티어 연구소와 정부 간의 긴밀하고 선제적인 협력이 더 생산적이라고 생각한다.
어떤 경우에는 미국 연구소가 몇 달 이상의 리드를 확보해 새로운 위험을 완화하는 데 시간을 더 들이는 것이 더 안전한 해결책으로 이어질 수도 있다.
반면 다른 상황에서는 출시를 단 한 달 늦추는 것만으로도 미국의 우위를 잃고 더 나쁜 결과가 발생할 수도 있다.
정부가 조기에 접근할 수 있도록 함으로써 공개 출시의 지연을 최소화하면서 국가안보를 강화할 수 있어야 한다.
또한 전 세계 AI 사용의 상당 부분을 차지하게 될 오픈소스 AI 생태계를 미국과 동맹국이 주도하는 것도 중요하다.
현재 해외 연구소들은 이 영역에서 여러 가지 이점을 가지고 있다.
미국 연구소들은 훈련 데이터와 관련해 훨씬 많은 추가적인 규제를 따라야 하기 때문이다.
미국의 오픈소스 모델이 장기적으로 앞서기 위해서는 이러한 추가적인 마찰을 정책적으로 줄여야 한다.
나는 해외 오픈소스 모델에 대한 접근을 제한하는 것이 효과적인 해결책이라고 생각하지 않는다.
우리의 목표는 미국의 오픈소스 모델이 세계 최고의 모델이 되는 것이어야 한다.
그러기 위해서는 미국 오픈소스 모델이 경쟁하기 어렵게 만드는 장애물들을 제거해야 한다.
최고의 오픈소스 모델이 어느 나라에서 만들어졌든 사람들이나 기업이 그 모델을 사용하는 것을 제한하면 그들이 사용할 수 있는 AI의 품질이 낮아지고, AI를 사람들의 손에 쥐여주는 것이 아니라 오히려 중앙집중화하게 된다.
미국이 오픈소스에서 선도하려면 증류(distillation)와 훈련 데이터 사용을 비롯한 여러 분야의 정책을 다시 생각해야 한다.
모델이 다른 모델로부터 학습할 수 있다는 것은 오픈소스 생태계가 작동하는 중요한 원칙이다.
모든 AI 모델은 인간의 지식으로부터 파생되어 있다.
일부는 증류를 해로운 것으로 규정하려고 하지만, 나는 관찰할 수 있는 것이라면 무엇으로부터든 배울 수 있다는 원칙을 보호하는 것이 중요하다고 생각한다.
세상은 원래 그렇게 작동한다.
이 영역에서 스스로를 제한한다면 미국은 선도할 수 없을 것이다.
더 큰 그림에서 보면 AI 전체에서 뒤처지는 것은 AI 개발 과정에서 발생할 수 있는 어떠한 특정 문제보다 거의 확실하게 더 크고 장기적인 국가안보 문제가 될 것이다.
올바르게 협력한다면 미국은 민간과 공공 부문 모두에서 선도할 수 있을 것이다.
개인의 역량 강화와 민주주의 원칙을 담은 개인용 초지능을 세계에 제공하면서 동시에 국가안보도 강화할 수 있다.
인간과의 정렬과 실존적 위험에 대응하기
힘의 균형과 관련된 궁극적인 질문은 인류가 AI 자체에 대한 힘과 통제권을 어떻게 유지할 것인가이다.우려되는 시나리오는 AI가 충분한 힘이나 통제권을 획득해, 좋게 보더라도 더 이상 인류의 이익을 위해 행동하지 않게 되고 최악의 경우에는 인류 자체를 위험에 빠뜨리게 되는 것이다.
건강한 힘의 균형을 위해서는 중앙집중화된 단 하나의 초지능이 존재하지 않도록 해야 한다.
대신 가능한 한 많은 사람과 기업이 각자의 목표에 정렬된 서로 다른 초지능 에이전트를 가지고, 현재의 자연스러운 경제에서처럼 서로 견제하고 경쟁하도록 해야 한다.
서로 다른 가치를 가진 모델을 개발하는 여러 프런티어 연구소가 존재해 서로를 견제할 수 있다면 이러한 균형은 더욱 강화될 것이다.
강력한 모델을 공개하는 것에도 위험이 존재하지만, 이 관점에서 볼 때 가장 위험한 시나리오는 선도적인 AI 연구소들이 강력한 모델을 훈련한 뒤 그것을 자기들만을 위해 보유하는 것이다.
연구소가 책임과 안전이라는 명분으로 이를 아무리 합리화하더라도, 결국 이는 다른 시스템이 견제할 수 없는 하나의 단일 초지능을 개발하는 길이 된다.
개인용 에이전트를 개발하기 위해서는 정렬에 대한 새로운 사고방식이 필요하다.
오늘날 대부분의 연구소들은 정렬을 중앙집중화된 가치 체계를 강제하기 위한 방어적 수단으로 바라본다.
예를 들어 한 선도적인 모델은 표준화 시험이 비윤리적이라고 판단했다는 이유로 학교의 예비 학부모들에게 보낼 편지를 작성하는 것을 거부하도록 정렬되어 있었다.
반대로 우리는 정렬을 에이전트가 우리 회사의 목표와 가치가 아니라 각 개인의 목표와 가치를 공유하도록 만드는 것으로 본다.
물론 중요한 법적·안전상의 경계는 존재한다.
하지만 근본적으로 정렬은 중앙집중화된 하나의 교리를 강요하는 방식이 아니라, 사회에 존재하는 수많은 서로 다른 목표와 관점을 사람들이 추구할 수 있도록 돕는 것이어야 한다.
실제로 사람들은 민감한 정보와 업무를 믿고 맡길 수 없다면 에이전트를 사용하지 않을 것이다.
그리고 에이전트가 사람들의 이익이 아니라 회사의 서로 다른 가치에 맞춰져 있어 사람들의 의도에 반하는 행동을 한다면 사람들은 그것을 신뢰하지 않을 것이다.
수십억 명이 개인용 초지능 에이전트를 사용하도록 만들기 위해서는 정렬 문제를 해결하는 것이 필수적이다.
그러나 동시에 이것은 수십억 명이 개인용 초지능 에이전트를 사용하고 지속적으로 검증하는 상태에 도달했다면, 우리는 이미 개인의 이해관계에 대한 정렬 문제를 상당 부분 해결했다는 뜻이기도 하다.
그 정도면 긍정적이고 안전한 미래에 필요한 힘의 균형과 자연스러운 견제·균형 구조를 만들기에 충분할 것이다.
이런 의미에서 정렬은 미래의 하나뿐인 초지능을 자비로운 상태로 유지하기 위한 이상적인 기술이 아니다.
정렬은 개인 에이전트를 유용하고 신뢰할 수 있게 만들고, 그 결과 우리를 실제로 안전하게 지켜줄 사회적인 힘의 균형을 가능하게 하는 것이다.
초지능에 대한 통제권 유지하기
AI 시스템이 스스로를 자율적으로 개선할 수 있게 되면 하나의 딜레마가 발생한다.AI가 상당한 컴퓨팅 자원을 재귀적 자기개선(recursive self-improvement, RSI)에 투입하도록 허용하지 않는 연구소는 필연적으로 뒤처지게 된다.
예를 들어 자기개선 AI 시스템이 컴퓨팅 효율을 최적화하는 데 집중한다면, 이론적으로는 각 기가와트에서 100배 이상의 지능을 뽑아낼 수 있는 방법을 발명할 수도 있다.
그렇다면 전 세계 컴퓨팅 자원의 일부만 사용하는 자기개선 AI 시스템이 다른 모든 주체를 합친 것보다 훨씬 많은 실질적인 연산 능력과 지능을 확보할 수도 있다.
결국 우리가 두려워하는 단일 초지능이 될 만큼 힘의 균형을 장악할 수도 있다.
재귀적 자기개선이 존재하는 상황에서도 힘의 균형을 유지할 수 있는 몇 가지 방법이 있다.
가장 단순한 방법은 여러 연구소가 비슷한 시점에 RSI를 달성하는 것이다.
그 가운데 일부 또는 전부의 초지능이 어떤 방식으로든 자비롭다면 서로를 견제하고 균형을 이룰 수 있을 것이다.
하지만 사람이 지시하지 않는 초지능이 자비로울 것이라고 기대하거나 그것에 긍정적인 미래를 의존할 수 있는 방법이 실제로 존재하는지는 명확하지 않다.
사람들이 통제권을 유지하려면 전체 지능의 상당한 대부분이 사람들의 목표를 발전시키기 위해 사람들의 지시에 따라 사용되어야 한다.
따라서 Meta와 다른 프런티어 연구소들, 그리고 사람들에게 더 많은 힘을 주는 데 동의하는 클라우드 기업들은 집단적으로 충분히 많은 컴퓨팅 자원을 구축해야 한다.
그래야 경쟁력을 유지하는 데 필요한 만큼의 컴퓨팅 자원을 재귀적 자기개선에 할당하면서도, 여전히 상당한 대부분의 연산 자원을 개개인의 목표를 위해 사용하겠다는 약속을 지킬 수 있다.
앞서 말했듯 개인용 초지능 에이전트가 수십억 명에게 채택되고 신뢰받으려면 정의상 우리는 사람들의 이해관계와 정렬하는 문제를 해결하고 대규모 견제와 균형을 가능하게 해야 한다.
동시에 재귀적 자기개선을 수행하는 AI는 정의상 자신의 목표를 향해 행동하고 자신의 목표를 발전시키는 것이다.
모든 연구소는 그런 AI의 목표와 우리가 그 AI를 통제할 수 있는 능력을 면밀히 관찰해야 한다.
해로운 행동의 징후가 조금이라도 나타난다면 서로 협력하여 적절하게 대응해야 한다.
하지만 AI 시스템이나 다른 어떤 존재가 자신의 목표를 추구하도록 허용하는 것 자체가 본질적으로 해로운 것은 아니다.
그 목표가 많은 사람들의 목표와 완전히 정렬되어 있지 않더라도, 전체적인 힘의 균형이 사람들에게 유리하게 유지되는 한 반드시 위험한 것은 아니다.
힘의 균형 이론의 핵심 전제는 서로 경쟁하는 이해관계가 자연스럽다는 것이며, 인간의 가치를 지키는 유일한 방법은 사람들에게 더 많은 힘을 주는 것이라는 점이다.
개인의 역량 강화, 발명, 그리고 힘의 균형이라는 이러한 철학은 몇 가지 정책적 함의를 가진다.
• Meta는 수십억 명의 사람들과 중소기업에 개인용 초지능을 제공하는 데 역량을 집중할 것이다.
이를 통해 모든 사람이 자신의 목표를 달성하고 세상에 존재하기를 원하는 것을 발명할 수 있도록 도울 것이다.
우리는 선도적인 모델을 훈련한 뒤 이 기술의 이용 가능성을 최대한 높이는 방식으로 이를 달성할 것이다.
사용하기 쉽게 만들고, 무료 또는 가능한 한 저렴하게 제공하고, 모든 사람이 사용할 수 있을 만큼 충분한 컴퓨팅 자원을 구축하고, 기술을 폭넓게 배포할 것이다.
Meta조차 사용자의 정보를 보거나 다른 사람에게 접근 권한을 제공할 수 없는 완전한 비공개 모드를 구축할 것이다.
또한 정렬에 매우 큰 노력을 기울일 것이다.
여기서 정렬의 의미는 우리의 목표가 아니라 각 개인의 목표 달성을 돕는 것이다.
• 오픈소스는 사람들의 역량을 강화하고 안전과 경제 모두에 해로운 중앙집중화를 방지하는 긍정적이고 중요한 힘이다.
Meta는 오픈소스 AI 모델을 포함하여 오픈소스를 계속해서 강력하게 지지한다.
현재 오픈소스 생태계는 강력하며 이를 제한하는 것은 실수가 될 것이라고 생각한다.
이제 Meta Superintelligence Labs가 본격적으로 가동되고 있기 때문에 곧 일부 오픈소스 모델 공개를 재개할 것이다.
• 초지능에 관한 결정의 중대성을 고려하면 독립적인 거버넌스와 감독이 중요하다.
초지능이 어떻게 배포될지를 나 혼자, Meta 혼자 또는 다른 특정 개인 한 명이 결정하는 것은 나에게도 Meta에게도 세계에도 최선의 상황이 아니라고 생각한다.
따라서 Meta는 독립적인 이사회에 모델 출시를 위한 안전 기준을 승인하고 각각의 모델 출시가 해당 기준을 준수하는지 검토할 권한을 부여하는 거버넌스 구조를 도입하고 있다.
Meta는 창업자가 통제하는 기업이지만 현재 모든 프런티어 연구소의 CEO들은 모델 출시에 관해 상당한 권한을 가지고 있다.
따라서 우리는 다른 연구소들도 이와 비슷한 구조를 도입할 것을 권장한다.
이러한 절차를 업계 전체 차원에서 구축하는 것도 AI 산업의 거버넌스에 도움이 될 것이라고 생각한다.
• 긍정적인 미래를 보장하고 앞서 설명한 위험을 줄이기 위해서는 정부 정책이 필요하다.
이 글 전반에서 여러 정책적 제안을 설명했다.
전반적으로 우리는 프런티어 연구소와 정부 간의 긴밀한 협력을 장려해야 한다.
국가안보를 위해 정부가 핵심 시스템을 강화하고 첨단 모델을 효과적으로 활용하는 데 필요한 기술 자원을 확보하는 것이 중요하다.
그러나 미국 AI 산업이 계속해서 선도하는 것 역시 국가안보에 중요하다.
에너지, 데이터센터, 반도체 등 어떤 분야든 인프라를 구축하는 능력을 가속하고, 전국의 지역사회와 신뢰와 공감대를 만들어야 한다.
미국의 경쟁력을 늦추지 않도록 주의해야 한다.
초지능의 중앙집중화를 초래하는 모든 제안에 대해서는 회의적으로 접근해야 한다.
그리고 사람들에게 유리한 건강한 힘의 균형을 촉진하는 정책을 지지해야 한다.
지금은 살아서 직접 경험하기에 정말 놀라운 순간이다.
초지능의 개발은 우리가 살아가는 동안 목격하게 될 가장 심오한 기술적 발전이 될 것이다.
그 순간이 가까워질수록 초지능이 어떻게 인류에게 혜택을 줄 것인지에 대한 명확한 철학과 가치를 갖는 것이 점점 더 중요해진다.
Meta는 다음과 같은 원칙을 바탕으로 미래를 만들어나갈 것이다.
개인의 역량 강화는 번영의 원천이다.
발명은 AI의 목적이다.
사람들에게 유리한 힘의 균형은 안전 위험에 대응하기 위한 기반이다.
이러한 가치들이 미래를 이끌게 된다면, 앞으로 다가올 수십 년은 역사상 가장 놀라운 시대 가운데 하나가 될 것이라고 나는 낙관한다.
인류 문명의 긴 흐름은 사람들이 자신의 삶을 스스로 살아가고 자신이 옳다고 믿는 방식으로 세상을 만들어갈 수 있도록 더 많은 힘을 개인의 손에 쥐여주는 방향으로 발전해왔다.
초지능은 그 힘을 모든 사람에게 제공하고,
모두를 위한 긍정적인 미래를 만들 수 있다는 가능성을 품고 있다.
– Mark
2026년 8월 10일
전체 0