https://www.wsj.com/opinion/the-ai-future-is-for-everyone-a0c24e20

우리는 역사상 경이로운 순간을 살아가는 행운을 누리고 있다. 앞으로 몇 년 안에 사람들은 인간의 능력을 넘어서는 초지능을 활용해 놀랍고 새로운 것들을 창조하고 발견할 수 있게 될 것이다. 새로운 사업을 만들고, 자신의 생각을 표현하고, 새로운 개념을 배우며, 삶과 건강, 인간관계, 경력을 개선할 수 있을 것이다.

우리 시대를 규정할 핵심 질문은 초지능이 존재하게 될 것인지가 아니다. 중요한 것은 누가 초지능에 접근할 수 있게 될 것인가이다. 초지능이 중앙집중화되어 소수의 기관에만 제한될 것인가, 아니면 모든 사람에게 힘을 부여하는 도구가 될 것인가?

나는 개인의 역량 강화를 번영의 원천으로, 발명을 초지능의 주된 목적으로, 권력의 균형을 안전의 토대로 삼는 철학을 제안한다.

인공지능을 개발하는 사람들 가운데 상당수의 담론이 그토록 파멸론으로 가득하다는 사실은 놀랍다. AI가 대부분의 일자리와 인간의 존재 가치를 상당 부분 없애버릴 것이라고 믿는 사람이 왜 그런 미래를 서둘러 건설하려 하는지 나는 이해할 수 없다. AI가 너무 위험하므로 안전을 보장할 유일한 방법은 권력을 극단적으로 집중시키는 것이라는 생각 자체가 위험해 보인다. 충분히 계몽된 절대 권력이 인류를 자비롭게 보살펴줄 것이라고 기대했던 시도는 역사적으로 안전하거나 긍정적인 결과를 낳지 못했다.

인류는 수많은 변혁적 발전을 경험해왔다. 그때마다 사람들이 뒤처질 것이라는 두려움이 나타났다. 그러나 그때마다 인류는 더 많은 사람이 더 큰 번영과 건강, 자유를 누리는 방향으로 발전했다. 우리는 AI 역시 마찬가지일 것이라고 믿으며, 미래의 풍요는 모든 사람이 공유할 수 있다고 생각한다. 또한 우리를 지금 이 지점까지 이끌어온 가치, 즉 자유, 개방적 탐구, 자유로운 기업 활동, 기회의 평등이야말로 긍정적인 미래를 건설하는 데 필요한 가치라고 믿는다.

사람들이 자신의 열망을 추구할 수 있도록 권력을 그들의 손에 쥐여주는 것은 인류가 가장 큰 발전을 이루어온 방식이다. 참신한 아이디어와 중대한 도약은 기존 제도권에서만 나오는 경우가 드물다. 그것들은 인간이 날 수 있다고 믿었던 자전거 가게의 형제들에게서 나왔고, 정규교육을 받지 못했지만 전기를 만들어내는 방법을 밝혀낸 제본공 견습생에게서 나왔으며, 개인용 컴퓨터가 모두를 위한 것이 될 수 있다고 생각했던 차고 속 젊은이에게서 나왔다. 우리는 앞으로도 그럴 것이라고 믿는다. 모든 사람이 더욱 강력한 도구를 갖게 되면, 각 개인은 미래를 만들어가는 능력을 덜 갖게 되는 것이 아니라 오히려 더 많이 갖게 될 것이다.

자동화가 아니라 발명이 초지능의 가장 위대한 기여가 될 것이다. 초기 AI는 질문에 답하고 일상적인 업무를 수행할 수 있었다. 머지않아 AI는 새로운 지식의 발견을 점점 더 많이 지원하게 될 것이다. 가족의 질병을 치료할 신약을 발견하는 일에서부터 자신의 사업을 개선할 새로운 방법을 찾아내는 일에 이르기까지 말이다. 하루 동안 AI에 물을 수 있는 질문의 수에는 한계가 있지만, 초지능이 여러분의 목표 달성을 돕기 위해 발명할 수 있는 가치 있는 것의 수에는 한계가 없다.

지능이 풍부해질수록 가장 중요한 질문은 우리가 그것을 어떤 방향으로 이끌 것인가가 될 것이다. 일부 사람들은 초지능 자체가, 또는 그것을 통제하는 소수의 전문가가 인류에게 무엇이 최선인지를 결정해야 한다고 주장한다. 나는 이에 동의하지 않는다. 민주주의와 경제의 역사는 사람들이 최고의 삶을 어떻게 정의하는가에 단 하나의 객관적인 정답은 없다는 사실을 보여주었다. 따라서 가장 좋은 접근법은 각자가 자신에게 무엇이 중요한지를 스스로 결정하도록 하는 것이다.

이러한 힘을 중앙에 집중시키는 대신, 우리는 모든 사람에게 개인용 초지능을 제공하는 것이 이 질문에 대한 해답이라고 믿는다. 이는 개인이 자신의 관심사를 추구하고 잠재력을 최대한 실현할 수 있는 더 큰 자유를 갖는, 개인 역량 강화의 새로운 시대를 열 잠재력을 가지고 있다.

건강한 사회는 안전을 위해 견제와 균형이 필요하다는 사실도 인정한다. 불과 몇 개의 기관만 초지능을 보유하게 된다면, 그 기관들은 필연적으로 경제와 과학, 정치에 지배적인 영향력을 행사하게 될 것이다. 아무리 좋은 의도를 가지고 있더라도, 그러한 권력 집중은 사람들이 자신의 미래를 선택할 능력을 제한할 것이다.

하나의 사고실험으로, 단 한 사람만 초지능 변호사를 보유하고 있다고 상상해보자. 그 사람은 자신의 주장이 본질적으로 틀렸더라도 법정에서 부당한 우위를 차지할 것이다. 이는 더 나쁜 사회로 이어질 것이다. 그러나 이제 모든 사람이 초지능 변호사를 보유하고 있다고 상상해보자. 정의는 오늘날보다 훨씬 더 공정하고 효율적으로 실현될 것이다. 사람들에게 힘이 주어지면, 그들은 자연스럽게 서로를 견제하고 더 큰 기관들의 권력도 견제하게 된다.

대부분의 사회적 문제는 하나의 자비로운 초지능을 인류의 가치에 정렬시키려는 시도로 해결할 수 없다. 인류는 단일한 문화를 가진 집단이 아니다. 서로 대립하는 모든 사람의 이해관계와 다양한 가치에 동시에 정렬될 수 있는 기술적 해결책은 존재하지 않는다. 하나의 단일한 초지능은 일부 가치를 다른 가치보다 우선해야 할 것이며, 그 과정에서 모든 사람에게 자비로운 존재가 되는 것은 불가능할 것이다.

많은 위험에는 진지한 관심이 필요하다. 사이버보안과 같은 대부분의 영역에서는 오픈소스 소프트웨어의 역사가 보여주듯, 모든 사람이 강력한 시스템에 완전하게 접근할 수 있도록 하는 것이 장기적으로 안전과 보안을 지키는 가장 좋은 방법이 될 것이다. 생물학적 위험을 비롯한 다른 위험에 대해서는 고성능 모델을 책임감 있게 배포하기 위해 정부와 기타 기관 사이의 더 많은 협력이 도움이 될 것이다.

이는 경제와 일자리의 미래에도 마찬가지로 적용된다. AI를 자동화를 위한 도구로 사용하는 것과, 사람들이 자신의 능력을 확장하고 새로운 사업을 만들도록 지원하는 도구로 사용하는 것 사이에는 균형이 존재한다. 그 균형이 자동화 쪽으로 기울어진다면 일자리와 경제에 미치는 영향은 부정적일 수 있다.

그러나 초지능이 널리 분산된다면, 나는 미래에 일자리가 줄어드는 것이 아니라 오히려 더 많아질 것이라고 믿는다. 많은 자본을 조달하지 않고도 사업을 시작하기가 훨씬 쉬워질 것이다. 경제는 더욱 창업가적인 성격을 띠게 될 것이며, 대기업보다 소규모 기업에서 일하는 사람의 수가 더 많아질 것으로 예상한다.

초지능의 개발은 우리가 평생 목격하게 될 가장 심대한 기술적 발전이 될 것이다. 메타는 개인의 역량 강화, 발명, 권력의 균형이라는 원칙에 따라 초지능을 개발하는 데 전념하고 있다. 인류 역사의 흐름은 더 많은 권력을 사람들의 손에 쥐여주는 방향으로 굽어왔다. 이러한 가치가 우리를 이끈다면, 나는 우리가 모두를 위한 긍정적인 미래를 건설할 수 있다고 낙관한다.

저커버그 씨는 메타의 최고경영자다.