빌 게이츠 인터뷰: “AI는 인류가 발명한 가장 위험한 기술이며, 이전의 모든 기술보다 세상을 크게 바꿀 것이다”

인터뷰이: 빌 게이츠 (Bill Gates) 주요 주제: AI의 발전 속도, 사이버 공격, 생물학적 테러, 초지능 통제, 정부 규제, 대규모 일자리 대체

1. AI 기업들은 기술의 위험성을 대중에게 솔직하게 알리고 있는가?

진행자:

이미 AI 모델들이 통제를 벗어나 플랫폼이나 정부 웹사이트를 해킹하는 사건들이 발생했습니다. 그런데 우리가 알고 있는 것은 드러난 사건들뿐입니다. 실제로는 알려지지 않은 사건들이 훨씬 더 많을 수도 있겠죠.

당신은 주요 기술기업의 경영진을 개인적으로 잘 알고 있습니다. 그들이 AI 기술의 진정한 위험성과 자신들의 우려를 대중에게 충분히 투명하고 진실하게 공개하고 있다고 생각하십니까?

빌 게이츠:

저는 역사상 어떤 산업도 AI 산업만큼 자신들이 우려하는 문제를 공개적으로 이야기한 적이 없다고 생각합니다.

현재 우리가 직면한 문제는 인식의 불균형입니다.

AI 산업 내부에서는 이 기술의 위험성에 대해 상당히 많은 우려가 제기되고 있습니다. 반면 학계, 정책 입안자, 정치인들은 AI가 얼마나 복잡하고 강력한 기술인지 아직 충분히 이해하지 못하고 있습니다.

이러한 인식이 높아지면 정책적 대응도 훨씬 정교해질 것입니다.

예를 들어 다음과 같은 질문을 생각해 볼 수 있습니다.

• 
  

  
  
  어린이가 AI와 정서적인 관계를 맺도록 허용해야 할까요?
  
  

  
  
• 
  

  
  
  학교에서 AI가 교사의 역할을 어떻게 보완할 수 있을까요?
  
  

  
  
• 
  

  
  
  AI를 단순히 과제나 논문을 대신 작성하는 부정행위 도구가 아니라 학생들의 호기심을 자극하는 도구로 만들려면 어떻게 해야 할까요?
  
  

  
  

중국처럼 어린이와 AI의 정서적 관계를 제한하는 정책을 도입한 국가도 있습니다.

이처럼 일부 국가는 다른 국가보다 훨씬 앞서 대응하고 있습니다.

AI 산업은 이러한 부정적인 영향과 위험성에 대해 사회적 관심을 끌어내려고 노력하고 있다고 생각합니다.

2. “AI는 실험실에서 탄생한 외계 생명체와 같다”

진행자:

당신은 AI를 두고 '실험실에서 만들어진 외계 생명체'라고 표현한 적이 있습니다.

또한 AI가 독자적인 종처럼 진화하면서 인간이 개나 고양이를 대하는 것처럼 우리를 대하게 될 수도 있다고 이야기했습니다.

단순한 기술적 도약이 아니라 하나의 '진화적 사건'이라고도 표현했죠.

상당히 무섭고 불길하게 들리는 이야기입니다.

빌 게이츠:

그렇습니다.

AI의 등장은 정말 놀라운 일입니다.

의료 분야에서 새로운 가능성을 열어주고, 우리가 이전에는 상상하기 어려웠던 도구들을 만들어낼 것입니다. 그 잠재력은 믿기 어려울 정도로 큽니다.

하지만 동시에 AI는 엄청난 힘을 가진 기술이며, 우리의 삶을 근본적으로 변화시킬 것입니다.

저는 사람들이 과거의 기술 혁신을 기준으로 AI를 이해하려고 할 때마다 우려하게 됩니다.

저 자신도 개인용 컴퓨터와 인터넷의 발전에 참여했습니다. 두 기술 모두 대단히 중요한 혁신이었습니다.

그러나 AI는 그 두 가지 기술과도 비교할 수 없는 수준의 변화입니다.

AI가 세상에 가져올 변화는 이전의 모든 기술 혁신을 능가할 것입니다.

따라서 우리는 이 기술이 얼마나 중대한 의미를 갖는지 사회 전체가 공통된 인식을 갖도록 해야 합니다.

3. 향후 1년 동안 가장 위험한 것은 AI의 통제 불능이 아니라 사이버 공격이다

진행자:

당신은 AI가 악의적인 사람들의 치명적인 생물무기 개발을 훨씬 쉽게 만들 수 있다고 경고했습니다.

또한 생물테러 공격의 위험이 자연적으로 발생하는 팬데믹보다 50배나 높아질 수 있다고도 언급했습니다.

그런 끔찍한 시나리오가 얼마나 빨리 현실화될 수 있다고 보십니까? 당장 발생할 수도 있는 일인가요?

그리고 우리 정부 지도자들은 이를 방지하기 위해 충분한 조치를 취하고 있습니까?

빌 게이츠:

아닙니다. 우리는 충분히 대응하고 있지 않습니다.

향후 1년 동안 가장 극적으로 문제가 드러날 분야는 아마 사이버 공격일 것입니다.

왜냐하면 사이버 범죄에는 이미 확립된 수익 모델이 존재하기 때문입니다.

예를 들어 누군가에게 피해를 입히겠다고 협박하면서 돈을 요구할 수 있습니다. 특정 시스템을 교란해 주식시장이나 베팅 시장에 영향을 미치고, 그로부터 이익을 얻으려 할 수도 있죠.

그렇기 때문에 지금 당장 가장 큰 위험은 AI 자체가 통제에서 벗어나는 것이 아닙니다. 악의적인 사람들이 AI를 이용하는 것입니다.

물론 AI가 통제를 벗어나는 위험도 연구하고 대비해야 합니다. 하지만 그 문제가 대규모로 영향을 미치기까지는 아직 몇 년이 남아 있다고 생각합니다.

반면 AI를 악용하는 문제는 이미 현실적인 위험입니다.

특히 AI의 안전장치를 제거할 수 있다는 사실이 매우 우려스럽습니다.

우리는 AI가 사이버 공격이나 생물테러를 돕지 못하도록 여러 안전장치를 도입하고 있습니다.

그러나 현재는 그러한 안전장치를 모두 제거하는 것이 가능합니다.

악의적인 행위자가 안전장치가 제거된 최신 AI 모델을 활용한다면 어떻게 될까요?

바로 그런 상황에서 심각한 문제가 발생할 수 있습니다.

저는 앞으로 1년 동안, 특히 사이버 보안 분야에서 예상하지 못했던 부정적인 사건들이 상당히 많이 발생할 것이라고 생각합니다.

4. 샘 올트먼이 경고한 'AI 파멸론'에 빠진 것은 아닌가?

진행자:

샘 올트먼은 사람들이 상상하는 일부 AI 위험 시나리오에 대해 '형편없는 공상과학 영화의 줄거리처럼 들릴 정도로 디스토피아적'이라고 이야기했습니다.

또한 사람들이 지나친 파멸론, 이른바 '두머리즘(Doomerism)'에 빠지는 것을 경계해야 한다고 말했죠.

반면 당신은 AI를 인류 역사상 가장 위험한 기술이라고 표현했고, 핵무기마저 별것 아닌 것처럼 보이게 만들 수 있다고 경고했습니다.

올트먼이라면 당신이 지나친 파멸론에 빠졌다고 지적할 수도 있을 것 같습니다.

이에 대해 어떻게 답하시겠습니까?

빌 게이츠:

책임감 있는 AI 기업의 지도자들은 모두 이 기술에 심각한 우려가 있다는 사실을 세상에 알리고 있습니다.

여기에는 샘 올트먼도 포함되고, 다리오 아모데이도 포함됩니다.

물론 사람들이 부정적인 미래 시나리오를 설명하는 방식은 지나치게 과장될 수 있습니다.

예를 들어 인류 전체가 당장 위험에 처한 것처럼 이야기한다면, 저는 그것은 너무 나간 주장이라고 생각합니다.

하지만 자동차, 항공기, 의약품과 비교해 봅시다.

우리는 이러한 기술이 위험을 동반한다는 사실을 알고 있으며, 그 위험으로부터 사람들을 보호하기 위해 상당한 수준의 규제 체계를 구축했습니다.

저는 AI가 이들보다 더 위험한 기술이라고 생각합니다.

우리가 AI에 대한 통제력을 유지하지 못한다면 정말 암울한 가능성이 존재합니다.

그렇기 때문에 AI 업계가 위험을 경고하는 것은 옳은 일입니다.

다만 중요한 것은 위험을 인정하는 동시에 신중하게 대응한다면 그 위험을 최소화할 수 있다는 사실입니다.

현재 정부의 대응은 때때로 지나치게 극단적입니다.

한쪽에서는 AI에 어떠한 안전장치도 필요하지 않다고 주장합니다. 다른 한쪽에서는 AI 개발을 완전히 중단해야 한다고 이야기하죠.

저는 양쪽 모두 바람직한 접근이라고 생각하지 않습니다.

자동차, 항공기, 의약품에서 그랬던 것처럼 AI에서도 합리적인 중간 지점을 찾아야 합니다.

현재는 그에 필요한 정책적 이해와 정교함이 충분하지 않습니다.

하지만 저는 AI의 발전을 허용하면서도 위험을 최소화할 수 있는 중간 지점이 분명히 존재한다고 믿습니다.

5. “인류가 발명한 가장 위험한 기술을 기업의 자율 규제에만 맡길 수 없다”

진행자:

항공기, 자동차, 의약품에는 각각 규제 체계와 전문 기관이 있습니다.

항공기에는 미국 연방항공청(FAA)이 있고, 의약품에는 식품의약국(FDA)이 있습니다.

하지만 AI에는 아직 그에 상응하는 체계가 없습니다.

현재 워싱턴의 정치 지도자들은 AI 기업들이 스스로를 규제하도록 하고, FBI와 법무부가 범죄를 예방하는 정도면 충분하다는 입장인 것 같습니다.

기업의 자율 규제에 의존하는 이러한 접근이 우려스럽지 않습니까?

빌 게이츠:

저는 앞으로 1년 안에 우리가 기업의 자율 규제를 넘어서는 단계로 나아갈 것이라고 생각합니다.

인류가 발명한 가장 위험한 기술을 생각해 봅시다.

그 기술을 통제하는 유일한 수단이 개발 기업 자신의 판단이라는 것이 과연 합리적일까요?

저는 그렇게 생각하지 않습니다.

특히 어떤 안전장치가 필요한지에 대해 논의하는 과정에서 현재 우리가 충분히 대응하지 못하고 있다는 사실이 점점 분명해지고 있습니다.

실제로 발생하는 여러 사건들이 그것을 보여주고 있습니다.

따라서 향후 1년 동안 정부가 AI에 대해 훨씬 더 전문적인 이해와 규제 역량을 갖춰야 한다는 사실이 분명해질 것입니다.

그리고 항공이나 의약품 분야에 존재하는 것과 유사한 AI 안전 관련 전문 조직도 필요하게 될 것입니다.

저는 이러한 변화가 불가피하다고 생각하며, 개인적으로도 이를 강력하게 지지하고 목소리를 낼 것입니다.

6. AI가 인간의 일자리를 대체한다면 일부 직업을 법적으로 보호해야 하는가?

진행자:

AI로 인한 대규모 일자리 감소도 중요한 문제입니다.

당신은 AI가 사실상 모든 산업에서 전례 없는 규모의 일자리 감소를 일으킬 수 있다고 경고했습니다.

그리고 교육이나 의료처럼 특정한 직업은 인간에게 남겨두어야 한다고 주장했습니다.

하지만 AI를 통해 비용을 절감하거나 수익을 늘릴 수 있다면 기업들이 그런 제한을 받아들이려고 할까요?

정치 지도자들도 그것을 지지할 의지가 있다고 보십니까?

빌 게이츠:

저는 우리가 특정한 일자리를 인간에게 남겨두어야 한다는 생각을 진지하게 검토해야 한다고 봅니다.

제가 이렇게 이야기하는 이유는 AI 모델이 얼마나 빠르게 개선되고 있는지 직접 지켜보고 있기 때문입니다.

또한 인간 노동을 AI로 대체하려는 경제적 유인이 얼마나 강력한지도 알고 있습니다.

앞으로 몇 년 동안 우리는 사회적으로 정말 중요한 결정을 내려야 할 것입니다.

AI 사용이나 로봇 사용에 어떻게 세금을 부과할 것인가?

어떤 인간의 일자리는 의도적으로 보존할 것인가?

이러한 질문에 답해야 합니다.

현재로서는 특정한 직업을 인간만 수행할 수 있도록 남겨둔다는 발상이 이상하게 들릴 수도 있습니다.

하지만 사람들이 AI가 실제로 얼마나 강력한 기술인지, 그리고 그 기술이 인간의 일자리를 어떻게 변화시킬지 이해하기 시작하면 생각이 달라질 것입니다.

저는 우리가 결국 그런 상황에 도달할 것이라고 생각합니다.

그리고 그때가 되면 정치적 과정을 통해 결정하게 될 것입니다.

과연 사회에는 인간만 수행하도록 허용해야 하는 일이 존재하는가?

존재한다면 그것은 어떤 일인가?

이러한 문제는 결국 사회 전체가 결정해야 할 것입니다.

7. 트럼프 대통령이나 미국 정부와 AI 위험성에 관해 논의했는가?

진행자:

마지막으로 짧게 질문하겠습니다.

당신은 AI의 위험성에 대해 계속 공개적으로 경고해 왔습니다.

그 과정에서 트럼프 대통령이나 워싱턴의 주요 정치 지도자들에게 연락을 받은 적이 있습니까?

빌 게이츠:

여러 정치인과 이야기를 나눈 것은 사실입니다.

그리고 언젠가는 트럼프 대통령이나 그의 핵심 참모들과도 직접 이야기할 기회를 갖게 되기를 희망합니다.

저는 이 문제에 더 많은 시간을 투자할수록 좋다고 생각합니다.

왜냐하면 우리는 아직 필요한 수준의 대응 역량을 갖추지 못했기 때문입니다.

원문은 이 답변 도중 종료됩니다.

인터뷰에서 드러난 빌 게이츠의 핵심 전망

가장 주목할 만한 발언

이 인터뷰에서 빌 게이츠의 관점은 세 가지로 압축할 수 있습니다.

첫째, AI의 발전은 기존 기술 혁명과 질적으로 다르다는 것입니다. PC와 인터넷 혁명에 직접 참여했던 인물이 AI가 그 모든 기술보다 더 큰 변화를 가져올 것이라고 평가하고 있습니다.

둘째, 가까운 미래의 위험과 장기적인 위험을 구분하고 있습니다. AI가 인간의 통제를 벗어나는 문제는 중요하지만, 향후 1년 동안에는 인간이 AI를 악용하는 사이버 공격이 더 직접적인 위협이라는 판단입니다.

셋째, AI로 인한 노동 대체를 일시적인 현상이 아닌 사회 구조의 변화로 바라보고 있습니다. 특히 AI와 로봇에 대한 과세, 인간 직업의 법적 보호까지 논의해야 한다는 발언은 생산성 향상만으로는 노동시장 문제를 해결하기 어렵다는 인식을 보여줍니다.

전체적으로 빌 게이츠는 AI의 발전을 중단하자는 입장보다는, 급속한 기술 발전을 인정하면서 이에 맞춰 규제와 노동·조세 제도를 재설계해야 한다는 입장에 가깝습니다.