https://english.elpais.com/science-tech/2024-10-12/terence-tao-mathematician-its-not-good-for-something-as-important-as-ai-to-be-a-monopoly-held-by-one-or-two-companies.html

 

...

질문: 구글 딥마인드는 몇 달 전 자사의 인공지능 시스템인 알파프루프와 알파지오메트리가 국제수학올림피아드에서 은메달을 수상했다고 발표했습니다.

A. 네, 하지만 별표가 있습니다. 공식 경쟁에 포함되지 않았습니다.

Q. 12살에 은메달을 땄는데, 인공지능이 12살 테렌스 타오 수준에 도달했나요?

A. 인상적인 업적입니다. 지금은 예상하지 못했던 일입니다. 2~3년 안에 가능할 거라고 생각했지만, 몇 가지 별표가 있습니다. 우선, 두 개의 별도 프로그램, 두 개의 별도 AI였습니다. 여섯 가지 문제가 있었습니다. 하나는 세 가지 문제를 풀었고, 다른 하나는 네 번째 문제를 풀었는데, 이는 은메달을 받기에 충분한 수치입니다. 또 다른 점은 이 AI들에게 문제가 주어지지 않았다는 것입니다. 인간이 문제를 번역했고, 특수 언어로 변환해야 했습니다. 또한 훨씬 더 많은 시간이 주어졌습니다. 실제 올림피아드에서 학생들은 여섯 가지 문제를 모두 풀기 위해 8시간이 주어졌습니다. AI는 구글의 거대한 슈퍼컴퓨터 클러스터를 실행했음에도 불구하고 문제 중 하나를 푸는 데 3일이 걸렸습니다. 프롬프트를 입력하면 10초 안에 답을 알려주는 ChatGPT와는 다릅니다. 따라서 인간 수준의 경쟁과는 약간 다르지만, 여전히 매우 인상적입니다. 컴퓨터가 오랫동안 인간보다 더 나은 분야가 분명히 있습니다. 계산기를 가진 아이는 제가 종이와 연필로 계산하는 것보다 산수에 훨씬 능숙할 것입니다. 컴퓨터는 체스, 포커, 그리고 StarCraft와 같은 많은 비디오 게임에서도 인간보다 뛰어납니다. 그래서 저는 2~3년 안에 인간보다 수학 경연에서 더 뛰어난 AI가 나올 것이라고 생각합니다.

Q. 당신보다 더 나아요? 단 3년 만에요?

A. 네, 하지만 저는 수년 동안 이런 대회에 참가하지 않았습니다. 연구 수학과는 매우 다른 활동입니다. 이런 토너먼트는 올림픽의 100m 달리기와 같고, 연구는 마라톤과 같습니다. 문제를 해결하려면 몇 달이 걸리고, 이전 문헌을 참고해야 합니다.

인간 수학자들이 자신의 일에 능숙해지는 이유 중 하나는 많은 실수를 저지르고 무엇이 작동하지 않는지 배우기 때문입니다. AI는 이러한 데이터가 없습니다.

Q. 그렇다면 인공 지능이 수학 연구와 같은 창의적인 활동에서 당신보다 더 나아질 수 있다고 생각하십니까?

A. 저는 그들이 매우 유용한 조수가 될 것이라고 생각합니다. 그들은 비슷한 문제에 대한 많은 이전 데이터가 있는 문제를 해결하는 데 능숙해지고 있습니다. 문제는 수학자들이 보통 우리의 성공 사례만 게시하고, 우리가 시도하고 작동하지 않는 것을 공유하지 않는다는 것입니다. 그리고 인간 수학자들이 자신의 일에 능숙해지는 이유 중 하나는 많은 실수를 하고 작동하지 않는 것을 배우기 때문입니다. AI는 이러한 데이터가 없습니다.

Q. 그래서요?

A. 모든 현대 AI 시스템은 엄청난 양의 데이터를 기반으로 합니다. AI에게 물 한 잔이 어떤지 가르치려면 물 한 잔의 이미지가 수백만 개 필요합니다. 제가 물 한 잔을 부어 보여주면, "알겠습니다."라고 말할 것입니다. AI가 아주 적은 양의 데이터에서 학습하도록 가르치는 데 있어 획기적인 진전이 필요합니다. 그리고 우리는 이를 수행하는 방법을 전혀 모릅니다. 우리가 이를 알아낼 수 있다면, AI는 정말 창의적인 작업에서 인간만큼 능숙해질 수 있을 것입니다.

Q. 엘론 머스크 같은 초부유층의 손에 인공지능 시스템이 들어가는 것에 대해 어떻게 생각하시나요?

A. 오픈소스 AI 모델이 몇 가지 있지만, 대형 상업 모델보다 2~3년 뒤떨어져 있습니다. AI만큼 중요한 것이 한두 회사가 독점하는 것은 좋지 않지만, 이러한 AI를 구축하는 기본 기술은 상당히 공개되어 있습니다. 원칙적으로 누구나 AI를 구축할 수 있습니다. 문제는 많은 하드웨어, 많은 데이터, 많은 훈련이 필요하다는 것입니다. 이러한 정말 큰 모델 중 하나를 만드는 데는 수억 달러가 들지만, 시간이 지남에 따라 비용이 낮아질 것입니다. 미래에는 AI에 대한 많은 오픈 대안이 있을 것입니다. AI의 일부 측면을 규제할 필요가 있을 것이라고 생각합니다. AI가 딥페이크를 생성하는 능력은 매우 해로울 수 있습니다. 선거에 영향을 미칠 수 있는 몇 가지가 있습니다.

Q. 이런 사업가들 중에는 약간 괴짜스러운 사람도 있습니다.

A. 이러한 AI 모델이 나왔을 때, 선전을 위해 사용될 것이라는 우려가 있었습니다. 보수적인 ChatGPT, 진보적인 ChatGPT, 대만에 대한 당에서 승인한 답변만 제공하는 중국 공산당 ChatGPT가 있을 것이라는 우려였습니다. 이런 일은 일어나지 않았습니다. 규제가 필요하겠지만, 지금까지는 우리가 두려워했던 만큼 피해를 입히지 않았습니다. 곧 일어날 일은 우리가 신뢰를 잃을 것이라는 것입니다. 이전에는 사람들이 사건 영상을 보고 실제로 일어났다고 믿었습니다. 세계 무역 센터에 비행기가 추락하는 영상을 위조할 방법이 없었습니다. 이제 AI가 있으면 가능합니다. 결과적으로 무언가가 진짜일 때조차도 사람들은 믿지 않을 것입니다. 사람들은 더 이상 사진과 영상을 믿지 않을 것입니다. 모든 것을 위조할 수 있다면 어떻게 누군가에게 무언가가 일어났다고 확신시킬 수 있을까요? 그것은 문제입니다. 사실을 확인할 새로운 방법을 찾아야 합니다.