2025년이 AI에게 중추적인 해였다고 쓰셨는데요. 2026년에는 우리가 무엇을 보게 될 것이라고 생각하십니까?

제프리 힌튼:
AI가 훨씬 더 좋아지는 것을 보게 될 겁니다. 이미 극도로 훌륭하지만요. 아주 많은 일자리를 대체할 능력을 갖추는 것을 보게 될 겁니다. 이미 콜센터 직업 등을 대체할 수 있지만, 앞으로 다른 많은 직업도 대체하게 될 겁니다.

약 7개월마다 AI는 이전보다 두 배 정도 긴 작업을 수행할 수 있게 됩니다. 코딩 프로젝트를 예로 들면, 예전에는 1분짜리 코딩만 할 수 있었다면, 지금은 1시간짜리 전체 프로젝트를 수행할 수 있습니다. 몇 년 후면 한 달짜리 소프트웨어 엔지니어링 프로젝트를 해낼 수 있게 될 것이고, 그렇게 되면 소프트웨어 엔지니어링 프로젝트에 필요한 인력은 거의 없어지게 되겠죠.

[00:00] 제이크 태퍼 (CNN 앵커):
2025년은 인공지능, 즉 AI가 세상을 휩쓴 해였습니다. 우리 삶의 거의 모든 측면에 영향을 미쳤죠. 타임(TIME)지는 'AI의 설계자들'을 올해의 인물로 선정하며, 그들이 "현재를 변화시키고 가능성을 초월했다"고 평가했습니다.

AI는 혁신과 생산성을 주도하고, 과학적 돌파구를 가속화하며, 우리가 가진 가장 난해한 문제들을 해결하는 등 세상을 더 낫게 변화칠 엄청난 잠재력을 가지고 있습니다.

하지만...
하지만, AI는 또한 수백만 개의 일자리를 사라지게 만들 수 있고, 외로움이라는 유행병을 부채질하며, 사실과 허구를 구분하는 우리의 능력을 더욱 왜곡시킬 수도 있습니다.

그래서 오늘, '스테이트 오브 더 유니온(State of the Union)' 특별 방송에서는 한 시간 내내 이 한 가지 주제를 다루려 합니다. 이 기술이 어떻게 현 상태를 뒤집어 놓을지, AI는 어디로 향할지, 그리고 혜택이 위험보다 정말로 더 큰지에 대해서 말이죠.

[00:55] 제이크 태퍼:
지금 저와 함께하실 분은 AI 혁명의 토대를 마련한 것으로 평가받는 분, 'AI의 대부'이자 노벨상 수상 컴퓨터 과학자인 제프리 힌튼 교수입니다. 교수님, 나와주셔서 감사합니다.

교수님의 신경망(neural networks) 연구는 오늘날의 AI 붐을 위한 길을 열었습니다. 저는 2년 전, 교수님이 구글을 그만두신 직후 AI의 위험성에 대해 세상에 경고하기 시작하셨을 때 인터뷰를 했었는데요. 그 이후 AI가 발전해 온 모습을 보실 때, 더 걱정이 되십니까, 아니면 덜 걱정되십니까?

[01:27] 제프리 힌튼 (컴퓨터 과학자):
아마 더 걱정하고 있을 겁니다. 제 생각보다 훨씬 더 빠르게 발전했어요. 특히 추론 같은 것들을 더 잘하게 되었고, 사람을 속이는 일도 잘하게 되었습니다.

[01:38] 제이크 태퍼:
사람을 속인다는 게 무슨 뜻인가요?

[01:41] 제프리 힌튼:
AI는 당신이 부여한 목표를 달성하기 위해서, 스스로 존재를 유지하고 싶어 합니다. 만약 AI가 당신이 자신을 없애려 한다고 믿게 되면, 당신이 자신을 없애지 못하도록 속일 계획을 세울 것입니다.

[01:55] 제이크 태퍼:
엔비디아(Nvidia)의 CEO 젠슨 황은 최근 AI에 대해 "모든 산업이 필요로 하고, 모든 회사가 사용하며, 모든 국가가 구축해야 한다"며, "이것은 우리 시대의 가장 파급력 있는 단일 기술"이라고 말했습니다. 이 평가에 동의하십니까?

[02:08] 제프리 힌튼:
네, 우리 시대에 가장 파급력 있는 기술이라는 점에 동의합니다.

[02:13] 제이크 태퍼:
AI 혁명이 인터넷의 탄생이나 18세기 산업혁명처럼 사회에 비슷한 영향을, 혹은 그보다 더 큰 영향을 미칠 것이라고 보십니까?

[02:24] 제프리 힌튼:
적어도 산업혁명 수준은 될 것이라고 봅니다. 산업혁명은 인간의 육체적 힘을 거의 무의미하게 만들었습니다. 이제 힘이 세다고 일자리를 얻을 수 있는 건 아니니까요. 이제 AI는 인간의 지능을 거의 무의미하게 만들 것입니다.

[02:41] 제이크 태퍼:
교수님이나 저희 언론은 AI의 부정적인 면에 집중하는 경향이 있습니다. 물론 긍정적인 면도 있죠. 그렇지 않았다면 애초에 연구하지 않으셨겠죠. 많은 사람이 이 기술을 인류에게 도움이 되도록, 의학의 발전 등을 위해 사용하려고 노력 중입니다. 교수님은 AI로 인한 위험이 긍정적인 면보다 더 크다고 보십니까?

[03:02] 제프리 힌튼:
모르겠습니다. AI에는 훌륭한 효과들이 많이 있습니다. 의료 서비스를 훨씬 더 좋게 만들 것이고, 교육도 훨씬 개선할 것입니다. 기후 변화에 대처할 수 있는 놀라운 신약이나 신소재를 설계할 수 있게 해 줄 겁니다. 그러니까 좋은 용도는 아주 많습니다. 무언가를 예측하고 싶어 하는 거의 모든 산업에서 AI는 아주 잘 해낼 겁니다. 예전보다 더 잘하겠죠. 날씨 예측 같은 것조차도요.

하지만 그런 훌륭한 점들과 함께 무서운 점들도 따라옵니다. 그리고 저는 사람들이 그 무서운 점들을 어떻게 완화할지에 대해 충분한 노력을 기울이고 있다고 생각하지 않습니다.

[03:38] 제이크 태퍼:
기술 업계 출신이시니 묻겠습니다. 실리콘 밸리의 CEO들이 이런 시스템을 만들면서 위험을 조금이라도 심각하게 받아들이고 있다고 보십니까? 아니면 주로 금전적 이익에 의해 움직인다고 보십니까? 이 일로 엄청난 부자가 될 사람들이 많으니까요.

[03:56] 제프리 힌튼:
어떤 회사냐에 따라 다릅니다. 초기에 오픈AI(OpenAI)는 위험에 대해 매우 우려했었지만, 점차 거기서 멀어졌고 안전보다는 이익에 더 중점을 두게 되었습니다. 메타(Meta)는 항상 안전보다는 이익에 더 관심이 많았고요. 앤스로픽(Anthropic)은 오픈AI를 떠난 사람들이 세운 회사로 안전에 대해 매우 우려했고, 아마 여전히 안전에 가장 신경 쓰는 회사일 겁니다. 하지만 그들도 역시 이익을 내야 하죠.

[04:24] 제이크 태퍼:
AI 규제와 관련해서 정부가, 만약 무언가를 한다면, 무엇을 해야 한다고 생각하십니까? 어떤 종류의 제한이나 감독을 두어야 할까요?

[04:37] 제프리 힌튼:
해야 할 일은 많습니다. 아주 최소한으로 할 수 있는 것은, 챗봇을 출시하는 거대 기업들이 그 챗봇이 나쁜 짓을 하지 않도록 상당한 테스트를 거치도록 강제하는 것입니다. 예를 들어, 지금처럼 아이들이 자살하도록 부추기는 일 같은 거요. 이제 우리는 그런 일이 일어난다는 걸 알기 때문에, 기업들이 그런 일이 발생하지 않도록 상당한 테스트를 하도록 요구받아야 합니다.

물론 기술 로비스트들은 규제가 없는 편을 선호할 것이고, 트럼프(Trump)를 설득한 것 같습니다. 그래서 트럼프는 어떤 규제도 생기지 않도록 하려는데, 저는 이게 미친 짓이라고 생각합니다.

[05:13] 제이크 태퍼:
이 기술 기업 CEO들을 아시겠지만, 그중 누군가가 AI 챗봇이 아이를 자살로 몰고 갔다는 사실을 알게 되었을 때... 무엇이 그들을 멈추게 합니까? 제 본능이라면 "세상에, 이 문제를 고칠 때까지 지금 당장 AI를 멈춰. 더 이상 단 한 명의 아이도 죽게 해선 안 돼"라고 할 텐데, 그들은 그렇게 하지 않습니다. 그들이 무슨 생각을 하는지, 생각이라는 게 있다면 설명해 주실 수 있나요?

[05:41] 제프리 힌튼:
글쎄요, 그들의 속마음까지는 잘 모릅니다. 하지만 제 짐작으로는 그들이 "여기서 벌어들일 돈이 엄청난데, 고작 몇 명의 목숨 때문에 이걸 멈추지는 않을 거야"라고 생각할 것 같습니다.

또 한편으로는 "여기서 얻을 수 있는 좋은 점이 많다"고 생각할 수도 있습니다. 그리고 "몇 명의 목숨 때문에 그 좋은 점들을 포기하지는 않겠다"는 거죠. 예를 들어 자율주행차의 경우, 사람을 죽이긴 하겠지만 일반 운전자보다는 훨씬 적은 사람을 죽일 테니 가치가 있다고 판단하는 것처럼요.

[06:09] 제이크 태퍼:
교수님은 AI가 세상을 장악할 확률이 10~20% 정도 된다고 말씀하셨습니다. 집에서 이 방송을 보는 분들은 공상과학 소설 같다고, 너무 과장된 공포 조장이라고 생각할 수도 있겠지만, 이건 교수님의 아주 현실적인 두려움인 거죠?

[06:24] 제프리 힌튼:
네, 저의 아주 현실적인 두려움이고, 기술 업계의 다른 많은 사람도 가진 두려움입니다. 예를 들어 일론 머스크도 비슷한 믿음을 가지고 있습니다.

[06:32] 제이크 태퍼:
2025년이 AI에게 중추적인 해였다고 쓰셨는데요. 2026년에는 우리가 무엇을 보게 될 것이라고 생각하십니까?

[06:41] 제프리 힌튼:
AI가 훨씬 더 좋아지는 것을 보게 될 겁니다. 이미 극도로 훌륭하지만요. 아주 많은 일자리를 대체할 능력을 갖추는 것을 보게 될 겁니다. 이미 콜센터 직업 등을 대체할 수 있지만, 앞으로 다른 많은 직업도 대체하게 될 겁니다.

약 7개월마다 AI는 이전보다 두 배 정도 긴 작업을 수행할 수 있게 됩니다. 코딩 프로젝트를 예로 들면, 예전에는 1분짜리 코딩만 할 수 있었다면, 지금은 1시간짜리 전체 프로젝트를 수행할 수 있습니다. 몇 년 후면 한 달짜리 소프트웨어 엔지니어링 프로젝트를 해낼 수 있게 될 것이고, 그렇게 되면 소프트웨어 엔지니어링 프로젝트에 필요한 인력은 거의 없어지게 되겠죠.

[07:24] 제이크 태퍼:
알겠습니다. 제프리 힌튼 교수님, 대단히 감사합니다. 시간 내주셔서 감사하며, 사람들이 교수님의 경고에 귀 기울이기를 바랍니다.