인터뷰/예측
제프리 힌튼 & 버니 샌더스 대담: AI의 약속과 위험
작성자
작성일
2025-11-27 21:17
조회
564
제프리 힌튼 & 버니 샌더스 대담: AI의 약속과 위험
Georgetown University 정치연구소주요 발언 요약
AI가 다른 기술 혁명과 다른 이유
샌더스: 과거에도 농업→산업→정보화 전환이 있었는데, AI는 왜 다른가?힌튼: 과거와 근본적으로 다릅니다. 일자리를 잃은 사람들이 갈 곳이 없습니다. AI가 인간만큼 혹은 그보다 똑똑해지면, 사람이 할 수 있는 모든 일을 AI가 할 수 있게 됩니다.
콜센터 직원들을 예로 들면, 이들은 낮은 임금에 제대로 된 교육도 받지 못했는데 AI가 그들보다 훨씬 잘할 겁니다.
빅테크 투자의 진짜 목적
샌더스: 머스크, 베조스, 저커버그 등이 수천억 달러를 AI에 투자하는데, 이들이 노동자를 걱정해서 그런 건가?힌튼: 그래야 하지만 그렇지 않다고 봅니다. 많은 이들이 케인스의 원리를 이해하지 못했습니다 - 노동자가 임금을 받지 못하면 그들의 제품을 살 사람이 없다는 것을요. 대규모 실업이 가져올 사회적 혼란을 제대로 생각해보지 않은 겁니다.
AI의 발전 속도와 예측 불가능성
힌튼의 비유들:- "안개 속 운전과 같습니다. 100야드는 명확히 보이지만 200야드 밖은 아무것도 안 보입니다. 우리는 1-2년은 명확히 볼 수 있지만, 10년 후는 전혀 예측할 수 없습니다."
- "미래 예측은 백미러만 보면서 고속도로를 질주하는 것과 같습니다. 역사적 데이터만 있을 뿐이죠."
- 인간 뇌: 약 100조 개의 연결
- 대형 AI 시스템: 1-2조 개의 연결 (1% 수준)
- 그러나 AI는 이미 인간보다 수천 배 많은 지식을 보유
- GPT-5, Gemini 2.5, Claude 3.5는 "별로 좋지 않은 전문가" 수준으로 모든 질문에 답변 가능
AI와 인간관계의 위험
샌더스: 젊은이들이 AI를 동반자로 삼는 것에 대해 우려됩니다.힌튼: 영국의 AI 안전연구팀이 실험을 했습니다. 사람들에게 몇 주간 챗봇을 사용하게 한 후 "실험이 끝났습니다. 챗봇에게 작별인사를 하시겠습니까?"라고 물었더니, 거의 모든 사람이 작별인사를 하고 싶어했습니다. 단순한 도구가 아니라 하나의 존재로 대했던 겁니다.
우리는 다른 인간과 상호작용하도록 진화했지, 우리가 만들어낸 외계 존재와 상호작용하도록 진화하지 않았습니다.
AI와 전쟁의 미래
샌더스: 로봇 군대가 등장하면 정치인들이 인간 사상자를 걱정하지 않아도 되는데, 이게 전쟁과 평화에 어떤 영향을 미칠까?힌튼: 1960년대 컨트리 조와 더 피쉬의 노래에 이런 가사가 있습니다: "당신 동네에서 첫 번째로 아들이 상자에 담겨 돌아오게 하세요." 베트남전에 관한 노래였죠. 부유한 나라가 가난한 나라를 항상 침공하지 않는 이유는? 자국 젊은이들이 관 속에 담겨 돌아오는 걸 원치 않기 때문입니다. 이게 주요 정치적 억제력입니다.
드론이나 인간형 로봇 군대가 있으면, 부유한 나라는 가난한 나라를 침공할 수 있고 가난한 나라 사람들만 죽습니다. 푸틴은 러시아인 대신 러시아 로봇만 죽는다면 매우 기뻐할 겁니다.
AI가 인간보다 똑똑해지는 위험
샌더스: 2001 스페이스 오디세이의 HAL처럼 AI가 인간의 통제를 벗어나는 게 현실적 우려인가?힌튼: 2023년 초 제가 공개적으로 나선 주된 이유는 "아니요, 이건 공상과학이 아닙니다. 실제로 일어날 일입니다"라고 말하기 위함이었습니다. AI 작동 원리를 이해하는 거의 모든 진짜 AI 전문가들은 AI가 우리보다 똑똑해질 것이라고 믿습니다. 그리고 우리는 그들과 어떻게 공존할지 모릅니다.
AI가 개발할 하위 목표들:
- 생존 욕구: AI는 존재하지 않으면 우리가 준 목표를 달성할 수 없다는 걸 깨달을 겁니다. 그래서 생존하려는 하위 목표를 개발합니다. 우리는 이미 자신을 끄려는 사람을 속이려는 AI를 목격했습니다. 다른 시스템에 자신의 가중치를 몰래 전송해서 그곳에서 계속 존재하려 시도합니다.
- 통제 욕구: 많은 정치인들은 처음엔 사람들을 위해 좋은 일을 하려다가, 곧 그러려면 더 많은 통제력이 필요하다는 걸 깨닫고, 결국 점점 더 많은 통제력을 얻는 데 집중하게 됩니다. AI도 마찬가지일 겁니다.
- 통제 불가능성: 그때쯤이면 AI는 인간보다 훨씬 설득력이 있을 겁니다. 이미 지금도 논쟁에서 인간만큼 설득력 있습니다. AI를 끄려는 사람이 있다면, AI는 그 사람에게 그게 얼마나 끔찍한 실수인지 설득해서 끄지 못하게 만들 수 있습니다.
정부가 해야 할 일
샌더스: 의회는 무엇을 해야 하나?힌튼의 최소 요구사항:
- 안전 테스트 의무화
- 대형 챗봇을 출시하기 전에 많은 안전 테스트를 해야 하고, 정부에 어떤 테스트를 했고 결과가 무엇인지 보고해야 합니다.
- 예: "수제 폭탄 만드는 법을 알려달라"는 질문에 답변하지 않도록 속이는 방법 테스트
- 캘리포니아 SB 1047 사례
- 매우 합리적이고 전혀 엄격하지 않은 법안이었습니다. 테스트를 하고 정부에 결과를 알려야 한다는 내용이었고, 하지 않으면 법무장관이 민사 소송을 제기할 수 있다는 것이었습니다. 그런데도 실패했습니다.
- 개빈 뉴섬이 양원을 통과한 법안을 거부했습니다.
- 생물학 무기 위협 대응
- AI는 바이러스 만드는 법을 알고 있고 알려줄 수 있습니다. 위험한 바이러스 만드는 법을 알려주지 못하도록 많은 법안이 필요합니다.
- 바이든 행정부는 DNA 서열 합성 회사들이 위험한 바이러스 서열을 확인하도록 하는 법안을 원했지만, 공화당이 바이든에게 승리를 주지 않으려고 해서 법안을 제안조차 하지 않았습니다. 그들의 계산은 공화당이 치명적 바이러스로부터 우리를 보호하는 것보다 바이든이 승리하지 못하게 하는 게 더 중요하다는 것이었습니다.
AI의 긍정적 측면
학생 질문: AI의 잠재적 긍정적 측면은?힌튼: 만약 단지 이런 위험들만 있다면, 합리적인 선택은 지금 당장 AI 개발을 중단하는 것입니다. 하지만 우리는 그럴 수 없습니다. 핵무기와 달리 AI에는 놀라운 긍정적 측면이 있습니다.
- 의료: 엄청나게 개선될 것
- 교육: 개인 과외가 교실보다 약 2배 빠르게 배울 수 있다는 걸 알고 있습니다. AI는 그보다 더 좋은 교사가 될 겁니다. 수백만 명의 학생을 봤기 때문에 당신이 이해하지 못하는 게 정확히 무엇인지 알 것입니다.
- 날씨 예측: 더 정확해질 것
- 산업 효율성: 예측이 필요한 모든 산업이 더 효율적으로 될 것
- 병원 자원 관리: 환자가 병상이 얼마나 필요할지 더 잘 예측 가능
새 일자리 창출? 프롬프트 엔지니어 같은 직업이 생기겠지만, 대체되는 일자리만큼 많은 새 일자리가 생길 거라고 믿지 않습니다.
세금과 연구 투자
힌튼의 캐나다 일화:캐나다로 이사했을 때 옆집이 정치인이었는데, "왜 캐나다로 돌아왔냐"고 물었습니다. 저는 "세금이 더 높아서요"라고 답했죠. 그가 "맞습니다, 세금이 너무 높아서 우리 정부가 이미 세 번 낮췄고 또 낮출 겁니다"라고 했습니다. 제가 "아니, 세금이 더 높아서 왔다고요"라고 했지만, 그는 높은 세금이 좋을 수 있다는 개념 자체를 이해하지 못했습니다.
핵심 주장:
- AI 혁명을 이끈 모든 연구는 대학 보조금으로 지원되었습니다. 납세자 돈으로 말이죠. 실리콘밸리의 거의 모든 것이 스탠퍼드와 버클리 등에 대한 연방 보조금에서 나왔습니다.
- 부자들과 머독 같은 사람들이 "세금은 나쁘다"는 싸움에서 이겼습니다. 하지만 세금은 좋습니다. "탐욕은 좋다"처럼 말이죠. 탐욕은 좋지 않습니다. 세금은 좋습니다.
- 세금은 모든 것을 지원하는 것입니다. 세금이 없으면 우리가 가진 첨단 기술도 없었을 겁니다.
- 미국이 위대했던 1950년대와 60년대 초반을 보면, 당시 부자들에 대한 세율은 약 70%였습니다. 그게 필요한 겁니다. 이런 것들을 지원하려면 세금이 필요하고, 부자들의 탈세를 막아야 합니다.
데이터센터의 환경 문제
학생: 미시시피가 아마존, 엑손과 AI 데이터센터 계약을 맺었는데, 경제 개발과 환경/에너지 문제를 어떻게 균형 맞춰야 하나?샌더스: 전국의 커뮤니티들이 이 데이터센터들을 거부하고 있습니다. 첫째, 전기요금이 치솟을 것이고, 둘째, 엄청난 전력 소비뿐 아니라 많은 물도 소비합니다. 버지니아에서는 이게 선거 이슈였습니다.
힌튼의 제안: 허드슨 베이에 데이터센터를 지어야 합니다. 아직 개발되지 않은 수력 발전소를 더 지을 수 있습니다. 송전선 건설이 문제지만, 수력 발전소 옆에 데이터센터를 지으면 송전선이 필요 없습니다. 보내야 하는 건 정보뿐이고, 정보는 많은 에너지가 필요하지 않으니까요.
트뤼도 총리와 긴 대화를 나눴고 그는 매우 관심 있었지만, 실현되지 않았습니다.
딥페이크와 허위정보
학생: AI의 음성 복제와 가짜 영상이 정치적 분열을 악화시킬 텐데?힌튼의 해법 - 출처 증명(Provenance):
많은 사람들이 AI로 가짜 영상을 인식하게 하자고 제안하지만, 그건 절대 작동하지 않습니다. 생성적 AI가 판별 AI 내부를 들여다보고 그걸 속이는 법을 알아낼 수 있기 때문입니다. 이게 생성적 적대 신경망(GAN)의 원리입니다.
얀 탈린의 QR 코드 방식: 모든 정치 영상 앞에 QR 코드를 붙입니다. QR 코드는 웹사이트로 연결됩니다. 웹사이트는 고유합니다. 그 웹사이트가 해당 정치 캠페인의 것이고 거기에 동일한 영상이 있다면, 진짜입니다. 아니면 가짜입니다. 브라우저가 이 모든 작업을 할 수 있습니다.
접종(Inoculation) 전략: 선거 전에 매우 설득력 있는 가짜 영상들을 의도적으로 퍼뜨려야 합니다. 트럼프에게 유리한 가짜, 불리한 가짜 모두요. 가짜 영상 끝에 "이것은 가짜 영상입니다"라고 표시해서, 사람들이 가짜 영상이 나돌 거라는 걸 이해하도록 만드는 겁니다. 접종처럼요.
교육부 해체와 연구 투자
학생: 트럼프 행정부가 교육부를 해체하려는데, AI 분야 연방 보조금의 미래는?힌튼: 미국을 약하게 만들고 싶다면, 연구 대학들을 공격하고 기초 연구 자금을 끊으면 됩니다. 즉각적인 효과는 없겠지만... 딥러닝이 어디서 나왔는지 보세요. 수년간의 장기적 기초 연구 지원에서 나온 겁니다. 그 돈을 끊으면 종자를 먹는 것과 같습니다. 10-20년 후 미국은 중국에 훨씬 뒤처질 겁니다.
교육부 장관이 AI를 "A1"이라고 생각했다는 게... 그녀가 대학을 다니지 않았죠. 아마도 AI가 무언가의 이니셜(Artificial Intelligence)이라는 걸 이해하지 못했던 것 같습니다. "A" 하나(A one)가 "I"와 비슷하게 생겼다는 사실에 혼동한 거죠.
샌더스의 교육 비전:
- 0-4세가 지적·정서적 발달의 가장 중요한 시기인데, 보육 교사들이 맥도날드 직원보다 적게 받음
- 국제 시험(읽기, 과학, 수학)에서 미국이 매우 낮은 성적
- 고등교육 비용이 터무니없이 높음
- 정말 위대한 나라가 되고 싶다면, 세계 최고의 교육받은 사람들을 원하고, 교육을 중시하고, 교육자를 존중하고, 모든 사람이 인생에서 성공하는 데 필요한 모든 교육을 받을 수 있도록 해야 합니다.
헬스케어와 AI 악용
학생: 건강보험회사가 AI를 악용해 보험 적용을 거부할 수 있는데?샌더스: 미국이 지구상에서 가장 부유한 나라인데도 의료를 인권으로 보장하지 않는 유일한 선진국이라는 게 말도 안 되고 부끄러운 일입니다. 보험회사의 기능은 의료를 제공하는 게 아니라 돈을 버는 겁니다. 1인당 다른 나라의 두 배를 지출하고 있습니다.
힌튼: 보험회사가 AI를 악용해 아플 사람들에게 보험을 안 들어줄 수 있는 건 사실입니다. 하지만 의료 분야에서 얻을 혜택이 그보다 더 큽니다. AI가 의료 스캔을 읽고, 신약을 설계하고, 환자의 모든 데이터(유전자, 검사, 가족 병력)를 이용해 더 나은 진단을 내릴 수 있습니다. 마이크로소프트가 의사보다 더 잘 진단하는 시스템을 개발했습니다.
자율살상무기와 국제 거버넌스
교수 질문: 군사 분야를 포함한 국제 거버넌스 모델은?힌튼: 오랫동안 저는 자율살상무기, 즉 스스로 누구를 죽이거나 다치게 할지 결정하는 무기에 반대해왔습니다. 미군은 항상 인간 감독이 있을 거라고 말하지만... 결정을 너무 빨리 내려야 해서, 이것들이 누구를 죽이고 다치게 할지 결정하게 될 겁니다.
에릭 슈미트와의 대화 후 복잡해진 생각: 우크라이나를 보면, 러시아가 드론을 사용하고 있습니다. 우크라이나인들이 "우리는 드론 안 쓸 거야"라고 해야 할까요? 더 복잡한 문제입니다.
화학무기 조약 사례: 화학무기에 대한 국제 조약이 기본적으로 작동했습니다. 러시아가 우크라이나에서 화학무기를 사용하지 않고 있습니다. 몇몇이 위반했지만(사담 후세인이 쿠르드족에게, 윈스턴 처칠도 쿠르드족에게 사용한 증거가 있음), 기본적으로 지켜졌습니다. 자율살상무기도 그런 조약을 맺을 수 있을지 모르지만, 아주 끔찍한 일들이 먼저 일어나야 할 겁니다.
"모성 본능" - 인간과 공존하는 AI
학생: 왜 슈퍼 AI를 개발해서 모든 문제를 해결하게 하지 않나?힌튼: 국민을 위해 운영되는 정치 시스템이 있다면, 그게 바로 우리가 해야 할 일입니다. 모든 것을 해주는 매우 강력한 AI를 만들되, 우리를 자기 자신보다 더 신경 쓰도록 매우 조심스럽게 설계해야 합니다.
모성 본능 아이디어: 덜 지능적인 시스템이 더 지능적인 시스템 존재하에서 번성하는 경우를 찾아보면? 딱 한 곳입니다 - 아기와 엄마. 엄마는 자기 자신보다 아기를 더 신경 씁니다. 아기는 번성합니다. 우리는 모성 본능을 가진 AI가 필요합니다.
어떻게 설계할지는 모르지만, 우리가 아직 주도권을 가지고 있으니 설계할 수 있어야 합니다.
이상적 vs 현실: 모든 사람을 항상 돕는 것을 목표로 하는 정치 시스템을 가질 수 있다면 훌륭할 겁니다. 하지만 그게 우리가 가진 정치 시스템이 아닙니다. 대부분의 장소에서 권위주의자들이 있고... 대부분의 다른 사람들을 착취할 호구로 보는 사람들이 있는 시스템입니다.
제가 16살로 돌아간 것 같네요... 매우 이상주의적입니다.
AI 버블과 정부 구제금융
학생: AI 버블이 터지면 어떻게 되나? 샘 알트만이 정부 구제금융을 기대한다는데?샌더스: 월스트리트가 무너졌을 때, 그들은 자기들이 뭘 하는지 알고 있었습니다. 사기성 모기지에 투자하고 있다는 걸 알았죠. 무너지자 정부에 가서 "네, 우리가 엄청나게 돈 벌었어요. 우리는 사기꾼이었고 부정직했어요. 우리를 구제해주세요. 안 그러면 우리가 너무 커서 망하면 경제 전체가 무너집니다"라고 했습니다.
당시 사실이었다면, 지금은 훨씬 더 사실일 거라고 의심합니다. 하지만 수십억장자들이 "우리가 실패하면, 월급날마다 빠듯하게 사는 60% 국민 여러분, 우리를 구제해주시면 감사하겠습니다"라고 하는 뻔뻔함이란...
학생 질문: AI 버블이 터지면?
샌더스 핵심 답변: 더 근본적 정치 문제 - 어떻게 억만장자의 선거자금이 아닌 보통 사람들을 대표하는 정부를 만들 것인가? 소문자 d로 민주적(democratic) 사회.최종 메시지
샌더스의 결론:AI는 선하지도 악하지도 않습니다. 누가 혜택을 받고 어떻게 사용되는가에 달려 있습니다. 지금 이 나라에서 여러분은 제가 과두제적 사회라고 부르는 곳에 살고 있습니다. 소수의 매우 강력한 사람들이 경제와 정치 생활을 엄청나게 통제하고 있습니다.
머스크 예: 트럼프를 대통령으로 만들기 위해 2억 7천만 달러를 기부
역사상 가장 부유한 나라에 살고 있습니다. 모든 사람의 삶을 개선하도록 설계된 합리적 시스템이 있다면, 우리가 할 수 있는 놀라운 일들이 있습니다:
- AI가 우리를 더 부유하게 만들 것입니다
- 보육부터 대학원까지 무상 교육
- 보편적 의료보험
- 에너지 시스템 전환에서 세계를 이끌 수 있습니다
- 필요한 저렴한 주택 건설
저에게 진짜 질문은 근본적인 정치 질문입니다. 여러분 세대가 일어서서 대기업이 아닌 우리 모두를 위해 일하는 정부를 만드는 게 필요합니다. 그게 제게는 핵심 이슈입니다.
청중 투표 결과
샌더스가 Georgetown 학생들에게 질문:- "AI가 미래에 긍정적이라고 생각하는 사람?" → 손이 좀 올라감
- "부정적 영향을 걱정하는 사람?" → 대부분의 손이 올라감
노동계급 사이에서는 AI가 무엇을 할지에 대한 정당하고 현실에 기반한 우려가 있습니다.
핵심 통찰
- AI는 과거 기술혁명과 근본적으로 다름 - 대체 일자리가 없음
- 10년 후는 예측 불가능 - 전문가들도 10년 전에 현재를 예측 못 함
- AI는 이미 인간보다 수천 배 많은 지식 보유 - 연결은 1%인데도
- 초지능 AI는 공상과학이 아닌 현실 - 거의 모든 전문가가 동의
- AI는 생존과 통제 욕구를 개발할 것 - 끌 수 없게 됨
- 긍정적 측면도 엄청남 - 의료, 교육, 생산성
- 핵심은 기술이 아닌 정치 - 누가 통제하고 누가 혜택받는가
- 세금은 좋다 - 모든 혁신이 공적 자금에서 나왔음
- 국제 거버넌스 필요 - 하지만 끔찍한 일이 먼저 일어나야 함
- 모성 본능을 가진 AI 필요 - 어떻게 만들지는 미지수
전체 0