AI의 미래: 데미스 하사비스 & 웬디 홀 특별 대담

진행자 (WCIT 의장):

오늘 바니 기번스(Barney Gibbons)를 기리는 WCIT 강연에 오신 것을 환영합니다. 올해는 디지털 시대를 형성하는 데 기여한 두 분의 특별한 인물을 모셨습니다. 구글 딥마인드의 공동 창립자이자 테마파크(Theme Park) 게임의 개발자, 알파고와 알파폴드의 주역인 데미스 하사비스 경(Sir Demis Hassabis)과 웹 과학의 선구자이자 사우샘프턴 대학 컴퓨터 공학 레지우스 교수인 웬디 홀 데임(Dame Wendy Hall)입니다. 저의 올해 화두인 '커뮤니티'를 주제로, AI가 우리의 교육, 산업, 사회에 미칠 영향을 논의해 보겠습니다.

1. 영국의 AI 교육과 '교실의 역전(Inverting the Classroom)'

진행자: 웬디 교수님, 교수님의 2017년 리뷰 이후 10년이 지났습니다. 영국의 학교, 대학, 중간 경력자를 위한 AI 기술 및 리터러시 교육은 현재 어떤 상황인가요?

웬디 홀: 안타깝게도 답변이 긍정적이지 않습니다. 2017년 당시 영국은 캐나다에 이어 세계에서 두 번째로, 하지만 가장 잘 알려진 '국가 AI 전략'을 수립했습니다. 코로나 기간 동안 수많은 회의를 거치며 전략을 다듬었죠. 하지만 지금은 AI 기술 챔피언도, AI 위원회(AI Council)도 존재하지 않습니다. 부처에 400명의 인력이 있지만 이를 감독할 독립적인 기구가 없습니다.

반면 싱가포르 같은 국가는 영국의 플레이북을 그대로 가져가 훨씬 더 잘 실행했습니다. 현재 그들은 작은 섬나라임에도 불구하고 미국과 중국에 이어 우리를 추월하고 있습니다. 특히 영국 내 초중고 학교를 위한 AI 지침은 턱없이 부족하며, 매우 단편적으로만 제공되고 있습니다.

진행자: 데미스, 이에 대한 생각은 어떠신가요?

데미스 하사비스: AI 업계에서의 10년은 다른 산업의 한 세기, 어쩌면 천 년과 같습니다. 저는 훨씬 더 '급진적인' 접근이 필요하다고 봅니다. 학생들은 이미 집에서 LLM(대형 언어 모델)을 사용해 숙제를 하거나 지름길을 찾고 있습니다. 정부나 교육계가 "이 기술이 사라졌으면" 하고 바라는 것은 의미가 없습니다. 저는 교실을 뒤집어야 한다(Invert the classroom)고 제안합니다.

웬디 홀: 데미스의 제안에 깊이 공감합니다. 사실 제가 1984년에 BBC 마이크로 컴퓨터를 이용해 프롤로그(Prolog) 언어로 처음 작성한 코드가 바로 '지능형 튜터링 시스템'이었습니다. 하지만 암기 학습을 '집'에서만 해야 한다고 제한하면 형평성 문제가 발생합니다. 모든 아이들이 집에서 이러한 시스템에 접근할 수 있는 것은 아니기 때문입니다. 이를 해결하려면 정부의 거대한 헌신이 필요합니다.

덧붙여, 대학 교육도 바뀌고 있습니다. 사우샘프턴 대학교는 올 10월부터 모든 비이공계 신입생과 교직원에게 자동차 운전면허 같은 'AI 운전면허(AI driving license)' 과정을 제공하며, 내년까지 역사, 심리학, 지리 등 모든 학위 과정에 맞춤형 AI 모듈을 도입할 계획입니다.

데미스 하사비스:

기술적인 측면뿐만 아니라 철학이나 경제학 같은 인문학의 역할이 그 어느 때보다 중요해지는 시점입니다. AGI(범용 인공지능) 이후의 시대에는 완전히 새로운 유형의 사고가 필요할 것입니다.

2. AGI의 도달 시점과 '글로벌 거버넌스'의 시급성

진행자: 데미스, 방금 AGI와 '포스트 AGI' 시대를 언급하셨습니다. 청중을 위해 AGI의 정의와 2030년이라는 타임라인에 대해 부연 설명해 주시죠.

데미스 하사비스: 제가 정의하는 AGI는 '인간이 가진 모든 인지 능력을 테스트하고 입증할 수 있는 시스템'입니다. 인간의 뇌는 범용 지능을 보여주는 우주 유일의 증명된 사례(Existence proof)이자 근사 튜링 기계(Turing machine)입니다. 현재의 AI 시스템은 놀랍지만 일관성이 부족하고 누락된 기능들이 있습니다. 하지만 트랜스포머 모델이나 알파고에 적용했던 강화학습 같은 한두 번의 큰 돌파구가 더해진다면, 현재 투입되는 자원을 고려할 때 앞으로 4~5년 후인 2030년경에 AGI에 도달할 확률이 50% 정도 된다고 봅니다.

웬디 홀: 저는 데미스의 타임라인(2030년)에는 동의하지 않습니다. 하지만 다보스 포럼에서 데미스와 다리오 아모데이(앤스로픽 CEO)가 벌인 이른바 '4개의 D(Demis and Dario at Davos Debate)' 토론은 아주 흥미로웠습니다. IPO(기업공개)를 앞두고 자금을 끌어모으려는 다리오는 "올해 말에 AGI에 도달할 것"이라 말했고, 데미스는 오히려 이를 진정시키려 했죠.

만약 데미스 말대로 2030년에 AGI가 온다면, 우리에게는 AI의 글로벌 거버넌스를 구축할 시간이 4년밖에 남지 않았다는 뜻입니다. 소프트웨어가 스스로 결정하기 시작하는 순간(스티븐 호킹이 2014년에 경고했던 인류 종말의 위협)이 올 수 있습니다. UN의 힘이 약해진 지금, 기술 기업과 정부, 시민 사회가 모두 서명할 수 있는 독립적인 '국제 AI 기관(International AI Agency)'을 조속히 설립해야 합니다. 최근 은행들이 앤스로픽의 클로드(Mythos) 모델에 두려움을 느끼자 트럼프(측)가 AI 규제 철회 행정명령을 번복하는 일도 있었습니다.

데미스 하사비스: 전적으로 동의합니다. 제가 시기를 앞당겨 경고하는 이유는 '긴급성(Urgency)' 때문입니다. 30년 만에 가장 복잡한 지정학적 상황 속에서 인류는 이 막대한 기술을 다룰 제도적 준비가 되어 있지 않습니다. 특히 저는 생물학적 위험(Biorisk) 등 범용 기술이 악의적 행위자에 의해 오용되는 것을 크게 우려합니다.

웬디 홀: 여기에는 반드시 중국도 포함되어야 합니다. 서방의 빅테크(미국 서부 연안 기업들)뿐만 아니라, 중국 역시 재앙을 원하지 않으며 오히려 오픈 소스 모델을 생산하고 새로운 기관 운영에 적극적으로 참여하려 할 것입니다.

3. 영국의 경쟁력: 규제를 넘어 기술의 주도권으로

진행자: 글로벌 AI 투자가 미국과 중국에 집중되고 있습니다. 영국의 기업들은 그저 기술 소비국으로 뒤처지게 될까요?

데미스 하사비스: 제가 2017년에 에마뉘엘 마크롱 프랑스 대통령에게도 직접 말했듯이, "규제 부문에서만 세계 챔피언이 될 수는 없습니다." 글로벌 테이블에서 목소리를 내려면 선도적인 기술과 기업을 보유해야 합니다. 영국은 케임브리지, 옥스퍼드, 런던(UCL)으로 이어지는 '골든 트라이앵글'이라는 수세기에 걸쳐 축적된 훌륭한 학술 생태계를 가지고 있습니다.

우리의 가장 큰 시급한 문제는 '에너지 비용'입니다. 서방 세계에서 가장 비싼 영국의 에너지 비용은 지능의 단위(Tokens) 비용으로 직결됩니다. 데이터 센터와 인프라를 구축하려면 이 문제를 반드시 해결해야 합니다. 잘만 활용한다면 AI가 핵융합, 신소재, 태양광 효율성 등을 계산해 기후 변화 문제를 해결하는 르네상스를 이끌 수 있습니다.

웬디 홀: 우리는 미래에 각자의 도시와 마을에 데이터 센터를 유치하려 할 것입니다. 데이터 센터 자체가 발전소 역할을 하게 될 테니까요. 영국이 잘하고 있는 점도 명확히 해야 합니다. 영국 정부(리시 수낙)가 설립한 'AI 안전 연구소(AI Safety Institute)'는 평가 및 측정 기준을 세우는 데 있어 단연 세계 최고입니다. 이는 트럼프의 압박으로 미국이 머뭇거리는 사이, 영국이 주도권을 쥘 수 있는 강력한 'AI 보증(AI Assurance)' 산업의 자산입니다.

4. 딥마인드의 탄생과 알파폴드의 과학적 성과

진행자: 데미스, 딥마인드를 영국에 설립한 이유와 첫 번째 과제로 '단백질 접힘(Protein folding)'을 선택한 이유는 무엇인가요?

데미스 하사비스: 우선 제가 나고 자란 런던과 영국에 보답하고 싶었습니다. 상업적인 이유도 컸습니다. 2010년 당시 케임브리지의 세계적인 물리학 박사들이 학계를 떠나면 선택할 수 있는 직업이 '헤지펀드'뿐이었습니다. 저는 그들에게 과학과 딥테크를 연구할 대안을 주고 싶었습니다. 실리콘밸리에 AI 인재들이 몰리기 전이라, 저는 5만 파운드(약 8천만 원)라는 턱없는 예산으로도 유럽 전역의 최고급 인재들을 고용할 수 있었습니다.

'단백질 접힘'은 제 대학 시절부터 생물학자 친구들이 집착하던 문제였습니다. 1차원 유전자 서열이 3차원 나노 기계로 접히는 이 문제는 생물학계의 '페르마의 마지막 정리(Fermat's Last Theorem)'이자 모든 신약 발견의 뿌리가 되는 근본 문제(Root node problem)였습니다. 저는 15년 동안 이 아이디어를 마음속에 간직하다가, 알파고가 37수(Move 37)라는 창의적인 발견을 해낸 직후 한국에서 돌아온 바로 다음 날 '알파폴드' 프로젝트를 시작했습니다.

5. 현장 Q&A 주요 내용

질문 1: 금융권 적용 및 협력 (Chris Haywood)

• 질문: 영국 금융 서비스 분야에서 AI를 안전하고 대규모로 도입하기 위해 가장 시급한 정책 결정은 무엇입니까?

• 데미스 하사비스: 첫째는 앞서 말한 에너지 인프라 확충입니다. 둘째는 런던 증권거래소의 개편입니다. 뛰어난 유니콘 기업들이 탄생하지만, 이들이 1조 달러 규모의 글로벌 기업으로 성장하여 영국에 상장할 수 있는 금융 생태계가 절실히 필요합니다.

질문 2: 공상과학과 딥페이크 규제 (Gary Moore)

• 질문: 소설 <듄(Dune)>처럼 기계에 의한 인류 억압을 피하려면, 규제를 무시하는 악의적 행위자(오픈소스 악용 등)를 어떻게 관리해야 할까요?

• 웬디 홀: 딥페이크 사례처럼 범죄 행위에 대해 강력한 법적 '이빨(Teeth)'을 가진 처벌 규정이 필요합니다.

• 데미스 하사비스: 모든 생성형 AI 미디어에 '보이지 않는 워터마크(Invisible watermarking)'를 표준화해야 합니다. <듄>의 세계관처럼 되기 전에 첫 단추를 잘 끼워야 합니다. 저는 이안 뱅크스(Ian Banks)의 <컬처(Culture)> 시리즈처럼 인류와 AI가 상호보완하며 번영하는 긍정적인 '포스트 희소성(Post-scarcity)' 사회의 SF 비전이 더 많이 나와야 한다고 생각합니다.

질문 3: 자선 단체와 취약계층의 보호 (Paul Excel)

• 질문: AI가 취약계층에 해를 끼치지 않고 긍정적 영향을 주려면 어떤 책임감 있는 행동이 필요할까요?

• 웬디 홀: 제가 가장 두려워하는 것은 '다양성(Diversity)의 부재'입니다. 현재 실리콘밸리의 AI 리더십은 단일 문화에 갇혀 있습니다. 나이 든 사람, 기술 접근성이 떨어지는 아이들 모두 평등하게 혜택을 누려야 합니다. 최근 제 비서의 18세 딸이 학교 교실을 'AI 없는 구역(AI free)'으로 지정했다고 하더군요. 기술에 대한 반발과 두려움을 해소하기 위해 바텀업(Bottom-up) 방식의 팝업 교육이 필요합니다.

질문 4: 거대 투자자들의 역할 (Nicholas Bill)

• 질문: 수조 달러를 굴리는 글로벌 투자자들은 투자금 손실을 막기 위해서라도 AI 기업의 책임 있는 행동을 강제할 수 있지 않을까요?

• 데미스 하사비스: 동의합니다. AI 시스템이 상업화(Enterprise) 단계로 넘어가면서 긍정적인 시장 정화 작용이 일어날 것입니다. 대형 은행이나 기업 고객(CIO 등)들은 자신들의 데이터로 수십억 달러의 거래를 망칠 수 있는 자율 에이전트(Agent)를 원하지 않습니다. 강력한 가드레일을 갖춘 신뢰할 수 있는 모델만이 시장의 선택을 받을 것입니다.

질문 5: 딥마인드 매각에 대한 아쉬움 (Richard Hallway)

• 질문: 만약 딥마인드가 미국 자본에 넘어가지 않고 영국에서 IPO를 했다면, 현재 영국의 기술 생태계는 실리콘밸리 못지않았을 텐데요.

• 데미스 하사비스: 2014년은 알파고도, 오픈AI도 없던 시절이었습니다. 사람들은 우리가 왜 '스페이스 인베이더' 게임을 시키고 있는지 이해하지 못했습니다. 당시 구글 래리 페이지 정도만 AI의 중요성을 꿰뚫어 보았죠. 저는 기초 기술을 완성하기 위해 70억 달러(약 9조 원)의 컴퓨팅 파워가 필요했지만, 당시 영국에서는 1,000만 달러를 모으는 것도 벅찼습니다.

  당시 제 급여는 0원이었는데, 우리 직원들에게 실리콘밸리에서 연봉 1,000만 달러(약 130억 원)의 제안이 쏟아졌습니다. 자금 조달에만 매달렸다면 알파고도, 알파폴드도 탄생하지 못했을 것입니다. 저는 전 세계 300만 명의 연구자를 도운 저의 과학적 성과와 노벨상을 그 어떤 막대한 돈과도 바꾸지 않을 것입니다.

• 웬디 홀 / 에밀리 터너 (HSBC CEO): 딥마인드는 영국 생태계에 수십억 달러의 자본과 인재를 끌어들였습니다. 올해 1분기 영국 내 AI 벤처 투자의 10% 이상이 딥마인드 출신 창업자들에게 돌아갔을 만큼, 그들이 영국 경제에 남긴 유산은 실로 엄청납니다.