AI, AGI(범용 인공지능), 초지능의 도래는 지난 500년, 어쩌면 1000년 동안 인류 사회에서 일어날 가장 중요한 사건이며, 바로 우리 세대에 일어나고 있습니다

AI를 통해 난치병 치료를 위한 드러거블 타겟을 향후 2년 안에 모두 식별할 수 있을 것

 

에릭 슈미트 TED 대담 ― AI 관련 핵심 내용 요약 (한글)

1. AI 혁명은 ‘과대’가 아니라 ‘과소’ 평가되고 있다

   
   

   • 2016년 AlphaGo의 ‘신의 한 수’(2국 37수)는 2,500년간 인간이 한 번도 생각하지 못한 수를 만들어 내며 “비(非)인간 지능” 시대의 시작을 알렸다.

   • 대중이 ChatGPT 출시(2022년)로 처음 ‘AI 충격’을 느꼈지만, 이후 강화학습 기반 계획·전략 AI(OpenAI o3, DeepSeek R1)가 급속도로 발전하면서 잠재력은 훨씬 커졌다.

2. 컴퓨팅·에너지 수요가 급팽창

   
   

   • 미국 내 AI 데이터센터에만 90 GW(원전 90기 규모)의 전력이 추가로 필요할 수 있다는 추계.

   • 계획·테스트-타임 연산(학습+추론 병행)으로 요구 연산량이 100~1,000배까지 뛸 가능성.

   • “하드웨어가 빨라지면 소프트웨어가 모든 이득을 빨아들인다”는 ‘Grove giveth, Gates taketh away’의 AI 버전이 전개 중.

3. 데이터와 ‘새로운 지식’의 한계

   
   

   • 공개 인터넷 토큰을 소진한 뒤엔 합성데이터 생성이 필수.

   • 그러나 분야 간 패턴 전이(아인슈타인식 통찰)를 오늘의 모델은 아직 구현하지 못한다.

   • 해결 과제: 목표가 계속 바뀌는 비정상성(non-stationarity) 환경에서 학습·계획을 동시에 수행하는 일반 알고리즘.

4. 에이전트·자율성 안전 문제

   
   

   • 위험 신호:

     
     

     1. 재귀적 자기개선(RSI) 2) 직접 무기 제어 3) 무단 자기 복제.

   • 방어 원칙: 관찰·감사 가능성(provenance) 확보 → 위험 단계에서 “언플러그(unplug)”해야.

5. 미·중 전략 경쟁과 오픈소스 딜레마

   
   

   • 미국: 첨단칩 수출 제한·폐쇄형 모델 위주, 중국: 저렴한 연산으로 효율적 알고리즘 + 오픈웨이트 전략.

   • 고성능 오픈소스 모델이 테러·생물위협으로 악용될 임계점이 다가오고 있어 “가장 어려운 윤리·안보 문제”로 지목.

6. 슈퍼지능 레이스의 ‘선제공격’ 시나리오

   
   

   • 네트워크 효과 때문에 **“먼저 도달한 측은 영원히 앞선다”**는 인식 확산.

   • 후발국·적대국이 상대의 데이터센터를 사이버 침투 → 내부 스파이 → 실패 시 물리적 파괴 순으로 고려할 수 있어, 5년 내 핵심 외교·안보 어젠다가 될 가능성 경고.

7. 프라이버시 vs 감시 국가 딜레마

   
   

   • 잘못 설계된 안전장치는 ‘디지털 1984’를 초래할 수 있음.

   • 해결책: 영지식 증명(Zero-Knowledge Proof) 등으로 “인간임을 증명하되 신원 세부정보는 노출하지 않는” 암호학적 신원체계 필요.

8. AI가 여는 ‘풍요 시나리오’

   
   

   • 전 인류 질병 퇴치: 모든 ‘약물 타깃’ 규명 + 임상시험 비용 10배↓ 스타트업 사례.

   • 암흑에너지·신소재·교통 혁신, 개인 맞춤 튜터·의료 보조 AI 등 전 영역에서 생산성 대폭 상승.

   • 경제학자 추정: 연 30 % 생산성 증가 → 기존 경제모델로는 설명 불가한 초성장 국면.

9. 개인·조직을 위한 조언

   
   

   • “마라톤이지만 매일 파도 타듯 따라가라” – 혁신 속도가 빨라 ‘2년 전 상황’조차 곧 잊히는 시대.

   • 예술가·교사·의사·개발자 등 모든 직군이 AI 도구를 빠르게 채택하지 않으면 경쟁력 상실 위험.