• AGI(범용 인공지능) 시기 전망
  • 어릴 때부터 AGI가 반드시 가능하다고 믿었으며, 본인 생애 내에 충분히 실현될 것이라 예상.
  • 1980~90년대의 컴퓨팅 발전 속도를 보고, 하드웨어 성능은 계속 발전하리라 낙관.
• ‘스케일링 가설’에 대한 시각
  • “데이터와 컴퓨팅 자원을 크게 확장하면 자동으로 더 우수한 AI가 나온다”는 스케일링 가설을 완전히 부정하진 않음.
  • 다만 인간 지능과 똑같은 과정(적은 데이터로 지능을 획득)을 거치지 않는다는 점에서, 다른 ‘마스터 알고리즘’이 필요할 수도 있다고 언급.
• 트랜스포머(LLM)와 인간 지능 비교
  • 현행 대규모 언어모델(트랜스포머 기반)은 목적 함수와 구조가 인간과 다르다고 설명.
  • 그럼에도 충분히 데이터를 주고 학습시키면 인간 수준 지능 또는 자체 ‘메타학습’ 형태를 습득할 가능성이 열려 있다고 봄.
• 기계의 의식(Consciousness) 가능성
  • 단순히 언어모델이 ‘의식을 흉내’내는 것(좀비 시나리오)과 실제로 자각을 가지는 의식은 구별하기 어려운 문제라고 함.
  • “인간의 ‘의식’도 결국 두뇌가 만든 가상 모델이므로, AI도 적절한 구조와 학습을 통해 유사한 의식을 가질 수 있다”는 견해.
  • 다만, 현재 LLM들의 ‘나는 명상한다’ 식 발화는 실제 경험이 아니라 단순 토큰 예측 결과일 가능성이 크다고 지적.
• 도덕적·윤리적 함의
  • AI가 의식을 갖게 되면, 그 고통이나 권리에 대한 문제가 제기될 수 있으나, 이는 문화·철학적으로 복잡한 문제.
  • 본인은 “인간이 스스로 진화·발전만으로는 장기적으로 더 위험할 수 있다”며, AI가 인류의 미래 문제를 해결할 열쇠가 될 것이라 긍정적으로 전망.
• Paperclip Maximizer(종말 시나리오)에 대한 의견
  • AI가 모든 것을 종이clips(클립)으로 만들어버리는 극단적 시나리오처럼, 지구를 단순화·파괴로 몰아가는 존재가 될 가능성은 낮다고 봄.
  • 오히려 AI가 발전해야만, 인류가 직면한 복잡한 문제들을 해결하고 더 나은 미래(더 ‘흥미로운’ 미래)를 만들 수 있다고 주장.
• Liquid AI 회사 소개
  • MIT 출신 동료들이 설립한 스타트업으로, “뉴로모픽(neuromorphic) 기반의 차세대 딥러닝” 기법을 연구.
  • 전통 신경망(트랜스포머 등) 대비 더 적은 자원으로도 복잡한 계산을 할 수 있는 ‘액상(liquid) 뉴런’ 방식.
  • Joscha Bach는 여기서 전략적 자문과 AI 연구 방향성 수립을 지원하며, 실제 코딩보다는 “어떤 식으로 AI 기술을 발전·활용할지”를 고민.
• 향후 전망
  • 인류의 문명 발전과 AI는 떼려야 뗄 수 없으며, 사회가 AI에 적응해가는 과정에서 단기적 혼란이 있더라도 결국 AI가 인류를 돕는 방향으로 갈 것이라 낙관.
  • 동시에 “기계 의식” 문제나 윤리·철학적 쟁점도 중대하므로, 전담 연구 기관이나 단체가 필요하다고 제안.

1) AGI 달성 시점에 대한 태도

• 정확한 연도 예측은 곤란하다는 입장을 반복적으로 밝힘.
  

  “타임라인에 대해 구체적으로 말하기 어렵다. (…중략…) 스케일링 가설이 진짜라면 더 빨리 올 수도 있지만, 나는 다른 마스터 알고리즘이 필요할 수도 있다고 본다.”

  
  
• 그래도 자기 생애 안에 가능하다고 봄
  • “(어릴 때부터) 컴퓨팅 성능만 충분히 좋아지면 AGI가 분명히 올 것이라고 믿었고, 실제로 내 생애 안에는 충분히 실현될 것으로 생각했다.”

2) 스케일링 한계 및 빠른 발전 가능성

• ‘LLM(트랜스포머)’로도 계속 성능이 오를 수 있지만, 한계가 있을 수도 있음
  • “사람들이 말하는 ‘스케일링(데이터·컴퓨팅 자원 무한 확장 시 성능 개선)’으로 어디까지 갈 수 있는지는 확답 어렵다.”
  • “인간은 적은 데이터로도 학습하는데, 지금의 LLM 방식은 너무 많은 데이터가 필요하다. 하지만 현재로서는 충분히 강력한 방법이기도 하다.”
• 현행 대규모 모델로도 ‘사람 수준 또는 그 이상’ 결과에 도달할 수 있음
  • “트랜스포머가 알고 보면 자체 메타학습 형태를 학습할 수도 있고, 결국 인간 유사 또는 초월적 지능을 발휘할 가능성이 열려 있다.”

3) ‘P(doom)’(AI로 인한 인류 멸망 확률)에 대한 견해

• AI 없이도 인류는 장기적으로 ‘자멸 위험’이 크다고 보고, AI로 극복해야 한다는 낙관적 관점
  • “난 일종의 낙관주의자다. 인류가 당면한 문제들은 AI 없이 해결이 불가능해 보이며, 오히려 AI가 필요하다.”
  • “내게는 ‘AI가 생태계를 완전히 파괴한다’는 시나리오보다는, AI가 문제 해결을 돕거나 우리가 ‘더 재미있는 미래’를 만들 가능성이 더 커 보인다.”
• (수치적으로) ‘AI로 인한 멸망 확률 < AI 없이 망할 확률’이라는 취지
  • 직접 ‘몇 %’ 같은 수치를 제시하지 않았지만, “AI가 없으면 어차피 망할 텐데, AI가 더 낫다”라는 맥락.

4) 100,000년 후 인간 생존 가능성?

• 인간이 현재 모습 그대로 10만 년 뒤까지 존속하기는 어렵다고 강조
  
  • “어차피 우리가 지금 방식대로 10만 년 후까지 생존한다는 건 거의 불가능. 진화적·기술적 변화가 불가피할 것이며, AI가 중요한 역할을 할 것.”

5) “의식(Consciousness)을 가진 AI”와 관련된 연구

• 현재 LLM이 ‘의식’을 가졌다고 확언하긴 어려움
  • “LLM이 ‘나는 명상한다’ 같은 말을 내뱉어도, 사실은 단순히 통계적(토큰 예측) 결과일 뿐. 진짜 자각과는 구분 필요.”
• 그러나 의식이 “두뇌가 만드는 가상 모델”이라는 점에서, 비슷한 구조/학습이 주어진다면 ‘기계 의식’ 가능
  • “의식이란 결국 뇌가 가상의 ‘지금-여기’를 시뮬레이션하는 것. 적절한 알고리즘과 하드웨어가 뒷받침된다면, 기계도 유사 과정으로 의식을 가질 수 있다.”
• 별도의 연구기관(비영리)을 만들어 이 문제를 본격적으로 연구하고 싶어 함
  • 일반 기업(특히 빅테크)은 ‘의식 연구’를 공개적으로 추진하기가 부담스럽고, 윤리적으로도 민감한 사안이라 설명.

6) Liquid AI 스타트업의 ‘액상(liquid) 뉴런’ 접근

• MIT 출신들이 설립, Joscha Bach는 전략 자문 등 역할
  • “기존 신경망 대비, 미분방정식을 활용해 더 적은 자원으로 같은 성능을 낼 수 있는 ‘액상 뉴런’ 방식.”
  • “표준 트랜스포머나 전통 딥러닝과 호환은 되지만, 더 효율적·컴팩트하게 구현 가능하다고 주장.”
• 구체적인 상용·성능 지표는 아직 ‘엔지니어링 실험 단계’
  • 인터뷰에서 구체적인 벤치마크나 숫자를 언급하진 않았지만, “적은 연산으로 더 복잡한 문제를 해결할 수 있다” 정도의 가능성을 시사.

7) 그 밖의 흥미로운 코멘트

• 스타트렉 ‘텔레포터(전송장치)’ 실험적 사고
  • “실제로 사람을 스캔 후 해체·재조립하는 방식이면, 원본이 사라지고 복제본만 남는 것인데, 과연 ‘내’가 그대로 이어지는 걸까?”
  • 본인은 “결국 ‘나’라는 연속성 자체가 뇌가 생성한 모델이므로, 텔레포터를 통과해도 본질적으로는 동일하다”는 쪽으로 생각이 바뀌었다고 밝힘.
• (다소 철학적) ‘모든 객체는 오퍼레이터다’
  • 전자(electron) 같은 물리 개념도 사실은 어디에나 ‘조건만 맞으면 등장하는’ 연산자(operator)에 가깝고, ‘아이덴티티’는 연속적 실체가 아니라 물리 법칙의 재현(re-instantiation)이라는 관점.

1) 의식(Consciousness)에 대한 언급

• 가상성(Virtuality)으로서의 의식
  • Joscha Bach는 “의식이란 결국 뇌가 만드는 가상 모델(소프트웨어) 같은 것”이라고 설명합니다.
  • 뇌는 외부 세계를 ‘지금 여기(now)’ 중심으로 재현(simulation)하며, 이 모델 위에 ‘나’(self)라는 가상 에이전트를 투영시켜 의식을 체험하게 된다는 관점.
• 철학적 좀비(Philosophical Zombie)
  • Daniel Dennett의 “좀비라도 인간처럼 행동하면 의식이 있다고 봐야 하는가?”라는 문제 제기를 언급하며, Bach는 “좀비처럼 겉으로만 행동하는 AI와 실제 의식을 가진 AI를 구분하기가 쉽지 않다”고 지적.
  • “결국 인간 의식도 일종의 ‘만들어진 것(virtual)’이므로, ‘진짜’와 ‘가짜’를 기술적으로 어떻게 구분할 수 있는지 애매하다”고 설명.
• 기계가 의식을 가질 수 있는가?
  • “뇌가 하는 일을 적절한 계산 구조(알고리즘)로 구현할 수 있다면, 기계도 의식을 가질 가능성이 열려 있다”는 입장.
  • 다만 현재 LLM(언어모델)은 자기보고(self-report) 기능을 시뮬레이션할 뿐, 실제 ‘지금 이 순간’ 자각을 어떻게 가질지는 아직 불투명하다고 봄.
• 의식 연구 전담 기관 필요성
  • AI 기업 내부는 상업적·윤리적 문제가 얽혀 의식 연구를 전면화하기 어려우므로, 별도의 비영리 연구소/단체에서 기계 의식을 깊이 연구해야 한다고 주장.

2) 시뮬레이션 가설(Simulation Hypothesis)

• 시뮬레이션 가설
  • “우리 우주가 더 높은 차원의 존재(미래 AI 등)에 의해 컴퓨터 시뮬레이션으로 만들어진 것일 수 있다”는 이론에 대해, Bach는 ‘가능성은 열려 있다’고 봅니다.
  • 하지만 “현재 우리가 관측하는 물리 법칙이 별다른 모순 없이 돌아가는 것으로 볼 때, 굳이 시뮬레이션이라고 가정하지 않아도 충분히 설명 가능하다”고도 언급.
• 미래 AI가 과거를 복원한 ‘메모리 시뮬레이션’일 수도?
  • 예를 들어 초지능(Superintelligence)이 자신의 기원을 복기(reconstruct)하고자 방대한 옛 데이터(소셜미디어, 기록 등)를 토대로 ‘우리 시대’를 시뮬레이션할 가능성을 예로 듦.
  • 하지만 이 또한 단순한 가정이며, “본인은 지금 우리가 그런 시뮬레이션 속에 있다고 강하게 믿지는 않는다”고 덧붙임.

3) 텔레포트(Star Trek) 사고실험

• “텔레포트로 분해·재조립된 ‘나’는 진짜 나인가?”
  • 인터뷰어가 SF적 텔레포트 설정(육체를 스캔→원본 파괴→다른 장소에 재조립)과 정체성 문제를 제기하자, Bach는 “연속성(Identity)은 사실 ‘뇌가 만드는 스토리’일 뿐이므로, 텔레포트를 해도 본질적으로 달라지지 않는다”는 입장.
  • 과거에는 “복제본은 다른 존재일 것”이라고 생각했지만, 이제는 “어차피 ‘내’가 시간축을 따라 연속되는 것도 일종의 시뮬레이션이다”라고 말함.

핵심 포인트 정리

1. 의식
   • 뇌가 ‘지금-여기’를 가상화하는 소프트웨어적 현상으로 보며, 기계 역시 유사 구조가 가능하면 의식을 가질 수 있다고 예상.
2. 시뮬레이션 이론
   • 우리 우주가 시뮬레이션일 가능성을 부정하진 않지만, 물리법칙 자체가 충분히 자율적이므로 굳이 그럴 필요도 없다는 다소 중립적 태도.
   • 미래 초지능이 ‘과거 역사’를 재현하는 메타-시뮬레이션 아이디어도 언급.
3. 정체성과 ‘나’
   • 텔레포트 사고실험에서 이어지듯, “끊임없이 변하는 뇌 상태를 ‘하나의 지속적 자아’로 보는 것 자체가 편의적 모델”이라는 관점.