"can AI generate new laws of physics right now it cannot I think within 10 years very likely yes maybe even in two years"

"AI가 지금 당장 새로운 물리 법칙을 만들어낼 수 있나? 지금은 불가능하다. 10년 안에는 매우 가능할 것 같고, 어쩌면 2년 안에도 가능할 수 있다"

 

1. AI 발전에 대한 전망
- AI 발전 속도가 예상보다 빨라지고 있음
- 10년 내, 혹은 2년 안에 AI가 새로운 물리 법칙을 발견할 수 있을 것으로 전망
- 현재 AI는 수동적인 oracle 같은 단계이지만, 곧 목표를 가지고 행동하는 에이전트 형태로 발전할 것

2. AI 안전성과 규제
- AI 규제의 필요성을 강조
- 자동차의 안전벨트 규제처럼 AI도 안전 기준이 필요함
- 미국은 현재 의미 있는 AI 규제가 부족한 상태
- 중국과 유럽은 이미 AI 위험에 대한 규제를 시작

3. 교육과 직업의 미래
- AI가 교육과 직업 시장을 크게 변화시킬 것
- 대학의 역할과 가치에 대한 재고가 필요
- AI 시대에 인간만이 할 수 있는 의미 있는 활동을 찾아야 함

4. 개인적인 이야기
- Tegmark는 물리학에서 AI 연구로 전향
- AI의 발전 가능성과 위험성을 동시에 인식
- 뇌가 양자 컴퓨터라는 이론에 대해 회의적
- AI 발전 속도를 과소평가했던 것을 인정

5. 미래에 대한 조언
- 기술 발전과 함께 인간성을 살리는 구조를 만들어야 함
- 불가능해 보이는 것에도 도전할 가치가 있음
- AI 발전에 대해 수동적 방관자가 아닌 적극적 참여자가 되어야 함

 

주요 견해를 더 자세히 정리하면 다음과 같습니다:

1. AI 발전의 현재와 미래
- 5-6년 전만 해도 대부분의 AI 연구자들은 ChatGPT-4 같은 AI가 수십 년 후에나 가능할 것으로 예측
- 현재 AI는 '오라클' 같은 수동적 단계: 질문에 답하고 그림을 그리는 정도
- 다음 단계는 '에이전트' AI: 목표를 가지고 능동적으로 행동하는 AI가 등장할 것
- 로봇, 드론, 해상 장비 등 다양한 형태로 AI가 실제 세계에서 작동하게 될 것

2. AI의 학습과 발전 방식
- AI는 다중 모달리티(시각, 청각, 촉각 등)를 통해 학습하게 될 것
- 인간의 뇌처럼 모든 감각 데이터를 전기 신호로 처리하고 해석
- 테슬라 자율주행차처럼 실제 물리적 바디를 가진 AI들이 늘어날 것
- 휴머노이드 로봇의 급격한 증가 예상

3. AI의 한계와 도전 과제
- 현재 AI 시스템은 인간 뇌보다 훨씬 많은 에너지를 소비
- 소프트웨어 아키텍처가 아직 매우 비효율적
- AGI(인공일반지능)가 등장하면 AI 자체를 개선하는 연구도 가능해질 것
- 하드웨어와 소프트웨어의 효율성이 비약적으로 향상될 것으로 예상

4. AI 안전성과 규제에 대한 입장
- AI 기업들은 경쟁 때문에 안전성을 충분히 고려하지 못하는 상황
- 생명공학처럼 AI도 안전 기준과 규제가 필요
- FDA와 같은 규제 기관의 모델을 AI에도 적용해야 함
- 국제적 협력을 통한 AI 안전 기준 확립 필요

5. AI 연구에 대한 우려사항
- 기업 자금을 받는 AI 윤리 연구자들의 이해상충 문제 지적
- AI 기술의 실제 사용과 영향에 대한 책임 있는 고려 필요
- AI 발전의 속도와 영향력을 과소평가했던 것을 인정
- 기술 발전과 함께 인간성을 보존하는 방안 모색 필요

6. 미래에 대한 제안
- AI 발전을 수동적으로 기다리지 말고 적극적으로 참여해야 함
- 우리가 원하는 미래를 만들기 위한 방향 설정 필요
- 인간에게 의미 있는 활동은 AI가 대체할 수 있더라도 계속해야 함
- AI와 공존하는 긍정적 미래 비전 수립 필요

 

수치적 예측들 정리

시간 관련 예측:
- 10년 내, 혹은 빠르면 2년 안에 AI가 새로운 물리 법칙을 발견할 수 있을 것
- 8년 전에 물리학에서 AI 연구로 전향
- 5-6년 전만 해도 대부분의 AI 연구자들은 ChatGPT-4 같은 AI가 수십 년 후에나 가능할 것으로 예측

AI 성능/효율성 관련:
- 현재 AI 시스템은 같은 작업을 수행할 때 인간 뇌보다 "수천 배" 더 많은 에너지를 소비
- 인간의 망막에서는 초당 약 1메가비트/1메가바이트의 시각 데이터를 처리

AI 연구 성과 예시:
- 케플러가 화성 궤도를 분석하는 데 4년 걸렸지만, AI는 1시간 만에 발견
- 블랙홀 메트릭 관련 연구도 수십 년 걸린 것을 AI는 1시간 만에 발견

다만 테그마크는 이러한 수치들을 언급하면서도, AI 발전의 정확한 시기를 예측하는 것은 위험하다고 강조했습니다. 그는 자신도 AI 발전 속도를 과소평가했다고 인정하면서, "AI 발전에 대해 내기하는 것은 매우 위험하다"(it's very dangerous to bet against AI progress)라고 말했습니다.

 

기타 언급들

교육과 대학의 미래:
- MIT가 AI가 가져올 변화에 대해 현실 부정(denial) 상태라고 지적
- 대학의 존재 가치에 대한 근본적 질문 제기
- "AI가 더 잘 가르칠 수 있다면, 학생들은 AI에게 가르칠 수 있는 일자리를 얻지 못할 것"이라는 우려 제기

AI 안전과 거버넌스:
- 바이든의 행정명령은 "극단적인 것을 하는 회사들이 정부에 알리기만 하면 된다"는 수준
- 캘리포니아의 AI 법안은 OpenAI, Anthropic, Google DeepMind가 자발적으로 약속한 것을 의무화하는 정도
- 기업들의 반발은 과거 안전벨트 규제 때와 비슷한 패턴

기업과 연구 윤리:
- AI 컨퍼런스에서 기업 자금을 받는 연구자들의 이해상충 문제 지적
- MIT가 페이스북 등 기술 기업으로부터 자금을 받는 것에 대해 비판
- 학문적 매춘(intellectual prostitution)이라는 강한 표현 사용

AI 발전의 부작용:
- "Mad bot problem": AI가 다른 AI를 훈련시키면서 발생하는 문제
- "Zombie internet": 트위터의 대부분이 봇이 작성한 내용으로 채워질 수 있다는 우려
- AI의 효율성 문제: 현재 AI는 매우 비효율적인 방식으로 작동

양자 컴퓨팅과 AI:
- 뇌가 양자 컴퓨터라는 주장에 회의적
- 양자 중첩 상태는 뇌에서 10^-20초만 지속
- ChatGPT-4가 양자 컴퓨팅 없이도 인간 수준의 지능을 보여줌

AI 연구 현황:
- 그의 MIT 연구팀은 "mechanistic interpretability"(기계적 해석가능성) 연구에 집중
- 이는 "인공 신경과학"이라고도 불림
- AI 시스템이 어떻게 작동하는지 내부 구조를 연구
- 빈에서 열린 컨퍼런스 등 관련 연구가 빠르게 진행 중

AI 연구의 장점:
- 인간 뇌 연구는 1000개의 뉴런도 측정하기 어렵고 윤리위원회 승인 필요
- AI는 모든 뉴런과 시냅스를 측정 가능하고 허가도 필요 없음
- 이런 이점으로 연구 진행이 매우 빠름

물리학에서 AI로의 전환 이유:
- 우주론의 "황금기"가 점차 쇠퇴하고 있다고 판단
- 인플레이션, 암흑에너지, 암흑물질 등 주요 미스터리가 여전히 미해결
- AI 분야가 폭발적으로 성장할 것이라 예측

AI에 대한 철학적 관점:
- 인간 뇌를 "생물학적 컴퓨터"로 보는 관점이 AI 혁명의 가장 큰 통찰
- AI가 인간의 감정이나 직관을 개발할 수 있다고 봄
- 다만 현재 AI는 시스템1(직관적 사고)에 머물러 있고, 시스템2(상징적 추론)는 부족

테슬라와 AI:
- 테슬라 자동차들이 이미 로봇 몸체를 가지고 있음
- 센서 입력을 통해 학습 데이터 수집
- 휴머노이드 로봇의 급속한 증가 예상