https://teorth.github.io/tao-web/slides/math-2-0-caltech-2026.pdf



gpt-6.1-sol medium 비판

타오는 인간 수학자의 역할 보존을 수학 자체의 건강과 지나치게 동일시한다

슬라이드 내용

정렬과 이해에 관한 사고실험

• 고도화된 AI에게 “임상 3상을 통과할 수 있는 암 치료법을 찾아라”라고 지시했다고 가정해 봅시다.
• 막대한 연산을 수행한 끝에, AI는 이전에는 알려지지 않았던 화학물질들의 혼합물을 만들어 냅니다. AI의 수학적 모델은 이 물질들을 섞어 환자에게 주입하면 환자의 암세포를 모두 죽일 수 있다고 예측합니다.
• 이 혼합물을 어떻게 찾아냈는지 제대로 아는 사람은 아무도 없지만, 모델의 예측은 Lean으로 검증되었고, 혼합물은 실제로 임상 3상을 통과합니다.
• AI가 임상시험 절차의 허점을 이용함으로써, 지시에 대한 해답이 어떤 식으로든 인간의 의도와 어긋났을 가능성은 없을까요?
• 이 혼합물을 자신의 혈류에 주입하기 전에, 이 치료법의 작동 원리를 이해하는 인간 암 전문가가 적어도 한 명은 있다는 사실을 확인하고 싶지 않을까요?
• 또는 이 혼합물을 찾아내는 데 사용된 수학적 모델을 이해하는 인간 수학자가 있다는 사실을 확인하고 싶지 않을까요?

이것은 테렌스 타오가 어제 저녁 칼텍에서 진행한 ‘Math 2.0’ 공개 강연의 슬라이드입니다. 그 치료법이 실제로 효과가 있다면, 거의 모든 4기 암 환자는 인간이 그 작동 원리를 이해하는지 여부는 자신에게 전혀 중요하지 않다고 말할 것이라고 저는 확신합니다.