https://scottaaronson.blog/

4. 공정성과 골포스트 이동

이제 내가 알 수 있는 한, AI가 모든 작업에서 인간의 성능을 달성하거나 능가할 것인지, 우리로부터 문명을 빼앗을 것인지, 인간의 존재를 위협할 것인지 등에 대한 실증적 질문은 AI가 과연 그럴 것인지에 대한 철학적 질문과 논리적으로 구별됩니다. 정말로 생각하는지, 아니면 생각하는 것처럼만 보이는지. 모든 실증적 질문에 "예"라고 대답하고 철학적 질문에 "아니오"라고 답할 수 있으며, 그 반대의 경우도 마찬가지입니다. 하지만 평생 억울하게도 사람들은 끊임없이 두 가지 질문을 함께 고민합니다!

 

그들이 그렇게 하는 주요 방법은 우리가 유스타교라고 부를 수 있는 종교를 사용하는 것입니다.

 

GPT는 단지 다음 토큰 예측자일 뿐입니다.

그것은 단지 함수 근사치일 뿐입니다.

그것은 단지 거대한 자동 완성입니다.

그것은 확률론적 앵무새일 뿐입니다.

그리고 AI가 인류를 장악한다는 생각은 단지 공상 과학 환상일 뿐이거나 AI의 단기적인 피해로부터 사람들의 주의를 돌리려는 냉소적인 시도일 수도 있습니다.

누군가 내 블로그에서 이 종교를 표현한 적이 있습니다. GPT는 문장을 해석하지 않고 단지 해석하는 것처럼 보입니다. 그것은 배우지 않고 단지 배우는 것처럼 보입니다. 도덕적인 질문을 판단하는 것이 아니라 판단하는 것처럼 보일 뿐입니다. 나는 대답했다: 그거 훌륭해요. 문명은 바뀌지 않을 거예요. 단지 바뀌는 것처럼 보일 뿐입니다!

밀접하게 관련된 경향은 골대 이동입니다. 아시다시피, 수십 년 동안 체스는 인간의 전략적 통찰력과 특별함의 정점이었습니다. 그리고 그것은 Deep Blue까지 지속되었습니다. 그 직후 AI 는 체스에서 Garry Kasparov를 압도할 수 있었습니다. 모두가 항상 그럴 것이라고 깨달았습니다. 놀라운 일은 아니지만 Go 무한히 더 풍부하고 깊은 게임이며 AlphaGo/AlphaZero까지 지속되었습니다. 물론 AI 는 완전히 예상했던 대로 이세돌을 바둑에서 크림칠 수 있지만 국제 수학 올림피아드에서 금메달을 따면 나를 깨워줍니다. 나는 내 친구 Ernie Davis를 상대로 IMO 마일스톤이 2026년까지 달성될 것이라고 100달러를 걸었습니다. 하지만, 내가 틀렸고 대신 2030년이 되었다고 가정해 보겠습니다. 좋습니다. 다음 골대는 무엇이 되어야 할까요?