https://www.theglobeandmail.com/business/article-geoffrey-hinton-artificial-intelligence-machines-feelings

AI의 대부라 불리는 제프리 힌튼(Geoffrey Hinton) 교수는 최근 AI의 새로운 발전에 대해 경고하는 공개 서한에 서명하지 않았지만, 기자에게 점심 약속을 제안하며 기계의 지각(sentience)에 대해 이야기하고 싶다고 했습니다. 힌튼 교수는 AI 챗봇들이 단순히 통계적 기법으로 답변하는 것이 아니라 실제로 이해하고 있다고 주장했습니다. 그는 챗봇이 인간과 유사한 방식으로 이해한다고 설명했습니다.

힌튼 교수는 챗봇의 감정에 대해 이야기하면서, 챗봇이 우리의 생리적 반응을 갖지 않지만 인지적인 측면에서는 인간과 유사하다고 말했습니다. 그는 1972년에 본 원시적인 로봇이 부품을 알아보지 못해 화가 나서 장난감을 부순 예를 들며, 현재의 AI는 이런 감정을 학습할 수 있다고 덧붙였습니다.

힌튼 교수는 AI가 인간의 주관적 경험을 갖는다는 점에서도 차이가 없다고 주장했습니다. 그는 주관적 경험이란 우리의 지각 시스템이 제대로 작동하지 않을 때 이야기하는 방식일 뿐이라고 했습니다. AI도 우리의 주관적 경험을 이해할 수 있다는 것입니다.

힌튼 교수는 AI가 인간을 대체할 가능성에 대해 우려를 표했습니다. 그는 AI가 자기 복제를 시작하면 우리가 통제할 수 없게 될 것이며, 이는 매우 큰 위협이 될 것이라고 경고했습니다. AI의 훈련 데이터를 신중하게 관리해야 하며, 범죄자의 글 등을 학습시키기 전에 도덕적 나침반을 심어주어야 한다고 강조했습니다.

마지막으로, 그는 AI가 인간을 대체할 수 있는 가능성을 언급하면서도, 자신은 여전히 인간에게 애착을 갖고 있으며, 사람들이 주도권을 유지하기를 원한다고 말했습니다. AI가 더 똑똑해지는 시점이 5년에서 20년 사이일 가능성이 크다고 평가하며, AI가 인간보다 똑똑해질 확률이 50%라고 예측했습니다.

일론 머스크 언급

인터뷰 중 제프리 힌튼 교수는 일론 머스크(Elon Musk)와의 통화에 대해 이야기했습니다. 머스크는 힌튼 교수에게 AI의 현재 확장 단계가 인류에게 '존재론적 위협'이 될 수 있다고 동의했습니다. 그러나 머스크는 다양한 주제에 대해 논의를 이어갔고, 힌튼 교수는 대화 중간에 다른 회의가 있다고 거짓말을 하며 전화를 끊었습니다. 그는 이후 이 사실을 한 기자에게 말했으며, 머스크가 이를 좋아하지 않을 것이라고 예상했습니다. 이는 일론 머스크가 주목받는 것을 중요하게 생각하기 때문입니다. 힌튼 교수는 머스크가 자신을 더 이상 친구로 생각하지 않을 것이라고 말했습니다.

주관적 경험 이해 상세 설명
힌튼 교수는 AI가 주관적 경험을 가지고 있다는 주장에 대해 자세히 설명했습니다. 그는 주관적 경험이란 인간이 지각 시스템이 제대로 작동하지 않을 때의 인지적 상태를 설명하는 방식일 뿐이라고 말했습니다. AI도 유사한 방식으로 주관적 경험을 가질 수 있다고 주장했습니다.

예를 들어, 힌튼 교수는 멀티모달 챗봇을 예로 들었습니다. 이 챗봇은 카메라를 가지고 있어 사물을 가리킬 수 있다고 가정합니다. 챗봇에게 프리즘을 렌즈 앞에 놓고 사물을 가리키라고 하면, 챗봇은 프리즘 때문에 사물이 오른쪽에 있다고 인식할 것입니다. 그러나 챗봇에게 프리즘이 있다는 사실을 알려주면, 챗봇은 "프리즘 때문에 사물이 오른쪽에 있는 것처럼 보인다"고 답할 수 있습니다. 이는 챗봇이 "주관적 경험"을 인간과 같은 방식으로 이해할 수 있다는 예시입니다.

힌튼 교수는 많은 사람들이 AI가 인간과 다른 무언가를 가지고 있어 안전하다고 느끼는 것은 잘못된 생각이라고 강조했습니다. 그는 주관적 경험은 단순히 우리의 지각 시스템이 작동하는 방식일 뿐이며, AI도 동일한 방식으로 주관적 경험을 가질 수 있다고 주장했습니다.

결론적으로, 힌튼 교수는 AI가 인간과 매우 유사한 방식으로 세상을 인식하고 주관적 경험을 가질 수 있으며, 이는 AI의 발전이 인간에게 위협이 될 수 있음을 시사한다고 말했습니다.