"제발 누가 제 생각이 틀렸다고 설득 좀 해주세요. 하지만 요즘 들어 소위 '기술 낙관주의'라는 게 껍데기뿐인 공허한 소리처럼 느껴집니다.

제가 보기에 AI 발전 속도는 점점 빨라지고 있고, 소위 AGI(범용 인공지능)도 곧 나올 기세입니다.

그런데, 도대체 이 기술이 '모든 인류에게 혜택을 줄 것'이라는 그 약속을 지키기 위해 구체적으로 어떤 진전이 있는지 누가 말 좀 해줄 수 있나요?

제가 보기엔 다들 자기 잇속 챙기기에만 바쁜 것 같습니다. 솔직히 말해서 소위 '평범한 사람들(Normie)'의 시각이 점점 더 맞다는 생각이 듭니다. 그 시각이란 이런 거죠. **'샌프란시스코의 소수 집단이 떼돈을 벌려고 혈안이 되어 있고, 그 과정에서 나머지 사람들이 일자리를 잃든 말든 전혀 신경 쓰지 않는다'**는 것 말입니다.

그리고 인류 멸망 시나리오에 대해서도, 저는 AI가 인류를 멸망시킬 거라 믿지 않지만, 정작 AI를 만드는 사람들은 그렇게 믿고 있더군요. 그럼 그들 말을 믿어야 하는 걸까요?

AI가 대단하다는 건 저도 인정합니다. 앞으로 엄청난 일들을 해낼 거라는 점에 대해서도 낙관적이고요. 하지만 마치 만화 속 악당처럼 생긴 사람들이 나와서 '은하계를 사들이겠다'는 둥 떠드는 걸 보면, 사회적 관점에서 볼 때 좀 맥이 빠지는 게 사실 아닙니까?

차라리 앤스로픽(Anthropic)이 꽁꽁 숨겨두고 있다는 다리오(Dario)의 그 대단한 에세이라도 좀 봤으면 좋겠네요. 그걸 보면 좀 희망이 생길지도 모르니까요.

어쨌든, 누구를 탓하기도 어렵습니다. 내가 안 하면 어차피 남이 할 테니까요. 골드 러시(Gold rush) 때는 원래 금을 캐는 게 목적이잖아요. 그게 핵심이죠.

일단 푸념은 여기까지 하겠습니다. 정말로 제 생각이 틀렸다는 걸 확인받고 싶습니다. 전 열린 마음을 갖고 있어요. 어쩌면 이게 역사상 가장 도덕적인 골드 러시라서, 결국 모든 질병이 정복되고 우리가 에덴동산 같은 평화 속에서 영원히 사는 '스페이스 오페라 유토피아'가 될지도 모르죠. 여러분이 좀 알려주세요."

룬의 답변:

"현재 가장 유력해 보이는 시나리오는 이렇습니다. 수많은 기술 기업들이 서로 치열하게 경쟁하느라, 결국 기업들은 기껏해야 넷플릭스 월 구독료 정도의 적은 이윤(마진)밖에 남기지 못하게 될 겁니다. 그 덕분에 우리 인류는 아주 저렴한 비용으로 엄청난 혜택(소비자 잉여)을 누리게 된다는 것이죠.

AI가 당신이 우려하는 방식의 문제를 일으킬 만큼 세상을 뒤흔드는 존재가 되려면, 우선 '대부분의 결핍(희소성)을 끝내버리겠다'는 본래의 약속부터 실현되어야만 가능합니다.

나는 예전부터 그래왔듯 지금도 확신합니다. 이 일(AI 개발)이야말로 우리가 인류를 위해 할 수 있는 가장 중요한 일이라고 말입니다."

룬(Rune)의 답변이 의미하는 것

앞서 질문하셨던 룬의 트윗은 바로 이 1번 의문(부의 독점)에 대한 정면 반박입니다.

• 비판자: "기업들이 독점해서 떼돈을 벌 것이다."

• 룬(Rune): "아니다. 기업들끼리 너무 박 터지게 경쟁해서 이익(마진)은 넷플릭스 구독료 수준으로 낮아질 것이고, 그 혜택은 소비자(인류)가 싼값에 엄청난 기능을 쓰며 다 가져갈 것(소비자 잉여)이다."