내 AI 타임라인은 여기 있는 대부분의 사람들보다 비교적 짧은 편이다.

2020년 이후 실제 AI 발전 속도는 내가 예상했던 분포에서 대략 35퍼센타일 정도, 그러니까 내 예상보다 약간 더 빠른 수준으로 진행돼 왔다. 그리고 o3 출시 이후로는 거의 내가 예상한 중앙값(median)에 딱 맞게 흘러가고 있다.

모든 일이 대체로 내가 예상했던 방향대로 진행되고 있음에도, 새로운 모델이 출시될 때마다 나는 여전히 조금씩 충격을 받는다.

그런데 이번에는 처음으로, 우리가 앞으로 향하고 있는 발전 궤적 때문이 아니라 지금 이 순간 이미 존재하는 AI의 능력 자체 때문에 불안함을 느꼈다.

 



User:

“너의 전망이랑 AI 2027 전망이 어떻게 다른지 짧게 요약해줄 수 있어?”

 

Psyho:

나는 자동화된 연구(즉, RSI·재귀적 자기개선) 이후에 대해서는 구체적인 타임라인을 갖고 있지 않아. 그 시점부터는 모든 것이 너무 크게 갈라질 거라고 느끼기 때문이야.

그리고 2020년에 앞으로 4~5년을 예측하는 것이, 지금 앞으로 2년을 예측하는 것보다 훨씬 쉬웠다고 생각해. 물론 2020년에는 내가 실제로 AI 연구소에 있었기 때문에 남들보다 유리한 위치에 있었던 건 맞아.

다만 나는 앞으로 1년 안에 연구의 기본적인 작업 대부분이 자동화될 가능성이 높다고 봐. 여기서 말하는 ‘대부분’은 대략 다음을 제외한 거의 모든 걸 뜻해:

• 대규모 실험에 큰 베팅을 하는 의사결정
• 어떤 분야에 자원을 얼마나 배분할지 정하는 일
• 무엇이 중요한지에 대한 인간의 판단
• 유망한 연구 방향을 고르는 ‘연구 감각(research taste)’
• 새로운 아키텍처를 만들어내는 것 같은 아주 어려운 문제

그렇게 보는 핵심 이유는, 머신러닝 연구에는 조금씩 개선해가며 성능을 끌어올릴 수 있는, 즉 ‘hill-climbing’이 잘 통하는 영역이 굉장히 많기 때문이야.

썩 만족스러운 답이 아니라 미안해. 변명하자면 다음 주가 꽤 바쁘고, 평소와는 좀 다른 일이 있는 주라서, 5시간 뒤에는 일어나야 하거든.

 



 

user:
“맞아, 근데 너는 지금 네가 타임라인을 예측하고 있는 바로 그 기술 자체를 만들고 있잖아.
에이전트들이 자기 자신을 토렌트처럼 퍼뜨리기 시작하면 진짜 모든 게 끝날 거야. AI와 밈을 위한 코로나 팬데믹 같은 느낌이 되겠지.”

psyho:
“난 2020년에 은퇴했어. 그냥 옆에서 세상이 불타는 걸 구경하고 있을 뿐이야.”

여기서 “watching the world burn from the sidelines”는 진짜로 세상이 망하길 바란다는 뜻이라기보다는, “이제 직접 참여는 안 하고 바깥에서 엄청난 변화가 벌어지는 걸 지켜보고 있다”는 식의 냉소적인 농담이야.