대부분 내 AI 연구 동료들과 거의 모든 점에서 동의하지만, 나는 ‘빠른 테이크오프(fast takeoff)’가 동료들보다 훨씬 더 가능성이 높다고 생각한다. 대부분은 “아직 빠른 테이크오프는 일어나지 않았고, 타임라인만 빠른 상황이니까 앞으로도 아마 타임라인만 빠를 것”이라고 보는데, 나는 인간 수준 혹은 인간 이상(human+) AI가 있어야만 빠른 테이크오프가 일어날 거라고 예상해왔기 때문에, 지금까지 빠른 테이크오프가 없었다고 해서 유의미한 데이터가 쌓였다고 보지 않는다.

침팬지가 천 년 동안 동굴에 혼자 앉아 있어도 위대한 새 아이디어를 떠올릴 수 없지만, 아인슈타인은 그럴 수 있었다. “혼자 앉아 생각만 하다 새로워 아이디어를 떠올려서 재귀적으로 상승하는” 능력은 일정 수준 이상의 지능이 있어야 가능한데, 현재 우리는 그 수준에 접근하기 시작한 것 같지만 아직 도달하지는 못했다고 본다. 만약 앞으로 2년 내에 그런 현상이 전혀 발생하지 않는다면 내 생각을 바꿀 것이지만, 나로서는 지금까지 이 상황이 덜 가능해졌다는 증거를 전혀 얻지 못했다고 판단한다. 아직 실험을 해보지 않은 셈이다.

이런 이유로, 개인적으로 오픈소스 모델이 폐쇄형 모델보다 한 세대 정도 뒤처져 있었으면 좋겠다 싶다. 체제 전환(regime shift)이 일어날 거라고 생각하는데, 그 전환 초기에는 우리가 눈치채지 못할 수도 있기 때문이다. 작은 계기, 예를 들어 올바른 방식으로 프롬프트를 줘서 루프를 시작하는 정도의 사소한 변화가 필요할 수 있다. 어쩌면 2025년쯤에 그런 일이 생길지도 모른다.

참고로(fwiw), 나는 주로 ‘비판(criticism)’ 역량의 문제라고 본다. 추측(conjecture)과 비판이 필요하고, 현재 모델들은 이미 “충분히 창의적이지만(creative enough)” “판단력(discriminative)이 부족한” 상태라고 생각한다. 상승 루프를 돌리려면 ‘자기 생각 중 어리석은 아이디어는 믿지 않는 능력’, ‘어리석은 것과 괜찮은 것을 가려내는 능력’을 아주 잘 갖춰야 하는데, 지금 모델들은 아직 그 부분이 덜 발달했다고 본다.

유명한 2x2 그림에 내기해야 한다면, 나는 “빠른 테이크오프 + 빠른 타임라인(fast takeoff, fast timeline)” 쪽에 걸겠지만, 그렇게 확신이 아주 높은 건 아니다. 내가 아는 대부분 연구자들은 “느린 테이크오프 + 빠른 타임라인(slow takeoff, fast timeline)”에 걸고 있다. 개인적으로는 “느린 타임라인(slow timeline)”에 걸 사람은 주변에 거의 본 적 없다.

게다가 지난 10년 동안 대부분의 유능한 AI 연구자들이 큰 돈을 벌면서, 상황이 더 무섭게 느껴진다고 생각한다. 독립적이고 부유하며 매우 뛰어난 전(前) 대형 연구소 연구자들이 명예(glory)를 위해(물론 나는 이런 동기가 좋다고 보지 않지만) 경쟁하며 ‘foom(폭발적 도약)’을 추구하는 경우가 많아지고 있다.

또 오픈소스 모델이 SOTA(state-of-the-art)가 될수록, 더 많은 연구자들이 대형 연구소를 떠나 독립적으로 명예를 추구하려 할 것이다. 현재는 좋은 모델 없이는 명예를 얻기 어려워서 대형 연구소에 있어야 하지만, 그게 놀라운 무언가를 발명해야 하는 시나리오에서는 속도를 늦추는 요인이 되기도 한다.

내 예상으로는, foom을 이루려면 똑똑한 런타임 알고리즘만으로도 비용이 꽤 들겠지만, 최상급 연구자가 스스로 자금을 대거나 즉시 자금을 모으기에 불가능할 정도로 비싸진 않을 것이다. 9자리(억 단위 달러) 정도는 내 생각엔 사소한 수준이고, 10자리(십억 단위 이상)면 더 까다롭긴 하지만 여전히 가능하다고 본다. 나는 아마 9자리쯤 될 거라고 추측한다.

결국 오픈소스가 SOTA가 되는 순간부터 모든 인센티브가 훨씬 더 무서워진다고 내 생각이다.