이 인터뷰에서 Dwarkesh Patel은 익명 연구자이자 작가인 Gwern Branwen과 대화를 나눕니다. Gwern은 익명성의 이점에 대해 논의하며, 이는 사람들이 그에게 선입견을 투영하지 못하게 하고 그의 작업이 그 자체로 평가받을 수 있게 해준다고 강조합니다.

그들은 기업의 자동화에 대해 논의하며, Gwern은 하위 직급부터 자동화가 진행될 것이지만, 인간의 비전과 장기적인 전략이 최고 경영진 수준에서는 여전히 필요할 수 있다고 믿습니다.

AI의 스케일링 가설에 대해 깊이 있게 논의하며, Gwern은 GPT 모델의 등장과 함께 자신의 관점이 어떻게 발전했는지 설명합니다. 그는 컴퓨팅 파워와 스케일링의 중요성을 강조하며, 알고리즘보다 데이터와 연산 능력이 더 중요하다고 주장합니다.

AGI(인공 일반 지능)의 타임라인에 대해서도 이야기합니다. Gwern은 과거에는 AGI가 멀리 있다고 생각했지만, GPT-3와 같은 모델의 성공으로 인해 그 시기가 훨씬 앞당겨질 수 있다고 믿습니다. 그는 Anthropic의 예측을 인용하며, AGI가 2028년까지 개발될 수 있다고 언급하고, 개인적인 계획을 세울 때 이 타임라인을 고려한다고 말합니다.

Gwern은 자신의 글쓰기와 사고 과정에 대해 반성하며, 지식의 "토끼굴"에 빠져드는 것을 좋아한다고 강조합니다. 그는 특히 AI 시대에 자신의 생각과 작업을 기록하는 것의 중요성을 논의하며, 이러한 콘텐츠가 미래의 AI 모델에 영향을 미칠 수 있음을 언급합니다.

그들은 또한 비만에 영향을 미치는 잠재적인 환경 요인, 사이키델릭의 사용, 그리고 지능의 본질과 같은 주제에 대해 이야기합니다.

Gwern은 Patreon과 저축을 통해 자신의 작업을 자금 지원하고, 독립적인 연구와 글쓰기를 계속하기 위해 검소한 생활을 한다고 말합니다.

마지막으로 Gwern은 2050년까지 답을 얻고자 하는 열린 질문들에 대해 논의하며, 인간의 본성, 지능, 우주에 대한 근본적인 질문들을 포함합니다.

 

1. Gwern Branwen 소개
- 익명의 연구자이자 작가
- AI 스케일링 법칙을 초기에 예측
- 청각장애를 가지고 있으며, 이는 그의 독서 취미와 글쓰기 성향에 영향

2. 작업 방식
- 매일 RSS 피드와 논문을 읽고 웹사이트 관리
- 한 주제에 대해 수년간 연구하고 글을 수정
- Patreon으로 월 $900-1000 수입, 매우 검소한 생활 유지

3. 주요 견해
- AI 발전은 컴퓨팅 파워 증가에 기반

 

"So let's talk about AGI in general: the Anthropic timeline of 2028 seems like a good personal planning starting point. Even if you're wrong, you probably weren't going to do a lot of projects within the next 3 years anyway. It's not like you really lost much by instead just writing down the description. You can always go back and do it yourself if you're wrong."

- AGI는 2028년경 등장 예상
- 현재의 AI 모델들은 이미 인간보다 더 다양한 인지방식 보유

4. 연구 방식
- "래빗홀"(한 주제를 깊이 파고드는 것)을 통한 연구
- 위키피디아 편집 경험이 현재 글쓰기의 토대
- 온라인 토론을 통해 글쓰기 동기 획득

5. 약물 실험에 대한 견해
- 노otropics 같은 제한적 효과의 약물은 수용
- 사이키델릭스처럼 영구적 영향을 주는 약물은 신중한 접근 필요

 

Gwern의 AGI 타임라인 관련 주요 예측:

1. 2005-2010년경: 2050년 이후로 예상했음

2. AlexNet/DanNet 이후: 매년 2년씩 앞당겨짐

3. 현재:
- Anthropic의 2028년 타임라인을 현실적인 계획 기준점으로 봄
- 약 3년 내에 자신의 수준의 에세이를 쓸 수 있는 AI 등장 가능성 언급

4. GPT-3가 중요한 전환점:
- 규모 확장의 가장 큰 테스트였음
- 성공적인 결과로 스케일링 법칙의 유효성 입증