"기원전 4,000년은 기원전 4,500년이나 기원전 3,500년과 크게 다르지 않았기 때문에 500년이나 천년이 지나도 크게 달라지지 않았지만 지금은 몇 년마다 거의 다른 세상인 것 같습니다."

1. 슈퍼인텔리전스에 대한 최근 견해
- 2014년 책 출간 당시보다 AI 발전 타임라인이 더 빨라짐
- 가장 놀라운 점은 일반적 대화가 가능한 AI가 슈퍼인텔리전스 이전에 등장했다는 것
- 이로 인해 AI에 대한 사회적 인식과 정치적 참여가 증가함
- AGI 타임라인: 1-2년 내 가능성을 배제할 수 없으며, 많은 AI 연구소들이 2029년경으로 예상

2. AI 정렬(Alignment) 문제
- 전문가들 사이에서도 의견이 매우 다양함
- 완전히 낙관적인 전문가부터 거의 실패를 확신하는 전문가까지 있음
- 인류는 이 관문을 통과해야 하는 상황
- 현재 매일 5만 명이 사망하는 현실을 고려할 때 도덕적 시급성도 존재

3. AGI 개발 방향
- 현재 시스템의 지속적인 스케일업이 주요 경로
- 런타임 중 추가 연산능력 활용 (GPT-4 프리뷰처럼)
- 표현방식 구조화, 메모리 시스템, 계획 수립 등의 발전 필요

4. AI 안전성과 국제협력
- AI가 점차 지정학적 문제와 얽힐 것
- 초강대국들의 AI 개발 경쟁이 예상됨
- 현재가 협상력이 있는 시점(칩 공급망 등이 분산되어 있음)
- 생물무기 등 특정 위험에 대한 맞춤형 국제협약 필요

5. 기술발전의 한계
- 궁극적 한계는 존재하나 현재와는 매우 큰 격차가 있음
- 초지능이 등장하면 나노분자 설계 등 최적화된 기술개발 가능
- 기반 인프라가 최적화된 후에는 문명의 가치에 따라 발전방향이 결정될 것

6. 존재적 위험요소들
- AI 외에도 생명공학이 주요 위험요소
- 자율무기체계가 전쟁 양상을 변화시킬 것
- 소셜미디어와 AI의 결합으로 인한 사회적 인식체계 변화 우려
- 매년 상당한 수준의 존재적 위험이 누적되고 있음

7. 포스트휴먼 미래
- 현재 인간 조건의 부정적 요소들 제거 가능
- 건강수명 연장, 인지능력 향상, 감정능력 개선 가능
- 80년의 수명으로는 완전한 성장이 불가능하다고 봄
- 매년 더 약해지는 대신 더 강해지고 발전하는 미래 가능

8. 시뮬레이션 가설과 윤리
- 시뮬레이션 가설이 아직 대중에게 깊이 침투하지 않음
- 더 큰 맥락에서 AI 창조를 바라볼 필요성 제기
- 우주적 관점에서의 겸손함 필요성 강조

9. 외계문명 접촉
- 협력적 규범과 프레임워크 개발의 중요성
- 매우 다른 가치를 가진 문명과도 공존할 수 있는 방법 모색 필요
- 높은 차원에서 증오보다 사랑이 승리해야 함을 강조

well I think we are no longer in a position to confidently exclude even extremely short uh timelines like a year or two like I don't think that's likely but we don't have solid evidence that it couldn't happen in in a year or two like it might just be one breakthrough away and current systems plus this one you know idea might just kind of go all the way

그리고 2029년 관련 부분:
some predictions I've heard they're saying that we can expect AGI by the age of uh 2029 uh do you think that is correct well that uh that's that's that's one thing that could happen uh you know um it does seem um many people in the frontier Labs have uh timelines roughly in that ballpark

Bostrom은 1-2년 내 AGI 등장이 "likely하지는 않다"고 하면서도, 그 가능성을 완전히 배제할 수는 없다고 말했습니다. 특히 "하나의 breakthrough"만으로도 현재 시스템이 AGI 수준으로 발전할 수 있다고 언급했습니다.
2029년 전망에 대해서는, 첨단 AI 연구소의 많은 사람들이 그 정도 시기를 예상하고 있다고 확인했습니다.