1. AGI 개발 전략: Magic은 코드를 작성하고, 아이디어를 생성하며, 실험을 통해 검증할 수 있는 시스템을 구축하는 데 초점을 맞춰 AGI를 역으로 개발하고 있습니다.

2. 아키텍처 접근: Magic은 긴 컨텍스트 윈도우(1년 전 5백만 토큰 발표)를 강조하여 모델이 장기간의 행동 기록으로부터 학습하고 대량의 빠르게 변화하는 데이터를 통합할 수 있게 합니다.

3. 컴퓨팅 요구사항: Steinberger는 처음에 필요한 컴퓨팅 파워를 과소평가했다고 인정하며, Magic은 이를 해결하기 위해 지금까지 가장 큰 클러스터 중 하나를 구축 중입니다.

4. 안전성과 정렬: 회사의 주요 목표는 안전 경계를 가진 AGI를 향해 반복적으로 발전하는 것입니다. 각 세대의 모델을 사용하여 다음 단계의 정렬 및 안전 문제를 해결할 계획입니다.

5. AGI 타임라인과 영향: 구체적인 타임라인은 제시되지 않았지만, Steinberger는 AGI가 대부분의 현재 작업을 자동화하고 인간이 새로운 의미와 생산성 원천을 찾아야 할 필요성 등 심오한 영향에 대해 논의했습니다.

6. 경제적, 사회적 영향: Steinberger는 AGI가 재정적 이득을 위한 일의 필요성을 없앨 수 있는 대규모 경제 변화를 초래할 것이며, 동시에 새로운 기회와 도전을 창출할 것이라고 예측합니다.

7. 경쟁 환경: Magic은 다른 회사들이 AGI 개발을 위한 코드 생성의 중요성을 인식함에 따라 코딩 AI 분야에서 직접적인 경쟁을 예상합니다.

8. 제품 개발: 회사는 단순한 보조 도구가 아닌 "진정한 천재 동료" 같은 느낌의 AI 시스템을 만들어 코딩 작업의 90%를 자동화하는 것을 목표로 합니다.

9. 팀 구축: Magic은 안전한 AGI 개발이라는 미션을 깊이 이해하고 관심을 가진 매우 열정적이고 충성도 높은 개인들을 고용하는 데 중점을 둡니다.

10. 미래 비전: Steinberger는 특정 과학 문제 해결에 집중하기보다는 AGI 전환 후 30년 후에 세계가 좋은 상태에 있게 하는 것이 주요 목표라고 강조합니다.

 

컴퓨팅 파워에 대한 인식 변화: Steinberger는 처음에 AGI 개발에 필요한 컴퓨팅 파워를 과소평가했다고 인정했습니다. 이는 AI 발전에 있어 대규모 컴퓨팅 자원의 중요성을 강조합니다.

안전성과 정렬의 중요성: 그는 AGI 개발 과정에서 안전성과 정렬(alignment)을 핵심 과제로 언급했습니다. 각 단계의 AI 모델을 사용해 다음 단계의 안전 문제를 해결하려는 접근법은 특히 주목할 만합니다.

경제와 사회 구조의 변화: AGI가 현재의 많은 일자리를 자동화할 것이라는 예측과 함께, 인간이 새로운 의미와 목적을 찾아야 할 필요성을 언급했습니다. 이는 AGI 시대의 사회 변화에 대한 중요한 통찰을 제공합니다.

경쟁과 의미 찾기: Steinberger는 AGI 시대에 경쟁적인 성향의 사람들이 일을 통한 경쟁 기회 상실로 어려움을 겪을 수 있다고 언급했습니다. 이는 AGI 이후 사회에서의 개인적 만족과 의미 찾기에 대한 흥미로운 관점을 제시합니다.

오픈소스와 중앙화에 대한 딜레마: AGI 기술의 오픈소스화와 중앙화된 통제 사이의 균형에 대해 언급했습니다. 이는 AGI 개발에 있어 윤리적, 전략적 고려사항을 보여줍니다.

제품 개발 접근법: "언케니 밸리(uncanny valley)" 현상을 언급하며, AI 제품이 충분히 좋아질 때까지 출시를 미루는 전략에 대해 설명했습니다. 이는 AI 제품 개발의 실제적인 도전과 전략을 보여줍니다.

팀 구축 전략: 유명 인사를 영입하는 대신, 열정적이고 재능 있는 "숨겨진 인재"를 발굴하는 데 중점을 둔다고 언급했습니다. 이는 AGI 개발을 위한 독특한 인재 확보 전략을 보여줍니다.

14세 때의 "인생의 전환점": Steinberger는 14세 때 "인생의 위기"를 겪고 중요한 일을 해야 한다고 생각했다고 합니다. 이는 그의 어린 나이부터의 야심과 동기를 보여줍니다.

DeepMind와의 초기 연결: 그는 DeepMind의 누군가에게 연락해 "미니 PhD"같은 것을 할 수 있는지 물어보았다고 합니다. 이는 그의 진취적인 성격과 AI 분야에 대한 열정을 보여줍니다.

강화학습에서 언어모델로의 전환: Steinberger는 원래 강화학습 배경을 가졌지만, Magic을 시작할 때는 언어모델에 대한 배경이 없었다고 합니다. 이는 AI 연구의 빠른 발전과 연구자들의 적응력을 보여줍니다.

"Etsy의 미래": AGI 이후의 세계에서 Etsy와 같은 수공예품 플랫폼이 번창할 것이라는 흥미로운 예측을 합니다. 이는 인간의 창의성과 개인화된 제품에 대한 수요가 여전히 존재할 것이라는 관점을 제시합니다.

게임의 중요성: AGI 이후 세계에서 게임이 매우 중요해질 것이라고 예측합니다. 이는 인간의 경쟁 본능과 성취감을 충족시키는 새로운 방법으로서의 게임의 역할을 시사합니다.

리만 가설: 여러 번 리만 가설을 언급하며, 이를 AGI가 해결할 수 있는 중요한 수학 문제의 예로 들었습니다. 이는 AGI의 잠재적 능력에 대한 그의 기대를 보여줍니다.

자본주의와 경쟁의 역할: Steinberger는 자본주의와 경쟁이 올바른 방향으로 나아가기 위한 유일한 기회라고 믿는다고 말합니다. 이는 AGI 개발에 있어 시장 역학의 중요성에 대한 그의 견해를 반영합니다.

10,000개의 가능한 미래: 그는 AGI로 인해 10,000개의 가능한 미래가 있을 수 있으며, 우리가 어떤 선택을 하느냐에 따라 결과가 달라질 것이라고 말합니다. 이는 AGI 개발에 있어 인간의 결정과 정책의 중요성을 강조합니다.