인터뷰/예측
scale.ai 알렉산더 왕 "초지능까지 약 6년 또는 그 이하로 예상"
핵심 내용:
1. AI 발전 단계
- 연구 단계 (2012-2018): AlexNet부터 첫 GPT까지
- 스케일링 단계 (2018-2024): 모델 규모가 1만배 이상 증가, 연간 2,000억 달러 투자
- 혁신 단계 (2024-초지능 달성까지): 현재 시작. 약 6년 또는 그 이하로 예상
2. 초지능(Superintelligence)까지의 5가지 주요 과제:
- 데이터 장벽: 2027-2030년경 공개 데이터 고갈 예상
- 평가 체계(Evals): 현재 벤치마크가 포화상태로 더 어려운 평가 기준 필요
- 에이전트 발전: L1(챗봇)에서 L5(완전 자율)까지 발전 필요
- 칩과 에너지: 향후 5년간 100GW(시카고 20개 도시 규모) 전력 필요
- 중국과의 경쟁: 알고리즘은 앞섰으나 데이터는 뒤처진 상황
3. 주목할 미래 발전 분야:
- 실체화된 AI와 로봇공학
- 장기 사고능력(수년간 '생각'하여 암 치료나 밀레니엄 문제 해결)
- AI 연구원 에이전트: 자기개선이 가능한 첫 형태
특이사항:
- 현재를 "폭풍 전의 고요"로 표현하며, AI 업계는 AGI나 초지능이 매우 가까웠다고 인식
- 맨해튼 프로젝트와 AI 발전을 비교하며 기술적 성공이 윤리적 고려보다 선행됨을 지적
- AI는 컴퓨팅, 데이터, 알고리즘의 세 축으로 발전하며, 어느 한 분야의 진전도 전체 발전을 가속화
연설은 현재가 인류 역사상 가장 중요한 시기이며, 초지능 개발을 향한 공동 프로젝트에 모두가 참여자임을 강조하며 마무리됐습니다.
"and then 01 I think kicks off this new phase of you know we sort of think about as an innovation era which is basically now until super intelligence we'll see if that's 6 years or maybe even a bit less than that"
여기서 "01"은 문맥상 Q* (Q-Star)나 새로운 AI 모델을 지칭하는 것으로 보입니다. 연설자는 이 새로운 모델이 "혁신 시대"의 시작을 알리며, 이 시기가 초지능까지 약 6년 또는 그보다 더 짧을 수 있다고 언급했습니다.
이는 제 이전 요약에서 정확했습니다만, 좀 더 맥락을 제공하자면, 이 언급은 이전 AI 발전 단계들(연구 단계 6년, 스케일링 단계 6년)을 설명한 후에 나온 것입니다. 발표자는 각 단계가 약 6년 정도 지속되는 패턴을 언급하면서, 이 마지막 혁신 단계도 비슷한 기간이 걸릴 수 있지만 더 빠를 수도 있다고 추측했습니다.
"we partnered with um the center for AI safety uh Dan Hendricks on an eval called Humanity's last exam uh we uh what we're doing is collecting super hard research questions from every field of research uh to be able to create you know the the hardest exam that Humanity has ever seen um we think that if you know this gets solved if this gets saturated we probably basically have AGI"
해석/요약:
- AI 안전 센터(Center for AI Safety)의 Dan Hendricks와 협력하여 "인류의 마지막 시험"이라는 평가 체계를 개발
- 모든 연구 분야에서 가장 어려운 연구 질문들을 수집하여 "인류가 본 가장 어려운 시험"을 만드는 중
- 만약 AI가 이 시험을 통과하거나 포화상태(saturated)에 도달하면, 실질적으로 AGI에 도달했다고 볼 수 있다고 설명
이는 현재 AI 모델들의 능력을 측정하는 기존 벤치마크들이 너무 쉬워졌다는 맥락에서 나온 새로운 평가 체계입니다.