인터뷰/예측
데미스 하사비스 "가까운 시일 내에 사실상 무한한 컨텍스트를 가질 수 있을 것"
작성자
작성일
2024-12-12 09:20
조회
1064
"Yeah. So the context windows, I mean, as you know, with the previous Gemini 1.5 ERA, we had the long context innovation, up to 2 million tokens. Actually, internally we tested this to be on 10 million."
"We have some new innovations that we're working on that will increasingly, sort of exponentially reduce the cost of larger and larger models so that eventually, you know, I think over the next, pretty short amount of time, we'll have effectively infinite context."
“컨텍스트 창은 아시다시피 이전 Gemini 1.5 ERA에서는 최대 200만 토큰까지 긴 컨텍스트 혁신이 있었습니다. 사실 내부적으로는 1,000만 개까지 테스트했습니다.”
“우리는 점점 더 큰 모델의 비용을 기하급수적으로 줄일 수 있는 새로운 혁신 기술을 개발 중이며, 결국에는 아주 짧은 시간 내에 사실상 무한한 컨텍스트를 갖게 될 것입니다.”
1. Gemini 2.0 발표
- Google DeepMind이 Gemini 2.0을 출시하며, 첫 모델로 'Flash' 크기의 모델 출시
- Gemini 2.0 Flash는 1.5 Pro와 비슷한 성능을 보이면서도 더 작은 크기와 빠른 속도를 제공
- 개발자들이 즉시 사용 가능하며, Gemini 앱도 업그레이드될 예정
2. Project Astra 소개
- 유니버설 디지털 어시스턴트를 목표로 하는 프로젝트
- 실시간으로 사용자의 환경을 보고, 듣고, 이해할 수 있는 AI 시스템
- 휴대폰이나 스마트 글래스 등 다양한 기기에서 작동 가능
- 사용자의 선호도를 학습하고 기억하며, 여러 기기에서 연속적인 경험 제공
3. 기술적 진보
- 컨텍스트 윈도우가 2백만 토큰까지 확장되었으며, 내부적으로는 1천만 토큰까지 테스트
- 인간의 기억 시스템에서 영감을 받아 효율적인 메모리 관리 시스템 개발 중
4. 게이밍 관련 계획
- AI를 게임에 통합하는 새로운 방식 탐구 중
- 게임 캐릭터의 AI, 자동 밸런싱, 학습하는 에이전트 등을 포함한 새로운 형태의 게임 개발 가능성 검토
- 일론 머스크와의 잠재적 협력 가능성도 언급
5. 윤리적 고려사항
- AI 컴패니언에 대한 사람들의 의존도 증가 우려
- 사회과학자들과 윤리학자들의 의견이 필요함을 강조
- 긍정적 사용 사례(예: 노인 케어)와 잠재적 문제점 모두 고려 필요
전체 0