인터뷰/예측
2024. 7. 18 로건 킬패트릭 HumanLoop 인터뷰
작성자
작성일
2024-07-18 14:21
조회
1699
요약
1. AI 기업과 제품 개발:
- AI를 핵심으로 삼고 과감하게 투자하는 기업들이 성공할 가능성이 높습니다.
- 많은 기업들이 AI를 단순한 기능 추가로만 보는 경향이 있지만, 전체 제품을 AI 중심으로 재구성하는 것이 더 효과적일 수 있습니다.
2. 프롬프트 엔지니어링과 파인튜닝:
- 파인튜닝의 중요성이 증가하고 있으며, 개인화된 모델 구축에 필수적입니다.
- 프롬프트 엔지니어링은 여전히 중요하지만, 향후에는 AI 시스템이 자동으로 최적화된 프롬프트를 생성할 것으로 예상됩니다.
3. Google의 AI 전략:
- Google은 최근 AI 개발에 더욱 집중하고 있으며, Gemini 모델을 통해 다양한 혁신을 이루고 있습니다.
- 2백만 토큰의 컨텍스트 길이, 컨텍스트 캐싱 등 새로운 기능을 도입했습니다.
4. AGI(인공일반지능)에 대한 견해:
- Logan은 AGI가 당장 실현되더라도 실제 세계에 미치는 영향은 제한적일 것이라고 봅니다.
- 물리적 세계의 문제(예: 건물 건설)를 해결하는 데 AGI의 직접적인 영향이 제한적일 것이라고 예상합니다.
- AGI가 일부 작업의 효율성을 20% 정도 향상시킬 수 있지만, 이것이 일상생활에 큰 변화를 가져오지는 않을 것이라고 봅니다.
5. AI의 미래:
- 챗봇이 AI의 최종 형태가 아닐 것이라고 예측합니다.
- 물리적 세계와 더 많이 상호작용하는 AI 형태(예: 로봇)가 더 큰 영향을 미칠 수 있다고 봅니다.
타임라인
1. GPT-4의 훈련 완료 시점:
Logan은 GPT-4 모델의 훈련이 완료된 지 거의 2년이 되어간다고 언급했습니다.
2. 현재 상황:
인터뷰 당시(2024년 7월 18일)까지 GPT-4 수준의 모델이 나온 이후 큰 단계적 발전이 없었다고 언급했습니다.
3. 미래 전망:
- Logan은 모델 자체의 능력 향상보다는 시스템 구축을 통해 다음 단계의 발전이 이루어질 것으로 예상했습니다.
- 그러나 구체적인 시기나 타임라인은 제시하지 않았습니다.
4. 지속적인 개선:
모델들이 계속해서 개선되고 있으며, 새로운 평가 지표들이 생기면 그에 맞춰 성능이 향상될 것이라고 언급했지만, 구체적인 시간 프레임은 제시하지 않았습니다.
Gemini 언급
1. Gemini 1.5 Pro:
- 2백만 토큰의 컨텍스트 길이를 지원한다고 언급했습니다.
- 이는 약 2시간 분량의 비디오 데이터(오디오, 이미지, 트랜스크립트 포함)를 처리할 수 있는 수준입니다.
2. 컨텍스트 캐싱:
- Gemini에서 도입한 새로운 기능으로, 반복적으로 사용되는 컨텍스트 정보를 저장해 비용과 지연 시간을 줄일 수 있습니다.
3. Gemini 1.5 Flash:
- 개발자들 사이에서 큰 호응을 얻고 있는 모델이라고 언급했습니다.
- GPT-4보다 10배 저렴하면서도 다중 모달 기능을 native하게 지원하고, 1.5 Pro와 같은 첨단 기능들을 갖추고 있습니다.
- Logan은 이 모델이 능력, 지능, 비용, 지연 시간 등의 트레이드오프에서 좋은 균형을 찾았다고 평가했습니다.
4. 파인튜닝:
- Gemini 모델의 파인튜닝 비용이 낮아져, 이전에는 재정적으로 불가능했던 아이디어들이 실현 가능해졌다고 언급했습니다.
5. 개발자 중심:
- Google DeepMind가 이 기술을 개발자들의 손에 넣는 것을 목표로 하고 있다고 강조했습니다.
전체 0