타임라인 언급

"We are 3 or so years away from something that resembles a digital AGI."

"We're actually on a very accelerated timeline"

 

"we are we are three or so years away from something that resembles a a digital AGI um and by that that's um that's what I've been referring to as universal and Su has both this kind of bre and depth of knowledge"

Misha는 폭넓고 깊은 지식을 갖춘 보편적인 디지털 AGI가 약 3년 내에 실현될 수 있다고 믿고 있습니다.

"we're still we're still on an exponential part of the reason is that these things are so bulky and slow to train that there's no way um collectively as a you know as a field of researchers and Engineers that we've optimized it um yet"

현재 AI 발전이 여전히 기하급수적으로 빠르게 진행 중이며, 모델 훈련의 비효율성 때문에 아직 최적화의 여지가 많다고 봅니다.

"it's honestly kind of alarming I think the speed at which the the field is moving"
Misha는 AI 분야의 발전 속도가 놀라울 정도로 빠르다고 언급했습니다.

"I think small number of years"

 

요약

1. AI의 깊이 문제: 미샤 라스킨은 AI에서 깊이 문제를 해결하는 것이 중요하다고 강조했습니다. 그는 넓이 문제는 많이 다뤄졌지만, 깊이를 달성하는 것이 큰 언어 모델(LLM)의 진정한 능력을 열기 위해 필수적이라고 말했습니다.

2. 개인적인 배경: 미샤 라스킨은 러시아에서 이스라엘, 그리고 미국으로 이주한 자신의 여정을 공유했습니다. 부모님의 화학 박사 과정 추구가 기술 발전에 대한 그의 관심을 자극하여 결국 AI에 이르게 했다고 설명했습니다.

3. 초기 영감: 리처드 파인만의 물리학 강의에 영감을 받아, 미샤는 근본적인 문제를 이해하고 사물이 어떻게 작동하는지 깊이 파고드는 데 관심을 가지게 되었습니다. 이는 그가 물리학을 거쳐 AI로 전향하게 된 계기가 되었습니다.

4. AlphaGo의 영향: AlphaGo의 출시는 미샤에게 깊은 영향을 미쳤습니다. 이 시스템이 인간을 능가할 뿐만 아니라 창의성을 발휘하는 것을 보면서, 그는 AI 에이전트 구축에 집중하게 되었습니다.

5. AI로의 경력 전환: 미샤는 물리학에서 AI로 전향한 후, 딥 러닝의 잠재력을 인식하게 되었습니다. 스타트업을 시작으로 강화 학습 문제를 다루었고, 버클리에서 피터 아빌과 같은 최고 연구자들과 협력했습니다.

6. 야니스와의 협업: 미샤와 공동 창업자 야니스는 AlphaGo와 Gemini와 같은 프로젝트에서 중요한 역할을 했으며, 이 경험을 바탕으로 범용 초인적 에이전트를 구축하려 하고 있습니다.

7. AI 에이전트의 한계: 미샤는 현재 AI 시스템이 진정한 에이전시를 달성하는 데 있어 한계를 가지고 있다고 언급했습니다. LLM은 넓이는 다룰 수 있지만, 복잡한 다단계 작업에 필요한 깊이와 신뢰성이 부족하다고 지적했습니다.

8. 강화 학습의 역할: 강화 학습(RL)은 신뢰할 수 있는 AI 에이전트를 개발하는 데 필수적이지만, 이러한 에이전트를 훈련시키기 위한 확장 가능한 보상 모델과 환경을 만드는 데 여전히 도전 과제가 남아 있습니다.

9. 후속 훈련의 중요성: 미샤는 AI 모델에서 좋은 행동을 강화하는 후속 훈련의 중요성을 강조했습니다. 그는 AlphaGo의 훈련 단계와의 유사성을 언급하며, 강력한 강화 학습 알고리즘이 필요하다고 강조했습니다.

10. 리플렉션 AI의 비전: 리플렉션 AI는 AI 에이전트의 깊이와 신뢰성 문제를 해결하는 데 중점을 두고 있으며, 높은 능력과 안전성을 갖춘 디지털 에이전트를 만들어 생산성을 크게 향상시키고 복잡한 목표를 달성할 수 있도록 하는 것을 목표로 하고 있습니다.

11. AGI의 도래 시기: 미샤는 디지털 AGI, 즉 범용적이고 신뢰할 수 있는 디지털 에이전트가 약 3년 내에 등장할 것으로 예측하고 있습니다. 그는 이 시점에 이르면 AGI가 메모 작성과 같은 일상적인 작업을 수행할 수 있을 것이라고 말합니다.

12. 빠른 진전: 그는 AI 분야가 빠르게 발전하고 있으며, 특히 언어 모델의 경우, 현재 우리가 지수적인 성장 단계에 있다고 믿고 있습니다. 미샤는 현재 모델들이 최적화되지 않았으며, 더 많은 실험과 개선의 여지가 남아 있다고 말합니다.

13. 심화와 신뢰성 문제: 미샤는 AGI의 실현을 위해서는 깊이와 신뢰성 문제를 해결하는 것이 중요하다고 강조합니다. 현재의 언어 모델은 채팅과 같은 상호작용에는 뛰어나지만, 에이전시(agency) 측면에서는 여전히 부족하다고 지적합니다.

14. 연구와 적용: 그는 AGI의 실현을 위해서는 강화 학습과 인간 피드백을 결합한 알고리즘 개발이 필요하며, 이를 통해 모델의 신뢰성과 깊이를 개선할 수 있을 것이라고 설명합니다.

15. 안전과 신뢰성: 미샤는 신뢰성 문제가 곧 안전 문제라고 강조하며, 신뢰할 수 있고 안전한 AI 시스템을 만드는 것이 중요하다고 말합니다. 이는 AI 시스템이 사용자의 의도에 따라 정확하게 작동하고, 예기치 않은 결과를 초래하지 않도록 하는 것을 의미합니다.