1. 현재 LLM(대규모 언어 모델)의 한계:

- 물리적 세계를 이해하는 능력 부족

- 지속적인 메모리 부족

- 추론과 계획 능력의 한계

2. 새로운 AI 접근 방식 'AMI' (Advanced Machine Intelligence):

- AGI 대신 AMI라는 용어 선호 (AGI는 인간 지능이 일반적이지 않다는 점에서 부적절)

- 5-6년 내 의미 있는 시스템 개발 목표

- 10년 내 인간 수준의 시스템 개발 가능성 제시

3. JEPA (Joint Embedding Predictive Architecture):

- 비디오나 물리적 세계를 이해하는 새로운 방식

- 추상적 표현을 통한 예측 가능

- 실제 세계 모델링에 더 효과적

4. 합성 데이터에 대한 견해:

- 모든 LLM 학습 데이터는 어느 정도 합성적

- AI가 생성한 데이터로만 계속 학습하면 시스템이 붕괴할 수 있음

- 실제 세계 이해를 위해서는 텍스트보다 비디오 학습이 중요

5. AI 규제에 대한 입장:

- 오픈소스 AI 플랫폼을 과도하게 규제하면 안 됨

- 규제로 인해 생태계가 죽을 수 있다는 우려

6. 미래 전망:

- 텍스트 기반 학습만으로는 인간 수준의 AI 달성 불가능

- 로봇공학과 실제 세계 이해가 중요

- 계획, 추론, 물리적 세계 이해가 가능한 시스템 필요

LeCun은 현재의 LLM 중심 접근방식보다 더 포괄적이고 실제적인 AI 발전 방향을 제시하며, 특히 물리적 세계 이해와 추론 능력 향상의 중요성을 강조했습니다.

 

 

"(LLM에) 약간의 추론과 약간의 이미지 이해 기능을 추가하는 방식으로 수정하는 것은 단기적으로 유용합니다. 이것은 우리가 작업하고 있는 것이고 Manu와 그의 팀이 작업하고 있는 것입니다. 이것이 여러분이 LLaMA 4에서 보게 될 것입니다."

 

하지만 LeCun은 이러한 접근이 장기적인 해결책은 아니라고 보았습니다. 그는 LLM을 확장하고 더 많은 데이터로 훈련시키고 추론과 이미지 이해를 위해 약간의 수정을 가하는 것만으로는 인간 수준의 AI에 도달할 수 없다고 주장했습니다. 대신 그는 JEPA와 같은 새로운 패러다임이 필요하다고 강조했습니다.

 

결국 LLaMA 4는 추론 능력과 이미지 이해 기능이 개선될 것임을 시사했지만, 이는 단기적인 개선사항일 뿐이며 진정한 AI 발전을 위해서는 더 근본적인 접근 방식의 변화가 필요하다는 것이 그의 견해였습니다.