https://firesidealpha.substack.com/p/fireside-am-brief-cbrs-openai-nbis

“그래서 그런 투자들 중 상당수는 회사 내부에서 봤을 때 굉장히 단기적인 투자로 여겨집니다. 우리가 그런 투자를 하는 이유는 그것이 오늘 당장 더 빠르게 반복 실험하고 배우는 데 도움이 되기 때문이지, 그것 자체가 올바른 장기 전략이기 때문은 아닙니다.”

“여전히 OpenAI 연구의 80~90%는 GPT-7, GPT-8, 그리고 그 이후 세대를 향하고 있습니다. 우리는 근본적으로 대부분의 가치가 그쪽에서 나온다고 믿기 때문입니다.”

“그리고 GPT-6 Astra 같은 모델을 개발하고 나면, 그 모델의 능력을 아주 작은 GPT-Luna 모델로 증류할 수 있습니다.”

“즉, 작고 특화된 모델을 가장 잘 학습시키는 방법은 사실 먼저 크고 압도적으로 뛰어난 모델을 학습한 다음, 그 모델을 ‘교사(teacher)’로 활용해서 더 작은 ‘학생(student)’ 모델을 가르치는 방법을 찾아내는 것입니다.”



OpenAI의 Applied Research 책임자는 GPT-6가 로보틱스 벤치마크에서 압도적인 성능을 보이고 있고, 현재의 로봇 하드웨어도 이미 충분히 쓸 만한 수준에 도달했기 때문에, 앞으로 그래픽카드 대란과 비슷한 로봇 부품 부족 사태가 올 수 있다고 전망했습니다.

“GPT-6를 통해 우리가 본 것은, 이제 모델들이 로보틱스 분야의 여러 벤치마크를 그냥 압도해버리고 있다는 겁니다. 그리고 저는 이게 시작에 불과하다고 생각합니다. 데모에서도 그런 모습을 봤고, 이제 실제 벤치마크 결과들도 나오기 시작하고 있다고 봅니다.”

“제 생각에는 GPT-6를 학습용 모델로 사용한 뒤, 실제 서비스 단계에서는 원하는 효율적인 아키텍처를 따로 사용할 수도 있을 것 같습니다. 그렇게 하면 추론을 굉장히 빠르게 제공할 수 있겠죠. 하지만 오랫동안 로보틱스에서 가장 큰 문제는 학습 데이터였습니다.”

“그리고 로봇의 몸 자체도 이제는 충분히 좋은 것 같습니다. 로봇 올림픽 같은 행사나 사람이 원격 조종하는 로봇들을 봐도, 이미 상당히 많은 일을 해낼 수 있다는 걸 확인했습니다.”

“그러니까 정말로 ‘두뇌’만이 유일하게 남은 문제이고, 최상위 AI 능력이 계속 기하급수적으로 개선된다면 상황이 크게 달라질 수 있습니다. Astra 자체는 너무 느려서 모든 문제를 직접 해결하기에는 적합하지 않을 수도 있습니다. 하지만 일단 Astra 수준의 능력을 확보하면, 그 능력을 수많은 특화된 용도로 사실상 무한히 확장해 사용할 수 있고, 이후에는 그것을 아주 작고 가벼운 모델로 증류해서 실제 로봇에서 구동할 수 있습니다.”

“그래서 저는 물리적 AGI, 즉 현실 세계에서 움직이는 AGI가 엄청나게 폭발적으로 성장할 가능성이 높다고 봅니다. 그리고 아마 로봇 부품 부족 현상도 생길 겁니다. 그래픽카드 수요가 폭증하면서 전체 공급망에 문제가 생겼던 것과 똑같은 일이 로보