어젯밤 뉴욕에서 열린 AI 업계 관계자들의 저녁 모임에 참석했다. 몇 가지 흥미로운 주제가 논의되었다.

1. 성능 최적화 엔지니어들은 이제 대부분의 시간을 AI 에이전트와 재귀적 자기개선(RSI) 루프를 관리하는 데 사용한다. 주요 AI 추론 서비스 업체들(Together, Fireworks 등)에서 이루어지는 성능 최적화의 대부분은 이제 AI 에이전트가 찾아내고 있다.

2. 코딩과 수학 분야에 지나치게 강화학습(RL)을 적용하면 모델에 부정적인 영향을 미친다. 특히 자연어 능력이 저하되는 문제가 발생할 수 있다.

3. 사람들은 @bot에 깊은 인상을 받았으며, SpaceXAI가 Cursor를 인수한 전반적인 과정에도 긍정적인 평가를 내렸다. 현재 xAI는 최첨단 AI 모델을 개발하는 진정한 프런티어 연구소로 인정받고 있다.

4. 대부분의 참석자는 AI 에이전트를 개발 과정에 지속적으로 투입해 하루 24시간, 주 7일 내내 코드를 작성하고 검토하며 풀 리퀘스트(PR)를 제출하도록 하고 있다.

5. 참석자 대부분은 이제 사람이 직접 코드 리뷰를 하는 것이 그다지 생산적이지 않다는 데 동의했다.

6. 참석자들 사이에서는 Fable 5.5가 놀라운 성능을 보여줄 것이지만, OpenAI가 12월에 'Bel'이라는 모델로 이를 능가할 것이라는 데 의견이 모였다.