OpenAI의 Astra AI는 ‘recurrent depth(반복적 깊이)’라고 불리는 새로운 추론 방식을 사용합니다.

이 방식은 모델의 비용 효율성과 성능을 개선하는 데 도움이 될 수 있지만, 연구자들은 한 가지 문제를 우려하고 있습니다. 바로 이 구조가 모델의 사고 과정을 더 불투명하게 만들어 모니터링을 어렵게 할 수 있다는 점입니다.

 



새 소식: OpenAI를 비롯한 여러 곳에서, 규모를 키워도 모델의 ‘생각 과정’을 드러내지 않는 루프 트랜스포머(loop transformer)를 조용히 사용하고 있다고 합니다.

성능 면에서는 큰 도약이지만, 이 기술이 본격적으로 확산될 경우 보안과 모니터링 측면에서 문제가 생길 수 있다는 우려가 OpenAI 내부와 외부 모두에서 커지고 있습니다.