https://arxiv.org/abs/2411.16905

https://syncedreview.com/2024/11/29/self-evolving-prompts-redefining-ai-alignment-with-deepmind-chicago-us-eva-framework-9/

폐쇄된 시스템 내에서 훈련된 에이전트는 다음 세 가지 조건이 충족되는 한 원하는 모든 역량을 습득할 수 있습니다. (a) 충분히 유익하고 정렬된 피드백을 받습니다. (b) 경험/데이터 범위가 충분히 넓습니다. (c) 충분한 용량과 리소스가 있습니다. 이 입장 문서에서 우리는 이러한 조건을 정당화하고 (c)가 병목 현상이 아니라고 가정할 때 폐쇄된 시스템에서 (a)와 (b)로 인해 발생하는 제한 사항을 고려합니다. 입력 및 출력 공간이 일치하는 에이전트(즉, 언어)의 특수한 경우를 고려할 때, "소크라테스 학습"이라고 불리는 이러한 순수한 재귀적 자기 개선은 초기 데이터나 지식에 존재하는 것보다 훨씬 더 높은 성능을 제공할 수 있으며, 시간과 점진적인 오정렬 문제에 의해서만 제한된다고 주장합니다. 나아가 언어 게임이라는 개념을 기반으로 이를 구현하기 위한 건설적인 프레임워크를 제안합니다.