https://arxiv.org/abs/2408.08435

연구자들은 Foundation Models가 에이전트 시스템(예: Chain-of-Thought, Self-Reflection, Toolformer) 내에서 모듈로 사용되는 강력한 범용 에이전트를 개발하는 데 상당한 노력을 기울이고 있습니다. 그러나 머신 러닝의 역사는 수작업으로 설계된 솔루션이 결국 학습된 솔루션으로 대체된다는 것을 보여줍니다. 우리는 새로운 연구 분야인 에이전트 시스템의 자동화된 설계(ADAS)를 공식화하여 새로운 빌딩 블록을 발명하거나 새로운 방식으로 결합하는 것을 포함하여 강력한 에이전트 시스템 설계를 자동으로 생성하는 것을 목표로 합니다. 우리는 또한 ADAS 내에서 에이전트를 코드로 정의할 수 있고 새로운 에이전트를 코드에서 더 나은 에이전트를 프로그래밍하는 메타 에이전트가 자동으로 발견할 수 있는 미개척이지만 유망한 접근 방식이 있음을 보여줍니다. 프로그래밍 언어가 튜링 완전하다는 점을 감안할 때 이 접근 방식은 이론적으로 새로운 프롬프트, 도구 사용, 제어 흐름 및 이들의 조합을 포함하여 가능한 모든 에이전트 시스템을 학습할 수 있습니다. 우리는 이 아이디어를 보여주기 위해 메타 에이전트 검색이라는 간단하면서도 효과적인 알고리즘을 제시합니다. 여기서 메타 에이전트는 이전 발견의 계속 증가하는 아카이브를 기반으로 흥미로운 새로운 에이전트를 반복적으로 프로그래밍합니다. 코딩, 과학, 수학을 포함한 여러 도메인에 걸친 광범위한 실험을 통해, 저희 알고리즘은 최첨단 수작업으로 설계된 에이전트보다 훨씬 더 뛰어난 새로운 디자인의 에이전트를 점진적으로 발명할 수 있음을 보여줍니다. 중요한 점은, Meta Agent Search에서 발명한 에이전트가 도메인과 모델을 넘나들더라도 뛰어난 성능을 유지한다는 놀라운 결과를 지속적으로 관찰하여 견고성과 일반성을 입증한다는 것입니다. 안전하게 개발한다면, 저희의 연구는 인류에게 이로운 더욱 강력한 에이전트 시스템을 자동으로 설계하는 흥미로운 새로운 연구 방향의 잠재력을 보여줍니다.