최신논문
더 깊이 있는 LLM 사고의 진화
작성자
작성일
2025-01-20 18:24
조회
511
https://arxiv.org/abs/2501.09891
대규모 언어 모델에서 추론 시간 계산을 확장하기 위한 혁신적인 검색 전략을 살펴봅니다. 제안된 접근 방식인 Mind Evolution은 언어 모델을 사용하여 후보 응답을 생성, 재조합 및 개선합니다. 제안된 접근 방식은 솔루션 평가자를 사용할 수 있을 때마다 기본 추론 문제를 공식화할 필요가 없습니다. 추론 비용을 통제하면, Mind Evolution은 자연어 계획 작업에서 Best-of-N 및 Sequential Revision과 같은 다른 추론 전략보다 훨씬 우수하다는 것을 발견했습니다. TravelPlanner 및 Natural Plan 벤치마크에서 Mind Evolution은 공식 솔버를 사용하지 않고 Gemini 1.5 Pro를 사용하여 문제 인스턴스의 98% 이상을 해결합니다.
대규모 언어 모델에서 추론 시간 계산을 확장하기 위한 혁신적인 검색 전략을 살펴봅니다. 제안된 접근 방식인 Mind Evolution은 언어 모델을 사용하여 후보 응답을 생성, 재조합 및 개선합니다. 제안된 접근 방식은 솔루션 평가자를 사용할 수 있을 때마다 기본 추론 문제를 공식화할 필요가 없습니다. 추론 비용을 통제하면, Mind Evolution은 자연어 계획 작업에서 Best-of-N 및 Sequential Revision과 같은 다른 추론 전략보다 훨씬 우수하다는 것을 발견했습니다. TravelPlanner 및 Natural Plan 벤치마크에서 Mind Evolution은 공식 솔버를 사용하지 않고 Gemini 1.5 Pro를 사용하여 문제 인스턴스의 98% 이상을 해결합니다.
전체 0