최신논문
예시를 넘어서: MCTS를 통한 맥락 내 학습에서의 고수준 자동 추론 패러다임
작성자
작성일
2024-12-02 22:02
조회
377
https://arxiv.org/abs/2411.18478
상황에 맞는 학습(ICL)을 사용하면 대규모 언어 모델(LLM)이 정교한 프롬프트와 고품질 데모를 통해 다운스트림 작업을 처리할 수 있습니다. 그러나 이러한 전통적인 ICL 패러다임은 예제 품질에 대한 의존도가 높고 까다로운 시나리오에서 사람의 개입이 필요하기 때문에 복잡한 수학적 추론 작업에 직면할 때 한계를 드러냅니다. 이러한 한계를 해결하기 위해 이 백서에서는 구체적인 예시에서 추상적인 사고 패턴으로 초점을 전환하여 기존의 맥락 개념을 확장한 \textbf{ICL\에서 자동화된 \textbf{A} 수준의 \textbf{R} 추론 패러다임인 HiAR-ICL을 소개합니다. HiAR-ICL은 연쇄 구조 패턴을 구축하기 위한 기본 구성 요소로 다섯 가지 원자 추론 작업을 도입합니다. 몬테카를로 트리 검색을 사용하여 추론 경로를 탐색하고 사고 카드를 구성하여 후속 추론을 유도합니다. 그런 다음 문제를 적절한 사고 카드와 동적으로 일치시키는 인지 복잡성 프레임워크를 개발합니다. 실험 결과, Qwen2.5-7B-Instruct를 사용한 수학 벤치마크에서 최고 수준의 정확도(79.6%)를 달성하여 GPT-4o(76.6%)와 Claude 3.5(71.1%)를 능가하는 HiAR-ICL의 효과를 입증했습니다.
상황에 맞는 학습(ICL)을 사용하면 대규모 언어 모델(LLM)이 정교한 프롬프트와 고품질 데모를 통해 다운스트림 작업을 처리할 수 있습니다. 그러나 이러한 전통적인 ICL 패러다임은 예제 품질에 대한 의존도가 높고 까다로운 시나리오에서 사람의 개입이 필요하기 때문에 복잡한 수학적 추론 작업에 직면할 때 한계를 드러냅니다. 이러한 한계를 해결하기 위해 이 백서에서는 구체적인 예시에서 추상적인 사고 패턴으로 초점을 전환하여 기존의 맥락 개념을 확장한 \textbf{ICL\에서 자동화된 \textbf{A} 수준의 \textbf{R} 추론 패러다임인 HiAR-ICL을 소개합니다. HiAR-ICL은 연쇄 구조 패턴을 구축하기 위한 기본 구성 요소로 다섯 가지 원자 추론 작업을 도입합니다. 몬테카를로 트리 검색을 사용하여 추론 경로를 탐색하고 사고 카드를 구성하여 후속 추론을 유도합니다. 그런 다음 문제를 적절한 사고 카드와 동적으로 일치시키는 인지 복잡성 프레임워크를 개발합니다. 실험 결과, Qwen2.5-7B-Instruct를 사용한 수학 벤치마크에서 최고 수준의 정확도(79.6%)를 달성하여 GPT-4o(76.6%)와 Claude 3.5(71.1%)를 능가하는 HiAR-ICL의 효과를 입증했습니다.
전체 0