https://huggingface.co/microsoft/Phi-4-reasoning

https://huggingface.co/microsoft/Phi-4-reasoning-plus





놀라웠던 점:

 

추론(Reasoning)이 정말로 전이 가능한(transferable) 메타 스킬(meta-skill)이며, 심지어 SFT(지도 미세조정)만으로도 학습 가능하다는 점입니다!!

 

증거 #1: 비추론(non-reasoning) 과제에 대한 명시적 학습 없이도, IFEval, FlenQA, 내부 PhiBench에서 10점 이상씩 유의미한 성능 향상을 보였습니다.

 

코딩 데이터 역시 SFT 중에도 소수만 포함되어 있었고 RL(강화학습) 중에는 전혀 사용되지 않았음에도 불구하고, 모델은 여전히 훌륭한 성능을 보여줍니다. 예를 들어 LCB와 Codeforces에서 o1-mini 수준의 점수를 획득했습니다. 참고로 다음 버전에서는 코딩에 집중할 예정입니다 😀

 

증거 #2: Traveling Salesman, 미로 탐색, k-SAT, 제약 계획(constrained planning) 등과 같은 여러 문제에 대해서도 SFT나 RL 과정에서 단 한 번도 명시적으로 학습하지 않았음에도, 모델이 이 문제들을 매우 잘 해결합니다!! Phi-4(또는 GPT-4)는 이들 문제를 전혀 해결하지 못했죠.

 

추론 능력이 기술로서 전이(skill transfer)되었다는 명확한 증거입니다!