https://www.biorxiv.org/content/10.1101/2025.02.05.636732v1

 

기호 모델은 인지 과학에서 핵심적인 역할을 하며, 뇌가 인지 과정을 구현하는 방법에 대한 계산적으로 정확한 가설을 표현합니다. 적절한 모델을 식별하려면 일반적으로 인간 과학자의 많은 노력과 독창성이 필요합니다. 여기서 우리는 진화 알고리즘에서 대규모 언어 모델(LLM)을 사용하는 최근 개발된 도구인 FunSearch Romera-Paredes et al. (2024) 을 적용하여 인간과 동물의 행동을 정확하게 포착하는 기호 인지 모델을 자동으로 발견합니다. 우리는 상당한 모델링 노력의 초점이었던 고전적인 보상 학습 작업을 수행하는 세 종의 데이터 세트를 고려하고 발견된 프로그램이 각각에 대한 최첨단 인지 모델보다 성능이 우수하다는 것을 발견했습니다. 발견된 프로그램은 인간과 동물의 인지에 대한 가설로 쉽게 해석될 수 있으며, 해석 가능한 기호 학습 및 의사 결정 알고리즘을 인스턴스화합니다. 광범위하게 이러한 결과는 LLM 기반 프로그램 합성을 사용하여 인간과 동물의 인지 메커니즘에 대한 새로운 과학적 가설을 제안하는 것이 가능하다는 것을 보여줍니다.

 

이 논문은 인간과 동물의 행동을 분석하여 상징적 인지 모델을 자동으로 발견하는 방법을 다룹니다. 기존에는 과학자들이 직접 모델을 만들어가면서 연구해야 했지만, 이 논문에서는 FunSearch라는 도구를 활용해 기계 학습 기반의 자동 모델 생성 방법을 제안합니다.

주요 내용 요약:

1. 상징적 인지 모델이란?
   • 인간과 동물의 행동을 설명하는 수학적 또는 컴퓨터 프로그램 형태의 모델.
   • 예를 들어, 보상을 받을 확률이 높은 선택을 하는지 등의 학습 과정 모델링.
2. 기존 연구의 한계
   • 연구자가 직접 모델을 설계해야 했고, 최적의 모델을 찾기가 어려웠음.
   • 신경망(RNN) 기반 모델이 기존 모델보다 데이터를 더 잘 맞출 수 있었음.
3. 새로운 접근법: CogFunSearch
   • FunSearch: 대형 언어 모델(LLM)을 이용해 최적의 프로그램을 생성하는 알고리즘.
   • CogFunSearch: FunSearch를 확장하여 인지 모델을 찾는 방법.
   • 작동 방식:
     1. 행동 데이터 입력 (인간, 쥐, 초파리 실험 데이터 사용).
     2. FunSearch가 다양한 프로그램을 자동으로 생성하고 평가.
     3. 최고의 성능을 내는 프로그램을 선택하여 모델로 활용.
4. 결과 및 성과
   • 인간, 쥐, 초파리의 행동 데이터를 분석한 결과, CogFunSearch가 기존 인간 연구자들이 만든 모델보다 더 정확한 모델을 생성.
   • 또한, 모델이 이해하기 쉽게 코드화되어 해석 가능성이 높음.
5. 의미 및 미래 연구 방향
   • 기계가 인간과 동물의 학습 및 의사결정 과정을 더 정교하게 분석할 수 있는 가능성을 열어줌.
   • 더 다양한 행동 연구에 적용할 수 있도록 개선 가능.

이 논문은 인공지능이 인간과 동물의 인지 과정을 더 깊이 이해하는 데 도움을 줄 수 있는 새로운 방법을 제시했다는 점에서 중요한 연구라고 볼 수 있습니다.

LLM이 하는 일:

1. 새로운 인지 모델 생성
   • LLM이 파이썬 프로그램을 생성하여 인간과 동물의 행동을 설명하는 모델을 자동으로 만듦.
   • 기존 연구자는 직접 모델을 설계해야 했지만, LLM은 스스로 코드(프로그램)를 작성함.
2. 진화 알고리즘(Evolutionary Algorithm) 활용
   • LLM이 만든 여러 프로그램 중에서 더 성능이 좋은 모델을 선택하고, 계속해서 개선.
   • 즉, 생성-평가-개선의 반복 과정을 통해 최적의 모델을 찾음.
3. 해석 가능한 코드 생성
   • 보통 신경망(RNN 같은 딥러닝 모델)은 "블랙박스"라 해석이 어려움.
   • 하지만 LLM이 만든 프로그램은 사람이 이해할 수 있는 코드 형태라 해석이 가능함.
   • 예를 들어, 변수 이름을 exploration_rate, reward_tracking 같은 직관적인 이름으로 설정.

정리하면?

👉 LLM이 데이터를 보고 스스로 행동 예측 모델을 만들고, 더 좋은 모델을 찾아서 발전시킴.
👉 연구자들은 직접 모델을 설계하는 대신, LLM이 만든 모델을 분석하고 해석하는 역할을 하게 됨.