이 논문은 신경망이 체스 게임에서 미래의 최적 움직임을 내다보는 능력을 배웠다는 증거를 제시하고 있습니다. 이를 위해 Leela Chess Zero라는 현재 가장 강력한 신경망 기반 체스 엔진의 정책 네트워크를 연구했습니다. 연구자들은 Leela가 미래의 최적 움직임을 내부적으로 표현하며, 이러한 표현이 특정 보드 상태에서 최종 출력에 중요한 역할을 한다는 것을 발견했습니다. 이 논문은 다음과 같은 세 가지 주요 증거를 제시합니다:

 

미래 움직임의 중요성: Leela의 정책 네트워크가 특정 미래 움직임의 타겟 칸에서 활성화가 비정상적으로 중요한 역할을 한다는 것을 발견했습니다. 이는 체스판의 특정 칸에서의 활성화가 Leela의 출력에 중요한 영향을 미친다는 것을 의미합니다.

 

시간을 넘나드는 정보 이동: Leela 내부에서 정보가 미래의 움직임에서 현재 움직임으로 이동하는 패턴을 관찰했습니다. 이는 Leela가 미래의 움직임을 고려하여 현재의 움직임을 결정하는 데 도움이 된다는 것을 보여줍니다.

 

미래 움직임 예측: 간단한 모델을 사용하여 Leela가 미래 두 턴의 최적 움직임을 92%의 정확도로 예측할 수 있음을 보였습니다.

 

이 논문은 신경망이 단순한 휴리스틱에 의존하는 것이 아니라 복잡한 알고리즘을 학습할 수 있음을 보여줍니다. 또한, 체스라는 복잡한 도메인에서 신경망이 어떻게 동작하는지에 대한 기계적 이해를 제공하는 첫 걸음이 될 수 있습니다.

 

---

신경망은 '야생에서' 미리 보기나 검색과 같은 알고리즘을 구현하는 방법을 학습하나요? 아니면 단순한 휴리스틱의 집합에만 의존할까요? 현재 가장 강력한 신경 체스 엔진인 릴라 체스 제로의 정책 네트워크에서 학습된 룩어헤드에 대한 증거를 제시합니다. 우리는 Leela가 내부적으로 미래의 최적 수를 표현하며 이러한 표현이 특정 보드 상태에서의 최종 결과에 결정적인 영향을 미친다는 사실을 발견했습니다. 구체적으로, 우리는 Leela가 언어 모델에서 모든 체스판 사각형을 토큰처럼 취급하는 변환기라는 사실을 활용하여 (1) 미래 이동의 특정 사각형에 대한 활성화가 인과적으로 매우 중요하다는 점, (2) 미래 이동의 사각형에서 이전 이동의 사각형으로 중요한 정보를 '시간의 앞뒤로' 이동시키는 주의 헤드를 발견했다는 점, (3) 2턴 앞 최적의 수를 92% 정확도로 예측하는 간단한 프로브를 훈련시켰다는 점(Leela가 하나의 최적수를 찾는 보드 상태에서) 등 세 가지 증거를 제시합니다. 이러한 결과는 신경망에서 학습된 룩어헤드의 존재를 증명하는 것으로, 신경망의 기능을 더 잘 이해하는 데 한 걸음 더 나아갈 수 있을 것입니다.