https://arxiv.org/abs/2404.19756

콜모고로프-아놀드 표현 정리에서 영감을 얻어, 우리는 콜모고로프-아놀드 네트워크(KAN)를 다층 퍼셉트론(MLP)에 대한 유망한 대안으로 제안합니다. MLP가 노드("뉴런")에 고정된 활성화 함수를 갖는 반면, KAN은 에지("가중치")에 학습 가능한 활성화 함수를 갖습니다. KAN은 선형 가중치가 전혀 없습니다. 모든 가중치 매개변수는 스플라인으로 매개변수화된 단변수 함수로 대체됩니다. 우리는 이 겉보기에 간단한 변화로 인해 KAN이 정확도와 해석성 측면에서 MLP보다 성능이 우수하다는 것을 보여줍니다. 정확도 측면에서 훨씬 작은 KAN은 데이터 피팅 및 편미분방정식(PDE) 풀기에서 훨씬 더 큰 MLP와 동등하거나 더 나은 정확도를 달성할 수 있습니다. 이론적으로나 경험적으로, KAN은 MLP보다 더 빠른 신경 스케일링 법칙을 가지고 있습니다. 해석성 측면에서, KAN은 직관적으로 시각화할 수 있으며 인간 사용자와 쉽게 상호 작용할 수 있습니다. 수학과 물리학의 두 가지 사례를 통해 KAN은 과학자들이 수학적 및 물리적 법칙을 (재)발견하는 데 도움이 되는 유용한 협력자임이 드러났습니다. 요약하자면, KAN은 MLP에 대한 유망한 대안으로, MLP에 크게 의존하는 오늘날의 딥 러닝 모델을 더욱 개선할 수 있는 기회를 열어줍니다.