https://arxiv.org/abs/2402.06184

일부 프랙탈(예: 만델브로트 및 이차 줄리아 집합과 관련된 프랙탈)은 함수를 반복하고 결과 시리즈가 발산하거나 경계를 유지하는 하이퍼파라미터 간의 경계를 식별하여 계산됩니다. 신경망 학습은 유사하게 업데이트 함수(예: 경사 하강의 반복 단계)를 반복하는 것을 포함하며, 수렴 또는 발산 동작으로 이어질 수 있으며 하이퍼파라미터의 작은 변화에 매우 민감할 수 있습니다. 이러한 유사점에 동기를 부여받아 안정적이고 발산적인 학습으로 이어지는 신경망 하이퍼파라미터 간의 경계를 실험적으로 조사합니다. 이 경계는 모든 테스트 구성에서 10년 이상의 규모에 걸쳐 프랙탈임을 발견했습니다.