https://arxiv.org/abs/2406.04268

최근 몇 년 동안 AI 시스템의 일반적인 역량이 엄청나게 급증했는데, 이는 주로 인터넷 규모 데이터에 대한 기초 모델 훈련에 의해 촉진되었습니다. 그럼에도 불구하고, 개방적이고 끊임없이 스스로 개선되는 AI의 창조는 여전히 애매합니다. 이 입장 문서에서 우리는 인간 관찰자와 관련하여 AI 시스템에서 개방성을 달성하기 위한 요소가 이제 제자리에 있다고 주장합니다. 나아가, 우리는 그러한 개방성이 모든 인공 초인적 지능(ASI)의 필수적인 속성이라고 주장합니다. 우리는 참신성과 학습 가능성의 관점에서 개방성에 대한 구체적이고 공식적인 정의를 제공하는 것으로 시작합니다. 그런 다음 기초 모델 위에 구축된 개방형 시스템을 통해 ASI로 가는 경로를 설명하여 새롭고 인간과 관련된 발견을 할 수 있습니다. 우리는 일반적으로 유능한 개방형 AI의 안전 의미를 조사함으로써 결론을 내립니다. 우리는 가까운 미래에 개방형 기초 모델이 점점 더 비옥하고 안전에 중요한 연구 분야가 될 것으로 기대합니다.