또한, 우리가 자체 연구개발(R&D)을 가속화하기 위해 AI 시스템을 점점 더 많이 활용함에 따라, 우리 모델의 능력이 그에 상응하는 안전성, 정렬(Alignment), 보안 조치를 개발하고 검증하며 시행하는 우리의 능력보다 더 빠르게 발전할 가능성이 있다.

AI가 주도하는 이러한 발전 가속화의 속도에 관한 근거 중 상당 부분은 후행지표에 기반하고 있다. 또한 가장 최근에 개발했거나 아직 공개하지 않은 모델에 의해 발생하는 가속화까지 포함하여, 우리의 AI 역량이 얼마나 빠르게 발전하고 있는지를 예측하거나 측정하는 능력에는 한계가 있다.

핵심 부분 (파란색 강조 영역)

따라서 우리는 과거에도 개발 속도가 크게 가속화되었다는 사실을 실제로 가속화가 일어난 이후에야 파악한 경우가 있으며, 앞으로도 그러한 가속화가 발생한 뒤에야 이를 인지할 가능성이 있다.

예를 들어, 현재 모델이 아니라 내부 추정치와 미래 모델에 대한 우리의 예상에 따르면, 우리는 머지않아 책임 있는 확장 정책(Responsible Scaling Policy, RSP)에서 정의하는 'AI로 인해 발생하는 극적으로 가속화된 발전'의 기준에 도달할 수 있다.

나머지 부분

우리는 현재 보유한 어떤 모델도 이 임계점을 넘어섰다고 지정하지 않았으며, 관련 기초 데이터를 계속 평가하고 있다.

또한 AI 연구개발 역량에 관한 임계점에 도달하는 것이 어떤 의미를 갖는지도 검토하고 있으며, 책임 있는 확장 정책에 명시된 바와 같이 향후 추가 보고서를 발표할 예정이다.

만약 우리의 AI 역량이 안전성, 정렬, 보안 조치보다 빠르게 발전하거나, 그러한 발전 속도를 미리 예측하지 못한다면, 그에 따른 위험을 충분히 평가하거나 완화하지 못할 수 있다.

이는 안전사고, 규제기관의 개입, 평판 훼손 등의 가능성을 높이고, 우리의 사업, 재무 상태 및 경영 성과에 부정적인 영향을 미칠 수 있다.

AI 역량이 발전하는 속도를 관찰하는 데 한계가 있다는 점을 비롯한 이러한 불확실성을 고려하여, 우리는 AI 모델의 능력 발전과 안전성 확보 노력이 보조를 맞출 수 있도록 예방적 안전성, 정렬 및 보안 조치를 도입해 왔으며, 앞으로도 계속 도입할 수 있다.

과거 이러한 조치에는 모델 공개를 지연하거나 초기 이용 범위를 제한하는 것이 포함되었다. 예를 들어 프로젝트 글래스윙(Project Glasswing)을 통한 미토스(Mythos) 모델의 제한적 제공이 이에 해당한다.

앞으로는 모델의 능력과 행동에 관해 더 많은 사실을 알게 됨에 따라, 새로운 모델이나 기능을 개발하거나 배포할지 여부, 그 방법과 시기에 영향을 미치는 추가 조치가 포함될 수도 있다.

우리는 이러한 조치가 언제 필요해질지, 어떤 조치가 요구될지, 또는 얼마나 오랫동안 유지되어야 할지를 정확하게 예측할 수 없다.

또한 모델의 능력이 발전할수록 이러한 조치는 더욱 빈번해지고 비용도 증가할 수 있다.

이러한 조치는 비슷한 제약을 도입하지 않는 경쟁사에 비해 우리의 AI 역량 발전 속도를 늦출 수 있으며, 경쟁력, 매출 성장 및 경영 성과에 부정적인 영향을 미칠 수 있다.