1. Anca Dragan은 10년 전에는 AI 발전에 대해 여유롭게 생각했지만, 지금은 더 긴급성을 느끼고 있습니다.

2. 그녀는 인간 수준의 AI 능력 달성이 예상보다 빨리 올 수 있다고 생각합니다.

3. 현재 패러다임으로 인간 수준의 지능에 도달하는 것이 불가능하다는 주장에 강하게 동의하지 않습니다.

4. AI 안전성 연구의 중요성을 강조하며, 능력 개발 후 안전성을 고려하는 접근법에 반대합니다.

5. 현재 Gemini와 같은 모델들의 안전성에 집중하고 있지만, 동시에 더 강력한 AI 모델의 잠재적 위험에 대비하고 있습니다.

6. AGI(인공일반지능)와 그 이상의 수준에 이르면 극단적인 해를 최적화할 수 있는 AI의 위험성을 우려합니다.

7. 이러한 위험은 멀게 느껴질 수 있지만, 기술적으로 가능한 경로이므로 무시해서는 안 된다고 주장합니다.

Google DeepMind는 "Frontier Safety Framework"를 발표했는데, 이는 AI의 잠재적 위험을 사전에 식별하기 위한 가이드라인입니다.

AI 능력이 향상됨에 따라 더 극단적이고 심각한 대규모 위험이 나타날 수 있다고 우려합니다.

위험한 능력(dangerous capabilities)을 추적하고 있습니다. 예를 들어, 생물테러나 사이버 무기 개발 지원과 같은 능력을 평가합니다.

현재는 즉각적인 위험(편견, 혐오 발언, 유해한 의료 조언 등)에 초점을 맞추고 있지만, 중장기적 위험도 고려하고 있습니다.

AI 모델이 인간의 인지 과정을 복제할 수 있게 되면, 자체적인 목표를 최적화하려는 AI가 나타날 수 있다는 우려가 있습니다.

Dragan은 이러한 위험들이 과학 소설처럼 들릴 수 있지만, 기술적으로 가능한 시나리오이므로 심각하게 고려해야 한다고 강조합니다.

그녀는 AI 발전과 안전성을 동시에 추구하는 것이 중요하다고 믿으며, 이를 "either/or"가 아닌 "both/and" 접근법으로 보고 있습니다.