샘 알트먼은 AGI라는 용어는 접근함에 따라 그 유용성이 떨어지지만, 2025년 말에는 어려운 문제에서 인간보다 더 똑똑해 보이는 "정말 놀라운 인지 작업을 수행할 수 있는" AI 시스템을 갖추게 될 것이라고 말합니다.

AGI(Artificial General Intelligence) 요약:

1. AGI의 정의 변화
   • 과거에는 AGI를 "매우 똑똑한, 인간 수준 이상의 AI"로 정의하며 먼 미래의 기술로 간주했으나, 현재는 더 구체적이고 단계적인 접근이 필요하다고 봄.
   • Altman은 AGI라는 용어가 지나치게 포괄적이라 "5단계 프레임워크"로 세분화된 접근 방식을 채택했다고 설명함.
2. 현재 상태와 O1 모델
   • OpenAI의 "O1" 모델은 인간의 "System 2 사고"를 모방하는 초기 단계로, 복잡한 문제를 논리적으로 해결하는 능력을 목표로 함.
   • 이는 AGI를 향한 중요한 진전으로, 향후 더 정교한 AI 모델(예: O2, O3)로 진화할 것이라고 예측.
3. AGI의 타임라인
   • Altman은 2025년까지 AI 시스템이 "인간보다 더 똑똑하게" 복잡한 작업을 수행할 수 있을 것으로 예상함.
   • 이는 특정 문제 영역에서 인간 수준 이상의 인지적 능력을 보여줄 AI 시스템의 출현을 의미.
4. AGI의 잠재적 단계와 차별화
   • AGI의 수준을 단순히 "AGI vs 비-AGI"로 나누는 대신, 현재는 레벨 2(논리적 사고 능력 강화 단계)에 도달했다고 설명.
   • 다음 단계로는 "장기적 계획과 에이전트적 행동"을 더 잘 수행하는 시스템 개발을 목표로 함.
5. AGI의 사회적, 경제적 영향
   • AGI가 인간의 많은 복잡한 인지 작업을 대체할 수 있으나, 동시에 생산성을 크게 향상시킬 수 있다고 봄.
   • 사회 전반에서 AGI가 미칠 영향에 대해 불확실성이 존재하며, 이는 일자리 대체와 새로운 형태의 작업 창출이 동시에 일어날 가능성을 시사.
6. 안전한 AGI 개발을 위한 정책 제안
   • AGI의 안전한 개발을 위해 규제 및 테스트 프레임워크를 구축하는 것이 중요하다고 주장.
   • 새로운 AI 모델의 출시 전, 잠재적 위험을 평가하고 안전성을 보장하기 위한 철저한 테스트가 필요하다고 강조.
7. AGI의 용도와 신뢰성
   • Altman은 AGI를 금융, 공공 정책 등 민감한 분야에 즉시 도입하기보다는 덜 민감한 분야에서 먼저 테스트해야 한다고 언급.
   • AGI 시스템의 논리적 사고와 "모르는 것은 모른다고 말하는" 능력이 초기 신뢰 구축에 핵심적 역할을 할 것이라고 설명.
8. AGI와 초지능(Superintelligence)의 차이
   • AGI는 현재 인간 수준의 지능을 목표로 하며, 초지능(superintelligence)은 "모든 인류를 합친 것보다 더 똑똑한" AI를 지칭.
   • Altman은 AGI에서 초지능으로의 전환이 언젠가 가능할 것으로 보지만, 그 시점과 영향에 대한 논의는 여전히 진행 중임.