인터뷰/예측
스티븐 이바라키 "AGI는 2030년까지 실현될 것"
작성자
작성일
2024-12-19 13:49
조회
1068
Founder of UN ITU AI For Good, Chairman REDDS Capital
"I would say from an AGI or artificial general intelligence we have something that sort of can mimic and do things that humans do perhaps better. I would say we're about six years out maybe seven years so within 10 years I would say we're out and in fact I've written forwards of books indicating that we'll even have this by 2030."
“저는 AGI 또는 인공 일반 지능을 통해 인간이 하는 일을 모방하고 더 잘할 수 있는 무언가가 있다고 말하고 싶습니다. 앞으로 6년에서 7년 정도는 더 걸릴 것 같고, 10년 내에는 가능할 것이라고 말하고 싶습니다.” 실제로 저는 2030년까지 이런 기술이 나올 것이라는 책을 쓴 적이 있습니다.
AGI 타임라인 및 개념
- AGI 도달 시점: 스티븐 이바라키는 AGI가 향후 10년 이내(2030년까지) 실현될 것으로 예측했습니다. AGI는 특정 측면에서 인간과 유사한 지능을 가지겠지만, 본질적으로 인간의 지능과는 다른 형태일 것입니다.
- 인간-증강 스펙트럼: AGI로 가는 과정에서 인간은 AI 기술로 능력을 향상시키는 "증강 인간(augmented humans)" 단계를 거치며, 최종적으로는 하이브리드 인간이나 완전 자율 지능으로 이어질 가능성이 있습니다. 이는 인간과 AI의 상호작용 및 진화의 개념을 새롭게 정의하게 될 것입니다.
- 미래 결과: AGI는 지능의 기하급수적 발전을 가능하게 하며, 새로운 진화 단계로 이어질 수도 있습니다. 이는 인류가 네안데르탈인을 대체한 것과 비슷한 역사적 변화가 될 수 있습니다.
AGI 거버넌스와 협력
- 표준의 중요성: 이바라키는 ACM(컴퓨팅 기계 협회), IEEE(국제 전기전자공학회)와 같은 기존 단체를 활용해 AI 시스템의 안전성, 신뢰성, 윤리적 준수를 보장하기 위한 표준을 개발하고 시행해야 한다고 강조했습니다.
- 국제 기관의 역할: UNESCO(유네스코)와 OECD(경제협력개발기구) 같은 조직이 AI 원칙의 글로벌 조화를 이루기 위해 노력 중이며, AGI에 대한 초기 관리 및 거버넌스 작업도 진행하고 있습니다.
- 소프트 vs 하드 거버넌스: 과도한 규제(권위주의적 통제)와 규제 부재 사이에서 균형을 잡는 것이 중요합니다. 소프트 거버넌스(윤리적 기준과 협력)와 하드 거버넌스(법적 규제와 집행)의 적절한 조화가 필요합니다.
협력의 과제
- 글로벌 권력 역학: 미국, 중국 등 주요 강대국들은 목표가 다를 수 있지만, 모두 파멸적 결과를 피하고자 하는 공통의 관심사를 가지고 있습니다. 이러한 공통점이 제한적인 협력을 가능하게 할 수 있습니다.
- 다중 이해관계자 접근: AGI 거버넌스는 정부, 산업계, 학계, 국제기구가 모두 참여하여 공유된 표준과 관행에 대한 합의를 도출하는 방식으로 이루어져야 합니다.
위험과 안전 조치
- 투명성과 벤치마킹: AGI 개발에서 투명성을 확보하고, 엄격한 테스트 및 새로운 능력 예측을 통해 위험을 효과적으로 관리해야 한다고 주장합니다.
- 무기 경쟁 방지: 효과적인 거버넌스가 없으면 AGI 개발이 무기 경쟁으로 이어질 수 있으며, 이는 파국적 결과를 초래할 수 있습니다. 따라서 글로벌 안전을 위해 협력이 필수적입니다.
요약
이 논의는 AGI 개발을 유익한 방향으로 이끄는 동시에 위험을 효과적으로 관리하기 위해 적극적이고 협력적인 거버넌스가 필요하다는 점을 강조하고 있습니다.
전체 0