인터뷰/예측
AI 정렬연구원 네이선 헬름-버거 "AGI 2024~2027년에 달성할 것"
AI 정렬 연구원, ML 엔지니어. 신경과학 석사.
저는 저렴하고 광범위하게 유능한 AGI가 달성 가능하며 곧 구축될 것이라고 믿습니다. 이를 통해 2024-2027년경의 타임라인을 갖게 되었습니다. 최근 저의 현재 연구 일정에 대해
1. 뇌 제어 기술의 발전: 동물 실험을 통해 쥐의 행동을 원격으로 조작할 수 있고, 다양한 감정과 신체 상태를 변화시키는 방법이 개발됨.
2. AI의 도덕성 문제: 인간과 달리 AI는 도덕성이 보장되지 않으며, 인간처럼 도덕적이고 공감할 수 있는 AI를 만드는 것이 중요함.
3. 뇌와 신경망의 유사점 연구: Nathan Helm-Burger는 뇌와 신경망의 유사점을 연구하여 더 인간적인 AI를 개발하는 것의 중요성을 강조함.
4. AGI 타임라인의 변화: 처음에는 AGI가 80~100년 후에 도달할 것으로 예상했지만, 현재는 2~3년 내에 가능할 것으로 봄.
5. 신경과학의 AI 기여: 뇌 연구를 통해 AI가 더 인간적으로 행동하도록 도울 수 있는 잠재력을 탐구함.
6. AI의 지속적인 훈련 문제: AI가 실시간으로 훈련을 계속할 경우, 부정적인 행동으로 변질될 위험이 있어, 통제된 환경에서 훈련하고 모델을 고정시키는 방법이 필요함.
7. 뇌의 구조와 AI의 모듈화: 뇌의 장거리 신경 연결을 모방하여 AI의 모듈화와 기능 분리를 시도함으로써 더 예측 가능하고 안정적인 AI를 개발하고자 함.
8. 현대 컴퓨터 하드웨어의 사용: 기존 컴퓨터 하드웨어를 사용하여 뇌와 유사한 AI를 만들 수 있는 가능성을 탐구하며, 효율성보다는 연구 목적에 중점을 둠.
9. AI 개발의 잠재적 위험: AI 개발 과정에서 정보 유출이나 오용의 위험을 경계하며, 신경과학적 접근을 통한 AI 개발이 이러한 위험을 줄일 수 있는지 논의함.
10. 뇌-기계 인터페이스와 유전자 공학: Neuralink와 같은 뇌-기계 인터페이스 및 유전자 공학을 통해 인간 지능을 향상시키는 방법을 연구하고 있음.
이 타임라인은 인류의 역사와 인공지능의 발전이 기하급수적으로 가속화된다는 슈미드후버 교수의 관점을 강조합니다.