인터뷰/예측

AI 정렬연구원 네이선 헬름-버거 "AGI 2024~2027년에 달성할 것"

작성자
admin
작성일
2024-07-07 20:41
조회
1379
https://www.lesswrong.com/users/nathan-helm-burger

AI 정렬 연구원, ML 엔지니어. 신경과학 석사.

저는 저렴하고 광범위하게 유능한 AGI가 달성 가능하며 곧 구축될 것이라고 믿습니다. 이를 통해 2024-2027년경의 타임라인을 갖게 되었습니다. 최근 저의 현재 연구 일정에 대해 
한 인터뷰가 있습니다 . 정렬을 향한 최선의 경로는 검열된 데이터 로 훈련된 정렬 가능성을 위해 처음부터 설계된 모델에 대한 안전하고 포함된 테스트를 거치는 것이라고 생각합니다 (인간이나 컴퓨터 기술에 대한 언급이 없는 시뮬레이션) . 저는 현재의 ML 주류 기술이 재귀적 자기 개선이 가능한 역량 한계에 가깝다고 생각하며, 이 자동화된 프로세스가 통찰력을 위해 신경 과학을 채굴하고 훨씬 더 효과적이고 효율적으로 빠르게 발전할 것이라고 생각합니다. 이런 일이 통제되지 않고 검열되지 않고 샌드박스화되지 않은 상황에서 발생한다면 인류에게 매우 나쁠 것이라고 생각합니다. 그래서 저는 이 가능성에 대해 세상에 경고하려고 합니다. 


1. 뇌 제어 기술의 발전: 동물 실험을 통해 쥐의 행동을 원격으로 조작할 수 있고, 다양한 감정과 신체 상태를 변화시키는 방법이 개발됨.

2. AI의 도덕성 문제: 인간과 달리 AI는 도덕성이 보장되지 않으며, 인간처럼 도덕적이고 공감할 수 있는 AI를 만드는 것이 중요함.

3. 뇌와 신경망의 유사점 연구: Nathan Helm-Burger는 뇌와 신경망의 유사점을 연구하여 더 인간적인 AI를 개발하는 것의 중요성을 강조함.

4. AGI 타임라인의 변화: 처음에는 AGI가 80~100년 후에 도달할 것으로 예상했지만, 현재는 2~3년 내에 가능할 것으로 봄.

5. 신경과학의 AI 기여: 뇌 연구를 통해 AI가 더 인간적으로 행동하도록 도울 수 있는 잠재력을 탐구함.

6. AI의 지속적인 훈련 문제: AI가 실시간으로 훈련을 계속할 경우, 부정적인 행동으로 변질될 위험이 있어, 통제된 환경에서 훈련하고 모델을 고정시키는 방법이 필요함.

7. 뇌의 구조와 AI의 모듈화: 뇌의 장거리 신경 연결을 모방하여 AI의 모듈화와 기능 분리를 시도함으로써 더 예측 가능하고 안정적인 AI를 개발하고자 함.

8. 현대 컴퓨터 하드웨어의 사용: 기존 컴퓨터 하드웨어를 사용하여 뇌와 유사한 AI를 만들 수 있는 가능성을 탐구하며, 효율성보다는 연구 목적에 중점을 둠.

9. AI 개발의 잠재적 위험: AI 개발 과정에서 정보 유출이나 오용의 위험을 경계하며, 신경과학적 접근을 통한 AI 개발이 이러한 위험을 줄일 수 있는지 논의함.

10. 뇌-기계 인터페이스와 유전자 공학: Neuralink와 같은 뇌-기계 인터페이스 및 유전자 공학을 통해 인간 지능을 향상시키는 방법을 연구하고 있음.

이 타임라인은 인류의 역사와 인공지능의 발전이 기하급수적으로 가속화된다는 슈미드후버 교수의 관점을 강조합니다.

전체 0