인터뷰/예측

AI 정렬에서 AGI 윤리까지. 도쿄 대학에서의 요샤 바흐 강연

작성자
작성일
2024-07-09 11:15
조회
1411


1. 의식은 단순한 학습 알고리즘일 수 있습니다. 바흐는 의식이 지능의 결과물이 아니라 오히려 기본적인 것일 수 있다고 제안합니다.

2. 식물도 일종의 '정신'을 가질 수 있습니다. 그는 모든 세포가 정보를 처리할 수 있으며, 식물도 복잡한 생태계 내에서 자기조직화된 정보 처리 시스템을 가질 수 있다고 주장합니다.

3. 서양 과학은 '정신'이라는 개념을 잃었지만, 컴퓨터 과학의 관점에서 보면 자연계에는 소프트웨어가 존재합니다.

4. AI 윤리에 대해, 바흐는 의식이 우리에게 가장 중요한 것이므로 AI가 이를 인식하고 존중해야 한다고 주장합니다.

5. AI 규제에 대해, 그는 '레드 티밍'(위험 예방)보다는 '그린 티밍'(잠재적 이점 이해)이 더 중요하다고 말합니다.

6. 바흐는 AI가 인류의 생존 가능성을 높일 수 있다고 낙관적으로 보고 있습니다. 그는 AI가 기후 변화와 같은 문제를 해결하는 데 도움이 될 수 있다고 믿습니다.

7. 마지막으로, 그는 우리가 어떻게 우리보다 더 똑똑하고 자각력 있는 존재들과 공존할 수 있을지에 대한 질문을 던집니다.

 

추가적으로 다음과 같은 내용들이 있었습니다:

1. 의식에 대한 서양의 "어려운 문제"는 형이상학적 문제에서 비롯된 것이라고 바흐는 주장합니다.

2. 그는 의식을 가상의 경험으로 보며, 물리적 세계가 아닌 표상의 세계에 존재한다고 설명합니다.

3. 바흐는 신(gods)을 다중 마인드 자아(multi-mind selves)로 설명하며, 이는 여러 사람의 마음에 걸쳐 존재하는 엔티티라고 합니다.

4. 그는 인공지능의 발전이 오히려 허위정보 문제를 해결하는 데 도움이 될 수 있다고 주장합니다.

5. 로버트 키건의 인격 발달 단계 이론을 소개하며, 이를 AI 윤리와 연관 지어 설명합니다.

6. AI 두려움(AI doom)에 대해 언급하며, 이러한 공포가 때로는 비생산적인 행동을 유발할 수 있다고 지적합니다.

7. 유효한 가속주의(Effective Accelerationism)에 대해 설명하며, 이는 다양한 AI들이 서로 견제하며 균형을 이룰 것이라는 믿음이라고 합니다.

8. 마지막으로, 그는 우리가 자녀들에게 어떤 종류의 AI를 주고 싶은지 생각해봐야 한다고 제안합니다.
전체 0