인터뷰/예측

제프리 힌튼 "AI가 실존적 위험을 초래할 확률이 50% 이상이지만 이를 줄이는 한 가지 방법은 먼저 실험할 수 있는 약한 일반 지능 시스템을 구축하는 것"

작성자
admin
작성일
2024-07-01 16:26
조회
1264


 



 

1. Geoffrey Hinton은 2018년 이후 AI에 대한 견해가 크게 변화했으며, AI가 인간의 지능을 능가할 가능성을 인식하게 되었다.

2. 그는 디지털 컴퓨테이션이 에너지 비용에도 불구하고 아날로그 컴퓨테이션보다 큰 이점을 제공한다고 믿으며, 이는 여러 모델의 복사본을 통해 정보를 공유할 수 있기 때문이다.

3. Hinton은 뉴럴 네트워크에서 벡터의 뉴럴 활동을 가중치 행렬과 곱하는 중앙 작업이 아날로그 하드웨어를 사용하여 더 효율적으로 수행될 수 있지만 이 접근법에는 한계가 있다고 강조했다.

4. AI 시스템이 지식을 공유하고 다양한 데이터 세트에서 집단적으로 학습할 수 있는 능력은 정보를 효율적으로 공유할 수 없는 인간에 비해 큰 장점이 된다.

5. Hinton은 AI가 뇌를 모방함으로써가 아니라 디지털 컴퓨테이션의 강점을 계속 활용함으로써 인간의 지능을 능가하게 될 것이라고 확신하게 되었다.

6. 그의 견해는 AI 시스템, 특히 디지털 시스템이 방대한 양의 정보를 축적하고 처리할 수 있는 능력 때문에 본질적으로 인간 지능보다 우수하다는 것이다.

7. 디지털 컴퓨테이션의 장점에 대한 그의 깨달음은 GPT-4와 같은 고급 챗봇의 개발과 동시에 이루어졌으며, 이는 AI의 잠재력에 대한 그의 신념을 강화시켰다.

8. Hinton은 AI가 농담이 왜 재미있는지 설명할 수 있는 능력을 AI의 이해력과 창의성의 기준으로 사용하며, AI가 농담을 설명할 수는 있지만 만드는 데 어려움을 겪는다고 언급했다.

9. 그는 더 지능적인 시스템이 덜 지능적인 시스템을 제어하는 것이 일반적이며, 인간이 초지능 AI를 통제할 수 있을 가능성이 낮다고 강조했다.

10. Hinton은 AI 안전 및 규제의 진전 부족에 대해 우려하며, 군사 응용 분야를 면제하지 않는 더 강력하고 실행 가능한 규제를 요구하고 있으며, 현재 AI 안전 조치인 인간 피드백을 통한 강화 학습(RLHF)의 효과에 대해 회의적이다.
전체 0