인터뷰/예측

전 OpenAI 안전연구원 William Saunders 인터뷰

작성자
작성일
2024-07-11 15:03
조회
1512


1. OpenAI 퇴사 과정 (과거)
- OpenAI 직원들이 퇴사 시 광범위한 비밀유지계약(NDA)에 서명해야 했음
- 이로 인해 전 직원들이 회사에 대해 공개적으로 비판하기 어려웠음

2. William Saunders의 OpenAI 경험 (3년 전 ~ 몇 달 전)
- OpenAI가 "아폴로 프로그램"보다는 "타이타닉"과 비슷하다고 느낌
- 안전보다 "더 새롭고 빛나는 제품"을 우선시한다고 생각
원문: "prioritizing getting out newer shinier products um than you know really feeling like NASA during the days of the Apollo program"

3. 현재 상황
- William과 다른 전 직원들이 "경고할 권리(right to warn)"를 요구하는 공개 서한 발표
- OpenAI가 NDA의 법적 문제를 인식하고 수정 중

4. 향후 3-5년 전망
- Leopold Aschenbrenner (전 동료): 3년 내 "극적으로 변혁적인 AGI" 가능성 언급
- William: "3년 안에 10% 확률로 발생할 수 있다"고 예측
원문: "there's maybe like a 10% probability that this happens within 3 years"

5. 장기 전망 (10년+)
Larry Lessig:
"안전 규제 인프라를 구축하는 데 10년이 걸린다... 10년 후 이 기술이 매우 위험한 특성을 나타낼 실제 가능성은 내부자들의 말에 따르면 꽤 크다"
원문: "it takes 10 years to get to a place that we have an infrastructure of Regulation that we can count on and if we're talking about 10 years what is the real estimate of um this technology manifesting these very dangerous um uh characteristics um seems to be from what people on the inside are saying um pretty significant"

타이타닉 언급

"I don't think that gp4 was the Titanic I more am afraid that like GPT 5 or GPT 6 or gpt7 might be the Titanic um in in in this analogy"
번역: "GPT-4가 타이타닉이라고 생각하지 않습니다. 제가 더 걱정하는 것은 GPT-5나 GPT-6, 혹은 GPT-7이 이 비유에서 타이타닉이 될 수 있다는 점입니다."
전체 2

  • 2024-07-11 15:07

    일론머스크 같은놈들..


    • 2024-07-11 15:31

      규제충들이 날뛰기 전에 AGI 달성하길