트윗
Eleuther AI의 정렬 연구 책임자 "2028년까지 AGI, 90% 인류멸망?"
작성자
작성일
2024-06-26 15:16
조회
1461
https://theinsideview.ai/curtis#the-probability-of-an-ai-extinction-is-90
AGI에 대한 Curtis의 중앙값은 2028년경이며, 예전에는 2027년이었습니다.
마이클 : 2015년에는 2020년에는 15% 정도라고 말씀하셨고 지금은 2023년에 15% 정도라고 말씀하셨습니다. 따라서 아시아에 대한 확률 중앙값을 50%로 주거나 초지능에 대한 추정치를 제공할 수 있다면 저는 이렇게 말하고 싶습니다. 지금 전화하세요. 초지능 요원이 등장할 확률이 50% 정도 된다고 생각하시나요?커티스 : 만약 당신이 한두 달 전에 이런 질문을 했다면 저는 2027년이라고 대답했을 것 같아요. 그러니까 지금으로부터 4년쯤 뒤쯤 될 것 같아요. 이제 저는 아주 최근의 정보와 같은 좀 더 많은 정보를 보았습니다. 제 생각엔 제 타임라인이 조금 뒤로 밀린 것 같아요. 그다지 많지는 않습니다. 아마 1년 정도 될 것 같아요. 그럼 아마도 2020년이 될 것입니다. 잘 모르겠습니다. 일정에 6개월 정도를 추가하거나 그와 비슷한 것일 수도 있습니다. 따라서 아마도 2028년이 지금 당장 중앙값을 두는 시점일 것입니다. 아주 최근의 정보처럼 일부 수정된 내용이 있을 수도 있기 때문입니다. 그런데 정보는 무엇입니까? 아마 어떤 연구가 일어나기를 기대했던 것 같아요.
커티스 : 그런데 그런 일은 일어나지 않았어요. 그리고 그것은 그 연구가 효과가 없다는 것을 의미하거나 사람들이 그러한 방향을 실현하는 데 실제로 관심이 없다는 것을 의미합니다. 어느 쪽이든, 그것은 일정에 대한 일종의 긍정적인 업데이트입니다. 왜냐하면 그것이 일종의 위험한 연구 방향인 경우 사람들이 실제로 그것을 추구하지 않는다는 것을 의미하기 때문입니다. 그리고 그것이 위험한 연구 방향인 경우 사람들은 그것이 효과가 없으며 제가 틀렸다고 생각합니다. 그래서 AGI로 가는 길은 생각보다 조금 더 복잡합니다. 그 결과 우리는 시간이 조금 더 주어진 세상에 살고 있습니다. 따라서 이 팟캐스트에서 언급하지 않을 위험한 접근 방식이 작동하지 않는다는 사실을 알게 되어 기쁩니다.
전체 0