https://www.oneusefulthing.org/p/confronting-impossible-futures



저는 산업계, 학계, 정부에서 많은 사람들과 이야기를 나누었고, 이상한 맹점을 발견했습니다. 종종 10년 이상 걸리는 지평을 계획하고 있음에도 불구하고, 전략적 계획에서 지속적인 AI 개선 가능성을 진지하게 고려하는 조직은 거의 없습니다.

어떤 면에서는, 아무도 AI의 미래를 모르기 때문에 이는 완전히 말이 됩니다. AI 시스템을 훈련하는 사람들조차도 가까운 미래에 기하급수적으로 역량이 성장할 수 있다고 믿는 사람 과 대규모 언어 모델이 이미 진로를 마쳤다고 생각하는 사람 으로 나뉩니다. 하지만 조직과 개인은 종종 여러 가지 미래를 계획합니다. 가능한 경기 침체, 선거 결과, 심지어 자연 재해까지. AI의 미래를 계획하는 것이 왜 다르게 보일까요?

AI 연구실에서 무엇을 성취하려고 하는지에 대한 대중의 토론이 부족한 것은 아닙니다. AI 분야의 사람들은 미래에 대해 이야기하는 것을 멈출 수 없으며, 그들은 특정한 업적을 염두에 두는 경향이 있습니다. 인공 일반 지능, AGI - 모든 작업에서 인간보다 우수한 AI에 대한 모호하게 정의된 개념이며, 초지능 기계로 이어질 수 있습니다. AGI는 많은 대형 AI 연구실의 목표이며 궁극적으로 AI에 대한 수십억 달러의 투자가 들어가는 곳입니다. 기본적인 기대는 충분한 컴퓨팅 성능과 연구가 있으면 오늘날의 LLM에서 AGI로 이어지는 경로가 있다는 것입니다. 그러나 우리는 그 경로를 따라 얼마나 왔는지 측정할 수 없기 때문에 그들이 옳은지 여부를 추측할 수밖에 없습니다.

주요 연구실의 많은 사람들과 이야기를 나눈 결과, 많은 사람이 이것이 단기적으로 달성 가능하다고 진심으로 믿고 있다는 것을 말씀드릴 수 있습니다. 그들이 옳은지 여부는 말씀드릴 수 없지만, 그들이 그렇다고 믿는다는 것은 말씀드릴 수 있습니다. 그리고 AI 회사 리더와 관계자의 진술은 그것이 아주 곧 일어날 수 있음을 시사합니다(" 다음 4~5년 ", " 5년 ", " 2027년 ").

Altman은 대부분의 측면에서 인간을 능가하는 시스템인 AGI가 앞으로 4~5년 안(2027~2028)에 달성될 수 있다고 생각합니다. https://time.com/6342827/ceo-of-the-year-2023-sam-altman/ 
Anthropic CoS 3년(2027) https://www.palladiummag.com/2024/05/17/my-last-five-years-of-work/
레오폴드 2027 AGI https://situational-awareness.ai/

나머지 생략