https://jack-clark.net/

 

AI 타임라인에 대해 우리가 옳다면? 우리가 틀렸다면?

최근에 저는 AI 타임라인에 대해 많이 생각했고, 강력한 AI 시스템이 곧 나올 것이라는 제 믿음에 대해 개인으로서 더 솔직하게 말하고 싶어졌습니다. 아마도 이 대통령 행정부 동안일 겁니다. 하지만 저는 무언가에 어려움을 겪고 있습니다. 저는 단기 타임라인에 따른 정책 베팅을 하는 것에 대해 걱정입니다.

 

지금까지 제가 주장한 것들은 짧은 타임라인과 긴 타임라인 세계 모두에서 유용한 것들입니다. 여기의 예는 다음과 같습니다.

 

타사 측정 및 평가 생태계 구축

 

정부가 AI로 인한 변화에 대한 가시성을 확보하기 위해 경제 모니터링을 더욱 강화하도록 장려합니다.

 

칩 제조, 전기 생산 등에 대한 투자를 옹호합니다.

 

최첨단 AI 개발자를 확보하기 위해 보다 많은 투자를 하는 것의 중요성을 강조합니다.

 

이러한 모든 행동은 타임라인과 관계없이 할 수 있는 최소한의 "후회 없는" 행동입니다. 제가 여기서 언급한 모든 것은 강력한 AI가 2030년, 2035년 또는 2040년에 등장한다면 매우 유용합니다. 이는 모두 기술 중심의 사회적 변화를 보고 처리할 수 있는 제도적 역량을 구축하거나, 회사에 더 나은 기술을 구축하고 확보할 수 있는 리소스를 제공하는 데 도움이 되는 것입니다.

 

하지만 저는 "짧은 타임라인" AI 커뮤니티가 옳을지도 모른다는 우려가 점점 커지고 있습니다. 아마도 강력한 시스템이 2026년 말이나 2027년에 출시될 것입니다. 그런 일이 일어난다면 우리는 다음과 같이 질문해야 합니다. 위의 조치가 우리가 기대하는 변화에 대처하기에 충분할까요? 답은 거의 확실히 그렇지 않다는 것입니다!

 

매우 짧은 타임라인에서는 좀 더 극단적인 행동을 취하고 싶을 수 있습니다. 타임라인 베팅이 틀렸다면 이러한 행동은 '후회되는 행동'일 가능성이 큽니다. 다음은 몇 가지 예입니다.

 

해킹이나 내부 위협의 가능성을 줄이는 방식으로 프런티어 랩의 보안을 대폭 강화하지만, 그 랩에서 일하는 사람들의 삶을 극도로 불쾌하고 성가시게 만듭니다. 이는 짧은 타임라인에서는 도움이 되지만 궁극적으로 긴 타임라인에서는 매우 비용이 많이 드는 일입니다. 기술 진보를 늦추고, 랩이 일정 기간 후에 극도의 보안에서 벗어나는 역풍을 일으킬 가능성이 있기 때문입니다.

 

사전 배포 테스트 의무화: 오늘날 사전 배포 모델 테스트는 회사에서 자발적으로 수행합니다. 시간이 촉박하고 위험이 임박했다고 생각했다면 타사에 사전 배포 테스트를 의무화하는 것이 좋습니다. 하지만 이는 엄청난 비용이 듭니다! AI 개발 프로세스에 마찰을 일으키고 실험실 보안 아이디어와 마찬가지로 역풍을 일으킬 위험이 있습니다. 작년 캘리포니아에서 'SB 1047' 법안에 대한 토론은 여기에서 볼 수 있는 종류의 역풍을 미리 보여주는 것처럼 느껴졌습니다.

 

AI 기술의 구체적인 오용에 대해 큰 소리로 말하고, 아마도 입증하기: 짧은 타임라인이 있다면, 걱정되는 위험을 극화하여 정책 입안자들에게 '돌파'하고 싶을 것입니다. 이렇게 하면 특정 오용이 임박했고 정책 입안자의 주의를 끌 가치가 있다고 사람들을 설득할 수 있습니다. 하지만 이후에 이러한 위험이 실현되지 않으면, 당신은 겁쟁이처럼 하늘이 무너지고 있다고 주장했지만 그렇지 않은 것처럼 보일 수 있습니다. 이제 당신은 사람들을 미래의 위험에 무감각하게 만들었습니다. 게다가 여기에는 특정 오용에 대해 이야기함으로써 세상의 다른 사람들이 이 오용을 추구하도록 영감을 줄 수 있는 단기 및 장기 타임라인 위험이 있습니다. 이는 '정보 위험'과 관련된 더 광범위한 문제와 관련이 있습니다.

 

이것들은 명확한 답이 없는 엄청나게 어려운 질문들입니다. 동시에, 저는 사람들이 저와 프론티어 랩과 같은 사람들에게 답을 내놓으라고 기대하는 것은 당연하다고 생각합니다. 저는 우리가 거기에 도달하는 방법이, 제 생각에는, 이러한 문제에 대해 더 투명하고 담론적으로 되고, 이런 것들이 정말 어렵다는 것을 정직하게 인정하고, 관련된 상충 관계를 알고 있다는 것입니다. 우리는 이러한 문제들을 해결해야 하지만, 합리적인 답을 내놓으려면 더 큰 대화가 필요할 것이라고 생각합니다.