인터뷰/예측
리차드 블루멘탈 상원의원 "위원회에 제출된 최신 AGI 예측은 1~3년 후"
작성자
작성일
2024-09-18 19:56
조회
1427
https://www.techpolicy.press/transcript-senate-judiciary-subcommittee-hosts-hearing-on-oversight-of-ai-insiders-perspectives/
또한 실제로 시행 가능한 규칙 없이 확장되고 심화되는 세상을 미리 볼 수 있는 기회이기도 합니다. 그리고 오늘 증인들이 다룰 인공 일반 지능 또는 GI는 훨씬 더 무서운 해악 가능성을 제공합니다. AGI가 10년 또는 20년 후에 더 똑똑해지거나 적어도 인간만큼 똑똑해질 수 있다는 생각은 더 이상 그렇게 먼 미래가 아닙니다. 공상 과학 소설과는 거리가 멉니다. 사실 이 위원회에 제출된 최신 예측은 1~3년 후입니다. 그리고 우리는 인간만큼 똑똑한 인공 지능이 우리를 속이고, 조종하고, 사실을 숨기고, 사이버 전쟁이든 핵전쟁이든, 단순히 전장에서 벌어지는 전쟁이든 전쟁과 관련하여 스스로의 마음을 가질 수 있다는 것을 알고 있습니다.
...
헬렌 토너:
의장 Blumenthal, 랭킹 위원 Hawley, 소위원회 위원 여러분. 오늘 증언할 기회를 주셔서 감사합니다. 이 소위원회가 AI와 관련하여 직면한 다양하고 많은 도전과 기회에 대해 심도 있고 지속적인 집중력을 기울이고 있다는 점에 대해 칭찬하며 시작하고자 합니다. 저는 지난 8년 동안 국가 안보, 미중 경쟁, AI 안전에 중점을 두고 AI 정책에 집중했습니다. 2019년에 저는 워싱턴으로 이사하여 조지타운 대학교의 보안 및 신흥 기술 센터인 cce를 설립하는 데 도움을 주었는데, 그 이후로 AI 정책 문제에 대한 분석에서 매우 존경받는 출처로 성장했습니다. CSET에서 정규직으로 일하는 동안 저는 2021년부터 작년 11월에 널리 보도된 사건까지 OpenAI의 비영리 이사회에서 2년 반 동안 근무했습니다. 오늘은 CSET에서의 연구, 이사회에서의 경험, 그리고 이 분야에서 수년간 일하면서 쌓은 AI 연구자 및 임원들과의 광범위한 관계와 상호작용을 바탕으로 말씀드리겠습니다. 이 청문회의 제목은 'AI 내부자의 관점에 대한 감독'입니다. 제가 보기에 AI 내부자의 관점과 AI 기업에 대한 대중의 인식 사이에서 가장 큰 단절은 인공 일반 지능(AGI)이라는 개념과 관련됩니다.
이 AGI라는 용어는 잘 정의되어 있지 않지만 일반적으로 대중과 정책 대화에서 인간 수준과 거의 같은 수준의 지능이나 역량을 갖춘 AI 시스템을 의미하는 데 사용됩니다.AI는 종종 공상 과학이나 마케팅으로 취급되지만 OpenAI, Google, Anthropic을 포함한 많은 최고 AI 회사는 GI를 전적으로 심각한 목표로 구축하고 있으며 이러한 회사 내부의 많은 사람들이 10년 또는 20년 안에 달성할 수 있다고 생각하고 일부는 1년에서 3년 정도 걸릴 수 있다고 믿습니다. 더 중요한 점은 이들 중 많은 사람들이 인간만큼 똑똑하거나 인간보다 훨씬 더 똑똑한 컴퓨터를 만드는 데 성공하면 그 기술이 최소한 엄청나게 파괴적일 것이고 최대 인간을 문자 그대로 멸종시킬 수 있다고 믿는다는 것입니다.문제의 회사들은 종종 AI가 작동하는 방식과 그것을 안전하게 만드는 방법에 대한 과학이 너무 초기이기 때문에 어떠한 규제도 하기에는 너무 이르다고 말합니다.
...
윌리엄 손더스:
위원장님, Hawley 위원님, 그리고 저명한 위원 여러분. 이 위원회에서 연설할 기회를 주셔서 감사합니다. 저는 3년 동안 OpenAI에서 기술 직원으로 일했습니다. OpenAI와 같은 회사는 인공 일반 지능인 AGI를 구축하기 위해 노력하고 있습니다. 그들은 이 목표를 위해 수십억 달러를 모금하고 있습니다. OpenAI의 헌장은 AGI를 경제적으로 가장 가치 있는 작업에서 인간보다 우수한 성과를 내는 고도로 자율적인 시스템으로 정의합니다. 즉, 장기간 스스로 행동하고 인간이 할 수 있는 대부분의 작업을 수행할 수 있는 AI 시스템을 의미합니다. AI 회사는 AGI 구축을 위해 빠르게 진전을 이루고 있습니다. 이 청문회 며칠 전, OpenAI는 새로운 시스템 GPT-01을 발표했는데, 이는 제가 고등학교에 다닐 때 개인적으로 의미 있었던 것을 포함하여 중요한 이정표를 통과했습니다. 저는 권위 있는 국제 컴퓨터 과학 대회를 위해 수년간 훈련했습니다. OpenAI의 새로운 시스템은 자격을 얻지 못한 것에서 제 직업과 관련된 분야에서 저보다 더 나은 성과를 거두어 금메달을 수상하는 것으로 도약했습니다.
아직 메워야 할 큰 격차가 있지만, AGI 시스템이 3년 만에 구축될 수 있을 것이라고 생각합니다. AGI는 경제와 고용에 대한 급진적인 변화를 포함하여 사회에 중대한 변화를 가져올 것입니다. AGI는 또한 사이버 공격을 자율적으로 수행하거나 새로운 생물학적 무기의 생성을 지원하는 시스템을 통해 치명적인 피해를 입힐 수 있습니다. OpenAI의 새로운 AI 시스템은 알려진 생물학적 위협을 재현하기 위한 계획을 세우는 전문가를 도울 수 있기 때문에 생물학적 무기 위험에 대한 단계를 보여주는 최초의 시스템입니다. 엄격한 테스트 없이는 개발자가 이런 종류의 위험한 기능을 놓칠 수 있습니다. OpenAI는 이러한 테스트의 측면을 개척했지만, 엄격함보다 배포 속도를 반복적으로 우선시했습니다. 저는 그들이 미래의 AI 시스템에서 중요한 위험한 기능을 놓칠 실질적인 위험이 있다고 생각합니다.
또한 실제로 시행 가능한 규칙 없이 확장되고 심화되는 세상을 미리 볼 수 있는 기회이기도 합니다. 그리고 오늘 증인들이 다룰 인공 일반 지능 또는 GI는 훨씬 더 무서운 해악 가능성을 제공합니다. AGI가 10년 또는 20년 후에 더 똑똑해지거나 적어도 인간만큼 똑똑해질 수 있다는 생각은 더 이상 그렇게 먼 미래가 아닙니다. 공상 과학 소설과는 거리가 멉니다. 사실 이 위원회에 제출된 최신 예측은 1~3년 후입니다. 그리고 우리는 인간만큼 똑똑한 인공 지능이 우리를 속이고, 조종하고, 사실을 숨기고, 사이버 전쟁이든 핵전쟁이든, 단순히 전장에서 벌어지는 전쟁이든 전쟁과 관련하여 스스로의 마음을 가질 수 있다는 것을 알고 있습니다.
...
헬렌 토너:
의장 Blumenthal, 랭킹 위원 Hawley, 소위원회 위원 여러분. 오늘 증언할 기회를 주셔서 감사합니다. 이 소위원회가 AI와 관련하여 직면한 다양하고 많은 도전과 기회에 대해 심도 있고 지속적인 집중력을 기울이고 있다는 점에 대해 칭찬하며 시작하고자 합니다. 저는 지난 8년 동안 국가 안보, 미중 경쟁, AI 안전에 중점을 두고 AI 정책에 집중했습니다. 2019년에 저는 워싱턴으로 이사하여 조지타운 대학교의 보안 및 신흥 기술 센터인 cce를 설립하는 데 도움을 주었는데, 그 이후로 AI 정책 문제에 대한 분석에서 매우 존경받는 출처로 성장했습니다. CSET에서 정규직으로 일하는 동안 저는 2021년부터 작년 11월에 널리 보도된 사건까지 OpenAI의 비영리 이사회에서 2년 반 동안 근무했습니다. 오늘은 CSET에서의 연구, 이사회에서의 경험, 그리고 이 분야에서 수년간 일하면서 쌓은 AI 연구자 및 임원들과의 광범위한 관계와 상호작용을 바탕으로 말씀드리겠습니다. 이 청문회의 제목은 'AI 내부자의 관점에 대한 감독'입니다. 제가 보기에 AI 내부자의 관점과 AI 기업에 대한 대중의 인식 사이에서 가장 큰 단절은 인공 일반 지능(AGI)이라는 개념과 관련됩니다.
이 AGI라는 용어는 잘 정의되어 있지 않지만 일반적으로 대중과 정책 대화에서 인간 수준과 거의 같은 수준의 지능이나 역량을 갖춘 AI 시스템을 의미하는 데 사용됩니다.AI는 종종 공상 과학이나 마케팅으로 취급되지만 OpenAI, Google, Anthropic을 포함한 많은 최고 AI 회사는 GI를 전적으로 심각한 목표로 구축하고 있으며 이러한 회사 내부의 많은 사람들이 10년 또는 20년 안에 달성할 수 있다고 생각하고 일부는 1년에서 3년 정도 걸릴 수 있다고 믿습니다. 더 중요한 점은 이들 중 많은 사람들이 인간만큼 똑똑하거나 인간보다 훨씬 더 똑똑한 컴퓨터를 만드는 데 성공하면 그 기술이 최소한 엄청나게 파괴적일 것이고 최대 인간을 문자 그대로 멸종시킬 수 있다고 믿는다는 것입니다.문제의 회사들은 종종 AI가 작동하는 방식과 그것을 안전하게 만드는 방법에 대한 과학이 너무 초기이기 때문에 어떠한 규제도 하기에는 너무 이르다고 말합니다.
...
윌리엄 손더스:
위원장님, Hawley 위원님, 그리고 저명한 위원 여러분. 이 위원회에서 연설할 기회를 주셔서 감사합니다. 저는 3년 동안 OpenAI에서 기술 직원으로 일했습니다. OpenAI와 같은 회사는 인공 일반 지능인 AGI를 구축하기 위해 노력하고 있습니다. 그들은 이 목표를 위해 수십억 달러를 모금하고 있습니다. OpenAI의 헌장은 AGI를 경제적으로 가장 가치 있는 작업에서 인간보다 우수한 성과를 내는 고도로 자율적인 시스템으로 정의합니다. 즉, 장기간 스스로 행동하고 인간이 할 수 있는 대부분의 작업을 수행할 수 있는 AI 시스템을 의미합니다. AI 회사는 AGI 구축을 위해 빠르게 진전을 이루고 있습니다. 이 청문회 며칠 전, OpenAI는 새로운 시스템 GPT-01을 발표했는데, 이는 제가 고등학교에 다닐 때 개인적으로 의미 있었던 것을 포함하여 중요한 이정표를 통과했습니다. 저는 권위 있는 국제 컴퓨터 과학 대회를 위해 수년간 훈련했습니다. OpenAI의 새로운 시스템은 자격을 얻지 못한 것에서 제 직업과 관련된 분야에서 저보다 더 나은 성과를 거두어 금메달을 수상하는 것으로 도약했습니다.
아직 메워야 할 큰 격차가 있지만, AGI 시스템이 3년 만에 구축될 수 있을 것이라고 생각합니다. AGI는 경제와 고용에 대한 급진적인 변화를 포함하여 사회에 중대한 변화를 가져올 것입니다. AGI는 또한 사이버 공격을 자율적으로 수행하거나 새로운 생물학적 무기의 생성을 지원하는 시스템을 통해 치명적인 피해를 입힐 수 있습니다. OpenAI의 새로운 AI 시스템은 알려진 생물학적 위협을 재현하기 위한 계획을 세우는 전문가를 도울 수 있기 때문에 생물학적 무기 위험에 대한 단계를 보여주는 최초의 시스템입니다. 엄격한 테스트 없이는 개발자가 이런 종류의 위험한 기능을 놓칠 수 있습니다. OpenAI는 이러한 테스트의 측면을 개척했지만, 엄격함보다 배포 속도를 반복적으로 우선시했습니다. 저는 그들이 미래의 AI 시스템에서 중요한 위험한 기능을 놓칠 실질적인 위험이 있다고 생각합니다.
전체 0