정의했습니다 .

• AI 역량이 얼마나 대단한지 잊지 않으려고 노력합니다.
• 아직 갈 길이 멀고 명확한 "인간 수준" 한계가 없다는 점을 인식합니다.
• AGI의 결과를 가능한 한 긍정적으로 형성하려는 도덕적 의무를 진지하게 받아들인다.

(첫 번째와 두 번째에 집중하겠습니다. 세 번째는 첫 번째와 두 번째에 대한 합의에서 자연스럽게 나오며 논란이 적습니다. 물론 구체적으로 무엇을 할 수 있는지는 개인 상황에 따라 달라집니다.)

우리가 얼마나 멀리 왔는지, 그리고 어떻게 일어났는지

AI 시스템이 언어를 유창하게 이해하고 생성할 수 있었던 것은 항상 그런 것은 아니었습니다. 잡담을 나누는 데만 국한되지 않고, 물리학, 생물학, 경제, 법학, 의학 등에서 복잡한 문제를 해결하는 데는 더더욱 그렇습니다. 이미지 이해 및 생성, 오디오 이해 및 생성 등도 마찬가지입니다.

이런 일이 일어난 건 일부 회사(학계의 아이디어를 바탕으로)가 딥 러닝을 확장하는 데 큰 돈을 투자했기 때문입니다. 즉, 거대한 인공 신경망(기본적으로 '손잡이' 역할을 하는 숫자들의 모임)을 만들고, 무언가가 옳거나 그르게 될 때마다 그 손잡이를 조금씩 조정하는 것입니다.

특히 언어 모델은 먼저 인터넷에서 대량의 텍스트를 읽고(인터넷처럼 보이는 텍스트를 생성하는 데 점점 더 능숙해지기 위해 노브를 조정함) 그런 다음 사람(또는 점점 더 AI)으로부터 실제 작업을 얼마나 잘 해결하는지에 대한 피드백을 받습니다(노브를 더욱 조정함). 이 과정에서 유용한 범용 보조 도구가 됩니다.

인터넷을 모방하는 법을 배우면 문법, 구문, 사실, 글쓰기 스타일, 유머, 추론 등에 대해 많은 것을 배울 수 있고, 강화 학습(경험으로부터 배우는 것)으로 더 나아갈 수 있습니다. 이것이 매우 잘 작동하고 많은 사람들이 예상했던 것보다 훨씬 쉽고 빠르다는 사실은 인류 역사상 가장 크고 가장 중요한 발견 중 하나입니다.

여기 우리가 여기까지 온 과정을 설명하는 몇 가지 영상과 현재 궤적에 대해 알아야 할 몇 가지 다른 핵심 사항이 있습니다. 저는 특히 Ilya의 강연에서 영감을 얻습니다. 그는 매우 명확한 의사소통자이고 물론 AI 분야의 선도적 권위자 중 한 명이기 때문입니다.

 

다음은 관련 주제에 대한 다른 긴 글 입니다 . 비디오와 마찬가지로, 저는 이 모든 참고문헌의 모든 주장을 지지하지는 않지만, 전체적으로는 선도적인 기업의 사람들이 알고 믿는 바에 대한 80/20 버전을 제공하기를 바랍니다. 하지만 저는 AI와 정기적으로 상호 작용하고 시간이 지남에 따라 어떻게 개선되는지 보는 것이 중요하다고 생각합니다.

벽도 없고 천장도 없다

AI의 사회적 영향은 아직 "아직도" 많이 남아 있습니다. 하지만 그 개선은 곧 이루어질 것입니다.

o3와 같은 가장 유능한 모델은 아직 배포되지 않았고, 사회가 Claude 3.5 Sonnet(Anthropic에서 제공) 및 o1(OpenAI에서 제공)과 같은 최근 배포의 영향을 처리할 시간도 거의 없었습니다. Gemini 2.0 Flash(Google에서 제공)는 매우 인상적이지만, 우리는 아직 그 모델 패밀리의 큰 버전이 어떻게 생겼는지 알지 못하고, Claude 3.5 Opus(그 패밀리의 가장 큰 버전)도 마찬가지입니다.

그리고 이는 모두 아주 당장의 일이죠.

조금 더 멀리(다시 말하지만, 몇 달에서 기껏해야 몇 년) 언어 모델에 대한 강화 학습의 진정한 확장, 이 패러다임을 "컴퓨터 사용 에이전트"와 통합, 훨씬 더 큰 데이터 센터, 그리고 AI를 통한 AI 연구 및 엔지니어링 자체의 자동화 증가를 보게 될 것입니다. 다시 말하지만, 여기에는 주요한 새로운 패러다임이 필요하지 않으며, 시간이 지남에 따라 수천 명의 사람들이 열심히 일하고, 그 과정에서 수많은 실험, 버그 수정 등이 필요합니다. 컴퓨팅 파워 를 지능으로 전환하기 위한 아이디어 는 부족하지 않습니다.

제 말이 무슨 뜻인지 알 수 있는 몇 가지 영상을 소개합니다.





연구원들뿐만 아니라 이러한 회사의 CEO들도 이러한 진전 속도가 계속될 것이라고(또는 가속화될 것이라고) 말하고 있다는 점에 유의하세요. 어떤 사람들은 이것이 과장이라고 생각하지만, 제발, 제발 저를 믿어주세요. 과장이 아닙니다.

AI를 둘러싼 전쟁이나 AI에 대한 정부의 극적인 단속을 초래하는 재앙적인 사건이 발생하지 않는 한, 우리는 아이디어, 칩 또는 에너지가 고갈되지 않을 것 입니다. 기본적으로 우리는 에너지가 고갈되었을지 모르지만 트럼프 행정부와 의회는 그런 일이 일어나지 않도록 할 것 같습니다. 우리는 준비할 시간이 고갈될 가능성이 훨씬 더 큽니다 .

여기에서 어디로 가야합니까

저는 트럼프 행정부가 AI에 대해 해야 할 일에 대해 조금 썼고 , 최근에 보안이 최우선이어야 한다는 결론에 도달했다고 덧붙이고 싶습니다. AI 가중치가 어디로 가는지(즉, 누출이나 도난을 방지) 제어할 수 없다면 기술을 통제할 수 없습니다. 간단합니다. 따라서 안전한 칩과 데이터 센터를 구축하기 위해 대규모 공공-민간 파트너십이 필요합니다. 관련 토론은 여기에서 확인하세요 .

해야 할 다른 일들이 많이 있는데, 여기에는 General-Purpose AI Code of Practice가 잘 설계되었는지 확인하고, 의회가 방금 발표한 이 양당 보고서를 잊지 않도록 하는 것이 포함됩니다 . 의회는 또한 미국 AI 안전 연구소와 산업 및 보안국 등에 상당한 자금을 승인해야 합니다.

계속 말할 수 있겠지만, 제가 말하고 싶은 더 큰 요점은 제가 완벽한 청사진을 가지고 있다거나 세부 사항을 대부분 올바르게 만드는 데 더 생각할 필요가 없다는 것이 아닙니다. AI 정책 문제에 대한 근본적인 생각이 일어나야 하지만 AI의 후기 단계(즉, 이미 초인적 역량을 갖춘 이후)에 대해서만 해야지, 그러한 역량이 존재하기 전에 견고한 보안을 구축하는 것과 같은 우리 앞에 있는 단계에 대해서는 안 됩니다. 10,000개의 논문과 100개의 청록 리본 위원회를 위한 시간이 없습니다.

2025년 말까지는, 아니 그보다 더 이르더라도, 미국에서 포괄적인 AI 규제가 필요하고, AI에 대한 정부 역량이 획기적으로 향상되어야 하며(예: 보안 허가를 받은 AI 엔지니어/과학자 수 등), 기업의 안전 문화와 프로세스가 획기적으로 개선되어야 하며, 군사 AI의 교통 규칙 에 대한 국제적 대화가 상당히 진전되어야 합니다.

AI 정책 관련 경력 상담은 여기에서 확인하세요 . 언제나처럼 이 양식을 통해 또는 웹사이트 에 있는 연락처 정보를 이용해 문의해 주시기 바랍니다 .