무라티는 앞으로 10년 내에 매우 발전된 지능 시스템이 개발될 것으로 예상하지만, AGI의 정의와 영향은 계속 진화할 것이라고 말했습니다.

다음 대형 모델은 매우 유능할 것이고, 우리는 gpt-3에서 gpt-4로 본 것과 같은 일종의 큰 도약(big leap)을 기대할 수 있습니다.

1. OpenAI와 Apple의 파트너십: OpenAI의 기술이 Apple 기기에 통합될 예정입니다. 이는 AI를 더 많은 사용자에게 접근 가능하게 만드는 중요한 이정표입니다.

2. AI와 미래: Murati는 향후 10년 내에 매우 발전된 AI 시스템이 등장할 것으로 예상하지만, 그 결과는 미리 정해진 것이 아니라고 강조했습니다.

3. AI의 안전성: OpenAI는 안전을 최우선 과제로 삼고 있으며, 여러 팀이 이에 집중하고 있다고 언급했습니다.

4. 선거와 AI: OpenAI는 선거 무결성을 위해 노력하고 있으며, 정치적 편향 감소, 허위정보 탐지, 올바른 정보 제공에 집중하고 있습니다.

5. 데이터 사용: OpenAI는 콘텐츠 제작자들의 데이터 사용에 대한 보상 방법을 모색 중이며, 사용자들이 자신의 데이터 사용을 통제할 수 있는 도구를 개발 중입니다.

6. AI의 잠재력: Murati는 AI가 교육의 질을 높이고 전 세계적으로 접근성을 향상시킬 수 있는 잠재력에 대해 긍정적인 견해를 보였습니다.

7. 여성 리더십: 기술 분야에서 여성 리더로서 Murati는 자신의 위치가 다른 이들에게 영감을 줄 수 있다고 언급했습니다.

 

기타 요약

(11:56-13:20):
"데이터와 모델의 관계 측면에서 보면 많은 사람들이 AI 모델, 특히 대규모 언어 모델에 대해 오해하는 부분이 있습니다. 이러한 모델의 개발자는 특정 작업을 수행하기 위해 모델을 미리 프로그래밍하지 않습니다. 실제로 이러한 모델은 방대한 양의 데이터를 수집하여 놀라운 패턴 매칭 시스템을 구축합니다. 이 과정을 통해 지능이 생겨납니다. 그래서 글쓰기를 배우고, 코딩을 배우고, 기본적인 수학을 배우고, 정보를 요약하는 법을 배우는 등 모든 종류의 일을 배우게 됩니다. 우리는 이것이 어떻게 작동하는지 정확히 알지 못하지만 작동한다는 것은 알고 있습니다. 딥러닝은 매우 강력합니다."

(13:20-14:51):
"이 부분이 중요한 이유는 사람들이 어떻게 작동하는지 계속 묻고 투명성에 대한 질문으로 이어지기 때문입니다. 여기에서 우리가 하고 있는 일에 대해 대중에게 투명성을 제공하기 위해 사용하는 도구를 설명할 수 있습니다. 이 첫 번째 부분, 즉 대규모 언어 모델이 어떻게 작동하는지 이해하는 것은 매우 중요합니다. 이 아키텍처, 신경망, 수많은 데이터와 컴퓨팅을 결합하면 놀라운 인텔리전스를 얻을 수 있습니다. 더 많은 데이터를 입력하고 더 많은 컴퓨팅을 투입할수록 이 기능과 성능은 계속 향상됩니다."

 

다음 대규모 모델(GPT-5로 추정됨)은 매우 유능할 것으로 예상됩니다.
GPT-3에서 GPT-4로의 발전과 같은 큰 도약을 기대할 수 있다고 말했습니다.
하지만 구체적인 기능이나 출시 일정에 대해서는 언급하지 않았습니다.
Murati는 자신도 정확히 어떤 기능이 포함될지 모른다고 말했습니다.

OpenAI의 내부 로드맵이 2027년까지 AGI를 달성할 것으로 예측했다는 보도에 대해 언급이 있었습니다.
Murati는 AGI의 정의가 계속 변화하고 있다고 말했습니다. 과거에는 학술적 벤치마크를 사용했지만, 이제는 그 정의가 계속 진화하고 있다고 설명했습니다.
구체적인 연도를 확인하지는 않았지만, Murati는 "앞으로 10년 내에 매우 발전된 지능 시스템을 갖게 될 것"이라고 말했습니다.
그녀는 AGI의 정확한 달성 시기보다는 사회적, 경제적 영향을 평가하고 예측하는 것이 더 중요해질 것이라고 강조했습니다.
Murati는 AGI의 결과가 미리 정해진 것이 아니며, 우리가 이 기술을 어떻게 개발하고 배포하는지에 대해 많은 권한이 있다고 말했습니다.

"사람들을 매우 강하게 설득하여 특정한 일을 하도록 할 수 있습니다. 특정한 일을 하도록 사람들을 통제할 수 있습니다. 그리고 저는 그것이 믿을 수 없을 정도로 무섭다고 생각합니다. 사회를 특정한 방향으로 통제하는 것 말이죠."

강력한 설득력: AI가 매우 효과적으로 사람들을 설득할 수 있는 능력을 가질 수 있다는 점을 강조했습니다.
행동 통제: 단순한 설득을 넘어 실제로 사람들의 행동을 통제할 수 있는 수준까지 갈 수 있다고 우려했습니다.
사회적 방향성 조작: 개인을 넘어 사회 전체를 특정 방향으로 이끌 수 있는 힘을 가질 수 있다고 봤습니다.
심각한 우려: Murati는 이러한 시나리오를 "믿을 수 없을 정도로 무섭다"고 표현하며 그 위험성을 강조했습니다.