최신논문
딥마인드 AGI 경로에서 진행 상황을 운영화하기 위한 AGI 수준
작성자
작성일
2024-07-03 23:25
조회
321
https://arxiv.org/abs/2311.02462
우리는 인공 일반 지능(AGI) 모델과 그 전구체의 역량과 행동을 분류하기 위한 프레임워크를 제안합니다. 이 프레임워크는 AGI 성능, 일반성 및 자율성의 수준을 소개하여 모델을 비교하고, 위험을 평가하고, AGI로 가는 길을 따라 진행 상황을 측정하기 위한 공통 언어를 제공합니다. 프레임워크를 개발하기 위해 우리는 AGI의 기존 정의를 분석하고, AGI에 대한 유용한 온톨로지가 충족해야 하는 6가지 원칙을 추출합니다. 이러한 원칙을 염두에 두고 역량의 깊이(성능)와 폭(일반성)을 기반으로 "AGI 수준"을 제안하고 현재 시스템이 이 온톨로지에 어떻게 들어맞는지 고려합니다. 우리는 이러한 수준에 대한 AGI 모델의 행동과 역량을 정량화하는 미래 벤치마크에 대한 어려운 요구 사항을 논의합니다. 마지막으로, 이러한 수준의 AGI가 자율성 및 위험과 같은 배포 고려 사항과 어떻게 상호 작용하는지 논의하고, 매우 유능한 AI 시스템의 책임감 있고 안전한 배포를 위해 인간-AI 상호 작용 패러다임을 신중하게 선택하는 것의 중요성을 강조합니다.
우리는 인공 일반 지능(AGI) 모델과 그 전구체의 역량과 행동을 분류하기 위한 프레임워크를 제안합니다. 이 프레임워크는 AGI 성능, 일반성 및 자율성의 수준을 소개하여 모델을 비교하고, 위험을 평가하고, AGI로 가는 길을 따라 진행 상황을 측정하기 위한 공통 언어를 제공합니다. 프레임워크를 개발하기 위해 우리는 AGI의 기존 정의를 분석하고, AGI에 대한 유용한 온톨로지가 충족해야 하는 6가지 원칙을 추출합니다. 이러한 원칙을 염두에 두고 역량의 깊이(성능)와 폭(일반성)을 기반으로 "AGI 수준"을 제안하고 현재 시스템이 이 온톨로지에 어떻게 들어맞는지 고려합니다. 우리는 이러한 수준에 대한 AGI 모델의 행동과 역량을 정량화하는 미래 벤치마크에 대한 어려운 요구 사항을 논의합니다. 마지막으로, 이러한 수준의 AGI가 자율성 및 위험과 같은 배포 고려 사항과 어떻게 상호 작용하는지 논의하고, 매우 유능한 AI 시스템의 책임감 있고 안전한 배포를 위해 인간-AI 상호 작용 패러다임을 신중하게 선택하는 것의 중요성을 강조합니다.
전체 0