https://www.theglobeandmail.com/opinion/article-the-future-of-artificial-intelligence-a-future-i-helped-create-keeps/

 

요슈아 벤지오(Yoshua Bengio)는 몬트리올 대학교의 튜링상 수상 교수이자, 퀘벡에 위치한 AI 연구소인 밀라(Mila)의 설립자이자 과학 디렉터이며, 캐나다 CIFAR AI 의장이다.

벤지오는 인공지능의 작동 방식을 이해하고자 하는 과학적 탐구에 매료되어, 이를 단순화하여 인공지능을 설계해 인류의 삶의 질을 향상시키고자 하는 목표를 가지고 연구를 시작했다. 그의 인공 신경망 연구는 딥러닝 발전에 크게 기여했다.

약 10년 전, 벤지오의 연구가 산업계에서 실제 제품에 적용되기 시작하면서 AI 연구 투자와 AI 솔루션의 시장 배포가 가속화되었다. 2019년에는 제프리 힌튼(Geoffrey Hinton)과 얀 르쿤(Yann LeCun)과 함께 튜링상을 수상했다.

최근 벤지오는 ChatGPT와 같은 대형 언어 모델의 빠른 발전으로 AI의 위험성에 대해 깊이 고민하게 되었다. AI가 사회의 중요한 기둥인 민주주의와 국가 안보를 위협할 수 있는 잠재력을 가졌음을 인식한 그는 AI의 책임 있는 사용과 안전성을 위한 정부의 신속한 개입이 필요하다고 주장한다.

캐나다는 AI 연구와 혁신에서 세계 선두주자 중 하나로, 벤지오는 캐나다가 AI 안전을 위한 글로벌 리더십을 발휘해야 한다고 강조한다. 이를 위해 AI 연구와 공공 안전을 위한 정책 및 프로토콜 개발에 집중해야 한다고 주장하며, 국제적으로 AI 위험을 완화하기 위한 기구 설립을 제안한다.

벤지오는 AI의 경제적, 사회적 혜택을 최대한 누리면서 인권과 사회를 보호하기 위해 캐나다가 국제적인 협력을 통해 AI 규제를 가속화해야 한다고 강조한다. 이는 벤지오가 자신의 손자와 인류를 위한 책임을 다하기 위함이다.

 

AI 역량이 계속해서 무서운 속도로 발전한다면 충분히 강력해질 수 있다.

중요한 영역에서는 위험할 수 있으며 잠재적으로 우리를 능가할 수도 있음.

Geoffrey, Yann 및 저는 최근 생성 AI의 성공을 고려할 때 인간 수준의 AI가 불과 몇 년 또는 수십 년 후에 실현될 수 있다는 점에 동의