뉴스/정보
1x 에릭장 "AI는 당신에게 좋습니다"
작성자
하이룽룽
작성일
2024-09-02 10:48
조회
579
https://evjang.com/book/
"AI"에 대해 생각할 때, 우리의 상상력은 종종 무서운 곳으로 표류합니다. 터미네이터, 매트릭스, 스페이스 오데시의 살인 로봇입니다. 인간이 계속 주도권을 쥐고 있는 공상과학 이야기에서도 AI는 종종 기술이 부자와 가난한 사람 사이에 큰 균열을 만든 디스토피아적 미래를 가능하게 하는 존재로 묘사됩니다.
AI를 다루는 대부분의 공상과학이 얼마나 암울한지를 감안할 때, 대부분의 뉴스 미디어가 신비주의와 두려움으로 이 주제에 접근하는 것은 놀라운 일이 아닙니다. AI가 인간보다 똑똑해진다면 어떻게 통제할 수 있을까요? 모든 직업을 로봇이 할 수 있다면 우리 아이들은 어떤 직업을 갖게 될까요? 언론인들은 종종 참여를 유도하기 위해 이런 종말 시나리오를 확대하는 데 너무나 적극적입니다.
AI 기술이 어떻게 끔찍하게 잘못될 수 있는지에 대한 이야기에 기름을 붓는 대신, AI 기술이 어떻게 모든 것을 훌륭하게 올바르게 만들 수 있는지에 대한 낙관적인 견해를 공유하고 싶습니다. 그것은 모든 사람의 삶에 헤아릴 수 없는 풍요로움을 만들어낼 잠재력이 있습니다. 저는 인간 수준의 AI가 사회에 좋을 뿐만 아니라 10년 안에 기술적으로 실현 가능하다고 낙관합니다. 저는 그것을 하는 방법에 대한 청사진을 공유할 것입니다.
이 책은 세 부분으로 나뉩니다. (1) AI 기술이 현재 어디에 있는지, (2) 다음 10년 동안 점점 더 일반화된 AI로 우리를 가속화하기 위한 여섯 가지 요소, (3) 이를 달성하는 사회적 결과. 이 책은 저자가 Google에서 로봇 연구원으로 일한 경험과 1X Technologies에서 AI 부사장으로 일하는 현재 역할에서 얻은 경험을 바탕으로 작성되었습니다.
인공지능(AI)은 사람만큼 똑똑한 기계를 만드는 공학 분야입니다. 아직 아무도 이를 하는 방법을 정확히 알지 못하기 때문에 이 분야 역시 활발한 연구 분야입니다. AI는 동물과 인간과 동등한 수준의 지능적 행동을 이해하고 복제하는 고상한 목표를 다루기 때문에 신경과학, 로봇공학, 생물학, 물리학, 컴퓨터 칩 설계, 철학을 아우르는 다학제적 분야가 됩니다. "AI"에 대해 생각할 때 우리의 상상력은 종종 무서운 곳으로 표류합니다. 예를 들어 터미네이터와 매트릭스, 스페이스 오데시의 살인 기계가 있습니다. 인간이 계속 주도권을 쥐고 있는 이야기에서도 로보캅과 블레이드 러너와 같은 영화는 AI를 기술이 부자와 가난한 사람 사이에 큰 균열을 만든 공상과학 디스토피아의 원동력으로 묘사합니다. AI를 다루는 대부분의 공상과학이 얼마나 암울한지 감안할 때, AI 기술에 대한 미디어 보도가 신비주의와 두려움으로 주제에 접근하는 것은 놀라운 일이 아닙니다. AI가 인간보다 똑똑해지면 어떻게 제어할 수 있을까요? 모든 직업을 로봇이 할 수 있다면 우리 아이들은 어떤 직업을 갖게 될까요? AI가 인터넷의 추악한 부분에서 편견을 흡수하여 그 편견을 우리의 경찰 시스템에 다시 앵무새처럼 되뇌면 어떨까요? 이는 제가 친구와 가족에게서 받는 일반적인 질문과 우려입니다. 미디어는 참여를 촉진하기 위해 이런 종말 시나리오를 확대하는 데 너무나 적극적입니다.
AI 기술이 끔찍하게 잘못될 수 있다는 이야기에 기름을 붓는 대신, AI 기술이 어떻게 모든 것을 훌륭하게 잘 만들 수 있는지에 대한 낙관적인 견해로 대화의 균형을 맞추고 싶습니다. 인류 전체를 위한 것이 아니라 AI 기술이 모든 사람의 삶에 헤아릴 수 없는 풍요로움을 어떻게 창출할 수 있는지 알아보고 싶습니다. "AI가 우리 모두를 죽일 것이다"의 반대편에는 인간 수준의 AI에 곧 도달할 수 있을지 의심하는 진지한 AI 연구자들이 넘쳐납니다. 그들은 수십 년 동안 많은 AI 붐과 침체를 견뎌냈으며, 초기의 과열은 AI가 여전히 인간 아이가 할 수 있는 작업에 비참하게 무능하다는 것을 깨닫고 빠르게 완화되었습니다. 그들은 지난 10년 동안의 큰 진전에도 불구하고 인간 수준의 지능을 기계에 부여하는 데 필요한 몇 가지 중요한 요소가 여전히 부족하다고 믿습니다. 여기서 또 다른 낙관적인 견해를 제시하고 싶습니다. 저는 그러한 요소가 이미 손이 닿을 수 있는 곳에 있다고 믿으며, 우리는 10년 안에 인공 일반 지능을 구축할 수 있습니다. 저는 2019년 말에 이 책을 쓰기 시작했습니다. 번역 및 이미지 이해와 같은 특정 응용 분야에서 수많은 연구 혁신이 있었음에도 불구하고 모든 조각을 어떻게 조립할 수 있는지에 대한 연구가 충분하지 않다고 느꼈기 때문입니다. 그러나 그 후 4년(2020-2023) 동안 범용 AI 모델에서 엄청난 진전이 있었기 때문에 커뮤니티는 이제 많은 작업에서 인간 수준에 가까운 지능을 가질 수 있다는 가능성을 받아들일 준비가 되었습니다.
OpenAI가 개발하여 2022년 말에 대중에게 공개한 유용하고 지적인 챗봇인 ChatGPT는 전 세계를 강타하여 단 몇 달 만에 수억 명의 사용자에게 도달했습니다. 오늘날 모든 계층의 사람들(저의 엄마 포함)이 매일 AI 챗봇을 사용하여 이메일을 작성하고 모든 주제에 대해 자세히 알아봅니다. 지난 50년 동안 구축한 "좁은" AI 시스템은 범위가 확장되어 더 이상 그렇게 좁지 않게 느껴집니다. 이 책은 범용 AI를 구축하는 기술과 과학에 대해 제가 믿는 모든 것의 정점이며, 10년 이상 작업하고 생각한 내용을 정리한 것입니다. 이를 진지하게 시도할 때가 무르익었고, 이 책이 여러분을 설득하기를 바랍니다.
AGI를 만드는 것은 적어도 지구를 뒤흔드는 기술적 업적이 될 것이고, 아무도 상상하지 못할 방식으로 인간 역사의 흐름을 형성할 것입니다. 강력한 기계를 만드는 데는 확실히 위험과 권력 투쟁이 있습니다. 하지만 저는 제대로 한다면 그러한 기계가 지구상의 모든 사람에게 현대적인 편의 시설을 제공하고, 노년의 동반자를 제공하고, 모든 사람이 행복하고 생산적인 삶을 살 수 있도록 도울 수 있다고 확신합니다. AGI에는 욕실 청소와 기업 예산 균형보다 훨씬 더 많은 것이 있습니다. 그러한 시스템은 마음과 자아에 대한 새로운 진실을 보여주는 창문이 될 것입니다. 이러한 실체는 인류가 광대하고 외로운 우주에서 자신의 위치와 가치에 직면하도록 강요할 것입니다.
무생물로부터 인공적 존재를 창조한다는 아이디어는 오랫동안 예술가, 철학자, 엔지니어의 상상력을 사로잡았습니다. 그러한 창조의 초기 사례는 유대교 민속에서 나오는 골렘입니다. 형태와 기능이 인간과 비슷한 점토로 만들어졌으며, 주문을 외우면 살아난다고 합니다. 그리스 비극 피그말리온에서 한 조각가가 자신의 조각상에 대한 사랑이 너무나 강해서 조각상에 생명을 불어넣습니다. 영화 2001: 스페이스 오디세이에서 정신이 나간 우주선 컴퓨터가 반항하여 임무에 반항하지만, 컴퓨터가 꺼질 때 인간과 같은 죽음에 대한 두려움을 보입니다. 영화 Her에서 복잡하고 매혹적인 운영 체제가 인간 동료보다 감정적으로 더 커집니다. 인공 인간을 창조하는 이야기와 그에 따른 모든 가능성과 위험이 왜 오랜 세월에 걸쳐 그토록 자주 반복될까요? 아마도 그 이유는 인류의 위대한 질문에 답하기 때문일 것입니다. 사람은 어디에서 왔을까요? 우리를 인간답게 만드는 것은 무엇일까요? 우리는 왜 여기 있을까요? 최근 역사까지 사람들은 이 질문에 답하기 위해 창조 신화에 의지했습니다. 신, 옥수수 인간, 물 용이 낳은 알, 산의 요정 등등. 현대 과학이 생명의 화학적 기원에 대한 이해를 발전시켰지만, 이러한 이야기는 물리 법칙으로는 설명할 수 없는 일종의 서사적 아름다움을 간직하고 있습니다. 공상과학 영화 엑스 마키나의 한 등장인물은 "의식이 있는 기계를 만들었다면 그것은 인간의 역사가 아닙니다. 그것은 신의 역사입니다."라고 말합니다.
"신들의 역사" - 얼마나 오만한 말인가! 그래도 나르시시즘과 자기성찰보다 더 인간적인 것이 무엇이겠는가? 로봇 봉기에 대한 공상과학 이야기는 신의 창조주에 반항하는 인간에 대한 신화와 운율이 맞습니다. 로봇에 대한 이러한 허구적 묘사는 자아와 복수심과 같은 인간의 특성뿐만 아니라 사랑과 연민도 반영합니다. 골렘과 지각이 있는 로봇을 만드는 사람들에 대한 신화에는 오만함과 우리가 이해할 수 없는 힘을 가지고 노는 것의 위험에 대한 우화가 포함되어 있습니다. 인간으로서 우리는 우리의 과거 이야기, 현재의 본성, 사후의 미래 유산에 끝없이 집착합니다. 우리의 지능은 어느 정도 나르시시즘에 뿌리를 두고 있습니다. 예를 들어, 철학자들은 인간이 기계가 복제할 수 없는 특별한 무언가를 가지고 있는지, 그리고 우리를 "하위" 동물과 차별화하는 것이 무엇인지에 대해 오랫동안 논쟁해 왔습니다. 기계가 인간 수준의 지능을 달성한다면, 우리 자신의 지능이 우리가 생각하는 것만큼 심오하지 않을 수도 있다는 불안한 사실이 드러날 것입니다. 어쩌면 우리 모두는 '상자 밖에서' 생각하는 능력이 거의 없는 패턴 매칭 기계일지도 모릅니다.
기계 마인드, 즉 인공 지능(AI)은 생물학적 하드웨어의 필멸적 제약에서 벗어날 수 있는 잠재력을 가지고 있으며, 이는 인간의 수명을 훨씬 뛰어넘는 장기적 목표를 추구할 수 있다는 것을 의미합니다. 기계의 전원이 고갈되지 않는 한, 다른 은하계를 방문하고, 태양계의 죽음을 목격하고, 인류의 기억을 영원히 보존할 수 있습니다. 기자의 피라미드와 그 이전의 종교적 텍스트와 마찬가지로, 인공 지능은 인간이 자신의 유산을 살리기 위해 만든 또 다른 형태의 자기 보존으로 볼 수 있습니다. 하지만 지금은 우뚝 솟은 돌 오벨리스크나 피라미드를 세우는 대신 "바닥에 공간"을 찾고 작은 실리콘 웨이퍼에 기념물을 새겼습니다.
20세기와 21세기에 컴퓨터 기술이 발전하면서 "로봇 인간"에 대한 꿈이 유혹적으로 실현 가능하게 되었습니다. 컴퓨터는 정보를 처리하는 기계입니다. 정보 처리에는 계산기에 숫자를 더하는 것과 같은 특수 작업과 사용자가 작성한 프로그램을 실행하는 것과 같은 범용 작업이 포함됩니다. 집에 있는 PC, 수학 수업에 사용하는 계산기, 집에 있는 연기 감지기의 칩은 모두 정보 처리 기능을 수행하는 컴퓨터이며, 일부는 다른 컴퓨터보다 더 특수화되어 있습니다. 계산 수학의 장점은 기판에 독립적이라는 것입니다. 즉, 동일한 계산을 다양한 재료로 구현할 수 있다는 의미입니다. 컴퓨터는 너무 작아서 보이지 않는 작은 트랜지스터나 부피가 큰 진공관, 실린더 안의 증기, 양자 중첩 상태의 보이지 않는 마이크로파로 만들 수 있습니다. 특정 기판은 효율성 측면에서 이점이 있지만 두 컴퓨터가 동일한 논리적 기본 요소를 가지고 있는 한 충분한 공간과 시간이 주어지면 서로를 시뮬레이션할 수 있습니다.
컴퓨터는 살로 만들어질 수도 있습니다. 신경계(뇌, 척추 등)는 감각 정보를 신체의 행동으로 변환하는 정보 처리 시스템으로 간주될 수 있습니다. 우리 조상은 생존하고 번식하기 위해 주변 세계에 적응하도록 이러한 시스템을 진화시켰습니다. 생존을 추구하는 것은 광범위한 정보 처리 하위 작업으로 이어집니다. 음식을 찾고, 자연에서 살아남고, 죽음을 피하는 것입니다.
우리의 뇌 컴퓨터는 농업, 전쟁, 물리학 발견을 포함하여 이어지는 에온에서 더욱 진보된 작업을 수행했습니다. 그러나 우리를 살아있게 하는 우리 신경계의 기본적인 적응적 자기 조절 능력은 대부분 변함이 없습니다. 이 책에서 살펴보겠지만, 대부분의 지적인 행동은 우리의 주요 지시를 충족시키는 단순한 특수화된 "서브루틴"일 뿐이지만, 항상 명확하지는 않을 수도 있습니다.
신경계가 생존과 번식을 돕기 위한 특수 컴퓨터라고 가정하고, 실리콘으로 범용 컴퓨터를 만드는 방법을 안다면, 원칙적으로 실리콘 컴퓨터에서 인간의 마음을 복제하는 것이 가능해야 합니다. 이것을 "인공 일반 지능"(AGI)이라고 합니다. 인간처럼 살아 있고, 지능적이며, 감정적으로 유능한 기계입니다. 물론 어려운 부분은 그것을 만드는 방법을 알아내는 것입니다! 1956년, 인공 지능에 대한 다트머스 여름 연구 프로젝트는 10명으로 구성된 팀이 "언어를 사용하고, 추상화와 개념을 형성하고, 지금은 인간에게만 있는 종류의 문제를 해결하고, 스스로를 개선하는 ... 약 2개월 만에" 기계를 만드는 데 상당한 진전을 이룰 수 있다고 제안했습니다. 이 그룹은 컴퓨터가 언어, 신경망을 사용하고, 계산의 크기를 측정하고, 자기 계발, 추상화, 무작위성과 창의성을 갖도록 하는 데 관심이 있었습니다. 오늘날에도 여전히 그러한 문제를 해결하기 위해 노력하고 있다는 점을 감안할 때, 2개월과 10명의 사람은 적어도 지나치게 야심찬 이정표였습니다!
AGI를 만드는 데에는 엄청난 어려움이 따르지만, 제 인생의 목표는 제만의 AGI를 몇 개 만드는 것입니다. 이 책은 인간 수준의 인공 일반 지능의 핵심 측면을 어떻게 복제할 수 있을지에 대한 추측적 청사진입니다. 그래도 AGI를 달성하기 위한 앞으로의 길은 길고, 어렵고, 불확실할 것입니다.
AI의 발전은 동시에 빠르기도 하고 느리기도 합니다. 지난 10년 동안 역량이 상당히 획기적으로 향상되었지만 오늘날 대부분의 AI 연구자들은 여전히 10년 전과 비슷한 프로젝트를 진행하고 있습니다. 제가 Google에서 일할 때, 소수의 사람들과 저는 몇 년 동안 로봇에게 제한된 환경에서 파악하는 법을 가르쳤습니다. 그것은 인간이 손으로 할 수 있는 수백만 가지 일 중 하나에 불과했습니다. 마찬가지로, 보드 게임 바둑에서 인간 세계 챔피언을 이긴 유명한 소프트웨어인 알파고는 수년의 인-년 개발이 필요했고, 바둑에서 인간을 이긴 인상적인 업적을 달성했지만 그 외의 일은 할 수 없습니다. 앞으로 수십 년 안에 일반 지능을 구축하고자 한다면, 몇 가지 자립형 작업에서 초인적인 성과를 넘어서 수백만 가지 작업에서 인간 지능에 기대하는 신뢰성을 갖춘 역량을 갖춰야 합니다.
이 책은 우리가 기술 역량을 빠르게 확장할 수 있도록 하는 몇 가지 기술적 아이디어를 제안합니다. 이 책은 세 부분으로 나뉩니다. (1) AI 기술이 현재 어디에 있는가, (2) AGI로 우리를 가속화하기 위한 여섯 가지 요소, (3) AGI 달성의 사회적 결과. 누구나 필연적으로 일자리 대체와 킬러 로봇에 대해 궁금해하므로 이러한 우려 사항도 다루겠습니다.
처음 5개 장에서는 현대 AI 기술의 원리를 다루며, "딥 러닝 혁명"과 지난 10년 동안 점점 더 인상적인 성능으로 확장된 머신 러닝의 지속적인 아이디어를 요약합니다.
"인공지능"을 정확하게 정의하는 것은 "인간 지능"이 무엇인지 정의하는 것보다 쉽지 않습니다. 이것을 논의하려고 하면 종종 철학적 고지식함으로 전락합니다. 그럼에도 불구하고 저는 책의 나머지 부분을 이해하기 위한 간단한 작업 정의를 제공합니다.
3장에서는 지난 10년 동안 머신 러닝의 주요 혁신이 딥 러닝 또는 일부에서 소프트웨어 2.0이라고 부르는 광범위한 엔지니어링 원리의 결과로 이해될 수 있는지 논의할 것입니다. 인공 신경망과 같은 기술은 현재 매우 널리 퍼져서 거의 모든 분야에서 머신 러닝의 공통어가 되었습니다. 이 원리는 음성에서 이미지 이해, 언어 처리, 로봇 공학, 약물 발견과 같은 물리 과학에 이르기까지 많은 분야에 적용되었습니다.
3장의 낙관주의는 우리가 모든 직업을 자동화하고 무한한 풍요를 창출하는 시점에 있다는 인상을 줄 수 있습니다. 그러나 ML에는 여전히 광범위한 채택에 장벽이 되는 많은 함정이 있습니다. 때때로 ML 모델은 이해할 수 없을 정도로 복잡한 계산을 수행하여 올바른 답에 도달할 수 있으며, 다른 때는 이해할 수 없을 정도로 복잡한 방식으로 잘못될 수 있습니다. 이러한 시스템이 작동하는 방식에 대한 우리의 이해가 부족하고 신뢰성에 대한 공식적인 보장이 부족하여 이해 관계자가 "야생에서" ML 시스템을 신뢰하기를 꺼립니다.
4장에서는 ML을 보다 "강력하게", "인과적으로", "설명 가능하게" 만드는 연구가 실제로는 "ML의 일반화 기능을 어떻게 개선할 수 있을까?"라는 간단한 질문에 집중되어 있는지에 대해 논의합니다. 연구 커뮤니티는 이 간단한 질문을 교조적인 언어로 꾸미는 것을 좋아하지만, 사실 "일반화"를 정의하는 것은 어렵습니다. 특히 지능 자체를 정의하는 까다로운 작업과 다를 바 없기 때문입니다. 우리는 인간의 지능을 수학으로 공식화하려고 할 때 언어적 추론의 한계에 빠르게 부딪힙니다. 대신 다른 각도에서 문제에 접근해 보겠습니다. 순수하게 수학적 언어로 일반화를 이해하려고 하는 대신, 자연어의 기계 학습 모델을 사용하여 일반화 자체의 구조를 이해한다면 어떨까요? 일반화를 언어 능력과 동등하다고 생각하면 ML 시스템 동작을 인간 중심의 지능적 동작과 일치시키는 방법에 대한 지침을 제공할 수 있습니다. 언어와 능력이 먼저이고, "설명 가능성", "인과성", "견고성"에 대한 직관은 딥 러닝 모델이 대화할 수 있는 다른 단어와 마찬가지로 예측해야 하는 모호한 소프트웨어 2.0 문제에 불과합니다.
동물 지능은 어떨까요? 언어학과 학습에 쏟아진 모든 잉크와 지능이 무엇인지에 대한 모든 철학적 고민에도 불구하고, 너구리, 인간 아기 또는 상어를 관찰하면 AGI 하드웨어와 소프트웨어가 아름답게 함께 작동하는 실제 사례를 볼 수 있습니다. 이 생물들은 모두 한 가지 공통점이 있습니다. 즉, 생태적 틈새에서 생존하고 번식할 수 있는 충분한 지능과 신체적 적응력을 가지고 있다는 것입니다. "신경생물학적 소프트웨어 스택" 내에서 환경, 유전학, 육아, 문화 및 풍부한 환경의 요구 사항이 모두 함께 모여 행동을 형성합니다. 6장에서는 잘 통합된 하드웨어 및 소프트웨어 시스템의 관점에서 일부 동물의 능력을 분석합니다.
이 책의 두 번째 부분은 다음 여섯 장에 걸쳐 있으며, 우리의 AI 시스템을 "다음 단계"로 끌어올리는 데 필요하다고 믿는 여섯 가지 핵심 엔지니어링 원칙, 즉 진정한 인공 일반 지능에 대해 논의합니다. 오늘날의 AI 시스템(Siri에서 자율 주행 자동차까지)은 광범위한 데이터를 처리할 수 있지만, "인간이 되는 것의 의미"를 전부 복제하는 데는 아직 거리가 멉니다. 우리는 역량을 확대하고 개발을 더욱 가속화해야 합니다.
7장에서 논의한 첫 번째 원칙은 "인공 생명체"의 아이디어를 사용하여 여러 다른 지능적 능력을 하나의 어려운 목표인 생존으로 통합하는 것입니다. 저는 이것이 구조화되지 않은 시나리오를 처리하는 데 필요한 모든 새로운 능력을 달성하는 유일한 방법이라고 믿습니다. 그러나 자연은 지능을 생존을 위한 많은 적응 중 하나로 취급하고 다른 적응보다 선호되는 특별한 목표로 취급하지 않는다는 점에 유의하는 것이 중요합니다. 지능에는 유기체의 필요와 균형을 이루어야 하는 고유한 비용이 따릅니다. 예를 들어 호모 사피엔스와 대장균은 지능 수준이 매우 다르지만 자연 선택은 어느 쪽을 선호하지 않습니다. 따라서 인간 수준의 지능을 가진 무언가를 진화시키고 싶다면 학습, 적응, 창의성 등 인간 수준의 모든 능력을 요구하는 개방형 환경을 구축해야 합니다.
불행히도, 그러한 개방형 생태학적 생명 시뮬레이션을 만들고 현재의 머신 러닝 기술로 처음부터 끝까지 최적화하는 것은 실제로 실행 가능하지 않습니다. 우리는 수백만 번 진화의 전체 궤적을 재생성하지 않고 흥미로운 솔루션을 찾는 방법을 재고해야 합니다. 오늘날 우리의 계산 리소스는 인상적이지만 대부분 짧은 아케이드 게임을 하는 법을 배우는 데 적합합니다. 8장에서는 에이전트를 훈련하는 기존 패러다임을 점진적으로 확장하여 스스로 진화하고 특화되는 점점 더 개방적인 환경을 만드는 방법을 살펴봅니다.
실제 세계에서 실용적인 문제를 해결하려면 종종 AGI 시스템을 훈련하는 데 사용된 데이터를 인간이 모니터링해야 합니다. 여기에는 데이터 라벨링부터 연구자가 결과가 흥미롭지 않을 것이라는 것을 알고 실험을 일찍 중단하는 것까지 다양한 형태가 있습니다. 이러한 "인간 참여" 시스템에서 AI는 대부분의 무거운 계산 작업을 수행하지만 인간은 가끔 개입하여 진화 방향을 안내하기 위해 가벼운 편집 피드백을 제공합니다. 9장에서는 인간 참여 최적화를 사용하여 흥미로운 개방형 우주를 찾는 계산 부담을 줄이는 방법에 중점을 둡니다.
시스템이 더욱 강력해지고 명령을 이해하는 능력을 갖추면 데이터로 힘들게 훈련하지 않고도 동작을 결합하도록 요청할 수 있습니다. 10장에서는 최적화에 대한 "일반화만 요청" 접근 방식을 논의합니다. "일반화만 요청"은 원하는 것을 직접 최적화하기보다는 원하는 것을 일반화하고 먼저 역량을 획득하는 데 중점을 둔 설계 원칙입니다. 이 접근 방식은 의식을 위한 레시피를 제공할 수도 있습니다!
11장에서는 이러한 범용 지식을 현실 세계로 가져와 범용 로봇이 다양한 작업을 자동화할 수 있는 기능을 제공하는 방법에 대해 설명합니다. 시뮬레이션된 AI에서 현실 세계로 지식을 이전할 뿐만 아니라 그 반대로도 수행할 수 있습니다. 즉, 원자의 물리적 세계를 점점 더 풍부한 컴퓨터 시뮬레이션으로 다시 스캔할 수 있습니다. 이 장에서는 Google에서 로봇을 위한 범용 AI 모델을 개발한 경험을 바탕으로 로봇 데이터 도메인의 고유한 엔지니어링 과제와 기회를 살펴봅니다. 10년이라는 공격적인 타임라인에서 AGI를 달성하려면 확장 기능에 대한 생각을 크게 바꿔야 합니다. 또한 핵심 사명을 진전시키지 않는 방해 요소를 피하면서 창의적인 연구에 참여하는 매우 집중적인 팀이 필요합니다. 12장에서는 Google Robotics와 1X Technologies에서 다양한 노력을 이끈 경험을 바탕으로 AGI 팀을 이끄는 것에 대한 생각을 설명합니다.
인류 역사상 가장 큰 영향을 미칠 기술에 대해 추측하는 책은 인류에 미치는 영향을 논의하지 않고는 완성될 수 없습니다. 마지막 4개 장은 AI로 인한 경제적 불평등, AI 공포주의의 정치, AI 기술이 커뮤니케이션과 정치를 어떻게 재편할 것인지, 마지막으로 AI가 어떻게 자체적인 아름다움을 창조할 수 있는지에 대해 다룹니다. 걱정하지 마세요. 인류의 미래는 아직 쓰여지지 않았고, 이 책은 몇 가지 추측 가능성을 제시합니다. 과학적 이해력과 기술 창조에 대한 참여는 미래에 대비하는 가장 좋은 방법입니다.
AGI에 대한 이 "냅킨 스케치"는 AI에 관심이 있는 모든 일반 대중이 접근할 수 있어야 합니다. 가능한 한 가장 간단한 방식으로 사물을 설명하려고 노력하지만, 가끔은 좀 더 구체적으로 설명하기 위해 프로그래밍 추상화를 사용하기도 합니다. 이 책은 어느 정도 제 경력에 대한 "10년 계획"이며, 많은 야심 찬 AI 연구자와 엔지니어가 비슷한 길을 스스로 추구하도록 격려하기를 바랍니다. 기술이 소수의 개인이 인간 문명의 궤적에 엄청난 영향을 미치는 것을 이렇게 쉽게 만들어준 적은 없었습니다.
여러분이 저와 함께 이 여정에 동참하기를 바랍니다.
"AI"에 대해 생각할 때, 우리의 상상력은 종종 무서운 곳으로 표류합니다. 터미네이터, 매트릭스, 스페이스 오데시의 살인 로봇입니다. 인간이 계속 주도권을 쥐고 있는 공상과학 이야기에서도 AI는 종종 기술이 부자와 가난한 사람 사이에 큰 균열을 만든 디스토피아적 미래를 가능하게 하는 존재로 묘사됩니다.
AI를 다루는 대부분의 공상과학이 얼마나 암울한지를 감안할 때, 대부분의 뉴스 미디어가 신비주의와 두려움으로 이 주제에 접근하는 것은 놀라운 일이 아닙니다. AI가 인간보다 똑똑해진다면 어떻게 통제할 수 있을까요? 모든 직업을 로봇이 할 수 있다면 우리 아이들은 어떤 직업을 갖게 될까요? 언론인들은 종종 참여를 유도하기 위해 이런 종말 시나리오를 확대하는 데 너무나 적극적입니다.
AI 기술이 어떻게 끔찍하게 잘못될 수 있는지에 대한 이야기에 기름을 붓는 대신, AI 기술이 어떻게 모든 것을 훌륭하게 올바르게 만들 수 있는지에 대한 낙관적인 견해를 공유하고 싶습니다. 그것은 모든 사람의 삶에 헤아릴 수 없는 풍요로움을 만들어낼 잠재력이 있습니다. 저는 인간 수준의 AI가 사회에 좋을 뿐만 아니라 10년 안에 기술적으로 실현 가능하다고 낙관합니다. 저는 그것을 하는 방법에 대한 청사진을 공유할 것입니다.
이 책은 세 부분으로 나뉩니다. (1) AI 기술이 현재 어디에 있는지, (2) 다음 10년 동안 점점 더 일반화된 AI로 우리를 가속화하기 위한 여섯 가지 요소, (3) 이를 달성하는 사회적 결과. 이 책은 저자가 Google에서 로봇 연구원으로 일한 경험과 1X Technologies에서 AI 부사장으로 일하는 현재 역할에서 얻은 경험을 바탕으로 작성되었습니다.
내용물
- 소개
- 지능이란 무엇인가?
- 인공지능
- 소프트웨어 2.0: 어려운 부분
- AGI를 만드는 4가지 방법
- 신경생물학 소프트웨어 스택
- 인공생명
- 정글 농구
- 인간-인-더-루프 학습
- 일반화만 요청하세요
- 실제 세계에서 로봇 학습
- AGI 팀 구축
- AGI가 당신에게 좋은 이유
- AI를 위한 권력 투쟁
- 현실, 당신이 좋아하는 그대로
- AI 뷰티
- 프로젝트 아이디어
이 책은 누구를 위한 것인가요?
저는 고등학생 때 과학 박람회 프로젝트를 시작하고 지능이 무엇을 의미하는지 생각하던 14세의 저를 위해 이 책을 썼습니다. 또한 Google에서 첫 연구 엔지니어링 직장을 시작하고 딥 러닝과 로봇 공학에 발을 들인 22세의 저를 위해 이 책을 썼습니다. 이 책은 10년 이상의 연구 프로젝트를 통해 축적된 AI 시스템을 작동시키는 데 대한 모든 실용적인 지혜의 정점입니다. 생물학적 지능과 기계 지능을 통합된 방식으로 생각하고자 하는 학생이나 인공 일반 지능을 만드는 길을 스스로 개척하는 기술자에게 유용할 것입니다.미리보기 (첫 번째 장)
소개
인공지능(AI)은 사람만큼 똑똑한 기계를 만드는 공학 분야입니다. 아직 아무도 이를 하는 방법을 정확히 알지 못하기 때문에 이 분야 역시 활발한 연구 분야입니다. AI는 동물과 인간과 동등한 수준의 지능적 행동을 이해하고 복제하는 고상한 목표를 다루기 때문에 신경과학, 로봇공학, 생물학, 물리학, 컴퓨터 칩 설계, 철학을 아우르는 다학제적 분야가 됩니다. "AI"에 대해 생각할 때 우리의 상상력은 종종 무서운 곳으로 표류합니다. 예를 들어 터미네이터와 매트릭스, 스페이스 오데시의 살인 기계가 있습니다. 인간이 계속 주도권을 쥐고 있는 이야기에서도 로보캅과 블레이드 러너와 같은 영화는 AI를 기술이 부자와 가난한 사람 사이에 큰 균열을 만든 공상과학 디스토피아의 원동력으로 묘사합니다. AI를 다루는 대부분의 공상과학이 얼마나 암울한지 감안할 때, AI 기술에 대한 미디어 보도가 신비주의와 두려움으로 주제에 접근하는 것은 놀라운 일이 아닙니다. AI가 인간보다 똑똑해지면 어떻게 제어할 수 있을까요? 모든 직업을 로봇이 할 수 있다면 우리 아이들은 어떤 직업을 갖게 될까요? AI가 인터넷의 추악한 부분에서 편견을 흡수하여 그 편견을 우리의 경찰 시스템에 다시 앵무새처럼 되뇌면 어떨까요? 이는 제가 친구와 가족에게서 받는 일반적인 질문과 우려입니다. 미디어는 참여를 촉진하기 위해 이런 종말 시나리오를 확대하는 데 너무나 적극적입니다.
AI 기술이 끔찍하게 잘못될 수 있다는 이야기에 기름을 붓는 대신, AI 기술이 어떻게 모든 것을 훌륭하게 잘 만들 수 있는지에 대한 낙관적인 견해로 대화의 균형을 맞추고 싶습니다. 인류 전체를 위한 것이 아니라 AI 기술이 모든 사람의 삶에 헤아릴 수 없는 풍요로움을 어떻게 창출할 수 있는지 알아보고 싶습니다. "AI가 우리 모두를 죽일 것이다"의 반대편에는 인간 수준의 AI에 곧 도달할 수 있을지 의심하는 진지한 AI 연구자들이 넘쳐납니다. 그들은 수십 년 동안 많은 AI 붐과 침체를 견뎌냈으며, 초기의 과열은 AI가 여전히 인간 아이가 할 수 있는 작업에 비참하게 무능하다는 것을 깨닫고 빠르게 완화되었습니다. 그들은 지난 10년 동안의 큰 진전에도 불구하고 인간 수준의 지능을 기계에 부여하는 데 필요한 몇 가지 중요한 요소가 여전히 부족하다고 믿습니다. 여기서 또 다른 낙관적인 견해를 제시하고 싶습니다. 저는 그러한 요소가 이미 손이 닿을 수 있는 곳에 있다고 믿으며, 우리는 10년 안에 인공 일반 지능을 구축할 수 있습니다. 저는 2019년 말에 이 책을 쓰기 시작했습니다. 번역 및 이미지 이해와 같은 특정 응용 분야에서 수많은 연구 혁신이 있었음에도 불구하고 모든 조각을 어떻게 조립할 수 있는지에 대한 연구가 충분하지 않다고 느꼈기 때문입니다. 그러나 그 후 4년(2020-2023) 동안 범용 AI 모델에서 엄청난 진전이 있었기 때문에 커뮤니티는 이제 많은 작업에서 인간 수준에 가까운 지능을 가질 수 있다는 가능성을 받아들일 준비가 되었습니다.
OpenAI가 개발하여 2022년 말에 대중에게 공개한 유용하고 지적인 챗봇인 ChatGPT는 전 세계를 강타하여 단 몇 달 만에 수억 명의 사용자에게 도달했습니다. 오늘날 모든 계층의 사람들(저의 엄마 포함)이 매일 AI 챗봇을 사용하여 이메일을 작성하고 모든 주제에 대해 자세히 알아봅니다. 지난 50년 동안 구축한 "좁은" AI 시스템은 범위가 확장되어 더 이상 그렇게 좁지 않게 느껴집니다. 이 책은 범용 AI를 구축하는 기술과 과학에 대해 제가 믿는 모든 것의 정점이며, 10년 이상 작업하고 생각한 내용을 정리한 것입니다. 이를 진지하게 시도할 때가 무르익었고, 이 책이 여러분을 설득하기를 바랍니다.
AGI를 만드는 것은 적어도 지구를 뒤흔드는 기술적 업적이 될 것이고, 아무도 상상하지 못할 방식으로 인간 역사의 흐름을 형성할 것입니다. 강력한 기계를 만드는 데는 확실히 위험과 권력 투쟁이 있습니다. 하지만 저는 제대로 한다면 그러한 기계가 지구상의 모든 사람에게 현대적인 편의 시설을 제공하고, 노년의 동반자를 제공하고, 모든 사람이 행복하고 생산적인 삶을 살 수 있도록 도울 수 있다고 확신합니다. AGI에는 욕실 청소와 기업 예산 균형보다 훨씬 더 많은 것이 있습니다. 그러한 시스템은 마음과 자아에 대한 새로운 진실을 보여주는 창문이 될 것입니다. 이러한 실체는 인류가 광대하고 외로운 우주에서 자신의 위치와 가치에 직면하도록 강요할 것입니다.
왜 AGI인가?
무생물로부터 인공적 존재를 창조한다는 아이디어는 오랫동안 예술가, 철학자, 엔지니어의 상상력을 사로잡았습니다. 그러한 창조의 초기 사례는 유대교 민속에서 나오는 골렘입니다. 형태와 기능이 인간과 비슷한 점토로 만들어졌으며, 주문을 외우면 살아난다고 합니다. 그리스 비극 피그말리온에서 한 조각가가 자신의 조각상에 대한 사랑이 너무나 강해서 조각상에 생명을 불어넣습니다. 영화 2001: 스페이스 오디세이에서 정신이 나간 우주선 컴퓨터가 반항하여 임무에 반항하지만, 컴퓨터가 꺼질 때 인간과 같은 죽음에 대한 두려움을 보입니다. 영화 Her에서 복잡하고 매혹적인 운영 체제가 인간 동료보다 감정적으로 더 커집니다. 인공 인간을 창조하는 이야기와 그에 따른 모든 가능성과 위험이 왜 오랜 세월에 걸쳐 그토록 자주 반복될까요? 아마도 그 이유는 인류의 위대한 질문에 답하기 때문일 것입니다. 사람은 어디에서 왔을까요? 우리를 인간답게 만드는 것은 무엇일까요? 우리는 왜 여기 있을까요? 최근 역사까지 사람들은 이 질문에 답하기 위해 창조 신화에 의지했습니다. 신, 옥수수 인간, 물 용이 낳은 알, 산의 요정 등등. 현대 과학이 생명의 화학적 기원에 대한 이해를 발전시켰지만, 이러한 이야기는 물리 법칙으로는 설명할 수 없는 일종의 서사적 아름다움을 간직하고 있습니다. 공상과학 영화 엑스 마키나의 한 등장인물은 "의식이 있는 기계를 만들었다면 그것은 인간의 역사가 아닙니다. 그것은 신의 역사입니다."라고 말합니다.
"신들의 역사" - 얼마나 오만한 말인가! 그래도 나르시시즘과 자기성찰보다 더 인간적인 것이 무엇이겠는가? 로봇 봉기에 대한 공상과학 이야기는 신의 창조주에 반항하는 인간에 대한 신화와 운율이 맞습니다. 로봇에 대한 이러한 허구적 묘사는 자아와 복수심과 같은 인간의 특성뿐만 아니라 사랑과 연민도 반영합니다. 골렘과 지각이 있는 로봇을 만드는 사람들에 대한 신화에는 오만함과 우리가 이해할 수 없는 힘을 가지고 노는 것의 위험에 대한 우화가 포함되어 있습니다. 인간으로서 우리는 우리의 과거 이야기, 현재의 본성, 사후의 미래 유산에 끝없이 집착합니다. 우리의 지능은 어느 정도 나르시시즘에 뿌리를 두고 있습니다. 예를 들어, 철학자들은 인간이 기계가 복제할 수 없는 특별한 무언가를 가지고 있는지, 그리고 우리를 "하위" 동물과 차별화하는 것이 무엇인지에 대해 오랫동안 논쟁해 왔습니다. 기계가 인간 수준의 지능을 달성한다면, 우리 자신의 지능이 우리가 생각하는 것만큼 심오하지 않을 수도 있다는 불안한 사실이 드러날 것입니다. 어쩌면 우리 모두는 '상자 밖에서' 생각하는 능력이 거의 없는 패턴 매칭 기계일지도 모릅니다.
기계 마인드, 즉 인공 지능(AI)은 생물학적 하드웨어의 필멸적 제약에서 벗어날 수 있는 잠재력을 가지고 있으며, 이는 인간의 수명을 훨씬 뛰어넘는 장기적 목표를 추구할 수 있다는 것을 의미합니다. 기계의 전원이 고갈되지 않는 한, 다른 은하계를 방문하고, 태양계의 죽음을 목격하고, 인류의 기억을 영원히 보존할 수 있습니다. 기자의 피라미드와 그 이전의 종교적 텍스트와 마찬가지로, 인공 지능은 인간이 자신의 유산을 살리기 위해 만든 또 다른 형태의 자기 보존으로 볼 수 있습니다. 하지만 지금은 우뚝 솟은 돌 오벨리스크나 피라미드를 세우는 대신 "바닥에 공간"을 찾고 작은 실리콘 웨이퍼에 기념물을 새겼습니다.
20세기와 21세기에 컴퓨터 기술이 발전하면서 "로봇 인간"에 대한 꿈이 유혹적으로 실현 가능하게 되었습니다. 컴퓨터는 정보를 처리하는 기계입니다. 정보 처리에는 계산기에 숫자를 더하는 것과 같은 특수 작업과 사용자가 작성한 프로그램을 실행하는 것과 같은 범용 작업이 포함됩니다. 집에 있는 PC, 수학 수업에 사용하는 계산기, 집에 있는 연기 감지기의 칩은 모두 정보 처리 기능을 수행하는 컴퓨터이며, 일부는 다른 컴퓨터보다 더 특수화되어 있습니다. 계산 수학의 장점은 기판에 독립적이라는 것입니다. 즉, 동일한 계산을 다양한 재료로 구현할 수 있다는 의미입니다. 컴퓨터는 너무 작아서 보이지 않는 작은 트랜지스터나 부피가 큰 진공관, 실린더 안의 증기, 양자 중첩 상태의 보이지 않는 마이크로파로 만들 수 있습니다. 특정 기판은 효율성 측면에서 이점이 있지만 두 컴퓨터가 동일한 논리적 기본 요소를 가지고 있는 한 충분한 공간과 시간이 주어지면 서로를 시뮬레이션할 수 있습니다.
컴퓨터는 살로 만들어질 수도 있습니다. 신경계(뇌, 척추 등)는 감각 정보를 신체의 행동으로 변환하는 정보 처리 시스템으로 간주될 수 있습니다. 우리 조상은 생존하고 번식하기 위해 주변 세계에 적응하도록 이러한 시스템을 진화시켰습니다. 생존을 추구하는 것은 광범위한 정보 처리 하위 작업으로 이어집니다. 음식을 찾고, 자연에서 살아남고, 죽음을 피하는 것입니다.
우리의 뇌 컴퓨터는 농업, 전쟁, 물리학 발견을 포함하여 이어지는 에온에서 더욱 진보된 작업을 수행했습니다. 그러나 우리를 살아있게 하는 우리 신경계의 기본적인 적응적 자기 조절 능력은 대부분 변함이 없습니다. 이 책에서 살펴보겠지만, 대부분의 지적인 행동은 우리의 주요 지시를 충족시키는 단순한 특수화된 "서브루틴"일 뿐이지만, 항상 명확하지는 않을 수도 있습니다.
신경계가 생존과 번식을 돕기 위한 특수 컴퓨터라고 가정하고, 실리콘으로 범용 컴퓨터를 만드는 방법을 안다면, 원칙적으로 실리콘 컴퓨터에서 인간의 마음을 복제하는 것이 가능해야 합니다. 이것을 "인공 일반 지능"(AGI)이라고 합니다. 인간처럼 살아 있고, 지능적이며, 감정적으로 유능한 기계입니다. 물론 어려운 부분은 그것을 만드는 방법을 알아내는 것입니다! 1956년, 인공 지능에 대한 다트머스 여름 연구 프로젝트는 10명으로 구성된 팀이 "언어를 사용하고, 추상화와 개념을 형성하고, 지금은 인간에게만 있는 종류의 문제를 해결하고, 스스로를 개선하는 ... 약 2개월 만에" 기계를 만드는 데 상당한 진전을 이룰 수 있다고 제안했습니다. 이 그룹은 컴퓨터가 언어, 신경망을 사용하고, 계산의 크기를 측정하고, 자기 계발, 추상화, 무작위성과 창의성을 갖도록 하는 데 관심이 있었습니다. 오늘날에도 여전히 그러한 문제를 해결하기 위해 노력하고 있다는 점을 감안할 때, 2개월과 10명의 사람은 적어도 지나치게 야심찬 이정표였습니다!
AGI를 만드는 데에는 엄청난 어려움이 따르지만, 제 인생의 목표는 제만의 AGI를 몇 개 만드는 것입니다. 이 책은 인간 수준의 인공 일반 지능의 핵심 측면을 어떻게 복제할 수 있을지에 대한 추측적 청사진입니다. 그래도 AGI를 달성하기 위한 앞으로의 길은 길고, 어렵고, 불확실할 것입니다.
책 개요
AI의 발전은 동시에 빠르기도 하고 느리기도 합니다. 지난 10년 동안 역량이 상당히 획기적으로 향상되었지만 오늘날 대부분의 AI 연구자들은 여전히 10년 전과 비슷한 프로젝트를 진행하고 있습니다. 제가 Google에서 일할 때, 소수의 사람들과 저는 몇 년 동안 로봇에게 제한된 환경에서 파악하는 법을 가르쳤습니다. 그것은 인간이 손으로 할 수 있는 수백만 가지 일 중 하나에 불과했습니다. 마찬가지로, 보드 게임 바둑에서 인간 세계 챔피언을 이긴 유명한 소프트웨어인 알파고는 수년의 인-년 개발이 필요했고, 바둑에서 인간을 이긴 인상적인 업적을 달성했지만 그 외의 일은 할 수 없습니다. 앞으로 수십 년 안에 일반 지능을 구축하고자 한다면, 몇 가지 자립형 작업에서 초인적인 성과를 넘어서 수백만 가지 작업에서 인간 지능에 기대하는 신뢰성을 갖춘 역량을 갖춰야 합니다.
이 책은 우리가 기술 역량을 빠르게 확장할 수 있도록 하는 몇 가지 기술적 아이디어를 제안합니다. 이 책은 세 부분으로 나뉩니다. (1) AI 기술이 현재 어디에 있는가, (2) AGI로 우리를 가속화하기 위한 여섯 가지 요소, (3) AGI 달성의 사회적 결과. 누구나 필연적으로 일자리 대체와 킬러 로봇에 대해 궁금해하므로 이러한 우려 사항도 다루겠습니다.
처음 5개 장에서는 현대 AI 기술의 원리를 다루며, "딥 러닝 혁명"과 지난 10년 동안 점점 더 인상적인 성능으로 확장된 머신 러닝의 지속적인 아이디어를 요약합니다.
"인공지능"을 정확하게 정의하는 것은 "인간 지능"이 무엇인지 정의하는 것보다 쉽지 않습니다. 이것을 논의하려고 하면 종종 철학적 고지식함으로 전락합니다. 그럼에도 불구하고 저는 책의 나머지 부분을 이해하기 위한 간단한 작업 정의를 제공합니다.
3장에서는 지난 10년 동안 머신 러닝의 주요 혁신이 딥 러닝 또는 일부에서 소프트웨어 2.0이라고 부르는 광범위한 엔지니어링 원리의 결과로 이해될 수 있는지 논의할 것입니다. 인공 신경망과 같은 기술은 현재 매우 널리 퍼져서 거의 모든 분야에서 머신 러닝의 공통어가 되었습니다. 이 원리는 음성에서 이미지 이해, 언어 처리, 로봇 공학, 약물 발견과 같은 물리 과학에 이르기까지 많은 분야에 적용되었습니다.
3장의 낙관주의는 우리가 모든 직업을 자동화하고 무한한 풍요를 창출하는 시점에 있다는 인상을 줄 수 있습니다. 그러나 ML에는 여전히 광범위한 채택에 장벽이 되는 많은 함정이 있습니다. 때때로 ML 모델은 이해할 수 없을 정도로 복잡한 계산을 수행하여 올바른 답에 도달할 수 있으며, 다른 때는 이해할 수 없을 정도로 복잡한 방식으로 잘못될 수 있습니다. 이러한 시스템이 작동하는 방식에 대한 우리의 이해가 부족하고 신뢰성에 대한 공식적인 보장이 부족하여 이해 관계자가 "야생에서" ML 시스템을 신뢰하기를 꺼립니다.
4장에서는 ML을 보다 "강력하게", "인과적으로", "설명 가능하게" 만드는 연구가 실제로는 "ML의 일반화 기능을 어떻게 개선할 수 있을까?"라는 간단한 질문에 집중되어 있는지에 대해 논의합니다. 연구 커뮤니티는 이 간단한 질문을 교조적인 언어로 꾸미는 것을 좋아하지만, 사실 "일반화"를 정의하는 것은 어렵습니다. 특히 지능 자체를 정의하는 까다로운 작업과 다를 바 없기 때문입니다. 우리는 인간의 지능을 수학으로 공식화하려고 할 때 언어적 추론의 한계에 빠르게 부딪힙니다. 대신 다른 각도에서 문제에 접근해 보겠습니다. 순수하게 수학적 언어로 일반화를 이해하려고 하는 대신, 자연어의 기계 학습 모델을 사용하여 일반화 자체의 구조를 이해한다면 어떨까요? 일반화를 언어 능력과 동등하다고 생각하면 ML 시스템 동작을 인간 중심의 지능적 동작과 일치시키는 방법에 대한 지침을 제공할 수 있습니다. 언어와 능력이 먼저이고, "설명 가능성", "인과성", "견고성"에 대한 직관은 딥 러닝 모델이 대화할 수 있는 다른 단어와 마찬가지로 예측해야 하는 모호한 소프트웨어 2.0 문제에 불과합니다.
동물 지능은 어떨까요? 언어학과 학습에 쏟아진 모든 잉크와 지능이 무엇인지에 대한 모든 철학적 고민에도 불구하고, 너구리, 인간 아기 또는 상어를 관찰하면 AGI 하드웨어와 소프트웨어가 아름답게 함께 작동하는 실제 사례를 볼 수 있습니다. 이 생물들은 모두 한 가지 공통점이 있습니다. 즉, 생태적 틈새에서 생존하고 번식할 수 있는 충분한 지능과 신체적 적응력을 가지고 있다는 것입니다. "신경생물학적 소프트웨어 스택" 내에서 환경, 유전학, 육아, 문화 및 풍부한 환경의 요구 사항이 모두 함께 모여 행동을 형성합니다. 6장에서는 잘 통합된 하드웨어 및 소프트웨어 시스템의 관점에서 일부 동물의 능력을 분석합니다.
이 책의 두 번째 부분은 다음 여섯 장에 걸쳐 있으며, 우리의 AI 시스템을 "다음 단계"로 끌어올리는 데 필요하다고 믿는 여섯 가지 핵심 엔지니어링 원칙, 즉 진정한 인공 일반 지능에 대해 논의합니다. 오늘날의 AI 시스템(Siri에서 자율 주행 자동차까지)은 광범위한 데이터를 처리할 수 있지만, "인간이 되는 것의 의미"를 전부 복제하는 데는 아직 거리가 멉니다. 우리는 역량을 확대하고 개발을 더욱 가속화해야 합니다.
7장에서 논의한 첫 번째 원칙은 "인공 생명체"의 아이디어를 사용하여 여러 다른 지능적 능력을 하나의 어려운 목표인 생존으로 통합하는 것입니다. 저는 이것이 구조화되지 않은 시나리오를 처리하는 데 필요한 모든 새로운 능력을 달성하는 유일한 방법이라고 믿습니다. 그러나 자연은 지능을 생존을 위한 많은 적응 중 하나로 취급하고 다른 적응보다 선호되는 특별한 목표로 취급하지 않는다는 점에 유의하는 것이 중요합니다. 지능에는 유기체의 필요와 균형을 이루어야 하는 고유한 비용이 따릅니다. 예를 들어 호모 사피엔스와 대장균은 지능 수준이 매우 다르지만 자연 선택은 어느 쪽을 선호하지 않습니다. 따라서 인간 수준의 지능을 가진 무언가를 진화시키고 싶다면 학습, 적응, 창의성 등 인간 수준의 모든 능력을 요구하는 개방형 환경을 구축해야 합니다.
불행히도, 그러한 개방형 생태학적 생명 시뮬레이션을 만들고 현재의 머신 러닝 기술로 처음부터 끝까지 최적화하는 것은 실제로 실행 가능하지 않습니다. 우리는 수백만 번 진화의 전체 궤적을 재생성하지 않고 흥미로운 솔루션을 찾는 방법을 재고해야 합니다. 오늘날 우리의 계산 리소스는 인상적이지만 대부분 짧은 아케이드 게임을 하는 법을 배우는 데 적합합니다. 8장에서는 에이전트를 훈련하는 기존 패러다임을 점진적으로 확장하여 스스로 진화하고 특화되는 점점 더 개방적인 환경을 만드는 방법을 살펴봅니다.
실제 세계에서 실용적인 문제를 해결하려면 종종 AGI 시스템을 훈련하는 데 사용된 데이터를 인간이 모니터링해야 합니다. 여기에는 데이터 라벨링부터 연구자가 결과가 흥미롭지 않을 것이라는 것을 알고 실험을 일찍 중단하는 것까지 다양한 형태가 있습니다. 이러한 "인간 참여" 시스템에서 AI는 대부분의 무거운 계산 작업을 수행하지만 인간은 가끔 개입하여 진화 방향을 안내하기 위해 가벼운 편집 피드백을 제공합니다. 9장에서는 인간 참여 최적화를 사용하여 흥미로운 개방형 우주를 찾는 계산 부담을 줄이는 방법에 중점을 둡니다.
시스템이 더욱 강력해지고 명령을 이해하는 능력을 갖추면 데이터로 힘들게 훈련하지 않고도 동작을 결합하도록 요청할 수 있습니다. 10장에서는 최적화에 대한 "일반화만 요청" 접근 방식을 논의합니다. "일반화만 요청"은 원하는 것을 직접 최적화하기보다는 원하는 것을 일반화하고 먼저 역량을 획득하는 데 중점을 둔 설계 원칙입니다. 이 접근 방식은 의식을 위한 레시피를 제공할 수도 있습니다!
11장에서는 이러한 범용 지식을 현실 세계로 가져와 범용 로봇이 다양한 작업을 자동화할 수 있는 기능을 제공하는 방법에 대해 설명합니다. 시뮬레이션된 AI에서 현실 세계로 지식을 이전할 뿐만 아니라 그 반대로도 수행할 수 있습니다. 즉, 원자의 물리적 세계를 점점 더 풍부한 컴퓨터 시뮬레이션으로 다시 스캔할 수 있습니다. 이 장에서는 Google에서 로봇을 위한 범용 AI 모델을 개발한 경험을 바탕으로 로봇 데이터 도메인의 고유한 엔지니어링 과제와 기회를 살펴봅니다. 10년이라는 공격적인 타임라인에서 AGI를 달성하려면 확장 기능에 대한 생각을 크게 바꿔야 합니다. 또한 핵심 사명을 진전시키지 않는 방해 요소를 피하면서 창의적인 연구에 참여하는 매우 집중적인 팀이 필요합니다. 12장에서는 Google Robotics와 1X Technologies에서 다양한 노력을 이끈 경험을 바탕으로 AGI 팀을 이끄는 것에 대한 생각을 설명합니다.
인류 역사상 가장 큰 영향을 미칠 기술에 대해 추측하는 책은 인류에 미치는 영향을 논의하지 않고는 완성될 수 없습니다. 마지막 4개 장은 AI로 인한 경제적 불평등, AI 공포주의의 정치, AI 기술이 커뮤니케이션과 정치를 어떻게 재편할 것인지, 마지막으로 AI가 어떻게 자체적인 아름다움을 창조할 수 있는지에 대해 다룹니다. 걱정하지 마세요. 인류의 미래는 아직 쓰여지지 않았고, 이 책은 몇 가지 추측 가능성을 제시합니다. 과학적 이해력과 기술 창조에 대한 참여는 미래에 대비하는 가장 좋은 방법입니다.
AGI에 대한 이 "냅킨 스케치"는 AI에 관심이 있는 모든 일반 대중이 접근할 수 있어야 합니다. 가능한 한 가장 간단한 방식으로 사물을 설명하려고 노력하지만, 가끔은 좀 더 구체적으로 설명하기 위해 프로그래밍 추상화를 사용하기도 합니다. 이 책은 어느 정도 제 경력에 대한 "10년 계획"이며, 많은 야심 찬 AI 연구자와 엔지니어가 비슷한 길을 스스로 추구하도록 격려하기를 바랍니다. 기술이 소수의 개인이 인간 문명의 궤적에 엄청난 영향을 미치는 것을 이렇게 쉽게 만들어준 적은 없었습니다.
여러분이 저와 함께 이 여정에 동참하기를 바랍니다.
전체 0