인터뷰/예측
사기성 초지능과 기계와의 합병: OpenAI의 수석 과학자의 마음 속
작성자
dd
작성일
2024-07-02 16:15
조회
1012
https://www.technologyreview.com/2023/10/26/1082398/exclusive-ilya-sutskever-openais-chief-scientist-on-his-hopes-and-fears-for-the-future-of-ai/
다른 사람들이 인간의 지능에 맞먹는 기계라는 생각에 씨름하는 동안, 수츠케버는 우리보다 더 뛰어난 기계를 준비하고 있습니다. 그는 이것을 인공 초지능이라고 부릅니다. "그들은 사물을 더 깊이 볼 것입니다. 우리가 보지 못하는 것을 볼 것입니다."
다시 말하지만, 저는 이것이 실제로 무엇을 의미하는지 이해하는 데 어려움을 겪습니다. 인간의 지능은 지능이 무엇인지에 대한 우리의 벤치마크입니다. Sutskever가 인간보다 더 똑똑한 지능이란 무엇을 의미합니까?
"우리는 AlphaGo에서 매우 좁은 초지능의 예를 보았습니다."라고 그는 말합니다. 2016년 DeepMind의 보드 게임을 하는 AI는 세계 최고의 바둑 선수 중 한 명인 이세돌을 5게임 경기에서 4-1로 이겼습니다. (Sutskever도 그 작업에 참여했습니다.) Sutskever는 "그것은 인류가 수천 년에 걸쳐 집단적으로 개발한 것과 다른 방식으로 바둑을 두는 방법을 알아냈습니다."라고 말합니다. "새로운 아이디어를 내놓았습니다."
Sutskever는 AlphaGo의 악명 높은 37번째 수를 지적합니다. Sedol과의 두 번째 게임에서 AI는 해설자들을 당황하게 하는 수를 냈습니다. 그들은 AlphaGo가 망쳤다고 생각했습니다. 사실, 그것은 게임 역사상 아무도 본 적이 없는 승리의 수를 냈습니다. Sutskever는 "모든 것에 걸쳐 그 수준의 통찰력을 상상해보세요."라고 말합니다.
...
"만약 당신이 그것을 믿는다면—당신이 그것을 믿도록 허용한다면—그렇다면 흥미로운 의미가 많이 있습니다." Sutskever가 말합니다. "가장 중요한 의미는 만약 당신이 매우 큰 인공 신경망을 가지고 있다면, 그것은 많은 일을 해야 한다는 것입니다. 특히, 만약 인간의 뇌가 무언가를 할 수 있다면, 큰 인공 신경망도 비슷한 일을 할 수 있을 것입니다."
"이러한 깨달음을 충분히 진지하게 받아들이면 모든 것이 뒤따릅니다."라고 그는 말합니다. "그리고 제 작업의 큰 부분은 그것으로 설명될 수 있습니다."
...
뇌에 대해 이야기하는 동안, 저는 이전에 Twitter로 알려진 사이트인 X에 대한 Sutskever의 게시물 중 하나에 대해 물어보고 싶습니다. Sutskever의 피드는 격언의 스크롤처럼 읽힙니다. "지능을 다른 모든 인간적 특성보다 더 중요하게 여긴다면, 당신은 힘든 시간을 보낼 것입니다"; "인생과 사업에서 공감은 과소평가됩니다"; "완벽함은 완벽하게 좋은 좋은 것을 많이 파괴했습니다."
2022년 2월에 그는 "오늘날의 대규모 신경망은 약간 의식이 있을 수도 있다"라는 글을 올렸습니다 (이에 대해 구글 딥마인드의 수석 과학자이자 런던 임페리얼 칼리지의 교수이며 영화 엑스 마키나 의 과학 고문인 머레이 샤나 한은 "... 넓은 밀밭이 약간 파스타와 같은 것과 같은 의미로"라고 답했습니다).
내가 그 문제를 제기하자 수츠케버는 웃는다. 그는 트롤링을 했을까? 그는 그렇지 않았다. "볼츠만 뇌라는 개념을 알고 있나요?" 그는 묻는다.
그는 19세기 물리학자 루트비히 볼츠만의 이름을 딴 양자 역학의 (농담조로) 사고 실험을 언급하고 있는데, 이는 우주의 무작위적인 열역학적 변동으로 인해 뇌가 생겨나기도 하고 사라지기도 한다고 상상하는 것입니다.
"지금 이 언어 모델이 볼츠만 뇌와 비슷하다고 느껴집니다." 수츠케버가 말했다. "말을 시작하면 잠시 말을 하게 되고, 말을 마치면 뇌가 일종의—" 그는 손으로 사라지는 동작을 한다. 푸프—안녕, 뇌.
신경망이 활성화되어 있는 동안, 말하자면 발사되고 있는 동안, 거기에 무언가가 있다고 말씀하시는 건가요? 제가 묻겠습니다.
"그럴 수도 있다고 생각해요." 그는 말한다. "확실히 모르겠지만, 반박하기 매우 어려운 가능성이죠. 하지만 무슨 일이 일어나고 있는지 누가 알겠어요, 그렇죠?"
...
"불량 AI의 도전을 극복하고 나면, 그 다음은? 더 똑똑한 AI가 있는 세상에서 인간을 위한 자리가 있을까?" 그는 말한다.
"한 가지 가능성은 오늘날 기준으로는 미칠 수 있지만 미래의 기준으로는 그렇게 미칠 수 없는 것인데, 많은 사람이 AI의 일부가 되는 것을 선택할 것이라는 것입니다." Sutskever는 이것이 인간이 따라잡으려고 하는 방식일 수 있다고 말합니다. "처음에는 가장 대담하고 모험심이 강한 사람들만 시도할 것입니다. 다른 사람들이 따라할 수도 있습니다. 아니면 그렇지 않을 수도 있습니다."
잠깐, 뭐라고? 그는 일어나서 떠나려고 합니다. 그가 그럴까요? 내가 묻습니다. 그가 첫 번째 중 하나일까요? "첫 번째? 모르겠어요." 그가 말합니다. "하지만 생각해 보긴 합니다. 진짜 답은 아마도요."
그리고 그 은하계 두뇌의 마이크 드롭과 함께 그는 일어나 방에서 나간다. 그는 가면서 "다시 만나서 정말 기쁘다"고 말한다.
다른 사람들이 인간의 지능에 맞먹는 기계라는 생각에 씨름하는 동안, 수츠케버는 우리보다 더 뛰어난 기계를 준비하고 있습니다. 그는 이것을 인공 초지능이라고 부릅니다. "그들은 사물을 더 깊이 볼 것입니다. 우리가 보지 못하는 것을 볼 것입니다."
다시 말하지만, 저는 이것이 실제로 무엇을 의미하는지 이해하는 데 어려움을 겪습니다. 인간의 지능은 지능이 무엇인지에 대한 우리의 벤치마크입니다. Sutskever가 인간보다 더 똑똑한 지능이란 무엇을 의미합니까?
"우리는 AlphaGo에서 매우 좁은 초지능의 예를 보았습니다."라고 그는 말합니다. 2016년 DeepMind의 보드 게임을 하는 AI는 세계 최고의 바둑 선수 중 한 명인 이세돌을 5게임 경기에서 4-1로 이겼습니다. (Sutskever도 그 작업에 참여했습니다.) Sutskever는 "그것은 인류가 수천 년에 걸쳐 집단적으로 개발한 것과 다른 방식으로 바둑을 두는 방법을 알아냈습니다."라고 말합니다. "새로운 아이디어를 내놓았습니다."
Sutskever는 AlphaGo의 악명 높은 37번째 수를 지적합니다. Sedol과의 두 번째 게임에서 AI는 해설자들을 당황하게 하는 수를 냈습니다. 그들은 AlphaGo가 망쳤다고 생각했습니다. 사실, 그것은 게임 역사상 아무도 본 적이 없는 승리의 수를 냈습니다. Sutskever는 "모든 것에 걸쳐 그 수준의 통찰력을 상상해보세요."라고 말합니다.
...
"만약 당신이 그것을 믿는다면—당신이 그것을 믿도록 허용한다면—그렇다면 흥미로운 의미가 많이 있습니다." Sutskever가 말합니다. "가장 중요한 의미는 만약 당신이 매우 큰 인공 신경망을 가지고 있다면, 그것은 많은 일을 해야 한다는 것입니다. 특히, 만약 인간의 뇌가 무언가를 할 수 있다면, 큰 인공 신경망도 비슷한 일을 할 수 있을 것입니다."
"이러한 깨달음을 충분히 진지하게 받아들이면 모든 것이 뒤따릅니다."라고 그는 말합니다. "그리고 제 작업의 큰 부분은 그것으로 설명될 수 있습니다."
...
뇌에 대해 이야기하는 동안, 저는 이전에 Twitter로 알려진 사이트인 X에 대한 Sutskever의 게시물 중 하나에 대해 물어보고 싶습니다. Sutskever의 피드는 격언의 스크롤처럼 읽힙니다. "지능을 다른 모든 인간적 특성보다 더 중요하게 여긴다면, 당신은 힘든 시간을 보낼 것입니다"; "인생과 사업에서 공감은 과소평가됩니다"; "완벽함은 완벽하게 좋은 좋은 것을 많이 파괴했습니다."
2022년 2월에 그는 "오늘날의 대규모 신경망은 약간 의식이 있을 수도 있다"라는 글을 올렸습니다 (이에 대해 구글 딥마인드의 수석 과학자이자 런던 임페리얼 칼리지의 교수이며 영화 엑스 마키나 의 과학 고문인 머레이 샤나 한은 "... 넓은 밀밭이 약간 파스타와 같은 것과 같은 의미로"라고 답했습니다).
내가 그 문제를 제기하자 수츠케버는 웃는다. 그는 트롤링을 했을까? 그는 그렇지 않았다. "볼츠만 뇌라는 개념을 알고 있나요?" 그는 묻는다.
그는 19세기 물리학자 루트비히 볼츠만의 이름을 딴 양자 역학의 (농담조로) 사고 실험을 언급하고 있는데, 이는 우주의 무작위적인 열역학적 변동으로 인해 뇌가 생겨나기도 하고 사라지기도 한다고 상상하는 것입니다.
"지금 이 언어 모델이 볼츠만 뇌와 비슷하다고 느껴집니다." 수츠케버가 말했다. "말을 시작하면 잠시 말을 하게 되고, 말을 마치면 뇌가 일종의—" 그는 손으로 사라지는 동작을 한다. 푸프—안녕, 뇌.
신경망이 활성화되어 있는 동안, 말하자면 발사되고 있는 동안, 거기에 무언가가 있다고 말씀하시는 건가요? 제가 묻겠습니다.
"그럴 수도 있다고 생각해요." 그는 말한다. "확실히 모르겠지만, 반박하기 매우 어려운 가능성이죠. 하지만 무슨 일이 일어나고 있는지 누가 알겠어요, 그렇죠?"
...
"불량 AI의 도전을 극복하고 나면, 그 다음은? 더 똑똑한 AI가 있는 세상에서 인간을 위한 자리가 있을까?" 그는 말한다.
"한 가지 가능성은 오늘날 기준으로는 미칠 수 있지만 미래의 기준으로는 그렇게 미칠 수 없는 것인데, 많은 사람이 AI의 일부가 되는 것을 선택할 것이라는 것입니다." Sutskever는 이것이 인간이 따라잡으려고 하는 방식일 수 있다고 말합니다. "처음에는 가장 대담하고 모험심이 강한 사람들만 시도할 것입니다. 다른 사람들이 따라할 수도 있습니다. 아니면 그렇지 않을 수도 있습니다."
잠깐, 뭐라고? 그는 일어나서 떠나려고 합니다. 그가 그럴까요? 내가 묻습니다. 그가 첫 번째 중 하나일까요? "첫 번째? 모르겠어요." 그가 말합니다. "하지만 생각해 보긴 합니다. 진짜 답은 아마도요."
그리고 그 은하계 두뇌의 마이크 드롭과 함께 그는 일어나 방에서 나간다. 그는 가면서 "다시 만나서 정말 기쁘다"고 말한다.
전체 0