인터뷰/예측
OpenAI CPO "지금 모두에게 필요한 AGI 알약"
작성자
작성일
2025-03-13 22:35
조회
847
https://medium.com/@juliavillagra/thoughts-on-ai-490917d8553c
모두에게 필요한 AGI 알약... 지금
지난 3개월 동안 나는 우리가 엄청난 사회적 변혁의 문턱에 서 있다는, 그러나 동시에 매우 공개된 비밀을 가지고 있는 듯한 기분을 느꼈다. 이 변화를 설명하기 위해 사용하는 표현이 과장처럼 들릴 수도 있지만, 사실 그렇지 않다. AI가 우리 경제와 문화에 가져올 변화의 규모는 인류가 경험해온 그 어떤 것과도 다를 정도로 크며, 사람들이 이 변혁이 정확히 어떻게 펼쳐질지 상상하는 것조차 쉽지 않은 상황이다. 정부와 기업들이 이러한 변화를 점차 공식적으로 인정하고 있지만, 이 분야 깊숙이 있는 사람들은 이미 몇 년 전부터 대중의 의식을 깨우기 위해 노력해왔다. 그럼에도 불구하고, 나는 대다수 사람들이 AI가 익숙하고 정상적이라 여겨지는 거의 모든 것을 어떻게 재편할지 거의 인식하지 못하고 있다는 사실을 점점 더 분명히 깨닫고 있다.
나는 이런 현실을 보여주는 적절한 예시다. 몇 달 전까지만 해도 나는 OpenAI가 챗봇을 만들고 있다고 생각했다. 분명히 말하면, 그렇기도 하고(우리는 챗봇을 만들고 있고, 정말 놀라운 챗봇이다), 그것만이 전부가 아니라는 의미이다. “AGI 각성(awakening)”을 경험한 AGI 감각이 있는 연구자들은(내가 경험한 것처럼), 우리가 하는 사명이 ChatGPT를 만드는 것보다 훨씬, 훨씬 더 거대하다는 사실을 잘 알고 있다. 놀라운 점은 내가 OpenAI 내부에 들어온 지 10개월이 지나서야 이 깨달음을 얻었다는 것이다. 이 사실이 중요한 이유는, 그것이 내가 “사회가 빨리 업데이트될 필요가 있다”는 점을 절실히 깨닫게 해줬기 때문이다. 주변부에 있거나, 나처럼 “평범한” 사람들, 혹은 X의 심층부(또는 동부 해안에 살면서 “AGI”가 아직 잘 느껴지지 않는 뉴욕 친구들)처럼 AI와 거리가 있는 이들에게, 이 글이 조금이라도 상상력을 자극하고 앞으로 올 미래에 대한 깨달음을 주기를 바란다.
나는 “가치 있고 생산적인 사회 구성원으로서 인간이 기여한다”는 것이 앞으로 몇 년 사이에 크게 달라질 것이라고 믿는다. AI가 기존의 화이트칼라 역할을 떠맡음으로써, 우리의 인간 지능이 더 이상 경제적 가치를 이끄는 주요 동력원이 되지 않을 새로운 노동과 경제 안전보장의 풍경과 마주하게 될 것이다. 만약 우리가 폰이나 컴퓨터에 ‘엄지손가락으로 화면을 누르는’ 혹은 ‘키보드를 치는’ 모든 상호작용을 “오퍼레이터(operators)”와 “음성 제어 프롬프트”로 대체할 수 있다면, 우리는 주변 물리적 세계와 어떻게 상호작용할지 새롭게 구상할 기회를 얻게 될 것이다. 나에게 있어 이것은 (미래에 우리가 시간을 어떻게 보낼 수 있을지에 대한) 엄청난 가능성을 의미함과 동시에, (우리의 자존감이 어떻게 될지에 대한) 매우 현실적인 불확실성을 의미한다.
만약 인력이 점점 AI로 구동되는 모습을 상상해본다면, 우리가 준비되지 못한 상황에서 이것이 안정성을 해칠 수 있는 가능성도 존재한다. 우리는 준비할 시간이 분명히 있다고 생각하지만, 사회를 빠르게 적응시키고, 사회적 구조를 재정립하기 위해서는 “믿을 수 없는 것”을 집단적으로 믿어야 하는 상황에 이를 것이라 본다.
많은 사람이 내게 미래가 어떻게 될 것 같냐고, 혹은 AGI를 만드는 과정에서 윤리적 고려를 어떻게 다루고 있는지 묻는다. 솔직히 말하면, 나는 이 놀라운 기술을 만들기 위해 뛰어난 사람들이 함께 노력했듯이, 이 기술이 인류의 가장 큰 난제들에 대한 해답도 줄 수 있으리라 믿는다. 어쩌면 “사회가 어떻게 적응할 것인가”라는 메타 질문에 대한 해답도 줄지 모른다. 개인적으로 내가 중요하게 여기는 태도 중 하나는 긴장감과 모순을 받아들이는 것이다. 이 기술에 대해선 동시에 믿는 사람(enthusiast)이어야 하고, 회의론자(skeptic)이어야 하며, 종말론자(doomer)이자 낙관주의자(optimist)여야 하고, 현실주의자이자 이상주의자여야 한다고 본다. 이런 균형 잡힌 시각이 더 정교하고 상상력 있는 사고를 가능하게 하고, 우리는 그를 통해 AGI가 있는 미래를 함께 모색해나갈 수 있을 것이라 믿는다.
마지막으로 좀 가벼운 이야기를 하자면, 만약 여러분이 스스로 “AGI 알약”을 먹어보고 싶다면 — 와인을 크게 한 잔 따라놓고 영화 ‘Her’를 시청한 뒤, 이 블로그 글을 GPT 4.5에 복사하고 이런 프롬프트를 줘보길 권한다:
“이 블로그 글을 바탕으로, 앞으로 몇 년간 사회가 어떻게 변할 것 같은지 네 생각을 말해줘. 추가 아이디어나 상상도 덧붙여도 좋아.”
즐거운 시간 보내길!
모두에게 필요한 AGI 알약... 지금
지난 3개월 동안 나는 우리가 엄청난 사회적 변혁의 문턱에 서 있다는, 그러나 동시에 매우 공개된 비밀을 가지고 있는 듯한 기분을 느꼈다. 이 변화를 설명하기 위해 사용하는 표현이 과장처럼 들릴 수도 있지만, 사실 그렇지 않다. AI가 우리 경제와 문화에 가져올 변화의 규모는 인류가 경험해온 그 어떤 것과도 다를 정도로 크며, 사람들이 이 변혁이 정확히 어떻게 펼쳐질지 상상하는 것조차 쉽지 않은 상황이다. 정부와 기업들이 이러한 변화를 점차 공식적으로 인정하고 있지만, 이 분야 깊숙이 있는 사람들은 이미 몇 년 전부터 대중의 의식을 깨우기 위해 노력해왔다. 그럼에도 불구하고, 나는 대다수 사람들이 AI가 익숙하고 정상적이라 여겨지는 거의 모든 것을 어떻게 재편할지 거의 인식하지 못하고 있다는 사실을 점점 더 분명히 깨닫고 있다.
나는 이런 현실을 보여주는 적절한 예시다. 몇 달 전까지만 해도 나는 OpenAI가 챗봇을 만들고 있다고 생각했다. 분명히 말하면, 그렇기도 하고(우리는 챗봇을 만들고 있고, 정말 놀라운 챗봇이다), 그것만이 전부가 아니라는 의미이다. “AGI 각성(awakening)”을 경험한 AGI 감각이 있는 연구자들은(내가 경험한 것처럼), 우리가 하는 사명이 ChatGPT를 만드는 것보다 훨씬, 훨씬 더 거대하다는 사실을 잘 알고 있다. 놀라운 점은 내가 OpenAI 내부에 들어온 지 10개월이 지나서야 이 깨달음을 얻었다는 것이다. 이 사실이 중요한 이유는, 그것이 내가 “사회가 빨리 업데이트될 필요가 있다”는 점을 절실히 깨닫게 해줬기 때문이다. 주변부에 있거나, 나처럼 “평범한” 사람들, 혹은 X의 심층부(또는 동부 해안에 살면서 “AGI”가 아직 잘 느껴지지 않는 뉴욕 친구들)처럼 AI와 거리가 있는 이들에게, 이 글이 조금이라도 상상력을 자극하고 앞으로 올 미래에 대한 깨달음을 주기를 바란다.
지능의 시대에서 인간의 가치
나는 연구자도, 소프트웨어 엔지니어도, 경제학자도 아니다. 나는 하루 종일 사람에 대해 생각한다. 사람들 간의 관계, 감정, 동기, 소통, 갈등, 문화 등. 사람들의 커뮤니티가 갖는 복잡하고 뒤엉킨 문제들을 생각하고, 강력한 지능이 새롭게 등장함으로 인해 커뮤니티나 사회의 역학 관계가 예상치 못한 방식으로 뒤흔들릴 수 있다고 본다.나는 “가치 있고 생산적인 사회 구성원으로서 인간이 기여한다”는 것이 앞으로 몇 년 사이에 크게 달라질 것이라고 믿는다. AI가 기존의 화이트칼라 역할을 떠맡음으로써, 우리의 인간 지능이 더 이상 경제적 가치를 이끄는 주요 동력원이 되지 않을 새로운 노동과 경제 안전보장의 풍경과 마주하게 될 것이다. 만약 우리가 폰이나 컴퓨터에 ‘엄지손가락으로 화면을 누르는’ 혹은 ‘키보드를 치는’ 모든 상호작용을 “오퍼레이터(operators)”와 “음성 제어 프롬프트”로 대체할 수 있다면, 우리는 주변 물리적 세계와 어떻게 상호작용할지 새롭게 구상할 기회를 얻게 될 것이다. 나에게 있어 이것은 (미래에 우리가 시간을 어떻게 보낼 수 있을지에 대한) 엄청난 가능성을 의미함과 동시에, (우리의 자존감이 어떻게 될지에 대한) 매우 현실적인 불확실성을 의미한다.
만약 인력이 점점 AI로 구동되는 모습을 상상해본다면, 우리가 준비되지 못한 상황에서 이것이 안정성을 해칠 수 있는 가능성도 존재한다. 우리는 준비할 시간이 분명히 있다고 생각하지만, 사회를 빠르게 적응시키고, 사회적 구조를 재정립하기 위해서는 “믿을 수 없는 것”을 집단적으로 믿어야 하는 상황에 이를 것이라 본다.
창의성의 시대에서의 인간적 연결
새로운 세계에서, 사람들은 삶에서 의미와 목적을 찾기 위한 새로운 방식을 모색하게 될 것이라 본다. 교육은 암기보다는 창의성과 감정적 연결에 더 초점을 맞추게 될지도 모른다. 만약 AI로의 전환이 순조롭게 이뤄진다면, 예술적 표현, 음악, 스토리텔링 등이 중심이 되는 더 상호연결된 커뮤니티가 형성되는 “창의성의 시대”가 열릴 수도 있다. 움직임, 냄새, 맛, 시각, 청각과 같은 감각적 경험이 인간 지능의 대표적인 특징이 될 수 있는 반면, 과학이나 수학 같은 분야는 인공지능이 주도할 가능성이 있다. 예를 들어 간호사, 물리치료사, 사회복지사, 아동교육가와 같이 높아진 감성 지능과 직접적이고 인간 중심적인 기술이 필요한 직업들이 사회에서 “엘리트”라고 여겨질 수도 있고, 이 변화가 여성의 지위 상승이나 더 건강한 커뮤니티 형성에 도움이 될 수 있다고 생각한다.많은 사람이 내게 미래가 어떻게 될 것 같냐고, 혹은 AGI를 만드는 과정에서 윤리적 고려를 어떻게 다루고 있는지 묻는다. 솔직히 말하면, 나는 이 놀라운 기술을 만들기 위해 뛰어난 사람들이 함께 노력했듯이, 이 기술이 인류의 가장 큰 난제들에 대한 해답도 줄 수 있으리라 믿는다. 어쩌면 “사회가 어떻게 적응할 것인가”라는 메타 질문에 대한 해답도 줄지 모른다. 개인적으로 내가 중요하게 여기는 태도 중 하나는 긴장감과 모순을 받아들이는 것이다. 이 기술에 대해선 동시에 믿는 사람(enthusiast)이어야 하고, 회의론자(skeptic)이어야 하며, 종말론자(doomer)이자 낙관주의자(optimist)여야 하고, 현실주의자이자 이상주의자여야 한다고 본다. 이런 균형 잡힌 시각이 더 정교하고 상상력 있는 사고를 가능하게 하고, 우리는 그를 통해 AGI가 있는 미래를 함께 모색해나갈 수 있을 것이라 믿는다.
마지막으로 좀 가벼운 이야기를 하자면, 만약 여러분이 스스로 “AGI 알약”을 먹어보고 싶다면 — 와인을 크게 한 잔 따라놓고 영화 ‘Her’를 시청한 뒤, 이 블로그 글을 GPT 4.5에 복사하고 이런 프롬프트를 줘보길 권한다:
“이 블로그 글을 바탕으로, 앞으로 몇 년간 사회가 어떻게 변할 것 같은지 네 생각을 말해줘. 추가 아이디어나 상상도 덧붙여도 좋아.”
즐거운 시간 보내길!
전체 0