인터뷰/예측
요샤 바흐: AGI, 의식, 그리고 지능의 진화
작성자
작성일
2026-06-09 22:39
조회
7
요샤 바흐: AGI, 의식, 그리고 지능의 진화
대담형 상세 정리
1. 지능이란 무엇인가
진행자:오늘은 AI, AGI, 미래 기술, 그리고 우리가 어떻게 더 나은 지능 시스템과 조직 시스템을 설계할 수 있는지 이야기해보고 싶다. 먼저 지능과 의식을 어떻게 정의하는지 묻고 싶다. 당신에게 지능이란 무엇인가?
요샤 바흐:
나는 지능을 모델을 만드는 능력으로 본다. 보통 이 모델링 능력은 통제(control)를 위해 사용된다.
단순히 어떤 기술을 수행하는 능력만으로는 지능이라고 보기 어렵다. 진짜 지능은 새로운 기술을 습득하는 능력, 특히 이전에 본 적 없는 분포 밖(out-of-distribution) 상황에서 문제를 해결하는 능력이다.
인간의 지능을 측정할 때 우리는 보통 퍼즐 풀이 능력을 본다. 어떤 사람이 한 종류의 퍼즐을 잘 풀면 다른 종류의 퍼즐도 잘 푸는 경향이 있다. 이 공통된 능력을 심리학에서는 일반지능, 즉 g factor라고 부른다.
하지만 이 방식은 기계에는 그대로 적용하기 어렵다. 인간은 평균적인 집단 안에서 비교할 수 있지만, 컴퓨터는 인간 평균과 완전히 다른 방식으로 문제를 푼다. 말하자면 모든 컴퓨터 시스템은 인간 기준으로는 극단적인 이상치(outlier)다.
또 인간 지능검사는 주로 “현재 문제를 얼마나 잘 푸는가”를 측정하지, 어떻게 배우는가, 어떻게 기술을 습득하는가를 직접 측정하지 않는다. 그런데 기계는 이미 훈련 데이터에서 비슷한 문제를 봤을 가능성이 높다. 그래서 인간에게 쓰는 IQ식 비교를 AI에 그대로 쓰는 것은 별로 의미가 없다.
2. 지능과 의식은 다르다
진행자:그렇다면 지능과 의식은 어떻게 다른가?
요샤 바흐:
지능과 의식은 같지 않다. 인간의 경우 지능을 발달시키기 위해 의식이 필요하다. 아기를 보면 알 수 있다. 아기는 세계에 주의를 기울이고, 경험하고, 자기 자신에 대한 모델을 만들면서 점차 지능적인 존재가 된다.
내 생각에 의식은 일종의 생물학적 훈련 알고리즘이다. 오늘날 AI 시스템은 트랜스포머 같은 기계학습 알고리즘을 사용하지만, 인간은 의식을 통해 자기조직화되는 시스템을 훈련한다.
AI 시스템이 지금 인간과 같은 기능의 의식을 갖고 있는지는 불분명하다. 아마 같은 방식의 의식은 아닐 것이다. AI는 세금 신고서를 작성할 때 의식이 필요하지 않다. 인간은 의식적으로 이해하고 처리해야 하지만, LLM은 의식 없이도 결과를 낼 수 있다.
다만 흥미로운 질문은 이것이다.
LLM에게 실시간 대화 상대를 시뮬레이션하게 할 때, 그 내부에 의식 상태와 유사한 인과적 구조가 생기는가?
즉, LLM처럼 존재한다는 것은 “무엇처럼 느껴지는가?”라는 문제가 생긴다.
이 문제는 현재 철학자들에게도 열린 문제다. 사람들은 강한 의견을 갖고 있지만, 나는 아직 결정적인 논증을 보지 못했다.
3. LLM은 진짜 지능인가, 아니면 그럴듯하게 흉내 내는가
진행자:LLM은 훈련 데이터에 기반해 그럴듯한 답을 내놓는다. 하지만 훈련 데이터 밖으로 너무 멀리 나가면 무너지는 것처럼 보인다. 그렇다면 LLM은 전통적 의미의 지능에 가까운가, 아니면 단지 잘 설계된 모방 시스템인가?
요샤 바흐:
이 문제에 대해서도 사람들은 강한 의견을 가지고 있지만, 솔직한 답은 아직 모른다는 것이다. 이것은 경험적 문제이고, 연구가 어떻게 진행되는지에 따라 판단될 것이다.
많은 대기업들은 LLM이 스케일링과 조정을 통해 환각 없이 문제를 해결할 수 있다고 보고 막대한 돈을 걸고 있다.
LLM이 환각하는 이유를 생각해보자. 인간도 감각 정보를 차단당하면, 예컨대 감각 박탈 탱크에 들어가면 몇 시간 후 환각을 경험한다. 지금의 LLM도 일종의 감각 박탈 상태에 있다. 실시간으로 세계와 연결되어 있지 않다.
하지만 기술적으로 LLM을 세계와 실시간으로 연결하는 것이 불가능한 것은 아니다. 온라인 학습, 실시간 학습, 실시간 행동 같은 문제가 남아 있지만 원리적으로는 가능하다.
만약 모델이 단순히 인간이 쓴 텍스트의 다음 토큰만 예측하는 것이 아니라, 로봇의 시각, 고유수용감각, 센서 데이터의 다음 상태를 예측해야 한다면, 환각을 할 여유가 줄어든다. 모델이 외부 현실에 더 단단히 묶이기 때문이다.
또 인간 텍스트 자체도 임의적이다. 소설, 허구, 사람들이 지어낸 이야기들이 많다. 따라서 현재의 LLM은 엄밀하고 좁고 신뢰도 높은 추론을 강하게 요구받는 데이터에만 묶여 있지 않다.
흥미로운 점은 모델을 수학과 코드에 더 많이 훈련시키면, 전체 추론도 더 신뢰할 수 있게 된다는 것이다. 특히 프로그래밍에서는 모델이 인과적 구조를 만들어내고, 컴파일러 피드백을 통해 무엇이 작동하고 무엇이 작동하지 않는지 배울 수 있다.
그래서 현재 시스템이 인간 사고, 창의성, 문제 해결 영역까지 확장될 수 없다고 단정할 명백한 이유는 없다.
4. 인간은 예측보다 “일관성”을 최적화한다
진행자:그렇다면 인간의 학습과 현재 AI의 학습은 어떻게 다른가?
요샤 바흐:
인간은 훨씬 적은 데이터로 배운다. 우리는 거대한 데이터셋을 필요로 하지 않고도 꽤 일찍 일관된 세계 모델을 형성한다.
나는 인간이 단순히 예측을 최적화하는 것이 아니라 일관성(coherence)을 최적화한다고 생각한다. 일관성이란 제약 위반이 없는 상태다. 모든 것이 서로 맞아떨어지는 상태다.
만약 이런 방식의 학습 체계를 만들 수 있다면, 훨씬 적은 데이터로 학습하는 시스템을 만들 수 있을지도 모른다.
5. 스케일링 가설과 보편성 가설
진행자:현재 트랜스포머 아키텍처와 스케일링이 AGI로 가는 길이라고 보는가?
요샤 바흐:
짧은 답은 역시 모른다이다. 우리는 인간 지식과 기술 능력의 경계에서 실험하고 있다. 만들고, 테스트하고, 수정하면서 알아가는 중이다.
스케일링 가설은 흥미롭다. 현재 알고리즘에서는 데이터와 계산량을 지수적으로 늘리면 성능이 선형적으로 개선되는 경향이 보인다. 알고리즘 간 차이는 무엇을 배울 수 있느냐보다는 얼마나 효율적으로 배우느냐에 가깝다.
트랜스포머도 결국 기존 신경망 훈련 알고리즘을 더 효율적으로 조정한 방식으로 볼 수 있다. 기존 알고리즘으로도 가능했을 수 있지만, 더 오래 훈련해야 했을 것이다.
그리고 중요한 것은 보편성 가설(universality hypothesis)이다. 기계적 해석가능성 연구에서 다양한 비전 모델을 분석해보면, 서로 다른 알고리즘과 데이터로 훈련됐는데도 내부 구조가 비슷하게 나타난다. 심지어 영장류 시각피질과 유사한 구조도 보인다.
이것은 알고리즘보다 중요한 것이 어떤 문제를 학습하느냐, 그리고 무엇을 최적화하느냐일 수 있음을 시사한다.
6. AI는 인간보다 더 깊게 세계를 이해할 수 있는가
진행자:우리가 만드는 AI가 인간의 지능과 비슷한 구조에 갇히는가, 아니면 인간이 이해할 수 없는 방식으로 더 깊이 세계를 이해할 수 있는가?
요샤 바흐:
어떤 의미에서는 이미 인간보다 더 깊게 세계를 이해하는 모델을 만들고 있다.
인간의 뇌는 매우 얕고 흐릿하다. 우리는 몇 개 층 이상의 깊은 모델을 머릿속에서 유지하기 어렵다. 어떤 대상을 정의할 때도 몇 가지 특징만 기억할 수 있다. 너무 많은 특징을 동시에 추적하면 놓쳐버린다.
그래서 인간이 풀 수 있는 퍼즐은 제한적이다. 예를 들어 물리학은 지난 160년 동안 깊은 난제에서 큰 진전을 내지 못하고 있다. 표준모형은 더 압축되어야 할 것처럼 보이지만, 우리는 벽에 부딪혀 있다.
반면 AI는 훨씬 많은 데이터를 처리하고 더 미묘한 구조를 발견할 수 있다. 예를 들어 X-ray 이미지에서 AI는 인간 방사선 전문의가 보지 못하는 패턴을 발견할 수 있다. 감정 상태나 개인 특성 같은 것도 데이터에 신호가 있다면 AI가 인간보다 높은 해상도로 감지할 수 있다.
따라서 명백한 한계는 없다. 아직 인간을 훨씬 뛰어넘는 자율 학습 시스템을 제대로 만들어본 적은 없지만, 그런 시스템이 인간의 추론 능력과 현실 이해 능력을 넘어서지 않는다면 오히려 놀라운 일일 것이다.
7. 과학의 정체와 제도의 문제
진행자:과학의 발견 속도가 느려진 이유는 무엇인가? 쉬운 문제들이 다 해결됐기 때문인가, 아니면 제도와 사회 구조의 문제인가?
요샤 바흐:
둘 다일 것이다. 낮은 곳에 열린 과일은 이미 많이 따먹었다. 과학 분야는 초기에 큰 패러다임이 발견되고, 그 발견자들이 유명해진다. 이후에는 점점 더 복잡하고 정교한 수정이 필요해지기 때문에 근본적 진전을 만들기 어렵다.
하지만 제도적 변화도 있다. 예를 들어 아인슈타인은 그냥 학교에서 실패하다가 특허청에서 갑자기 천재가 된 사람이 아니다. 그는 똑똑하고 교육 수준 높은 가정에서 태어났고, 어릴 때부터 재능을 발견받아 좋은 교육 기회를 받았다. 그런 별들이 정렬되어야 큰 인물이 나온다.
오늘날 사회는 과학자를 길러내는 우선순위가 달라졌다. 대학도 변했다. 나는 대학이 점점 자기 자신의 출력물로 훈련되는 AI 모델처럼 보인다고 느낀다. 1970년대 이후로 외부 현실에 강하게 맞춰 훈련되기보다, 자체 담론 안에서 점점 느슨해졌다.
많은 과학 분야가 예전만큼 진리를 찾지 않는 것처럼 보인다. 정치적·이념적 입장이 개입되고, 반박하기 어려운 금기들이 생겼다. STEM 분야에도 이런 경향이 들어왔다. 이것이 얼마나 큰 원인인지, 혹은 단순히 진전이 어려워진 탓인지는 정확히 말하기 어렵다.
8. 대형 조직은 왜 현실보다 이야기에 집착하게 되는가
진행자:대기업, 연구기관, 정부 모두 점점 신뢰를 잃고 있다. 이것은 큰 시스템의 자연스러운 결과인가?
요샤 바흐:
큰 조직의 초기에는 생존이 중요하다. 예를 들어 구글 초창기에는 실수하면 회사가 죽는다. 그때는 현실, 즉 ground truth에 맞춰 움직일 수밖에 없다.
하지만 조직이 너무 커져서 실패하기 어려워지면, 리더의 임무가 바뀐다. 이제는 제품을 만드는 것보다 내부 권력 다툼에서 살아남고, 직원과 대중에게 좋은 리더로 보이는 것이 중요해진다.
현실과의 접촉이 줄어들면 모든 것이 더 포스트모던적이 된다. 원자와 외부 세계의 진실보다, 어떤 이야기를 해야 하는지가 중요해진다.
이런 현상은 대학에서도, 기업에서도, 국가에서도 나타난다. 큰 시스템은 점점 내부 정치와 자기 보존에 집중하게 된다.
9. 현재 세계는 정말 나빠지고 있는가
진행자:당신은 다른 사람들보다 미래를 덜 비관적으로 보는 것 같다. 지금 세계는 사람들이 느끼는 것만큼 나쁜가?
요샤 바흐:
객관적으로 보면 우리는 상대적으로 잘 지내고 있다. 전쟁과 갈등이 있지만, 우리는 그것을 전례 없이 세밀하게 실시간으로 접하기 때문에 더 나쁘게 느낀다. 하지만 거리에 폭동이 항상 일어나는 것도 아니고, 혁명 상황도 아니다. 대부분은 먹고살고 있고 시스템은 작동하고 있다.
다만 걱정되는 추세가 있다. 특히 미국에서 정부에 대한 신뢰는 1950년대 이후 거의 선형적으로 감소해왔다. 이 추세가 계속되면 2030년대 중반쯤에는 정부에 대한 신뢰가 완전히 부정적인 상태가 될 수도 있다.
그것은 민주주의의 종말을 의미할 수도 있다. 그 이후에 무엇이 올지 우리는 모른다. 중국이나 러시아식 대안이 더 나은 세계라고 확신할 수 없다.
AI는 이 추세를 바꿀 수도 있다. 모두에게 더 많은 정보와 “보편적 기본 지능”을 제공하면, 포퓰리즘에서 벗어나 현실에 대한 더 정교한 모델을 만들 수 있을지도 모른다.
10. AI에 대한 부정적 인식의 두 원인
진행자:AI에 대한 부정적 시각이 왜 이렇게 강해졌다고 보는가?
요샤 바흐:
두 가지 요인이 크다고 본다.
첫째, 대형 미디어 조직들이 AI를 자신들의 경제적·사회적 위협으로 보기 시작했다. 인터넷은 이미 광고 기반 미디어 비즈니스를 크게 흔들었다. 이제 뉴스는 무료로 소비되고, 미디어 조직은 단순히 정보를 전달하기보다 특정 집단의 정체성과 소속감을 제공하는 역할을 하게 되었다.
사람들은 뉴스를 읽으면서 “우리 집단은 이 사건에 어떻게 반응해야 하는가”를 배운다. 이런 환경에서 미디어가 AI를 위협으로 규정하면 부정적 보도가 급증한다.
둘째, AI가 인류를 죽일 운명이라고 믿는 사람들이 있다. 그들은 인간이 대형 유인원의 서식지를 줄였듯, 우리가 우리보다 똑똑한 후계 종을 만들고 있으며, 그 후계 종이 공간과 자원을 두고 우리와 경쟁하다가 우리를 제거할 것이라고 본다.
이 논리는 극도로 논리적이고 합리적인 사람에게는 그럴듯해 보인다. 하지만 복잡계에 대한 감각이 있으면 이야기가 훨씬 더 복잡하다는 것을 알 수 있다.
그런데 이 관점을 가진 사람들은 조직화되었고, 로비와 정책 영향력을 행사하고 있다. 그들은 AI 발전을 늦추는 것이 인류 멸망을 늦추는 길이라고 본다.
11. 현재 AI는 생각보다 안전하고 평등하게 배포되고 있다
진행자:그럼 실제 AI 배포 상황은 어떻게 보는가?
요샤 바흐:
나는 현재 AI가 내가 예상했던 것보다 훨씬 더 안전하고 평등하게 배포되고 있다고 본다.
현재 모델들은 여러 면에서 idiot savant, 즉 특정 영역에 매우 뛰어난 바보 천재에 가깝다. 반복 업무, 보일러플레이트 코드 작성, 텍스트 요약, 정보 검색 등에 매우 뛰어나다. 실수도 하지만, 매우 똑똑한 인턴처럼 다루면 놀라운 도구다.
그리고 굉장히 평등하다. 누구나 월 20달러 정도로 업계에서 쓰는 수준에 가까운 모델을 사용할 수 있다. 훈련은 엄청나게 비싸지만, 추론은 상대적으로 저렴하기 때문에 일반 대중에게 보조금처럼 제공되고 있다.
나는 원래 첫 AI는 극도로 비싸고, 접근이 제한되고, 대기업들이 최고 모델을 독점할 것이라고 예상했다. 그런데 실제로는 오픈소스 모델도 있고, 학계와 개인이 연구할 수 있는 환경도 생겼다. 이것은 굉장히 흥미로운 결과이며, 많은 부분 우연적이다.
12. AI와 일자리: 느리지만 급진적인 변화
진행자:AI가 일자리를 빼앗을 것이라는 우려에 대해서는 어떻게 보는가?
요샤 바흐:
기술은 항상 전환을 만든다. 고되고 지루하고 시간이 많이 드는 노동에서, 인간만이 할 수 있는 일에 가까운 영역으로 이동하게 만든다.
역사적으로 기술이 일자리를 없애는 것처럼 보여도, 반대편에서 새로운 일자리가 생겼다. 지구에서 할 일이 유한한 것은 아니다. 아이를 키우고, 교육하고, 예술을 하고, 공동체를 돌보는 일 등 사람들은 하고 싶지만 지금은 행정과 반복 노동 때문에 못 하는 일이 많다.
AI는 사람들이 지루하고 기계적인 일에서 해방되어 더 인간적인 일에 집중하도록 도울 수 있다.
물론 생태적 영향, 자원 고갈, 사회 안정 문제는 있다. 사회가 무엇을 의미하는지, 서로 다른 집단과 문화를 어떻게 통합할지 아직 모른다. 하지만 AI가 이 문제 해결을 도울 수도 있다.
일자리 변화는 업계 사람들이 예상하는 것보다 느릴 가능성이 높지만, 동시에 많은 사람들이 상상하는 것보다 더 급진적일 것이다.
13. 자본주의와 돈에 대한 관점
진행자:AI의 소유권과 가치 포획이 소수 빅테크에 집중되는 것은 걱정스럽지 않은가?
요샤 바흐:
젊었을 때 나는 자본주의에 반대했다. 자본주의에는 문제가 많아 보였기 때문이다. 하지만 대안을 생각하고 역사를 보면, 인류를 빈곤과 비참함에서 끌어올린 것은 상당 부분 자본주의였다. 자본주의의 대안들이 명백히 잘 작동한 것도 아니다.
돈은 먹을 수 있는 자원이 아니다. 돈은 신호다. 기대 보상에 대한 신호다. 어떤 의미에서 돈은 사회적 차원에서 재창조된 도파민이다.
돈은 80억 마리의 말하는 원숭이를 하나의 글로벌 지능으로 연결한다. 상품과 서비스가 전 세계에서 교환 가능하게 만든다. 사람들은 분산된 방식으로 “이 사람이 하는 일이 나에게 가치 있는가”를 평가하고, 그 점수를 돈이라는 형태로 전달한다.
물론 이 시스템에는 문제가 많다. 하지만 자원을 잘 배분하는 사람에게 더 많은 자원을 배분하게 하는 기능도 있다.
예를 들어 일론 머스크는 자원을 배분하는 데 매우 뛰어난 사람이다. 그는 NASA가 비효율적으로 변했다는 것을 보고 SpaceX를 만들었다. 전기차, 로켓, 여러 회사에서 큰 베팅을 했고, 많은 경우 성공했다. 그는 돈을 사치에 쓰는 것이 아니라 자신의 벤처에 재투자한다.
그가 완벽한 사람이라는 뜻은 아니다. 정치적 발언이나 소셜미디어 운영 방식에는 문제가 있을 수 있다. 하지만 그에게 자원이 몰린 이유는 시스템이 그가 자원을 잘 배분한다고 판단했기 때문이라고 볼 수 있다.
반면 이미 큰 부를 가진 사람이 단지 다른 사람이 투자해준 덕분에 더 부자가 되는 것은 자본주의의 문제 중 하나일 수 있다.
14. 규제와 혁신의 붕괴
진행자:빅테크로 자본이 몰리는 것은 다른 산업을 굶기는 현상 아닌가?
요샤 바흐:
많은 전통 산업이 투자를 못 받는 이유는 단순히 빅테크가 너무 매력적이어서가 아니다. 많은 분야에서 규제와 허가 절차 때문에 수익성이 나오지 않는다.
예를 들어 주택은 수요가 큰데 공급이 부족하다. 왜 집을 더 짓지 못하는가? 허가 절차, 건축법, 기존 이해관계자들이 만든 규칙 때문이다. 건설업계, 노조, 자재업체 등이 자신들의 이익을 코드에 써넣었고, 그 결과 혁신이 어려워졌다.
철도나 대형 인프라도 마찬가지다. 뉴욕 지하철은 중국 지하철과 비교하면 매우 낙후되어 있다. 오늘날의 규제하에서는 과거에 지어진 많은 도심, 고층빌딩, 지하철도 새로 짓기 어려울 것이다.
기술 산업이 아직 혁신하는 이유는 너무 빨리 움직여서 규제가 따라잡지 못했기 때문이다. 만약 소프트웨어 개발에도 길드나 면허제를 도입하고, 새로운 소셜미디어 플랫폼을 만들려면 수년간 수백만 달러짜리 인증 절차를 거쳐야 한다면, 기술 혁신도 어려워질 것이다.
15. AI 버블은 있을 수 있지만 장기적으로 데이터센터는 필요하다
진행자:AI 투자도 닷컴버블처럼 과잉투자일 수 있는가?
요샤 바흐:
그럴 수 있다. AI는 결국 큰 가치를 만들겠지만, 투자자와 하이퍼스케일러들이 기대하는 것만큼 빨리 수익을 내지 못할 수 있다. 그래서 지금 과잉 설비 투자가 일어나고 있을 가능성은 있다.
닷컴버블 때도 온라인 소매업이 엄청난 수익을 낼 것이라고 기대했다. 실제로 결국 그렇게 됐다. 아마존은 오프라인 소매보다 더 효율적인 방식으로 상품을 가정에 전달했고, 팬데믹 때도 큰 역할을 했다. 하지만 초기 투자자 중 많은 사람은 손실을 봤고, 주식시장은 한동안 붕괴했다.
AI도 비슷할 수 있다. 지금 너무 많은 데이터센터를 짓고 있다가 일부 투자는 상각될 수 있다. 하지만 장기적으로는 데이터센터가 필요하다. 우리는 아직 계산할 여력이 없어 못 하는 일이 너무 많다. 비디오, 멀티모달 모델, 실시간 음성 대화 모델 등을 위해 더 많은 컴퓨팅이 필요하다.
초기 투자자 일부가 손실을 보더라도, 장기적으로 인프라가 남는다면 사회적으로는 나쁘지 않을 수 있다.
16. 금융 시스템과 암호화폐에 대한 우려
진행자:당신은 금융 시스템의 재부팅 가능성도 언급했다. 무슨 뜻인가?
요샤 바흐:
역사를 보면 국가가 수입과 지출을 맞추지 못해 화폐를 계속 절하하다가 쇠퇴한 사례들이 있다. 로마 제국도 그런 측면이 있었다.
문제는 점점 더 많은 사람이 생산적인 일보다 행정적이고 재분배적인 일에 종사하게 되는 것이다. 실제 재화와 서비스를 만드는 사람은 줄고, 기존 경제 위에 올라타 돈을 옮기는 사람이 많아진다.
돈은 땅에서 캐야 하는 것이 아니다. 만들 수도 있고 지울 수도 있다. 문제는 이것을 어떻게 안정적으로 하느냐다.
나는 암호화폐가 탄광 속 카나리아처럼 보인다. 암호화폐에는 현실 세계의 뚜렷한 사용처가 거의 없다. 다만 원래라면 은행 면허가 필요한 일을 개인들이 할 수 있게 해준다. 그런데 금융 시스템을 게임할 수 있는 사람을 제한하기 위해 면허가 존재하는 것이다.
암호화폐는 자산 없는 주식을 찍어내는 방식처럼 작동한다. 현재 금융 시스템 이후의 운영체제인 척하지만, 실제로 그렇게 작동한다는 증거는 없다. 다만 현 금융 시스템의 취약성은 보여준다.
암호화폐 자체는 전체 시스템에 비하면 작기 때문에 당장 엄청나게 위험하진 않다. 하지만 암호화폐가 여전히 존재한다는 사실은 나쁜 신호다.
17. 조직은 왜 사회에 순손실을 내면서도 살아남는가
진행자:조직을 더 효과적으로 만들려면 어떻게 해야 하는가? 자원을 더 잘 배분하고, 정치가 조직을 망치지 않게 하려면?
요샤 바흐:
나는 질문을 반대로 봐야 한다고 생각한다.
“어떤 조건에서 사회에 순손실을 내는 조직이 살아남는가?”
그런 조직은 보통 특권적 규칙을 이용할 때 살아남는다. 독점권이나 권력을 얻고, 그 권력을 착취적으로 사용한다.
예를 들어 캘리포니아의 억만장자세 같은 발상은 역효과를 낳을 수 있다. 미실현 이익에 세금을 매기면 주식을 팔 수 없는 창업자나 투자자가 대출을 받거나 파산해야 할 수 있다. 그래서 부유층과 투자자가 미리 떠나고, 세수는 오히려 줄어들 수 있다.
정치인은 이런 주장이 틀렸다는 것을 몰라서 추진하는 것이 아니다. 인센티브가 그렇게 되어 있기 때문이다. 특정 집단은 그런 법안을 통해 돈을 얻거나 정치적 영향력을 얻으려 한다.
이것이 얼마나 일반적인 현상인지는 모르지만, 적어도 캘리포니아에서는 매우 대표적인 문제로 보인다.
18. 미국의 가능성: 주 간 경쟁과 규제 실험
진행자:이런 구조적 문제를 어떻게 고칠 수 있을까?
요샤 바흐:
미국의 큰 기회는 주마다 다른 제도와 선거구가 있다는 점이다. 중앙 규제를 완화하고 주들 간 경쟁을 강화할 수 있다.
예를 들어 각 주가 자체 FDA를 만들거나 기존 FDA를 포크할 수 있다면, 의료 시스템에서 실험이 가능해질 수 있다. 그러면 더 낮은 비용으로 더 나은 의료 서비스가 나올 수 있다.
주택도 마찬가지다. 혁신 구역을 만들어 각 지역이 다른 zoning, 건축 규정, 허가 절차를 실험할 수 있다.
물론 혁신에는 위험이 따른다. 사고가 늘 수도 있고 예상치 못한 결과가 생길 수도 있다. 하지만 미국 역사에서 혁신의 자유는 대체로 순긍정이었다. 그 자유를 다시 가져와야 할지도 모른다.
19. 베를린 사례와 혁신 환경
진행자:당신은 예전에 베를린이 혁신의 온상이 된 사례를 이야기한 적이 있다. 규제가 없고 경제 구조가 무너진 상태가 창조적 환경을 만들었다는 것이다. 미국에서도 그런 것이 가능한가?
요샤 바흐:
베를린 사례는 미국에 쉽게 번역하기 어렵다. 동독은 교육 수준이 높은 독일인들에게 사회주의를 적용한 실험이었다. 그것이 실패했다면, 훨씬 더 이질적이고 규칙을 덜 따르는 미국에서는 더 어려웠을 것이다.
베를린 장벽이 무너졌을 때 모든 규제가 사실상 무효가 되었고, 도시 전체가 파산 상태였으며, 저렴한 주거와 젊은 사람들이 몰려들었다. 그래서 새로운 것을 시작할 수 있었다.
미국에서 그런 환경을 만들려면 먼저 어떤 종류의 파국적 붕괴가 필요할 수 있다. 하지만 지금 미국에는 서독처럼 유능하게 인수해 투자하고 새 사회를 만드는 행정 주체가 없다.
결국 질문은 이것이다.
어떻게 다시 유능한 정부를 만들 수 있는가?
그리고 정부가 유능하지 않기를 원하는 여러 이해관계자들의 저항을 뚫고 그것이 가능한가?
싱가포르처럼 정부 관료를 매우 높은 보수와 성과 지표로 관리하는 모델도 있다. 하지만 싱가포르는 미국 같은 대륙 규모 국가가 아니라 큰 도시국가에 가깝다. 미국에 적용 가능한지는 모르겠다.
20. AI의 미래: 중앙집중형인가, 분산형인가
진행자:AI가 사회에 좋은 영향을 주는 시나리오와 나쁜 영향을 주는 시나리오는 무엇인가?
요샤 바흐:
많은 것은 AI가 중앙집중형으로 배포되느냐, 분산형으로 배포되느냐에 달려 있다.
러시아 같은 국가는 AI를 중앙집중적 감시에 사용한다. 거리의 카메라가 각 사람이 시위에 참여할 가능성을 예측하고, 경찰이 사전에 체포할 수 있다. 중국도 유사한 기술을 갖고 있다.
미국은 아직 그런 수준은 아니며, 나는 그것이 좋은 일이라고 본다. 하지만 사회가 스트레스를 받고 정부가 위협을 느끼면, 중앙집중형 감시 기술 도입 압력이 커질 수 있다.
반면 아래로부터의 감시도 있다. 주민들이 범죄에 대응하기 위해 Nest 카메라를 설치하고 지역 감시망을 만드는 것이다. 이것이 국가 감시와 같은 결과를 낳는지는 사회가 장기적으로 판단해야 한다.
내게 중요한 것은 나를 섬기는 AI다. 기존 이해관계를 섬기는 AI가 아니라, 나를 더 유능하게 만들어주는 AI가 필요하다.
예를 들어 나는 내 AI가 어떤 약물이 어떤 상황에서 효과적인지 말해줄 수 있기를 원한다. AI가 나에게 정보를 차단한다면, 나는 내 의사 AI를 검증할 방법이 없다.
21. AI와 전문직: 의사, 변호사, 건축가의 지식은 더 널리 퍼져야 한다
진행자:AI가 의사나 변호사 같은 전문직을 대체할 능력이 이미 있는가? 아니면 규제가 막고 있는가?
요샤 바흐:
나는 전문 지식이 더 널리 퍼지는 것이 바람직하다고 본다.
예를 들어 왜 대부분의 약을 반드시 의사를 통해서만 얻어야 하는가? 대학 교육을 받았고, 약물이 어떻게 작동하는지 대략 이해하고, 약물 오남용 이력이 없다면 더 넓은 접근권을 줄 수도 있지 않은가?
물론 안전 기준은 필요하다. 하지만 인증 방식을 완화하고 다양화할 수 있다. 여러 FDA가 경쟁하듯 작동할 수도 있고, 다른 나라에서 이미 승인된 약물은 빠르게 허가할 수도 있다. 오용 시 피해가 낮은 약물은 더 쉽게 접근하게 할 수도 있다.
의료비가 비싼 이유 중 하나는 의사협회가 의대 정원을 제한해 의사들이 가격 경쟁을 하지 않도록 만들기 때문이다. 더 많은 잘 교육된 전문가가 의료 서비스를 제공할 수 있게 하면 가격은 내려가고 접근성은 높아질 수 있다.
AI는 이 과정에서 중요한 역할을 할 수 있다.
22. AI는 행정 투명성을 높일 수 있다
진행자:AI가 정부와 행정에는 어떤 변화를 줄 수 있는가?
요샤 바흐:
AI는 행정을 투명하게 만들 수 있다.
중요한 것은 IRS가 AI를 사용해 당신을 더 효과적으로 과세하는 것만이 아니다. 당신도 AI를 사용해 IRS가 세금을 어떻게 쓰고, 어떻게 자신을 운영하는지 볼 수 있어야 한다.
AI 기술이 양방향으로 작동하는 미래가 가능하다. 모두가 AI를 통해 계약을 이해하고, 정보를 분석하고, 조직과 정부를 감시할 수 있다.
또 중요한 것은 인식 공동체(epistemic communities)다. 사람들이 공동의 AI 모델을 공유하고, 함께 현실 모델을 만드는 공동체가 생길 수 있다. 이것은 국가가 위에서 강요하는 세뇌가 아니라, 사람들이 스스로 “이 AI가 나의 이익을 가장 잘 대변한다”고 선택하는 방식이다.
그런 공동 현실 모델은 금융 시스템, 조직, 사회 변화를 더 잘 예측하게 하고, 결국 자본주의, 돈, 대의민주주의 이후의 더 공정하고 효과적인 시스템으로 이어질 수도 있다.
23. 통제감보다 중요한 것은 관계와 시민사회
진행자:사람들은 미래를 통제하려는 욕구를 너무 많이 갖고 있는가? 그냥 흐름을 받아들이는 태도도 필요하지 않은가?
요샤 바흐:
바꿀 수 없는 것을 받아들이는 것은 때때로 필요하다. 하지만 동시에 바꿀 수 있는 것을 식별해야 한다.
강한 감정만으로는 바꿀 수 없다. 사람들과 관계를 맺어야 한다. 서로를 책임지고, 시민사회를 만들고, 가족과 친구와 좋은 관계를 만들고, 직장과 공동체를 개선해야 한다.
더 나은 사회는 우리 각자에게서 시작한다. 가족, 친구, 아이들, 직장, 지역 공동체로부터 시작해 점차 확장된다.
24. 기술 리더들에게 주는 조언
진행자:이 대화를 듣는 기술 리더나 비즈니스 리더들에게 조언한다면?
요샤 바흐:
많은 사람은 필터버블 안에 산다. 나는 필터버블이 항상 나쁘다고 보지는 않는다. 어떤 분야에서 탁월함을 얻으려면 어느 정도의 고립과 집중이 필요하다. 심포니를 연주하는 무대 위에서 동시에 레슬링 경기를 할 수는 없다.
하지만 각 방이 얼마나 멀리 drift하고 있는지 알아야 한다. 다른 방으로 이동하는 법을 배워야 한다. 나와 완전히 다른 의견을 갖고 있지만 똑똑하고 선의가 있는 사람을 찾아 대화해야 한다.
진정한 진전은 선의의 반박에서 나온다. 서로 다른 현실의 측면을 내 세계 모델 안으로 통합해야 한다.
AI가 이것을 도울 수도 있다. 더 나은 소셜미디어 도구를 만들어 분노와 선동을 걸러내고, 좋은 정보를 더 잘 받아들이게 만들 수 있다.
내가 아는 대부분의 사람들은 선의가 있다. 속이고 거짓말하기보다 괜찮은 사람이 되려고 한다. 그런 사람들을 찾아 네트워크를 만들고, 그 네트워크가 다른 사람에게도 매력적이고 회복력 있게 만들어야 한다.
25. 마지막 정리: 요샤 바흐의 핵심 메시지
이 인터뷰에서 요샤 바흐의 핵심 관점은 다음과 같다.첫째, 지능은 모델을 만들고 새로운 상황에서 기술을 습득하는 능력이다.
단순 문제풀이 능력이나 인간식 IQ를 AI에 그대로 적용할 수 없다.
둘째, 의식은 인간에게 일종의 생물학적 훈련 알고리즘일 수 있다.
AI가 의식을 갖는지는 아직 열린 문제이며, 결정적 답은 없다.
셋째, LLM이 AGI로 확장될 수 없다고 단정할 이유는 아직 없다.
세계와 실시간으로 연결되고, 수학·코드·센서 데이터에 더 묶이면 환각이 줄고 더 강한 추론이 가능할 수 있다.
넷째, 현재 AI는 예상보다 안전하고 평등하게 배포되고 있다.
월 20달러 수준으로 강력한 AI를 쓸 수 있다는 것은 역사적으로 놀라운 일이다.
다섯째, AI 위험론은 일부 타당한 논리 구조를 가지지만, 현실은 훨씬 복잡하다.
AI가 단순히 인류를 유인원처럼 대체해 제거할 것이라는 시나리오는 복잡계를 지나치게 단순화한 것이다.
여섯째, 과학과 제도의 문제는 현실과의 접촉 상실에서 온다.
조직이 커지고 실패 가능성이 낮아질수록 진실보다 내부 정치와 이야기가 중요해진다.
일곱째, 자본주의와 돈은 불완전하지만 강력한 분산 자원배분 시스템이다.
돈은 자원이 아니라 보상 신호이며, 사람들을 글로벌 지능처럼 연결한다.
여덟째, 혁신의 가장 큰 적은 과도한 규제와 이해관계자의 포획이다.
주택, 의료, 인프라가 정체된 이유는 자본이 부족해서가 아니라 허가·규제·기득권 구조 때문이다.
아홉째, AI의 미래는 중앙집중형 감시 도구가 될지, 개인을 강화하는 분산형 도구가 될지에 달려 있다.
열째, 좋은 미래는 거대한 이념보다 작은 관계, 시민사회, 선의의 반박, 회복력 있는 네트워크에서 시작된다.
전체 0