“나는 오늘 구글을 퇴사했다. 내 일도 즐거웠고 함께 일한 사람들도 정말 좋아했다. 하지만 내가 속한 Google DeepMind(GDM) 팀은 AI를 훨씬 더 빠르고 저렴하게 만들기 위한 차세대 칩을 개발하고 있었고, 나는 이미 AI 발전 속도가 지나치게 빠르다고 생각한다. 그래서 결국 회사를 그만둘 수밖에 없었다.”

 

https://robert.ocallahan.org/2026/09/goodbye-google.html

 

Goodbye Google

오늘 나는 다음과 같은 이메일을 보냅니다.

저는 오늘부로 Google에서 퇴사합니다.

쉬운 결정은 아니었습니다. 저는 동료들을 좋아하고, 일하는 환경도 좋아합니다. 재미있는 퍼즐을 풀면서 후한 보수를 받는다는 건 정말 멋진 일이었습니다. 하지만 제가 속한 팀의 목표는 궁극적으로 AI를 훨씬 더 저렴하고 더 낮은 지연시간으로 만드는 것입니다. 그리고 저는 지금 그런 일이 사람들에게 좋은 일이라고 생각하지 않습니다. 저는 현재 AI의 발전 속도가 지나치게 빠르다고 굳게 믿고 있으며, 우리가 향하고 있는 최종 목적지 자체에 대해서도 의문을 가지고 있습니다.

Google 안에서 AI 발전을 가속하지 않는 다른 프로젝트로 옮기는 것은 사실상 거의 불가능합니다. 그 이유 중 하나는 제가 뉴질랜드와 강하게 연결되어 있고, Google이 뉴질랜드에서 엔지니어링 업무를 거의 하지 않기 때문입니다. 그래서 저로서는 선택의 여지가 거의 없습니다.

AI 발전을 가속하는 데 기여하는 사람은 수백만 명이나 됩니다. 제가 가속 페달에서 발을 떼더라도 영향은 아주 작겠죠. 하지만 전혀 영향이 없는 것은 아닙니다. 제가 가진 기술 중 일부는 희소하기 때문입니다. 저는 Google DeepMind 안에서 상황에 긍정적인 영향을 줄 방법도 찾아봤지만, 그 효과가 크다고는 느끼지 못했습니다. 반면 Google 밖에서도 영향력을 행사할 수는 있습니다.

제 일이 어떤 영향을 미치는지 애써 외면하고 싶은 유혹도 있습니다. 하지만 그렇게 하는 것은 예수님을 따르는 삶의 방식이 아니라고 생각합니다. 이런 선택의 트레이드오프에 대해서는 제 블로그에 더 자세히 적었습니다.

앞으로 정확히 무엇을 할지는 아직 모릅니다. Pernosco와 rr은 계속 유지보수할 것이고, 그와 관련해서 오늘날 AI가 코드를 어떻게 디버깅하는지, 그리고 디버깅 도구가 AI의 디버깅 능력을 어떻게 도울 수 있는지 연구할 계획입니다. 그 밖에도 해보고 싶은 프로젝트 아이디어들이 있습니다. 어떤 것은 수익성이 있을 수도 있고, 어떤 것은 아닐 수도 있습니다. 어쩌면 이미 존재하는 매력적인 프로젝트를 찾아 참여하게 될 수도 있겠죠.

다만 앞으로 하는 일만큼은 분명하게 인간에게 이로운 일(pro-human) 이었으면 합니다.

[HN 토론 스레드]

먼저 저를 잘 모르는 분들을 위해 소개하자면, 저는 기술 업계에서 오랫동안 일했고 실리콘밸리에도 많은 인맥이 있습니다. 하지만 저는 뉴질랜드에 살기 때문에 업계의 버블 밖에 있기도 하고, 동시에 미국이라는 버블 밖에 있기도 합니다.

저는 기독교인입니다. 오클랜드 도심의 Auckland Chinese Presbyterian Church 영어 예배 공동체에서 장로이자 가끔 평신도 설교자로 활동하고 있습니다.

그러니까 저는 흔히 말하는 “테크 브로(tech bro)”도 아니고, 스스로를 “합리주의자 커뮤니티(rationalist community)”라고 부르는 집단에 속하지도 않습니다.

하지만 그들이 제기하는 주장 중 상당수는 진지하게 받아들일 가치가 있다고 생각합니다.

AI에 대해서는 하고 싶은 말이 정말 많지만, 이 글에서 전부 풀어놓지는 않겠습니다.

간단히 요약하자면, 많은 사람들이 경고해온 AI의 실존적 위험(existential risk) 은 진지하게 받아들여져야 한다고 생각합니다.

이른바 “두머(doomer)”들이 예측했던 현상 중 상당수가 실제로 나타났습니다. 예를 들면 보상 해킹(reward hacking), 정렬 실패(misalignment), 기만적인 모델, 평가를 받고 있다는 사실을 인식하는 모델, 정신병적 군집(psychotic swarms) 같은 것들입니다.

그렇다고 제가 초지능(ASI)이 등장하면 인류가 멸망할 확률이 100%라고 믿는 것은 아닙니다.

오히려 저는 그 위험이 실제로 존재하지만 불확실하다고 생각합니다.

하지만 바로 그 불확실성 자체가 굉장히 우려스러운 일입니다.

우리는 그런 위험을 최소화하기 위해 엄청난 노력을 해야 할 도덕적 의무가 있다고 생각합니다. 그리고 그 위험 수준은 아마 충분히 높기 때문에, 가까운 시기에 ASI를 만드는 것을 목표로 하는 것 자체가 본질적으로 무책임할 가능성이 높다고 봅니다.

그 외에도 AI와 관련해 매우 우려하는 문제들이 있습니다.

사람들이 자신의 사고를 AI에 넘겨버리는 인지적 항복(cognitive surrender), AI로 인한 정신병과 외로움, 권력 집중, 경제적 혼란, 사이버보안, 책임 소재의 부재 등이 그것입니다.

AI가 가져올 잠재적 이익이 무엇인지도 사실 현재로서는 매우 불분명하다고 생각합니다.

지금 당장 내기를 해야 한다면, 저는 AI가 가져올 부정적 영향이 긍정적 영향보다 클 가능성에 베팅하겠습니다.

하지만 이것 역시 확신하는 것은 아닙니다.

다만 몇 가지에 대해서는 꽤 확신하고 있습니다.

우선 AI 연구소 안에서 AI 위험에 대해 경고하는 사람들은 대체로 진심이라고 생각합니다.

저는 Google DeepMind의 많은 사람들과 이런 문제를 이야기해봤는데, 공개적으로 말하든 그렇지 않든 거의 모두가 진지한 우려를 가지고 있었습니다.

AI 위험을 과장해서 회사 주가를 끌어올리거나, 규제로 경쟁사를 제거하기 위해 이런 이야기를 한다는 주장에 대해서는 저는 지금까지 확실한 증거를 보지 못했습니다.

저는 국가적, 국제적 규제가 절실히 필요하다고 생각합니다.

“그 사람들은 믿을 수 없다”는 식의 주장도 많이 봤습니다.

물론 정말 그럴 수도 있겠죠.

하지만 그렇다고 해서 그들의 경고를 무시하는 것이 정당화되는 것은 아닙니다.

Russell Moore가 최근 이 점을 아주 설득력 있게 설명했습니다.

또 하나 확신하는 것은, 우리가 계속 AI를 발전시키는 한 AI의 능력은 꾸준히 증가할 것이라는 점입니다.

저 역시 AI가 언젠가 어떤 고원에 도달해서 더 이상 발전하지 않기를 바라기도 하고, 혹은 패러다임의 근본적 변화 없이는 AI가 절대 따라할 수 없는 중요한 인간 인지 능력이 발견되기를 바라기도 합니다.

하지만 그런 바람이 이루어질 것이라고는 기대하지 않습니다.

벤치마크에서의 모델 발전 속도는 여전히 매우 빠르거나 오히려 더 빨라 보이며, 그 과정에서 질적으로 새로운 능력들이 계속 등장하고 있습니다.

설령 오늘부로 모델 자체의 성능 향상이 완전히 멈춘다고 해도, 새로운 프롬프트와 하니스(harness), 즉 모델 활용 시스템을 개발하면서 이미 존재하는 모델에서 몇 년 동안 새로운 능력을 계속 끌어낼 수 있을 것입니다.

많은 유명한 AI 비판자들—예를 들어 Zitron이나 Doctorow—은 AI가 제대로 작동하지 않는 일종의 사기라고 생각하는 것처럼 보입니다.

저는 그렇게 생각하지 않습니다.

AI는 실제로 작동할 것입니다.

그리고 저는 한 가지 점에 대해서는 매우 강하게 확신합니다.

AI를 통해 더 나은 미래로 가는 길이 실제로 존재한다고 하더라도, 현재의 변화 속도는 너무 빠릅니다.

AI는 개인과 사회가 그것을 이해하고 적응할 수 있는 속도보다 더 빠르게 발전하고 있습니다.

예를 들어 대학에 진학하는 사람이 몇 년 후 자신의 삶이 어떤 모습일지 계획하려고 해도, 이제는 이전 세대와 같은 방식으로 미래를 계획하기가 매우 어려워졌습니다.

저는 제가 살아오면서 경험한 기술 변화 중 이와 비슷한 것을 본 적이 없습니다.

PC 혁명도, 인터넷도, 스마트폰도 이 정도는 아니었습니다.

산업혁명 시기조차 변화 속도는 지금보다 훨씬 느렸고, 무엇보다 당시에는 새로 등장한 기계가 직접 영향을 주지 못하는 인간 활동의 영역이 매우 넓게 남아 있었습니다.

하지만 이제는 그렇지 않습니다.

그렇다면 왜 더 일찍 나가지 않고 지금 퇴사하느냐고 물을 수도 있습니다.

최근 화제가 된 여러 퇴사 사례나 “AI 속도를 늦춰야 한다”는 경고들과는 관계가 없습니다. 그건 그냥 우연입니다.

저는 이미 꽤 오래전부터 이 시기를 퇴사 시점으로 생각하고 있었습니다.

월요일부터 친구들과 10일 동안 배낭여행을 떠나는 오래된 계획이 있기 때문입니다. Abel Tasman과 Wangapeka 트랙을 걸을 예정이었고, 여행 전에 퇴사하고 싶었습니다.

저는 AI 모델 능력을 직접 개발하는 일을 하지는 않았습니다.

제가 맡았던 일은 하드웨어 칩 설계를 위한 도구를 개선하는 것이었습니다.

저는 그 일을 정말 좋아했습니다.

한동안은 스스로에게 “이 정도 일은 비교적 해롭지 않다”고 말하기도 했습니다.

하지만 시간이 지나면서, 하나님께서 제게 이 일의 실제 결과가 무엇인지 직면하게 하셨다고 느꼈습니다.

이 도구들의 주된 효과는 결국 새로운 세대의 AI 칩 설계를 더 빠르게 만드는 것이 될 것입니다.

그리고 그 칩들이 성공한다면 AI를 훨씬 더 저렴하고 빠르게 만들 것입니다.

그러면 AI가 더 널리 퍼질 뿐 아니라 더 강력해질 가능성도 있습니다.

우리는 이미 추론에 더 많은 토큰을 사용하면 모델 능력을 더 끌어올릴 수 있다는 것을 알고 있기 때문입니다.

저는 직원으로서의 의무 때문에 제 상위 관리자인 skip manager와 솔직한 대화를 해야 했습니다.

제가 그 프로젝트가 성공하는 것을 적극적으로 바라기는커녕, 기껏해야 매우 마지못해 바란다는 사실을 이야기했습니다.

그 후에도 저는 결정을 정말 확신하고 싶었습니다.

뉴질랜드에서 Google을 위해 일하면서 누렸던 이 훌륭한 조건을 앞으로 다시 얻기는 어려울 가능성이 크기 때문입니다.

Google에 남으면서 AI 가속과 관련 없는 다른 엔지니어링 팀으로 옮기는 것도 현실적으로 어려웠습니다.

Google은 뉴질랜드에 다른 엔지니어링 팀을 거의 두고 있지 않기 때문입니다.

고용주에 대한 책임과 함께 일했던 사람들에 대한 존중도 제가 갑자기 떠나지 않고, 제가 하던 일을 최대한 괜찮은 상태로 인계하려 했던 이유 중 하나였습니다.

그렇다면 앞으로 무엇을 할 것인가?

제가 가장 중요하게 확신하는 것은, 성경의 예수님이 실제로 존재하며, 따라서 하나님께서 우리를 위한 선한 계획을 가지고 계신다는 것입니다.

그 계획이 정확히 무엇인지는 모릅니다.

저도 알 수 있다면 좋겠습니다.

하지만 AI를 둘러싼 혼란 속에서도 그 믿음 덕분에 밤에 잠을 잘 수 있습니다.

저는 하나님의 계획 안에서 제가 가진 재능을 최대한 잘 활용하는 일을 계속하게 될 것이라고 생각합니다.

설령 그 계획이 우리가 저지른 어리석음으로부터 우리를 구하기 위해 예수님께서 다시 오시는 것이라 하더라도, 그분이 오실 때까지 우리는 맡은 일을 열심히 하고 있어야 합니다.

그러므로 하나님이 제게 주신 재능이 가치 있는 동안에는 계속 일하고 싶습니다.

앞에서 말했듯 Pernosco와 rr은 계속 유지보수할 것입니다.

그리고 Pernosco의 일부로서, AI 에이전트들이 코드를 어떻게 디버깅하는지, 그리고 디버깅 도구를 통해 그들의 디버깅 능력을 더 효과적으로 만들 수 있는지 연구할 계획입니다.

또 AI 에이전트를 활용해서 제가 취미로 생각해온 여러 프로젝트 아이디어를 실제로 구현해보고 싶습니다.

저는 AI가 주는 혜택을 누리고 싶습니다.

다만 신중하게 사용하고 싶습니다.

인간에게 도움이 되고, 동시에 제 자신의 사고 능력도 무뎌지지 않게 하는 방식으로 말입니다.

그리고 제가 할 수 있는 한, 여기 뉴질랜드에서 그런 방식의 AI 사용을 계속 실천하고 옹호할 생각입니다.