자유게시판
openai 전 직원 2035년까지 텔레파시가 어떻게 생길 수 있는지
작성자
작성일
2026-08-06 20:34
조회
5
https://naomibashkansky.com/blog/telepathy/
7월 23일 목요일, 나는 OpenAI를 퇴사했다. 그리고 24일, Conduit의 창립 연구원(Founding Researcher)으로 일을 시작했다.
우리가 만들고 있는 것은 텔레파시(telepathy)다.
비침습적 신경 데이터(non-invasive neural data)로 학습된 생각→텍스트(thought-to-text) 모델을 만들고 있다.
이 글에서는 다음에 대해 이야기하려 한다.
몇 년 뒤면 우리가 AI와 대화하는 주된 방식은 우리의 생각이 될 것이다.
AI는 더 이상 우리가 필사적으로 따라잡으려고 애써야 하는 초똑똑한 자동화 인턴이나 직장 동료 같은 존재가 아닐 것이다.
AI는 자연스럽고 즐거운, 나 자신의 확장이 될 것이다.
아래에는 그런 미래의 모습을 짧은 이야기들로 적어봤다. 나는 이 시나리오들이 낙관적이기는 하지만, 동시에 충분히 현실적으로 가능한 미래라고 생각한다.
오전 9시다.
내 기기는 블루투스로 노트북과 연결된다.
그리고 일반성을 잃지 않는 선에서(without loss of generality), Codex를 연다고 해보자.
코드를 보면서 오늘 할 일을 생각한다. 어제 작성한 노트를 검토하고, 오전 9시 30분 스탠드업 미팅을 준비한다.
내 GPT-7 에이전트는 내가 새롭게 실험하고 있는 인코더를 하루 넘게 계속 연구하고 있었다.
에이전트가 한 일을 살펴본다.
그래프의 라벨을 보고 혼란스러워지고, 첫 문단에 가득한 전형적인 AI 문체에 짜증이 나고, 방정식에 등장하는 기호들이 궁금해진다.
이런 모호한 생각들이 Conduit의 모델로 전달된다.
모델은 언어에 대한 사전 지식(priors)과 내가 평소 어떤 말을 할 가능성이 높은지를 이용해 내 생각을 다음과 같은 텍스트로 출력한다.
나는 자동 전송(auto-send) 기능을 켜두었다.
그래서 각각의 10초짜리 생각 조각이 끝날 때마다 Conduit 모델이 내 생각을 해독하고 GPT-7에게 전달한다.
GPT-7은 들어오는 각각의 작업을 하위 에이전트(subagent)에게 배정한다.
새로 만들어진 그래프와 문단, 방정식을 살펴본다.
문득,
라는 생각이 든다.
Codex는 즉시 새로운 하위 에이전트를 하나 돌린다.
그래프를 보고 확신이 생긴 나는 기본선(baseline)과 가장 좋은 두 개의 선만 보여주는 깔끔한 버전으로 빠르게 슬라이드를 만들어 팀원들에게 보여주기로 한다.
Codex가 또 다른 하위 에이전트를 실행한다.
나는 커피를 만들러 간다.
머릿속에는 대부분 별생각이 없다.
그러다 잠깐, 내일 점심을 같이 먹기로 한 지원자에게 무슨 말을 하고 싶었는지가 떠오른다.
백그라운드에서 Codex는 점심 대화에 도움이 될 만한 정보를 생각하라는 프롬프트를 받는다.
그러더니 지원자에게 보여주기 전에 합성 데이터 스케일링 그래프를 업데이트해두는 것이 좋겠다고 판단한다.
Codex는 다시 하위 에이전트를 하나 실행한다.
커피를 만들면서 머릿속으로 문장을 크게 또박또박 말하고 있는 게 아니다.
나는 그냥 평소처럼 그래프를 읽고,
평소처럼 커피를 만든다.
그런데도 시스템은 내 의도를 이해한다.
마법처럼 느껴진다.
내 생각을 인코딩한 표현은 더 이상 먼저 Conduit의 디코더 모델을 거쳐 텍스트로 변환되지 않는다.
대신 그 표현이 그대로 Codex로 전달된다.
덕분에 텍스트로 설명하기 어려운 생각도 손쉽게 전달할 수 있다.
예를 들어 머릿속 이미지 같은 것들이다.
요즘은 AI와 이야기하면서 신경 밴드를 착용하지 않는 경우가 거의 없다.
솔직히 밴드 없이 AI를 사용하는 건 짜증이 난다.
신경 밴드를 착용하면,
내 노트북을 조종하는 데 초인적인 능력을 가진 것처럼 느껴진다.
반대로 밴드가 없으면 이런 느낌이다.
으.
Conduit은 계속해서 비침습적 읽기(non-invasive read) 기술을 개선하고 있다.
하지만 동시에 두 가지 새로운 연구 프로젝트도 시작했다.
하지만 적지 않은 사람들은 침습적 기술을 통해 훨씬 높은 해상도의 뇌 읽기를 얻는 것에도 관심을 보인다.
그러나 더 흥미로운 것은 최근 쓰기(write) 기술에 대한 관심이다.
나는 노트북을 제어하는 능력에 있어서는 초인적인 느낌을 받는다.
하지만 내 감각 자체는 여전히 인간 수준이다.
마치 팔을 마음대로 움직일 수는 있지만, 팔의 감각은 완전히 잃어버린 상태와 비슷하다.
그래도 눈으로 팔을 볼 수는 있다.
팔 자체가 없는 것보다야 훨씬 낫겠지만,
여전히 굉장히 이상할 것이다.
이언 워터먼(Ian Waterman) 같은 경우처럼 말이다.
나는 내 Codex가 느끼는 것을 나도 느끼고 싶다.
이제 Conduit이 범용 읽기(general read)를 구현했기 때문에, 범용 쓰기(general write)를 학습하는 데 필요한 데이터는 수 자릿수 규모(orders of magnitude, OOMs)로 더 적어질 수 있다.
그리고 더 중요한 것은,
나는 쓰기 기술이 가능하게 할 다른 응용 분야들을 열고 싶다.
예를 들어,
내 뇌를 내가 18살이었을 때만큼 효율적이고 신경가소성이 높은 상태로 만들고 싶다.
마치 여섯 번째 감각이자 또 하나의 팔다리처럼 느껴진다.
어떤 문제에 대해 궁금해하면,
마치 내가 실제로 웹을 타고 돌아다니는 것처럼 느껴진다.
웹사이트들의 모습이 순간적으로 보이고,
문제에 대한 직관들이 번쩍이며 떠오르고,
결국 나는 답을 도출한다.
그리고 이 과정은 재미있다.
내 뇌는 마치 플래시(The Flash)처럼 움직인다.
쓰기 기술 덕분에 AI를 꺼놓더라도 내 사고 속도는 지금껏 경험했던 것 중 가장 빠르다.
2035년의 세계가 얼마나 초인적(superhuman)일지는 결국 우리 사회가 AI를 어느 정도까지 초인적으로 만들기로 결정하느냐에 직접적으로 달려 있다.
어쩌면 우리는 속도를 조절하기로 결정할지도 모른다.
하지만 내가 이 미래를 좋아하는 이유는 이것이 말 그대로 인간이 루프 안에 들어가 있는(human-in-the-loop) 미래이기 때문이다.
AI가 인간을 대체하는 것이 아니라,
AI가 인간에게 직접 힘을 부여하는 미래다.
입력은 뇌 활동(brain activity)이고,
목표 출력(target output)은 그 사람이 당시 하고 있던 행동이다.
예를 들어 그 사람이 작성한 텍스트가 될 수 있다.
뇌 활동이 주어졌을 때,
우리는 그 사람이 실제로 작성한 텍스트와 의미적으로 유사한 출력을 예측하고 싶다.
뇌신호를 이용해 텍스트를 예측하는 모델을 학습하려면,
음성 오디오에서 텍스트를 예측하거나,
앞선 텍스트를 이용해 다음 텍스트를 예측하는 분야에서 배운 것과 똑같은 교훈을 적용해야 한다.
바로 쓴맛 나는 교훈(The Bitter Lesson)이다.
이 교훈을 대략적으로 표현하면 다음과 같다.
즉 우리는 데이터 수집 규모를 기존 학계에서 이루어진 수준보다 몇 자릿수(orders of magnitude) 더 크게 확장해야 한다.
침습적인 방법으로 충분한 데이터를 모으는 것은 어렵다.
자신의 뇌에 칩을 넣고 싶어 하는 사람은 많지 않기 때문이다.
반면 비침습적 방법은 빠르게 좋아지고 있다.
하드웨어 성능도 향상되고 있고 가격도 낮아지고 있다.
다만 우리 하드웨어의 구체적인 부분에 대해서는 일부러 모호하게 말하는 점을 양해해주기 바란다.
데이터를 더 많이 사용해 학습할수록,
모델이 예측하는 텍스트는 피험자가 실제로 작성한 텍스트와 의미적으로 점점 더 유사해지고 있다.
물론 노이즈 때문에 제거할 수 없는 오차가 어느 정도 존재한다.
하지만 대부분의 모달리티에서는 아직 그 한계에 부딪힐 정도까지 가지도 않았다.
구체적으로 말하면,
스케일링 법칙(scaling laws)이 상당히 좋아 보인다.
우리 모델이 예측한 잠재 공간(latent space)과 목표 잠재 공간 사이의 코사인 유사도(cosine similarity)는,
데이터 시간의 로그값에 대해 거의 직선적으로 상승한다.
즉,
우리는 지금 GPT-2 시대에 있다.
그리고 생각을 완벽하게 해독할 필요도 없다.
당신의 생각을 도시 안의 GPS 신호라고 생각해보자.
노이즈가 많은 GPS 신호만 가지고는 정확한 위치를 알아낼 수 없다.
하지만 여기에
마찬가지로,
놀라울 정도로 정확한 추론이 가능해진다.
직접 해보면서 배우는 것을 더 좋아한다면,
연구 참가자로 참여해도 좋다!
수치로 표현하자면,
Conduit이 범용 뇌 읽기와 쓰기를 구현하는 회사가 된다면 기업가치는 1조 달러 이상이 될 것이라고 생각한다.
이 비전이 좋은 이유는,
그것이 보다 인간적인 미래를 만들어가는 방향이기 때문이다.
그리고 나는 스케일링 법칙을 신뢰한다.
이 법칙들은 이미 여러 번의 규모 배증(doubling)을 거치는 동안 계속 유지돼 왔다.
나는 그들과 함께 일하는 것이 정말 좋다.
그리고 똑같은 미션과 똑같이 지적으로 흥미로운 문제를 해결하기 위해 합류한 다른 여러 사람들과 일하는 것도 정말 즐겁다.
나는 다음과 같은 문제들에 대해 생각할 수 있다.
OpenAI에서는 거대한 ‘그 문제(The Problem)’ 중 아주 좁은 한 조각만 연구할 수 있다.
그리고 그 좁은 영역 안에서도 이미 존재하는 아키텍처의 제약을 받는다.
반면 Conduit에서는,
모든 것이 그린필드(greenfield), 즉 처음부터 새롭게 만들 수 있는 영역이다.
요약하자면,
나는 행복하다.
내가 집착할 정도로 좋아하는 문제를 연구하고 있고,
그 문제는 무서울 정도로 야심 차며,
내가 좋아하는 소수의 사람들과 함께 일하고 있다.
안녕하세요!
나는 2주 전 OpenAI를 떠났다.
그곳에서 약 1년 반 동안 연구원으로 일했다.
나는 미국 워싱턴주에서 자랐다.
5살부터 15살까지 체스를 경쟁적으로 두었고,
WIM(Woman International Master, 여성 국제 마스터)이 된 뒤 체스를 그만두었다.
처음으로 인간보다 똑똑한 AI가 등장할 가능성에 대해 들었던 것은 12살 때였다.
하지만 몇 년 동안 나는 그것을
정도로 생각했다.
18살이 되었을 때 컴퓨터 과학을 공부하기 위해 하버드에 입학했다.
수업에서 GPT-3에 대해 배웠고,
마침내 보스트롬(Bostrom)의 《Superintelligence》를 읽었다.
와.
정말 정신이 번쩍 드는 순간이었다.
나는 AI 안전 연구에 깊이 관심을 갖게 되었고,
잠시 AI 정책 분야에서도 일했다.
그리고 결국 OpenAI의 정렬(alignment) 팀에 합류했다.
OpenAI에서는 연구 외에도 다양한 사이드 프로젝트를 했다.
그중에는 다음과 같은 것들이 있었다.
Conduit에 대해 이야기하고 싶다면
naomi@condu.it으로 연락해도 좋다.
커피 한잔하자.
아니면 샌프란시스코에 있는 우리의 독특하고 아름다운 사무실을 구경시켜줄 수도 있다.
우리는 항상
7월 23일 목요일, 나는 OpenAI를 퇴사했다. 그리고 24일, Conduit의 창립 연구원(Founding Researcher)으로 일을 시작했다.
우리가 만들고 있는 것은 텔레파시(telepathy)다.
비침습적 신경 데이터(non-invasive neural data)로 학습된 생각→텍스트(thought-to-text) 모델을 만들고 있다.
이 글에서는 다음에 대해 이야기하려 한다.
- 생각→텍스트: 2027년, 2030년, 2035년에 텔레파시 도구를 사용하는 경험은 어떤 모습일까?
- 생각→텍스트를 어떻게 만들 것인가: 왜 Conduit은 엄청난 양의 비침습적 신경 데이터를 수집하고 있는가?
- 내가 합류한 이유: 대담한 비전, 뛰어난 사람들, 그리고 재미있는 연구 문제들 때문이다.
- 안녕하세요: 나에 대한 간단한 소개.
1. 생각→텍스트, 즉 텔레파시
내 예측은 이렇다.몇 년 뒤면 우리가 AI와 대화하는 주된 방식은 우리의 생각이 될 것이다.
AI는 더 이상 우리가 필사적으로 따라잡으려고 애써야 하는 초똑똑한 자동화 인턴이나 직장 동료 같은 존재가 아닐 것이다.
AI는 자연스럽고 즐거운, 나 자신의 확장이 될 것이다.
아래에는 그런 미래의 모습을 짧은 이야기들로 적어봤다. 나는 이 시나리오들이 낙관적이기는 하지만, 동시에 충분히 현실적으로 가능한 미래라고 생각한다.
2027년 — Conduit에서의 어느 아침
머리에 밴드를 두르고 Conduit 사무실에서 노트북을 연다.오전 9시다.
내 기기는 블루투스로 노트북과 연결된다.
그리고 일반성을 잃지 않는 선에서(without loss of generality), Codex를 연다고 해보자.
코드를 보면서 오늘 할 일을 생각한다. 어제 작성한 노트를 검토하고, 오전 9시 30분 스탠드업 미팅을 준비한다.
내 GPT-7 에이전트는 내가 새롭게 실험하고 있는 인코더를 하루 넘게 계속 연구하고 있었다.
에이전트가 한 일을 살펴본다.
그래프의 라벨을 보고 혼란스러워지고, 첫 문단에 가득한 전형적인 AI 문체에 짜증이 나고, 방정식에 등장하는 기호들이 궁금해진다.
이런 모호한 생각들이 Conduit의 모델로 전달된다.
모델은 언어에 대한 사전 지식(priors)과 내가 평소 어떤 말을 할 가능성이 높은지를 이용해 내 생각을 다음과 같은 텍스트로 출력한다.
conduit://thought-stream → codex
$ decode --source=neural-latent --autosend --to=codex
thought_01 >
네 그래프를 보고 있어.
범례의 라벨을 다시 붙여주고,
아래에 각 선이 무엇을 의미하는지 간단하게 설명하는 텍스트 셀을 추가해줘.
thought_02 >
토론 부분의 두 번째 문단은 이해했는데,
첫 번째 문단은 humanizer 스킬을 사용해서 다시 써줘.
thought_03 >
방정식을 더 깔끔한 표기법으로 설명하는 텍스트 박스를 만들어줘.
streaming >
█
나는 자동 전송(auto-send) 기능을 켜두었다.
그래서 각각의 10초짜리 생각 조각이 끝날 때마다 Conduit 모델이 내 생각을 해독하고 GPT-7에게 전달한다.
GPT-7은 들어오는 각각의 작업을 하위 에이전트(subagent)에게 배정한다.
새로 만들어진 그래프와 문단, 방정식을 살펴본다.
문득,
구면 조화 함수(spherical harmonics)를 사용하면 좋지 않을까?
라는 생각이 든다.
Codex는 즉시 새로운 하위 에이전트를 하나 돌린다.
그래프를 보고 확신이 생긴 나는 기본선(baseline)과 가장 좋은 두 개의 선만 보여주는 깔끔한 버전으로 빠르게 슬라이드를 만들어 팀원들에게 보여주기로 한다.
Codex가 또 다른 하위 에이전트를 실행한다.
나는 커피를 만들러 간다.
머릿속에는 대부분 별생각이 없다.
그러다 잠깐, 내일 점심을 같이 먹기로 한 지원자에게 무슨 말을 하고 싶었는지가 떠오른다.
백그라운드에서 Codex는 점심 대화에 도움이 될 만한 정보를 생각하라는 프롬프트를 받는다.
그러더니 지원자에게 보여주기 전에 합성 데이터 스케일링 그래프를 업데이트해두는 것이 좋겠다고 판단한다.
Codex는 다시 하위 에이전트를 하나 실행한다.
커피를 만들면서 머릿속으로 문장을 크게 또박또박 말하고 있는 게 아니다.
나는 그냥 평소처럼 그래프를 읽고,
평소처럼 커피를 만든다.
그런데도 시스템은 내 의도를 이해한다.
마법처럼 느껴진다.
2030년 — 산업이 적응하고 Conduit이 확장된다
이제 AI 회사들은 자신들의 모델이 Conduit의 잠재 표현(latent representations)에 직접 연결될 수 있도록 모델을 학습한다.내 생각을 인코딩한 표현은 더 이상 먼저 Conduit의 디코더 모델을 거쳐 텍스트로 변환되지 않는다.
대신 그 표현이 그대로 Codex로 전달된다.
덕분에 텍스트로 설명하기 어려운 생각도 손쉽게 전달할 수 있다.
예를 들어 머릿속 이미지 같은 것들이다.
요즘은 AI와 이야기하면서 신경 밴드를 착용하지 않는 경우가 거의 없다.
솔직히 밴드 없이 AI를 사용하는 건 짜증이 난다.
신경 밴드를 착용하면,
내 노트북을 조종하는 데 초인적인 능력을 가진 것처럼 느껴진다.
반대로 밴드가 없으면 이런 느낌이다.
엄청난 능력을 가진 외계인과 이야기하고 있는데,
그 외계인은 최선을 다해 나를 도와주려고 하지만
내가 무엇을 원하는지는 정확히 모르고,
자기가 뭔가 잘못했다가 내가 화낼까 봐 두려워하는 상태.
으.
Conduit은 계속해서 비침습적 읽기(non-invasive read) 기술을 개선하고 있다.
하지만 동시에 두 가지 새로운 연구 프로젝트도 시작했다.
- 침습적 범용 읽기(invasive general read)
- 범용 쓰기(general write)
+------------------------------------------------------------------------------+
| 신경기술의 세 가지 축 |
+------------------------------------------------------------------------------+
비침습적 <------------------- 접근 방식 -------------------> 침습적
수술 필요 없음 수술 필요
+------------------------------------------------------------------------------+
읽기 <------------------- 방향 -----------------------> 쓰기
뇌에서 정보를 추출: 뇌에 변화를 만들어냄:
의도, 행동, 감정, 소리를 들려주거나,
내적 독백, 기억 뇌가 더 많은 칼로리를
소비하도록 지시하는 것 등
+------------------------------------------------------------------------------+
좁은 범위 <------------------- 범위 -----------------------> 범용
미리 정의된 하나의 기능 하나의 인터페이스에서
여러 기능 수행
+------------------------------------------------------------------------------+
하지만 적지 않은 사람들은 침습적 기술을 통해 훨씬 높은 해상도의 뇌 읽기를 얻는 것에도 관심을 보인다.
그러나 더 흥미로운 것은 최근 쓰기(write) 기술에 대한 관심이다.
나는 노트북을 제어하는 능력에 있어서는 초인적인 느낌을 받는다.
하지만 내 감각 자체는 여전히 인간 수준이다.
마치 팔을 마음대로 움직일 수는 있지만, 팔의 감각은 완전히 잃어버린 상태와 비슷하다.
그래도 눈으로 팔을 볼 수는 있다.
팔 자체가 없는 것보다야 훨씬 낫겠지만,
여전히 굉장히 이상할 것이다.
이언 워터먼(Ian Waterman) 같은 경우처럼 말이다.
나는 내 Codex가 느끼는 것을 나도 느끼고 싶다.
이제 Conduit이 범용 읽기(general read)를 구현했기 때문에, 범용 쓰기(general write)를 학습하는 데 필요한 데이터는 수 자릿수 규모(orders of magnitude, OOMs)로 더 적어질 수 있다.
그리고 더 중요한 것은,
나는 쓰기 기술이 가능하게 할 다른 응용 분야들을 열고 싶다.
예를 들어,
내 뇌를 내가 18살이었을 때만큼 효율적이고 신경가소성이 높은 상태로 만들고 싶다.
2035년 — AI는 더 이상 ‘타자(other)’가 아니다
내 AI는 이제 나 자신의 자연스러운 확장이다.마치 여섯 번째 감각이자 또 하나의 팔다리처럼 느껴진다.
어떤 문제에 대해 궁금해하면,
마치 내가 실제로 웹을 타고 돌아다니는 것처럼 느껴진다.
웹사이트들의 모습이 순간적으로 보이고,
문제에 대한 직관들이 번쩍이며 떠오르고,
결국 나는 답을 도출한다.
그리고 이 과정은 재미있다.
내 뇌는 마치 플래시(The Flash)처럼 움직인다.
쓰기 기술 덕분에 AI를 꺼놓더라도 내 사고 속도는 지금껏 경험했던 것 중 가장 빠르다.
2035년의 세계가 얼마나 초인적(superhuman)일지는 결국 우리 사회가 AI를 어느 정도까지 초인적으로 만들기로 결정하느냐에 직접적으로 달려 있다.
어쩌면 우리는 속도를 조절하기로 결정할지도 모른다.
하지만 내가 이 미래를 좋아하는 이유는 이것이 말 그대로 인간이 루프 안에 들어가 있는(human-in-the-loop) 미래이기 때문이다.
AI가 인간을 대체하는 것이 아니라,
AI가 인간에게 직접 힘을 부여하는 미래다.
생각→AI(thought-to-AI)의 미래에 관한 몇 가지 인용문
2. 생각→텍스트는 어떻게 만들까?
이론적으로는 간단하다.입력은 뇌 활동(brain activity)이고,
목표 출력(target output)은 그 사람이 당시 하고 있던 행동이다.
예를 들어 그 사람이 작성한 텍스트가 될 수 있다.
뇌 활동이 주어졌을 때,
우리는 그 사람이 실제로 작성한 텍스트와 의미적으로 유사한 출력을 예측하고 싶다.
뇌신호를 이용해 텍스트를 예측하는 모델을 학습하려면,
음성 오디오에서 텍스트를 예측하거나,
앞선 텍스트를 이용해 다음 텍스트를 예측하는 분야에서 배운 것과 똑같은 교훈을 적용해야 한다.
바로 쓴맛 나는 교훈(The Bitter Lesson)이다.
이 교훈을 대략적으로 표현하면 다음과 같다.
모델에 더 많은 유용한 연산(compute)을 투입하면,
모델은 인간이 기발하게 설계한 알고리즘보다 결국 더 좋아진다.
즉 우리는 데이터 수집 규모를 기존 학계에서 이루어진 수준보다 몇 자릿수(orders of magnitude) 더 크게 확장해야 한다.
침습적인 방법으로 충분한 데이터를 모으는 것은 어렵다.
자신의 뇌에 칩을 넣고 싶어 하는 사람은 많지 않기 때문이다.
반면 비침습적 방법은 빠르게 좋아지고 있다.
하드웨어 성능도 향상되고 있고 가격도 낮아지고 있다.
다만 우리 하드웨어의 구체적인 부분에 대해서는 일부러 모호하게 말하는 점을 양해해주기 바란다.
데이터를 더 많이 사용해 학습할수록,
모델이 예측하는 텍스트는 피험자가 실제로 작성한 텍스트와 의미적으로 점점 더 유사해지고 있다.
물론 노이즈 때문에 제거할 수 없는 오차가 어느 정도 존재한다.
하지만 대부분의 모달리티에서는 아직 그 한계에 부딪힐 정도까지 가지도 않았다.
구체적으로 말하면,
스케일링 법칙(scaling laws)이 상당히 좋아 보인다.
우리 모델이 예측한 잠재 공간(latent space)과 목표 잠재 공간 사이의 코사인 유사도(cosine similarity)는,
데이터 시간의 로그값에 대해 거의 직선적으로 상승한다.
즉,
우리는 지금 GPT-2 시대에 있다.
그리고 생각을 완벽하게 해독할 필요도 없다.
당신의 생각을 도시 안의 GPS 신호라고 생각해보자.
노이즈가 많은 GPS 신호만 가지고는 정확한 위치를 알아낼 수 없다.
하지만 여기에
- 지도
- 내비게이션 경로
마찬가지로,
- 불완전한 뇌신호
- LLM
- 현재 문맥(context)
놀라울 정도로 정확한 추론이 가능해진다.
+------------------------------------------------------------------------------+
| 불완전한 디코딩도 엄청나게 유용할 수 있다 |
+------------------------------------------------------------------------------+
당신의 생각 + LLM + 문맥 = 정확한 추론
= 노이즈가 있는 GPS 신호 + = 지도 + 경로 =
? * [---o-----] [---o--*--] → 답
* [ | ~~~ ] [ | ~~~ ]
+------------------------------------------------------------------------------+
직접 해보면서 배우는 것을 더 좋아한다면,
연구 참가자로 참여해도 좋다!
3. 내가 Conduit에 합류한 이유
세 가지 이유가 있다.1. 대담하면서도 현실적인 비전
나는 이 비전을 믿는다.수치로 표현하자면,
Conduit이 범용 뇌 읽기와 쓰기를 구현하는 회사가 된다면 기업가치는 1조 달러 이상이 될 것이라고 생각한다.
이 비전이 좋은 이유는,
그것이 보다 인간적인 미래를 만들어가는 방향이기 때문이다.
그리고 나는 스케일링 법칙을 신뢰한다.
이 법칙들은 이미 여러 번의 규모 배증(doubling)을 거치는 동안 계속 유지돼 왔다.
2. 뛰어난 사람들
공동 창업자인 Rio Popper와 Clem von Stengel은 정말 뛰어나고, 끈질기고, 다정한 사람들이다.나는 그들과 함께 일하는 것이 정말 좋다.
그리고 똑같은 미션과 똑같이 지적으로 흥미로운 문제를 해결하기 위해 합류한 다른 여러 사람들과 일하는 것도 정말 즐겁다.
3. 재미있는 문제들
연구가 정말 너무 재미있다.나는 다음과 같은 문제들에 대해 생각할 수 있다.
- 인코더
- 데이터 효율성
- 합성 데이터
- 데이터 기여도(data attribution)
- 멀티모달리티
- 이상하고 흥미로운 통계 문제들
OpenAI에서는 거대한 ‘그 문제(The Problem)’ 중 아주 좁은 한 조각만 연구할 수 있다.
그리고 그 좁은 영역 안에서도 이미 존재하는 아키텍처의 제약을 받는다.
반면 Conduit에서는,
모든 것이 그린필드(greenfield), 즉 처음부터 새롭게 만들 수 있는 영역이다.
요약하자면,
나는 행복하다.
내가 집착할 정도로 좋아하는 문제를 연구하고 있고,
그 문제는 무서울 정도로 야심 차며,
내가 좋아하는 소수의 사람들과 함께 일하고 있다.
4. 그건 그렇고, 안녕하세요!
나를 모르는 분들을 위해 소개하자면,안녕하세요!
나는 2주 전 OpenAI를 떠났다.
그곳에서 약 1년 반 동안 연구원으로 일했다.
나는 미국 워싱턴주에서 자랐다.
5살부터 15살까지 체스를 경쟁적으로 두었고,
WIM(Woman International Master, 여성 국제 마스터)이 된 뒤 체스를 그만두었다.
처음으로 인간보다 똑똑한 AI가 등장할 가능성에 대해 들었던 것은 12살 때였다.
하지만 몇 년 동안 나는 그것을
인터넷 사람들이 좋아해서 이야기하는 이상하지만 흥미로운 아이디어
정도로 생각했다.
18살이 되었을 때 컴퓨터 과학을 공부하기 위해 하버드에 입학했다.
수업에서 GPT-3에 대해 배웠고,
마침내 보스트롬(Bostrom)의 《Superintelligence》를 읽었다.
와.
정말 정신이 번쩍 드는 순간이었다.
나는 AI 안전 연구에 깊이 관심을 갖게 되었고,
잠시 AI 정책 분야에서도 일했다.
그리고 결국 OpenAI의 정렬(alignment) 팀에 합류했다.
OpenAI에서는 연구 외에도 다양한 사이드 프로젝트를 했다.
그중에는 다음과 같은 것들이 있었다.
- OpenAI의 AGI 온보딩 프레젠테이션 제작
- OpenAI의 alignment 블로그 제작
- OpenAI Foundation의 AI Resilience 부서에 자문
Conduit에 대해 이야기하고 싶다면
naomi@condu.it으로 연락해도 좋다.
커피 한잔하자.
아니면 샌프란시스코에 있는 우리의 독특하고 아름다운 사무실을 구경시켜줄 수도 있다.
우리는 항상
- 연구원
- 인프라 엔지니어
- 운영 인력
전체 0