뉴스/정보
Terrence Tao가 o1과 AI 및 수학의 미래에 대해 말하다
작성자
작성일
2024-10-06 22:21
조회
688
https://www.reddit.com/r/singularity/comments/1fxdbgm/were_entering_uncharted_territory_for_math/
https://archive.md/WGtjD
세계 최고의 현존 수학자 테렌스 타오는 AI에 대한 비전을 가지고 있습니다.
저자: Matteo Wong
UCLA의 수학 교수인 테런스 타오는 실제 슈퍼인텔리전스입니다. 그는 때때로 "수학의 모차르트"라고 불리며, 세계에서 가장 위대한 현존하는 수학자로 널리 알려져 있습니다. 그는 수학 분야의 노벨상과 같은 상을 포함하여 그의 발전과 증명에 대해 수많은 상을 수상했습니다. 지금 당장 AI는 그의 수준에는 전혀 미치지 못합니다.
하지만 기술 회사들은 그것을 실현하려고 노력하고 있습니다. 최근의 눈길을 끄는 세대의 AI, 심지어 전능한 ChatGPT조차도 수학적 추론을 처리하도록 만들어지지 않았습니다. 대신 언어에 집중했습니다. 이러한 프로그램에 기본적인 질문에 답하라고 요청하면 방정식을 이해하고 실행하거나 증명을 공식화하지 않고 대신 순서대로 나타날 가능성이 있는 단어에 따라 답을 제시했습니다. 예를 들어, 원래의 ChatGPT는 덧셈이나 곱셈을 할 수 없지만 x + 2 = 4를 풀기에 충분한 대수 예제를 보았습니다. " x + 2 = 4 방정식을 풀려면 양변에서 2를 뺍니다..." 하지만 이제 OpenAI는 "사람처럼" 문제를 해결하고 복잡한
target="_blank" rel="noopener nofollow">수학적 , 과학적 과제와 질문을 처리할 수 있는 능력 때문에 o1 시리즈로 알려진 새로운 " 추론 모델 " 라인을 명시적으로 마케팅하고 있습니다. 이러한 모델이 성공적이라면 타오와 그의 동료들이 하는 느리고 외로운 작업에 큰 변화를 가져올 수 있습니다.https://archive.md/WGtjD
세계 최고의 현존 수학자 테렌스 타오는 AI에 대한 비전을 가지고 있습니다.
저자: Matteo Wong
UCLA의 수학 교수인 테런스 타오는 실제 슈퍼인텔리전스입니다. 그는 때때로 "수학의 모차르트"라고 불리며, 세계에서 가장 위대한 현존하는 수학자로 널리 알려져 있습니다. 그는 수학 분야의 노벨상과 같은 상을 포함하여 그의 발전과 증명에 대해 수많은 상을 수상했습니다. 지금 당장 AI는 그의 수준에는 전혀 미치지 못합니다.
하지만 기술 회사들은 그것을 실현하려고 노력하고 있습니다. 최근의 눈길을 끄는 세대의 AI, 심지어 전능한 ChatGPT조차도 수학적 추론을 처리하도록 만들어지지 않았습니다. 대신 언어에 집중했습니다. 이러한 프로그램에 기본적인 질문에 답하라고 요청하면 방정식을 이해하고 실행하거나 증명을 공식화하지 않고 대신 순서대로 나타날 가능성이 있는 단어에 따라 답을 제시했습니다. 예를 들어, 원래의 ChatGPT는 덧셈이나 곱셈을 할 수 없지만 x + 2 = 4를 풀기에 충분한 대수 예제를 보았습니다. " x + 2 = 4 방정식을 풀려면 양변에서 2를 뺍니다..." 하지만 이제 OpenAI는 "사람처럼" 문제를 해결하고 복잡한
타오가 o1에 대한 자신의 감상을 온라인에 게시한 것을 본 후 —그는 o1을 "보통이지만 완전히 무능하지는 않은" 대학원생에 비유했습니다—저는 이 기술의 잠재력에 대한 그의 견해를 더 알고 싶었습니다. 지난주 줌 통화에서 그는 이전에는 결코 가능하지 않았던 일종의 AI 기반 "산업 규모 수학"에 대해 설명했습니다. 적어도 가까운 미래에 AI는 그 자체로 창의적인 협력자가 아니라 수학자의 가설과 접근 방식을 위한 윤활유가 될 것입니다. 지식의 미지의 영역을 열어줄 수 있는 이 새로운 종류의 수학은 본질적으로 인간을 유지하며, 사람과 기계가 경쟁보다는 보완으로 생각해야 할 매우 다른 강점을 가지고 있다는 점을 수용합니다.
이 대화는 길이와 명확성을 위해 편집되었습니다.
Matteo Wong : ChatGPT를 처음 사용해 본 경험은 어땠나요?
테런스 타오: 나오자마자 바로 가지고 놀았어요. 어려운 수학 문제를 몇 개 냈는데, 꽤 어리석은 결과가 나왔어요. 일관성 있는 영어였고, 적절한 단어도 언급했지만 깊이가 거의 없었어요. 정말 진보적인 것은, 초기 GPT는 전혀 인상적이지 않았어요. 재밌는 것에는 좋았어요. 예를 들어, 수학 주제를 시나 어린이를 위한 이야기로 설명하고 싶을 때요. 그런 것들은 꽤 인상적이었어요.
Wong: OpenAI에서는 o1이 "추론"할 수 있다고 말하지만, 당신은 그 모델을 "보통이지만 완전히 무능하지는 않은" 대학원생과 비교했습니다 .
타오: 그 초기 문구는 바이럴이 되었지만 오해를 받았습니다. 저는 이 도구가 대학원 과정의 모든 측면에서 대학원생과 동등하다고 말한 것이 아닙니다. 저는 이 도구를 연구 조수로 사용하는 데 관심이 있었습니다. 연구 프로젝트에는 지루한 단계가 많이 있습니다. 아이디어가 있고 계산을 구체화하고 싶을 수 있지만, 손으로 해야 하고 모든 것을 해결해야 합니다.
왕: 그러니까 보통이거나 무능한 연구 보조원인 셈이군요.
타오: 맞아요, 그런 종류의 조수 역할을 하는 측면에서는 동등하죠. 하지만 저는 챗봇과 대화를 통해 연구를 하는 미래를 상상합니다. 예를 들어, 아이디어가 있고 챗봇이 그것을 따라가서 모든 세부 정보를 채워 넣는다고 합시다.
다른 분야에서는 이미 일어나고 있습니다. AI는 수년 전에 체스를 정복한 것으로 유명하지만, 체스는 오늘날에도 여전히 번창하고 있습니다. 이제 상당히 뛰어난 체스 플레이어가 어떤 상황에서 어떤 움직임이 좋은지 추측할 수 있고, 체스 엔진을 사용하여 20개의 움직임을 미리 확인할 수 있기 때문입니다. 저는 이런 일이 결국 수학에서 일어날 수 있다고 봅니다. 프로젝트가 있고 "이 방법을 시도해 보면 어떨까요?"라고 묻습니다. 실제로 작동하도록 하기 위해 몇 시간이고 시간을 보내는 대신, GPT가 대신 하도록 안내합니다.
o1을 사용하면 이런 식으로 할 수 있습니다. 제가 해결할 수 있는 문제를 주고 모델을 안내하려고 했습니다. 먼저 힌트를 주었는데, 힌트를 무시하고 다른 작업을 했는데, 작동하지 않았습니다. 제가 설명하자 사과하고 "좋아요, 당신 방식대로 할게요."라고 했습니다. 그러고 나서 제 지시를 꽤 잘 수행했지만, 다시 막혀서 다시 수정해야 했습니다. 모델은 가장 영리한 단계를 결코 알아내지 못했습니다. 일상적인 일은 다 할 수 있었지만, 상상력이 전혀 없었습니다.
대학원생과 AI의 주요 차이점 중 하나는 대학원생이 학습한다는 것입니다. AI에게 접근 방식이 작동하지 않는다고 말하면, AI는 사과하고, 일시적으로 방향을 바로잡을 수 있지만, 때로는 그저 이전에 시도했던 것으로 되돌아갑니다. 그리고 AI와 새로운 세션을 시작하면, 원점으로 돌아갑니다. 저는 대학원생에게 훨씬 더 인내심을 갖는데, 대학원생이 과제를 완전히 해결하지 못하더라도 배우고 스스로를 바로잡을 잠재력이 있다는 것을 알고 있기 때문입니다.
Wong: OpenAI의 설명에 따르면 o1은 자신의 실수를 인식할 수 있지만, 그것이 지속적인 학습과는 다르다는 말씀이시군요. 지속적인 학습은 실제로 실수를 인간에게 유용하게 만드는 것입니다.
타오: 네, 인간은 성장합니다. 이 모델은 정적입니다. 제가 GPT-4에 제공한 피드백은 GPT-5의 훈련 데이터의 0.00001%로 사용될 수 있습니다. 하지만 학생의 경우와는 다릅니다.
AI와 인간은 학습하고 문제를 해결하는 방식에 대해 매우 다른 모델을 가지고 있습니다. 저는 AI를 작업을 수행하는 보완적인 방법으로 생각하는 것이 더 낫다고 생각합니다. 많은 작업의 경우 AI와 인간이 서로 다른 일을 하는 것이 가장 유망할 것입니다.
Wong: 당신은 이전에 컴퓨터 프로그램이 수학을 변형하고 인간이 서로 협업하기 쉽게 만들 수 있다고도 말했습니다. 어떻게 그럴 수 있을까요? 그리고 생성 AI가 여기에 기여할 것이 있나요?
타오: 기술적으로 AI로 분류되지는 않지만, 증명 보조자는 수학적 논증이 옳은지 아닌지 확인하는 유용한 컴퓨터 도구입니다. 수학에서 대규모 협업을 가능하게 합니다. 아주 최근에 등장한 것입니다.
수학은 매우 취약할 수 있습니다. 증명의 한 단계가 잘못되면 전체 주장이 무너질 수 있습니다. 100명과 협업 프로젝트를 만들면 증명을 100개 조각으로 나누고 모두가 하나씩 기여합니다. 하지만 서로 협력하지 않으면 조각이 제대로 맞지 않을 수 있습니다. 이 때문에 단일 프로젝트에 5명 이상이 참여하는 것을 보는 것은 매우 드뭅니다.
증명 보조원이 있으면 함께 일하는 사람들을 믿을 필요가 없습니다. 프로그램이 100% 보장을 제공하기 때문입니다. 그러면 지금은 실제로 존재하지 않는 공장 생산 유형의 산업적 규모의 수학을 할 수 있습니다. 한 사람은 현대 공급망과 같이 특정 유형의 결과만 증명하는 데 집중합니다.
문제는 이 프로그램이 매우 까다롭다는 것입니다. 전문 언어로 주장을 작성해야 합니다. 영어로만 작성할 수는 없습니다. AI는 인간 언어에서 프로그램으로 일부 번역을 할 수 있습니다. 한 언어에서 다른 언어로 번역하는 것은 대규모 언어 모델이 수행하도록 설계된 것과 거의 같습니다. 꿈은 챗봇과 대화를 나누며 증명을 설명하고, 챗봇이 진행하면서 증명 시스템 언어로 변환하는 것입니다.
Wong: 그렇다면 챗봇은 지식이나 아이디어의 원천이 아니라, 인터페이스를 제공하는 방법인 건가요?
타오: 그렇죠. 정말 유용한 접착제가 될 수 있을 것 같아요.
Wong: 이것이 어떤 종류의 문제를 해결하는 데 도움이 될 수 있을까요?
타오: 수학의 고전적 아이디어는 정말 어려운 문제를 하나 골라서, 7년 동안 다락방에 갇힌 한두 사람을 두드려 패는 것입니다. AI로 공격하려는 문제 유형은 그 반대입니다. 순진하게 AI를 사용하는 방법은 수학에서 가장 어려운 문제를 제공하는 것입니다. 그렇게 하면 크게 성공할 것 같지 않고, 또한 이미 그런 문제를 다루는 사람들이 있습니다.
제가 가장 관심 있는 수학은 실제로 존재하지 않는 수학입니다. 며칠 전에 시작한 프로젝트는 보편 대수라는 수학 분야에 관한 것으로, 특정 수학적 진술이나 방정식이 다른 진술이 참임을 암시하는지에 관한 것입니다. 사람들이 과거에 이를 연구한 방식은 하나 또는 두 개의 방정식을 골라서 죽을 때까지 연구하는 것이었습니다. 장인이 한 번에 하나의 장난감을 만든 다음 다음 장난감을 만드는 방식과 같습니다. 지금은 공장이 있어서 한 번에 수천 개의 장난감을 생산할 수 있습니다. 제 프로젝트에는 약 4,000개의 방정식이 있으며, 과제는 방정식 간의 연결을 찾는 것입니다. 각각은 비교적 쉽지만, 백만 가지의 의미가 있습니다. 약 10개의 빛점, 이 수천 개 중 상당히 잘 연구된 10개의 방정식이 있고, 그런 다음 이 미지의 테라 인코그니타가 있습니다.
유전학과 같이 이런 전환이 일어난 다른 분야도 있습니다. 예전에는 유기체의 유전체를 시퀀싱하려면 박사 학위 논문 전체를 써야 했습니다. 지금은 유전자 시퀀싱 기계가 있어서 유전학자들이 전체 집단을 시퀀싱하고 있습니다. 이런 방식으로 다양한 유형의 유전학을 할 수 있습니다. 전문가 인간이 좁은 범위의 문제에 매우 열심히 일하는 좁고 심오한 수학 대신, AI의 많은 지원으로 더 얕지만 훨씬 더 큰 규모로 광범위하고 크라우드소싱된 문제를 해결할 수 있습니다. 그리고 수학적 통찰력을 얻는 매우 보완적인 방법이 될 수 있습니다.
Wong: 구글 딥마인드에서 만든 알파폴드라는 AI 프로그램이 단백질의 3차원 구조를 예측하는 방법을 알아낸 게 생각납니다. 오랫동안 이는 한 번에 하나의 단백질씩 예측해야 하는 일이었습니다.
타오: 맞아요. 하지만 그렇다고 해서 단백질 과학이 시대에 뒤떨어졌다는 건 아니에요. 공부하는 문제를 바꿔야 해요. 150년 전 수학자들의 주된 유용성은 편미분 방정식을 푸는 것이었습니다. 지금은 이 작업을 자동으로 해주는 컴퓨터 패키지가 있어요. 600년 전 수학자들은 항해에 필요한 사인과 코사인 표를 만들었지만, 지금은 컴퓨터로 몇 초 만에 생성할 수 있어요.
저는 인간이 이미 잘하는 일을 복제하는 데는 관심이 없습니다. 비효율적인 것 같습니다. 저는 최전선에서 인간과 AI가 항상 필요할 것이라고 생각합니다. 그들은 상호 보완적인 강점을 가지고 있습니다. AI는 수십억 개의 데이터를 하나의 좋은 답으로 변환하는 데 매우 능숙합니다. 인간은 10개의 관찰을 취하고 정말 영감을 받은 추측을 하는 데 능숙합니다.
전체 0