"The issue that concerns me the most is just, like, I believe that society can adapt to almost any amount of change given a reasonable amount of time. But the tools that we and others are putting out into the world, if things keep going like we think they're going to, will require society to adapt at a rate that is more challenging. And it's the ethical implications of the rate of change that we're about to launch through that trouble me the most and it's very unclear what to do about that."

“제가 가장 우려하는 문제는 사회가 합리적인 시간이 주어지면 거의 모든 변화에 적응할 수 있다고 믿는다는 점입니다. 하지만 우리와 다른 사람들이 세상에 내놓는 도구들이 우리가 생각하는 대로 계속 진행된다면 사회는 더 어려운 속도로 적응해야 할 것입니다. 그리고 우리가 곧 출시할 변화의 속도에 대한 윤리적 함의가 저를 가장 괴롭히고 있으며, 이에 대해 어떻게 해야 할지 매우 불분명합니다.”

 

5년 단위의 놀라운 변화:
"I think if you could go back in time, not even very long, if you could go back in time, like, five years and show someone o1, they would be absolutely astonished. And most people they would say, 'There's no way that AI's going to do this in 2024.' And I think if you could fast forward another five years and we could show you what will happen in 2029, most people would say, 'Absolutely not, there's no way. Can't keep going like this.'"
이 발언은 5년마다 AI 기술이 사람들의 예상을 뛰어넘는 수준으로 발전할 것임을 시사합니다.

지속적인 지수적 성장:
"I think the important thing is not a definition of AGI or arguing about when it's going to come, but it is that we are on this exponential curve and every year from 2019 to a long time in the future is going to look like just breathtaking forward progress."
여기서 Altman은 2019년부터 먼 미래까지 매년 "숨막히는 진보"가 있을 것이라고 예측합니다.

급격한 기업 성장의 예:
"The day before ChatGPT launched, we were, like, this little research lab. And then a year later, we were, like, one of the larger technology companies."
이 예는 AI 기술의 발전이 얼마나 빠르게 산업과 기업을 변화시킬 수 있는지를 보여줍니다.

 

1. OpenAI의 최신 모델 'o1' (Strawberry) 출시:
- 복잡한 추론 능력을 가진 첫 번째 모델로 간주됨
- AIME 수학 경쟁에서 93%의 성과를 보임
- 이는 AGI(인공 일반 지능)로 가는 중요한 단계로 여겨짐

2. AI 발전 궤도:
- Altman은 AI 발전이 지속적인 지수 곡선을 따르고 있다고 믿음
- 매년 놀라운 진보가 있을 것으로 예상
- AGI는 갑작스러운 '사건'보다는 진화적 과정을 통해 발전할 것으로 예측

3. AI 안전성:
- 지금까지 기술적인 안전 작업을 잘 해왔다고 평가
- 앞으로 더 많은 과제가 있을 것으로 예상
- 특히 AI 에이전트의 안전한 사용에 대한 문제를 언급

4. AI의 영향:
- 교육, 과학, 의료 등 다양한 분야에서 큰 변화 예상
- 특히 교육 분야에서 AI의 잠재력을 높게 평가
- AI가 모든 곳에 스며들어 일상생활을 크게 변화시킬 것으로 예측

5. 에너지와 AI:
- 현재 미국: 1 테라와트 생산, 킬로와트시당 17-25센트
- 2050년 목표: 2 테라와트로 증가
- AI 발전을 위해 더 많은 저렴하고 깨끗한 에너지가 필요함을 강조

6. AI 관련 도전과제:
- 환각(hallucination) 문제: 시간이 지남에 따라 개선되고 있으나 여전히 과제로 남아있음
- 데이터 효율성: 향후 모델들은 더 적은 데이터로 학습할 수 있을 것으로 예상
- 윤리적 문제: AI로 인한 급격한 사회 변화에 따른 윤리적 도전을 가장 우려함

7. AI와 직업의 미래:
- 프로그래머의 역할이 크게 변할 것으로 예상
- 적응력, 회복력, 빠른 학습 능력이 중요해질 것

8. 규제와 정책:
- AI 발전을 위한 좋은 정책의 필요성 강조
- 규제는 좋은 정책의 한 요소일 뿐이라고 언급

9. OpenAI의 성장:
- ChatGPT 출시 이후 1년 만에 대규모 기술 회사로 성장
- 빠른 성장 과정에서 많은 도전과 학습이 있었음을 언급

10. 전반적인 전망:
- Altman은 현재의 기술 혁명이 인류 역사상 가장 흥미진진한 시기라고 믿음
- AI의 발전에 대해 매우 낙관적인 견해를 보임
- 동시에 급격한 변화로 인한 사회적 적응 문제를 우려함

AGI 언급

1. AGI의 정의:
- Altman은 AGI라는 용어가 사실상 의미가 없어졌다고 말합니다.
- 사람들마다 AGI에 대해 매우 다양한 정의를 가지고 있어 혼란스럽다고 지적합니다.

2. AGI에 대한 다양한 견해:
- 일부는 GPT-4를 AGI라고 부르지만, Altman은 이에 동의하지 않습니다.
- 어떤 이들은 AGI를 모호하게 정의하며 항상 "몇 년 후"에 올 것이라고 말합니다.
- 또 다른 이들은 AGI를 "정당한 재귀적 자기 개선 초지능"으로 정의합니다.

3. AGI 대신의 프레임워크:
- Altman은 "레벨" 프레임워크를 선호합니다.
- 이 프레임워크는 AI 발전의 이정표를 더 명확하게 정의하고 논의할 수 있게 해줍니다.

4. AGI로의 진전:
- Altman은 우리가 AGI로 가는 길에 있다고 믿습니다.
- 그러나 이는 갑작스러운 사건이 아닌 장기적인 지수 곡선의 일부로 봅니다.

5. 현재 AI의 위치:
- 'o1' (Strawberry) 모델은 AGI로 가는 중요한 단계로 간주됩니다.
- 이는 첫 번째 "진정한 범용 복잡 추론기"로 설명됩니다.

6. 미래 전망:
- Altman은 5년 전의 사람들이 현재의 AI 능력을 보면 놀랄 것이라고 말합니다.
- 마찬가지로, 5년 후의 AI 능력도 현재의 우리를 놀라게 할 것으로 예상합니다.

7. AGI의 발전 과정:
- Altman은 AGI가 연속적으로 발전할 것이라고 믿습니다.
- 그러나 이 "연속성"은 지수적 성장의 맥락에서 이해해야 합니다.

8. AGI 연구의 중요성:
- AGI가 OpenAI의 모든 연구원들을 합친 것보다 더 나은 AI 연구를 할 수 있게 되는 시점이 중요한 이정표가 될 것이라고 언급합니다.

9. AGI와 사회적 영향:
- Altman은 AGI로 인한 급격한 변화가 사회에 미칠 영향을 우려합니다.
- 사회가 이러한 변화에 적응할 시간이 충분할지에 대해 걱정합니다.

10. AGI에 대한 Altman의 전반적인 태도:
- AGI의 정확한 정의나 도래 시점보다는, 지속적인 AI 발전의 중요성을 강조합니다.
- AGI를 향한 진전을 긍정적으로 보면서도, 그 영향에 대해 신중한 태도를 취합니다.

AI 발전 속도

1. 지수적 성장:
- Altman은 AI 발전이 지수적 곡선을 따르고 있다고 강조합니다.
- 이는 발전 속도가 시간이 지남에 따라 더욱 가속화될 것임을 의미합니다.

2. 빠른 진보:
- 2019년부터 먼 미래까지 매년 "숨막히는 진보"가 있을 것으로 예상합니다.

3. 과거와 현재의 비교:
- 2022년의 GPT-3가 세계 최고의 모델이었던 때와 비교하면, 현재의 발전 속도는 매우 빠르다고 평가합니다.

4. 5년 단위의 놀라운 변화:
- 5년 전의 사람들이 현재의 AI 능력을 보면 "절대적으로 놀랄 것"이라고 말합니다.
- 마찬가지로, 5년 후의 AI 능력도 현재의 우리를 놀라게 할 것으로 예상합니다.

5. 기술적 돌파구:
- 'o1' (Strawberry) 모델과 같은 새로운 기술적 돌파구가 계속해서 나올 것으로 예측합니다.

6. 산업 변화의 속도:
- OpenAI가 1년 만에 작은 연구소에서 대형 기술 회사로 성장한 것을 예로 들며, 변화의 속도가 매우 빠를 수 있음을 시사합니다.

7. 문제 해결 속도:
- 환각(hallucination) 문제와 같은 AI의 주요 과제들이 "극적으로 더 나아지고 있다"고 언급합니다.

8. 사회적 적응 속도와의 불균형:
- AI 발전 속도가 매우 빨라 사회가 적응하기 어려울 수 있다는 우려를 표명합니다.

9. 비교 불가능한 속도:
- 현재의 AI 발전 속도를 전기의 발견이나 트랜지스터의 발명과 같은 역사적 사건에 비유합니다.

10. 지속적인 가속화:
- Altman은 AI 발전이 앞으로도 계속 가속화될 것이며, 이는 "무한한 가능성의 시대"를 열 것이라고 예측합니다.

"레벨" 시스템 언급

1. 5단계 AI 시스템:
- Altman은 OpenAI가 작업하려는 "5단계의 AI"가 있다고 언급했습니다.

2. 현재 수준:
- 첫 번째 단계는 지난 몇 년 동안 우리가 경험해 온 채팅 기반 모델입니다.

3. 두 번째 단계:
- 두 번째 단계는 추론에 관한 것입니다.
- 새로 출시된 'o1' (Strawberry) 모델이 이 두 번째 단계에 도달한 첫 번째 모델이라고 Altman은 평가합니다.

4. 향후 단계:
- Altman은 나머지 세 단계에 대해 구체적으로 언급하지 않았지만, 이 시스템이 AGI로 가는 길을 더 명확하게 정의하고 논의할 수 있게 해준다고 말했습니다.

5. 지속적 발전:
- 이 레벨 시스템은 AI가 연속적으로 발전하지만, 각 단계가 중요한 이정표가 될 수 있음을 시사합니다.

6. 레벨의 의미:
- 각 레벨은 AI 능력의 질적 변화를 나타내는 것으로 보입니다.

7. 미래 전망:
- Altman은 이 5단계 시스템이 완성되면 그것이 AGI에 가까워질 것임을 암시합니다.

기타 

1. AI와 에너지의 중요성:
- Altman은 미래의 두 가지 근본적인 상품으로 "에너지"와 "지능"을 언급했습니다.
- 그는 핵융합이 작동할 것이며, 지구상에서 가장 저렴한 에너지 형태가 될 것이라고 예측했습니다.

2. 20대 창업자들의 부활:
- Altman은 AI 혁명으로 인해 20대 창업자들이 다시 주목받게 될 것이라고 예측했습니다.
- 그는 젊은 세대가 ChatGPT와 같은 도구를 더 잘 사용한다고 언급했습니다.

3. 프로그래밍의 미래:
- 프로그래머의 역할이 크게 변할 것이지만, 여전히 중요할 것이라고 예측했습니다.
- 프로그래밍은 현재보다 훨씬 높은 수준에서 이루어질 것이라고 말했습니다.

4. AI의 인지 능력:
- Altman은 앞으로 모든 제품과 서비스가 인간보다 특정 인지 능력에서 더 스마트해질 것이라고 예측했습니다.

5. 과학적 진보:
- AI가 가장 큰 영향을 미칠 분야로 과학적 진보를 꼽았습니다.

6. 노벨상과 AI:
- AI가 노벨상을 받을 만한 업적을 이룰 가능성에 대해 언급했으며, 물리학 분야에서 가장 먼저 일어날 것으로 예측했습니다.

7. AI 에이전트:
- 'o1' 모델이 AI 에이전트 개발을 가능하게 할 것이라고 언급했습니다.
- 이는 장기적인 작업을 수행할 수 있는 AI 시스템의 개발을 의미합니다.

8. 미디어의 AI 보도:
- Altman은 미디어의 AI 보도가 "끔찍하다"고 평가했으며, 특히 '터미네이터' 로봇 이미지 사용을 비판했습니다.

9. 데이터 효율성:
- 향후 AI 모델들이 현재보다 훨씬 적은 양의 데이터로 학습할 수 있을 것이라고 예측했습니다.

10. 윤리적 도전:
- AI로 인한 급격한 사회 변화의 속도가 가장 큰 윤리적 도전이 될 것이라고 언급했습니다.

이러한 언급들은 Altman의 AI에 대한 광범위한 비전과 예측을 보여줍니다.