1. AI 발전 타임라인:
- Hoffman은 구체적인 AGI 타임라인을 언급하지 않았지만, 현재 AI 발전 속도가 매우 빠르다고 말했습니다.
- 그는 실리콘 밸리와 런던이 AI 개발에서 약 2년 정도 앞서 있다고 평가했습니다.
- 프랑스가 빠르게 따라잡고 있으며, 폴란드도 잠재력이 있다고 언급했습니다.

2. AI의 미래:
- Hoffman은 AI가 인간의 능력을 증폭시키는 도구가 될 것이라고 전망했습니다.
- 그는 모든 사람이 스마트폰과 같은 기기를 통해 개인용 AI 지능(Pi)을 갖게 될 것이라고 예측했습니다.

3. AI 안전성:
- Hoffman은 AI 위험에 대한 과도한 우려보다는 AI의 긍정적인 측면에 초점을 맞추어야 한다고 주장했습니다.
- 그는 AI의 가장 큰 위험은 나쁜 의도를 가진 인간의 손에 들어갈 때라고 강조했습니다.

4. AI 개발 경쟁:
- 미국, 유럽, 중국 간의 AI 개발 경쟁을 언급했습니다.
- 중국이 기술적 재능과 규제 측면에서 이점이 있지만, 현재 미국과 유럽이 약 2년 정도 앞서 있다고 평가했습니다.

5. 글로벌 AI 발전:
- 개발도상국을 포함한 전 세계가 AI 혜택을 받을 수 있도록 해야 한다고 강조했습니다.
- 의료 AI 등을 통해 개발도상국에도 혜택이 돌아갈 수 있는 방안을 모색해야 한다고 말했습니다.

OpenAI 이사회에 대한 언급

1. 이사회 경험: Hoffman은 OpenAI 이사회의 초기 멤버였습니다. 그는 이 경험을 통해 AI 기업의 이사회 운영에 대한 통찰을 얻었다고 말했습니다.

2. 2023년 11월 사건: OpenAI의 CEO인 Sam Altman이 해임되었다가 며칠 후 복귀한 사건에 대해 언급했습니다. Hoffman은 이 과정이 매우 부적절하게 진행되었다고 비판했습니다.

3. 이사회의 결정: Hoffman은 당시 이사회의 결정이 "무능한" 것이었다고 평가했습니다. 그는 이사회가 Sam Altman을 해임하기 전에 더 신중하고 체계적인 접근을 했어야 한다고 주장했습니다.

4. 이사회 구성원과의 대화: Hoffman은 아직 당시 이사회 구성원들과 대화를 나누지 않았지만, 향후 그들의 생각을 들어볼 계획이라고 말했습니다.

5. 새로운 이사회: 현재의 새로운 OpenAI 이사회에 대해 긍정적으로 평가했습니다.

6. 이사회 운영의 중요성: Hoffman은 이 사건을 통해 AI 기업의 이사회 운영이 얼마나 중요한지를 강조했습니다. 그는 이사회가 CEO를 평가하고, 필요한 경우 해임할 수 있는 능력이 중요하다고 말했습니다.

이러한 언급을 통해 Hoffman은 AI 기업의 거버넌스와 이사회의 역할이 AI 발전에 중요한 영향을 미친다는 점을 강조했습니다.

 

AI 발전 속도

1. GPT 모델의 발전: Hoffman은 OpenAI에서 GPT-2에서 GPT-3로의 발전을 목격했을 때, 그는 GPT-4까지의 발전 궤적을 예측할 수 있었다고 언급했습니다. 이는 AI 발전 속도가 매우 빠르고 예측 가능한 패턴을 따르고 있음을 시사합니다.

2. 급격한 변화: Hoffman은 AI가 지수함수적으로 발전하고 있지만, 이것이 반드시 특이점(singularity)으로 이어지는 것은 아니라고 주장했습니다. 그는 모든 지수 곡선이 결국 S자 곡선으로 변한다는 점을 강조했습니다.

3. 초인간적 능력: GPT-4가 이미 일부 영역에서 인간을 능가하는 '초능력'을 가지고 있으며, 이러한 능력들이 계속 증가할 것이라고 예측했습니다.

4. AGI에 대한 견해: Hoffman은 AGI(Artificial General Intelligence)를 "우리가 아직 발명하지 못한 AI"로 정의했습니다. 그는 GPT-4가 이미 광범위한 인간의 인지 작업을 성공적으로 수행할 수 있다는 점에서 일종의 AGI라고 볼 수 있지만, 대부분의 사람들이 생각하는 AGI의 정의는 아직 달성되지 않았다고 말했습니다.

5. 미래 전망: Hoffman은 AI가 계속 발전하여 더 많은 영역에서 인간을 능가할 것이라고 예측했지만, 이것이 곧바로 인간을 완전히 뛰어넘는 '초지능'으로 이어지지는 않을 것이라고 말했습니다.

이러한 언급들을 통해 Hoffman은 AI의 빠른 발전 속도를 인정하면서도, 그 발전이 반드시 예상대로 또는 두려워하는 방식으로 이루어지지 않을 수 있다는 균형 잡힌 시각을 제시했습니다.