ChatGPT 출시 이후의 변화와 미래 전망

• ChatGPT 출시는 AI에 대한 대중의 인식 전환점이 되었고, 투자, 자원 배분 등 업계 전반에 큰 변화를 가져왔다.

• 앞으로 몇천 일 안에 초지능(Superintelligence)이 등장할 가능성도 있으며, 2025년에는 회의론자조차 놀랄 만한 시스템이 등장할 것으로 예상한다. 특히 복잡한 업무를 인간처럼 수행하는 AI 에이전트가 중요해질 것이다.

• AI 발전 속도에 대한 우려도 있지만, 알트먼은 AI의 발전은 지속될 것이라고 확신하며, 오픈AI는 이번 연휴 기간에 새로운 기술과 데모를 공개할 예정이라고 밝혔다.

AI 개발의 핵심 요소 및 마이크로소프트와의 관계

• AI 개발의 핵심 요소는 컴퓨팅 파워, 데이터, 알고리즘이며, 이 세 가지 모두 중요하게 발전시켜야 한다. 알고리즘의 발전이 가장 큰 영향을 미치지만, 컴퓨팅 파워 없이는 다른 요소들도 의미가 없다.

• 마이크로소프트와의 협력 관계에 대해서는, 일부 갈등이 있음을 인정하지만 전반적으로는 매우 긍정적이며 앞으로도 협력을 지속할 것이라고 밝혔다. 장기적으로 오픈AI가 자체 컴퓨팅 파워를 보유해야 할 필요성은 크지 않다고 본다. 하지만 최고의 알고리즘과 데이터 확보를 위한 경쟁은 치열하게 진행될 것이다.

AI의 안전성 문제 및 정부의 역할

• AI의 안전성에 대한 우려에 대해서는, ChatGPT가 현재 사회적으로 용인 가능한 수준의 안전성을 갖추고 있으며, 지속적으로 개선 중이라고 강조했다. AI의 안전성 확보를 위해 기술적인 문제 해결에 많은 노력을 기울이고 있다고 밝혔다.

• 초지능 단계의 안전 문제 해결은 연구자들이 해결할 수 있을 것으로 믿지만, 사회적 영향에 대한 정책적, 국제적 공조가 필요하다는 점을 인정했다.

경쟁사 및 일론 머스크와의 관계

• xAI를 포함한 다른 AI 기업들과의 경쟁을 인지하고 있으며, 특히 xAI의 발전 속도에 주목하고 있다.

• 일론 머스크와는 개인적인 친분이 있었지만, 머스크가 오픈AI에 대한 신뢰를 잃고 소송을 제기한 것에 대해 매우 안타까워했다. 머스크가 정치적 영향력을 이용해 불공정 경쟁을 하지는 않을 것이라고 믿는다.

오픈AI의 비영리/영리 구조

• 오픈AI의 비영리 구조에 대해서는, 초기에는 제품 회사가 될 것이라고 예상하지 못했고 필요한 자본 규모도 예측하지 못했기 때문에 비영리 구조를 선택했다고 설명했다. 현재는 자본 조달을 위해 영리 구조로의 전환을 검토 중이지만, 비영리적인 목표는 유지할 것이라고 밝혔다. 개인적으로는 회사 지분에 큰 관심이 없다고 했다.

콘텐츠 제작자와의 관계 및 AI 시대의 자녀 양육

• 콘텐츠 제작자에 대한 보상 문제에 대해서는 새로운 계약, 기준, 프로토콜 등을 통해 해결해야 하며, 특히 저작권법과 공정 이용의 원칙은 유지되어야 한다고 주장했다. 콘텐츠 제작자에게 새로운 수익 모델을 제공하는 방안도 모색 중이며, 개인적으로는 마이크로 결제 방식에 관심이 있다고 밝혔다. 뉴욕타임즈와의 소송에 대해서는 뉴욕타임즈가 역사의 잘못된 편에 서 있다고 생각한다고 말했다.

• 곧 태어날 아이에게는 AI 시대에도 인간의 삶의 의미와 가치는 변하지 않을 것이라는 점을 강조할 것이라고 밝혔다. AI는 강력한 도구이지만, 인간의 삶에서 가장 중요한 것은 가족과 인간관계라는 점을 알려줄 것이다. 새로운 기술이 등장할 때마다 비슷한 논의가 있었지만, 인간의 본질적인 가치는 변하지 않았다는 점을 지적했다.

전반적으로 샘 알트먼은 AI의 급속한 발전과 그에 따른 사회적 변화를 예상하면서도, 인간의 삶의 가치와 중요성을 강조하는 메시지를 전달하고 있습니다. 또한, 기술 발전과 안전성 확보 사이의 균형을 맞추는 노력의 중요성을 강조하고, 콘텐츠 제작자를 포함한 다양한 이해관계자와의 공존을 모색하는 자세를 보이고 있습니다.

AI의 스케일링과 그 의미

• 샘 알트먼은 AI, 특히 언어 모델의 스케일링(규모 확장)이 AI 성능 향상에 핵심적인 역할을 한다고 여러 번 강조했습니다.

• 그는 과거 GPT-3 API 출시 당시에는 대중의 관심을 크게 받지 못했지만, ChatGPT 출시를 통해 언어 모델의 스케일링 법칙을 더 많은 사람들이 이해하게 되었다고 언급했습니다.

• 또한, AI의 스케일링 법칙이 둔화되고 있다는 일부 주장을 반박하며, "장벽은 없다(There is no wall)"라는 트윗을 통해 스케일링을 통한 AI 성능 향상이 지속될 것이라고 주장했습니다.

• 컴퓨팅 파워, 데이터, 알고리즘 중에서도 특히 컴퓨팅 파워의 스케일 확장이 중요하다고 강조했습니다. 컴퓨팅 파워가 충분하지 않으면 다른 두 요소가 아무리 좋아도 소용이 없다고 말했습니다. 마이크로소프트와의 파트너십을 통해 필요한 컴퓨팅 파워를 확보하고 있다는 점을 언급했습니다.

• xAI와 같은 경쟁사가 빠르게 데이터 센터를 구축하고 컴퓨팅 파워를 확보하는 것에 대해서도 주목하고 있다는 점을 통해, 스케일 경쟁이 AI 분야에서 얼마나 중요한지를 보여주었습니다.

즉, 샘 알트먼에게 스케일은 단순히 규모의 확장이 아니라 AI 성능 향상의 핵심 동력이며, 미래 초지능을 향한 경쟁에서 승리하기 위한 필수 요소라는 것을 알 수 있습니다. 이러한 맥락에서 오픈AI가 막대한 자본 조달을 필요로 하고, 영리 구조 전환을 고려하는 이유도 설명됩니다.

AGI(범용 인공지능)에 대한 샘 알트만의 생각

• AGI 도달 시점 및 중요성: 알트먼은 AGI에 도달하는 시점이 세상 사람들이 생각하는 것보다 빠를 수 있지만, 그 영향력은 생각보다 크지 않을 수 있다고 예상했습니다. AGI가 구축되더라도 세상이나 경제는 큰 변화 없이 서서히 발전할 것이라고 말했습니다. 그는 AGI를 초지능으로 가는 과정의 이정표로 보고 있으며, 진정한 변화는 AGI 이후의 초지능 단계에서 발생할 것이라고 예측했습니다.

• AGI와 초지능의 차이: 알트먼은 AGI와 초지능을 명확히 구분했습니다. AGI는 인간 수준의 지능을 가진 AI를 의미하며, 초지능은 인류 전체의 지능을 뛰어넘는 AI를 의미합니다. 그는 AGI 단계에서의 안전 문제는 크게 우려할 필요가 없지만, 초지능 단계에서는 안전 문제가 중요한 이슈가 될 것이라고 예상했습니다.

• AGI 도달 이후의 초지능: 알트먼은 AGI에서 초지능으로 발전하는 과정은 long continuous continuation(길고 지속적인 연속체)라고 표현했습니다. AGI는 초지능으로 가는 여정의 일부이며, 초지능 단계에 도달했을 때 비로소 사회에 혁명적인 변화가 일어날 것이고, 그때야말로 진정으로 걱정해야 할 시점이라고 강조했습니다.

• AGI 관련 정부의 역할: 초지능으로 인한 잠재적 위험을 통제하기 위해서는 정부의 역할이 중요하다고 언급했습니다. 기술적인 안전장치 개발과 더불어 정책적, 제도적 장치 마련, 더 나아가 국제적인 공조가 필요하다고 주장했습니다.

• 오픈AI의 AGI 접근 방식: 샘 알트만은 오픈AI의 반복적 배포(iterative deployment) 전략을 강조하며, 사회와 기술이 함께 발전해야 한다고 주장했습니다. AI 시스템을 실제 세상에 배포하고 사용자 피드백을 통해 개선해 나가는 과정이 안전한 AGI 개발에 필수적이라고 말했습니다.

• 일론 머스크와의 관계: 일론 머스크가 오픈AI를 떠난 이유 중 하나는 AGI에 대한 접근 방식의 차이였습니다. 머스크는 오픈AI가 AGI 개발 속도를 늦춰 안전 문제에 더 집중해야 한다고 생각했던 반면, 알트먼은 반복적 배포를 통해 안전성을 확보해 나가는 것이 더 효율적이라고 판단했습니다.

이처럼 샘 알트먼은 AGI에 대해 매우 구체적이고 낙관적인 전망을 제시하면서도, 초지능으로 넘어가는 과정에서 발생할 수 있는 위험을 인지하고 있으며, 기술 개발과 안전 문제 해결을 동시에 추진하는 것이 중요하다고 강조했습니다. 또한, 사회 전체가 AI의 발전 과정에 참여하고 함께 미래를 만들어가야 한다는 점을 시사했습니다.