뉴스/정보
샘 알트만 "세 가지 관찰"
작성자
작성일
2025-02-10 08:12
조회
359
https://blog.samaltman.com/three-observations
세 가지 관찰
우리의 사명은 AGI(인공 일반 지능)가 인류 전체에 혜택을 주도록 하는 것입니다.
AGI*를 암시하는 시스템들이 모습을 드러내기 시작하고 있으며, 그렇기 때문에 지금 이 순간을 이해하는 것이 중요하다고 생각합니다. AGI는 모호하게 정의된 용어이지만, 일반적으로 여러 분야에서 인간 수준의 복잡한 문제들을 점점 더 해결할 수 있는 시스템을 의미합니다.
사람들은 도구를 만드는 존재로서 본능적으로 이해하고 창조하려는 욕구를 가지고 있으며, 이는 우리 모두를 위해 세상을 개선하는 방향으로 이어집니다. 새로운 세대는 이전 세대의 발견 위에 더 강력한 도구들—전기, 트랜지스터, 컴퓨터, 인터넷, 그리고 곧 AGI—을 쌓아 올립니다.
세월이 흐르면서, 여기저기서 이루어지는 인간의 혁신은 과거에는 상상할 수 없던 수준의 번영과 삶의 거의 모든 측면에 개선을 가져왔습니다.
어떤 면에서는 AGI가 우리 모두가 함께 쌓아 올리는 인류 발전의 끊임없이 높아지는 비계 위의 또 다른 도구에 불과합니다. 또 다른 면에서는 “이번에는 다르다”라고 말하지 않을 수 없는 무언가의 시작입니다. 우리 앞에 놓인 경제 성장 전망은 놀라울 정도로 커 보이며, 이제 우리는 모든 질병을 치료하고 가족과 함께 보내는 시간이 많아지며, 우리의 창의적 잠재력을 온전히 발휘할 수 있는 세상을 상상할 수 있습니다.
10년 후에는 지구상의 모든 사람이 오늘날 가장 영향력 있는 인물보다 더 많은 일을 해낼 수 있을지도 모릅니다.
우리는 AI 개발에서 빠른 진전을 계속 보고 있습니다. 여기 AI 경제에 관한 세 가지 관찰이 있습니다:
1. AI 모델의 지능은 대략 그 모델을 훈련하고 실행하는 데 사용된 자원의 로그에 비례한다.
이러한 자원은 주로 훈련 컴퓨트, 데이터, 그리고 추론 컴퓨트로 구성됩니다. 임의의 금액을 지출해도 지속적이고 예측 가능한 이익을 얻을 수 있는 것으로 보이며, 이를 예측하는 스케일링 법칙은 수많은 규모에서 정확하게 들어맞습니다.
2. 주어진 수준의 AI를 사용하는 비용은 매 12개월마다 약 10배씩 하락하며, 낮은 가격은 훨씬 더 많은 사용을 이끕니다.
이는 2023년 초의 GPT-4에서 2024년 중반의 GPT-4o까지 토큰당 비용이 약 150배나 떨어진 것을 보면 알 수 있습니다. 무어의 법칙이 18개월마다 2배씩 세상을 바꿨다면, 이는 상상을 초월할 정도로 강력합니다.
3. 선형적으로 증가하는 지능의 사회경제적 가치는 초지수적(super-exponential)입니다.
그 결과, 단기적으로 지수적으로 증가하는 투자 중단의 이유를 찾기 어렵게 만듭니다.
이 세 가지 관찰이 계속 유효하다면, 사회에 미치는 영향은 상당할 것입니다.
우리는 지금 AI 에이전트의 출시를 시작하고 있으며, 이들은 결국 가상 동료처럼 느껴지게 될 것입니다.
예를 들어, 소프트웨어 엔지니어링 에이전트를 상상해봅시다. 이 에이전트는 우리가 특히 중요하게 여길 것으로 예상되는 존재입니다. 이 에이전트는 결국 몇 년의 경력을 가진 최고 기업의 소프트웨어 엔지니어가 며칠에 걸친 과제를 수행할 수 있는 대부분의 일을 해낼 수 있게 될 것입니다. 가장 혁신적인 아이디어를 내지는 못할 것이고, 많은 인간의 감독과 지시가 필요하며, 어떤 면에서는 뛰어나지만 놀랍도록 부족한 부분도 있을 것입니다.
그럼에도 불구하고, 이를 실제지만 상대적으로 주니어한 가상 동료라고 상상해보십시오. 이제 그러한 에이전트가 1,000명, 혹은 100만 명 있다고 상상해보십시오. 그리고 이러한 에이전트가 모든 지식 노동 분야에 있다고 상상해보십시오.
어떤 면에서는 AI가 경제적으로 트랜지스터와 비슷하게 작용할 수도 있습니다. 트랜지스터는 규모 확장이 잘 되고 경제의 거의 모든 구석에 스며든 거대한 과학적 발견이었습니다. 우리는 트랜지스터나 트랜지스터 회사를 크게 의식하지 않지만, 그로 인한 이익은 매우 널리 분포되어 있습니다. 하지만 우리는 우리의 컴퓨터, TV, 자동차, 장난감 등이 기적을 보여줄 것으로 기대합니다.
세상은 한 번에 모두 바뀌지 않을 것입니다; 실제로 그런 경우는 없습니다. 단기적으로는 삶이 거의 그대로 유지되며, 2025년의 사람들은 2024년과 거의 같은 방식으로 시간을 보낼 것입니다. 우리는 여전히 사랑에 빠지고, 가족을 이루며, 온라인에서 다투고, 자연 속에서 하이킹을 즐길 것입니다.
그러나 미래는 무시할 수 없을 정도로 우리에게 다가올 것이며, 사회와 경제에 미치는 장기적인 변화는 거대할 것입니다. 우리는 새로운 일을 찾아내고, 서로에게 유용할 새로운 방법을 발견하며, 경쟁하는 새로운 방식을 개발하겠지만, 이는 오늘날의 직업과 크게 다르지 않을 수도 있습니다.
자율성, 의지, 그리고 결단력은 매우 귀중한 자산이 될 것입니다. 무엇을 해야 할지 올바르게 결정하고, 끊임없이 변화하는 세상에서 어떻게 나아갈지를 파악하는 것은 엄청난 가치를 지니며, 회복탄력성과 적응력은 길러야 할 중요한 기술이 될 것입니다. AGI는 인류 의지에 미치는 가장 큰 지렛대 역할을 할 것이며, 개인들이 이전보다 훨씬 더 큰 영향을 미칠 수 있도록 할 것입니다.
우리는 AGI의 영향이 고르게 나타나지 않을 것으로 예상합니다. 일부 산업은 거의 변화하지 않을 수 있지만, 과학적 진보는 오늘날보다 훨씬 빨라질 가능성이 있으며, AGI의 이러한 영향은 다른 모든 것을 능가할 수도 있습니다.
많은 상품의 가격은 결국 극적으로 하락할 것입니다(현재 지능과 에너지 비용이 많은 것을 제한하고 있음). 반면, 사치품과 토지와 같이 본질적으로 한정된 몇몇 자원의 가격은 훨씬 더 급등할 수 있습니다.
기술적으로 말하면, 우리 앞의 길은 꽤 명확해 보입니다. 그러나 AGI를 사회에 통합하는 방식에 대한 공공 정책과 집단적 의견은 매우 중요합니다. 우리가 제품을 조기에 그리고 자주 출시하는 이유 중 하나는 사회와 기술이 함께 진화할 수 있는 시간을 마련하기 위함입니다.
AI는 경제와 사회의 모든 영역에 스며들 것입니다; 우리는 모든 것이 스마트해질 것으로 기대할 것입니다. 역사적으로 기술에 대한 통제력을 강화해 왔던 것보다, 앞으로는 사람들에게 기술에 대한 더 많은 통제권을 부여해야 할 필요가 있을 것이며, 이는 오픈 소스화를 포함한 여러 방식을 의미할 수 있습니다. 또한 안전과 개인의 자율성 사이에는 균형이 존재하며, 이 균형을 맞추기 위해서는 타협이 필요함을 받아들여야 합니다.
우리는 결코 경솔해지고 싶지 않으며, AGI 안전과 관련된 주요 결정과 제한들이 인기를 끌지 못할 가능성이 있음에도 불구하고, AGI에 점점 더 가까워질수록 개인의 자율성을 중시하는 방향으로 나아가는 것이 중요하다고 믿습니다. 그렇지 않으면 또 다른 가능성은 권위주의 정부가 AI를 이용해 대규모 감시와 자율성 상실을 통해 인구를 통제하는 길일 것입니다.
AGI의 혜택이 널리 분배되도록 하는 것은 매우 중요합니다. 기술 발전의 역사적 영향은 우리가 중요하게 여기는 대부분의 지표들(건강 결과, 경제적 번영 등)이 장기적으로 평균적으로 개선된다는 것을 시사하지만, 평등의 증가는 기술적으로 결정되는 문제가 아니며, 이를 올바르게 달성하기 위해서는 새로운 아이디어가 필요할 수도 있습니다.
특히, 자본과 노동 간의 힘의 균형이 쉽게 무너질 수 있을 것 같으며, 이는 조기 개입을 요구할 수도 있습니다. 우리는 지구상의 모든 사람이 많은 AI를 사용할 수 있도록 일정 “컴퓨트 예산”을 제공하는 것과 같은 다소 기괴하게 들리는 아이디어에도 열려 있으며, 동시에 지능의 비용을 끊임없이 낮추는 것만으로도 원하는 효과를 얻을 수 있는 여러 방안을 볼 수 있습니다.
2035년의 누구라도 2025년의 모든 사람에 해당하는 지적 역량을 발휘할 수 있어야 합니다; 모든 사람은 자신이 상상할 수 있는 한계 없는 천재성을 활용할 수 있어야 합니다. 현재 충분한 자원을 얻지 못해 온전히 발휘되지 못한 많은 재능이 있으며, 만약 우리가 이 상황을 바꾼다면, 그 결과로 나타날 세계의 창의적 산출물은 우리 모두에게 엄청난 혜택을 가져다 줄 것입니다.
특히 이 초안을 검토해 준 Josh Achiam, Boaz Barak, 그리고 Aleksander Madry에게 감사를 드립니다.
*여기서 AGI라는 용어를 사용하는 것은 명확하게 소통하기 위함이며, Microsoft와의 관계를 정의하는 과정이나 정의를 변경하거나 해석할 의도는 없습니다. 우리는 장기적으로 Microsoft와 협력할 것이라고 확신합니다. 이 각주는 다소 어리석게 보일 수 있지만, 일부 언론인들이 어리석은 내용을 작성하여 클릭을 유도하려 할 것을 미리 예상하는 차원에서 기재하는 것입니다.
세 가지 관찰
우리의 사명은 AGI(인공 일반 지능)가 인류 전체에 혜택을 주도록 하는 것입니다.
AGI*를 암시하는 시스템들이 모습을 드러내기 시작하고 있으며, 그렇기 때문에 지금 이 순간을 이해하는 것이 중요하다고 생각합니다. AGI는 모호하게 정의된 용어이지만, 일반적으로 여러 분야에서 인간 수준의 복잡한 문제들을 점점 더 해결할 수 있는 시스템을 의미합니다.
사람들은 도구를 만드는 존재로서 본능적으로 이해하고 창조하려는 욕구를 가지고 있으며, 이는 우리 모두를 위해 세상을 개선하는 방향으로 이어집니다. 새로운 세대는 이전 세대의 발견 위에 더 강력한 도구들—전기, 트랜지스터, 컴퓨터, 인터넷, 그리고 곧 AGI—을 쌓아 올립니다.
세월이 흐르면서, 여기저기서 이루어지는 인간의 혁신은 과거에는 상상할 수 없던 수준의 번영과 삶의 거의 모든 측면에 개선을 가져왔습니다.
어떤 면에서는 AGI가 우리 모두가 함께 쌓아 올리는 인류 발전의 끊임없이 높아지는 비계 위의 또 다른 도구에 불과합니다. 또 다른 면에서는 “이번에는 다르다”라고 말하지 않을 수 없는 무언가의 시작입니다. 우리 앞에 놓인 경제 성장 전망은 놀라울 정도로 커 보이며, 이제 우리는 모든 질병을 치료하고 가족과 함께 보내는 시간이 많아지며, 우리의 창의적 잠재력을 온전히 발휘할 수 있는 세상을 상상할 수 있습니다.
10년 후에는 지구상의 모든 사람이 오늘날 가장 영향력 있는 인물보다 더 많은 일을 해낼 수 있을지도 모릅니다.
우리는 AI 개발에서 빠른 진전을 계속 보고 있습니다. 여기 AI 경제에 관한 세 가지 관찰이 있습니다:
1. AI 모델의 지능은 대략 그 모델을 훈련하고 실행하는 데 사용된 자원의 로그에 비례한다.
이러한 자원은 주로 훈련 컴퓨트, 데이터, 그리고 추론 컴퓨트로 구성됩니다. 임의의 금액을 지출해도 지속적이고 예측 가능한 이익을 얻을 수 있는 것으로 보이며, 이를 예측하는 스케일링 법칙은 수많은 규모에서 정확하게 들어맞습니다.
2. 주어진 수준의 AI를 사용하는 비용은 매 12개월마다 약 10배씩 하락하며, 낮은 가격은 훨씬 더 많은 사용을 이끕니다.
이는 2023년 초의 GPT-4에서 2024년 중반의 GPT-4o까지 토큰당 비용이 약 150배나 떨어진 것을 보면 알 수 있습니다. 무어의 법칙이 18개월마다 2배씩 세상을 바꿨다면, 이는 상상을 초월할 정도로 강력합니다.
3. 선형적으로 증가하는 지능의 사회경제적 가치는 초지수적(super-exponential)입니다.
그 결과, 단기적으로 지수적으로 증가하는 투자 중단의 이유를 찾기 어렵게 만듭니다.
이 세 가지 관찰이 계속 유효하다면, 사회에 미치는 영향은 상당할 것입니다.
우리는 지금 AI 에이전트의 출시를 시작하고 있으며, 이들은 결국 가상 동료처럼 느껴지게 될 것입니다.
예를 들어, 소프트웨어 엔지니어링 에이전트를 상상해봅시다. 이 에이전트는 우리가 특히 중요하게 여길 것으로 예상되는 존재입니다. 이 에이전트는 결국 몇 년의 경력을 가진 최고 기업의 소프트웨어 엔지니어가 며칠에 걸친 과제를 수행할 수 있는 대부분의 일을 해낼 수 있게 될 것입니다. 가장 혁신적인 아이디어를 내지는 못할 것이고, 많은 인간의 감독과 지시가 필요하며, 어떤 면에서는 뛰어나지만 놀랍도록 부족한 부분도 있을 것입니다.
그럼에도 불구하고, 이를 실제지만 상대적으로 주니어한 가상 동료라고 상상해보십시오. 이제 그러한 에이전트가 1,000명, 혹은 100만 명 있다고 상상해보십시오. 그리고 이러한 에이전트가 모든 지식 노동 분야에 있다고 상상해보십시오.
어떤 면에서는 AI가 경제적으로 트랜지스터와 비슷하게 작용할 수도 있습니다. 트랜지스터는 규모 확장이 잘 되고 경제의 거의 모든 구석에 스며든 거대한 과학적 발견이었습니다. 우리는 트랜지스터나 트랜지스터 회사를 크게 의식하지 않지만, 그로 인한 이익은 매우 널리 분포되어 있습니다. 하지만 우리는 우리의 컴퓨터, TV, 자동차, 장난감 등이 기적을 보여줄 것으로 기대합니다.
세상은 한 번에 모두 바뀌지 않을 것입니다; 실제로 그런 경우는 없습니다. 단기적으로는 삶이 거의 그대로 유지되며, 2025년의 사람들은 2024년과 거의 같은 방식으로 시간을 보낼 것입니다. 우리는 여전히 사랑에 빠지고, 가족을 이루며, 온라인에서 다투고, 자연 속에서 하이킹을 즐길 것입니다.
그러나 미래는 무시할 수 없을 정도로 우리에게 다가올 것이며, 사회와 경제에 미치는 장기적인 변화는 거대할 것입니다. 우리는 새로운 일을 찾아내고, 서로에게 유용할 새로운 방법을 발견하며, 경쟁하는 새로운 방식을 개발하겠지만, 이는 오늘날의 직업과 크게 다르지 않을 수도 있습니다.
자율성, 의지, 그리고 결단력은 매우 귀중한 자산이 될 것입니다. 무엇을 해야 할지 올바르게 결정하고, 끊임없이 변화하는 세상에서 어떻게 나아갈지를 파악하는 것은 엄청난 가치를 지니며, 회복탄력성과 적응력은 길러야 할 중요한 기술이 될 것입니다. AGI는 인류 의지에 미치는 가장 큰 지렛대 역할을 할 것이며, 개인들이 이전보다 훨씬 더 큰 영향을 미칠 수 있도록 할 것입니다.
우리는 AGI의 영향이 고르게 나타나지 않을 것으로 예상합니다. 일부 산업은 거의 변화하지 않을 수 있지만, 과학적 진보는 오늘날보다 훨씬 빨라질 가능성이 있으며, AGI의 이러한 영향은 다른 모든 것을 능가할 수도 있습니다.
많은 상품의 가격은 결국 극적으로 하락할 것입니다(현재 지능과 에너지 비용이 많은 것을 제한하고 있음). 반면, 사치품과 토지와 같이 본질적으로 한정된 몇몇 자원의 가격은 훨씬 더 급등할 수 있습니다.
기술적으로 말하면, 우리 앞의 길은 꽤 명확해 보입니다. 그러나 AGI를 사회에 통합하는 방식에 대한 공공 정책과 집단적 의견은 매우 중요합니다. 우리가 제품을 조기에 그리고 자주 출시하는 이유 중 하나는 사회와 기술이 함께 진화할 수 있는 시간을 마련하기 위함입니다.
AI는 경제와 사회의 모든 영역에 스며들 것입니다; 우리는 모든 것이 스마트해질 것으로 기대할 것입니다. 역사적으로 기술에 대한 통제력을 강화해 왔던 것보다, 앞으로는 사람들에게 기술에 대한 더 많은 통제권을 부여해야 할 필요가 있을 것이며, 이는 오픈 소스화를 포함한 여러 방식을 의미할 수 있습니다. 또한 안전과 개인의 자율성 사이에는 균형이 존재하며, 이 균형을 맞추기 위해서는 타협이 필요함을 받아들여야 합니다.
우리는 결코 경솔해지고 싶지 않으며, AGI 안전과 관련된 주요 결정과 제한들이 인기를 끌지 못할 가능성이 있음에도 불구하고, AGI에 점점 더 가까워질수록 개인의 자율성을 중시하는 방향으로 나아가는 것이 중요하다고 믿습니다. 그렇지 않으면 또 다른 가능성은 권위주의 정부가 AI를 이용해 대규모 감시와 자율성 상실을 통해 인구를 통제하는 길일 것입니다.
AGI의 혜택이 널리 분배되도록 하는 것은 매우 중요합니다. 기술 발전의 역사적 영향은 우리가 중요하게 여기는 대부분의 지표들(건강 결과, 경제적 번영 등)이 장기적으로 평균적으로 개선된다는 것을 시사하지만, 평등의 증가는 기술적으로 결정되는 문제가 아니며, 이를 올바르게 달성하기 위해서는 새로운 아이디어가 필요할 수도 있습니다.
특히, 자본과 노동 간의 힘의 균형이 쉽게 무너질 수 있을 것 같으며, 이는 조기 개입을 요구할 수도 있습니다. 우리는 지구상의 모든 사람이 많은 AI를 사용할 수 있도록 일정 “컴퓨트 예산”을 제공하는 것과 같은 다소 기괴하게 들리는 아이디어에도 열려 있으며, 동시에 지능의 비용을 끊임없이 낮추는 것만으로도 원하는 효과를 얻을 수 있는 여러 방안을 볼 수 있습니다.
2035년의 누구라도 2025년의 모든 사람에 해당하는 지적 역량을 발휘할 수 있어야 합니다; 모든 사람은 자신이 상상할 수 있는 한계 없는 천재성을 활용할 수 있어야 합니다. 현재 충분한 자원을 얻지 못해 온전히 발휘되지 못한 많은 재능이 있으며, 만약 우리가 이 상황을 바꾼다면, 그 결과로 나타날 세계의 창의적 산출물은 우리 모두에게 엄청난 혜택을 가져다 줄 것입니다.
특히 이 초안을 검토해 준 Josh Achiam, Boaz Barak, 그리고 Aleksander Madry에게 감사를 드립니다.
*여기서 AGI라는 용어를 사용하는 것은 명확하게 소통하기 위함이며, Microsoft와의 관계를 정의하는 과정이나 정의를 변경하거나 해석할 의도는 없습니다. 우리는 장기적으로 Microsoft와 협력할 것이라고 확신합니다. 이 각주는 다소 어리석게 보일 수 있지만, 일부 언론인들이 어리석은 내용을 작성하여 클릭을 유도하려 할 것을 미리 예상하는 차원에서 기재하는 것입니다.
전체 0