영상 주요 내용:

앤트로픽의 CEO 다리오 아마데이와 딥마인드의 CEO 데미스 하사비스, 두 AI 업계 거물이 무대에서 만나 AI의 미래에 대해 이야기합니다. 사회자는 노벨상 수상자를 언급하며 AGI(인공 일반 지능)의 정의와 도달 시점에 대한 질문으로 대화를 시작합니다.

AGI 정의 및 도달 시점:

• 다리오 아마데이: AGI를 "노벨상 수상자 수준의 지능을 다양한 분야에서 발휘하고, 인간이 할 수 있는 모든 일을 원격으로 수행하며, 몇 분에서 몇 달까지 걸리는 작업을 처리할 수 있는 AI 모델"로 정의합니다. 그는 2026년 또는 2027년에 AGI가 등장할 것으로 예측합니다.

• 데미스 하사비스: AGI를 "인간이 가진 모든 인지 능력을 보여줄 수 있는 시스템"으로 정의하며, 2020년대 말 (5년 안에 50% 확률) 정도로 다리오보다 조금 더 늦은 시점을 예상합니다. 그는 현재 AI 시스템이 아인슈타인이 상대성 이론을 발명했을 때처럼 창의적인 사고를 하거나, 바둑처럼 아름다운 게임을 발명할 수 있는 수준은 아니라고 지적합니다.

AGI 도달 후 세계 변화 및 지정학적 우려:

• AGI가 등장하면 AI가 스스로 더 뛰어난 AI를 훈련시키는 임계점이 올 수 있으며, 이는 먼저 AGI를 개발하는 국가에게 압도적인 우위를 가져다 줄 수 있다는 우려를 제기합니다.

• 특히 권위주의 국가가 AI 기술을 선점할 경우, 민주주의 가치와 국제 질서가 위협받을 수 있다는 점을 강조합니다.

• 현재 국제 정세가 불안정하고 미국과 유럽 간 AI 규제에 대한 입장 차이가 있는 상황에서, AGI 개발 경쟁이 더욱 심화될 수 있다는 점을 우려합니다.

AI 규제 및 국제 협력 필요성:

• 데미스는 미국과 유럽의 규제 입장 사이에서 균형을 찾아야 한다고 주장합니다. AI의 엄청난 기회를 활용해야 하지만, 동시에 악용될 위험과 AGI 자체의 통제 불능 위험에 대비해야 한다고 강조합니다.

• 그는 CERN과 같은 국제적인 AGI 연구 협력체 또는 국제원자력기구(IAEA)와 유사한 AI 감시 기구 설립의 필요성을 언급하며, AI 거버넌스에 대한 국제적 논의와 협력이 시급하다고 주장합니다.

• 다리오 또한 AI 거버넌스 구조가 소수의 손에 맡겨져서는 안 되며, 더 많은 국가와 기관이 참여하는 견고한 거버넌스 구조를 만들어야 한다고 강조합니다.

AI 리더로서의 책임감과 불안감:

• 두 CEO 모두 AI 기술을 주도하는 리더로서 막대한 책임감을 느끼며, 마치 오펜하이머와 같은 상황에 놓일 수 있다는 불안감을 토로합니다.

• 다리오는 "거의 모든 결정이 칼날 위에 서 있는 것처럼 느껴진다"며, AI 개발 속도가 너무 느리면 권위주의 국가에 뒤쳐질 수 있고, 너무 빠르면 위험이 커질 수 있다는 딜레마를 설명합니다.

재앙 시나리오와 긍정적 미래:

• 데미스는 AI 위험에 대한 인식이 부족한 상황에서, 재앙과 같은 사건이 발생해야 국제적인 협력이 이루어질 수 있을까라는 우려를 표명합니다. 그는 AI가 바이오 무기 개발에 활용될 수 있는 위험을 실험적으로 보여주거나, AI의 자율성 및 통제 불능 위험을 연구해 왔다고 설명합니다.

• 하지만 두 CEO 모두 AI의 긍정적인 잠재력과 기회를 강조하며, 과학, 의학, 생산성 향상 등 다양한 분야에서 AI가 가져올 혁신을 기대합니다.

• 향후 1년 안에 에이전트 기반 시스템이 발전하고, AI가 AI 연구를 가속화하는 능력이 향상되는 것을 긍정적인 지표로 제시합니다.

결론:

영상은 AI 기술의 발전이 가져올 엄청난 기회와 동시에 심각한 위험을 경고하며, 국제적인 협력과 책임감 있는 거버넌스 구축의 중요성을 강조합니다. 두 AI 업계 리더는 미래에 대한 불안감과 책임감을 공유하면서도, AI가 인류에게 가져다 줄 긍정적인 미래를 향한 희망을 잃지 않고 있음을 보여줍니다.

영상 주요 내용:

• 원문: (00:00) this is the AI equivalent of having the Beetles and the Rolling Stones in the same place we have on stage now two of the handful of people who are going to build this future Dario amade co-founder and CEO of anthropic s Demis hassabis co-founder and CEO of Deep Mind and Nobel laurat let us start with where you are on timelines and definitions of AGI when we're at the point where we have a model AI model that can do everything a human can do you know at the level of a a Nobel Laurette like the one sitting next to me across across many fields um

AGI 정의 및 도달 시점:

• 다리오 아마데이: AGI를 "노벨상 수상자 수준의 지능을 다양한 분야에서 발휘하고, 인간이 할 수 있는 모든 일을 원격으로 수행하며, 몇 분에서 몇 달까지 걸리는 작업을 처리할 수 있는 AI 모델"로 정의합니다. 그는 2026년 또는 2027년에 AGI가 등장할 것으로 예측합니다.

  
  

  • 원문: (00:40) uh can do anything a human can do remotely can do tasks that take you know minutes hours days months my guess is that we'll get that in 2026 and or 2027

• 데미스 하사비스: AGI를 "인간이 가진 모든 인지 능력을 보여줄 수 있는 시스템"으로 정의하며, 2020년대 말 (5년 안에 50% 확률) 정도로 다리오보다 조금 더 늦은 시점을 예상합니다. 그는 현재 AI 시스템이 아인슈타인이 상대성 이론을 발명했을 때처럼 창의적인 사고를 하거나, 바둑처럼 아름다운 게임을 발명할 수 있는 수준은 아니라고 지적합니다.

  
  

  • 원문: (00:55) the way I would Define AGI is a system that's that can exhibit all the cognitive capabilities humans can and that's important because the the human mind is the only example maybe that we know of in the universe that is a ... (01:18) general intelligence of course how to test that is the big question the one I'm really looking for and why I think it's a little bit further out maybe 50% chance of in in 5 years time so maybe by the end of the decade I think we don't have systems yet that could have invented gen relativity uh when Einstein did with the information that he had available at the time or another example I give is can you invent a game like go not just play a great move like move 37 or build alha go that can beat the world champion Could you actually invent a

AGI 도달 후 세계 변화 및 지정학적 우려:

• AGI가 등장하면 AI가 스스로 더 뛰어난 AI를 훈련시키는 임계점이 올 수 있으며, 이는 먼저 AGI를 개발하는 국가에게 압도적인 우위를 가져다 줄 수 있다는 우려를 제기합니다.

  
  

  • 원문: (01:49) game that's as um beautiful aesthetically and and so on as go is so I think it's going to take a little bit longer to get that kind of capability how does the world change when you reach here and and so three subcomponents is this incremental capability enhancement or is there a kind of threshold moment when the AI are smart enough to train other genius level Ai and so whoever gets there first has an unassailable lead

• 특히 권위주의 국가가 AI 기술을 선점할 경우, 민주주의 가치와 국제 질서가 위협받을 수 있다는 점을 강조합니다.

  
  

  • 원문: (02:23) I worry in particular that authoritarian States if they got ahead in this could imperil everything that we hold dear and you know I've always wanted to make sure that that doesn't happen this is happening at the same time as we are in the midst of a massive geopolitical shock we have the United States under the new Administration tearing up all

• 현재 국제 정세가 불안정하고 미국과 유럽 간 AI 규제에 대한 입장 차이가 있는 상황에서, AGI 개발 경쟁이 더욱 심화될 수 있다는 점을 우려합니다.

  
  

  • 원문: (02:54) kinds of longstanding international Norms we had a very feisty speech from the vice president Vance uh yesterday how do you see the current the fact that in coming years we're going to be very soon getting to AGI at the same time as I think it's not controversial to say we don't have anything like a particularly Cooperative International environment

AI 규제 및 국제 협력 필요성:

• 데미스는 미국과 유럽의 규제 입장 사이에서 균형을 찾아야 한다고 주장합니다. AI의 엄청난 기회를 활용해야 하지만, 동시에 악용될 위험과 AGI 자체의 통제 불능 위험에 대비해야 한다고 강조합니다.

  
  

  • 원문: (05:26) somewhere in the middle of that um I think that we need to embrace the incredible opportunities that that AI is going to bring ... but we've also got to uh uh be aware of the of the of the risks the two big risks that I talk about are Bad actors repurposing this general purpose technology for harmful ends how do we enable the good actors and restrict access to the Bad actors and then secondly is the risk from AGI or gentic systems themselves um getting out control or not having the right values or the right goals and um both of those things are critical to get right

• 그는 CERN과 같은 국제적인 AGI 연구 협력체 또는 국제원자력기구(IAEA)와 유사한 AI 감시 기구 설립의 필요성을 언급하며, AI 거버넌스에 대한 국제적 논의와 협력이 시급하다고 주장합니다.

  
  

  • 원문: (03:57) CERN for AGI type setup where basically an international research collaboration on the last sort of few steps that we need to take towards building the first agis ... (07:00) I think that's why us and others are advocating for we probably need new institutions to be built to to help govern some of this you know I talked about CERN I think we need a a kind of equivalent of an iea atomic agency to monitor uh uh sensible projects and and and those that are more more risk-taking ... (07:20) ideally it would be something like the UN but given the geopolitical complexities that doesn't seem very possible so um you know I worry about all that all the time and we just try to do at least on our side everything we can in the vicinity and influence that we have

• 다리오 또한 AI 거버넌스 구조가 소수의 손에 맡겨져서는 안 되며, 더 많은 국가와 기관이 참여하는 견고한 거버넌스 구조를 만들어야 한다고 강조합니다.

  
  

  • 원문: (08:34) even within all those constraints I think we somehow have to find a way to build a more robust governing structure that doesn't doesn't put this in the hands of of just a few people

AI 리더로서의 책임감과 불안감:

• 두 CEO 모두 AI 기술을 주도하는 리더로서 막대한 책임감을 느끼며, 마치 오펜하이머와 같은 상황에 놓일 수 있다는 불안감을 토로합니다.

  
  

  • 원문: (06:27) Do you ever worry about ending up like Robert Oppenheimer look I I I worry about th that's those kinds ofos all the time that's why I don't s very much I mean there's a huge amount of responsibility on the people probably

• 다리오는 "거의 모든 결정이 칼날 위에 서 있는 것처럼 느껴진다"며, AI 개발 속도가 너무 느리면 권위주의 국가에 뒤쳐질 수 있고, 너무 빠르면 위험이 커질 수 있다는 딜레마를 설명합니다.

  
  

  • 원문: (07:35) my thoughts exactly ech odemis so so my feeling is that almost every decision that I make feels like it's kind of balanced on the edge of a knife like you know if we don't if we don't build fast enough then the authoritarian countries could win um if we build too fast then ... (08:03) the kinds of risks that that Demis is talking about and that we've written about a lot uh you know could could could uh uh could Prevail um and and you know either way I'll feel that that it was my fault that you know we didn't make exact we didn't make exactly the right decision

재앙 시나리오와 긍정적 미래:

• 데미스는 AI 위험에 대한 인식이 부족한 상황에서, 재앙과 같은 사건이 발생해야 국제적인 협력이 이루어질 수 있을까라는 우려를 표명합니다. 그는 AI가 바이오 무기 개발에 활용될 수 있는 위험을 실험적으로 보여주거나, AI의 자율성 및 통제 불능 위험을 연구해 왔다고 설명합니다.

  
  

  • 원문: (10:04) do you think we can avoid they having to be some kind of a disaster before minds of because let's think about the UN the UN was born in the aftermath of World War II it wasn't like people kind of got together they created the League of Nations after World War I and it didn't work so what should give us all hope that we will actually get together and create this until something happens that demands it if everyone wakes up one day and they learn that some terrible disaster has happened that's you know kill killed a ... (10:36) bunch of people or caused an enormous security incident you know that would be one way to do it obviously that's you know that's not what we want to happen ... (10:41) so you know we've worked on demonstrating some of these dangers in in the lab ... (10:52) we did some work on you know can AI systems you know gen generate information that you couldn't find on Google or in a textbook that could be could be you know useful for generating bioweapons right could a terrorist or a non-state actor use this we came to the conclusion yeah it's just ... (11:07) starting to be able to do that a little bit it's not really dangerous yet but each model gets better than than the model before and so every time we have a new model we test it we show it to the National Security people we say like hey you know this is the point we're at in terms of in terms of where the models are similarly we've done a lot of research showing this kind of AI autonomy loss of control risk

• 하지만 두 CEO 모두 AI의 긍정적인 잠재력과 기회를 강조하며, 과학, 의학, 생산성 향상 등 다양한 분야에서 AI가 가져올 혁신을 기대합니다.

  
  

  • 원문: (12:37) both of you are primarily focused on the tremendous opportunities and kind of world changing benefits so let's end with two very concrete things one one thing that we should all look for in the next year that suggests we are on the path that you're looking forward to and one positive thing that will come from it both of you ... (05:26) I think that we need to embrace the incredible opportunities that that AI is going to bring ... I'm especially passionate in in in in areas of science and medicine I think it's going to revolutionize those fields obviously our work on Alpha fold and other things I think that in the next decade for example most diseases might be curable with uh with the help of AI uh helping drug Discovery and I think it'll help with climate all these massive challenges so we got to embrace that and ... (05:52) economic benefits and productivity benefits and individual countries and regions need to do that

• 향후 1년 안에 에이전트 기반 시스템이 발전하고, AI가 AI 연구를 가속화하는 능력이 향상되는 것을 긍정적인 지표로 제시합니다.

  
  

  • 원문: (12:48) I mean I think in the next year we're going to see um agent based systems so systems that able to accomplish tasks uh sort of on their own uh achieve things for you act in the world uh come into their own and I think ... (13:46) I would I would look at uh uh code and AI models able to do AI research if we're getting to the point where by the end of this year we're increasing by 50% or even doubling the total Factor productivity of producing AI systems that that would be an indicator that the timelines I've indicated um uh were were on track for

결론:

영상은 AI 기술의 발전이 가져올 엄청난 기회와 동시에 심각한 위험을 경고하며, 국제적인 협력과 책임감 있는 거버넌스 구축의 중요성을 강조합니다. 두 AI 업계 리더는 미래에 대한 불안감과 책임감을 공유하면서도, AI가 인류에게 가져다 줄 긍정적인 미래를 향한 희망을 잃지 않고 있음을 보여줍니다.