it's like something is very different now than how it felt 15, 20 years ago and so I wouldn't be surprised if we have something that resembles agi by the end of this decade.

15년, 20년 전의 느낌과는 지금의 무언가가 매우 다른 것 같습니다. 따라서 이번 10년이 끝날 때까지 AGI와 유사한 것이 있다고 해도 놀라지 않을 것입니다.

(32:06) I think I think the risk that we like paying too little attention to is probably the one around like as right now we're like we're going towards AGI but I think the next step is going to be super intelligence like these models are going to get really really smart and you know beyond the smartness smartness of humans

내 생각에 우리가 너무 관심을 기울이지 않는 위험은 아마도 지금 우리가 AGI를 향해 가고 있는 것과 같은 주변의 위험일 것이라고 생각합니다. 그러나 다음 단계는 이 모델들이 가고 있는 것처럼 초지능이 될 것이라고 생각합니다. 정말 정말 똑똑해지고 당신은 인간의 똑똑함을 넘어서는 것을 알게 됩니다

 

(34:47) we sort of have an definition at open a around AGI which is like autonomous systems a systems that can do economically valuable work at the level of humans and I I think we have a shot at doing that you know between before uh 2030.

우리는 자율 시스템과 같이 인간 수준에서 경제적으로 가치 있는 일을 할 수 있는 시스템인 AGI에 대한 정의를 내렸고, 2030년 이전에는 이를 실현할 수 있다고 생각합니다.

(36:36)

I think like 2030 is probably around the time where I imagine that we will start really seeing kind of the early signs of super intelligence.

내 생각에 2030년은 아마도 우리가 초지능의 초기 징후를 실제로 보기 시작할 때라고 생각합니다.

 

(45:22)

well I I still think the the thing I would go back to is like I I do think that we're now at the stage where we should be thinking more about the implications of super intelligence to be honest um and I I I don't I don't think this is like something that is just kind of generally accepted that we're going towards that it's sort of like people are now waking up to the fact that these models can do a lot of the things that that us humans can do but it's not quite there and feels like okay it can do all these things but probably won't be able to do XYZ and every time we had those XYZ things that well the models won't be able to do that like within short amount of time the models are able to do that and and and so I I think taking kind of super intelligence much more seriously I I do think that's like kind of I I I think this is one of those things where it it's definitely it it's not it's not something we that that everybody has aign on that this is something should take it seriously quite yet people have very different timelines and so on and I think we should we should be acting on a potentially much shorter timeline and do that um basically what if the timeline is much shorter and and have a plan for that

음 저는 여전히 제가 돌아가고 싶은 것은 우리가 이제 초 지능의 의미에 대해 더 많이 생각해야하는 단계에 있다고 생각합니다. 솔직히 말해서 음 그리고 저는 이것이 우리가 일반적으로 받아 들여지는 것과 같다고 생각하지 않습니다. 사람들이 이제이 모델이 우리 인간이 할 수있는 많은 일을 할 수 있다는 사실에 사람들이 깨어나고 있다는 사실을 깨닫는 것과 비슷하지만 아직 거기에 있지 않고이 모든 일을 할 수 있지만 아마도 XYZ를 할 수 없을 것 같고 우리가 그 XYZ를 잘 가질 때마다 모델은 짧은 시간 내에 모델이 그렇게 할 수있는 것처럼 그렇게 할 수 없을 것입니다. 그래서 저는 일종의 초 지능을 훨씬 더 진지하게 받아들이는 것이 일종의 나는 이것이 확실히 우리가 아닌 것 같은 것 중 하나라고 생각합니다. 모든 사람들이 이것이 진지하게 받아 들여야한다는 것에 동의하지만 사람들은 매우 다른 타임 라인 등을 가지고 있습니다. 그리고 저는 우리가 잠재적으로 훨씬 더 짧은 타임 라인에 따라 행동하고 기본적으로 타임 라인이 훨씬 더 짧으면 어떻게해야하고 그에 대한 계획을 세워야한다고 생각합니다.