자유게시판
지미 애플스가 2023년에 말한 2025년의 AGI 복습
작성자
작성일
2025-01-07 23:41
조회
528
https://cooing-iron-11a.notion.site/10-26Jimmy-Apples-bioshok-DM-387962a6fafa489bb22eca2ea0358fd1
Bioshok: 처음 뵙겠습니다.
일본에서 AI Alignment나 싱귤래리티에 관한 정보를 발신하고 있는 bioshok라고 합니다.
아마 답하기 어려우실 것 같지만, 궁금해서 DM을 드려 봤습니다.
만약 AGI가 내부적으로 달성되었다는 이야기가 사실이라면, 그 AGI는 어느 정도로 우수한 기능을 가지고 있을까요?
인간의 중앙값(중간 정도의 지능을 가진 인간)을 대체하는 수준인가, 아니면 인류의 거의 전부보다 똑똑한 AGI인지가 궁금합니다.
Jimmy Apples: 인간의 중앙값 정도입니다.
고용 상실은 생각하고 해결해야 할 큰 문제이며, 무서운 AI가 세계를 정복할 것이라는 이야기보다는 오히려 여기에 초점을 맞춰야 합니다.
내년에는 더 좋은 아이디어가 나올 것 같네요. 😉
Bioshok: 답장 감사합니다! 기쁩니다.
그렇군요, 그러면 AI Alignment는 그렇게까지 문제가 되지 않는다는 뜻인가요?
무언가 방식으로 해결된 것인지, 아니면 “현재 시점에서는” 문제가 되지 않고 기술적 실업이 더 문제가 된다는 것인지 궁금합니다.
Jimmy Apples: 기술적 실업이 더 걱정해야 할 문제입니다.
AI Alignment는 순조롭게 진행되고 있고, 할루시네이션(환각) 문제도 해결되었습니다.
하지만 새로운 AI 모델 때문에 전 세계적으로 10%의 일자리가 사라질 수 있다는 문제를 어떻게 해결할지, 그것이 어려운 과제입니다.
Bioshok: AGI로 인해 10%의 일이 대체될 가능성이 있다는 건 정말 큰 문제네요. 저도 동의합니다.
대부분 화이트칼라의 인지적 과업일까요?
사람처럼 시각과 청각이 있고, 영상도 이해하고, 컴퓨터를 자유자재로 조작하며, 게임도 할 수 있는 수준인가요?
Jimmy Apples: 많은 화이트칼라 직업은 단순하며, 지식을 학습하고 갱신할 수 있는 에이전트, 시각을 가지고 장기적인 목표에 착수할 수 있는 에이전트(예: 몇 달에 걸쳐 작업을 진행할 수 있는 에이전트) 등이 있습니다.
이 이상은 지금으로서는 말하기 어렵네요. 😉
Bioshok: 감사합니다! 이것만 들어도 정말 감사드립니다.
물론 안 된다고 하시면 거절해 주셔도 괜찮은데, 이 DM을 트윗으로 올리는 것은 바람직하지 않을까요?
무례했다면 사과드립니다.
Jimmy Apples: 스크린샷만 없고 전부 일본어라면 괜찮습니다. :thumbsup:
Bioshok: 고마워요!
https://cooing-iron-11a.notion.site/10-27Jimmy-Apples-bioshok-DM-6351316ef47742c8acfad0965458da7c
“몇 달 전의 OpenAI Slack 스크린샷을 보여줄까?”
Bioshok: 보고 싶습니다!
Jimmy Apples:
(위 이미지 번역/요약: 아직 잘 모르겠네요.
GPT5를 위해 100배의 연산 효율을 목표로 삼았습니다( GPT4 시리즈를 사용하는 모델은 GPT4 자체보다 100배 많은 연산이 필요합니다 ).
우리는 이 100배의 연산 효율 중 일부를 얻기 위한 새로운 과학적 진전을 적극적으로 개발하고 있습니다.
현재(2022년 12월 기준)부터 2024년 중반 어딘가 사이에.)
이걸 게시해 주세요.
제 이야기라고 말해 주세요.
몇 달 전에 올렸던 글을 기억하지 못하는, 기억력이 나쁜 바보들을 위해.
100배 연산 = Arrakis입니다.
디스코드 안의 바보들은 바보고, 레딧 안의 바보들도 바보예요. 이게 현실입니다.
Bioshok: 당신이 말하는 AGI가 Arrakis인가요? Gobi랑은 다른 건가요?
Jimmy Apples: 달라요(Gobi랑은 달라요). AGI 모델은 2025년에 나옵니다.
다음에 내놓을 모델은 Gobi입니다.
사내에서는 이름이 계속 바뀌니까, 거기에 얽매이는 건 크게 의미가 없을 것 같아요.
Bioshok: 그 둘(LinkedIn에 있는 OpenAI 직원 2명)이 “인간의 중앙값 지능을 대체할 AGI가 만들어졌다”라고 주장한 유출의 출처인가요?
Jimmy Apples: 그중 한 사람은 100% 맞아요.
다른 한 사람은 잘 모르겠습니다.
Bioshok: 이미 AGI가 개발되었다는 거네요? 그런데 일반 공개는 2025년이라는 거고요.
단순하게 생각하면, Gobi, Arrakis, 그리고 당신이 말한 AGI는 전부 다른 모델이며, 성능 순서는 Gobi < Arrakis < AGI입니까?
Jimmy Apples: Arrakis > Gobi > ……… 그 이외의 것에 대해서는 잘 모르겠습니다.
내부 이름은 바뀔 수 있고, 숨기기 위해 다른 모델명으로 전환할 수도 있다는 점 기억하세요.
...
Bioshok: 그는 다른 유출(leak) 얘기를 하고 있는 거군요. 전 그건 알고 싶지 않아요.
Bioshok: 최근 OpenAI 내부에서 불화가 일어났다고 당신이 트윗했던 것과 관련이 있는 건가요? 무슨 일이 벌어지고 있는지 궁금합니다.
Jimmy Apples: 아직 말할 수 없어요. 지금 기자들이 모두와 이야기하는 중이라, 조만간 기사로 나올지도 모르겠네요.
Bioshok: 만약 AGI가 이미 완성된 거라면, 초지능은 몇 년 안에 실현되는 걸까요? 혹시 알고 있는 정보가 있나요?
Jimmy Apples: 초지능(superintelligence)에 대한 내 생각이 있어요. 하지만 아무도 날 믿지 않을 겁니다.
음… 초지능… 슈퍼 얼라인먼트(super alignment)… AGI와 그 다음 단계… 음… 그 이상은 말하지 않겠습니다.
Bioshok: 즉, AGI가 개발된 시점은 2023년 9월경이라는 거군요? 그리고 2027년까지 슈퍼 얼라인먼트를 완성한다는 계획을 고려하면, 2027년까지 초지능을 실현하는 게 타당해 보입니다.
Jimmy Apples: 말할 수 없어요. OpenAI가 어디까지 진척되었는지 알면 놀랄 겁니다.
Bioshok: 9월 18일 이후에도, 내부적으로 AGI가 개발되었다면 OpenAI 직원들은 아래 같은 트윗을 하지 않았을 것 같습니다.
Jimmy Apples: 지금은 아직 “인간의 중앙값” 정도 수준이에요. 전문가 수준의 인공지능, 예를 들어 아인슈타인 급의 수준을 원한다면? 계속 연구를 이어나가야죠.
Bioshok: 질문이 많아서 죄송해요! 대답하기 곤란한 게 있어도 괜찮아요.
개발된 AGI는 GPT-4 아키텍처와 많이 다른가요? 아니면 스케일링이나 학습 방법 등 미세 조정을 통해 그 레벨에 도달한 건가요?
Jimmy Apples: 그건 아직 말할 수 없어요.
Bioshok: 알겠습니다, 고마워요.
Jimmy Apples: 슬슬 자야겠네요. 전부 일본어로, 스크린샷 없이 부탁드립니다. 이건 공유해도 돼요.
Bioshok: 네, 감사합니다!
당신이 보낸 이미지는 사용해도 되나요? 맥락상 그게 없으면 어렵거든요. Open AI 직원 두 명의 LinkedIn 이미지는 제외하겠습니다.
Jimmy Apples: :thumbsup: (좋아요)
Bioshok: 처음 뵙겠습니다.
일본에서 AI Alignment나 싱귤래리티에 관한 정보를 발신하고 있는 bioshok라고 합니다.
아마 답하기 어려우실 것 같지만, 궁금해서 DM을 드려 봤습니다.
만약 AGI가 내부적으로 달성되었다는 이야기가 사실이라면, 그 AGI는 어느 정도로 우수한 기능을 가지고 있을까요?
인간의 중앙값(중간 정도의 지능을 가진 인간)을 대체하는 수준인가, 아니면 인류의 거의 전부보다 똑똑한 AGI인지가 궁금합니다.
Jimmy Apples: 인간의 중앙값 정도입니다.
고용 상실은 생각하고 해결해야 할 큰 문제이며, 무서운 AI가 세계를 정복할 것이라는 이야기보다는 오히려 여기에 초점을 맞춰야 합니다.
내년에는 더 좋은 아이디어가 나올 것 같네요. 😉
Bioshok: 답장 감사합니다! 기쁩니다.
그렇군요, 그러면 AI Alignment는 그렇게까지 문제가 되지 않는다는 뜻인가요?
무언가 방식으로 해결된 것인지, 아니면 “현재 시점에서는” 문제가 되지 않고 기술적 실업이 더 문제가 된다는 것인지 궁금합니다.
Jimmy Apples: 기술적 실업이 더 걱정해야 할 문제입니다.
AI Alignment는 순조롭게 진행되고 있고, 할루시네이션(환각) 문제도 해결되었습니다.
하지만 새로운 AI 모델 때문에 전 세계적으로 10%의 일자리가 사라질 수 있다는 문제를 어떻게 해결할지, 그것이 어려운 과제입니다.
Bioshok: AGI로 인해 10%의 일이 대체될 가능성이 있다는 건 정말 큰 문제네요. 저도 동의합니다.
대부분 화이트칼라의 인지적 과업일까요?
사람처럼 시각과 청각이 있고, 영상도 이해하고, 컴퓨터를 자유자재로 조작하며, 게임도 할 수 있는 수준인가요?
Jimmy Apples: 많은 화이트칼라 직업은 단순하며, 지식을 학습하고 갱신할 수 있는 에이전트, 시각을 가지고 장기적인 목표에 착수할 수 있는 에이전트(예: 몇 달에 걸쳐 작업을 진행할 수 있는 에이전트) 등이 있습니다.
이 이상은 지금으로서는 말하기 어렵네요. 😉
Bioshok: 감사합니다! 이것만 들어도 정말 감사드립니다.
물론 안 된다고 하시면 거절해 주셔도 괜찮은데, 이 DM을 트윗으로 올리는 것은 바람직하지 않을까요?
무례했다면 사과드립니다.
Jimmy Apples: 스크린샷만 없고 전부 일본어라면 괜찮습니다. :thumbsup:
Bioshok: 고마워요!
https://cooing-iron-11a.notion.site/10-27Jimmy-Apples-bioshok-DM-6351316ef47742c8acfad0965458da7c
“몇 달 전의 OpenAI Slack 스크린샷을 보여줄까?”
Bioshok: 보고 싶습니다!
Jimmy Apples:
(위 이미지 번역/요약: 아직 잘 모르겠네요.
GPT5를 위해 100배의 연산 효율을 목표로 삼았습니다( GPT4 시리즈를 사용하는 모델은 GPT4 자체보다 100배 많은 연산이 필요합니다 ).
우리는 이 100배의 연산 효율 중 일부를 얻기 위한 새로운 과학적 진전을 적극적으로 개발하고 있습니다.
현재(2022년 12월 기준)부터 2024년 중반 어딘가 사이에.)
이걸 게시해 주세요.
제 이야기라고 말해 주세요.
몇 달 전에 올렸던 글을 기억하지 못하는, 기억력이 나쁜 바보들을 위해.
100배 연산 = Arrakis입니다.
디스코드 안의 바보들은 바보고, 레딧 안의 바보들도 바보예요. 이게 현실입니다.
Bioshok: 당신이 말하는 AGI가 Arrakis인가요? Gobi랑은 다른 건가요?
Jimmy Apples: 달라요(Gobi랑은 달라요). AGI 모델은 2025년에 나옵니다.
다음에 내놓을 모델은 Gobi입니다.
사내에서는 이름이 계속 바뀌니까, 거기에 얽매이는 건 크게 의미가 없을 것 같아요.
Bioshok: 그 둘(LinkedIn에 있는 OpenAI 직원 2명)이 “인간의 중앙값 지능을 대체할 AGI가 만들어졌다”라고 주장한 유출의 출처인가요?
Jimmy Apples: 그중 한 사람은 100% 맞아요.
다른 한 사람은 잘 모르겠습니다.
Bioshok: 이미 AGI가 개발되었다는 거네요? 그런데 일반 공개는 2025년이라는 거고요.
단순하게 생각하면, Gobi, Arrakis, 그리고 당신이 말한 AGI는 전부 다른 모델이며, 성능 순서는 Gobi < Arrakis < AGI입니까?
Jimmy Apples: Arrakis > Gobi > ……… 그 이외의 것에 대해서는 잘 모르겠습니다.
내부 이름은 바뀔 수 있고, 숨기기 위해 다른 모델명으로 전환할 수도 있다는 점 기억하세요.
...
Bioshok: 그는 다른 유출(leak) 얘기를 하고 있는 거군요. 전 그건 알고 싶지 않아요.
Bioshok: 최근 OpenAI 내부에서 불화가 일어났다고 당신이 트윗했던 것과 관련이 있는 건가요? 무슨 일이 벌어지고 있는지 궁금합니다.
Jimmy Apples: 아직 말할 수 없어요. 지금 기자들이 모두와 이야기하는 중이라, 조만간 기사로 나올지도 모르겠네요.
Bioshok: 만약 AGI가 이미 완성된 거라면, 초지능은 몇 년 안에 실현되는 걸까요? 혹시 알고 있는 정보가 있나요?
Jimmy Apples: 초지능(superintelligence)에 대한 내 생각이 있어요. 하지만 아무도 날 믿지 않을 겁니다.
음… 초지능… 슈퍼 얼라인먼트(super alignment)… AGI와 그 다음 단계… 음… 그 이상은 말하지 않겠습니다.
Bioshok: 즉, AGI가 개발된 시점은 2023년 9월경이라는 거군요? 그리고 2027년까지 슈퍼 얼라인먼트를 완성한다는 계획을 고려하면, 2027년까지 초지능을 실현하는 게 타당해 보입니다.
Jimmy Apples: 말할 수 없어요. OpenAI가 어디까지 진척되었는지 알면 놀랄 겁니다.
Bioshok: 9월 18일 이후에도, 내부적으로 AGI가 개발되었다면 OpenAI 직원들은 아래 같은 트윗을 하지 않았을 것 같습니다.
- Noam Brown
(트윗 링크) - William Fedus
(트윗 링크)
Jimmy Apples: 지금은 아직 “인간의 중앙값” 정도 수준이에요. 전문가 수준의 인공지능, 예를 들어 아인슈타인 급의 수준을 원한다면? 계속 연구를 이어나가야죠.
Bioshok: 질문이 많아서 죄송해요! 대답하기 곤란한 게 있어도 괜찮아요.
개발된 AGI는 GPT-4 아키텍처와 많이 다른가요? 아니면 스케일링이나 학습 방법 등 미세 조정을 통해 그 레벨에 도달한 건가요?
Jimmy Apples: 그건 아직 말할 수 없어요.
Bioshok: 알겠습니다, 고마워요.
Jimmy Apples: 슬슬 자야겠네요. 전부 일본어로, 스크린샷 없이 부탁드립니다. 이건 공유해도 돼요.
Bioshok: 네, 감사합니다!
당신이 보낸 이미지는 사용해도 되나요? 맥락상 그게 없으면 어렵거든요. Open AI 직원 두 명의 LinkedIn 이미지는 제외하겠습니다.
Jimmy Apples: :thumbsup: (좋아요)
전체 0