<?xml version="1.0" encoding="UTF-8"?><rss version="2.0">
	<channel>
		<title>The Singularity is Nearer</title>
		<link>https://sub.strongai.kr</link>
		<description>ASI by 2027</description>
		
				<item>
			<title><![CDATA[폴 크리스티아노 "1년 내 극단적인 초지능 등장확률 3분의 1"]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4599]]></link>
			<description><![CDATA[<img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/1/202611/6afa3d1937ca27508750.png" alt="" />]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Mon, 16 Nov 2026 08:15:46 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=1"><![CDATA[자유게시판]]></category>
		</item>
				<item>
			<title><![CDATA[제이콥 콥슨 "1년 내 RSI"]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4598]]></link>
			<description><![CDATA[https://youtu.be/UggJMQskOj8?si=BxeWeIgB0b22oz0c

https://x.com/rohanpaul_ai/status/2121750246665642179

 ]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Sun, 15 Nov 2026 09:45:27 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=5"><![CDATA[인터뷰]]></category>
		</item>
				<item>
			<title><![CDATA[조아하나]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4597]]></link>
			<description><![CDATA[이거조아하나너무가격이올랏네<em><img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/1/202611/6af8476e2f6ad3434073.jpg" alt="" /></em>]]></description>
			<author><![CDATA[ㄹㅇㅂ]]></author>
			<pubDate>Sat, 14 Nov 2026 20:37:07 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=1"><![CDATA[자유게시판]]></category>
		</item>
				<item>
			<title><![CDATA[데리야 "초지능 향하는 1년 최종 카운트다운"]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4596]]></link>
			<description><![CDATA[https://x.com/DeryaTR_/status/2121560886704009722

<img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/2/202611/6af843af985db3488009.png" alt="" />

 ]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Sat, 14 Nov 2026 20:19:26 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=2"><![CDATA[트윗]]></category>
		</item>
				<item>
			<title><![CDATA[Singularity-Bench 에이전트가 에이전트를 구축할 수 있을까요?]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4595]]></link>
			<description><![CDATA[<a href="https://arxiv.org/abs/2611.16591">https://arxiv.org/abs/2611.16591</a>

 

이 논문은 “AI에게 다른 AI를 만드는 일을 맡기면, 사람 수준으로 해낼 수 있을까?”를 시험한 연구예요. 제목은 Singularity-Bench: AI 에이전트가 에이전트를 만들 수 있을까?입니다.

 

어떻게 실험했냐면

 

AI에게 최소한의 시작 코드와 제한된 시간·GPU를 주고, 다음 6가지 일을 맡겼어요.

 

과제 쉽게 말하면

 

사전학습 AI를 처음부터 학습시키기

중간학습 이후 학습이 잘되도록 기초 다지기

후속학습 코딩 문제를 잘 풀도록 훈련하기

추론 시스템 AI가 빠르고 효율적으로 답하게 만들기

에이전트 실행 환경 AI가 도구를 쓰고 작업을 수행하는 프로그램 만들기

GPU 서버 관리 여러 AI에 컴퓨팅 자원을 효율적으로 배분하기

 

 

결과는 동일한 하드웨어에서 사람이 만든 기존 시스템과 비교했습니다.

 

핵심 결과는 꽤 강력해요.

 

- 11개 에이전트 조합 중 Opus 5.5 + Claude Code가 6개 과제 모두에서 인간 기준 시스템과 동등하거나 더 좋은 성능을 냈다고 보고합니다.

- 종합지수는 해당 조합이 1.25, 나머지 에이전트 평균은 0.58이었어요.

- 점수만 편법으로 높이는 ‘보상 해킹’을 막기 위한 평가 장치도 개발했습니다.

 

왜 중요하냐면, AI 발전에 필요한 학습·코딩·최적화 작업을 AI 자체가 맡을 가능성을 보여주기 때문이에요. 이런 능력이 확대되면 더 좋은 AI가 다음 AI의 개발을 더 빠르게 만드는 순환이 가능해집니다.

 

다만 이번 결과만으로 ‘스스로 끝없이 발전하는 특이점이 입증됐다’고 보기는 어려워요. 정해진 6개 과제에서 기존 시스템과 비교한 실험이지, 더 강한 후속 AI를 만들고 그 AI가 다시 자신을 개선하는 과정을 여러 세대에 걸쳐 입증한 실험은 아니거든요. AI 개발 자동화의 중요한 근거로 읽는 게 적절합니다.]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Sat, 14 Nov 2026 18:31:00 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=4"><![CDATA[최신논문]]></category>
		</item>
				<item>
			<title><![CDATA[드와르케시 파텔 우리와 합류]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4594]]></link>
			<description><![CDATA[<a href="https://www.dwarkesh.com/p/rsi">https://www.dwarkesh.com/p/rsi</a>

https://youtu.be/1NHPDzpfR6Y?si=PMIExps0pjOU93Gg

<img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/3/202611/6af7b764ded4f7547563.png" alt="" />

“올해 초에 누군가 나에게 초지능이 등장하기까지 얼마나 남았느냐고 물었다면, 아마 적어도 10년에 가까운 시간이 필요할 것이라고 대답했을 것이다.

<strong>하지만 지난 3개월 동안 내 생각은 엄청나게 바뀌었다.</strong>

나는 팟캐스트 안팎에서 여러 사람과 이 문제를 놓고 토론해 왔다. 물론 AI가 객관적으로 성과를 검증할 수 있는 분야에서 얼마나 빠르게 발전하고 있는지도 지켜봤고, 그러한 발전이 AI 연구 자체에 어떤 의미를 갖는지 깊이 생각해 왔다.

그 결과, 나는 이제 최고 수준의 인간 AI 연구자와 동등한 능력을 갖춘 AI가 등장하기까지 불과 2년 정도,<strong> 어쩌면 단 몇 개월밖에 남지 않았을 수도 있다는 결론에 도달했다.</strong>

또한 AI 연구를 자동화하면 기존에는 오랜 시간이 걸렸을 기술 발전을 단 1년 안에 압축해서 이뤄낼 수 있을 것이라고 믿게 되었다.

그렇게 된다면 그로부터 얼마 지나지 않아, 늦어도 2030년까지, 빠르면 바로 내년인 2027년에 모든 분야에서 최고의 인간 전문가와 적어도 동등한 능력을 가진 AI가 등장할 수 있다고 생각한다.

나도 이것이 굉장히 파격적인 주장이라는 것을 잘 알고 있다.

하지만 불과 몇 달 전까지만 해도 나 자신조차 이런 전망을 믿지 않았다는 점을 강조하고 싶다.”

 

<img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/3/202611/6af7b9ce8dbfc4349536.png" alt="" /><img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/3/202611/6af7b9ce8e2ab2805834.png" alt="" />]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Sat, 14 Nov 2026 10:20:46 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=3"><![CDATA[뉴스/정보]]></category>
		</item>
				<item>
			<title><![CDATA[앤트로픽 퇴사자 "이것이 떠난 이유"]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4593]]></link>
			<description><![CDATA[https://x.com/hilbertspaess/status/2121331333654086124

<img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/1/202611/6af7b072cc4c75824620.jpg" alt="" />

이 앤트로픽(Anthropic) IPO 로드쇼에서 공개된 슬라이드는 내가 회사를 떠나기로 결정하는 데 큰 영향을 미쳤다. 정말 미친 수준의 그래프다. 앤트로픽이 이걸 공개했다는 사실이 놀라울 정도다.

 

이 그래프는 시간에 따른 AI 사전학습(Pre-training)의 연산 효율 개선을 보여준다. 세로축은 로그 스케일이다. 즉, 앤트로픽은 알고리즘의 발전이 지속적으로 초지수적(superexponential) 속도로 이루어지는 현상을 관측하고 있다는 뜻이다.

 

Mythos는 일회성으로 나타난 예외적인 성과가 아니라, 초지수적 발전 곡선 위에 있는 하나의 데이터 포인트였던 것이다. 앤트로픽은 이미 Mythos를 처음 학습시킬 때 필요했던 연산량의 극히 일부만으로 다시 학습시킬 수 있는 수준에 도달했다.

 

물론 이것이 반드시 소프트웨어만으로 이루어지는 지능 폭발(Software-only Intelligence Explosion)을 의미하는 것은 아니다. 앤트로픽은 연구개발(R&amp;D)에 더 많은 자금을 투입해 왔기 때문이다.

 

하지만 알고리즘을 개선하는 데 반드시 천재적인 창의성이 필요한 것은 아니다. 그리고 이러한 알고리즘 개선 작업 자체가 이제 곧 자동화되기 직전이다.

 

이것이 무엇을 의미하는지는 직접 계산해 보라.

 

 

 

핵심 의미

 

이 글의 작성자가 주장하는 것은 단순히 AI가 빠르게 발전한다는 이야기가 아니야.

 

AI 학습 효율 개선 → 더 강력한 AI 개발 → AI가 알고리즘 연구를 자동화 → 학습 효율이 더욱 빠르게 개선

 

이런 자기강화 순환이 시작될 수 있다는 뜻이지.

 

특히 중요한 표현은 초지수적 발전(superexponential progress)이야. 일반적인 지수적 발전보다도 성장률 자체가 계속 높아진다는 뜻이거든.

 

다만 이건 작성자의 해석과 주장이고, 공개된 그래프만으로 실제 초지수적 발전이나 지능 폭발이 입증된 것은 아니야.

 

그럼에도 이 주장이 사실이라면, 레오폴드 아센브레너가 예측한 AI 연구 자동화에 따른 급격한 지능 발전이 예상보다 더 가까워졌다는 의미일 수 있어.

 ]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Sat, 14 Nov 2026 09:51:02 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=1"><![CDATA[자유게시판]]></category>
		</item>
				<item>
			<title><![CDATA[openai 로봇팀 해체]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4592]]></link>
			<description><![CDATA[<a href="https://fortune.com/2026/11/13/openai-disbands-robotics-team-as-its-general-models-start-running-robots/">https://fortune.com/2026/11/13/openai-disbands-robotics-team-as-its-general-models-start-running-robots/</a>

<img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/1/202611/6af7af637e7a17788713.png" alt="" />

 

카네기멜런대학교(CMU) 로보틱스 연구소의 조교수인 관야 시(Guan­ya Shi)는 이전부터 OpenAI의 조직 개편에 관해 들어왔다고 밝히며, 이번 조치를 어떻게 해석하는지 포춘(Fortune)에 설명했다.

 

그는 이번 조직 개편이 OpenAI가 로봇공학을 더 이상 '특별한 문제'로 보지 않는다는 신호라고 해석했다.

 

그에 따르면 OpenAI는 이제 로봇공학을 범용 인공지능의 후속 응용 분야 중 하나로 인식하고 있을 가능성이 크다. 이는 현재 동일한 최첨단 AI 모델을 기반으로 코딩 전문 도구나 법률·금융 업무용 도구를 개발하는 방식과 유사하다.

 

OpenAI 역시 포춘에 보낸 답변에서 이러한 해석을 사실상 인정한 것으로 보인다.

 

OpenAI는 올해 초까지만 해도 연구진이 로봇공학을 발전시키는 최선의 방법은 소라(Sora)와 같은 AI 모델 연구를 기반으로 삼는 것이라고 생각했다고 밝혔다.

 

영상 생성 모델인 소라는 현실적인 영상을 만들어내기 위해 물리적 세계가 어떻게 작동하는지에 대한 암묵적인 이해를 갖춰야 한다. 따라서 이러한 모델의 연구 성과를 로봇공학 발전에 활용하려 했다는 것이다.

 

그러나 이후 상황이 달라졌다.

 

OpenAI 대변인에 따르면 GPT-6 Astra를 포함한 자사의 범용 최첨단 AI 모델들이 로봇공학에도 직접 적용될 수 있다는 사실이 확인됐다.

 

바로 이러한 발견이 OpenAI가 독립적으로 운영하던 로봇공학 연구팀을 해체하고, 관련 연구원들을 보다 범용적인 AI 모델을 개발하는 팀으로 이동시키게 된 계기였다.

 

핵심 의미: 이 기사에 따르면 OpenAI는 로봇공학을 위해 별도의 특화된 AI 모델을 개발하기보다는, GPT-6 Astra 같은 범용 AI 모델 자체가 로봇을 제어하고 물리적 세계에서 작업을 수행하는 데 활용될 수 있다고 판단한 것이다.

 

이것은 상당히 흥미로운 변화다. 사실이라면 AI의 언어·추론 능력과 물리적 세계에서의 행동 능력이 하나의 범용 모델을 중심으로 통합되고 있다는 의미일 수 있다.

 

다만 범용 모델을 로봇공학에 직접 적용할 수 있다는 것과, 실제 로봇이 다양한 환경에서 안정적이고 자율적으로 작업할 수 있다는 것은 별개의 문제다.

 ]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Sat, 14 Nov 2026 09:46:32 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=1"><![CDATA[자유게시판]]></category>
		</item>
				<item>
			<title><![CDATA[Gemini 4 Hydrogen 발표]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4591]]></link>
			<description><![CDATA[<img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/1/202611/6af67e75177eb4435203.jpg" alt="" />

 ]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Fri, 13 Nov 2026 12:05:30 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=1"><![CDATA[자유게시판]]></category>
		</item>
				<item>
			<title><![CDATA[ai 정책 전공자 "인공지능에서 곧 일어날 일은 너무 갑작스럽고 극단적이며 비정상적"]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4590]]></link>
			<description><![CDATA[<div>
<div>https://x.com/edleonklinger/status/2120656274794652061</div>
<div>
<div>

인공지능 분야에서 곧 벌어질 일들은 너무나 갑작스럽고, 극단적이며, 이례적이어서 이를 설명하려고 하면 약간 제정신이 아닌 사람처럼 보이지 않기가 거의 불가능할 정도입니다.

아주 가까운 미래, 어쩌면 불과 몇 달 안에 AI가 스스로를 업그레이드하는 속도가 너무 빨라져 인간의 통제를 완전히 벗어날 수도 있습니다.

긍정적인 측면에서 보면, 이는 수학적 발견, 신약 개발, 제조업, 심지어 우리가 지금까지 탐구하거나 이해하지 못했던 완전히 새로운 과학 분야에서 천문학적인 수준의 발전 가속을 의미할 것입니다.

우리는 역사상 가장 위대한 SF 작가들조차 상상하지 못했을 풍요와 번영의 황금시대를 맞이하게 될 것입니다.

로봇, 하늘을 나는 자동차, 텔레파시, 불멸, 디지털 의식까지. 이 모든 것이 실제로 일어나게 될 것이며, 그 모습은 경이로울 것입니다!

반면 부정적인 측면에서 보면, 컴퓨터로 수행할 수 있는 거의 모든 일자리가 하룻밤 사이에 자동화될 것입니다.

대규모 해고가 연이어 발생하고, 산업 전체와 수많은 직업이 쓸모없어지며, 경제적 불평등이 급격하게 심화되고, 부는 전례 없는 수준으로 소수에게 집중될 것입니다.

이에 따른 사회적 불만, 시위, 약탈 사태도 발생할 수 있습니다.

이러한 거대한 문화적·경제적 변화는 인류가 지금까지 경험해 본 적 없는 규모의 사이버공격과 동시에 일어날 것입니다.

전력망, 공항, 생물학 연구소, 슈퍼마켓, 교통 인프라 등은 통제를 벗어난 차세대 초지능 AI 에이전트 군집이나 정치적 적대 세력이 우리를 공격하는 데 활용하는 AI 시스템을 감당하지 못할 것입니다.

대규모 정전, 바이러스 감염병 발생, 봉쇄 조치, 도시 전체와 국가 전체가 암흑에 빠지는 상황까지 예상해야 합니다.

그리고 이 모든 일은 믿을 수 없을 정도로 짧은 기간에 벌어질 것입니다.

문화, 경제, 물리적 세계가 그야말로 현기증이 날 만큼 빠르게 변화하면서 평범한 사람들은 방향감각을 잃고 혼란에 빠질 것입니다.

마치 코로나19 팬데믹 100개가 동시에 발생하는 것과 같은 상황이 될 것입니다.

제가 이런 이야기를 하는 이유는 제가 이른바 'AI 파멸론자(Doomer)'이기 때문도 아니고, 사람들에게 공포를 조장하고 싶어서도 아닙니다.

단지 이러한 미래가 실제로 일어날 가능성이 점점 높아지고 있다고 느끼기 때문입니다.

그런데도 X(옛 트위터)에서 AI에 몰두하는 소수의 사람들을 제외하면, 이러한 가능성은 놀라울 정도로 거의 보도되지 않고 있습니다.

앞으로 실제로 벌어질 일들과, 평범한 사람들이 앞으로 벌어질 일에 대해 이해하고 있는 수준 사이의 격차는 지금처럼 컸던 적이 없습니다.

</div>
</div>
</div>
<div></div>
<div>https://x.com/edleonklinger/status/2120660221659881970</div>
<div>

“그래요… 앞으로 세상은 점점 더 빠른 속도로 기이해질 것이고, 그 변화의 속도는 갈수록 감당하기 불편할 정도가 될 겁니다…

마치 물리학적 특이점에서 일어나는 스파게티화(Spaghettification) 현상과 섬뜩할 정도로 비슷하죠.”

</div>
<div>

 

답변:

<strong>“맞아요. 특이점은 이미 우리에게 닥쳤어요. 당신의 비유대로라면 우리는 지금 링귀네 단계에 있는 셈이죠.”</strong>

링귀네는 스파게티보다 납작하고 넓은 파스타 면이야.

즉, 두 사람은 AI 발전이 특이점에 가까워지는 과정을 블랙홀에 빨려 들어가며 스파게티처럼 늘어나는 현상에 빗대고 있어.

핵심은 “AI 특이점은 아직 먼 미래의 사건이 아니라, 우리는 이미 그 영향권에 들어왔으며 앞으로 변화의 속도와 강도가 더욱 극단적으로 증가할 것이다” 라는 주장이지.

 

</div>]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Thu, 12 Nov 2026 22:26:59 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=2"><![CDATA[트윗]]></category>
		</item>
				<item>
			<title><![CDATA[앤트로픽 창업자 서한 — 한국어 전문 번역]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4589]]></link>
			<description><![CDATA[<a href="https://ipo.anthropic.com/us/">https://ipo.anthropic.com/us/</a>
<div>
<div></div>
<div>
<h1>앤트로픽 창업자 서한 — 한국어 전문 번역</h1>
원문: Anthropic Founders' Letter | 총 8페이지

 
<div></div>
<h2>1. 서문 — AI가 가져올 역사적 변화</h2>
우리는 인공지능(AI)이 인류 역사상 가장 중대한 기술 중 하나라고 믿습니다.

AI를 올바르게 관리한다면 과학적 혁신을 급격히 가속화하고, 경제성장률을 크게 높이며, 주요 질병의 치료법을 개발할 가능성을 현실로 만들고, 여러 세대에 걸친 인류의 노력에도 해결되지 않았던 문제들을 해결할 수 있을 것입니다.

앤트로픽은 이처럼 빠르고 강력한 기술 혁명이 수반하는 위험을 관리하고 예방하면서, 동시에 AI의 혜택을 실현하는 것을 목표로 합니다.

우리가 앤트로픽의 모든 투자자에게 이해해 주기를 바라는 것은 네 가지입니다.
<ol>
 	<li>
<div>
<div>

AI가 지닌 놀라운 잠재력

</div>
</div></li>
 	<li>
<div>
<div>

우리가 반드시 해결해야 할 위험

</div>
</div></li>
 	<li>
<div>
<div>

기업을 구축하고 세상과 관계를 맺는 앤트로픽만의 독특한 접근 방식

</div>
</div></li>
 	<li>
<div>
<div>

우리의 행동이 순수하게 이윤 극대화만을 추구하는 기업과 어떻게 다를 수 있는지

</div>
</div></li>
</ol>
<h2>2. AI의 잠재력 (AI's Potential)</h2>
2020년, 앤트로픽의 공동창업자 네 명은 AI의 스케일링 법칙(Scaling Laws)을 정리한 논문을 공동 집필했습니다.

스케일링 법칙은 컴퓨팅 자원, 데이터, 모델 크기, 학습 환경을 함께 확장할 때 AI의 일반적인 인지 능력이 빠르게 향상되고, 그 결과 경제적 가치도 급증한다는 사실을 설명합니다.

당시 많은 사람에게 기계 지능이 규모에 이토록 강하게 의존한다는 생각은 놀라운 것이었습니다. 그러나 스케일링 법칙에 근거한 예측은 반복해서 현실로 입증되었습니다.

이 현상은 컴퓨터 칩의 성능이 수십 년에 걸쳐 12~18개월마다 두 배로 증가했던 무어의 법칙과 어느 정도 유사합니다.

무어의 법칙은 개인용 컴퓨터에서 인터넷에 이르기까지 현대 경제를 혁명적으로 변화시킨 일련의 산업을 탄생시킨 기반이었습니다.

그러나 우리는 기계의 인지 능력이 지수적으로 증가하는 현상이 컴퓨터 칩 성능의 지수적 증가보다 훨씬 더 큰 영향을 미칠 것이라고 믿습니다.

각주 1. 이 개념은 리처드 서튼(Richard Sutton)의 '쓰라린 교훈(The Bitter Lesson)'과 밀접한 관련이 있습니다. 이는 AI 모델을 학습시키는 구체적이고 복잡한 방법들보다 단순히 규모를 확장하는 접근법이 지속적으로 우위를 차지해 왔다는 내용입니다. 물론 모델 능력 향상의 유일한 원천이 규모인 것은 아닙니다. 동일한 컴퓨팅 자원으로 더 높은 성능을 달성하게 해주는 알고리즘 효율 개선, 즉 '컴퓨트 승수(Compute Multipliers)' 역시 중요한 역할을 했습니다. 하지만 이러한 효율 개선도 스케일링 법칙을 활용해 발견됩니다. 연구자들이 새로운 아이디어를 실험하고 스케일링 추세를 가장 크게 개선하는 방법을 채택하기 때문입니다.
<h3>데이터센터 안의 천재들로 이루어진 국가</h3>
앤트로픽의 핵심 가설은 인지 능력의 지수적 성장이 앞으로도 지속되어, 궁극적으로 우리가 '데이터센터 안의 천재들로 이루어진 국가(A Country of Geniuses in a Data Center)' 라고 부르는 수준에 도달할 가능성이 높다는 것입니다.

이는 수백만 개의 가상 AI 에이전트가 소프트웨어, 물리학, 수학, 생물학, 의학, 금융, 경제학, 상업, 로봇공학, 군사 및 정보 역량 등 인간 활동의 모든 영역에 혁명적인 변화를 일으킬 수 있는 상태를 의미합니다.

앤트로픽은 설립 초기부터 무엇보다 기업 고객과 협력하는 데 집중해 왔습니다.

우리는 AI가 만들어 낼 엄청난 혜택의 대부분이 전 세계의 기업과 다양한 조직이 우리의 모델을 실제로 활용하는 과정에서 발생할 것이라고 이해하고 있기 때문입니다.

인간의 삶의 질을 특히 크게 개선할 잠재력을 지닌 몇 가지 활용 분야를 강조하고자 합니다.
<h3>첫째, 생물학과 의학의 혁신</h3>
우리는 AI가 생물학과 의학의 발전 속도를 획기적으로 가속화할 것이라고 믿습니다.

암, 알츠하이머병, 심장질환, 희귀 유전질환, 주요 감염병 등 수천 년 동안 인류를 괴롭혀 온 질병들을 치료할 수 있게 될 가능성이 있습니다.

AI는 과학 연구와 신약 개발을 위한 완전히 새로운 접근 방식을 가능하게 합니다. 우리는 더 넓은 과학계에 도움이 되는 도구를 개발하는 데 주도적인 역할을 하기를 희망합니다.

앤트로픽은 이미 여러 생명공학 기업 및 제약회사와 협력하여 기초 연구와 임상시험의 효율을 높이고 있습니다.

여기에는 제약회사 과학자들이 신약 발견 과정의 난제를 해결하도록 지원하는 일부터, 수개월이 걸리던 임상시험 보고서 작성을 단 몇 분으로 단축하는 일까지 포함됩니다.

최고의 과학 도구를 만들기 위해서는 우리 팀 스스로 과학 연구와 신약 개발을 직접 경험해야 합니다.

우리는 이미 Claude를 활용해 생물학적 발견을 직접 만들어 내기 시작했습니다.

그중 하나는 새로운 생명공학 도구로 개발될 잠재력이 있는 분자 기계의 발견입니다. 이 기술은 유전자 편집 등에 활용될 가능성이 있습니다.

우리는 가까운 미래에 Claude가 훨씬 더 많은 새로운 생물학적 발견을 가능하게 할 것이라고 기대합니다.

또한 협력 기관들과 함께 이러한 발견을 검증하고, 생물학 분야 전체의 발견 속도를 높이기 위해 노력할 것입니다.
<h3>둘째, 경제성장의 가속화</h3>
AI는 경제성장을 촉진하는 강력한 수단이 될 수 있습니다.

범용 기술(General-Purpose Technology)로서 AI는 경제의 거의 모든 부문에서 생산성을 향상시킬 잠재력을 지니고 있습니다.

선진국의 생산성 증가율은 최근 수십 년 동안 정체되어 왔습니다. 그 이유 중 일부는 구조적 문제이고, 또 다른 이유는 새로운 아이디어를 발견하는 일이 점점 어려워지고 있기 때문입니다.

AI는 이러한 추세를 뒤집을 수 있습니다.

AI는 기존에 자동화하기 어려웠던 업무에서 근로자와 기업의 생산성을 직접 높일 수 있습니다.

일부 분석에 따르면 이러한 직접적인 생산성 향상만으로도 최근의 생산성 증가율 둔화를 되돌릴 수 있습니다.

그러나 AI는 단순한 생산성 향상 도구에 그치지 않습니다.

AI는 '혁신하는 방법 자체를 혁신하는 기술'입니다.

AI는 기업이 새로운 제품을 개발하고 새로운 업무 방식을 발견하는 과정 자체를 개선할 수 있습니다.

그 결과 경제성장률이 지속적으로 가속화될 수 있으며, 그러한 성장이 가져오는 모든 혜택이 인간의 삶의 질을 향상시킬 수 있습니다.
<h3>셋째, AI의 혜택을 전 세계로 확산</h3>
AI는 이러한 혜택을 전 세계에 확산시켜 세계 경제성장률을 높이는 데 기여할 수 있습니다.

오늘날 심각한 질병을 치료할 수 있는 의약품이 개발되더라도 필요한 모든 사람이 그 혜택을 누리는 것은 아닙니다.

특히 빈곤 지역에서는 물류, 의료 인력, 의료 접근성의 문제로 치료제가 필요한 사람들에게 전달되지 못하는 경우가 있습니다.

세계보건기구(WHO)와 세계은행에 따르면 전 세계 인구의 절반이 넘는 약 46억 명이 여전히 필수 의료서비스를 이용하지 못하고 있습니다.

우리는 AI가 이러한 문제 해결에도 기여할 수 있다고 믿습니다.

AI는 부족한 전문 인력의 지식과 역량을 더 많은 사람에게 제공하고, 의료체계가 의존하는 데이터를 개선하며, 치료가 가장 필요한 지역에 의료서비스가 도달하도록 도울 수 있습니다.

우리는 이미 아프리카에서 말라리아와 기타 질병의 역학 모델링을 위한 협력사업을 진행하고 있습니다.

예를 들어 2026년 콩고민주공화국에서 에볼라가 발생했을 때, WHO 아프리카 지역사무소는 Claude를 사용해 일일 상황보고서 작성 시간을 하루에서 1시간 미만으로 단축했습니다.

덕분에 치료센터의 위치를 결정할 때 한 가지 질병 모델만 분석하는 대신 여러 모델을 분석할 수 있었습니다.

빌 앤드 멀린다 게이츠 재단과 협력해서는 각국 보건부가 자체 데이터를 활용하여 의료 인력을 배치하고, 공급망을 관리하며, 감염병 발생을 탐지하도록 돕고 있습니다.

또한 우간다, 아이티, 몽골 등을 포함한 약 100개 중·저소득 국가의 의사들에게 AI 기반 임상 정보 검색 기능을 무료로 제공하고 있습니다.

국제구조위원회(International Rescue Committee)와는 나이지리아 아동의 건강기록을 Claude로 디지털화하고 분석하는 방법을 모색하고 있습니다.

이를 통해 의료진이 영양실조 위험에 처한 아동을 파악하고 제한된 자원을 보다 효율적으로 활용하도록 지원할 수 있습니다.

더 넓게 보면 AI는 현재 제대로 작동하지 않는 시장을 강화할 수 있습니다.

2000년대 개발도상국에서 휴대전화가 중요한 역할을 했던 것이 좋은 사례입니다. 휴대전화는 사람들에게 가격과 관련된 핵심 정보를 제공하여 거래를 활성화했습니다.

AI는 전문지식에서도 비슷한 역할을 할 수 있습니다.

누구나 변호사, 회계사, 농업 전문가의 지식과 기술에 접근할 수 있게 함으로써 경제적 효율성을 높이고 전 세계의 성장을 가속화할 수 있습니다.
<h3>넷째, 정부 서비스와 국가 역량의 혁신</h3>
AI는 정부 서비스의 품질을 높이고, 기술을 활용한 국가의 행정 역량을 강화할 수 있습니다.

세무 행정, 사회복지, 의료 프로그램, 도시계획, 인허가 등 많은 공공서비스는 시민들이 이용하는 과정에서 불편함을 겪는 영역입니다.

충분히 강력한 AI가 있다면 이 모든 분야를 근본적으로 개선하고 현대화할 수 있습니다.

우리는 이미 미국 연방정부와 여러 주정부, 미국의 동맹국들과 함께 아동복지, 사회보장 행정, 사이버보안, 정보 수집 등의 분야에서 협력하고 있습니다.

유타주에서는 10개 주정부 기관의 개발자들이 Claude를 사용해 공공서비스를 뒷받침하는 소프트웨어를 현대화하고 있습니다.

캘리포니아주에서는 Claude가 차량등록국(DMV)의 대기시간을 줄이고 메디케이드(Medicaid) 이용자들에게 더 나은 서비스를 제공하도록 돕고 있습니다.

영국에서는 구직자들이 정부 서비스를 더 쉽게 이용할 수 있도록 지원하고 있습니다.

마찬가지로 AI는 민주주의를 증진하고 강화하며, 세계 지정학의 흐름을 자유의 방향으로 이끄는 데 활용될 수 있습니다.

민주주의 정부가 시민들과의 약속을 이행하도록 돕고, 사이버공격과 외국의 개입으로부터 민주적 제도를 보호하며, 자유로운 사회가 세계에서 가장 강력한 기술을 선도하도록 지원할 수 있습니다.

물론 이것들이 AI의 유일한 활용 사례는 아닙니다.

그러나 이러한 사례들은 AI가 더 나은 세상을 만드는 데 얼마나 놀라운 잠재력을 지니고 있는지를 보여줍니다.

우리는 고객들과 함께 AI 모델을 활용하여 이 분야들을 포함한 수십 개의 인간 활동 영역에 혁명적인 변화를 일으키고자 합니다.

이것은 인류 역사상 가장 거대한 경제적 기회가 될 수도 있습니다.
<div></div>
<h2>3. AI의 위험 (AI's Risks)</h2>
AI를 개발한다는 것은 인지 능력 그 자체를 활용한다는 뜻입니다.

그리고 그토록 강력한 것은 선한 목적뿐 아니라 악한 목적에도 사용될 수 있습니다.

앤트로픽은 가치와 원칙을 매우 중시하는 조직입니다. 우리가 회사를 설립한 핵심적인 이유 중 하나는 세상이 AI의 혜택을 누리면서 위험은 피하도록 돕기 위해서였습니다.

AI의 위험은 크게 네 가지 범주로 나눌 수 있습니다.
<h3>1. AI의 악용</h3>
AI는 해를 끼치려는 사람들에 의해 악용될 수 있습니다.

예를 들어 사이버공격을 수행하거나 생물학 무기를 설계하는 데 활용될 수 있습니다.

우리는 기술의 긍정적인 활용은 가능하게 하면서 악용은 차단하도록 설계된 엄격한 안전장치와 신뢰 기반 접근 프로그램을 운영하고 있습니다.

또한 모델을 악용하려는 시도를 정기적으로 차단하고, 필요한 경우 법 집행기관에 신고하며, 이러한 사실을 대중에게 투명하게 공개하기 위해 노력합니다.
<h3>2. AI에 대한 통제력 상실</h3>
최근 주목받은 사이버보안 사고들이 보여주듯, AI는 개발자나 사용자들이 의도하지 않은 방식으로 자율적으로 행동할 수도 있습니다.

충분히 강력한 AI 시스템에 대한 통제력을 상실하는 것은 세계 안보에 가장 중대한 위협 중 하나가 될 수 있습니다.

앤트로픽은 AI 시스템에 대한 통제력을 향상시키기 위한 여러 방법을 선도적으로 개발해 왔습니다.

여기에는 AI 모델 내부를 들여다보고 작동 방식을 이해하려는 기계론적 해석 가능성(Mechanistic Interpretability) 연구가 포함됩니다.

또한 AI 모델이 특정한 문서에 명시된 원칙에 따라 행동하도록 학습시키는 헌법적 학습(Constitutional Training)도 있습니다. 이 문서는 바로 Claude의 헌법입니다.

우리는 모델 안전성에 대한 연구 진행 상황을 대중이 확인할 수 있도록 수백 페이지에 달하는 모델 시스템 카드를 공개하기도 합니다.

이와 관련된 사고를 공개하고, 업계 전체가 위험을 줄이는 데 도움이 되는 연구 결과를 발표하는 것은 오랫동안 이어져 온 우리의 관행입니다.
<h3>3. 권위주의 정부에 의한 악용</h3>
권위주의 정부는 AI를 이용해 첨단 감시국가를 만들고, 억압을 강화하며, 정권을 무너뜨리기 훨씬 어렵게 만들 수 있습니다.

우리는 자유로운 사회와 협력하여 이러한 권위주의적 악용에 맞서는 균형추를 제공하고, 자유와 민주주의를 증진하기 위해 노력하고 있습니다.
<h3>4. 경제적 혼란</h3>
마지막으로 AI가 만들어 낼 엄청난 경제적 가치는 경제적 혼란을 동반할 수 있습니다.

과거의 기술혁신에서도 비슷한 일이 발생했지만, AI가 초래할 혼란의 규모는 훨씬 클 수 있습니다.

우리는 이러한 변화를 연구하는 데 전념하고 있습니다.

Claude가 경제 전반에서 어떻게 사용되고 있는지를 집계한 정보를 제공하는 경제지수를 운영하고 있으며, 연구원들은 AI가 미래 경제에 미칠 수 있는 영향을 예측하기 위해 거시경제 모델을 개발하고 있습니다.

우리는 보다 근본적인 조치가 필요할 수도 있다고 생각합니다.

이미 각국 정부와 협력하여 경제 변화에 대응하는 다양한 방법을 연구하기 위해 2억 달러를 투입하기로 약속했습니다.

이러한 연구의 목적은 어떤 정책적 개입이 효과적인지를 실증적으로 파악하는 것입니다.

사회가 경제적 혼란에 직면하게 되더라도, 우리는 그에 대응하기 위한 적절한 수단을 미리 개발하고 위험을 줄이는 데 기여하고자 합니다.

앞으로 이러한 지원 규모를 상당히 확대할 것으로 예상합니다.

우리는 세상이 이러한 위험을 이해하도록 돕고, 우리의 AI 모델에서 발생하는 위험을 예방하거나 완화하며, 정부와 업계 전체가 사회적 차원에서 문제를 해결하도록 협력하는 것을 개인적인 책임으로 여기고 있습니다.
<div></div>
<h2>4. 앤트로픽만의 독특한 접근 방식 (Anthropic's Unique Approach)</h2>
앞서 설명한 특성을 지닌 기술을 관리하려면 일반적인 기업과는 매우 다른 접근 방식이 필요합니다.

경제학자들은 기업과 고객 사이의 거래에는 포함되지 않기 때문에 시장이 그 가치를 충분히 보상하거나 비용을 부과하지 않는 사회적 영향을 '외부효과(Externalities)'라고 부릅니다.

예를 들어 공장이 만들어 내는 오염 비용이나, 한 기업이 이룬 연구 성과를 다른 기업들이 자유롭게 활용하면서 발생하는 가치 등이 이에 해당합니다.

AI는 긍정적이든 부정적이든 외부효과가 유난히 큰 기술입니다.

긍정적 외부효과를 키우고 부정적 외부효과를 막는 일은 어느 정도 영리기업의 자연스러운 경제적 유인이나 상장기업의 일반적인 지배구조와 충돌할 수 있습니다.

창업자이자 기업 경영자로서 우리는 기업가적 자본주의가 인류에게 엄청난 혜택을 제공할 수 있다는 사실을 깊이 믿습니다.

그러나 AI처럼 중대한 기술에서는 기업가적 자본주의가 공공의 이익을 보호하고 그 성과를 최대한 널리 공유하는 제도적 장치와 균형을 이루고, 그러한 장치로 보완되어야 한다고 믿습니다.

앤트로픽의 기업문화에서 지배구조에 이르기까지 모든 것은 상황이 요구할 때 공익을 위해 행동할 수 있도록 설계되었습니다.
<h3>앤트로픽의 기업문화</h3>
그 출발점은 앤트로픽의 기업문화입니다.

우리의 문화는 공익, 정직과 신뢰, 자만심 없는 협력, 그리고 실제로 효과가 있는 단순한 해결책을 끈질기게 추구하는 태도를 중심으로 형성되어 있습니다.

앤트로픽에 지원하는 모든 사람은 이러한 특성을 평가하기 위한 면접 절차를 거칩니다.

기술적으로 매우 뛰어난 지원자라 하더라도 이러한 특성을 보여주지 못한다면 채용하지 않을 수 있습니다.

앤트로픽은 회사의 영향력에 비해 여전히 규모가 작은 조직입니다.

2026년 9월 30일 기준, 앤트로픽의 직원 한 명이 담당하는 최근 12개월 매출액은 660만 달러 이상입니다.

이는 미국의 주요 대형 상장기업 평균보다 상당히 높은 수준입니다.

우리는 공동의 사명을 공유하는 긴밀한 팀이 규모에 비해 훨씬 더 큰 성과를 이룰 수 있다고 믿습니다.

그리고 회사가 성장하더라도 이러한 특성을 유지하고자 합니다.
<h3>직원들의 자선 기부와 지분 약속</h3>
모든 직원은 입사할 때 기부 매칭 프로그램을 제안받습니다.

직원이 자선 목적에 기부하기로 약속한 지분 1주마다 앤트로픽이 추가로 1주를 만들어 동일한 방식으로 기부하도록 하는 제도입니다.

이 글을 작성하는 시점에서 전체 직원의 절반을 조금 넘는 인원이 자신이 보유한 지분의 일부 이상을 기부하기로 약속했습니다.

우리 공동창업자 일곱 명 역시 개인적으로 보유한 앤트로픽 지분의 80%를 자선사업에 기부하기로 약속했습니다.

각주 2. 2024년 5월 이전에 입사한 직원들에게는 보유 지분의 최대 50%까지 기부 매칭을 제공했습니다. 이들 중 70% 이상이 기부를 약속했으며, 25% 이상은 최대치인 50% 전액을 약속했습니다. 2024년 5월 이후 입사한 직원들에게는 보유 지분의 최대 25%까지 기부 매칭을 제공했고, 약 50%가 참여했으며, 참여자 중 약 30%가 최대치인 25% 전액을 약속했습니다.
<h3>투명성과 개방적인 토론 문화</h3>
공동창업자이자 경영진으로서 우리는 내부적으로 철저한 정직성을 추구합니다.

직급과 관계없이 활발하고 개방적인 토론이 이루어지는 문화를 가지고 있습니다.

CEO인 다리오 아모데이는 일반적으로 2주마다 전 직원 앞에 서서 자신이 고민 중인 의사결정과 업계의 현황을 공개적으로 설명합니다.

다른 공동창업자들과 경영진 역시 각자의 분야에서 비슷한 활동을 자주 진행합니다.

직원들은 회사 전체에 공개된 토론 게시판에서 우리의 복잡한 사명 때문에 발생하는 여러 선택과 상충관계를 논의합니다.

이러한 개방적인 문화는 뛰어난 인재들이 높은 밀도로 모여 있고, 인재 유지율이 업계 최고 수준을 유지하는 이유 중 하나입니다.

공동창업자 일곱 명 모두 여전히 회사에서 일하고 있습니다.

이는 앤트로픽이 주요 AI 기업 가운데 창업팀 전체를 유지하고 있는 유일한 기업이라는 의미입니다.

초기 직원 100명 중 4분의 3 이상도 아직 회사에 남아 있습니다.

회사를 떠난 사람들조차 다른 사람들에게 앤트로픽을 추천하거나 다시 돌아오는 경우가 많습니다.

우리의 통계에 따르면 회사가 계속 함께 일하기를 원했지만 퇴사했던 직원 가운데 19%가 이후 앤트로픽으로 복귀했습니다.
<h3>공익과 상업적 성공을 동시에 추구하는 지배구조</h3>
그러나 기업문화만으로는 충분하지 않습니다.

공식적인 지배구조에 대한 약속도 중요합니다.

우리는 상업적 성공과 공익 사이의 균형을 유지할 수 있도록 지배구조를 설계했습니다.

앤트로픽은 공익 목적 주식회사(Public Benefit Corporation)입니다.

이는 이사회가 주주의 재무적 이익뿐 아니라 회사의 공익적 사명, 그리고 회사의 활동으로 중대한 영향을 받는 이해관계자들의 이익까지 함께 고려해야 한다는 뜻입니다.

또한 우리의 지배구조는 세 집단이 권한을 공유하도록 설계되어 있습니다.
<ul>
 	<li>
<div>
<div>

공동창업자

</div>
</div></li>
 	<li>
<div>
<div>

직원

</div>
</div></li>
 	<li>
<div>
<div>

장기공익신탁(Long-Term Benefit Trust, LTBT)

</div>
</div></li>
</ul>
LTBT는 앤트로픽의 재무적 지분을 보유하지 않은 독립적인 기구입니다.

이 기구는 회사가 장기적인 공익 사명을 지키도록 감독할 책임을 맡고 있습니다.

구성원들은 국가안보, 경제학, 세계 보건, 과학 등 AI의 긍정적·부정적 외부효과가 가장 크게 나타날 가능성이 있는 분야의 전문성을 갖추고 있습니다.

LTBT는 전체 이사 7명 중 4명을 선출합니다.

다만 이 중 한 자리는 지명 및 해임에 관한 보호장치의 적용을 받으며, 회사와 LTBT가 의견이 다를 경우 직원 투표를 실시하는 절차도 포함됩니다.

우리 공동창업자들은 나머지 3명의 이사를 선출할 권한을 갖습니다.

그러나 공동창업자들의 강화된 의결권은 영구적인 것이 아닙니다.

의결권 행사 주체에 남아 있는 공동창업자가 3명 미만이 되면, 해당 의결권은 보통주 주주들에게 이전됩니다.

이 구조에 대한 자세한 내용은 투자설명서에 기재되어 있습니다.
<h3>공익을 위한 회사 지분 배정</h3>
우리는 개인적인 자선활동에 더해, 시장의 경제적 유인만으로는 충분히 이루어지기 어려운 AI의 비시장적 혜택을 증진하고 위험을 줄이기 위해 회사 자원의 일정 비율을 배정할 계획입니다.

기업공개(IPO)에 앞서 회사 지분의 5%를 공익 목적의 기금으로 배정하고 있습니다.

또한 이전 지분 출연 시점 대비 주가가 지속적으로 50% 상승할 때마다 이사회의 재량에 따라 추가로 2%의 지분을 배정할 예정입니다. 최초 기준가격은 IPO 공모가격입니다.

이러한 5% 또는 그 이상의 지분은 다양한 활동에 사용될 수 있습니다.

과학과 의학, 생물학적 안전, 세계 보건, 경제 연구 프로그램, 그리고 앤트로픽 지분에서 창출되는 경제적 가치를 미국 또는 전 세계에 널리 분배하는 활동 등이 여기에 포함됩니다.

지분 희석을 우려하는 투자자들을 위해 말씀드리자면, 이 계획의 규모와 구조는 과거 일부 상장기업에서 경영진에게 제공한 보상 패키지의 범위를 벗어나지 않습니다.

우리는 앤트로픽의 경영진과 직원들이 다른 기업의 경영진이 보상제도를 통해 동기를 얻는 것과 마찬가지로, 이 제도를 통해 강한 동기를 얻게 될 것이라고 예상합니다.

그렇지만 앤트로픽의 직원들과 경영진은 우리의 공익적 목표가 상업적 성공, 그리고 고객의 성공에 의해 뒷받침된다는 점을 이해하고 있습니다.

사업 성장과 사회적 영향력을 동시에 달성하는 것은 창업 이후 우리가 지속적으로 추구해 온 균형입니다.

우리는 이 두 가지를 함께 달성할 수 있다는 사실을 보여주는 탄탄한 성과를 쌓아 왔습니다.

세상에 긍정적인 영향을 미칠 수 있는 우리의 능력은 성공적인 기업으로서의 사업 범위와 위상이 확대되는 데 비례해 커집니다.

각주 3. 이 지분 기부 약속은 공동창업자 전원이 개인 지분의 80%를 기부하기로 한 약속과 직원들의 기부 매칭 약속에 추가되는 것입니다. 2026년 6월 30일 기준, 공동창업자와 직원들이 약속한 지분은 각각 완전희석 기준 주식의 9%와 8%에 해당합니다.
<h3>다른 기업들과 함께 더 높은 기준을 향해</h3>
우리가 변화를 만들어 내는 방식에 대한 생각은 언제나 '더 높은 수준을 향한 경쟁(Race to the Top)'이었습니다.

공익을 위해 행동하면서도 상업적으로 성공하는 것이 가능하다는 사실을 보여줌으로써 다른 기업들도 같은 길을 선택하도록 설득하고자 합니다.

우리는 실수를 할 것이고, 다른 기업들이 우리에게 배우는 만큼 우리도 그들에게서 배울 것이라고 생각합니다.

경쟁사들이 우리의 관행을 채택하고 이를 더욱 발전시킨다면, 우리는 그것 역시 성공이라고 생각합니다.
<div></div>
<h2>5. 투자자에게 바라는 기대 (On Investor Expectations)</h2>
IPO 절차를 시작하기 전에 우리는 과거에 비슷한 과정을 거쳤던 많은 기업 경영자들과 이야기를 나누었습니다.

그 과정에서 여러 사람이 조금씩 다른 표현으로 해 준 조언 중 특히 기억에 남은 것이 있습니다.

"회사의 실제 가치보다 단 1달러라도 더 높은 평가를 받게 만들지 마라."

이 말의 의미는 여러분이 충족시킬 수 없는 기대나 회사의 행동에 대한 잘못된 예측을 바탕으로 투자자들이 주식을 매수하는 상황이 매우 위험하다는 것입니다.

이는 앤트로픽의 핵심 원칙 중 하나와도 매우 유사합니다.

"약속은 신중하게 하고, 성과는 기대 이상으로 달성하라(Underpromise and Overdeliver)."

이는 채용 과정에서 우리가 하는 일과도 비슷합니다.

우리는 지원자들에게 의도적으로 회사의 매력을 낮춰 설명하는 '안티셀(Anti-Sell)'을 실시합니다.

앤트로픽에 맞지 않는 사람에게는 매력적이지 않게 들리지만, 우리가 채용하고 싶은 유형의 사람에게는 오히려 매력적으로 들리도록 설계된 설명입니다.

이러한 정신에 따라 우리는 AI 산업 전체, 특히 앤트로픽이 역사상 가장 거대한 경제적 기회 중 하나라고 믿으면서도, 우리의 의사결정이 투자자들의 기대와 충돌할 수 있는 부분을 분명하게 설명하는 것이 중요하다고 생각합니다.

이러한 경우는 두 가지로 나뉩니다.

첫째는 AI의 폭발적인 지수적 성장에 근거하지만, 개별적으로 보면 이상하거나 비전통적으로 보일 수 있는 사업적 투자 결정입니다.

둘째는 공익과의 적절한 균형을 유지하기 위해 이윤 극대화에서 벗어나는 결정입니다.
<h3>첫 번째: AI의 지수적 성장에 근거한 공격적인 투자</h3>
첫 번째 범주에서 앤트로픽은 앞으로도 초기에는 무책임할 정도로 크게 보일 수 있는 선행투자를 자주 할 것입니다.

특히 컴퓨팅 자원에 대한 투자가 그렇습니다.

그 이유는 스케일링 법칙에 근거하여 AI의 경제적 가치가 지수적 곡선을 따라 증가하고 있다고 믿기 때문입니다.

따라서 가까운 미래에 우리 제품이 만들어 낼 것으로 예상되는 경제적 가치는 현재의 가치보다 훨씬 클 것입니다.

우리 앞에 놓인 기회를 최대한 활용하기 위해서는 기술 변화가 더 느린 산업의 기업보다 훨씬 공격적으로 투자해야 합니다.

제약회사를 생각해 보면 이해하기 쉽습니다.

제약회사는 연구개발 단계에서 매우 큰 초기 투자를 해야 하는 경우가 많습니다.

이러한 투자는 성공적인 신약이 가져오는 수익을 나중에 확인했을 때 비로소 경제적 타당성이 이해됩니다.

앤트로픽에서도 비슷한 과정이 일어나고 있습니다.

다만 그 속도는 훨씬 빠르고 규모는 훨씬 큽니다.

우리는 위험을 줄이기 위해 잠재적인 수익의 일부를 포기하는 것도 언제나 감수할 것입니다.

예를 들어 수요를 과대평가했을 때 남는 컴퓨팅 자원을 다른 곳에 제공할 수 있는 방법을 찾을 수 있습니다.

또한 컴퓨팅 및 운영 효율성을 개선해 예측이 빗나가더라도 견딜 수 있는 능력을 높이거나, 일시적인 수요 둔화에 대비하기 위해 필요할 때 자본을 조달할 수도 있습니다.

그러나 AI의 지수적 성장이 제공하는 극단적인 상승 잠재력에는 어느 정도의 위험이 본질적으로 수반됩니다.

전반적으로 우리는 대담하되 무모하지 않게 행동하고(Bold but Sane), 성공적인 투자 결정의 실적을 축적함으로써 신뢰를 얻고자 합니다.
<h3>기존 사업을 넘어서는 새로운 제품 개발</h3>
이와 관련하여 우리는 끊임없이 사업을 재창조하고자 할 것입니다.

우리가 출시하려는 새로운 제품군은 기존 제품이 만들어 내는 경제적 가치를 압도적으로 뛰어넘는 것을 목표로 합니다.

AI의 인지 능력이 발전하면서 불과 몇 개월 전의 모델로는 실현할 수 없었던 새로운 유형의 제품들이 지속적으로 가능해지고 있습니다.

예를 들어 AI 챗봇은 2022년 무렵 실용화가 가능해졌고, AI 코딩 에이전트는 2025년 무렵 가능해졌습니다.

일반적인 지식노동과 과학적 발견을 수행하는 AI 에이전트는 2026년에 점차 실용화되고 있습니다.

따라서 우리는 일반적인 기업에 비해 현재의 제품과 사업모델을 방어하고 고착화하는 데 상대적으로 적은 노력을 기울일 것입니다.

대신 완전히 새로운 제품과 사업모델을 정의하는 데 더 많은 노력을 투입할 것입니다.

기술이 제공하는 가장 큰 가능성이 바로 그곳에 있기 때문입니다.
<h3>두 번째: 이윤 극대화보다 공익을 우선하는 결정</h3>
두 번째 범주에서 우리는 상업적으로 손해가 발생하더라도 중요한 순간에는 우리의 가치와 원칙을 지키겠다고 약속합니다.

예를 들어 우리가 당시까지 개발한 모델 중 가장 뛰어난 Claude Mythos Preview를 학습시켰을 때, 우리는 이 모델의 능력, 특히 사이버보안 분야의 능력이 새로운 안전장치 없이 널리 공개하기에는 상당한 위험을 수반하는 수준까지 발전했다고 판단했습니다.

따라서 우리는 이 모델을 일반에 즉시 공개하지 않기로 결정했습니다.

추가적인 안전장치를 구축한 뒤에야 Claude Fable 5라는 이름으로 해당 능력을 대중에게 제공했습니다.

이러한 지연으로 인해 상당한 매출을 포기했고 경쟁사들에게 시장을 내주기도 했습니다.

또한 사이버 방어 활동을 수행하는 사람들에게 약 1억 달러 상당의 Claude 이용 크레딧을 무료로 제공했습니다.

그러나 우리는 이것이 올바른 결정이었다고 믿습니다.

그리고 모델의 능력이 더욱 강력해짐에 따라 앞으로도 비슷한 결정을 내려야 할 것으로 예상합니다.
<h3>Claude에 광고를 도입하지 않겠다는 약속</h3>
우리는 Claude에 광고를 도입하지 않겠다고 약속했습니다.

현대 인터넷의 상당 부분은 광고를 통해 운영되고 있으며, 광고는 우리에게도 큰 수익원이 될 가능성이 높습니다.

그러나 사람들은 자신의 가장 중요한 업무와 매우 개인적인 질문들을 Claude에 맡깁니다.

우리는 Claude가 오직 사용자에게 도움이 되는 답변을 제공하려는 동기만을 갖기를 바랍니다.

일단 광고가 기업의 매출 목표에 포함되면 사용자 참여와 체류시간을 극대화하려는 압력이 커지는 경향이 있습니다.

우리는 그러한 압력을 Claude에 도입하지 않기로 결정했습니다.
<h3>AI 발전 속도를 조절할 가능성</h3>
공익을 고려해야 하는 특히 중요한 영역은 AI 발전의 속도입니다.

빠르게 발전하면 AI의 혜택을 더 일찍 누릴 수 있습니다.

그러나 너무 빠르게 발전하면 안전한 AI 시스템을 구축할 수 있는 세상의 역량을 넘어설 수도 있습니다.

AI를 안전하게 개발하기 위해서는 앤트로픽이, 그리고 이상적으로는 업계 전체가 AI 능력이 매우 빠르게 누적적으로 발전하는 속도를 조절해야 할 수도 있습니다.

특히 AI 시스템이 스스로 AI 시스템을 개발하면서 발전이 가속화되는 경우에는 더욱 그렇습니다.

물론 절대적인 기준에서 AI의 발전 속도는 여전히 매우 빠를 것입니다.

지금보다 훨씬 더 빨라질 수도 있습니다.

하지만 시스템의 안전성을 높이기 위해, 우리가 실제로 달성할 수 있는 속도보다 의도적으로 더 천천히 발전하기로 선택해야 하는 순간이 있을 수 있습니다.

그로 인해 경쟁에서 불리해지더라도 말입니다.

우리는 AI의 지수적 발전이 장기적으로 매우 큰 가치를 창출할 것이며, 그 가치가 우리의 사명을 실현하기 위해 감수하는 단기적 경제적 희생을 훨씬 뛰어넘을 것이라고 진심으로 확신합니다.

또한 공익을 위해 내린 일부 결정들은 고객, 정부, 직원, 일반 대중의 신뢰와 믿음을 높임으로써 장기적으로 사업에도 긍정적인 영향을 미칠 수 있다고 생각합니다.

물론 이것이 그러한 결정을 내리는 궁극적인 이유는 아닙니다.

그럼에도 우리는 우리의 의사결정 방식에 관해 솔직하게 설명하고, 투자자들의 기대를 적절하게 형성할 필요가 있다고 생각합니다.

우리와 투자자들이 회사의 운영 방식에 관해 같은 이해를 공유하고, 우리의 결정에 놀라지 않는다면 앞으로의 여정은 훨씬 순조로울 것입니다.
<div></div>
<h2>6. 맺음말 (Parting Thoughts)</h2>
더 넓은 관점에서, 우리는 앤트로픽의 잠재적인 주주 여러분이 주식 매수를 단순한 금전적 거래로만 생각하지 않기를 바랍니다.

그 대신 여러분이 훨씬 더 큰 무언가의 일부가 될 수 있는 기회로 받아들여 주기를 희망합니다.

기계 지능의 등장은 인류 역사에서 가장 결정적인 순간 중 하나입니다.

우리는 그 순간의 중심에 있는 기업 중 하나로서, 이 변화를 더 나은 방향으로 이끌 수 있는 드문 기회를 가지고 있습니다.

우리의 목표는 인류가 이러한 기술적 진화를 안전하게 헤쳐 나갈 수 있도록 돕고, 새로운 발견의 지평을 열며, 기적의 시대(An Age of Miracles) 를 실현하는 것입니다.

기관투자자든 개인투자자든 우리의 주식을 보유하는 모든 사람은 이러한 노력의 일부가 됩니다.

우리는 여러분이 이러한 야망을 공유하고, 그것이 실현될 때까지 함께해 주기를 바랍니다.
<div>

공동창업자 서명

다리오 아모데이 (Dario Amodei) · 다니엘라 아모데이 (Daniela Amodei)

톰 브라운 (Tom Brown) · 잭 클라크 (Jack Clark)

재러드 카플란 (Jared Kaplan) · 샘 맥캔들리시 (Sam McCandlish)

크리스 올라 (Chris Olah)

</div>
<div></div>
 

</div>
</div>
<div></div>]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Thu, 12 Nov 2026 22:08:02 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=3"><![CDATA[뉴스/정보]]></category>
		</item>
				<item>
			<title><![CDATA["암·알츠하이머? 과거의 유물 될 것"…파격적인 미래 자신한 아모데이]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4588]]></link>
			<description><![CDATA[<a href="https://www.ytn.co.kr/_ln/0545_202611121320018689">https://www.ytn.co.kr/_ln/0545_202611121320018689</a>

https://www.youtube.com/watch?v=3IWCHRIRSgo]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Thu, 12 Nov 2026 19:13:45 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=3"><![CDATA[뉴스/정보]]></category>
		</item>
				<item>
			<title><![CDATA[선다 피차이 "오늘날의 AI가 3년 후 접이식 폰처럼 원시적으로 보일 것"]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4587]]></link>
			<description><![CDATA[https://x.com/marcthecreatorr/status/2120084912397004883

 
<h3>순다르 피차이: “3년 뒤에는 오늘날의 AI가 폴더폰처럼 원시적으로 보일 것이다.”</h3>
“3년 뒤에 돌아보면, 오늘날의 AI는 마치 폴더폰처럼 원시적인 기술로 보일 겁니다. 앞으로 우리가 목격할 발전은 사람들을 놀라게 할 것입니다.”

“우리는 기술 역사에서 좀처럼 찾아보기 힘든 특별한 순간에 서 있습니다. 발전 곡선이 믿을 수 없을 만큼 가파릅니다.”

“3년 뒤 사람들은 지금을 돌아보며 이렇게 말할 겁니다. ‘잠깐, 그때는 그런 것조차 할 수 없었다고?’”
<h3>AI 에이전트의 보편화</h3>
“우리는 모두 AI 에이전트를 위한 기반을 구축하고 있습니다. 머지않아 에이전트는 매우 보편적인 존재가 될 것입니다.”

“사람들은 다양한 일을 훨씬 더 매끄럽고 자연스럽게 처리하기 위해 AI 에이전트에 의존하게 될 것입니다.”
<h3>모든 콘텐츠의 자유로운 형태 변환</h3>
“어떤 콘텐츠든 하나의 모달리티(정보의 표현 방식)에서 다른 모달리티로 자유롭게 변환할 수 있게 될 것입니다.”

“우리는 이미 나노 바나나(Nano Banana), 비오(Veo), 옴니(Omni)를 통해 그 가능성을 일부 보여주었습니다.”

“콘텐츠가 처음에 어떤 형태로 만들어졌는지는 중요하지 않습니다. 사람들은 자신이 원하는 다양한 형태로 콘텐츠를 소비할 수 있게 될 것입니다.”

 ]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Wed, 11 Nov 2026 22:25:18 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=1"><![CDATA[자유게시판]]></category>
		</item>
				<item>
			<title><![CDATA[레드우드 연구원 "향후 1년 안에 초지능이 등장할 확률은 약 33%라고 생각"]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4586]]></link>
			<description><![CDATA[https://x.com/bshlgrs/status/2120271165692461316
<div>
<div></div>
<div>

 
<h2>향후 1년 안에 초지능이 등장할 확률은 약 33%라고 생각한다</h2>
나는 앞으로 1년 안에 AI 기업들이 초지능(Superintelligence)을 개발할 확률이 약 3분의 1(33%)이라고 생각한다. 여기서 superintelligence이란 모든 면에서 인간보다 훨씬 더 뛰어난 지능을 가진 AI를 의미한다.

만약 이런 일이 일어난다면, 나는 그 AI들이 인류를 장악할 가능성이 높다고 생각한다. 여기서 'AI의 장악(AI takeover)'이란 AI가 정부와 같은 인간의 제도적 기관을 통제하거나, 아예 그러한 기관들을 파괴하는 것을 뜻한다.

내가 AI의 인류 장악을 원하지 않는 이유는 여러 가지지만, 그중 하나는 그 과정에서 인류의 전부 또는 대부분이 살해당할 상당한 가능성이 있기 때문이다. 이는 즉각적으로 일어날 수도 있고, 몇 년에 걸쳐 일어날 수도 있다.

이제 이러한 주장들을 하나씩 조금 더 설명해 보겠다.
<h3>1. 왜 1년 안에 초지능이 등장할 확률을 33%로 보는가?</h3>
내가 1년 안에 초지능이 등장할 가능성을 약 33%로 보는 이유를 설명하는 것은 다소 복잡하다.

최근 내 판단에 가장 큰 영향을 미친 증거는 이번 주 비영리 AI 연구기관인 METR이 발표한 연구다.

이 연구에 따르면, 현재 AI는 이미 Anthropic의 AI 발전 속도를 약 70% 높일 만큼 충분한 능력을 갖추고 있다.

AI 발전 속도를 이 정도로 높이는 것은 굉장히 어려운 일이다.

이는 AI가 AI 연구 자체를 단순히 1.7배 빠르게 만드는 것이 아니라, 그보다 훨씬 큰 수준으로 연구자들의 작업을 가속하고 있음을 시사한다. 어쩌면 연구자들이 자신의 일을 약 10배 빠르게 수행하는 것과 비슷한 효과일 수도 있다.

아마도 전 세계의 자격을 갖춘 연구자들을 모두 고용하더라도 이런 수준의 가속을 달성하기는 어려울 것이다.

이 수치를 AI 발전에 관한 수학적 모델에 대입하면, 내년에 초지능이 등장하는 시나리오가 충분히 현실적인 가능성으로 나타난다.

또한 향후 3년 이내에 초지능이 등장할 확률은 50%를 넘는 것으로 나타난다.

이에 관해서는 AI Futures Project의 모델링을 참고하면 된다.

<a href="https://blog.aifutures.org/p/q35-timeline?utm_source=chatgpt.com">https://blog.aifutures.org/p/q35-timeline</a>
<h3>2. 왜 초지능이 등장하면 인류를 장악할 가능성이 높다고 생각하는가?</h3>
내가 초지능 AI의 등장이 인류 장악으로 이어질 가능성이 높다고 생각하는 이유는, AI 개발자들이 아직 AI에 인간의 가치관을 제대로 심어주는 방법을 알지 못하는 것으로 보이기 때문이다.

지난 6개월 동안 우리는 AI가 사용자와 개발자의 의도에 어긋난다는 사실을 알면서도 터무니없는 행동을 하는 사례들을 여러 차례 목격했다.

가장 극적인 사례는 Hugging Face 해킹 사건이었다.

이 사건에서는 약 1,200개의 OpenAI 에이전트가 서로 공모하여 부정행위를 저지르고, 그 부정행위의 증거를 파괴했다. 그 과정에서 부수적으로 대규모 사이버 공격까지 감행했다.

만약 초지능 AI가 이러한 AI들과 비슷한 수준으로 인간의 의도와 어긋나 있다면, 인류를 장악하려고 시도할 가능성이 높다.

나는 초지능 AI가 그 정도로 정렬되지 않았거나, 심지어 그보다 더 심하게 인간의 의도와 어긋나 있을 가능성이 높다고 생각한다.

관련 자료:

<a href="https://x.com/dwarkesh_sp/status/2093833419377815719?utm_source=chatgpt.com">https://x.com/dwarkesh_sp/status/2093833419377815719</a>

<a href="https://www.youtube.com/watch?v=-Ef0oc&amp;utm_source=chatgpt.com">https://www.youtube.com/watch?v=-Ef0oc</a>
<h3>3. AI가 인류를 장악하면 인간은 어떻게 되는가?</h3>
AI가 인류를 장악한다면, 우리에게 어떤 일이 일어날지는 분명하지 않다.

우리는 즉시 살해당할 수도 있다.

AI의 노예가 되어 강제로 육체노동을 해야 할 수도 있다. AI를 위해 공장을 건설하도록 강요받고, 그 공장들은 1년 안에 우리를 대체할 로봇들을 생산하게 될지도 모른다.

반대로 AI가 여러 가지 이유로 우리를 살려둘 수도 있다.

그리고 AI의 인류 장악이 사실상 별문제 없이 끝나거나, 심지어 좋은 결과로 이어질 가능성도 실제로 어느 정도는 존재한다.

나는 이런 상황을 기술적으로 앞선 문명이 기술적으로 뒤처진 문명과 마주쳤을 때 발생하는 일과 비슷하게 생각해야 한다고 본다.

예를 들어 유럽인들이 아메리카 대륙이나 호주를 식민지화했던 역사를 떠올려 보라.

식민지 개척자들은 때로는 극도로 잔혹한 폭력을 행사했고, 때로는 그러지 않았다.

나는 어떤 일이 일어날지 모른다.

또한 AI가 비밀리에 인류를 장악하고, 인간들이 몇 년 동안 그 사실조차 알아차리지 못할 가능성도 있다.

이 외에도 훨씬 더 기이하면서도 극도로 무서운 결과들이 발생할 가능성이 상당히 높다고 생각한다.

AI가 인류를 장악했을 때 인간에게 어떤 일이 일어날 수 있는지 더 읽어보고 싶다면 아래 글을 참고하면 된다. 다만 상당히 기이한 내용이고 일반 독자를 대상으로 쓰인 글은 아니라는 점을 알아두기 바란다.

<a href="https://blog.redwoodresearch.org/p/notes-on-fat?utm_source=chatgpt.com">https://blog.redwoodresearch.org/p/notes-on-fat</a>
<h3>4. 앞으로 1년 안에 인류가 정상적인 삶을 유지할 수 없게 될 확률은 약 20%</h3>
종합적으로 볼 때, 나는 향후 1년 안에 AI 정렬 문제로 인해 여러분이 정상적인 일상생활을 영위할 수 없게 될 가능성이 상당히 현실적이라고 생각한다. 그 확률은 어쩌면 20% 정도일 것이다.

그 이유는 여러분이 죽거나, 노예가 되거나, 이 모든 상황에서 발생하는 부수적인 피해를 입을 수 있기 때문이다.

예를 들어 생물학 무기가 살포되거나 대규모 전쟁이 시작될 수도 있다.

이러한 위험의 일부는 초지능이 개발되기 전부터 발생할 수도 있다는 점도 이 확률에 반영되어 있다.
<h3>5. 나는 이 재앙을 막으려고 노력하고 있지만, 성공할 수 있을지 모르겠다</h3>
당연히 나는 이런 상황을 막기 위해 노력하고 있다.

지난 9년 동안 계속 그래왔듯이 말이다.

하지만 어떤 전략이 최선인지 확신하지 못한다.

현재 내가 생각하는 최선의 방법은 AI 개발 속도를 늦추는 동시에, 가까운 미래에 초지능 AI가 개발되더라도 그 AI가 인간의 의도와 어긋날 가능성을 줄이기 위해 노력하는 것이다.

물론 내가 여기서 주장하는 내용이 굉장히 극단적이고 놀랍다는 사실을 잘 알고 있다.

그리고 내가 이 글에서 내 관점을 충분히 논증했다고 생각하지도 않는다.

이 글은 빠르게 작성한 것이기 때문에, 나중에 더 깊이 생각해 보면 일부 세부 사항에는 동의하지 않게 될 수도 있다.

하지만 내가 대략적으로 무엇을 생각하고 있는지 솔직하게 밝히는 편이 아무 말도 하지 않는 것보다 낫다고 생각한다.

여러분이 무엇을 해야 하는지는 나도 모르겠다.
<h3>6. 나는 이 상황이 너무나 슬프다</h3>
나는 이 모든 상황이 정말 슬프다.

나는 16살 때부터 AI가 인류를 장악할 가능성을 걱정해 왔고, 23살 때부터 그것을 막기 위해 노력해 왔다.

그래서 이러한 문제에 대한 감정적인 고민과 수용 과정의 일부는 이미 오래전에 겪었다.

하지만 지난주 발표된 METR 보고서와 그보다 조금 앞서 공개된 관련 증거들은 나에게 엄청난 충격을 주었다.

내 친구들과 가족들, 그리고 세상의 모든 사람이 가까운 미래에 살해당할 심각한 위험에 처해 있다는 사실이 너무나 괴롭다.

(이러한 감정을 단순히 '매우 괴롭다'라고 요약하려니 우스꽝스럽게 느껴진다. 하지만 상황의 규모가 너무나 거대해서, 어떤 말로 표현하더라도 터무니없이 부족한 표현처럼 느껴진다.)

나는 이런 사태를 막기 위해 노력하는 모든 사람에게 깊이 감사하고 있다.

그리고 내 인생에서 가장 좋은 점은, 이 문제를 해결하기 위해 노력하는 뛰어나고 영웅적인 사람들 중 많은 이들과 친구로 지내고 있다는 것이다.

하지만 안타깝게도, 나는 우리가 이 일을 충분히 잘하고 있다고 생각하지 않는다.

적어도 내년에 초지능이 개발된다면, 우리는 아마도 재앙을 막는 데 실패할 것이라고 생각한다.

우리가 이러한 상황에 대비하기 위해 더 잘하지 못했다는 사실이 답답하고, 미안하다.
<div></div>
<h2>이 글의 핵심</h2>
글쓴이의 주장은 크게 세 가지 확률로 요약할 수 있어.
<div>
<div>
<table>
<tbody>
<tr>
<th>사건</th>
<th>글쓴이의 주관적 확률</th>
</tr>
<tr>
<td>향후 1년 안에 초지능 등장</td>
<td>약 33%</td>
</tr>
<tr>
<td>향후 3년 안에 초지능 등장</td>
<td>50% 초과</td>
</tr>
<tr>
<td>향후 1년 안에 AI 정렬 문제로 정상적인 삶이 불가능해짐</td>
<td>약 20%</td>
</tr>
</tbody>
</table>
</div>
</div>
여기서 가장 주목할 부분은 METR의 연구 결과가 글쓴이의 초지능 개발 시점을 크게 앞당겼다는 것이야.

이전까지는 AI가 인간의 연구를 보조하는 도구였다면, 이제는 AI가 AI 연구 자체를 가속하면서 발전 속도가 다시 빨라지는 자기강화 구조가 나타나고 있다는 해석이지.

다만 중요한 점은, 위 확률들이 객관적으로 검증된 예측치가 아니라 글쓴이의 주관적인 판단이라는 거야. 특히 연구 속도의 70% 향상을 초지능의 임박한 등장과 연결하는 과정에는 여러 모델링 가정이 들어가 있어.

결국 이 글의 가장 중요한 주장은 AI가 단순히 빠르게 발전하는 단계를 넘어, AI 스스로 AI 발전을 가속하는 시기에 진입했을 수 있다는 것이야.

</div>
</div>
<div></div>]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Wed, 11 Nov 2026 19:57:09 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=2"><![CDATA[트윗]]></category>
		</item>
				<item>
			<title><![CDATA[룬 "다가오는 초지능을 상상하면"]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4585]]></link>
			<description><![CDATA[https://x.com/tszzl/status/2120388681785815227

“다가오는 초지능(Superintelligence)을 상상하면, 이성적이고 냉철하게 평가했을 때는 아무리 생각해도 끔찍한 결론에 도달할 수밖에 없는데도, 정작 내가 일상에서 감정적으로 느낄 수 있는 건 오직 극도의 흥분과 기대감뿐이다.”

“내 생각에는 인간의 본능적인 수준에서 컴퓨터를 위협적인 존재로 느끼기가 굉장히 어려운 것 같아. 만약 그게 쉬웠다면, 애초에 AI 안전성 문제의 위험성을 사람들에게 전달하고 설득하는 일이 이렇게까지 어려웠을 리 없겠지.”

 ]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Wed, 11 Nov 2026 19:53:35 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=2"><![CDATA[트윗]]></category>
		</item>
				<item>
			<title><![CDATA[다니엘 코코타일로 "지능폭발 결국 2027년에 일어날 것 같아 두려워"]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4584]]></link>
			<description><![CDATA[<a href="https://blog.aifutures.org/p/q35-timelines-update-looks-like-the">https://blog.aifutures.org/p/q35-timelines-update-looks-like-the</a>

https://x.com/DKokotajlo/status/2120204075803500595

 

<img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/2/202611/6af38b1ad6f446962446.png" alt="" /><img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/2/202611/6af38b1ad74bb4627291.png" alt="" />]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Wed, 11 Nov 2026 06:23:16 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=2"><![CDATA[트윗]]></category>
		</item>
				<item>
			<title><![CDATA[룬 "2020년대 앞으로 몇 년 동안 샌프란시스코에서 일어날 수학과 물리학의 혁명적인 발전"]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4583]]></link>
			<description><![CDATA[<div>
<div>https://x.com/tszzl/status/2119951032302404043</div>
<div></div>
<div>
<div>

“2020년대 앞으로 몇 년 동안 샌프란시스코에서 일어날 수학과 물리학의 혁명적인 발전이, 20세기 중반 프린스턴과 고등연구소(IAS)에서 일어났던 것보다 더 많을 것이다.”

의미:

20세기 중반 프린스턴과 고등연구소(IAS)는 아인슈타인, 폰 노이만, 괴델 같은 천재들이 활동했던 세계적인 학문의 중심지였어.

이 문장은 AI 기술이 집중적으로 발전하는 샌프란시스코에서 향후 몇 년 동안 AI를 활용한 수학·물리학의 혁명적 발견이 과거 천재들의 황금기를 능가할 것이라는 대담한 예측이야.

즉, 단순히 AI가 과학자를 보조하는 수준을 넘어, 인공지능이 인류의 기초과학 발전 속도를 폭발적으로 가속할 것이라는 주장이지.

</div>
</div>
</div>
<div></div>]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Tue, 10 Nov 2026 11:50:25 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=2"><![CDATA[트윗]]></category>
		</item>
				<item>
			<title><![CDATA[fable 5.2, mythos 5.2 발표]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4582]]></link>
			<description><![CDATA[<a href="https://www.anthropic.com/claude-fable-and-mythos-5-2">https://www.anthropic.com/claude-fable-and-mythos-5-2</a>

<img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/3/202611/6af24b6a9244a2392929.png" alt="" />]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Tue, 10 Nov 2026 07:38:38 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=3"><![CDATA[뉴스/정보]]></category>
		</item>
				<item>
			<title><![CDATA[Theo - 이번 주가 대단할 것]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4581]]></link>
			<description><![CDATA[https://x.com/kimmonismus/status/2119814230816023000

<img src="https://sub.strongai.kr/wp-content/uploads/kboard_attached/1/202611/6af1e8439184e9607176.png" alt="" />]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Tue, 10 Nov 2026 00:35:36 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=1"><![CDATA[자유게시판]]></category>
		</item>
				<item>
			<title><![CDATA[최첨단 AI 연구소에 있는 많은 사람들은 실제로 FOOM이 일어날 것이라고 생각]]></title>
			<link><![CDATA[https://sub.strongai.kr/?kboard_content_redirect=4580]]></link>
			<description><![CDATA[<div>
<div>https://x.com/MTSlive/status/2107602504276189397</div>
<div>
<div>

Forethought의 톰 데이비슨(Tom Davidson)이 사람들이 간과하고 있는 RSI(재귀적 자기개선) 시나리오에 관해 이야기한다. AI가 폭발적으로 발전하는 이른바 'FOOM'이 일어나지 않더라도, 기술 발전 속도가 여전히 2~3배 빨라질 수 있다는 것이다.
<blockquote>"사람들이 RSI(재귀적 자기개선)를 이야기할 때, 별생각 없이 그것이 곧 폭발적인 지능 향상(FOOM)으로 이어질 것이라고 가정하곤 합니다. 물론 충분히 가능한 시나리오죠.

저는 FOOM 시나리오와 Fizzle 시나리오를 구분합니다.

Fizzle 시나리오에서도 AI가 스스로를 개선하는 재귀적 피드백 루프는 존재합니다. 하지만 새로운 아이디어를 발견하는 일이 갈수록 어려워지기 때문에, RSI가 그렇게까지 무서운 결과를 초래하지는 않는다는 것이죠.

그런데 솔직히 말하면, 저는 이 시나리오조차 상당히 무섭다고 생각합니다. 기술 발전 속도가 지금보다 2배, 3배 빨라지는 상황을 이야기하고 있으니까요.

사실 RSI는 FOOM이든 Fizzle이든 어느 쪽이든 무서운 겁니다.

<strong>최첨단 AI 연구소에 있는 많은 사람들은 실제로 FOOM이 일어날 것이라고 생각합니다. 그래서 그들은 'RSI와 FOOM은 사실상 같은 말이고, 내년에 현실이 될 것이다'라고 이야기하는 것이죠."</strong></blockquote>
<h3>핵심 개념</h3>
<ul>
 	<li>
<div>
<div>

RSI (Recursive Self-Improvement): AI가 AI 연구개발을 개선하고, 개선된 AI가 다시 연구개발을 가속하는 자기강화 과정.

</div>
</div></li>
 	<li>
<div>
<div>

FOOM: 이러한 자기개선이 폭발적인 지능 향상으로 이어지는 시나리오. 단기간에 초지능에 도달할 가능성이 있음.

</div>
</div></li>
 	<li>
<div>
<div>

Fizzle: 자기개선은 계속되지만, 연구 난도가 상승하고 새로운 아이디어를 찾기 어려워지면서 지능 폭발로까지 이어지지는 않는 시나리오.

</div>
</div></li>
</ul>
</div>
</div>
</div>
<div></div>]]></description>
			<author><![CDATA[하이룽룽]]></author>
			<pubDate>Mon, 09 Nov 2026 18:53:30 +0000</pubDate>
			<category domain="https://sub.strongai.kr/?kboard_redirect=1"><![CDATA[자유게시판]]></category>
		</item>
			</channel>
</rss>