> “최상위급(capability 분야에서 전설급인) 연구자가 방금 단톡방에 ‘IABIED’ 얘기를 꺼냈다. 분위기가 바뀌고 있다.”

여기서 IABIED는 If Anyone Builds It, Everyone Dies의 약자야. 엘리에저 유드코프스키와 네이트 소어스가 쓴 AI 위험론 책으로, 현재와 비슷한 방식으로 초지능을 만들면 인류 멸종으로 이어질 가능성이 매우 높다는 강경한 입장을 담고 있어.

 

그래서 이 트윗에서 “vibes are shifting”은 단순히 “사람들이 그 책을 읽기 시작했다” 정도가 아니라,

 

“평소에는 능력 향상(capabilities)에 집중하던 최상위 연구자들 사이에서도 강한 AI 위험론을 진지하게 받아들이기 시작하는 분위기가 생기고 있다”

 

는 뉘앙스야.

 

특히 “legend-tier capabilities researcher”라고 일부러 강조했다는 게 포인트야. 원래부터 AI 안전·멸종 위험을 주장하던 사람이 IABIED를 말한 게 아니라, 모델 성능을 실제로 끌어올리는 쪽의 아주 뛰어난 연구자가 그런 얘기를 하기 시작했다 → 내부 분위기에 뭔가 변화가 있는 것 아니냐는 암시지.

 

다만 이 문장 하나만으로 “그 연구자가 IABIED의 결론에 동의했다”거나 “내부에서 위험한 능력이 확인됐다”고까지 해석하면 과해. “IABIED에 대해 메시지를 보냈다”는 것과 “책의 주장을 받아들였다”는 건 다르니까.