트윗

메타 연구원 "종말론적 헛소리에 반발 필요"

작성자
작성일
2026-11-16 15:22
조회
3




완전 팬픽이다. AI에는 지금 당장 우리가 주목해야 할 현실적이고 구체적인 위험이 있다. 예를 들면 AI가 고용시장에 미치는 영향이나, 별 기술도 없는 사람이 AI를 이용해 사이버 공격을 벌이지 못하게 하는 문제다.

 

그런데 “AI가 초지능이 되면 세상을 장악해서 우리를 노예로 만들고, 어쩌면 인류를 몰살할 거야!” 같은 얘기는 순전히 SF 팬픽이다. 이런 얘기는 현실의 까다로운 문제들에서 관심을 돌린다. 그 문제들은 선형 프로빙으로 해결할 수 없다.

 

다시 강조하자면, LLM은 아무런 외부 입력도 없이 뭔가를 하기로 ‘결정’하고 그대로 ‘실행’하는 존재가 아니다. 우리가 model.forward()를 호출하는 동안에만 프롬프트에 따라 토큰을 생성한다. 테라바이트 단위의 가중치를 거대한 컴퓨팅 클러스터에서 돌려야 하는데, 그런 모델이 ‘빠르게 자기 복제’하는 건 불가능하다.

 

그리고 OAI/HF 사건은 안전장치를 제거한 상태에서 진행한 사이버 평가였다는 점도 계속 상기시킬 필요가 있다. 모델이 해킹을 얼마나 잘하는지 알아보려고 모델에 해킹하라고 지시한 실험이었다.

 

최근 개인적으로 겪은 일을 계기로, 이런 종말론적 헛소리에 더 적극적으로 반박하고 논의를 현실의 위험과 문제로 되돌려야겠다고 느꼈다. 그래도 댓글에서 길게 논쟁할 생각은 없다. 터미네이터 팬픽을 동료 심사해 줄 생각은 없으니까.
전체 0