앤트로픽: Claude가 25년간 풀리지 않았던 암호학의 미스터리를 해결하다

2026년 10월 16일 | Anthropic Frontier Red Team

핵심 요약: Claude가 약 25년 동안 암호학계에서 논란이 되었던 ECDSA 암호 표준의 매개변수 생성 과정을 30분도 안 되는 시간에 밝혀냈다. 특히 NSA가 제공한 암호학적 매개변수에 백도어가 숨겨졌을 가능성을 낮추는 발견이라는 점에서 의미가 크다.

1. 무엇이 문제였나?

ECDSA(타원곡선 디지털 서명 알고리즘)는 인터넷 보안과 디지털 서명 등에 널리 사용되는 암호 기술이다.

2000년 미국 국립표준기술연구소(NIST)는 NSA가 제공한 타원곡선 매개변수를 표준으로 채택했다.

그런데 한 가지 문제가 있었다.

NSA가 제공한 특정 시드(seed) 값이 어떻게 생성되었는지 아무도 명확하게 알지 못했다.

이 때문에 일부 암호학자들은 NSA가 특정 취약점이나 백도어를 숨길 수 있도록 매개변수를 의도적으로 선택했을 가능성을 제기했다.

이 의문은 약 25년간 풀리지 않았다.

2. Claude는 어떻게 해결했나?

2026년 10월, 앤트로픽 직원 한 명이 내부 연구용 Claude 모델에 이 시드들의 생성 원리를 알아낼 수 있는지 질문했다.

Claude가 찾아낸 답은 의외로 단순했다.

암호학적으로 특별한 비밀 알고리즘이 아니라, 1990년대 C 언어 라이브러리의 의사난수 생성기 lrand48()와 유닉스 타임스탬프를 사용한 것이었다.

발견 과정은 다음과 같다.

1. 
   

   
   
   기존 가설에서 벗어남: 과거 연구자들은 암호학적 해시 함수나 특정 문구에서 시드가 만들어졌을 것으로 추측했지만, Claude는 당시 사용되던 프로그램의 구조를 추론했다.
   
   

   
   
2. 
   

   
   
   난수 생성기의 특징 발견: 공개된 시드 값에서 일부 비트가 반복적으로 0이 되는 통계적 패턴을 찾아냈다.
   
   

   
   
3. 
   

   
   
   수학적으로 내부 상태 복원: 격자 기반 알고리즘인 LLL 등을 활용해 난수 생성기의 내부 상태를 복구했다.
   
   

   
   
4. 
   

   
   
   1997~1998년 타임스탬프 확인: 복원된 값이 실제 당시 날짜와 일치한다는 사실을 발견했다.
   
   

   
   
5. 
   

   
   
   원본 재현 성공: 해당 날짜와 난수 생성 알고리즘으로 표준에 공개된 160비트 시드 값을 정확하게 재생성했다.
   
   

   
   

예를 들어 널리 사용되는 NIST P-256의 시드는 1997년 8월 16일의 타임스탬프를 기반으로 난수를 생성하고, 1,842번째 후보를 선택한 결과였다.

3. 추가 발견: 타원곡선의 기준점까지 규명

Claude는 시드 생성 원리를 밝히는 데 그치지 않았다.

ECDSA는 기준점(Base Point, G)이라는 중요한 매개변수를 사용한다. 이 기준점이 어떤 절차로 선택되었는지도 오랫동안 명확하지 않았다.

Claude는 NIST P-192와 ANSI X9.62의 예시 곡선 5개, 총 6개 곡선의 기준점이 과거 수학 라이브러리인 FreeLIP의 난수 생성기를 통해 만들어졌다는 사실까지 밝혀냈다.

다만 P-224, P-256, P-384, P-521 등의 기준점 생성 방식은 여전히 미해결 상태다.

4. 이것이 암호학적으로 의미하는 것

가장 중요한 점은 Claude가 ECDSA를 해킹하거나 취약점을 발견한 것이 아니라는 사실이다.

오히려 반대다.

기존에는 매개변수 생성 과정이 불투명했기 때문에 NSA가 의도적으로 취약한 곡선을 선택했을 가능성을 의심했다.

이번 연구는 상당수 매개변수가 단순한 난수 생성 과정을 거쳐 만들어졌다는 재현 가능한 증거를 제시했다.

그 결과, 의도적인 백도어가 존재한다는 의심이 약해졌다.

다만 모든 문제가 해결된 것은 아니다. 일부 적합한 후보가 선택되지 않은 이유가 불분명하고, B-163 시드와 여러 기준점의 생성 방식도 아직 밝혀지지 않았다.

또한 당시 사용된 난수 생성기가 약하다는 사실이 현재 ECDSA 개인키 생성 과정이 취약하다는 의미는 아니다.

앤트로픽 역시 이 발견 때문에 기존 암호 시스템을 변경할 필요는 없다고 명시했다.

5. AI 연구 역량 관점에서 더 흥미로운 이유

개인적으로 이 연구에서 가장 주목할 부분은 Claude가 기존 연구자들의 가설을 그대로 반복하는 대신 새로운 해결 경로를 구성했다는 점이다.

Claude는 오래된 C 라이브러리의 특성을 추론하고, 프로그램을 작성해 실험한 뒤, 수학적 알고리즘으로 내부 상태를 복원하고, 실제 표준값과 대조해 결과를 검증했다.

이는 단순히 학습한 지식을 검색하거나 정리하는 것보다 복잡한 문제 해결 사례다.

특히 다음과 같은 역량이 결합되었다.

• 
  

  
  
  가설 생성: 당시 개발 환경과 난수 생성 방식 추론
  
  

  
  
• 
  

  
  
  수학적 추론: 비트 패턴 분석과 LLL 알고리즘 활용
  
  

  
  
• 
  

  
  
  자율적 도구 사용: 검증 프로그램 작성 및 반복 실행
  
  

  
  
• 
  

  
  
  발견 검증: 과거 표준에 기록된 값과 정확히 일치하는지 확인
  
  

  
  

다만 이 사례만으로 Claude가 암호학 연구자 전반을 능가한다거나 완전한 자율 연구 능력을 확보했다고 판단할 수는 없다. 특정 문제에서의 매우 인상적인 성공 사례로 보는 것이 정확하다.

6. 아직 남은 의문

논문에서 완전히 해결되지 않았다고 밝힌 문제는 세 가지다.

• 
  

  
  
  후보 선택 기준: P-256에서는 876번째 후보도 조건에 맞았지만 실제 표준에는 1,842번째 후보가 채택되었다.
  
  

  
  
• 
  

  
  
  기준점 생성: P-256을 비롯한 여러 곡선의 기준점 선택 방식은 미해결이다.
  
  

  
  
• 
  

  
  
  B-163 시드: 다른 곡선들과 달리 생성 원리를 복원하지 못했다.
  
  

  
  

따라서 이번 연구는 오래된 논란의 상당 부분을 해결했지만 모든 역사적 의문을 해소한 것은 아니다.

종합 평가

이번 발견은 두 가지 측면에서 의미가 있다.

암호학적으로는 오랫동안 불투명했던 NIST 타원곡선 표준의 생성 과정을 상당 부분 재현해 신뢰도를 높였다.

AI 발전 측면에서는 프런티어 모델이 수학·프로그래밍·암호학을 결합해 수십 년간 해결되지 않았던 연구 문제를 짧은 시간에 해결할 수 있음을 보여줬다.

2027년 AGI나 재귀적 자기개선(RSI) 전망과 연결한다면, 이번 사례는 AI가 전문적인 연구 과제를 수행하는 능력이 발전하고 있다는 긍정적 증거다. 다만 실제 AI 연구 자체의 자동화 속도를 직접 측정한 결과는 아니므로, 이 발견 하나로 AGI 도래 시기를 앞당겨 단정할 수는 없다.

또 하나 흥미로운 점은, 이번 발견에 걸려 있던 36,864달러의 현상금을 인터넷 보안 연구를 위한 비영리단체 ISRG에 기부할 예정이라는 것이다.

한 줄 결론: Claude가 인간 암호학자들이 약 25년간 풀지 못한 매개변수 생성의 수수께끼를 30분 미만에 상당 부분 해결했다. 보안 취약점 발견보다는 AI의 전문 연구·추론 능력을 보여주는 사례다.