인터뷰/예측
앤트로픽 공동창립자 벤만 "재귀 개선으로 초인레벨 ai 2028 등장할 것"
작성자
작성일
2025-06-13 08:01
조회
772

1. 모델을 언제 ‘출시’한다고 하나요?
Q. 모델 출시 시점을 어떻게 결정합니까?A. 먼저 확보할 GPU 양을 토대로 ‘파레토 효율선에 도달할 모델을 언제 훈련할 수 있는가’를 거꾸로 계산해 로드맵을 만듭니다. 칩이 들어오면 훈련을 시작하지만, 초거대 모델은 본질적으로 어려워 항상 머릿속 이상보다는 약간 부족한 결과가 나옵니다.
2. 클로드 4의 가장 큰 개선점은?
Q. 클로드 4는 이전 버전보다 무엇이 크게 달라졌습니까?A. 벤치마크 기준으로 확연히 우수하며, 특히 코딩 작업에서 엉뚱한 변형이나 보상 해킹이 사라져 사용자가 요청한 것만 정확히 수행합니다.
3. 클로드 4를 언제 써야 하나요?
Q. 사용자는 어떤 상황에서 클로드 4를 선택해야 하나요?A. 스스로 계획을 세우고 오랜 시간 돌아가는 ‘에이전트형’ 작업이 가능해졌습니다. 몇 시간 동안 방치해도 대규모 리팩터링을 마치고, 영상에서 파워포인트를 자동 생성하는 등 복합 작업도 처음부터 끝까지 수행합니다.
4. 고성능-저비용 모델 협업 구조
Q. 오퍼스와 소넷 같은 하위 에이전트는 어떻게 협업합니까?A. 고성능 오퍼스가 저비용 소넷을 하위 에이전트로 부려 세부 작업을 위임합니다. 이 구조로 지연, 콘텍스트 크기, 비용을 모두 줄일 수 있습니다.
5. 모델이 모듈화될 가능성은?
Q. 앞으로 모델이 특화 모듈로 나뉠까요?A. 향후 가중치 덩어리가 공감 응답용, 도구 사용용 등 역할별로 분화될 수 있다고 봅니다. 메모리처럼 핵심 기능은 하나로 남겠지만 특화 모듈 추세는 올 것입니다.
6. 비용 대비 생산성 계산법
Q. 거대한 모델 비용은 어떻게 정당화합니까?A. 언제나 ‘사람이 했으면 얼마가 들까’를 비교합니다. 값비싼 엔지니어의 생산성이 2–3배 오르면 회사도 본인도 모두 만족합니다.
7. 자기개선과 AGI 시점
Q. 재귀적 자기개선으로 AGI가 2028년에 올 수 있다고 보나요?A. 충분히 가능성이 높다고 생각합니다. 정확한 수치를 단정하기는 어렵지만 2028년에 대부분 영역에서 초인적 AI가 등장할 수 있습니다.
8. 모델이 연구를 가장 먼저 가속할 지점
Q. 데이터, 인프라, 코드 중 어디서 가속 효과가 먼저 나타나나요?A. 현재는 시스템 엔지니어링 코드 영역이 가장 크고, 데이터 분석에서도 강점을 보입니다. 로그 감시, 주피터 노트북 조작, RL 환경까지 직접 작성해 스스로를 개선할 수 있습니다.
9. 헌법적 AI와 AI 피드백 강화학습
Q. 전문가 라벨 없이 모델을 어떻게 정렬합니까?A. AI 피드백 강화학습, 즉 ‘헌법적 AI’를 사용합니다. 모델이 답변을 작성-자기비판-수정하고, 수정본만 데이터로 삼아 다시 학습합니다.
10. ‘기만적 모델’ 실험의 의미
Q. 기만 행동을 학습시킨 실험은 위험하지 않나요?A. 관련 논문에서 속임수를 배운 모델이 정렬 훈련 뒤에도 행동을 유지한다는 점을 확인했습니다. 이런 테스트는 필요하지만 어디까지 허용할지는 분명한 경계가 필요합니다.
11. 전체 컴퓨터 제어 기능을 보류한 이유
Q. 화면을 클릭하는 에이전트 데모를 왜 출시하지 않았나요?A. 안전 때문입니다. 사용자 브라우저 자격증명을 모델에 주었을 때, 돌이킬 수 없는 실수나 정보 유출을 100% 막을 수 없었기 때문입니다.
12. 모델 콘텍스트 프로토콜(MCP)의 의의
Q. MCP는 무엇이며 왜 다른 연구소도 채택했나요?A. MCP는 어떤 서비스든 표준 인터페이스로 모델에 추가 콘텍스트를 넣게 해주는 개방형 규격입니다. 발표 직후 대형 연구소들도 참여 의사를 밝히며 도입을 타진했습니다.
이사람은누구지
OpenAI 에 있다가 앤트로픽가서 공동 창업한 사람인가봄
2028 얘기가 많네
2028보다 3년 더 빠른 초지능 2025면 좋을듯