인터뷰/예측

앤트로픽 톰 브라운 "차세대 클로드가 새로운 아마존 클러스터인 PROJECT RAINIER에서 학습"

작성자
하이룽룽
작성일
2024-12-03 21:46
조회
1052


차세대 CLAUDE가 수십만 개의 TRAINIUM TWO 칩이 장착된 새로운 아마존 클러스터인 PROJECT RAINIER에서 학습한다는 소식을 발표하게 되어 기쁩니다. 따라서 수십만 개의 칩은 지금까지 사용했던 클러스터보다 5배가 넘는 수백 개의 고밀도 엑사플롭을 의미합니다.



1. Anthropic의 Claude 관련 발표:
- Claude 3.5 Haiku 모델이 Trainium 2에서 60% 더 빠르게 실행될 수 있다고 발표
- API에서 스위치만 켜면 Trainium 2 서버로 요청이 라우팅되어 더 빠른 성능을 얻을 수 있음

2. Trainium 2와의 협력:
- Anthropic의 성능 엔지니어링 팀이 Amazon, Annapurna와 1년 이상 긴밀히 협력
- Trainium의 저수준 프로그래밍 기능(Niki)을 활용해 최적화 작업 수행
- Trainium이 시스템 내 모든 명령어의 타이밍을 로깅할 수 있는 최초의 칩이라고 언급

3. Project Rainier 발표:
- 수십만 개의 Trainium 2 칩으로 구성된 새로운 Amazon 클러스터
- 기존에 사용했던 어떤 클러스터보다 5배 이상의 성능
- 차세대 Claude 모델이 이 클러스터에서 학습될 예정

4. Anthropic의 최근 성과 언급:
- Claude 3 Opus, Claude 3.5 Sonnet, 3.5 Haiku 등의 연이은 출시
- Project Rainier를 통해 더 낮은 비용으로 더 빠르고 더 똑똑한 AI를 개발할 계획
전체 0