라이프스타일

NVIDIA Vera Rubin, MLPerf 첫 참가: Training v6.1 석권 주장, Kimi K3 와트당 처리량 10배 이상(잠정 결과)

NVIDIA는 Vera Rubin 플랫폼이 MLPerf Training v6.1과 첫 참가한 MLPerf Endpoints에서 선두 성적을 거뒀다고 밝혔다. 다만 Endpoints의 Vera Rubin 결과는 MLCommons의 검증을 기다리는 중이다.

뉴스 날짜: 읽는 데 약 5분

LINE 공유
목차
  1. 1. NVIDIA는 어떤 성적을 공개했나?
  2. 2. MLPerf Endpoints의 에이전트형 추론 결과는 얼마나 믿을 만한가?
  3. 3. 어떤 파트너가 참여했고, 일반 사용자에게 무엇을 의미하나?

NVIDIA는 2026년 11월 16일 Vera Rubin 플랫폼의 첫 MLPerf 성적을 발표했다. MLPerf는 MLCommons 협회가 결과를 공개하는 AI 시스템 성능 벤치마크다. 이번 성적은 훈련, 사후 훈련(모델 초기 훈련 이후 강화학습 등으로 이뤄지는 추가 조정), 에이전트형(agentic) 추론을 아우른다. 에이전트형 추론은 AI 에이전트가 하나의 작업을 끝내기 위해 추론, 도구 호출, 결과 확인을 반복하는 방식을 말한다. Training v6.1 결과는 공개되었고, Endpoints의 Vera Rubin 결과는 잠정이며 MLCommons의 검증을 기다리고 있다.

NVIDIA는 어떤 성적을 공개했나?

NVIDIA에 따르면 이번 라운드에서 모든 벤치마크에 성적을 낸 플랫폼은 NVIDIA뿐이며, 대규모 언어 모델, 이미지 생성, 추천 시스템, 강화학습 사후 훈련을 포괄한다. MLPerf Training은 다양한 AI 모델을 목표 정확도까지 훈련하는 데 걸리는 속도를 측정한다.

NVIDIA는 Vera Rubin NVL72가 첫 MLPerf 참가에서 GPU당 성능이 자사 이전 세대인 GB300 NVL72 시스템의 최대 2배에 달했다고 밝혔다. NVIDIA는 이것이 초기 결과일 뿐이며 앞으로 CUDA 소프트웨어 스택을 통해 계속 최적화하겠다고 강조했다. DeepSeek-V3 벤치마크에서 Vera Rubin NVL72를 256개에서 1,024개 GPU로 확장했을 때 효율은 약 97%였고, 훈련 시간은 16분에서 약 4분으로 줄었다고 NVIDIA는 설명했다.

MLPerf Endpoints의 에이전트형 추론 결과는 얼마나 믿을 만한가?

NVIDIA 설명에 따르면 MLPerf Endpoints는 실제 에이전트형 코딩과 기업 업무 흐름으로 시스템을 테스트하고, 에이전트가 작업을 올바르게 완료했는지도 확인한다. AI는 연산 단계마다 토큰(AI가 내용을 처리하고 생성하는 기본 단위)을 만든다. '와트당 처리량'은 시스템이 전력 1와트를 쓸 때 에이전트 작업을 얼마나 처리하는지를 나타낸다. Kimi K3의 잠정 결과에서 NVIDIA는 Vera Rubin NVL72가 같은 응답 속도에서 GB300 NVL72보다 와트당 처리량이 10배 넘게 높다고 밝혔다.

NVIDIA의 각주에 따르면 GB300 성적은 MLCommons가 검증했지만 Vera Rubin의 잠정 결과는 아직 검증 전이며 동료 검토 과정에서 바뀔 수 있다. 따라서 이 10배라는 수치는 업체가 공개한 예비 데이터로 보아야 한다.

NVIDIA 각주에 나온 MLPerf Endpoints Kimi K3 실행 데이터(비교 기준은 사용자당 최소 50 tokens/sec)
항목Vera Rubin NVL72GB300 NVL72
Kimi K3 가속기 수3248
동시 쿼리 수1,02448
시스템 처리량(tokens/sec)41,414.22,210.4
운용 전력100.89 kW60 kW
검증 상태잠정, MLCommons 검증 대기MLCommons 검증 완료

어떤 파트너가 참여했고, 일반 사용자에게 무엇을 의미하나?

NVIDIA에 따르면 MLPerf Training에는 20개 기관이 성적을 제출했으며 ASUS, Azure, Cisco, CoreWeave, Dell Technologies, Google Cloud, HPE, Oracle, Supermicro, 플로리다 대학교 등이 포함된다. NVIDIA는 또 GB300 시스템으로 이번 라운드 최대 규모인 10,240개 GPU 테스트를 수행했고, Microsoft Azure도 GB200 시스템으로 같은 10,240개 GPU 규모를 달성했다고 밝혔다.

NVIDIA의 논리는 훈련이 빨라지면 더 똑똑한 에이전트가 사용자에게 더 일찍 도달하고, 추론에서 와트당 토큰을 더 많이 만들면 전력 제약이 있는 데이터센터가 더 많은 에이전트를 지원할 수 있다는 것이다. NVIDIA는 Vera Rubin이 SemiAnalysis AgentX와 Artificial Analysis AgentPerf 같은 독립 벤치마크에서도 선두라고 주장한다.

자주 묻는 질문

Vera Rubin은 이미 구매하거나 사용할 수 있나?

NVIDIA의 이 글은 벤치마크 성적만 공개하며 공급 일정, 가격, 지역별 공급은 설명하지 않는다. 따라서 이 출처로는 판단할 수 없다.

'석권'은 무슨 뜻인가?

NVIDIA는 자사 플랫폼이 이번 라운드에서 MLPerf Training v6.1의 모든 벤치마크에 성적을 낸 유일한 플랫폼이며 모든 벤치마크를 석권했다고 밝혔다. 이는 NVIDIA의 표현이다.

와트당 처리량 10배는 최종 결과인가?

아니다. NVIDIA는 Kimi K3의 Vera Rubin 결과가 잠정이며 MLCommons의 검증을 기다리고 있고 동료 검토에 따라 바뀔 수 있다고 명시했다.

성적은 앞으로 달라질 수 있나?

NVIDIA는 Vera Rubin의 성능이 CUDA 소프트웨어 스택 최적화를 통해 계속 향상될 것이며 현재 결과는 시작일 뿐이라고 밝혔다.

이 주제의 최신 뉴스 보기

이 정리가 도움이 되셨나요? 필요한 분께 공유해 보세요

LINE 공유

출처

위에 기재된 참고 자료와 확인일 기준 정보를 바탕으로 정리했습니다. 요금, 시간표, 기능, 이용 약관은 바뀔 수 있으므로 여행, 예약 또는 구매 전에 해당 공식 사이트에서 최신 정보를 확인해 주세요.

라이프스타일