NVIDIA의 AI Infra Summit 전력 효율 강연: Vera Rubin과 DSX에 새로 추가된 것

2026년 9월 15일, NVIDIA 공식 블로그가 같은 날 게재한 정리 게시물에 따르면, NVIDIA 부사장 Ian Buck은 미국 캘리포니아주 산타클라라 컨벤션 센터에서 열린 AI Infra Summit에서 AI 데이터센터 효율을 주제로 발표했으며, 이는 그의 인프라 기조연설의 핵심이었습니다.

본 기사는 2026년 9월 17일에 사실을 확인했으며, NVIDIA가 같은 날 공개한 공식 블로그 게시물 2건 전문과, 비교 기준으로 삼은 1월 5일 및 8월 24일 공식 보도자료 2건을 근거로 합니다. 본 사이트는 직접 시험해 보지 않았고, 구매나 업그레이드를 권하지 않습니다. 아래의 모든 수치는 NVIDIA가 직접 측정한 값인지, NVIDIA 자체의 추정값인지, 아니면 NVIDIA가 인용한 제3의 시험 기관의 결과인지를 명시합니다.

9월 15일에 있었던 일: 피크 성능에서 메가와트당 토큰 수로

NVIDIA는 이 정리 게시물에서, AI 인프라를 측정하는 방식이 피크 성능에서 검증된 에이전트형(agentic) 메가와트당 토큰 수로 빠르게 옮겨가고 있으며, AI 데이터센터는 칩부터 전력망까지 전체를 함께 설계해야 한다고 밝혔습니다. 이 문장이 9월 15일과 1월 CES 발표를 가르는 기준입니다. 1월에는 칩 사양과 토큰당 비용을 이야기했다면, 9월에는 데이터센터 전체가 메가와트당 전력에서 얼마나 많은 결과물을 뽑아낼 수 있는지를 이야기합니다.

9월 15일에 발표된 두 건에는 새로운 칩 발표가 없었으며, NVIDIA가 제시한 것은 생태계 협력과 파트너 실측 결과입니다. NVIDIA에 따르면 Amazon 산하 Annapurna Labs는 NVIDIA와 함께 커스텀 고대역폭 메모리 기술 NVHBM을 공동 개발 중이고, d-Matrix는 NVLink Fusion을 통합해 NVIDIA Vera CPU와 자사의 Raptor XPU를 결합, 대규모 초저지연 추론을 구현하고 있으며, Pinterest는 Blackwell 플랫폼과 추론 소프트웨어 Dynamo를 도입해 대화형 AI를 시각 탐색에 접목하고 있습니다. 이 세 가지에 대해 공식 자료는 각각 한 문장만 언급했을 뿐 사양이나 일정은 없으며, 같은 게시물에는 여러 스타트업이 Vera CPU로 진행한 테스트 결과와 NVLink 6 신뢰성에 관한 내용도 함께 실려 있습니다.

1월과 비교해 달라진 점: 칩은 그대로, 측정 지표가 바뀌었다

1월 5일, NVIDIA는 CES에서 Rubin 플랫폼을 발표하며 이를 여섯 가지 신규 칩(Vera CPU, Rubin GPU 등)이라고 불렀습니다. 핵심 수치는 성능 관련 수치로, Blackwell 플랫폼 대비 추론 토큰당 비용을 최대 10분의 1로, 혼합 전문가(MoE) 모델 학습에 필요한 GPU 수를 최대 4분의 1로 줄일 수 있다고 했으며, 보도자료는 미래형으로 관련 제품이 2026년 하반기에 파트너를 통해 제공될 예정이라고 적었습니다. 8월 24일 Hot Chips 콘퍼런스에서 NVIDIA는 Groq 3 LPX가 완전 양산 단계에 들어섰다고 발표하며, 플랫폼 전체가 칩 7종과 전용 랙 5종에 걸쳐 있다고 밝혔습니다. 상표 관련 안내에는 Groq와 LPU라는 이름이 Groq, Inc.로부터 라이선스를 받아 사용된다는 내용만 있을 뿐, 본 기사가 확인한 공식 문서 어디에도 NVIDIA가 Groq를 인수하거나 합병했다는 내용은 없습니다.

9월 15일이 되자 두 건의 공식 블로그 게시물 모두 새로운 칩 이름은 등장하지 않았습니다. 1월 보도자료는 전체를 통틀어 메가와트를 측정 단위로 사용하지 않았던 반면, 9월 15일 게시물 두 건은 메가와트당 토큰 생산량이라는 표현으로 성과를 반복해서 설명합니다. 다시 말해 9월 15일에 새로 추가된 것은 하드웨어가 아니라, 전력 관리 소프트웨어 DSX가 첫 파트너 실측과 상용 실증 단계에 들어섰다는 점입니다.

전력이 왜 병목인가: DSX MaxLPS와 DSX Flex는 무엇을 하는가

NVIDIA는 창업자 겸 CEO인 젠슨 황의 말을 인용해 전력이 왜 병목인지 설명합니다. 젠슨 황은 “1기가와트 공장이 2기가와트 공장이 되는 일은 결코 없다”고 말했습니다. NVIDIA는 같은 게시물에서 전력이야말로 AI 데이터센터 경제의 제약 조건이라고 적었습니다. DSX라는 소프트웨어 자체는 9월 15일에 처음 나온 것이 아니며, 공식 자료에 따르면 DSX는 5월 GTC Taipei(NVIDIA가 대만에서 여는 행사)에서 발표됐다고 하는데, 연도는 적혀 있지 않습니다. 9월 15일에 발표된 두 건 모두 대만에서의 배포, 파트너, 공급망에 대해서는 더 이상 언급하지 않으며, 본 기사도 공식 자료를 대신해 내용을 덧붙이지 않습니다.

DSX MaxLPS는 데이터센터 내부의 전력 배분을 처리하는 소프트웨어입니다. NVIDIA에 따르면 AI 팩토리(NVIDIA가 AI 데이터센터를 가리켜 쓰는 명칭) 단위에서 MaxLPS는 수요 변화에 따라 랙 사이의 전력을 동적으로 배분해, 동일한 사이트 전력 한도(site-power envelope) 안에서 GPU를 최대 40% 더 수용할 수 있고, 송전선을 새로 깔지 않고도 토큰 처리량을 최대 35% 더 높일 수 있다고 합니다. 랙 단위에서는 별도로 전력 평활화 소프트웨어와 확장된 에너지 저장 장치가 짧은 순간의 급증을 흡수하지만, 공식 자료는 이 단계에서는 백분율 수치를 제시하지 않습니다. 이 일련의 전력 수치 가운데 파트너의 실측이 있는 것은 Lambda의 사례입니다. 85% 전력 정책 아래 19개 노드를, 전력을 100% 사용하는 16개 노드와 같은 전력 예산 안에서 가동한 결과, NVIDIA에 따르면 클러스터 처리량이 24%, 와트당 성능이 23% 향상됐다고 하지만, 이는 Vera Rubin이 아니라 Blackwell 세대 HGX B200 서버에서 진행한 테스트이며 Lambda의 클라우드 서비스 부문 사장은 이를 개념 증명이라고 부릅니다. 이 40%라는 수치가 Vera Rubin NVL72에 적용될 때는, 짝을 이루는 다른 공식 게시물에서 이를 NVIDIA 자체의 추정값에 근거한 것이며 적합한 도입 환경으로 한정된다고 명시하고 있고, 같은 게시물의 수치 요약표에는 이것이 MaxLPS와 데이터센터 전력 계획을 결합한 결과라고 적혀 있을 뿐, 실측값이 아닙니다.

DSX Flex는 데이터센터와 전력망 사이의 소통을 처리하는 소프트웨어입니다. 부하 차단 요청, 수요 반응 이벤트, 전력 요금 신호를 전력망으로부터 받아 미리 정해둔 작업 우선순위 안에서 자동으로 반응하며, 가장 중요한 작업은 계속 가동하고 나머지는 잠시 멈췄다가 이후 재개합니다. NVIDIA가 든 예시는 자사의 Eos 데이터센터가 실리콘밸리 전력회사의 유연 부하 연계 프로그램에 참여해 Emerald AI의 Conductor와 함께 작동한 사례입니다. 본문에는 어느 8월 밤 전력이 자동으로 4메가와트에서 3메가와트로 줄었다고 적혀 있고, 같은 페이지의 사진 설명에도 같은 두 수치가 적혀 있습니다. 그런데 같은 게시물의 별도 수치 요약표에서는 같은 실증을 1분 이내에 전력 수요를 40% 줄인 사례로 적고 있으며, NVIDIA는 이 둘의 관계를 설명하지 않습니다. NVIDIA에 따르면 이후 실리콘밸리 전력회사가 200회가 넘는 수요 신호를 보냈고 매번 성공했다고 하지만, 이 실증은 아직 정식 DSX Flex 설치가 아니라 개념이 통한다는 것을 보여준 것일 뿐입니다.

NVIDIA가 제시한 수치를 어떻게 읽어야 하나: 실측과 추정값의 구분

Groq 3 LPX를 결합했을 때 NVIDIA의 핵심 수치는, 매개변수 2조 개 이상의 롱 컨텍스트 모델을 기준으로 통합 플랫폼의 메가와트당 토큰 처리량이 GB200 NVL72의 최대 35배에 달한다는 것입니다. 좀 더 구체적인 수치로는, 10만 토큰 컨텍스트의 Qwen 3.8 27B 워크로드에서 Groq 3 LPX가 사용자 1인당 초당 2,529개의 출력 토큰을 기록했다는 것이 있습니다. 두 수치 모두 각자의 비교 기준을 함께 갖고 있으며, 조건을 떼어내고 단독으로 인용하면 실제와 다르게 전달됩니다. NVIDIA는 또한 제3의 기관인 SemiAnalysis가 자체 AgentX 방법으로 측정한 결과도 인용하는데, DeepSeek V4 Pro 모델에서 Vera Rubin NVL72가 GB300 NVL72 대비 메가와트당 처리량이 최대 30배에 달한다는 것입니다. 이는 NVIDIA가 다른 기관의 테스트를 인용한 것으로, 본 사이트는 원본 데이터를 확보하지 못했습니다.

공급 상태에 대해 9월 15일 게시물 두 건이 밝힌 것은 한 문장뿐입니다. Vera Rubin은 이미 완전 양산 단계에 들어섰으며 생태계 전반에서 도입이 확대되고 있고, 성능은 소프트웨어 최적화에 따라 계속 개선될 것이라는 내용으로, 출하량이나 고객 명단, 지원 클라우드 리전 목록은 없습니다. 이 게시물은 계속 갱신되는 살아 있는 문서로, 행사 다음 날인 9월 16일에는 MLPerf Inference v6.1 결과가 한 단락 추가됐습니다. NVIDIA는 이를 Vera Rubin NVL72의 첫 MLPerf 프리뷰 제출이라고 설명하며, 처리량이 GB300 NVL72의 최대 3.7배라고 밝혔습니다. 이 내용은 9월 16일에 해당하는 것이며 9월 15일 당일에 있었던 일이 아닙니다.

클라우드 서비스 이용자에게 의미하는 것, 그리고 공식이 말하지 않은 것

위의 수치는 모두 데이터센터 단위의 지표, 즉 메가와트당 토큰 생산량, 와트당 성능, 같은 전력 한도 안에 GPU를 얼마나 넣을 수 있는지를 나타낼 뿐, 최종 클라우드 서비스의 속도나 요금, 제공 시기를 약속하는 것은 하나도 없습니다. 하드웨어 효율이 월 구독료에 반영될지에 대해서는 이전 CES 관련 기사에서 이미 추론 비용과 최종 가격 사이의 차이를 다룬 바 있어 여기서 반복하지 않습니다. 9월 15일에 발표된 두 건 어디에도 Vera Rubin, Groq 3 LPX, DSX의 가격이나 라이선스 비용에 대한 언급은 전혀 없으며, 가격이라는 단어는 전력망의 요금 신호를 설명할 때만 등장합니다.

2026년 9월 17일 기준으로 확인한 두 건의 발표 어디에도 “Taiwan”이나 “TSMC”라는 표현은 등장하지 않으며, 대만에서의 배포나 대만 파트너, 공급망에 대한 설명도 없습니다. 대만과 관련된 부분은 앞 절에서 언급한, DSX가 GTC Taipei에서 발표됐다는 사실뿐입니다. 최신 상황을 직접 확인하고 싶은 독자는 이 두 블로그 게시물 자체로 돌아가면 되는데, 서밋 정리 게시물의 최종 수정 시각은 확인 작업이 진행되는 동안에도 다시 한 번 뒤로 밀렸습니다. 이후 독자가 갱신된 버전을 보게 된다면, 그 시점의 공식 페이지 내용을 기준으로 삼아야 합니다.

2026년 테크 뉴스 총정리: 하드웨어, 플랫폼, 통신, 규제의 핵심

NVIDIA, 오픈소스 CUDA-Q 플랫폼에 CUDA-Q Logical 추가 ― 결함 허용 양자컴퓨터 규모를 추정하는 도구, 양자컴퓨터 자체는 아니다

• 테크·산업
• 테크 뉴스