NVIDIA, OCP에 Vera Rubin 랙 설계 공개…파트너와 AI 팩토리 개방형 표준 발표

핵심 내용: NVIDIA가 OCP에서 발표한 것

NVIDIA는 산호세 맥에너리 컨벤션 센터에서 열린 Open Compute Project(OCP, 데이터센터 하드웨어 개방형 규격을 추진하는 업계 커뮤니티) 글로벌 서밋에서, 차세대 AI 인프라의 공통 기반을 마련하기 위한 새로운 협력과 기여를 발표했습니다. NVIDIA는 AI 연산을 수행하는 대형 데이터센터를 'AI 팩토리'라고 부릅니다.

NVIDIA에 따르면 회사는 개방형 NVIDIA MGX 아키텍처를 통해 Vera Rubin 랙(서버를 넣는 선반)과 컴퓨트 트레이(랙 안의 연산 모듈) 설계를 OCP에 기여했으며, 시스템 제조사가 차세대 AI 팩토리 인프라를 개발할 공통 기반을 갖게 됩니다. NVIDIA는 이러한 성과가 '극한의 공동 설계'와 개방형 표준의 결합을 보여 주며, 배포 속도를 높이고 에너지 효율을 개선하며 와트당 토큰 산출량(단위 전력당 생성되는 AI 출력량)을 높인다고 주장했습니다.

랙, 소프트웨어, 표준의 세부 내용

NVIDIA는 MGX 1.2 규격에 랙 단위 블라인드 메이트 액체 냉각(장비를 랙에 밀어 넣으면 액체 냉각 배관이 연결되는 방식), 상호 운용 가능한 랙 단위 인터커넥트 인프라, 액체 냉각 5,000A 버스바(랙 내부에서 대전류를 전달하는 도체), 네이티브 19인치 장비 지원이 추가되었으며, 아키텍처가 최대 250kW 랙 배치를 지원한다고 밝혔습니다.

NVIDIA는 또한 Vera CPU 랙 설계 규격이 MGX를 가속 컴퓨팅 너머로 확장한다고 설명했습니다. 도구 호출, 오케스트레이션, 샌드박스 실행을 지원하도록 설계되어, AI 에이전트(스스로 도구를 호출해 작업을 수행하는 AI 프로그램)가 애플리케이션, 데이터, 서비스와 실시간으로 상호작용할 수 있게 한다는 것입니다.

소프트웨어 측면에서 NVIDIA는 AI 팩토리 플랫폼의 개방형 운영 계층인 DSX OS에 오픈소스 구성 요소를 확장했다고 밝혔습니다. 네트워크 설정(Config Manager), 클러스터 검증(Cluster Readiness Engine), 랙 관리(Rack Management Service), 베어메탈 프로비저닝(Cluster API Provider, 운영체제가 설치되지 않은 물리 서버에 설치와 설정을 마치는 것)을 포함합니다. NVIDIA는 Cluster API Provider가 원시 AI 하드웨어를 며칠이 아니라 몇 시간 만에 프로덕션 가능한 클러스터로 바꿀 수 있으며, 이 구성 요소들은 NVIDIA DGX Cloud 운영 경험에서 나왔다고 설명했습니다.

표준 측면에서 NVIDIA는 AMD, Google, Meta와 함께 전력 아키텍처, 냉각, 물리적 배치를 다루는 Open Data Center Specification v0.7을 공개했다고 밝혔습니다. 또한 Google, Meta, Microsoft, NVIDIA가 발표한 OCP 전력망 복원력 규격은 대규모 AI 시설이 전력망 교란 시에도 연결을 유지하고 자동으로 대응하며 2초 이내에 거의 전부하로 복귀하도록 규정한다고 NVIDIA는 설명했습니다.

파트너별 진전 한눈에 보기

NVIDIA는 Visionbay의 K-1이 첫날부터 전면 전환하는 대신 효과가 가장 큰 곳부터 800 VDC를 단계적으로 도입하도록 설계되었다고 설명했습니다. Meta가 채택한 Multiplane 기술(GPU 트래픽을 여러 독립 네트워크 플레인으로 분산)에 대해서는, 부품에 장애가 생기면 트래픽이 나머지 플레인으로 옮겨져 대역폭이 줄더라도 운영을 유지한다고 밝혔습니다. 또한 Falcon은 이더넷에서 데이터를 안정적으로 전송하는 프로토콜로, 다중 경로 부하 분산, 프로그래머블 혼잡 제어, 하드웨어 손실 복구, 연결별 보안 기능을 갖췄다고 NVIDIA는 주장했습니다.

일반 독자에게 의미하는 바

이는 데이터센터 수준의 인프라 소식이며 소비자 제품 발표가 아닙니다. NVIDIA에 따르면 개방형 표준 덕분에 장비 제조사, 코로케이션 사업자, 데이터센터 운영사가 개별 고객의 독자 규격을 기다리지 않고 공통 규격에 맞춰 설계·제작할 수 있습니다. 주장대로라면 장기적으로 AI 시설 구축이 더 효율적이 될 수 있지만, 실제 효과는 각 업체가 도입한 뒤에 지켜봐야 합니다.

이 주제의 최신 뉴스 보기

• 테크 뉴스