NVL72는 보통 NVIDIA GB200 NVL72 랙 스케일 AI 시스템을 의미하며, 1개 랙에 72개의 Blackwell GPU와 36개의 Grace CPU를 NVLink로 묶어 “단일 거대 GPU”처럼 동작하게 만든 플랫폼입니다.
- 제품 명칭
- 일반 명칭: NVIDIA GB200 NVL72
- 형태: 랙 스케일(rack‑scale) AI 슈퍼컴퓨터
- 주요 용도
- 초대형 LLM(1조+ 파라미터) 학습 및 파인튜닝
- 대규모 실시간 추론(inference)
- 멀티‑에이전트, 에이전틱 AI, 복잡한 시뮬레이션 등 초고성능 GPU 병렬 작업
- 주요 구성
- 슈퍼칩 구성: 36개의 GB200 슈퍼칩 탑재 (GB200 1개 = Grace CPU 1개 + Blackwell GPU 2개)1조+ 파라미터) 학습 및 파인튜닝
- 총 GPU 수: 72개 (NVIDIA Blackwell Tensor Core GPU)
- 총 CPU 수: 36개 (NVIDIA Grace ARM 기반 CPU)
- 물리적 구성: 18개의 컴퓨팅 트레이 (트레이당 2개의 GB200 탑재) + 9개의 NVLink 스위치 트레이
- 대규모 실시간 추론(inference)
<ref. https://www.hpe.com/us/en/collaterals/collateral.a50009224enw.html >
https://www.nvidia.com/en-us/data-center/gb200-nvl72/
https://www.nvidia.com/en-us/data-center/vera-rubin-nvl72/
GB200으로 구성된 NVL72의 Spec에 대해서 알아보았습니다. 그런데 NVL72로 검색을 하다보면 ”DGX GB200(NVL72)” 라는 제품명이 눈에 띕니다. 제품명에 “DGX”가 붙으면 NVIDA가 하드웨어부터 소프웨어 스텍까지 직접 설계, 검증, 판매하는 자체 브랜드 제품을 의미하며, 이와 별개로 동일한 NVL72의 Spec에 맞추어 OEM/ODM사에서 공급이 가능합니다.
즉 GB200 NVL72는 라는 스펙이며, HPE, Dell, Supermicro, Foxconn(Ingrasys), QCT, Lenovo 등 여러 OEM/ODM 파트너사가 이 스펙에 맞춰 각자의 브랜드로도 구현 할 수 있습니다. 그중 NVIDIA가 직접 만든 것이 DGX GB200입니다.
제품명의 구성 요소를 풀어보면, DGX는 NVIDIA 시스템 브랜드 자체를 의미하고, GB200은 Grace Blackwell GB200 컴퓨트 구조를, NVL72는 NVLink로 연결된 72개 GPU 규모의 인터커넥트를 각각 의미합니다.
IT Zone 랙 구성 (13 ~ 16 Rack) 예시
| Rack | 유형 | 장비 구성 | 랙 전력 | 냉각방식 |
| R01 | 🟦 Compute | GB200 NVL72 (72 GPU) | 120 kW | 액체냉각 |
| R02 | 🟦 Compute | GB200 NVL72 (72 GPU) | 120 kW | 액체냉각 |
| R03 | 🟦 Compute | GB200 NVL72 (72 GPU) | 120 kW | 액체냉각 |
| R04 | 🟦 Compute | GB200 NVL72 (72 GPU) | 120 kW | 액체냉각 |
| R05 | 🟦 Compute | GB200 NVL72 (72 GPU) | 120 kW | 액체냉각 |
| R06 | 🟦 Compute | GB200 NVL72 (72 GPU) | 120 kW | 액체냉각 |
| R07 | 🟦 Compute | GB200 NVL72 (72 GPU) | 120 kW | 액체냉각 |
| R08 | 🟦 Compute | GB200 NVL72 (72 GPU) | 120 kW | 액체냉각 |
| R09 | 🟩 Network | IB Spine (Quantum-2 NDR) | 25 kW | 공랭 |
| R10 | 🟩 Network | IB Leaf + Spectrum-X Ethernet | 25 kW | 공랭 |
| R11 | 🟨 Storage | High-Perf NVMe (DDN/VAST/WEKA) | 30 kW | 공랭+RDHx |
| R12 | 🟨 Storage | Capacity Tier Storage | 25 kW | 공랭 |
| R13 | 🟪 Management | Head Node + Slurm/K8s Master | 20 kW | 공랭 |
| R14 | 🟥 Power | PDU/Busway Distribution | 15 kW | - |
| R15 | ⬜ Cable/Patch | 광케이블 패치 패널 | 5 kW | - |
| R16 | ⬜ Spare | 예비 / 확장용 | 25 kW | 공랭 |
| IT 합계 | 1,110 kW | |||
| IT 평균 | ≈ 69.4 kW/Rack ✅ |
CDU (Coolant Distribution Unit)
Rack # 유형 장비 구성 랙 전력 처리 용량
| Rack | 유형 | 장비 구성 | 랙 전력 | 처리 용량 |
| C01 | 🟧 CDU #1 | 냉각분배장치 (Primary) | 15 kW | 800 kW 열처리 |
| C02 | 🟧 CDU #2 | 냉각분배장치 (N+1 이중화) | 15 kW | 800 kW 열처리 |
| CDU 합계 | 30 kW | 1,600 kW (N+1) |
CDU 사양
- 1차측 (Facility Water): 공급 15℃ / 회수 25℃
- 2차측 (Technology Cooling System, TCS): 공급 32℃ / 회수 45℃
- 유량: 각 CDU당 약 200 L/min
- 이중화: N+1 (1대만으로도 Pod 전체 냉각 가능)
1. 핵심 개념 정리 (GB200 NVL 72 Vs. DGX GB200 (NVL 72)
구분 의미
| GB200 NVL72 | NVIDIA가 공개한 랙스케일 레퍼런스 아키텍처(설계 표준). 72개 Blackwell GPU + 36개 Grace CPU를 NVLink로 완전 연결하는 규격 자체를 지칭 |
| DGX GB200 (NVL72) | 이 아키텍처를 NVIDIA가 자사 브랜드로 직접 설계·검증·공급하는 완제품(턴키 시스템). 즉 "GB200 NVL72 아키텍처의 NVIDIA 순정 구현체" |
2. 상세 스펙 비교표
항목 GB200 NVL72 (아키텍처/스펙) DGX GB200 (NVIDIA 브랜드 제품)
| GPU 구성 | 72개 Blackwell GPU | 동일 |
| CPU 구성 | 36개 Grace CPU (Arm, 72코어) | 동일 |
| Superchip | 36개 GB200 Superchip (Grace 1 + Blackwell GPU 2) | 동일 |
| 연산 성능 | 1.44 exaFLOPS(FP4, sparsity 기준) | 동일 |
| GPU 메모리 | 13.4TB HBM3e (unified) | 동일 |
| NVLink 대역폭 | 130TB/s, GPU당 1.8TB/s | 동일 |
| 컴퓨트 트레이 | 18개 1U 트레이(트레이당 Grace 2 + Blackwell 4) | 동일 |
| NVLink 스위치 | 9개 1U 스위치 트레이 | 동일 |
| 전력/무게 | 약 120kW, 1.36톤 | 동일 |
| 냉각 | 액체냉각(DLC) 필수 | 동일 |
| 공급/구현 주체 | NVIDIA가 공개한 표준 규격 — HPE, Dell, Lenovo(OEM), Foxconn/Ingrasys, QCT, Supermicro(ODM) 등이 각자 브랜드로 제작 | NVIDIA가 직접 설계·검증·판매하는 순정 완제품 |
| 소프트웨어/펌웨어 스택 | 벤더별 상이 (자체 BMC, 관리툴 등) | NVIDIA DGX OS, 통합 펌웨어 스택으로 NVIDIA가 직접 검증·배포 |
| SuperPOD 확장 | 벤더별 레퍼런스 설계 참고 필요 | DGX SuperPOD 레퍼런스 아키텍처와 완전 통합 (8개 랙 = 576 GPU 스케일러블 유닛) |
| 구매 방식 | OEM/ODM 파트너사를 통해 구매, 벤더별 커스터마이징 가능 | NVIDIA 및 인증 파트너를 통해 턴키로 구매 |
3. Sumamry
하드웨어 스펙 자체는 동일하지만, 실제 도입 시 체감되는 차이는다음과 같습니다.
- 검증·지원 체계: DGX GB200은 NVIDIA가 하드웨어부터 소프트웨어 스택(OS, NCCL, cuDNN, 드라이버 등)까지 엔드투엔드로 검증하고 릴리스 노트·펌웨어를 직접 관리. 반면 OEM/ODM 구현체는 파트너사 자체 지원 체계를 따름.
- 커스터마이징 여지: HPE, Dell 등의 구현체는 스토리지 구성, 네트워크 NIC 조합, 랙 디자인 등에서 자사 생태계에 맞춘 변형이 가능한 반면, DGX GB200은 NVIDIA 표준 구성으로 고정도가 높음.
- 조달 채널: 대형 하이퍼스케일러(AWS Project Ceiba 등)는 GB200 NVL72 아키텍처를 자체 조달·커스터마이징하는 경우가 많고, 엔터프라이즈 고객은 검증된 턴키 솔루션인 DGX GB200을 선호하는 경향이 큼.
그리고 Vera Rubin이 출격 준비 중이라는 점도 참고하세요 ~
https://www.nvidia.com/en-us/data-center/vera-rubin-nvl72/
'Data Center > Data Center' 카테고리의 다른 글
| Data Center] Data Center] 데이터센터의 구성 Part 5_ Rack Density 구분 (0) | 2026.07.24 |
|---|---|
| Data Center] 데이터센터의 구성 Part 1-1_ Chip, Server, Rack II (0) | 2026.07.20 |
| Data Center] 데이터센터의 구성 Part 3_ Rack Level to PoD(Point of Delivery) (0) | 2026.07.10 |
| Datacenter 설계 _ Distributed Redundancy vs. Block Redundancy (0) | 2026.05.19 |
| Data Center] 공조 시스템별 비교 : AHU, FCU 그리고 Coil Wall Unit (0) | 2026.03.16 |