데이터센터의 구성요소 중 Chip 에서 부터 Rack level(GPU를 포함한 Computing) 까지는 지난 글에서 살펴보았습니다. 그럼 다음으로 Rack Level에서 PoD (Point of Delivery) Level까지 알아보도록 하겠습니다.
https://move-first.tistory.com/208
Data Center] 데이터센터의 구성 Part 2 _ Storage Rack, Network Rack
앞의 글에서는 Chip Level 부터 GPU server Rack 구성까지 알아보았습니다. 이제는 PoD (Point of Delivery) Level로 가기 전에 Server Rack 외에 Storage, Network Rack에 대해서 알아보도록 하겠습니다. https://move-first.tis
move-first.tistory.com
https://move-first.tistory.com/207
Data Center] 데이터센터의 구성 Part 1 _ Chip, Server, Rack
먼저 데이터센터의 기반이 되는 GPU, CPU 같은 칩(Chip) 단위를 시작으로 생각해볼 수 있습니다. 예를 들어 8개의 GPU와 2개의 CPU가 하나의 연산 단위를 이루면, 이를 DGX B200과 같은 하나의 서버(Server)
move-first.tistory.com
AI 학습/추론을 위해서는 Computing Rack이 핵심이지만, 이를 뒷받침할 Storage, Network, Management Rack이 반드시 필요합니다. 통상 하나의 AI Pod는 Compute Rack 8~16개 + Network Rack 2~4개 + Storage Rack 2~4개 + Management Rack 1~2개 로 구성되며, 물리적으로는 Row당 12~20개 rack이 배치되어 1개 Pod이 1~2개 Row에 걸쳐 구성됩니다.
가장 기본이 되는 단위인 1개 Row는 약 12~20개의 Rack으로 구성되며, 보통 15개 내외의 Rack을 배치하는 경우가 많습니다. 이러한 Row 2개를 서로 마주보게 배치하고, 그 사이에 Hot/Cold Containment를 설치하여 Rack에서 발생하는 열을 효율적으로 제거합니다. 이처럼 2개 Row 1개 조로 하는 PoD가 동일한 방식으로 반복 배치되며, 이 PoD들이 모여 하나의 Data Hall을 구성합니다.
1. Pod(Point of Delivery)의 정의와 역할
1.1 Pod란?
- 데이터센터에서 독립적으로 설계·구축·운영·확장 가능한 최소 반복 단위(Repeatable Unit)
- 전력·냉각·네트워크·관리가 자기완결적(self-contained)으로 구성됨
- "Scalable Unit(SU)", "Cluster Block", "AI Factory Block" 등으로도 불림
1.2 Pod 도입의 이점
이점 설명
| 표준화 | 동일한 설계를 반복 배치 → 시공기간 단축 |
| 확장성 | Pod 단위로 증설 (예: 1 Pod → 4 Pod → 8 Pod) |
| 장애 격리 (Blast Radius) | 특정 Pod 장애가 전체 DC로 확산되지 않음 |
| 성능 예측성 | Pod 내부 네트워크 지연·대역폭이 결정론적 |
| 조달·검수 효율 | 벤더별 Pod 단위 통합 발주 가능 |
2. Rack Type별 상세 구성
2.1 Compute Rack (GPU Rack) — Pod의 핵심 (60~75%)
항목 사양
| 구성 | GB200 NVL72 x 1 rack 또는 DGX/HGX H200 x 4~8대 |
| GPU 수 | 32 ~ 72 GPUs/rack |
| 전력 밀도 | 60 ~ 132 kW/rack |
| 냉각 | Full DLC (85%) + Air (15%) |
| 네트워크 연결 | Rack당 8~72개 400/800G 광케이블 (Compute Fabric) |
| Pod 내 비중 | 60 ~ 75% |
2.2 Network Rack — Pod의 신경계 (10~20%)
Network Rack은 3가지 계층으로 세분화됩니다.
(1) Leaf Switch Rack (또는 ToR 통합)
항목 사양
| 구성 | 4~8x 32-port 400/800G Switch (NVIDIA Quantum-2/X800 또는 Spectrum-4) |
| 용도 | Compute Rack ↔ Spine 연결 (Rail-Optimized) |
| 배치 | End-of-Row (EoR) 또는 Middle-of-Row (MoR) |
| 전력 | 10 ~ 15 kW/rack |
| 광케이블 수용 | 256 ~ 512 ports |
| 구성 | 8~16x 64-port 800G Spine Switch |
| 용도 | Leaf ↔ Leaf 전체 상호연결 (Non-blocking Fat-Tree) |
| 전력 | 15 ~ 20 kW/rack |
| 냉각 | Air (일부 신형은 Liquid) |
(2) Spine Switch Rack
항목 사양
(3) Storage/Frontend Network Rack
항목 사양
| 구성 | Storage Fabric Switch + Frontend Ethernet (사용자 접속용) |
| 전력 | 8 ~ 12 kW/rack |
2.3 Storage Rack (10~20%)
Type 구성 전력 Pod 내 비중
| High-Performance Tier (Hot) | All-NVMe (VAST, WEKA, DDN AI400X2) | 12~18 kW | 5~10% |
| Capacity Tier (Warm) | Hybrid SSD+HDD | 8~12 kW | 5~10% |
| Archive Tier (Cold) | HDD Object Storage | 5~8 kW | 별도 Pod 권장 |
AI 학습의 경우 High-Performance Tier(Parallel File System) 가 Pod 내 배치되며, Capacity/Archive는 별도 Storage Pod으로 분리하는 것이 최근 표준입니다.
2.4 Management / Control Rack (3~5%)
항목 사양
| 구성 | OOB(Out-of-Band) 관리 Switch, Jump Server, DCIM, BMC 집선, KVM |
| 부가 장비 | PDU 모니터링, 환경센서 집선기, 시간동기(PTP) 서버 |
| 전력 | 3 ~ 5 kW/rack |
| 냉각 | Air |
| Pod 내 수량 | 1 ~ 2 rack |
2.5 CDU (Coolant Distribution Unit) Rack
항목 사양
| 용도 | 시설 냉각수(FWS)와 Rack DLC 루프(TCS) 간 열교환 |
| 형태 | In-Row CDU (Rack형) 또는 Row-end CDU |
| 용량 | 700 kW ~ 2 MW/unit |
| 배치 | Compute Rack 4~8대당 1x CDU (이중화 시 N+1) |
| 전력 소비 | 5 ~ 15 kW (펌프 구동용) |
3. Pod 표준 구성 (AI 학습 기준)
3.1 GB200 NVL72 기반 Pod (Blackwell 세대, 최신 표준)
Rack Type 수량 Rack당 전력 소계
| Compute Rack (GB200 NVL72) | 8 | 120 kW | 960 kW |
| Network Rack (Leaf) | 2 | 12 kW | 24 kW |
| Network Rack (Spine) | 2 | 18 kW | 36 kW |
| Storage Rack (High-Perf) | 2 | 15 kW | 30 kW |
| Management Rack | 1 | 5 kW | 5 kW |
| CDU Rack | 2 | 10 kW | 20 kW |
| 총계 | 17 racks | — | ~1,075 kW (약 1.1 MW) |
- GPU 수: 576 B200 GPUs (8 rack × 72)
- 물리 배치: 2 Row × 8~9 rack
- Pod 면적: 약 200~250 m² (aisle 포함)
3.2 DGX H200 기반 Pod (Hopper 세대, SuperPOD 표준 SU)
Rack Type 수량 Rack당 전력 소계
| Compute Rack (DGX H200 x4) | 8 | 40 kW | 320 kW |
| Network Rack (Leaf/Spine) | 3 | 15 kW | 45 kW |
| Storage Rack | 2 | 15 kW | 30 kW |
| Management Rack | 1 | 5 kW | 5 kW |
| 총계 | 14 racks | — | ~400 kW |
- GPU 수: 256 H200 GPUs (32 DGX × 8)
- 이것이 NVIDIA SuperPOD의 1 Scalable Unit (SU)
- 4개 SU 결합 시 1,024 GPU / ~1.6 MW Pod 구성
3.3 Rack 유형별 비율 (AI Pod 표준)
Rack Category 비율 비고
| Compute Rack | 60 ~ 75% | Pod의 핵심 |
| Network Rack | 10 ~ 20% | Leaf+Spine+Storage Fabric |
| Storage Rack | 10 ~ 15% | High-Perf Tier만 Pod 내부 |
| Management Rack | 3 ~ 5% | OOB, DCIM |
| CDU/Utility | 5 ~ 10% | Liquid Cooling 필수 |
4. Row 물리 배치 (Layout)
4.1 Row 표준 사양
항목 표준
| Row당 Rack 수 | 12 ~ 20 racks (AI: 평균 14~16) |
| Row 길이 | 12 ~ 20 m (rack 폭 800mm 기준) |
| Cold Aisle 폭 | 1,200 ~ 1,500 mm |
| Hot Aisle 폭 | 900 ~ 1,200 mm |
| Aisle Containment | Cold Aisle Containment (표준) |
| Row당 전력 | 1 ~ 2 MW (AI 기준) |
4.2 Pod 배치 옵션
'Data Center > Data Center' 카테고리의 다른 글
| Data Center] 데이터센터의 구성 Part 1-1_ Chip, Server, Rack II (0) | 2026.07.20 |
|---|---|
| Data Center] Data Center] 데이터센터의 구성 Part 4_ GB200 NVL72 (0) | 2026.07.15 |
| Datacenter 설계 _ Distributed Redundancy vs. Block Redundancy (0) | 2026.05.19 |
| Data Center] 공조 시스템별 비교 : AHU, FCU 그리고 Coil Wall Unit (0) | 2026.03.16 |
| Data Center] Cloud Data Center 에서 AI Data Center로 (0) | 2026.02.09 |