Play new and move-first

AI 시대의 화두는 단연 '속도'입니다. 빅테크를 포함한 AI 기업들은 더 많은 데이터를 더 빠르게 학습시키기 위해 데이터센터 건설에 천문학적인 CAPEX를 쏟아붓고 있습니다. 하지만 AI 기술은 몇 달, 심지어 몇 주 단위로 진화하는 반면, 전통적인 데이터센터 건설에는 여전히 오랜 시간이 소요됩니다. 이러한 시간적 격차는 AI 기업들에게 새로운 병목 지점으로 떠올랐습니다.이 문제를 해결하기 위한 대안으로 최근 주목받고 있는 것이 바로 'Modular Data Center'입니다. 미리 제작된 모듈을 조립하는 방식으로 건설 기간을 획기적으로 단축할 수 있다는 점에서, 여러 기업들이 이 방식을 도입하고 있습니다. 이번 글에서는 그중에서도 2025년 업계의 큰 이슈로 떠올랐던 말레이시아 조호르(Johor) ..

요즘 화제가 되고 있는 AI, 이 AI를 학습시키기 위해서는 대규모 컴퓨팅 시스템, 즉 데이터센터가 필요합니다. 데이터센터 건설이 끝난 후에는 본격적인 운영에 앞서 준비 과정을 거치게 되는데요, 이번 글에서는 준비과정중 하나인 커미셔닝(Commissioning) 이 어떻게 구성되는지 알아보겠습니다. 통상 커미셔닝(Commissioning) 절차는 Cx0~Cx7 또는 L0~L7로 표기합니다. 다만 이는 공식적인 명칭이 아니며, 회사마다 표기법에 차이가 있습니다. 일반적으로는 L1~L5를 가장 많이 사용하며, 더 세분화된 관리가 필요한 경우 L0~L7까지 확장해서 사용합니다. Level 0Design Verification / Pre-Construction stageOPR(Owner’s Project Re..

AI 슈퍼싸이클의 Road Map과 관련 회사(주식)을 정리해 놓은 표를 한글로 옮겨 보았습니다. 단순 참고용으로 사용하시면 될 것 같습니다. 원문은 아래 링크 참조원문: https://x.com/RealJGBanks/status/2083698684613591199?s=20 X의 Justin Banks님(@RealJGBanks)THIS IS HOW YOU RETIRE IN THE NEXT 5 YEARS. I’ll be following where capital flows. This is how I believe the AI Supercycle evolves: 2026–2027: AI Infrastructure AI demand accelerates. Capital pours into the compan..

여기 젠슨 황의 완전한 AI에 대한 5 Layer 에 대한 List 입니다. 젠슨 황이 말한 AI layer 5단계에 대해서 참조하시면 도움이 될 것 같습니다. 원문은 아래 링크를 참조하세요 https://x.com/LeifInvests/status/2083545891542048816?s=20 X의 Leif | Investing님(@LeifInvests)The AI Trade is Back in Full Swing📈 Here is Jensen Huang’s Full 5 Layer AI 🍰 👇 Layer 5: Applications $PLTR $CRWD $SHOP $NOW $APP $ZETA Layer 4: Models $GOOG $META $MSFT $SPCX OpenAI + Anthropic L..

밀도, 중밀도 등 Rack의 전력 밀도를 구분하는 기준이 있나요?Rack의 소요 전력에 따른 밀도 구분은 공식적으로 표준화된 기준이 존재하지 않습니다. 다만, 현재 데이터센터의 Trend를 잘 대변하는 NVIDIA GPU 제품군과 Vertiv Cooling Solution 제품군을 종합적으로 분석하여 Rack 밀도별 구분 기준을 저밀도, 중밀도, 고밀도 등 정도로 정리해보았습니다. (개인적인 관점임일 참조해 주세요)Rack 밀도별 냉각 방식은 아래와 같이 요약 할 수 있습니다.저밀도: Server Room 전체를 대상으로 하는 Room-level Cooling (CRAC/CRAH)중밀도: In-Row Cooling을 중심으로 CRAC/CRAH와 병행 운용고밀도: **Rear Door Heat Exchan..

앞서 Chip, Server, Rack Level에 대해서 설명드렸는데요, 글로만 접하다 보면 "실제 어떻게 생겼지?" 하는 궁금증이 드실 것 같아 시각 자료와 함께 살펴보는 시간을 준비하했습니다. 데이터센터는 가장 작은 단위인 Chip에서 출발해 다음과 같은 순서로 확장됩니다.Chip → Server → Rack → Data Hall → Data Center Chip들이 모여 Server가 되고, Server들이 모여 Rack이 됩니다. 이 Rack들이 모여 Data Hall을 이루고, 여러 Data Hall이 모여 최종적으로 하나의 Data Center를 구성하게 되죠.그럼 가장 작은 단위인 Chip부터 순서대로 살펴보겠습니다.1. Chip Chip은 크게 GPU와 CPU 두 가지로 나눌 수 있습니다..

NVL72는 보통 NVIDIA GB200 NVL72 랙 스케일 AI 시스템을 의미하며, 1개 랙에 72개의 Blackwell GPU와 36개의 Grace CPU를 NVLink로 묶어 “단일 거대 GPU”처럼 동작하게 만든 플랫폼입니다. - 제품 명칭 - 일반 명칭: NVIDIA GB200 NVL72 - 형태: 랙 스케일(rack‑scale) AI 슈퍼컴퓨터- 주요 용도 - 초대형 LLM(1조+ 파라미터) 학습 및 파인튜닝 - 대규모 실시간 추론(inference) - 멀티‑에이전트, 에이전틱 AI, 복잡한 시뮬레이션 등 초고성능 GPU 병렬 작업- 주요 구성 - 슈퍼칩 구성: 36개의 GB200 슈퍼칩 탑재 (GB200 1개 = Grace CPU 1개 + Blackwel..

데이터센터의 구성요소 중 Chip 에서 부터 Rack level(GPU를 포함한 Computing) 까지는 지난 글에서 살펴보았습니다. 그럼 다음으로 Rack Level에서 PoD (Point of Delivery) Level까지 알아보도록 하겠습니다. https://move-first.tistory.com/208 Data Center] 데이터센터의 구성 Part 2 _ Storage Rack, Network Rack앞의 글에서는 Chip Level 부터 GPU server Rack 구성까지 알아보았습니다. 이제는 PoD (Point of Delivery) Level로 가기 전에 Server Rack 외에 Storage, Network Rack에 대해서 알아보도록 하겠습니다. https://move-f..

앞의 글에서는 Chip Level 부터 GPU server Rack 구성까지 알아보았습니다. 이제는 PoD (Point of Delivery) Level로 가기 전에 Server Rack 외에 Storage, Network Rack에 대해서 알아보도록 하겠습니다. https://move-first.tistory.com/207 Data Center] 데이터센터의 구성 Part 1 _ Chip, Server, Rack먼저 데이터센터의 기반이 되는 GPU, CPU 같은 칩(Chip) 단위를 시작으로 생각해볼 수 있습니다. 예를 들어 8개의 GPU와 2개의 CPU가 하나의 연산 단위를 이루면, 이를 DGX B200과 같은 하나의 서버(Server)move-first.tistory.com 아래 Table은 ..

먼저 데이터센터의 기반이 되는 GPU, CPU 같은 칩(Chip) 단위를 시작으로 생각해볼 수 있습니다. 예를 들어 8개의 GPU와 2개의 CPU가 하나의 연산 단위를 이루면, 이를 DGX B200과 같은 하나의 서버(Server) 라고 부를 수 있습니다. 그리고 이렇게 구성된 서버 여러 대를 모아 하나의 랙(Rack)을 형성하게 됩니다.랙은 보통 800W × 1200D × 48U와 같은 물리적 규격의 모듈 형태로 구성됩니다. 여기서 U는 서버 장비의 높이를 나타내는 표준 단위로, 1U는 약 1.75인치(44.45mm)를 의미합니다. 즉, 48U 랙은 최대 48U 높이의 장비를 수용할 수 있는 구조라고 이해하면 됩니다.아래와 같이, 지금까지 출시되었거나 출시가 예정된 제품들을 기준으로 내용을 한눈에 볼 ..