핵심 요약
NHN Cloud의 NHN FactoryX는 수랭식 인프라를 기반으로 한 풀스택 AI 워크로드를 제공합니다. 서울 데이터 센터에 4,080장의 GPU를 단일 클러스터로 운영해 FP8 기준 27.4 EFLOPS를 달성했고, 3계층 구조로 인프라-플랫폼-서비스를 연결합니다. PUE 1.15 이하와 연간 냉각 에너지 30~40% 절감, 957개 GPU 노드 규모의 다기관 격리 및 255노드 HPL 벤치에서 베어메탈 동등 성능을 확인했습니다.
구현 방법
- 수랭식 데이터 센터와 GPU 클러스터를 물리적 기반으로 구성
- GPU Live의 3계층 멀티테넌시, Best-fit 빈패킹, Gang Scheduling 적용
- GPUaaS로 Tenant/Workspace/Project 격리 및 다기관 운영 지원
주요 결과
- 4,080 GPU 단일 클러스터로 27.4 EFLOPS 달성
- PUE 1.15 이하 및 냉각 에너지 30~40% 절감
- 957GPU 노드 규모의 다기관 워크스페이스 운영
- 255노드 규모 HPL 벤치에서 베어메탈 동등 성능 확인