핵심 요약
NAVER D2가 Fabric Manager 파티션과 DRA를 활용해 VM에 GPU를 할당하는 체계를 구축했고, 파티션 간 중복 할당을 방지해 다수 VM에 안전하게 GPU를 제공합니다. NCCL all_reduce의 버스 대역폭은 베어메탈 대비 약 1% 이내 차이로 측정되었습니다.
구현 방법
- Fabric Manager 파티션을 DRA 파티션 디바이스로 발행하고, CEL로 GPU 구성을 표현
- SharedCounters로 같은 GPU가 포함된 파티션의 동시 할당을 차단
- ResourceClaimTemplate으로 GPU 파트션 요구를 추상화하고, kata shim이 VM으로 연결할 때 DRA 디바이스를 순서대로 매핑
- 파티션 상태 갱신은 60초 간격으로 반영되며, 드라이버 재시작 없이 목록 업데이트 가능
주요 결과
- 2장 구성 카타 게스트: 약 623.5 GB/s, 베어메탈 약 629.7 GB/s
- 4장 구성: 약 680.7 GB/s, 베어메탈 약 683.3 GB/s
- 8장 단독: 약 835.9 GB/s, 베어메탈 약 839.7 GB/s
- 모든 경우에서 카타 게스트 대역폭과 베어메탈 간 차이가 1% 이내