핵심 요약
왓챠가 Kubernetes 기반 인코딩 작업의 비용을 45~74% 절감하고, 전체 작업 시간은 14% 단축하며 느린 상위 5% 작업은 35% 단축하는 모델 기반 최적화를 도입했습니다.
구현 방법
- 모델 기반으로 비용식과 시간식 정의 및 Pod 확장 임계값 V를 최적화
- 파드 단가, 처리시간, 대기 및 재작업 낭비를 반영한 비용식 구성
- 마감 확률 스펙트럼 도입으로 실무 마감에 맞춘 해 탐색
주요 결과
- 비용 45~74% 절감; 1시간당 켜둔 시간 350→128로 감소
- 인코딩 단계 시간 2.3배 증가하나 전체 시간은 14% 단축, 상위 5% 느린 작업은 35% 단축
- 최적 해는 V=2로 도출; 운영 적용에서 비용/속도 개선 확인
