핵심 요약
티빙이 SSAI 기반 광고 송출의 트래픽 스파이크를 완화하기 위해 광고 prefetching과 내부 캐시를 도입했고, AWS MediaTailor와 내부 시스템 간 캐시 전략을 최적화해 안정성과 실시간 매출 집계 정확도를 개선했습니다.
구현 방법
- AWS MediaTailor 기반 광고 prefetching으로 세션 단위로 광고를 미리 가져와 캐시에 저장하고, 특정 세션의 캐시 적중으로 응답 지연을 줄임
- 이중 구조로 내부 캐시 서버와 AWS 캐시를 운영해 외부 광고 서버의 순간 부하를 줄이고, 광고 소재의 미리 transcoding를 보장해 런타임 이슈를 방지
- 세션 관리 로직 도입: initialize-session, refill, refresh를 통해 세션 유효기간을 30분으로 설정하고 세션 실종 문제를 최소화
- Kafka 파티션과 워커를 여유 있게 확보해 처리 지연과 lag를 대비
- 내부 캐시 TTL과 TVING 캐시 TTL를 최소화해 실시간 매출 집계 오차를 줄임
주요 결과
- 트래픽 분산으로 서버 부하와 응답 지연이 안정화
- 버퍼링 지표 개선 및 재생 안정성 강화
- 실시간 매출 집계 오차 감소에 기여
