핵심 요약
SK플래닛의 AI Moment 과제를 통해, 기획자와 개발자의 협업으로 LLM 기반 영상 생성 서비스를 구현하고 운영 과정에서 마주친 문제를 해결한 경험을 공유합니다.
주요 경험
- 사업팀이 프롬프트 설계에 집중하고, 개발팀은 형식 표준화와 API 연동으로 일관된 동작을 확보
- Graceful Degradation 전략으로 예외 상황에서도 기본 흐름을 유지
- 비동기 처리 및 prefix caching 도입으로 지연을 최대 80% 감소시키고 비용도 최대 50% 절감
- 정성적/정량적 평가 체계 도입 계획 수립으로 품질 관리
얻은 인사이트
- 사람의 판단과 시스템 지표를 함께 활용하는 평가가 실무에 효과적임
- 브랜드 톤과 문맥에 맞춘 프롬프트 조정이 결과 품질에 큰 영향
- 서비스화 과정에서 사람과 시스템 간 균형이 중요
