핵심 요약
우아한형제들 AI플랫폼팀은 GenAI Studio를 중심으로 Langfuse를 도입하고 Studio/SDK/API Gateway/Labs를 연결해 LLMOps 운영 체계를 구축했습니다.
구현 방법
- Studio를 통해 프롬프트 버전 관리, Observability, 데이터셋 관리, PII 차단을 운영 허브에 반영
- SDK+Gateway로 벤더 간 차이를 표준화하고 크레덴셜 관리 자동화
- Labs로 Golden/Evaluation Dataset 기반 실험 및 결과 저장·확산
주요 결과
- 멀티 벤더·프롬프트 관리의 복잡성 해소와 안정성 강화
- 비용 가시성 확보 및 예산 관리 용이성 증가
- 비개발자도 프롬프트 실험을 수행하는 셀프 서비스 확장
