핵심 요약
마이리얼트립의 AICX가 항공권 환불 수수료를 AI로 자동화해, 상담 대기 시간을 단축하고 고객 경험을 개선했습니다.
구현 방법
- LLM으로 환불 규정 파싱 및 수수료 데이터 추출, 구조화된 형태로 반환
- Python FastAPI 기반 API로 날짜 계산 및 수수료 산출, 정형화된 JSON 응답 생성
- 입력 최적화: 자연어 규정은 그대로, 예약 정보는 필요 필드만 선별
- 다양한 모델·하이퍼파라미터 실험으로 정확도 유지하며 평균 응답 시간 5초 이내 달성
- 비동기 Redis+Celery 구조 도입 시 UX 이슈로 재설계, 동기로 돌아가 입력 최소화와 처리 구조 재설계로 최적화
주요 결과
- 평균 응답 시간 5초 이내로 단축, 첫 시도 대비 약 80% 개선
- 도입 후 평균 약 2분에서 5초로 대폭 단축, 약 95% 시간 절감 효과
- 정확도 유지 및 개선, 향후 캐싱으로 응답 속도 추가 최적화 및 규정 파싱 자동화 등 확장 계획
