핵심 요약
AWS가 GS리테일의 전사 AI Gateway 구축 사례를 통해 실사용 운영 체계를 갖춘 플랫폼으로 확장한 경험을 정리했습니다.
구현 방법
- Install Center로 Windows 설치 자동화, Self-service 배포 및 자격증명 자동 기록 표준화
- 예산 소진 시 자동 모델 라우팅으로 비용 관리 및 업무 연속성 확보
- Gateway 가드레일: Input Guard로 차단·출력은 사후 감사, 감사 로그 비동기로 저장
- Leader Lounge와 OTEL 관측으로 조직별 현황 및 비용 관리 제공; 감사 로그는 S3+DynamoDB 분리 저장
주요 결과
- 700개 팀, 수천 명 규모의 운영 가능
- 보안·거버넌스 강화: 프라이버시 보호 및 정합성 유지
- Web Search Server Side 도입으로 사용량 추적 및 비용 관리의 일관성 확보
