핵심 요약
AWS가 GS리테일의 전사 AI Gateway 구축 사례를 통해 인증·라우팅·계정 자동화를 하나의 관문에서 관리하는 운영 체계를 구현했습니다.
구현 방법
- Claude Code on Bedrock, Claude Cowork on Bedrock를 표준 개발/현업 환경으로 채택하고 LiteLLM 기반 Gateway 엔진으로 Bedrock과 연결
- Virtual Key 기반 중앙 인증 구조를 통해 사용자/조직/프로젝트 단위로 모델 접근, 비용 정책, 감사 로그를 일관 적용
- 크로스 계정 라우팅 및 Account Factory/Account Onboarding 자동화 파이프라인으로 팀 단위 쿼터·비용 분리와 대규모 계정 운영 자동화를 달성
주요 결과
- 700개 팀 규모에서 모든 AI 호출을 하나의 관문으로 관리하는 운영 체계 구축
- Bedrock의 프롬프트 캐싱으로 응답 지연 최대 85% 단축, 비용 최대 90% 절감 가능
- Private 네트워크 구성 및 Bedrock Guardrails, CloudTrail 감사 등 보안 및 거버넌스 강화로 컴플라이언스 일원화
