핵심 요약
AWS가 Bedrock 백엔드에서 Claude Code, Codex를 위한 인증·비용·거버넌스가 포함된 사내 LLM 게이트웨이를 구축했습니다.
구현 방법
- Bedrock 프록시를 통한 VK 발급, 인증, RateLimit, 다운그레이드, 비용 이벤트 프록시 처리
- Anthropic/OpenAI 양식의 엔드포인트를 병행 지원하고 거버넌스 파이프라인을 동일하게 적용
- 내부 IdP(OIDC)와 Redis/Aurora 기반 VK 검증으로 인증 흐름 구성
주요 결과
- Virtual Key(VK) 유효 기간 1시간, Redis 캐시 TTL 300초 및 캐시 재확인으로 활성 여부 검증
- 비용 정책을 Redis Lua로 원자적으로 평가, 팀별 예산 관리 및 자동 다운그레이드 적용
- OWASP/규제 대응에 대비한 거버넌스 체계 강화 및 CVE-2026-49468 취약점 방지 설계 포함
