핵심 요약
AWS가 Amazon Bedrock 및 Strands Agents를 활용해 롯데백화점 AI 컨시어지 구축 사례를 소개합니다.
구현 방법
- API 레이어: CloudFront+WAF로 엣지 차단, ALB→ECS(Strands) 에이전트 서버 전달
- 에이전트 레이어: Bedrock Claude Haiku로 추론, Guardrails로 필터링, DynamoDB로 대화 이력 관리
- 데이터/색인 레이어: 온프레미스 데이터 S3 저장, SQS/SNS→ Lambda로 파싱·임베딩·OpenSearch 색인; Titan Embeddings로 벡터 검색
- 웹 핫플레이스 파이프: Tavily로 수집, Step Functions로 주기 업데이트, Claude Sonnet/Opus로 데이터 추출 및 저장
주요 결과
- 토큰 사용량 약 50% 감소: 프롬프트 최적화 및 결과 축약으로 비용 효율 개선
- 하이브리드 검색으로 빠른 응답: 키워드 + 의미 기반 벡터 검색 활용
- 대화 이력 관리로 문맥 유지 및 응답 일관성 확보
