핵심 요약
AWS가 다룬 ZEP의 퀴즈 생성 아키텍처를 LangGraph 기반 그래프 로직과 Amazon Bedrock AgentCore Runtime으로 프로덕션 서빙과 백그라운드 배치를 다중 실행 모드로 운영한 사례를 소개합니다.
구현 방법
- LangGraph로 문제 생성 워크플로우 구성
- 두 실행 모드: thorough(Claude Sonnet 4.6)와 fast(타사 모델) 병행
- AgentCore Runtime 컨테이너로 실행, InvokeAgentRuntime API 호출
- Entrypoint Shim과 Lazy Graph Build로 초기화 경계 최소화
- Envelope 응답 형식으로 일관된 실패/성공 처리
- Observability: OpenTelemetry와 Langfuse를 분리 관리
주요 결과
- 프로덕션(prod): quiz_builder 11,370 invocations, 총 39,810 invocations, 11,364/22,821 세션, 93.79 vCPU-Hr, 1,080.74 GB-Hr
- 백그라운드(background): quiz_builder 2,179 invocations, 총 4,444 invocations, 2,115/4,280 세션, 22.37 vCPU-Hr, 1,230.20 GB-Hr
- 동일 그래프를 프로덕션 서빙과 배치 파이프라인에서 재사용해 실행 레이어 독립성 확보
- 분산 관측으로 경로 추적 및 성능 분석의 가시성 확보
