핵심 요약
AWS의 Deep Insight 팀은 하네스 엔지니어링을 통해 로컬 개발에서 프로덕션 운영까지의 설계를 실현하고, 에이전트 추론과 코드 실행을 분리한 안전하고 확장 가능한 아키텍처를 구축했습니다.
주요 경험
- 코드 실행을 별도 인프라(Fargate)로 분리하고, 런타임은 경량적으로 유지해 동시 요청 처리와 확장을 개선했습니다.
- ALB와 Sticky Session으로 세션 연속성을 보장하고, GlobalFargateSessionManager로 세션 생성과 종료를 자동 관리했습니다.
- S3를 세션 단위 중간 저장소로 활용해 입력, 산출물, 로그를 격리하고 감사 재현성을 확보했습니다.
얻은 인사이트
- 에이전트 추론과 실행 인프라의 분리로 안전성, 격리성, 가용성이 크게 향상되었습니다.
- 실행 시간에만 과금되는 Fargate 구조로 비용 효율적 운영이 가능해졌습니다.
- VPC 모드 및 PrivateLink를 통한 네트워크 격리로 민감 데이터 보안이 강화되었습니다.
