핵심 요약
토스가 Spark Connect를 Kubernetes에서 멀티 세션 환경에서 안정적으로 운영하기 위한 문제 해결 및 구현 방향을 다루었습니다.
구현 방법
- 서버-드라이버 분리 설계와 Replica를 통한 고가용성 구현
- 글로벌 실패 카운터 비활성화 및 세션 단위 장애 관리 강화
- Gateway/ServerPool/SessionStore로 부하 기반 세션 배치 및 Redis 공유
주요 결과
- 단일 장애점 감소 및 Replica 기반 가용성 증가
- 동시 세션 관리와 리소스 경합 완화로 응답성 및 안전성 향상
