핵심 요약
토스가 토스증권 추천·검색을 실시간 맥락 기반으로 진화시키며, 벡터 인덱스와 RAG/그래프 RAG를 공통 플랫폼에서 동작하게 했습니다.
구현 방법
- 추천: 유저 행동 및 아이템 변경 이벤트를 실시간으로 수집하고 피처 스토어와 벡터 인덱스에 반영하는 루프형 구조
- 검색/RAG: 질문 이해 → 하이브드 검색 → 랭킹으로 문서를 컨텍스트에 맞춰 제공
- 그래프 RAG: 시작점 인덱싱과 3홉 한정 Beam-like 탐색으로 관계를 그래프 상에서 연결하고, path_preference로 제품별 우선 순위를 반영
주요 결과
- 홉별 후보 수: 1홉 1,105건 → 2홉 134,520건 → 3홅 49,241,786건
- 벡터 모델 및 인덱스의 버전 관리로 서빙 일관성과 재현성 확보
- 경로 탐색의 추적 가능성 높이고, 공통 RAG 플랫폼의 재사용성 강화
