핵심 요약
루닛이 임상 RAG 기반 검색에서의 deceptive grounding 문제를 분석하고, 올바른 문서 검색과 엔티티-할당 검증으로 위험을 줄이는 방법을 제시했습니다. 실배포에서의 발생률은 7.8%이며, 최근 승인 약물은 13.6%까지 상승하는 현상을 보였습니다.
구현 방법
- 엔티티-할당 검증 도입: 각 주장에 대해 문서가 다루는 약물이 실제 쿼리 약물과 일치하는지 확인
- 정밀 검색 개선: 쿼리 약물의 근거 문서를 우선적으로 조회하도록 검색 파이프라인 보강
- 모델에 하드 제약 반영: 동일성 확인을 사전 처리로 강제하여 잘못된 속성 매핑 차단
주요 결과
- 탐지 정밀도 97%, 재현율 98.7% 달성
- 정확히 할당된 답에서의 탐지 오탐률 0%
- 완비 정보 제거 시 deceptive grounding이 67%에서 0%로 감소하나, 전체 오류율은 98%까지 증가
