핵심 요약
한글과컴퓨터가 LLM의 환각 현상을 완화하기 위해 고품질 데이터 미세조정, RLHF, RAG, 사후 필터링 및 교정, SUM 데이터 도입 등을 다각적으로 분석한 글을 정리했습니다.
구현 방법
- 고품질 데이터로 미세조정
- RLHF로 인간 피드백 반영
- RAG로 외부 소스 조회 및 교차 검증
- 사후 필터링 및 신뢰도 보정(calibration)
- SUM 데이터로 불확실성 학습 및 거부 응답 강화
- CoT/RAG/자체 검증/자기일관성의 조합
주요 결과
- 환각 출력 감소 및 거절 능력 향상
- 신뢰성과 정확성의 균형 향상
- 실행 시간 및 계산 비용 증가의 한계가 확인
