핵심 요약
잡코리아의 Career Agent 개발기(3): Tool Calling에서 도구 설계의 핵심 원칙과 실무 노하우를 정리했습니다.
주요 특징
- Tool은 LLM의 사고와 외부 시스템 실행 사이의 다리이며, 실제 실행은 시스템이 담당하고 LLM은 tool call만 생성합니다.
- Tool Description의 다섯 가지 원칙: 명확한 의미와 형식, 부정 지시, Tool 간 경계 명확화, 반환값 문서화, 퓨샷 예시가 핵심입니다.
- 반환값 구조와 에러 메시지 설계: 실패 시 교정 방향을 포함한 actionable한 정보가 필요합니다.
- 계획 수립과 성찰의 분리, 자기 교정 루프를 통한 지속적 성능 향상을 강조합니다.
- 도구 선택의 딜레마를 관리하기 위해 Intent Router와 다양한 도구 조합의 실험이 중요합니다.
적용 고려사항
- 도구 수가 많아질수록 올바른 도구를 고르는 문제가 커지므로 명확한 스키마와 경계 규정이 필요합니다.
- 프롬프트 비용 관리: 도구 Description의 길이가 토큰 비용에 영향을 미치므로 균형점(goldilocks zone)을 고려해야 합니다.
- 언제 어떤 도구를 사용하지 말아야 하는지 명시하고, 대안을 함께 제시하는 것이 중요합니다.
- 유지보수와 팀 내 교육을 통해 도구 설계의 일관성을 유지해야 합니다.
