핵심 요약
Career Agent 개발은 단일 프롬프트의 비대화를 해결하기 위해 Intent Router + Specialist 구조로 전환했고, 토큰 효율성과 유지보수성, 확장성을 크게 개선한 경험이다.
주요 경험
- 단일 프롬프트에 모든 기능을 담아 프롬프트가 비대화되고 토큰 사용량과 응답 속도가 악화되던 문제를 마주했다.
- Intent Router와 Sub Agent Specialist로 역할을 분리하고, 의도를 라우팅하는 가벼운 모델(gpt-5-nano)로 분류를 처리하고, 복잡한 추론은 Specialist가 담당하도록 설계했다.
- 프롬프트 엔지니어링의 중요성을 체감했고, 기능 추가 시에도 프롬프트 분해와 독립적 프롬프트 구성이 유지보수와 확장을 용이하게 했다.
얻은 인사이트
- 프롬프트 엔지니어링이 에이전트 성능의 90%를 결정한다는 점을 체감했다.
- 의도 분류를 통한 가벼운 모델 활용과 무거운 모델의 조합으로 비용과 응답 속도를 최적화할 수 있었다.
- 에이전트 간 독립성으로 신규 기능 추가가 기존 기능에 미치는 영향이 줄었다.
