핵심 요약
미리디가 프롬프트와 스키마를 분리하고 JSON Schema와 OpenAI Structured Outputs(strict)로 모델 출력을 강제해 예측 가능 AI 제품의 런타임 안정성을 크게 높인 사례를 공유합니다.
주요 경험
- 프롬프트 규칙을 넘겨받는 대신 manifest 스키마로 유효성을 런타임에서 단일 지점에서 검증하고 const manifest = PrismGptManifestSchema.parse(JSON.parse(content));를 신뢰하는 흐름으로 전환
- json-render(zod 기반 검증)과 런타임 경계로 도형 목록 등 허용값을 강제하고, hexagon 같은 미허용 값이 생성 단계에서 차단되도록 구성
- 생성 호출 수를 대폭 줄여 한 장당 20-40회에서 1-2회로 비용과 지연을 크게 감소
얻은 인사이트
- 스키마가 계약이 되어 AI 출력의 신뢰성 및 개발 속도가 향상됨
- 프롬프트와 문서의 정보 과부하를 런타임 검증으로 분리하는 설계가 중요
- 재생성 대신 필요한 부분만 재생성하는 전략으로 비용이 감소하고 품질이 일관돼짐
