핵심 요약
현대자동차가 임베디드 보드 성능 예측 AI 모델을 개발해 PyTorch 모델만으로 HW 성능 예측을 가능하게 하여 임베딩 테스트 시간을 크게 단축했습니다.
구현 방법
- TVM 컴파일러로 PyTorch를 포함한 다양한 모델 입력을 하나의 IR로 통합
- IR 기반으로 관계 표현자 생성기와 고정 표현자 생성기를 활용해 모듈 간 관계와 MACs를 산출
- GraphSAGE 기반 성능 예측 그래프 모델로 하드웨어별 Latency/Throughput 예측
주요 결과
- 기존 방식의 HW 테스트가 최대 40분 소요에서 제안 방식은 최대 50ms로 대폭 단축
- 연간 다수 후보 모델 평가로 약 1300시간의 시간 절감 효과