핵심 요약
현대자동차가 DeepSeek Janus VLM를 로컬에서 구축하는 방법과 필수 사양을 정리한 기술 블로그를 다룹니다.
구현 방법
- 지원 모델: Janus-1.3B, Janus-Pro-1B, Janus-Pro-7B(리눅스, Python >=3.8)
- 하드웨어 요구: VRAM 8GB 이상(1.3B/1B), 32GB 이상(7B); 메모리 16GB 이상(1.3B/1B), 32GB 이상(7B); 저장공간 10~20GB
- 설치/실행: 코드와 모델 다운로드(추론 코드+모델), 가상환경 생성, inference.py 및 generation_inference.py의 model_path 및 파라미터 조정
주요 결과
- 4장 출력 제어 가능: parallel_size 설정, img_size 통해 해상도 조절
- 실행 시 자원 사용 예시: Janus-Pro-1B에서 GPU 메모리 약 14GB, 시스템 메모리 약 13GB 사용
- 한글 입력 문제 등 사용 시 주의점 및 비교 관찰
