Moait
홈인기 피드모든 블로그모든 태그
홈인기 피드모든 블로그모든 태그
[#3 LLM Tutorial With RAG] 오픈 소스 LLM의 약점을 보완하는 RAG 섬네일

[#3 LLM Tutorial With RAG] 오픈 소스 LLM의 약점을 보완하는 RAG

현대자동차 favicon현대자동차·AI/ML·
PythonLangChainRAGOllamaFAISS
2024년 12월 11일0

AI 요약

이 글은 AI가 요약했어요. 정확한 내용은 꼭 원문을 확인해 주세요!

핵심 요약

현대자동차가 오픈 소스 LLM의 한계를 보완하는 RAG를 LangChain으로 구현하는 흐름을 소개했습니다.

구현 방법

  • LangChain 라이브러리로 RAG의 최소 구현 구조를 구성
  • Ollama로 LLM 실행과 OllamaEmbedding으로 벡터 임베딩 수행
  • FAISS 벡터 스토어 생성 및 Retriever로 유사도 검색
  • Retrieved Context를 바탕으로 LLM 응답을 생성

주요 결과

  • 벡터 임베딩과 검색으로 문맥 품질이 향상되며 고품질 출력 가능
  • RTX 3060 환경에서 LLM 응답 시간이 10초 미만으로 소요되는 사례가 확인되었습니다

연관 피드

%가 높을수록 이 글과 비슷할 가능성이 높아요!
[#4 LLM Tutorial With RAG] LLM의무한한 가능성을 해방하는 LangChain 섬네일
88%

[#4 LLM Tutorial With RAG] LLM의무한한 가능성을 해방하는 LangChain

현대자동차 favicon현대자동차·2025년 01월 02일
[#1 LLM Tutorial With RAG] 나만의 Chat GPT를 만들어봅시다! 섬네일
88%

[#1 LLM Tutorial With RAG] 나만의 Chat GPT를 만들어봅시다!

현대자동차 favicon현대자동차·2024년 10월 22일
[#2 LLM Tutorial With RAG] 내 컴퓨터에 Chat GPT를 설치하자 With Ollama 섬네일
78%

[#2 LLM Tutorial With RAG] 내 컴퓨터에 Chat GPT를 설치하자 With Ollama

현대자동차 favicon현대자동차·2024년 10월 24일