👻기존 LLM의 문제점

• hallucination : 허위 정보 제공
• 신뢰할 수 없는 출처로부터 응답 생성
• 용어 혼동으로 인한 부정확한 응답

💡RAG (Retrieval Augmented Generation)

• LLM을 리디렉션하여 신뢰할 수 있는 출처에서 관련 정보를 검색
• 검색 (Retrieval) : 사용자 질문을 외부 문서에서 검색
• 증강 (Augmentation) : 검색된 자료들이 모델에 전달되어 모델이 추가적인 배경 지식 습득
• 생성 (Generation) : 입력된 질문과 증강된 정보를 바탕으로 최종 답변 생성

🍭RAG의 이점

• 비용 효율성 : 기존 모델을 따로 훈련할 필요 없이 새로운 데이터 적용
• 사용자 신뢰 강화 및 최신 정보 제공 : 명확한 출처로부터 가져오는 최신 정보
• 개발자 제어 강화 : 정보 소스와 접근 권한을 직접 관리하여 유연하게 조정

🛠️일반적인 RAG 진행 과정

  graph TD
	subgraph **PREPARATION: 벡터 DB**
	  A["문서(PDF, DOCX 등) 준비"]
	  --> B["문서에서 텍스트 추출"]
	  --> C["chunking = 추출한 텍스트 쪼개기"]
	  --> D["임베딩 = 텍스트 벡터화"]
	  --> E["벡터 DB에 저장"]
  end
  subgraph   
	  E --> F["벡터 DB"]
  end
  subgraph **RETRIEVAL: 검색**
	  G["사용자 질문 입력 받기"] --> F
	  F --> H["벡터 DB에서 해당 입력값과 
	  연관된 문서 반환"]
	end
	subgraph **AUGMENTATION: 증강**
		H --> I["연관된 문서를 
		LLM 프롬프트에 주입"]
	end
	subgraph **GENERATION: 생성**
		J["연관 문서를 기반으로
		사용자 질문에 답변 생성"]
		G --> J
		H --> J
	end

A) PREPARATION: 벡터 DB

1. 문서(PDF, DOCX 등) 준비

   

2. 문서에서 텍스트 추출

   데엔팀에는 4명의 팀원이 있다. 빈센트는 데엔팀이다. 데컨팀에는 1명의 인턴이 있다. 티나는 데컨팀의 인턴이다.
   

3. chunking = 추출한 텍스트를 특정 기준으로 쪼개기

   데엔팀에는 4명의 팀원이 있다. /
   빈센트는 데엔팀이다. /
   데컨팀에는 1명의 인턴이 있다. /
   티나는 데컨팀의 인턴이다.
   

4. 임베딩 = 텍스트 벡터화

   

   실제로는 훨씬 더 고차원 형태로 벡터화됨

5. 벡터 DB에 저장

   

B) RETRIEVAL: 검색

1. 사용자 질문 입력 받기

   빈센트는 어느 팀에 있어?
   

2. 사용자 질문을 벡터 DB에서 검색

   

3. 연관된 문서 반환

   1. 데엔팀에는 4명의 팀원이 있다.
   2. 빈센트는 데엔팀이다.
   

C) AUGMENTATION: 증강

• 연관된 문서를 프롬프트에 작성

너는 주어진 데이터를 기반으로 사용자 질문을 답변해 주는 도우미야.

<주어진 데이터>
데엔팀에는 4명의 팀원이 있다.
빈센트는 데엔팀이다.

<사용자 질문>
빈센트는 어느 팀에 있어?

D) GENERATION: 생성

• 프롬프트에 입력된 사용자 질문과 연관 문서를 기반으로 답변 생성

빈센트는 데엔팀에 있습니다.