TIL - RAG 학습

RAG란?

RAG(Retrival-Argumented Generation)는 LLM이 답변을 생성하기 전에 외부 데이터에서 먼저 검색한 뒤, 그 내용을 바탕으로 답변을 생성하는 방식이다.

즉, 내부 데이터만으로 대답하는것이 아닌, 필요한 자료를 추가로 찾아 정확한 답변을 만들 수 있도록 돕는 구조이다.

RAG를 사용하는 이유

LLM은 기본적으로 학습된 데이터 범위 내에서만 답변하기 때문에, 최신 정보나 특정 자료들에는 취약하다는 단점이 있다.

또한 외부 자료를 직접 참고하지 못하기 때문에, 정보를 잘못 생성하거나 근거가 부족한 답변을 할 수 있다.

이러한 한계를 보완하기 위해, 외부 데이터를 검색하여 답변에 활용하는 RAG를 사용한다.

RAG의 동작 과정

1. 사용자가 질문을 입력한다.

2. 질문과 관련된 문서를 벡터 데이터베이스에서 검색한다.

3. 검색된 문서를 질문과 함께 LLM에 전달한다.

4. LLM은 해당 정보를 참고하여 답변을 생성한다.

RAG의 핵심 구성 요소

• Retriever
  질문과 관련된 문서를 검색하는 역할을 한다.
• Augmentation
  검색된 문서를 질문과 함께 LLM 입력에 포함시키는 과정이다.
• Generation
  LLM이 검색된 정보를 기반으로 최종 답변을 생성한다.

정리

오늘 RAG의 개념과 동작 방식에 대해 학습했다.

다음에는 실제 RAG을 구현해보는것을 목표로 한다.