RAG란 무언인가?

RAG(Retrieval-Augmented Generation)는 대규모 언어 모델의 출력을 최적화하여 응답을 생성하기 전에 학습 데이터 소스 외부의 신뢰할 수 있는 지식 베이스를 참조하도록 하는 프로세스입니다. 대규모 언어 모델(LLM)은 방대한 양의 데이터를 기반으로 학습되며 수십억 개의 매개 변수를 사용하여 질문에 대한 답변, 언어 번역, 문장 완성과 같은 작업에 대한 독창적인 결과를 생성합니다. RAG는 이미 강력한 LLM의 기능을 특정 도메인이나 조직의 내부 지식 기반으로 확장하므로 모델을 다시 교육할 필요가 없습니다. 이는 LLM 결과를 개선하여 다양한 상황에서 관련성, 정확성 및 유용성을 유지하기 위한 비용 효율적인 접근 방식입니다.

 

출처 : https://aws.amazon.com/ko/what-is/retrieval-augmented-generation/

 

RAG 등장 배경

RAG는 자연어 처리와 인공지능 기술의 발전, 그리고 증가하는 사용자의 요구에 따라 등장하게 되었습니다. RAG의 등장 배경과 필요성을 다음과 같이 정리할 수 있습니다.

1. 지식 기반 질의응답 시스템의 한계
2. 비정형 텍스트 데이터의 폭발적 증가
3. 사전 학습된 언어 모델의 발전
4. 실시간 정보 제공에 대한 사용자의 요구 증대
5. 지식 검색과 답변 생성의 통합 필요성

출처 : https://modulabs.co.kr/blog/retrieval-augmented-generation/

 

저의 개인적인 생각은 4,5번이 주요 배경이지 않을까 합니다.

RAG 모델의 동작 원리

 

출처 : https://blog.deeplink.kr/?p=3478

 

동작 원리를 보면 지식 데이터베이스를 어떻게 만드냐에 따라 질의에 대한 결과가 다르게 나올수 있음을 알수 있다.