RAG

영어	Retrieval-Augmented Generation
한국어	검색 증강 생성
분류	AI 아키텍처
목적	LLM 환각 감소, 최신 정보
구성요소	검색기 + 생성기

'''RAG'''(Retrieval-Augmented Generation, 검색 증강 생성)는 외부 지식을 검색하여 [[LLM]]의 응답을 향상시키는 기술입니다. [[youtube:T-D1OfcDW1M|RAG 설명]] == 개요 == RAG는 LLM의 두 가지 주요 한계를 해결합니다: 학습 데이터 기준일 이후의 정보 부재와 [[환각 (AI)|환각]] 문제입니다. 질문과 관련된 문서를 먼저 검색한 후, 이를 컨텍스트로 제공하여 더 정확한 답변을 생성합니다. == 작동 원리 == === 1. 인덱싱 (오프라인) === * 문서를 청크로 분할 * [[임베딩]] 벡터 생성 * 벡터 데이터베이스 저장 === 2. 검색 (온라인) === * 질문을 임베딩으로 변환 * 유사한 문서 청크 검색 * Top-K 결과 반환 === 3. 생성 === * 검색된 문서를 컨텍스트로 제공 * LLM이 답변 생성 * 출처 기반 응답 == 핵심 구성요소 == === 임베딩 모델 === * OpenAI text-embedding-3 * Sentence-BERT * Cohere Embed === 벡터 데이터베이스 === * Pinecone * Weaviate * Chroma * pgvector === LLM === * [[GPT-4]] * [[Claude]] * LLaMA == RAG 유형 == === Naive RAG === * 기본 검색-생성 파이프라인 * 단순 구현 * 한계 존재 === Advanced RAG === * 쿼리 변환 * 하이브리드 검색 * 리랭킹 === Modular RAG === * 모듈화된 컴포넌트 * 유연한 파이프라인 * 커스터마이징 == 최적화 기법 == === 청킹 전략 === * 고정 크기 vs 의미 단위 * 오버랩 설정 * 계층적 청킹 === 쿼리 변환 === * 질문 재작성 * HyDE (가상 문서) * 다중 쿼리 === 리랭킹 === * Cross-encoder 재순위 * 관련성 재평가 == 활용 분야 == === 기업 지식 관리 === * 사내 문서 검색 * 고객 지원 * 기술 문서 === 챗봇 === * 제품 정보 봇 * FAQ 봇 * 상담 봇 === 연구 보조 === * 논문 검색 * 자료 요약 == 장점 == * 환각 감소 * 최신 정보 접근 * 출처 투명성 * 도메인 특화 == 한계 == * 검색 품질 의존 * 레이턴시 증가 * 컨텍스트 길이 제한 * 비용 증가 == 관련 문서 == * [[LLM]] * [[임베딩]] * [[환각 (AI)]] * [[ChatGPT]] [[분류:인공지능]] [[분류:자연어 처리]] [[분류:정보 검색]]