본문 바로가기

LLM

RAG (Retrieval-Augmented Generation) 심화 개념
LLM 2024. 11. 9. RAG (Retrieval-Augmented Generation) 심화 개념 RAG의 주요 구성 요소검색기(Retriever)검색기는 사용자의 질문에 가장 적합한 문서를 찾아내는 역할을 합니다. 주요 기능은 다음과 같습니다:1. 정확한 의미론적 표현 추출청크 최적화(Chunk Optimization): 문서를 의미 있는 단위로 나누어 검색 효율을 극대화합니다. 너무 길거나 짧은 청크는 검색 정확도를 떨어뜨릴 수 있기 때문에 최적의 크기로 분할하는 것이 중요합니다.임베딩 모델의 미세 조정(Fine-tuning Embedding Models): 도메인 특화된 임베딩 모델을 학습시켜 검색 정확도를 높입니다.2. 사용자의 질의(Query)와 검색 대상 문서들의 의미론적 공간 일치질의 재작성(Query Rewrite): 질문을 더 명확하고 검색에 적합하게 변환하여 검색 정확도를 높입니다...
검색 증가 생성 (RAG, Retrieval-Augmented Generation) 란?
LLM 2024. 11. 1. 검색 증가 생성 (RAG, Retrieval-Augmented Generation) 란? RAG는 LLM이 가지고 있는 한계(예: 최신 정보 부족, 기억 왜곡)를 극복하기 위해 등장한 기술입니다.LLM이 단순히 학습된 데이터만으로 답변하는 게 아니라, 외부 지식 저장소(문서, DB, 검색엔진 등) 에서 관련 정보를 찾아와 그걸 바탕으로 더 정확하고 신뢰성 높은 답변을 생성하는 방식입니다.즉, "모르는 건 찾아본 다음에 대답한다"는 식으로, LLM을 똑똑하게 만드는 방법 중 하나라고 보면 됩니다.예시:예를 들어, A가 "삼성전자 2025년 1분기 실적 어때?" 라고 질문한다고 가정했을 떄,기본 LLM만 쓰면 학습된 데이터가 과거 정보라 대답을 제대로 못할 수 있습니다.그러나 RAG 시스템을 쓰면,LLM이 외부 금융 뉴스/공시 자료를 검색하고,관련 내용을 찾아서,그걸 요약하고 가공해서 답변을 만..

티스토리툴바