라이프스타일
검색 증강 생성(RAG)이란: 답변에 확인 가능한 근거 붙이기
검색 증강 생성은 외부 자료에서 관련 내용을 먼저 찾은 뒤 언어 모델이 이를 바탕으로 답변을 구성하게 합니다. 이 글은 행사 신청 규정에 관한 질의응답을 예로 들어 색인 구축, 검색, 생성, 출처 대조를 살펴보고, 검색 및 미세 조정과의 차이와 인용이 있어도 답이 틀릴 수 있는 이유를 설명합니다. 자료가 갱신되지 않았는지, 필요한 문서를 모두 찾지 못했는지, 모델이 근거를 과도하게 해석했는지 판단하고, 어떤 경우에 모른다고 답해야 하는지도 알 수 있습니다.
읽는 데 약 9분

목차
검색 증강 생성은 영어로 Retrieval-Augmented Generation이며, 흔히 RAG로 줄여 부릅니다. 외부 자료 검색을 텍스트 생성에 연결하는 방식입니다. 모델이 학습 당시 어제 수정한 행사 규정을 읽었을 수는 없지만, 시스템이 먼저 그 규정을 찾으면 가져온 내용을 바탕으로 답변할 수 있습니다. 여기서 외부 자료는 해당 답변의 근거이며, 먼저 모델의 매개변수모델 매개변수(Model Parameters)란 무엇인가모델 매개변수는 학습 중 조정되며 입력을 출력으로 바꾸는 데 쓰이는 가중치와 편향 등의 수치입니다. 이 글은 간단한 수식 예시로 매개변수가 예측에 미치는 영향을 설명하고, 모델 매개변수와 학습 하이퍼파라미터, 프롬프트, 생성 설정을 구분합니다. 또한 매개변수 수, 수치 정밀도, 활성 매개변수가 서로 다른 지표인 이유를 설명합니다. 읽고 나면 모델 사양을 더 정확히 읽고, 매개변수 증가가 지식의 항목별 증가를 뜻하지 않으며 매번 대화할 때마다 모델을 다시 학습하는 것도 아님을 이해할 수 있습니다.전체 글 읽기로 바뀔 필요가 없습니다. 따라서 자료 갱신과 모델 학습을 별도로 처리할 수 있고, 독자도 답변의 출처를 추적할 수 있습니다.
RAG 시스템이 유용한지 판단할 때는 답변이 유창한지, 인용을 몇 개 제시했는지만 봐서는 안 됩니다. 실제로 물어야 할 것은 찾아야 하는 조항이 모델이 볼 수 있는 문맥에 들어갔는지, 답변의 주요 제한 조건을 원문에서 확인할 수 있는지입니다. 이 글에서는 가상의 커뮤니티 강좌 신청 규정으로 시연합니다. 규정과 예상 결과는 모두 교육용 설정이며, 실제 기관의 규정이 아닙니다. 독자는 같은 방법으로 회사 지식 베이스, 제품 설명서, 개인 메모에 관한 질의응답을 점검할 수 있습니다.
데이터베이스가 아닌 조합 방식
Lewis 등의 원 논문은 사전 학습사전 학습(Pretraining): 모델의 기초 능력은 어디에서 오는가사전 학습은 특정 작업에 맞게 조정하기 전에 모델이 대량의 데이터에서 재사용 가능한 표현과 규칙성을 배우는 단계입니다. 이 글은 다음 token 예측과 가린 내용 복원 예시로 데이터, 목표, 파라미터 갱신을 설명하고, 사전 학습·미세 조정·사용 시 문맥 제공을 구분합니다. 또한 텍스트를 학습했다고 해서 출처를 기억하거나 사실의 정확성을 보장하는 것은 아닌 이유를 설명합니다. 기반 모델의 능력이 어디에서 비롯되는지, 학습 데이터 품질과 평가 오염이 어떤 영향을 미치는지 이해할 수 있습니다.전체 글 읽기된 언어 모델의 매개변수 기억과 외부 문서 색인의 비매개변수 기억을 결합하고, 학습 가능한 검색 및 생성 구조를 연구했습니다. 오늘날 개발 문서에서 RAG는 더 넓은 의미로 쓰이며, 먼저 검색한 뒤 그 내용을 프롬프트에 넣는 응용 절차를 가리키는 경우가 많습니다. 이러한 시스템이 반드시 원 논문의 공동 학습을 재현하는 것은 아닙니다. 따라서 이름이 같더라도 자료가 어디에서 오는지, 검색기가 학습에 따라 달라지는지 확인해야 합니다.
검색 도구는 보통 문서 목록이나 발췌문을 제공하고, RAG는 발췌문을 바탕으로 답변을 구성하는 단계를 추가합니다. 벡터 데이터베이스는 사용할 수 있는 저장 및 유사도 조회 구성 요소 중 하나일 뿐이며, 전문 색인이나 구조화된 쿼리도 검색 역할을 할 수 있습니다. 정확한 강좌 코드가 포함된 질문은 의미적 유사성에만 의존하는 방식이 적합하지 않을 수 있습니다. 답변을 생성하지 않는 벡터 검색은 여전히 검색이며, 벡터를 썼다는 이유만으로 완전한 RAG라 부를 수는 없습니다.
자료가 답변에 들어가는 과정
자료를 준비할 때 시스템은 원본 파일을 분석하고 검색 가능한 문단으로 나누며, 문서 식별자, 장과 절, 버전, 권한을 보존한 뒤 색인을 구축합니다. 질문이 들어오면 검색기는 질문을 쿼리로 바꾸고 후보 문단을 가져오며, 필요에 따라 순위를 다시 매기거나 주변 문맥을 추가로 가져옵니다. 모델은 질문과 함께 선택된 근거를 받아 최종적으로 자연어 답변을 생성합니다. 이 단계들을 같은 서비스에서 수행하는지는 개념적인 역할 분담에 영향을 주지 않습니다.
환불 조항은 적용 강좌 및 시행일과 함께 색인에 들어가야 합니다. '환불 가능'이라는 문장만 저장하고 다음 문단의 기한 조건을 잃어버렸다면, 검색이 성공한 것처럼 보여도 잘못 답할 수 있습니다. 인용 링크는 실제 문단으로 연결되는 것이 좋습니다. 문서 첫 화면 링크만 있으면 독자는 여전히 긴 내용 속에서 근거를 찾아야 합니다. 버전을 갱신할 때는 이전 문단이 적용 대상에서 제외되도록 해야 합니다. 새 버전만 추가해 신구 규정이 검색 순위에서 동시에 경쟁하게 해서는 안 됩니다.
자세한 설명 보기
질문이 검색기에 들어가면 문서 색인이 적용 가능한 문단을 제공하고, 이를 받은 모델이 조건과 출처를 담은 답변을 생성하는 과정
예시: 조건이 있는 환불 질문
입력된 질문이 '주말 도예 강좌를 신청했는데, 개강 전에 취소하면 전액 환불받을 수 있나요?'라고 가정해 봅시다. 자료에는 일반 환불 규정, 재료비 예외, 개정 공지가 있습니다. 먼저 도예 강좌가 속한 분류를 찾고, 일반 규정에서 개강 전 취소를 어떻게 처리하는지 확인한 뒤, 재료를 이미 구매했다면 비용을 공제하는지 추가로 찾습니다. 출력에서는 확실한 사항, 예외, 부족한 정보를 구분해야 합니다. 예를 들어 수강료는 환불받을 수 있으나 재료비는 구매 상태를 확인해야 한다고 설명하고, 해당 조항을 인용해야 합니다.
좋은 답변이 반드시 즉시 '가능합니다' 또는 '불가능합니다'라고 말하는 것은 아닙니다. 색인에 일반 규정만 있다면 시스템은 자료가 부족하다고 밝혀야 하며, 예외를 검색하지 못했다고 해서 예외가 없다고 간주해서는 안 됩니다. 먼저 올바른 조항을 모델에 직접 제공해 볼 수 있습니다. 이렇게 했을 때 정확히 답한다면 원래 문제는 대체로 검색에 있습니다. 그래도 재료비를 빠뜨린다면 지시, 문맥 배치, 답변 검증을 점검해야 합니다. 이런 단계별 점검은 모델을 계속 바꾸는 것보다 원인을 찾기 쉽습니다.
변형 사례도 만들어 봅시다. 독자가 이미 폐강된 옛 강좌에 관해 묻는 경우입니다. 시스템은 강좌의 버전을 식별하고 당시 적용되던 규정을 찾아야 합니다. 색인에 현행 버전만 남아 있다면 현재 자료로는 과거 사례에 답할 수 없다고 설명해야 합니다. 최신 문서로 모든 연도의 질문에 답해서도 안 되고, 문구가 매우 비슷하다는 이유로 적용 시점을 무시해서도 안 됩니다. 이 테스트는 텍스트 유사도만으로는 알아보기 어려운 문제를 드러낼 수 있습니다.
출처가 있어도 답이 틀릴 수 있다
RAG는 근거를 확보할 가능성을 높이지만, 생성기를 언제나 정확한 인용 기계로 바꾸지는 않습니다. 문서가 오래되거나 서로 모순될 수 있고, 애초에 틀렸을 수도 있습니다. 유사도 조회가 이름이 비슷한 다른 강좌를 앞에 배치할 수도 있습니다. 모델이 실제 문구를 인용하면서도 원문이 뒷받침하지 않는 결론을 내릴 수도 있습니다. 따라서 관련 자료를 빠짐없이 찾았는지와 답변이 자료에 충실한지를 각각 평가해야 하며, 둘은 서로를 대신할 수 없습니다.
권한도 검색 품질에 포함됩니다. 일반 수강생이 공개 규정만 볼 수 있다면, 시스템이 내부 사례 기록을 먼저 가져온 뒤 모델이 알아서 이를 공개하지 않기를 기대해서는 안 됩니다. 더 안전한 설계는 조회 시 독자의 신원에 따라 범위를 제한하고, 가져온 텍스트를 분석 대상인 내용으로 취급하는 것입니다. 문서에 규칙을 무시하라는 문장이 있다고 해서 그 문장에 작업을 바꿀 권한이 생기는 것은 아닙니다. 출처가 신뢰할 만한지, 사용자에게 열람 권한이 있는지, 텍스트가 관련 있는지는 서로 다른 점검 항목입니다.
언제 사용할 만하며, 어떻게 검수할까
자료가 계속 갱신되고, 답변에 출처를 붙여야 하며, 같은 모델이 여러 자료 모음을 다뤄야 할 때 RAG는 적절한 출발점인 경우가 많습니다. 형식을 일관되게 따르거나 특수한 말투를 익히는 것이 요구 사항이라면 미세 조정이 문제에 더 적합할 수 있으며, 두 방법을 함께 쓸 수도 있습니다. 자료가 짧은 한 페이지뿐이라면 전체 페이지를 문맥으로 직접 제공하는 것으로 충분할 수 있고, 완전한 색인 서비스까지 필요하지 않을 수 있습니다. 구현 복잡도는 자료 규모, 갱신 요구 사항, 자료 접근 권한과 함께 고려해야 합니다.
자료를 가져올 때는 흔히 묻는 질문 중 원문으로 답을 확인할 수 있는 질문 묶음을 먼저 준비하고, 여러 장에 걸친 질문, 이전 버전이 혼선을 일으키는 사례, 자료가 다루지 않는 사례도 추가합니다. 각 질문에서 어떤 문단을 가져왔는지, 답변의 어떤 문장에 근거가 있는지, 자료가 부족할 때 이를 솔직히 밝히고 멈추는지 점검합니다. 대기 시간과 문서 갱신 후 언제부터 검색할 수 있는지도 기록합니다. 검수 결과에는 질문, 문서 버전, 인용 위치를 남겨야 나중에 모델이나 색인을 갱신할 때 같은 질문 묶음으로 다시 비교할 수 있습니다.
| 방법 | 주요 처리 내용 | 유의 사항 |
|---|---|---|
| 직접 검색 | 문서 또는 발췌문 제공 | 독자가 직접 답변을 종합 |
| RAG | 근거를 가져온 뒤 답변 생성 | 검색과 인용은 여전히 검증 필요 |
| 미세 조정 | 행동 또는 능력 학습 | 실시간 자료 갱신과는 다름 |
문서 분할(Chunking): 답이 끊기지 않으려면 얼마나 길게 나눠야 할까
재순위화(Reranking): 검색에 성공하는 것에서 좋은 답을 앞에 배치하는 것까지재정렬(Reranking): 찾아내는 것을 넘어 좋은 답을 상위에 배치하기재정렬은 초기 검색으로 찾은 후보의 관련성을 다시 판단하며, 검색 목록과 RAG의 컨텍스트 품질을 개선하는 데 자주 쓰입니다. 이 글에서는 도서관 대출 규정을 예로 들어 검색기와 교차 인코더의 역할 분담을 보여 주고, 후보 누락, 입력 잘림, 관련성 점수와 사실 여부 판단의 차이를 설명합니다. 읽고 나면 검색 범위를 넓힐지, 문서 조각을 수정할지, 재정렬을 추가할지 구분하고, 적절한 테스트로 순위 개선을 위한 불필요한 대기 시간을 피할 수 있습니다.전체 글 읽기
미세 조정(Fine-tuning): 기존 모델을 내 작업에 더 적합하게 만들기파인튜닝(Fine-tuning): 기존 모델을 내 작업에 더 적합하게파인튜닝은 기존 모델의 학습을 이어가 특정 작업이나 분야에 더 적합하게 만드는 것입니다. 이 글은 고객 지원 메일 분류를 예로 데이터 정리, 매개변수 갱신, 테스트 세트 분리 보관과 버전 배포를 설명합니다. 전체 파인튜닝, LoRA, 지도 학습 기반 파인튜닝과 RAG를 구분하고, 학습 성적이 좋아져도 실제 성능은 떨어질 수 있는 이유를 살펴봅니다. 읽고 나면 파인튜닝을 적용할 만한 문제인지 판단하고, 형식 일관성, 알려지지 않은 유형, 데이터 누수와 기존 능력 저하를 점검할 수 있습니다.전체 글 읽기
AI 용어 전체 색인: 루프 엔지니어링부터 생성형 AI까지
이 정리가 도움이 되셨나요? 필요한 분께 공유해 보세요
같은 주제의 글
라이프스타일
에이전트형 검색 증강 생성(Agentic RAG): 언제 다시 검색해야 할까
에이전트형 검색 증강 생성은 모델이 검색 결정에 참여해 질문과 이미 찾은 근거에 따라 자료 출처를 선택하거나 검색어를 재작성하거나 추가로 검색하게 합니다. 이 글은 LangGraph 문서의 구체적인 흐름을 바탕으로 장소 대관 조건 비교를 통해 고정형 RAG와의 차이를 보여 주고, 종료 조건, 권한, 검색 기록과 비용 관리를 설명합니다. 읽고 나면 작업에 동적 탐색이 필요한지, 예측 가능한 고정 절차로 충분한지 판단할 수 있습니다.
라이프스타일
그래프 검색 증강 생성(GraphRAG): 관계를 통해 문서 전체 이해하기
GraphRAG는 엔터티와 그 관계를 검색에 활용해 문서 간 연관성과 전체 주제에 관한 질문에 답하도록 돕습니다. 이 글은 Microsoft의 원 논문과 공식 문서를 바탕으로 엔터티 추출, 커뮤니티 요약, 로컬 검색과 글로벌 검색을 설명하고, 지역 행사 기록을 통해 질문에 따라 다른 경로가 필요함을 보여 줍니다. 또한 그래프의 연결 누락, 이름의 잘못된 병합, 요약 왜곡이 답변에 미치는 영향을 설명해 보기 좋은 관계도를 검증된 사실로 오인하지 않도록 합니다.
라이프스타일
지식 그래프(Knowledge Graph): 대상과 관계를 명확히 설명하기
지식 그래프는 개체와 관계로 데이터를 구성해 ‘누가 무엇에 참여했고, 어디서 언제 일어났는지’를 연결을 따라 조회할 수 있게 합니다. 이 글은 커뮤니티 행사 데이터를 예로 개체 식별, 관계 방향, 출처와 시간을 살펴보고, 자원 기술 프레임워크(RDF)와 속성 그래프의 표현 방식 차이를 소개합니다. 또한 그래프가 시각화나 신뢰할 만한 사실 그 자체는 아님을 설명합니다. 읽고 나면 데이터가 그래프 구축에 적합한지 판단하고, 데이터 테이블·벡터 검색·그래프 검색 증강 생성(GraphRAG)과 어떻게 결합하는지 이해할 수 있습니다.
라이프스타일
하이브리드 검색(Hybrid Search): 정확한 단어와 의미를 함께 고려하기
하이브리드 검색은 전문 검색과 벡터 검색 등 서로 다른 검색 결과를 결합해 정확한 코드와 자연어로 표현한 요구를 모두 반영합니다. 장비 설명서 검색을 예로 후보 확보, 중복 제거, 순위 융합, 재순위화를 살펴보고, 역순위 융합(RRF)이 순위로 서로 다른 검색 결과를 결합하는 원리를 설명합니다. 하이브리드 방식이 모든 경우에 정확도 향상을 보장하지 않는다는 점도 짚습니다. 코드 질문, 표현을 바꾼 질문, 답이 없는 질문으로 품질을 확인하고, 권한·필터링·중복 콘텐츠로 인한 편향을 구분할 수 있습니다.
이 글을 인용한 글
출처
- Lewis 외: 검색 증강 생성확인일:
- LangChain: 검색확인일:
위에 기재된 참고 자료와 확인일 기준 정보를 바탕으로 정리했습니다. 요금, 시간표, 기능, 이용 약관은 바뀔 수 있으므로 여행, 예약 또는 구매 전에 해당 공식 사이트에서 최신 정보를 확인해 주세요.