라이프스타일
재정렬(Reranking): 찾아내는 것을 넘어 좋은 답을 상위에 배치하기
재정렬은 초기 검색으로 찾은 후보의 관련성을 다시 판단하며, 검색 목록과 RAG의 컨텍스트 품질을 개선하는 데 자주 쓰입니다. 이 글에서는 도서관 대출 규정을 예로 들어 검색기와 교차 인코더의 역할 분담을 보여 주고, 후보 누락, 입력 잘림, 관련성 점수와 사실 여부 판단의 차이를 설명합니다. 읽고 나면 검색 범위를 넓힐지, 문서 조각을 수정할지, 재정렬을 추가할지 구분하고, 적절한 테스트로 순위 개선을 위한 불필요한 대기 시간을 피할 수 있습니다.
읽는 데 약 9분

목차
재정렬은 영어로 Reranking이라고 하며, 초기 검색으로 후보를 확보한 뒤 별도의 순위 지정 단계에서 어떤 자료를 앞에 놓을지 판단하는 것을 뜻합니다. 검색과 RAG검색 증강 생성(RAG)이란: 답변에 확인 가능한 근거 붙이기검색 증강 생성은 외부 자료에서 관련 내용을 먼저 찾은 뒤 언어 모델이 이를 바탕으로 답변을 구성하게 합니다. 이 글은 행사 신청 규정에 관한 질의응답을 예로 들어 색인 구축, 검색, 생성, 출처 대조를 살펴보고, 검색 및 미세 조정과의 차이와 인용이 있어도 답이 틀릴 수 있는 이유를 설명합니다. 자료가 갱신되지 않았는지, 필요한 문서를 모두 찾지 못했는지, 모델이 근거를 과도하게 해석했는지 판단하고, 어떤 경우에 모른다고 답해야 하는지도 알 수 있습니다.전체 글 읽기에서 자주 사용되며, 빠른 검색기가 먼저 범위를 좁힌 다음 한정된 후보를 더 심층적으로 평가하는 관련성 모델에 넘깁니다. 이는 단계적으로 자원을 배분하는 방식입니다. 먼저 찾아낸 뒤, 무엇부터 볼지 판단하는 데 힘을 쏟는 것입니다.
재정렬은 더 높은 정확도를 보장하는 버튼이 아니며, 대규모 언어 모델만 쓸 수 있는 것도 아닙니다. 교차 인코더, 학습 기반 순위화 모델과 다른 점수 평가 방법도 이 역할을 맡을 수 있습니다. 이 글은 Sentence Transformers의 검색 및 재정렬 문서와 Elastic의 순위 지정 설명을 바탕으로, 가상의 도서관 규정을 통해 작동 원리를 보여 줍니다. 예상되는 동작과 실제 테스트 성적은 명확히 구분합니다.
초기 순위만으로 부족할 수 있는 이유
초기 검색은 대량의 자료에서 후보를 빠르게 찾아야 하는 경우가 많아, 미리 계산한 벡터나 전문 검색 인덱스를 사용할 수 있습니다. 이런 방식은 범위를 좁히는 데 유용하지만, 세밀한 적용 조건이나 주어, 예외를 파악하려면 질문과 문서를 함께 놓고 꼼꼼히 비교해야 할 때가 있습니다. 재정렬은 소수의 후보에 더 많은 연산을 투입해 상위 몇 개 결과의 관련성을 높이고자 합니다. 따라서 데이터베이스 전체의 문서를 하나씩 고비용으로 처리할 필요가 없습니다.
예를 들어 “학생증이 만료되어도 대출을 연장할 수 있나요?”는 일반적인 “대출은 어떻게 연장하나요?”와 주제가 비슷하므로, 초기 검색에서 일반적인 연장 절차가 상위에 배치될 수 있습니다. 하지만 실제로 필요한 문서는 계정 자격과 만료에 따른 제한에 관한 것일 수 있습니다. 후자가 이미 후보에 있다면 재정렬로 앞으로 올릴 수 있습니다. 한 번도 검색되지 않았다면 후속 점수 평가가 아무리 정교해도 존재하지 않는 후보의 원문을 만들어 낼 수는 없습니다.
교차 인코더는 텍스트 쌍을 어떻게 보는가
일반적인 이중 인코더는 질문과 문서를 각각 인코딩한 뒤 벡터를 비교합니다. 문서 표현은 미리 만들어 둘 수 있어 검색할 때 모든 조합을 다시 처리할 필요가 없습니다. 반면 교차 인코더는 질문과 후보 문서를 모델에 함께 입력해 두 텍스트의 관련성을 직접 평가합니다. 둘 사이의 더 세밀한 상호작용을 활용할 수 있지만, 보통 후보마다 새로운 연산이 필요합니다. 이것이 두 번째 단계에 자주 배치되는 이유입니다.
출력 점수는 모델과 학습 목표에 따라 결정됩니다. 보정되지 않은 수치도 있고, 변환을 거쳐 특정 구간에 놓이는 수치도 있습니다. 점수가 백분율처럼 보인다는 이유만으로 정답일 확률로 해석해서는 안 됩니다. 모델이 어떤 문단을 매우 관련 있다고 판단하더라도 원문이 오래되었거나, 사용자에게 열람 권한이 없거나, 내용 자체가 틀릴 수 있습니다. 관련성 판단과 출처의 품질은 따로 다뤄야 합니다.
자세한 설명 보기
초기 검색으로 일반 대출 연장, 예약 대기, 증명서 만료 문단을 찾고, 질문과 각 후보를 함께 평가해 만료 조건을 상위에 배치하는 과정
예시: 만료 규정을 앞으로 배치하기
입력이 “학생증이 만료되었는데, 빌린 책을 온라인으로 대출 연장할 수 있나요?”라고 가정해 보겠습니다. 후보에는 일반적인 대출 연장 절차, 예약 대기 안내, 증명서 만료 처리, 소장 자료 소개가 포함됩니다. 재정렬기는 질문과 문단을 하나씩 평가합니다. 증명서 만료 조건과 대출 연장 관련 규정을 앞에 배치해, 이후 독자나 생성 모델이 답을 결정하는 제한 사항을 먼저 보게 할 것이라고 합리적으로 기대할 수 있습니다. 이 후보와 결과는 이 글에서 설계한 교육용 상황입니다.
좋은 최종 답변은 여전히 원문에 근거해 설명해야 합니다. 만료 처리 문서가 신규 대출을 중단한다고만 하고 이미 빌린 책의 대출 연장에 영향을 주는지는 설명하지 않았다면, 임의로 연장 금지라고 덧붙여서는 안 됩니다. 이때 재정렬은 가장 관련성 높은 문서를 찾는 데 성공했을 수 있지만, 자료는 여전히 부족합니다. 이 사례는 검색 품질 개선과 답변의 완전성이 별도로 검수해야 하는 두 가지 결과임을 보여 줍니다.
올바른 조항을 일부러 후보에서 제외한 뒤 다시 실행해 비교할 수도 있습니다. 답변이 개선되지 않는다면 이는 작동 원리상 타당한 한계이며, 반드시 재정렬 모델의 품질이 낮다는 뜻은 아닙니다. 반대로 올바른 문단이 이미 후보에 있는데도 계속 뒤로 밀린다면 입력 길이, 질문 형식, 언어 처리 능력, 모델의 규정 검색 적합성을 점검해야 합니다. 테스트는 이런 실패 원인을 구분할 수 있도록 설계해야 합니다.
비용과 문서 처리도 중요합니다
후보가 많을수록 질문과 문서 쌍을 평가하는 전체 연산량이 대체로 늘어나며, 대기 시간과 연산 자원 요구량도 증가합니다. 반대로 후보가 적으면 올바른 자료를 놓칠 수 있으므로, 애플리케이션에 맞는 범위를 찾아야 합니다. 다른 곳의 고정된 수치를 그대로 따라서는 안 됩니다. 초기 검색만으로도 답을 안정적으로 상위에 배치할 수 있다면, 재정렬을 추가해 얻는 이점은 아주 작은데 매번 대기 시간만 길어질 수 있습니다.
지나치게 긴 문서도 흔한 장애물입니다. 재정렬 모델에는 입력 길이 제한이 있어 핵심 예외가 잘린 지점 뒤에 있으면 점수를 매길 때 볼 수 없습니다. 문서 제목과 필요한 문맥을 보존하면서 분할 방식을 조정한 뒤 결과를 테스트할 수 있습니다. 매뉴얼 한 권 전체를 하나의 후보로 삼는 것이 의미 단위로 나눈 문단보다 반드시 낫지는 않습니다. 각 문장을 너무 잘게 나눠도 모델이 제한 사항의 적용 대상을 식별하지 못할 수 있습니다.
어떤 경우에 이 단계를 추가할 만할까
먼저 초기 검색의 후보 재현율을 점검해 볼 수 있습니다. 올바른 자료를 이미 찾았는데 순서만 좋지 않은 경우가 잦은지 확인하는 것입니다. 그렇다면 재정렬로 개선할 여지가 비교적 명확합니다. 자료 자체를 찾지 못했다면 인덱스, 질의, 분할 방식 또는 하이브리드 검색부터 손봐야 합니다. 평가할 때는 동일한 후보 집합을 유지한 채 재정렬 추가 전후의 순서를 비교해야 합니다. 그래야 후보 범위가 달라져 생긴 개선을 순위 모델의 효과로 잘못 돌리지 않습니다.
테스트 질문에는 주제는 비슷하지만 조건이 다른 비교 사례가 있어야 합니다. 예를 들면 증명서 만료, 도서 연체, 다른 이용자의 예약이 있는 경우입니다. 답이 없는 질문도 포함해 모델이 가장 비슷한 문단을 충분한 근거인 것처럼 제시하지 않는지 확인해야 합니다. RAG에서는 순위뿐 아니라 최종 답변이 올바른 조항을 인용하는지, 알 수 없는 사항을 그대로 남겨 두는지도 점검해야 합니다. 앞단의 개선이 독자가 받는 답변에 실제로 반영되어야 서비스 목표를 달성했다고 할 수 있습니다.
시스템은 후보 식별자, 초기 순위, 재정렬 후 순위, 모델 버전을 저장해 표본 점검을 쉽게 할 수 있습니다. 모델 업데이트 후 특정 유형의 질문에서 성능이 떨어지면 같은 자료로 돌아가 다시 분석할 수 있습니다. 재정렬의 역할은 한정된 주의를 더 관련성 높은 내용에 집중시키는 것입니다. 보강하는 것은 순위 지정 단계이며, 데이터 거버넌스, 권한 관리, 사실 확인이나 최종적인 사람의 판단을 대체하지는 않습니다. 재정렬 서비스를 일시적으로 사용할 수 없을 때 원래 순위로 되돌아갈지도 애플리케이션에서 미리 결정해야 합니다. 또한 이번에 어떤 경로를 거쳤는지 기록에 표시해야 대체 경로의 결과를 새 모델의 성능으로 오인하지 않습니다. 순위 모델이 실제로 읽은 텍스트 범위도 점검해야 합니다. 긴 조항이 입력 전에 잘렸다면 예외 조항은 아예 모델에 들어가지 않았을 수 있습니다. 이때의 순위 오류는 모델이 내용을 읽고 이해했지만 판단에 실패한 경우가 아닙니다. 입력한 문단과 잘린 위치를 기록해야 문서 분할이나 후보 내용을 수정해야 하는지, 순위 지정 방법을 바꿔야 하는지 구분할 수 있습니다.
| 방법 | 처리의 초점 | 유의할 점 |
|---|---|---|
| 초기 검색 | 후보를 빠르게 확보 | 빠짐없이 찾았는지 우선 확인 |
| 재정렬 | 후보와 질문을 꼼꼼히 비교 | 상위 결과의 관련성을 우선 확인 |
| 답변 검증 | 주장과 근거를 대조 | 관련성이 사실 여부나 충분한 근거를 뜻하지는 않음 |
하이브리드 검색(Hybrid Search): 정확한 단어와 의미를 함께 고려하기하이브리드 검색(Hybrid Search): 정확한 단어와 의미를 함께 고려하기하이브리드 검색은 전문 검색과 벡터 검색 등 서로 다른 검색 결과를 결합해 정확한 코드와 자연어로 표현한 요구를 모두 반영합니다. 장비 설명서 검색을 예로 후보 확보, 중복 제거, 순위 융합, 재순위화를 살펴보고, 역순위 융합(RRF)이 순위로 서로 다른 검색 결과를 결합하는 원리를 설명합니다. 하이브리드 방식이 모든 경우에 정확도 향상을 보장하지 않는다는 점도 짚습니다. 코드 질문, 표현을 바꾼 질문, 답이 없는 질문으로 품질을 확인하고, 권한·필터링·중복 콘텐츠로 인한 편향을 구분할 수 있습니다.전체 글 읽기
문서 분할(Chunking): 답이 잘리지 않게 하려면 얼마나 길게 나눠야 할까
의미 검색(Semantic Search): 다른 표현으로 관련 내용 찾기의미 검색(Semantic Search): 다른 표현으로 관련 콘텐츠 찾기의미 검색은 같은 단어를 대조하는 데 그치지 않고 질의와 콘텐츠의 의미를 바탕으로 자료를 찾습니다. 이 글은 흔한 고객 문의를 예로 들어 질의 인코딩, 문서 표현, 후보 순위 결정을 설명하고, 의미가 비슷한 것과 실제 요구에 맞는 것을 구분합니다. 부정문, 고유 코드, 언어 간 검색, 답이 없는 질문의 한계도 소개합니다. 읽고 나면 자연어 답변을 검색 자체로 오해하지 않고, 검색 문제를 임베딩 모델, 자료 정리, 하이브리드 검색, 재순위화 중 어디서 개선해야 할지 판단할 수 있습니다.전체 글 읽기
AI 용어 전체 색인: 루프 엔지니어링부터 생성형 AI까지
이 정리가 도움이 되셨나요? 필요한 분께 공유해 보세요
같은 주제의 글
라이프스타일
에이전트형 검색 증강 생성(Agentic RAG): 언제 다시 검색해야 할까
에이전트형 검색 증강 생성은 모델이 검색 결정에 참여해 질문과 이미 찾은 근거에 따라 자료 출처를 선택하거나 검색어를 재작성하거나 추가로 검색하게 합니다. 이 글은 LangGraph 문서의 구체적인 흐름을 바탕으로 장소 대관 조건 비교를 통해 고정형 RAG와의 차이를 보여 주고, 종료 조건, 권한, 검색 기록과 비용 관리를 설명합니다. 읽고 나면 작업에 동적 탐색이 필요한지, 예측 가능한 고정 절차로 충분한지 판단할 수 있습니다.
라이프스타일
그래프 검색 증강 생성(GraphRAG): 관계를 통해 문서 전체 이해하기
GraphRAG는 엔터티와 그 관계를 검색에 활용해 문서 간 연관성과 전체 주제에 관한 질문에 답하도록 돕습니다. 이 글은 Microsoft의 원 논문과 공식 문서를 바탕으로 엔터티 추출, 커뮤니티 요약, 로컬 검색과 글로벌 검색을 설명하고, 지역 행사 기록을 통해 질문에 따라 다른 경로가 필요함을 보여 줍니다. 또한 그래프의 연결 누락, 이름의 잘못된 병합, 요약 왜곡이 답변에 미치는 영향을 설명해 보기 좋은 관계도를 검증된 사실로 오인하지 않도록 합니다.
라이프스타일
지식 그래프(Knowledge Graph): 대상과 관계를 명확히 설명하기
지식 그래프는 개체와 관계로 데이터를 구성해 ‘누가 무엇에 참여했고, 어디서 언제 일어났는지’를 연결을 따라 조회할 수 있게 합니다. 이 글은 커뮤니티 행사 데이터를 예로 개체 식별, 관계 방향, 출처와 시간을 살펴보고, 자원 기술 프레임워크(RDF)와 속성 그래프의 표현 방식 차이를 소개합니다. 또한 그래프가 시각화나 신뢰할 만한 사실 그 자체는 아님을 설명합니다. 읽고 나면 데이터가 그래프 구축에 적합한지 판단하고, 데이터 테이블·벡터 검색·그래프 검색 증강 생성(GraphRAG)과 어떻게 결합하는지 이해할 수 있습니다.
라이프스타일
하이브리드 검색(Hybrid Search): 정확한 단어와 의미를 함께 고려하기
하이브리드 검색은 전문 검색과 벡터 검색 등 서로 다른 검색 결과를 결합해 정확한 코드와 자연어로 표현한 요구를 모두 반영합니다. 장비 설명서 검색을 예로 후보 확보, 중복 제거, 순위 융합, 재순위화를 살펴보고, 역순위 융합(RRF)이 순위로 서로 다른 검색 결과를 결합하는 원리를 설명합니다. 하이브리드 방식이 모든 경우에 정확도 향상을 보장하지 않는다는 점도 짚습니다. 코드 질문, 표현을 바꾼 질문, 답이 없는 질문으로 품질을 확인하고, 권한·필터링·중복 콘텐츠로 인한 편향을 구분할 수 있습니다.
이 글을 인용한 글
출처
위에 기재된 참고 자료와 확인일 기준 정보를 바탕으로 정리했습니다. 요금, 시간표, 기능, 이용 약관은 바뀔 수 있으므로 여행, 예약 또는 구매 전에 해당 공식 사이트에서 최신 정보를 확인해 주세요.