라이프스타일

에이전트형 검색 증강 생성(Agentic RAG): 언제 다시 검색해야 할까

에이전트형 검색 증강 생성은 모델이 검색 결정에 참여해 질문과 이미 찾은 근거에 따라 자료 출처를 선택하거나 검색어를 재작성하거나 추가로 검색하게 합니다. 이 글은 LangGraph 문서의 구체적인 흐름을 바탕으로 장소 대관 조건 비교를 통해 고정형 RAG와의 차이를 보여 주고, 종료 조건, 권한, 검색 기록과 비용 관리를 설명합니다. 읽고 나면 작업에 동적 탐색이 필요한지, 예측 가능한 고정 절차로 충분한지 판단할 수 있습니다.

읽는 데 약 9분

LINE 공유
질문, 검색, 근거 검토가 재시도 가능한 순환 구조를 이루며, 근거가 충분하면 별도 경로로 답변을 출력하는 모습
사진: Mokaair (© Mokaair)
목차
  1. 1. 다음 검색을 능동적으로 결정하기
  2. 2. 근거의 빈틈에서 다시 검색으로
  3. 3. 예시: 커뮤니티 행사 장소 비교
  4. 4. 막아야 할 것은 환각만이 아니다
  5. 5. 반복 단계를 추가할 가치가 있는지 평가하는 법

에이전트형 검색 증강 생성은 영어로 Agentic RAG라 하며, 일반적으로 모델이 과정 중 언제, 어디서 검색할지와 자료를 얻은 뒤 추가 검색이 필요한지를 결정하는 RAG 시스템을 뜻합니다. 확장되는 것은 검색 의사결정입니다. 자료가 자동으로 정확해진다는 뜻도, 반드시 여러 에이전트가 필요하다는 뜻도 아닙니다. 한 번의 검색으로 답할 수 있는 질문은 여전히 한 번만 검색해도 됩니다. 빈틈을 발견했을 때만 단계를 늘릴 이유가 생깁니다.

이 명칭에는 널리 합의된 단일 알고리즘 명세가 없습니다. 이 글에서는 LangGraph 공식 튜토리얼에서 제시하는 실제 구현상의 의미를 따릅니다. 모델이 검색 도구 호출 여부를 선택하고, 절차에서 문단의 관련성을 확인하며, 필요하면 질문을 재작성한 뒤 답변을 생성하는 방식입니다. 자기 성찰형 검색 증강 생성(Self-RAG) 논문도 필요에 따른 검색과 자기 점검을 연구하지만, 특정 성찰 토큰(reflection tokens) 메커니즘을 학습시키므로 모든 Agentic RAG를 Self-RAG라고 부를 수는 없습니다.

다음 검색을 능동적으로 결정하기

고정형 RAG는 보통 사용자 질문을 정해진 검색기에 보내고, 찾은 내용을 생성기에 전달합니다. 에이전트형 흐름에서는 모델이 중간 결과에 따라 이후 행동을 바꿀 수 있습니다. 예를 들어 원래 질문이 행사 장소 두 곳을 다룬다면, 모델은 첫 검색에서 장소 소개를 찾은 뒤 장비 관련 규정이 빠져 있음을 발견하고 규정 인덱스를 다시 검색합니다. 여기서 가치는 근거의 빈틈에 따라 자료를 보충하는 데 있으며, 모델이 이미 아는 내용을 반복해서 말하게 하는 데 있지 않습니다.

구현할 때는 모델이 자유롭게 결정할 수 있는 범위를 분명히 해야 합니다. 모델은 검색어와 허용된 자료 출처를 선택할 수 있지만, 읽기 권한, 최대 실행 시간, 어떤 오류에서 중단할지는 여전히 애플리케이션이 제어합니다. 모델의 결정을 곧바로 전체 절차의 명세로 삼으면 간단한 질의응답도 예측하기 어려운 탐색 작업이 됩니다. 에이전트의 유연성과 프로그램의 제약은 모두 필요한 설계 조건입니다.

근거의 빈틈에서 다시 검색으로

이해하기 쉬운 순환 절차는 다음과 같습니다. 답해야 할 하위 질문을 나열하고, 도구를 선택해 자료를 얻고, 새 자료가 어떤 주장을 뒷받침할 수 있는지 확인한 뒤, 답변할지, 추가 검색할지, 중단할지 결정합니다. 관련성 검사는 “이 문단이 질문을 다루는가”를, 충분성 검사는 “결론을 내리기에 충분한가”를 확인합니다. 장소 소개 자료는 관련성이 매우 높아도 수용 인원 정보가 없을 수 있으므로 두 검사를 혼동하면 안 됩니다.

종료 조건은 작업을 정할 때 함께 설정하는 것이 좋습니다. 필요한 모든 항목에 출처가 확보되면 비교 결과를 생성할 수 있습니다. 자료가 서로 모순되면 충돌을 밝혀야 하며, 계속 검색해도 같은 문서만 나오면 중단하고 부족한 항목을 나열할 수 있습니다. 성공의 기준은 모델이 “확신합니다”라고 말할 때까지 검색하는 것이 아니라, 독자가 미리 요구한 정보에 근거가 확보되었는지입니다. 도구가 실패했을 때도 실패 상태를 남겨야 하며, 연결 오류를 검색 결과가 없다는 뜻으로 잘못 기록하면 안 됩니다.

검색으로 근거를 확보한 뒤 충분한지 확인하고, 충분하면 답변하며, 부족하면 검색어를 재작성해 다시 검색하고, 보완할 수 없으면 중단하는 흐름
검색으로 돌아가는 화살표에는 이유가 필요합니다. 중단이 반드시 완전한 답변을 뜻하지는 않습니다. · 사진: Mokaair (© Mokaair)
자세한 설명 보기

검색으로 근거를 확보한 뒤 충분한지 확인하고, 충분하면 답변하며, 부족하면 검색어를 재작성해 다시 검색하고, 보완할 수 없으면 중단하는 흐름

예시: 커뮤니티 행사 장소 비교

입력 질문이 “강변 교실과 산성 회관을 비교해 주세요. 프로젝터와 무장애 출입구가 필요한 독서 모임에는 어느 곳이 적합한가요?”라고 가정해 봅시다. 이는 가상의 교육용 상황입니다. 첫 검색에서는 두 장소의 장비 목록을 얻을 수 있는데, 강변 교실에는 프로젝터 장비가 있고 산성 회관에는 공간 사진만 있습니다. 에이전트는 산성 회관의 장비 관련 근거가 부족하다는 점을 파악하고 대관 안내서를 추가로 검색해야 합니다. 출입구 조건은 장소 배치도나 공식 안내에서 확인해야 하며, 사진을 보고 추측하면 안 됩니다.

기대하는 출력은 항목별 비교 결과입니다. 프로젝터 제공 여부, 출입구가 질문의 요구 조건을 충족하는지, 각 항목의 출처, 관리 주체에 여전히 확인해야 할 사항을 담습니다. 안내서에 “지원 가능”이라고만 쓰여 있다면 특정 출입구를 이용할 수 있다는 근거로 충분하지 않으므로 미확인으로 표시해야 합니다. 이때 검색을 한 번 더 하면 자료를 찾는 데 도움이 될 수 있지만, 모델의 추론을 늘린다고 문서에 기록되지 않은 사실을 채울 수는 없습니다.

질문이 “산성 회관의 연락처 전화번호를 찾아 주세요”로 바뀐다면 고정형 검색으로도 충분할 수 있습니다. 에이전트가 계획하고, 점검하고, 검색하는 단계를 거치면 오히려 대기 시간과 오류 가능성이 늘어납니다. 같은 시스템에서도 작업의 복잡도에 따라 경로를 선택할 수 있습니다. 명확한 단일 항목 질문에는 짧은 절차를 쓰고, 여러 출처를 비교할 때만 동적 추가 검색을 활용하는 방식입니다. 이는 설계상의 절충이며, 어떤 출처도 에이전트형 방식이 모든 질문에서 더 낫다고 보장하지 않습니다.

막아야 할 것은 환각만이 아니다

에이전트형 검색에서 흔한 실패는 검색 방향이 빗나가는 것입니다. 처음에는 출입구 조건을 찾다가 몇 차례 재작성한 뒤에는 일반적인 무장애 여행을 검색하게 되는 경우입니다. 또 다른 실패는 같은 뜻의 문장을 반복 검색해 같은 내용을 얻고도 이를 여러 개의 독립된 근거로 여기는 것입니다. 원래 질문, 답변이 완료된 항목, 문서 식별자를 남겨 중복 자료를 식별할 수 있게 하고, 추가 검색 때마다 어떤 구체적인 빈틈을 메우려는지 설명하도록 해야 합니다.

모델이 스스로 자료가 충분한지 판단할 때도 지나치게 낙관적일 수 있습니다. 중요한 항목은 프로그램으로 유효한 출처가 첨부되어 있는지 확인하거나 사람이 인용이 주장을 뒷받침하는지 표본 점검할 수 있습니다. 프로그램은 설계된 조건만 검증할 수 있고 모든 의미를 자동으로 이해하지는 못하므로, 자료 누락, 모순, 출처의 날짜도 평가에 포함해야 합니다. 도구로 자료를 읽을 때마다 동일한 사용자 권한을 따라야 하며, 에이전트가 다음 단계를 결정한다는 이유로 접근 범위를 넓혀서는 안 됩니다.

반복 단계를 추가할 가치가 있는지 평가하는 법

방식을 비교할 때는 같은 버전의 문서와 같은 질문을 사용하고, 고정형 RAG와 에이전트형 흐름 각각의 답변 완전성, 인용이 답변을 뒷받침하는 정도, 도구 호출 횟수, 대기 시간을 기록해야 합니다. 개선이 여러 문서에 걸친 질문에서만 나타난다면 해당 질문에 맞춘 라우팅을 유지할 수 있으며, 전체를 대체할 필요는 없습니다. 평가에는 답이 없는 질문도 포함해 에이전트가 중단할 수 있는지 살펴봐야 합니다. 그래야 성공할 수 있는 예제 질문만으로 낙관적인 결론을 내리는 일을 피할 수 있습니다.

독자는 제품 소개를 볼 때 검색 한 건의 전체 기록을 보여 달라고 요청할 수 있습니다. 처음에 무엇을 찾았는지, 왜 다시 검색했는지, 이후 무엇을 보완했는지, 언제 중단했는지를 확인하는 것입니다. 이런 자료를 볼 수 있어야 시스템의 추가 단계가 유용한지 판단할 수 있습니다. 에이전트형 RAG의 핵심은 근거에 따라 검색을 조정하는 것입니다. 스케줄링, 재시도, 모니터링, 여러 사람의 협업은 그 작동을 뒷받침하는 엔지니어링 작업이며, 모두 에이전트의 추론 능력으로 묶어 불러서는 안 됩니다.

시스템이 검색 진행 상황을 보여 준다면 화면의 “검증 중”도 실제 동작에 대응해야 합니다. 검색이 예약되었다고 도구가 성공적으로 결과를 반환한 것은 아니며, 도구가 결과를 반환했다고 근거를 모두 읽은 것도 아닙니다. 이런 상태 차이를 유지하면 사용자가 기다리는 이유를 이해할 수 있고, 엔지니어링 팀도 도구 연결, 문서 파싱, 모델 판단 중 어느 단계에서 멈췄는지 파악하기 쉽습니다.

개념 비교. 출처는 2026년 9월에 확인했습니다.
방법처리의 초점유의할 점
고정형 RAG정해진 경로로 검색절차를 예측하기 쉬움
Agentic RAG중간 근거에 따라 다음 단계 선택종료 조건과 예산 한도 필요
Self-RAG필요에 따른 검색과 성찰 메커니즘 학습특정 연구 방법임

에이전트 루프(Agent Loop)란: 판단, 실행, 피드백

에이전트 오케스트레이션(Agent Orchestration)이란: 역할 분담과 결과 전달 순서 정하기

AI 용어 종합 색인: Loop Engineering부터 생성형 AI까지

이 정리가 도움이 되셨나요? 필요한 분께 공유해 보세요

LINE 공유
  • 라이프스타일

    그래프 검색 증강 생성(GraphRAG): 관계를 통해 문서 전체 이해하기

    GraphRAG는 엔터티와 그 관계를 검색에 활용해 문서 간 연관성과 전체 주제에 관한 질문에 답하도록 돕습니다. 이 글은 Microsoft의 원 논문과 공식 문서를 바탕으로 엔터티 추출, 커뮤니티 요약, 로컬 검색과 글로벌 검색을 설명하고, 지역 행사 기록을 통해 질문에 따라 다른 경로가 필요함을 보여 줍니다. 또한 그래프의 연결 누락, 이름의 잘못된 병합, 요약 왜곡이 답변에 미치는 영향을 설명해 보기 좋은 관계도를 검증된 사실로 오인하지 않도록 합니다.

  • 라이프스타일

    지식 그래프(Knowledge Graph): 대상과 관계를 명확히 설명하기

    지식 그래프는 개체와 관계로 데이터를 구성해 ‘누가 무엇에 참여했고, 어디서 언제 일어났는지’를 연결을 따라 조회할 수 있게 합니다. 이 글은 커뮤니티 행사 데이터를 예로 개체 식별, 관계 방향, 출처와 시간을 살펴보고, 자원 기술 프레임워크(RDF)와 속성 그래프의 표현 방식 차이를 소개합니다. 또한 그래프가 시각화나 신뢰할 만한 사실 그 자체는 아님을 설명합니다. 읽고 나면 데이터가 그래프 구축에 적합한지 판단하고, 데이터 테이블·벡터 검색·그래프 검색 증강 생성(GraphRAG)과 어떻게 결합하는지 이해할 수 있습니다.

  • 라이프스타일

    하이브리드 검색(Hybrid Search): 정확한 단어와 의미를 함께 고려하기

    하이브리드 검색은 전문 검색과 벡터 검색 등 서로 다른 검색 결과를 결합해 정확한 코드와 자연어로 표현한 요구를 모두 반영합니다. 장비 설명서 검색을 예로 후보 확보, 중복 제거, 순위 융합, 재순위화를 살펴보고, 역순위 융합(RRF)이 순위로 서로 다른 검색 결과를 결합하는 원리를 설명합니다. 하이브리드 방식이 모든 경우에 정확도 향상을 보장하지 않는다는 점도 짚습니다. 코드 질문, 표현을 바꾼 질문, 답이 없는 질문으로 품질을 확인하고, 권한·필터링·중복 콘텐츠로 인한 편향을 구분할 수 있습니다.

  • 라이프스타일

    검색 증강 생성(RAG)이란: 답변에 확인 가능한 근거 붙이기

    검색 증강 생성은 외부 자료에서 관련 내용을 먼저 찾은 뒤 언어 모델이 이를 바탕으로 답변을 구성하게 합니다. 이 글은 행사 신청 규정에 관한 질의응답을 예로 들어 색인 구축, 검색, 생성, 출처 대조를 살펴보고, 검색 및 미세 조정과의 차이와 인용이 있어도 답이 틀릴 수 있는 이유를 설명합니다. 자료가 갱신되지 않았는지, 필요한 문서를 모두 찾지 못했는지, 모델이 근거를 과도하게 해석했는지 판단하고, 어떤 경우에 모른다고 답해야 하는지도 알 수 있습니다.

출처

위에 기재된 참고 자료와 확인일 기준 정보를 바탕으로 정리했습니다. 요금, 시간표, 기능, 이용 약관은 바뀔 수 있으므로 여행, 예약 또는 구매 전에 해당 공식 사이트에서 최신 정보를 확인해 주세요.

라이프스타일