라이프스타일
퓨샷 프롬프팅(Few-shot Prompting)이란: 예시로 형식을 명확하게 알려주기
퓨샷 프롬프팅은 한 번의 입력에 소수의 예시를 넣어 모델이 이를 따라 새 데이터를 처리하게 하는 방법이며, 모델을 다시 훈련하는 것과는 다르다. 이 글에서는 분실물·습득물 분류 상황을 통해 일반 사례, 경계 사례, 정보 부족 사례를 고르는 방법을 설명하고, 모델이 표면적인 표현만 모방하지 않도록 돕는다. 테스트 방법, 비교표, 직접 제작한 도해를 곁들여 언제 예시를 늘리고 언제 분류 규칙부터 고쳐야 하는지, 예시 데이터와 검증 데이터를 왜 분리해야 하는지 설명한다.
읽는 데 약 9분

목차
퓨샷 프롬프팅(Few-shot Prompting)은 완성된 입력과 출력 예시를 소수만 프롬프트에 넣고 모델에 새 입력을 처리하도록 요청하는 방법이다. 단순히 “이 형식을 따르라”고 말하는 대신, 형식이 어떻게 생겼고 분류 경계를 어떻게 판단하며 정보가 불완전할 때 어떻게 표현해야 하는지 보여주는 것이다.
이 방법은 시민들이 남긴 글을 정해진 필드로 정리하는 것처럼, 규칙 한 문장만으로 명확하게 설명하기 어려운 작업에 적합한 경우가 많다. 하지만 영구적인 훈련은 아니며, 예시가 많을수록 정확해진다는 보장도 없다. 아래에서는 분실물·습득물 데이터를 활용해 직접 만든 교육용 상황으로 예시를 고르고 새 사례를 확인한 뒤, 이 프롬프트를 계속 사용할 가치가 있는지 판단하는 방법을 보여준다.
예시는 현재 컨텍스트에 들어갈 뿐, 모델 매개변수를 바꾸지 않는다
Brown 등의 원래 연구에서는 텍스트 지시와 예시를 사용해 모델이 경사 업데이트나 미세 조정파인튜닝(Fine-tuning): 기존 모델을 내 작업에 더 적합하게파인튜닝은 기존 모델의 학습을 이어가 특정 작업이나 분야에 더 적합하게 만드는 것입니다. 이 글은 고객 지원 메일 분류를 예로 데이터 정리, 매개변수 갱신, 테스트 세트 분리 보관과 버전 배포를 설명합니다. 전체 파인튜닝, LoRA, 지도 학습 기반 파인튜닝과 RAG를 구분하고, 학습 성적이 좋아져도 실제 성능은 떨어질 수 있는 이유를 살펴봅니다. 읽고 나면 파인튜닝을 적용할 만한 문제인지 판단하고, 형식 일관성, 알려지지 않은 유형, 데이터 누수와 기존 능력 저하를 점검할 수 있습니다.전체 글 읽기 없이 작업을 수행하게 했다. 퓨샷 프롬프팅도 이 핵심 방식을 따른다. 예시는 해당 입력의 일부로서 모델이 작업과 기대하는 출력을 파악하도록 돕는다. 이는 데이터를 수집한 뒤 모델의 매개변수모델 매개변수(Model Parameters)란 무엇인가모델 매개변수는 학습 중 조정되며 입력을 출력으로 바꾸는 데 쓰이는 가중치와 편향 등의 수치입니다. 이 글은 간단한 수식 예시로 매개변수가 예측에 미치는 영향을 설명하고, 모델 매개변수와 학습 하이퍼파라미터, 프롬프트, 생성 설정을 구분합니다. 또한 매개변수 수, 수치 정밀도, 활성 매개변수가 서로 다른 지표인 이유를 설명합니다. 읽고 나면 모델 사양을 더 정확히 읽고, 매개변수 증가가 지식의 항목별 증가를 뜻하지 않으며 매번 대화할 때마다 모델을 다시 학습하는 것도 아님을 이해할 수 있습니다.전체 글 읽기를 다시 조정하는 미세 조정과 다르다.
예를 들어 “도서관 입구에서 검은색 우산을 주웠어요”에 대응하는 출력으로 “물품: 우산; 장소: 도서관 입구”를 제시하면, 모델은 이 예시로 필드 작성 방식을 추론할 수 있다. 새 대화를 시작했는데 시스템이 예시를 다시 전달하지 않았다면, 모델이 여전히 사용자가 정한 형식을 알고 있다고 가정해서는 안 된다. 반복해서 써야 한다면 확인을 마친 예시를 재사용 가능한 프롬프트나 작업 설정에 저장해야 한다.
퓨샷 프롬프팅에도 모든 상황에 통하는 최적의 예시 개수는 없다. 몇 개를 고를지는 작업의 복잡도, 예시 길이, 오류 유형에 따라 달라진다. 분류 규칙 자체가 모순된다면 예시를 더 넣는 것이 혼란만 키울 수 있다. 형식이 매우 특이하다면 명확한 예시 하나만으로도 큰 도움이 될 수 있다. 정해진 예시 개수를 채우려 하기보다 새 데이터에서의 성능으로 판단해야 한다.
자세한 설명 보기
일반·누락·경계 사례의 세 가지 예시로 처리 규칙을 함께 정의하고, 새 글에 적용한 뒤 예시로 쓰지 않은 별도의 데이터로 검증한다.
적절한 예시로 분류 경계를 드러내기
분실물·습득물의 일반적인 예시에는 명확한 물품과 장소를 넣을 수 있다. 하지만 이런 예시만 제시하면 모델이 모든 글에 정보가 완전하게 담겨 있다고 오해할 수 있다. 두 번째 유형의 예시는 정보 누락을 다뤄야 한다. 예를 들어 “방금 카드 한 장을 주웠어요”라면 장소 필드에는 “미제공”이라고 써야 하며, 역이나 교실이라고 추측해서는 안 된다.
경계 사례는 혼동하기 쉬운 규칙을 보여줄 수 있다. 예를 들어 “이어폰을 잃어버렸어요”는 분실물을 찾는 글이지, 물건을 주웠다는 글이 아니다. 시스템이 습득 정보만 수집한다면 적용 대상이 아님을 어떻게 표시하는지 예시로 보여줘야 한다. 비슷한 우산이나 물병 관련 글을 몇 개 더 넣는 것보다, 모델이 실제 분류 경계를 이해하는 데 더 도움이 된다.
Anthropic의 공식 프롬프팅 지침은 관련성 있고 다양하며 구조가 명확한 예시를 권장한다. 이 상황에서 다양성이란 명사 몇 개를 임의로 바꾸는 것이 아니라, 정보가 완전한 경우, 필수 필드가 누락된 경우, 작업 대상에 해당하지 않는 경우, 한 문장에 물품이 여러 개 있는 경우처럼 서로 다른 판단을 포함하는 것이다. 예시로 보여줘야 할 것은 단순한 문체가 아니라 규칙에 따라 판단이 갈리는 지점이다.
검토 가능한 분실물·습득물 프롬프트 작성하기
먼저 짧은 문장으로 작업을 정의한다. “글이 습득한 물품을 설명하는지 판단하고, 글에 명시된 물품과 장소만 추출하라. 제공되지 않은 필드에는 미제공이라고 써라.” 그런 다음 각 입력과 예상 출력을 구분해 표시하여 모델이 예시를 새로 처리해야 할 사례로 착각하지 않도록 한다. 마지막으로 이번에 실제로 정리할 글을 별도로 넣는다.
새 입력의 예는 다음과 같다. “운동장 옆에 누군가 보온컵을 두고 간 것을 봤는데, 이미 누가 가져갔는지는 모르겠어요.” 이상적인 출력은 물품과 장소를 유지하면서 현재 상태가 불확실하다고 표시해야 한다. 기존 필드로 불확실성을 표현할 수 없다면, 모델에 모호한 사실을 억지로 “습득 완료”에 끼워 맞추도록 요구할 것이 아니라 필드 설계부터 수정해야 한다.
출력 후에는 원문과 대조해 확인한다. 물품 이름이 바뀌지는 않았는지, 장소를 임의로 덧붙이지는 않았는지, 잠깐 목격한 상황을 이미 물품을 보관 중인 것으로 오해하지는 않았는지 살펴본다. 이 검토 항목이 성공 기준이다. 형식이 깔끔해도 정보가 과장됐다면 실패다. 반대로 사실 판단은 정확하지만 필드가 일관되지 않다면, 주된 문제는 형식 예시가 충분히 명확하지 않다는 데 있을 수 있다.
예시 데이터와 검증 데이터는 반드시 분리해야 한다
모델에 알려주기 위해 사용한 글을 유일한 성능 증거로 다시 쓰는 것은 적절하지 않다. 모델이 이미 본 예시를 따라 성공적으로 다시 처리했다는 것은 예시를 재현할 수 있다는 뜻일 뿐이다. 같은 판단 경계를 포함하되 표현이 다른 새 글을 별도로 남겨야, 모델이 처음 보는 입력에도 규칙을 적용하는지 관찰할 수 있다.
프롬프트 버전을 비교할 때는 먼저 이 검증 데이터를 고정한다. 한 버전에는 규칙만 넣고, 다른 버전에는 일반 예시를 추가하며, 또 다른 버전에는 누락 사례와 경계 사례까지 추가한다. 가장 마음에 드는 답변 한 번만 볼 것이 아니라, 각 버전이 어떤 사례에서 틀렸는지 기록한다. 여기서는 이 실험을 수행하지 않았으므로 정확도나 개선 비율을 제시하지 않는다.
새 버전이 우산 관련 글만 더 안정적으로 처리하고 분실물을 찾는 글까지 모두 습득 글로 분류한다면, 예시의 균형을 다시 맞춰야 한다. 예시의 배열과 형식이 암시를 주는지도 확인해야 한다. 예를 들어 앞부분에는 늘 성공 사례만 있고 뒷부분에는 늘 거절 사례만 있는지 살펴본다. 정해진 순서로 추측 가능한 패턴을 만드는 것보다 내용과 라벨의 관계를 명확히 하는 것이 더 중요하다.
언제 퓨샷을 쓰고, 언제 다른 문제를 해결해야 할까
모델이 큰 방향은 이해하지만 필드, 문체, 분류 경계를 파악하지 못할 때는 퓨샷 프롬프팅을 시도해 볼 만하다. 모델이 최신 공지를 모른다면 예시가 정보 조회를 대신할 수 없다. 원본 글을 OCR이 잘못 읽었다면 예시가 원본 오류를 자동으로 고쳐주지도 못한다. 먼저 오류가 어느 단계에서 생겼는지 파악해야 모든 실패를 예시 부족 탓으로 돌리지 않을 수 있다.
높은 일관성이 필요한 시스템에는 필수 필드가 있는지, 라벨이 허용 목록에 있는지 확인하는 등의 프로그램 검사도 추가해야 한다. 이런 검사는 형식 오류를 잡을 수 있지만 의미를 완전히 검증하지는 못하므로, 원문과 표본 검토 절차를 계속 유지해야 한다. 모델이 유효한 형식을 반환하는 것은 시스템이 출력을 받아들일 수 있는 조건이지, 내용까지 정확하다는 뜻은 아니다.
예시를 정리할 때는 불필요한 개인정보를 사용하지 않아야 한다. 분실물·습득물 사례는 가상의 내용으로 규칙을 표현할 수 있으므로, 실제 전화번호, 이름, 신분증 번호를 프롬프트에 반복해서 넣을 필요가 없다. 마지막으로 핵심 판단을 명확히 설명할 수 있는 소수의 사례를 남기고, 각 사례가 어떤 규칙에 대응하는지 기록한다. 그러면 나중에 개정할 때 각 예시를 왜 남겨둘 가치가 있는지 알 수 있다.
팀에서 분류 정의를 바꿨다면 모든 예시도 함께 갱신해야 한다. 텍스트 설명에는 옛 규칙이 적혀 있는데 예시에는 새 규칙이 나오면 모델은 상충하는 신호를 받게 된다. 각 예시 묶음의 용도와 마지막 확인 날짜를 남겨두면, 후임자도 이 예시들을 어떻게 유지·관리해야 하는지 이해할 수 있다.
| 방법 | 제공하는 것 | 주요 한계 |
|---|---|---|
| 제로샷 프롬프팅 | 규칙과 새 입력 | 세밀한 형식을 명확히 설명하기 어려울 수 있음 |
| 퓨샷 프롬프팅 | 규칙, 예시, 새 입력 | 예시가 오해를 유발하거나 공간을 차지할 수 있음 |
| 미세 조정 | 훈련 데이터로 매개변수 갱신 | 별도의 훈련 및 평가 절차가 필요함 |
제로샷 프롬프팅(Zero-shot Prompting)이란: 먼저 작업을 명확하게 설명하기제로샷 프롬프팅(Zero-shot Prompting)이란: 먼저 과제를 명확히 설명하기제로샷 프롬프팅은 정답이 포함된 예시 없이 규칙과 새로운 자료만으로 모델에 작업을 요청하는 방식입니다. 제로샷은 모델이 학습한 적 없다는 뜻도, 프롬프트에 자료를 첨부할 수 없다는 뜻도 아닙니다. 이 글은 가전제품 설명서 정리를 예로 들어 출력 항목, 누락된 정보, 판단 범위를 명확히 지정하는 방법을 설명하고, 퓨샷 프롬프팅과 검색 자료의 용도를 비교합니다. 비교표와 테스트 절차를 통해 직접 질문하는 것만으로 충분한 경우와 예시를 추가해야 하는 경우를 알아봅니다.전체 글 읽기
인컨텍스트 학습(In-context Learning)이란: 그 자리에서 새 규칙에 적응하기
AI 용어 전체 색인: Loop Engineering부터 생성형 AI까지
이 정리가 도움이 되셨나요? 필요한 분께 공유해 보세요
같은 주제의 글
라이프스타일
에이전트형 검색 증강 생성(Agentic RAG): 언제 다시 검색해야 할까
에이전트형 검색 증강 생성은 모델이 검색 결정에 참여해 질문과 이미 찾은 근거에 따라 자료 출처를 선택하거나 검색어를 재작성하거나 추가로 검색하게 합니다. 이 글은 LangGraph 문서의 구체적인 흐름을 바탕으로 장소 대관 조건 비교를 통해 고정형 RAG와의 차이를 보여 주고, 종료 조건, 권한, 검색 기록과 비용 관리를 설명합니다. 읽고 나면 작업에 동적 탐색이 필요한지, 예측 가능한 고정 절차로 충분한지 판단할 수 있습니다.
라이프스타일
그래프 검색 증강 생성(GraphRAG): 관계를 통해 문서 전체 이해하기
GraphRAG는 엔터티와 그 관계를 검색에 활용해 문서 간 연관성과 전체 주제에 관한 질문에 답하도록 돕습니다. 이 글은 Microsoft의 원 논문과 공식 문서를 바탕으로 엔터티 추출, 커뮤니티 요약, 로컬 검색과 글로벌 검색을 설명하고, 지역 행사 기록을 통해 질문에 따라 다른 경로가 필요함을 보여 줍니다. 또한 그래프의 연결 누락, 이름의 잘못된 병합, 요약 왜곡이 답변에 미치는 영향을 설명해 보기 좋은 관계도를 검증된 사실로 오인하지 않도록 합니다.
라이프스타일
지식 그래프(Knowledge Graph): 대상과 관계를 명확히 설명하기
지식 그래프는 개체와 관계로 데이터를 구성해 ‘누가 무엇에 참여했고, 어디서 언제 일어났는지’를 연결을 따라 조회할 수 있게 합니다. 이 글은 커뮤니티 행사 데이터를 예로 개체 식별, 관계 방향, 출처와 시간을 살펴보고, 자원 기술 프레임워크(RDF)와 속성 그래프의 표현 방식 차이를 소개합니다. 또한 그래프가 시각화나 신뢰할 만한 사실 그 자체는 아님을 설명합니다. 읽고 나면 데이터가 그래프 구축에 적합한지 판단하고, 데이터 테이블·벡터 검색·그래프 검색 증강 생성(GraphRAG)과 어떻게 결합하는지 이해할 수 있습니다.
라이프스타일
하이브리드 검색(Hybrid Search): 정확한 단어와 의미를 함께 고려하기
하이브리드 검색은 전문 검색과 벡터 검색 등 서로 다른 검색 결과를 결합해 정확한 코드와 자연어로 표현한 요구를 모두 반영합니다. 장비 설명서 검색을 예로 후보 확보, 중복 제거, 순위 융합, 재순위화를 살펴보고, 역순위 융합(RRF)이 순위로 서로 다른 검색 결과를 결합하는 원리를 설명합니다. 하이브리드 방식이 모든 경우에 정확도 향상을 보장하지 않는다는 점도 짚습니다. 코드 질문, 표현을 바꾼 질문, 답이 없는 질문으로 품질을 확인하고, 권한·필터링·중복 콘텐츠로 인한 편향을 구분할 수 있습니다.
이 글을 인용한 글
출처
위에 기재된 참고 자료와 확인일 기준 정보를 바탕으로 정리했습니다. 요금, 시간표, 기능, 이용 약관은 바뀔 수 있으므로 여행, 예약 또는 구매 전에 해당 공식 사이트에서 최신 정보를 확인해 주세요.