Amazon SageMaker AI 서버리스 모델 커스터마이징에 전체 파인튜닝(FFT) 추가, AWS "10만 건 이상 데이터에서 LLM 평가 정확도 90.0%"

AWS가 SageMaker AI Serverless Model Customization에서 전체 파인튜닝(FFT)을 지원한다고 발표했습니다. GPU나 클러스터를 직접 관리할 필요가 없습니다. AWS는 코드 생성 실험으로 FFT와 LoRA를 비교하며 FFT가 하이퍼파라미터에 민감하다고 경고했습니다.

뉴스 날짜: 읽는 데 약 7분

LINE 공유
목차
  1. 1. 이번에 무엇이 달라졌나? FFT와 LoRA의 차이는?
  2. 2. AWS는 어떻게 테스트했나? 결과는 얼마나 믿을 만한가?
  3. 3. FFT를 쓰려면 하이퍼파라미터와 망각 위험에서 무엇을 주의해야 하나?
  4. 4. 어떻게 시작하나?

'파인튜닝'은 이미 학습된 대규모 언어 모델을 회사 고유의 데이터로 추가 학습시켜 특정 분야나 작업에 더 능숙하게 만드는 것을 말합니다. AWS는 공식 블로그에서 Amazon SageMaker AI Serverless Model Customization이 이제 전체 파인튜닝(Full Fine-Tuning, FFT)을 지원하며, 팀이 인프라를 직접 관리하지 않고도 모델의 모든 파라미터를 갱신할 수 있다고 발표했습니다. 기존에 흔히 쓰이던 LoRA(저랭크 적응)는 파라미터의 일부만 학습해 GPU 자원을 덜 쓰는 방식입니다. 원문은 정식 출시인지 프리뷰인지, 가격과 리전 정보도 밝히지 않았으므로 AWS 문서를 확인하시기 바랍니다. GPU 용량 계획 부담 없이 모델에 회사의 도메인 지식을 반영하고 싶은 팀에게 LoRA 외의 선택지가 생긴 셈입니다. 아래 수치는 모두 AWS 자체 실험 결과이며 독립적으로 검증된 것이 아닙니다.

이번에 무엇이 달라졌나? FFT와 LoRA의 차이는?

AWS 설명에 따르면 LoRA는 사전 학습된 가중치를 고정하고 작은 저랭크 행렬을 삽입합니다. 작업이 복잡해지고 데이터가 수만 건을 넘으면 LoRA는 정확도 병목에 부딪히며, AWS는 이를 랭크 부족 탓으로 봅니다. 반면 FFT는 모델 파라미터를 모두 갱신하며, AWS는 가중치 행렬의 표현력을 온전히 활용할 수 있다고 말합니다.

AWS는 이 서비스를 쓸 때 기반 모델, 데이터셋, 하이퍼파라미터(학습률, 배치 크기, 에폭 수 등 학습 전에 정하는 값)만 지정하면 된다고 밝혔습니다. 컴퓨팅 자원 배정과 체크포인트(학습 도중 모델 상태를 저장한 중간본) 관리는 서비스가 자동으로 처리합니다.

AWS 실험의 LoRA와 FFT 비교(단일 코드 생성 작업, 일반화 불가)
항목LoRAFFT (AWS 설명 기준)
갱신 방식기존 가중치 고정, 저랭크 행렬만 학습모델 파라미터를 모두 갱신
대용량 데이터 성능AWS는 복잡한 작업·수만 건 초과 데이터에서 정확도 병목이 생긴다고 설명10만 건 이상에서 LLM-as-Judge 의미 정확도 90.0%
특정 LLM-as-Judge 비교81.5%79.5%
위험—학습률이 너무 높으면 사전 학습 지식을 덮어써 치명적 망각 발생

AWS는 어떻게 테스트했나? 결과는 얼마나 믿을 만한가?

AWS는 SageMaker AI Studio가 제공하는 Qwen3-4B 기반 모델에 지도 미세조정(SFT)을 적용했고, LoRA와 FFT에 동일한 프롬프트, 목표, 평가 코드를 사용했습니다. 데이터셋은 Magicoder-Evol-Instruct-110K입니다. 코드 지시문과 응답 쌍 11만 건을 90/5/5로 나눠 학습 99,000건, 검증 5,500건, 최종 평가용으로 따로 떼어 둔 테스트 5,500건으로 구성했습니다. Hugging Face 데이터셋 페이지에도 약 111k행의 train 분할이 표기되어 있습니다.

평가에는 서비스 내장 방식 세 가지를 썼습니다. Amazon Nova Pro가 심사위원 역할을 하는 LLM-as-Judge, BLEU와 ROUGE로 코드 유사도를 재는 PRIMECODE, 57개 과목을 아우르며 AWS가 망각 탐지에 쓴 MMLU입니다. AWS는 또한 Qwen3-4B, DeepSeek-R1-1.5B, Nemotron-30B, Gemma-4-26B에서 수십 건의 실험을 수행했다고 밝혔습니다. 실험마다 제출부터 결과까지 몇 시간 안에 끝났고, 생성된 모델은 SageMaker Model Registry에 자동 등록되었습니다.

FFT를 쓰려면 하이퍼파라미터와 망각 위험에서 무엇을 주의해야 하나?

  • 학습률: AWS 실험에서 10만 건이 넘는 대규모 데이터셋에서는 2e-5가 안전 구간이었습니다.
  • 학습 에폭(학습 데이터를 한 번 완전히 훑는 횟수): LLM-as-Judge는 3 에폭에서 90.0%로 올랐고, 3 에폭을 넘기면 모든 테스트 변형에서 나빠졌습니다.
  • 배치 크기: 학습률이 같을 때 작은 배치는 갱신 노이즈가 커 학습률을 높인 것과 비슷한 효과를 내며 망각 위험이 커집니다. 큰 배치는 과소적합될 수 있습니다.
  • 일반 지식 보존: AWS는 워밍업 5%, 배치 크기 8, 학습률 2e-5의 기준 설정이 MMLU에서 일반 지식을 가장 잘 보존했다고 밝혔습니다.

어떻게 시작하나?

AWS는 SageMaker Python SDK로 학습과 평가 작업을 코드로 구성해 시작하길 권합니다. FFT를 지원하는 기반 모델 목록은 AWS 문서에 있습니다. 아래는 AWS 글에 실린 FFT 예제입니다(내용은 원문 그대로이며 서식만 약간 정리했습니다).

AWS 블로그의 FFT 예제(SageMaker Python SDK) · python
from sagemaker.train.sft_trainer import SFTTrainer
from sagemaker.train.common import TrainingType

trainer = SFTTrainer(
    model=base_model_id,
    training_type=TrainingType.FULL,
    model_package_group=model_package_group_name,
    training_dataset=training_dataset,
    validation_dataset=val_dataset,
    s3_output_path=output_path,
    sagemaker_session=sess,
    role=role,
)
# Configure hyperparameters as needed
trainer.hyperparameters.learning_rate = 2e-5
trainer.hyperparameters.global_batch_size = 8
trainer.hyperparameters.max_epochs = 2
trainer.hyperparameters.lr_warmup_steps_ratio = 0.1
trainer.train(wait=False)

AWS에 따르면 LoRA로 바꾸려면 TrainingType.FULL을 TrainingType.LORA로 바꾸기만 하면 되고 나머지 코드는 그대로입니다.

자주 묻는 질문

이 기능은 정식 출시인가요? 한국에서 쓸 수 있나요?

AWS 글은 SageMaker AI Serverless Model Customization이 FFT를 '이제 지원한다'고만 밝혔습니다. 프리뷰 여부, 가격, 사용 가능 리전은 언급하지 않았습니다. 따라서 한국에서 쓸 수 있는지는 확인할 수 없으니 AWS 공식 문서를 확인하세요.

FFT가 항상 LoRA보다 좋은가요?

아닙니다. AWS는 FFT가 복잡한 작업과 대규모 고품질 데이터셋에서 더 좋은 성능을 보인다고 설명합니다. 하지만 한 비교에서는 LoRA의 LLM-as-Judge 점수가 근소하게 높았고(81.5% 대 79.5%), FFT는 하이퍼파라미터에 매우 민감합니다.

치명적 망각이란 무엇인가요?

AWS 설명에 따르면 FFT는 모델의 모든 파라미터를 수정합니다. 그래서 좁은 분야로 지나치게 강하게 밀어붙이면 모델이 원래 가진 폭넓은 능력을 잊을 수 있습니다. AWS는 MMLU로 파인튜닝 전후의 일반 지식 보존 정도를 추적했습니다.

GPU를 직접 준비해야 하나요?

AWS 설명으로는 필요 없습니다. 이 서비스를 쓰면 GPU 프로비저닝, 클러스터 구축, 분산 학습 설정이 필요 없고 컴퓨팅 자원과 체크포인트는 서비스가 자동 처리합니다.

이 주제의 최신 뉴스 보기

이 정리가 도움이 되셨나요? 필요한 분께 공유해 보세요

LINE 공유

출처

위에 기재된 참고 자료와 확인일 기준 정보를 바탕으로 정리했습니다. 요금, 시간표, 기능, 이용 약관은 바뀔 수 있으므로 여행, 예약 또는 구매 전에 해당 공식 사이트에서 최신 정보를 확인해 주세요.

라이프스타일