AWS: Amazon Bedrock, 서울·싱가포르에서 데이터를 현지 안에서 처리하는 Claude '리전 내 추론' 출시

AWS가 발표한 내용

AWS가 자사 Artificial Intelligence 블로그에 게시한 공지에 따르면, Amazon Bedrock은 이제 아시아 태평양(서울) 리전(ap-northeast-2)에서 Claude Opus 5와 Claude Sonnet 5를, 아시아 태평양(싱가포르) 리전(ap-southeast-1)에서 Claude Sonnet 5를 제공하며, 둘 다 bedrock-runtime 엔드포인트를 통해 '리전 내 추론' 방식으로 작동한다. 여기서 '리전'은 AWS가 서비스를 운영하는 지역 단위를, '추론'은 AI 모델이 질문을 받아 답을 만들어 내는 과정을, '엔드포인트'는 프로그램이 서비스에 요청을 보내는 접속 지점을 뜻한다.

AWS는 이 기능이 금융 서비스, 헬스케어, 공공 부문처럼 한국이나 싱가포르에서 현지 데이터 처리 요건이 있는 사용자를 위해 마련됐다고 밝혔다. AWS는 이러한 사용자가 이제 위의 Anthropic 모델을 대규모로 사용할 수 있다고 말했다.

자세한 설명 보기

출처를 수집하고 독립적으로 검증한 뒤 Jev가 판단합니다.

'리전 내 추론'이란 무엇인가

AWS의 설명에 따르면 리전 내 추론은 요청이 사용자가 지정한 단일 AWS 리전 안에서 전부 처리되는 것을 뜻한다. 요청을 여러 리전으로 나눠 보내는 교차 리전 추론 프로필과 달리 라우팅 계층(요청을 다른 리전으로 보내는 중간 단계)이 없으며, 입력 프롬프트와 모델 출력 결과는 요청의 전체 수명 주기 동안 해당 리전에 머문다. AWS는 이것이 데이터를 특정 국가나 지역 안에서 처리해야 하는 '데이터 레지던시' 요건을 맞추는 데 도움이 된다고 밝혔다.

AWS는 절충점도 설명했다. 처리량은 해당 리전의 용량에 제한되고, 요청은 리전별 서비스 할당량(사용할 수 있는 요청 한도)을 따라야 한다. 요금은 호출한 리전의 표준 온디맨드 요금(사용한 만큼 내는 방식)을 기준으로 청구되며, 할당량 소비, CloudWatch 지표, CloudTrail 로그도 모두 같은 리전으로 한정되므로 모니터링 시 출발지와 목적지 리전을 구분할 필요가 없다.

일반 독자와 기관에 미치는 실제 영향

일반 대중에게 이런 인프라 변화는 대개 일상적인 사용 화면에 직접 드러나지 않는다. AWS는 이 기능이 한국이나 싱가포르에서 현지 데이터 처리 요건이 있는 기관(예: 금융 서비스, 헬스케어, 공공 부문)의 데이터 레지던시 요구를 돕기 위한 것이라고 밝혔다. 이러한 기관이 앞으로 생성형 AI를 도입할지, 어떻게 도입할지는 각자의 판단에 달려 있다.

개발자 입장에서, AWS는 bedrock-runtime 엔드포인트를 모델 ID(예: anthropic.claude-opus-5 또는 anthropic.claude-sonnet-5)를 직접 지정해 호출할 수 있으며, Anthropic Messages API와 Amazon Bedrock의 InvokeModel 및 Converse API를 지원하고, Amazon Bedrock Guardrails와 지능형 프롬프트 라우팅 등의 기능과 함께 쓸 수 있다고 밝혔다. AWS는 새 애플리케이션에 이 엔드포인트를 사용하도록 권장하며, 콘솔의 텍스트 Playground에서 코드 작성 없이 모델을 시험해 볼 수 있다고 설명했다.

유의해야 할 제약

• 싱가포르 리전은 현재 공지에서 Claude Sonnet 5만 명시돼 있으며, Claude Opus 5는 포함되지 않았다.
• AWS에 따르면 리전 내 추론의 처리량은 단일 리전의 용량과 할당량에 제한되므로, 트래픽이 많은 애플리케이션은 직접 검토해야 한다.
• 사용량, 성능, 비용은 CloudWatch와 AWS Cost Explorer로 모니터링할 수 있으며, AWS는 이것이 수요에 맞춰 애플리케이션을 확장하는 데 도움이 된다고 밝혔다.

이 주제의 최신 뉴스 보기

• AI 뉴스