Google Cloud, Gemini Enterprise 파트너 보안 에이전트 확대 발표… AI 에이전트 자체의 위험 겨냥

Google Cloud가 발표한 내용

Google Cloud는 공식 블로그에 보안·신원 파트너 디렉터 Vineet Bhan과 보안 파트너 엔지니어링 책임자 Ashish Verma 명의의 글을 게재하고, Gemini Enterprise 생태계에서 파트너가 만든 보안 제품 카탈로그를 확대한다고 발표했다. Gemini Enterprise는 Google Cloud가 직장에서 AI를 쓰기 위한 창구로 내세우는 기업용 AI 업무 도구다. Google Cloud는 앞서 Google Cloud Next에서 영업, 콘텐츠, 인사, 보안 등의 기능을 아우르는 파트너 에이전트를 Gemini Enterprise에 도입했으며, 이번에는 보안 분야를 확대한 것이라고 설명했다.

Google Cloud의 설명에 따르면 위협 행위자들이 사이버 공격을 빠르게 발전시키는 데 AI를 점점 더 많이 활용하고 있다. 반면 기업의 방어 체계는 신원, 네트워크, 엔드포인트(PC 같은 개별 기기), 데이터, 클라우드, 애플리케이션 등 여러 계층에 분산돼 10여 개 제품에 걸쳐 있는 경우가 많다. 회사는 이들 업체의 에이전트와 통합 기능을 Gemini Enterprise에 들여오면 기업이 하나의 화면에서 여러 단계로 이뤄진 보안 작업 흐름을 한꺼번에 조율할 수 있다고 밝혔다.

자세한 설명 보기

출처를 수집하고 독립적으로 검증한 뒤 Jev가 판단합니다.

두 가지 범주: 보안 에이전트와 AI 워크로드 보호

여기서 에이전트란 사람의 요청을 받아 여러 단계의 작업을 스스로 처리하는 AI 프로그램을, 워크로드는 이런 AI가 실제로 실행되며 처리하는 작업을 말한다. Google Cloud에 따르면 이번 신규 항목은 두 범주로 나뉜다. 첫째는 보안팀이 Gemini Enterprise에서 직접 호출하는 파트너 에이전트로, 예를 들어 자연어로 취약점을 조회하거나 침해된 계정을 격리하는 기능이다. 둘째는 AI 및 에이전트형 워크로드 자체를 보호하는 방어 기능으로, 프롬프트 인젝션(AI가 읽는 내용에 명령을 몰래 숨겨 AI를 조종하려는 시도), 민감 데이터 유출, 악성 AI 활동 등의 위험을 겨냥한다.

글에 소개된 다른 업체로는 Acalvio, Cyberhaven, Endor Labs, Exabeam, Fastly, Menlo Security, Obsidian Security, Palo Alto Networks, Splunk(Cisco 산하), Snyk, Thales, Transmit Security, Zscaler 등이 있다. 예를 들어 Google Cloud는 Snyk가 AI 에이전트가 생성한 코드를 실시간으로 검증하고, Transmit Security는 기업 애플리케이션과 상호작용하는 에이전트가 정상인지 악성인지 구별하도록 돕는다고 설명했다.

주목할 이유: AI 에이전트 자체가 보호 대상이 되다

이번 발표에서 눈여겨볼 점은 단순히 보안 도구를 AI 어시스턴트에 연결했다는 것이 아니라, 여러 업체가 'AI 에이전트 자체'를 관리가 필요한 대상으로 다루기 시작했다는 점이다. Google Cloud 글에 따르면 Obsidian Security의 에이전트는 기업 내 AI 에이전트를 찾아내고 어떤 에이전트가 상승된 권한이나 쓰기 권한을 가졌는지 답할 수 있다. Cyera는 머신 신원, 위임된 권한, 민감 데이터 분류를 대조해 에이전트의 행동이 승인된 것인지 확인한다.

일반 직장인에게 이는 회사가 AI 어시스턴트를 도입할 때 그 뒤에 감시와 제한 계층이 하나 더 생길 수 있다는 의미다. 예를 들어 AI가 읽을 수 있는 데이터를 제한하거나 의심스러운 명령을 차단하는 식이다. 일부 기능은 직원의 일상에도 직접 영향을 준다. Google Cloud가 언급한 PingID 셀프서비스 에이전트는 직원이 자연어로 MFA 재설정을 처리할 수 있게 해, 헬프데스크 처리를 기다릴 필요가 없다.

알아두면 좋은 핵심 개념

• 프롬프트 인젝션: 누군가 웹페이지, 문서, 메시지 등에 명령을 숨겨 AI가 예상치 못한 행동을 하도록 유도하는 것을 말한다. 여러 업체가 이런 위험 방어를 핵심으로 내세웠다.
• 비인간 신원: 직원 계정 외에도 AI 에이전트와 시스템 서비스는 자체 계정과 권한을 갖는다. Britive 등 업체는 이런 신원도 신속히 비활성화할 수 있어야 한다고 강조한다.
• 담당자 승인: Google Cloud의 설명에 따르면 Britive 에이전트는 세션을 취소하기 전에 담당자 승인이 필요해, 자동화에도 사람의 확인 절차가 남아 있음을 보여준다.
• 이용 가능 여부: Google Cloud는 이들 보안 에이전트를 Google Cloud Marketplace에서 둘러볼 수 있다고 밝혔다. 기업용 제품이어서 일반 개인 사용자가 직접 접할 일은 없다.

이 주제의 최신 뉴스 보기

• 테크 뉴스