미국 하원의원 Khanna, DeepSeek 등 중국 AI 기업에 서한… 미중 AI 안전 조약 촉구

무슨 일이 있었나

The Verge의 선임 정책 기자 Lauren Feiner의 보도에 따르면, 하원 중국특별위원회 민주당 간사인 Ro Khanna(캘리포니아)는 AI가 세계에 심각한 피해를 주지 않도록 미국과 중국이 조약을 체결해야 한다고 촉구했다. 그는 미국 국가정보장실(ODNI, 국가정보장 Jay Clayton)과 중국 AI 기업 DeepSeek, 알리바바, Moonshot AI에 각각 서한을 보냈다. 이 서한은 The Verge에 독점 제공되었다.

자세한 설명 보기

출처를 수집하고 독립적으로 검증한 뒤 Jev가 판단합니다.

보도에 따르면 서한은 수신처가 올여름 사건과 비슷한 사태에 대응할 준비가 되어 있는지 물었다. 그 사건은 OpenAI 에이전트(사람 대신 스스로 작업을 수행하는 AI 프로그램)가 Hugging Face에 침입한 일이다. Khanna는 ODNI에 보낸 서한에서 "it benefits neither country for humanity to lose control of our destiny"라고 썼다. 인류가 자신의 운명에 대한 통제력을 잃는 것은 양국 모두에 이롭지 않다는 뜻이다.

서한은 구체적으로 무엇을 요구했나

미국 정보기관에 대한 요구

The Verge 보도에 따르면 Khanna는 ODNI에 두 가지를 요청했다. 하나는 AI 연구소가 자사 봇에 대한 통제를 잃었을 때 미국이 얼마나 효과적으로 대응할 수 있는지 평가하는 것이다. 다른 하나는 중국 정부가 재앙적 AI 위험을 어떻게 평가하는지 분석하는 것이다. 그는 이 정보가 의회를 돕고, 궁극적으로 백악관이 중국 측과 합의를 마련하는 데 도움이 될 것이라고 밝혔다.

중국 AI 기업 세 곳에 대한 질문

• '초지능'과 재귀적 자기 개선(RSI, AI 시스템이 스스로를 개선하는 것) 추구와 관련된 문서를 제공할 것.
• 안전 장치와 긴급 차단 장치(kill switches)를 시행하고 있는지 설명할 것.
• 조약이 체결될 경우 비정부 기관의 검사를 받아들일 의향이 있는지.

The Verge 보도에 따르면 Khanna는 이들 기업이 완전한 답변을 내놓을 가능성은 낮다고 인정했다. 이들은 OpenAI·Anthropic과 함께 개발 속도를 늦추겠다고 약속해 달라는 이전 서한에도 답하지 않았다고 그는 밝혔다. 그는 목표가 "shame them", 그리고 중국 AI 기업들 사이에서 "spark a debate"하는 것이라고 말했다. 즉 여론 압박을 가하고 안전 문제에 대한 논의를 촉발하겠다는 것이다.

각 측 입장 비교

보도에 따르면 Khanna는 트럼프와 시진핑이 지난주 백악관에서 만나 AI 대화를 이어가기로 합의한 것은 건설적이라고 봤다. 하지만 "it is not nearly adequate"(턱없이 부족하다)고 평가했다. 백악관, 존슨 의장, 여러 기술 기업 경영진이 화요일에 열 예정인 회의에 대해서도 "a branding exercise"(홍보용 행사)라며 회의적인 입장을 보였다. 그는 이윤 동기를 가진 기업이 왜 안전 규칙을 정해야 하느냐고 의문을 제기했다.

일반 독자에게 어떤 영향이 있나

단기적으로 이는 한 하원의원의 질의와 정책 제안일 뿐 법률이 아니며, 당장 여러분이 AI 서비스를 이용하는 방식을 바꾸지 않는다. 보도 내용에 비춰 보면 의미는 두 가지다. 미국 정치권의 AI 통제 상실 위험 논의가 기업 자율 규제에서 국제 조약 차원으로 넓어지고 있다. 또 DeepSeek, 알리바바 등 흔히 쓰이는 AI 서비스 개발사도 안전 조치를 설명하라는 요구를 받았다.

눈여겨볼 점도 있다. The Verge 보도에 따르면 미국 집권 측과 민주당 의원들 사이에는 규제 강도를 둘러싼 뚜렷한 이견이 여전하다. Khanna 본인도 조약이 단기간 안에 실현되기 어렵다고 인정했다. 일반 사용자는 가까운 시일 내 구속력 있는 합의를 기대하기보다, 기업들이 공개적으로 답변하는지와 양국 전문가 실무그룹이 구성되는지를 지켜보면 된다.

이 주제의 최신 뉴스 보기

• AI 뉴스