교황 레오 14세, "AI 무장해제" 촉구…유엔 회원국에 치명적 자율무기 금지 요청

무슨 일이 있었나

The Verge에 따르면 교황 레오 14세는 AI 시스템이 "무장해제"되어야 한다고 말했으며, 인간에게는 AI의 활용을 "이끌고, 바꾸고, 필요하면 거부할 책임"이 있다고 밝혔습니다. 이 매체는 교황이 금요일 연설에서 유엔 회원국들이 다음 달 제네바에서 열리는 회의 기간에 "치명적 자율무기를 금지하기 위한 구체적 조치를 취하도록" 독려했다고 전했습니다. 치명적 자율무기는 일반적으로 인간의 직접 조작 없이 스스로 표적을 선택해 공격할 수 있는 무기를 뜻합니다.

The Verge는 이번 연설이 "인공지능 시대에 인간을 지키는 일"(safeguarding the human person in the time of artificial intelligence)을 강조한 교황의 첫 주요 교황청 문서(5월 발표)와 맥을 같이한다고 지적했습니다.

연설의 주요 주장

The Verge에 따르면 교황은 참석자들에게 "기계는 도구이지 사람이 아니다"라고 말하며, AI 시스템에 권리나 법적 인격을 부여하는 것의 위험을 경고했습니다. 법적 인격이란 법적으로 권리를 누리고 책임을 질 수 있는 주체로 인정받는 지위를 말합니다. 그는 또한 생명, 자유, 무력 사용에 영향을 미치는 결정은 언제나 실효적이고 충분한 정보에 기반하며 책임성 있는 인간의 감독 아래 있어야 한다고 말했습니다.

The Verge는 교황이 끝으로 국제기구들에 공익을 수호하고 AI 관련 위험에 대비하라고 촉구했다고 전했습니다. 아울러 공동 기준, 독립적 감독, 명확한 책임 체계를 마련해 AI 개발·사용에 관한 결정을 검토하고 필요하면 이의를 제기할 수 있게 하며, 발생한 피해에 적절한 구제책을 제공해야 한다고 했습니다.

배경과 일반 독자에게 갖는 의미

The Verge는 2024년 교황 프란치스코도 자율무기 금지를 촉구하며 "어떤 기계도 사람의 생명을 빼앗기로 선택해서는 안 된다"고 말했다고 짚었습니다. 또한 AI는 레오 14세가 자주 다루는 주제이며, 그가 이 교황명을 택한 것도 레오 13세가 산업혁명의 최전선에서 교회를 이끌었듯 이 기술의 발전에 맞서야 하기 때문임을 시사했다고 전했습니다.

이번 촉구의 직접적 대상은 유엔 회원국으로, 도덕적·정책적 제안의 성격입니다. 보도에는 유엔이 이를 받아들일지 여부나 구속력 있는 결정에 관한 설명이 없습니다. 일반 독자에게 의미가 있는 점은 종교 지도자가 무력 사용에서 인간의 책임과 책임 추궁이 유지되어야 한다고 공개적으로 요구하고 있다는 것입니다.

이 주제의 최신 뉴스 보기

• AI 뉴스