교황 “AI 무장해제해야”…“인류 지배 못하게 통제 필요”

교황 레오 14세가 인공지능(AI)을 “무장해제”해야 한다며 인간 통제를 벗어난 AI의 위험성을 강하게 경고했다.

AI가 인간을 지배하거나 전쟁 수행 수단으로 악용되지 않도록 규제와 윤리적 통제가 필요하다는 주장이다.

25일(이하 현지시각) 블룸버그통신에 따르면 교황은 이날 발표한 새 회칙(교황이 전 세계 가톨릭 신자들에게 보내는 공식 서한)에서 AI의 위험성과 기술 독점 문제를 강하게 비판했다.

그는 “무장해제란 기술 자체를 거부하는 것이 아니라 기술이 인간을 지배하지 못하도록 막는 것”이라며 “기술적 힘이 곧 통치 권리를 의미한다는 생각을 무너뜨려야 한다”며 이같이 밝혔다.
이번 회칙 제목은 라틴어로 ‘위대한 인간성’을 뜻하는 ‘마니피카 후마니타스(Magnifica humanitas)’다.


교황은 특히 군사 분야 AI 활용에 강한 우려를 나타냈다.

그는 “어떤 알고리즘도 전쟁을 도덕적으로 정당화할 수 없다”며 “AI는 전쟁의 비인간성을 제거하지 못하며 오히려 더 빠르고 더 비인격적인 충돌을 만들 수 있다”고 경고했다. 또 일부 국가들이 국내 문제에서 관심을 돌리기 위한 수단으로 전쟁을 활용할 가능성도 언급했다.

이번 발언은 최근 AI 기술이 사이버 공격, 군사 목표 선정, 금융 시스템 혼란 등에 악용될 수 있다는 우려가 커지는 가운데 나왔다.
블룸버그는 특히 미국 AI 스타트업 앤스로픽이 공개한 AI 시스템 ‘미토스’가 전 세계 주요 IT 시스템 취약점을 탐지할 수 있다는 사실이 알려지며 AI 위험 논쟁이 더 격화됐다고 전했다.


블룸버그는 교황의 입장이 도널드 트럼프 미국 대통령과 충돌할 가능성이 있다고 분석했다.

트럼프 대통령은 중국과의 AI 경쟁에서 우위를 유지하기 위해 규제 완화 필요성을 강조해왔다.

반면 교황은 AI가 특정 기업과 국가 권력에 독점돼서는 안 된다며 “AI를 지정학적·상업적 이익 도구로만 사용해서는 안 된다”고 밝혔다.

블룸버그는 “AI 규제를 둘러싼 글로벌 논쟁에 교황이 본격적으로 뛰어든 셈”이라고 평가했다.


교황은 AI가 산업혁명 당시와 비슷한 사회 충격을 초래할 수 있다는 점도 우려했다.

블룸버그에 따르면 그는 19세기 산업혁명 시기 노동 문제를 다뤘던 레오 13세 교황을 자신의 중요한 모델로 삼고 있다.

교황은 “AI 시대 역시 경제 논리만으로 접근해서는 안 되며 인간 존엄성과 공동선을 보호해야 한다”고 강조했다.


교황은 데이터와 알고리즘, 디지털 플랫폼도 이제는 공공성을 고려해야 할 자산이라고 주장했다.

그는 “오늘날 모두를 위해 사용돼야 할 자산에는 특허와 알고리즘, 디지털 플랫폼, 기술 인프라와 데이터도 포함된다”고 밝혔다. 또 “기술이 무엇이 중요한지 스스로 결정하기 시작하면 인간은 효율성 시스템의 단순 부품으로 전락할 위험이 있다”고 경고했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com