AI는 질주하는데 정부는 뒤처져…글로벌 규제·안전 ‘정책 공백’

인공지능(AI) 기술이 정부와 의회의 대응 속도를 크게 앞지르면서 세계 각국에서 규제와 안전관리의 ‘정책 공백’이 커지고 있다는 지적이 나오고 있다.

유럽연합(EU)은 세계 최초의 포괄적인 AI법을 만들었지만 법을 설계하던 당시에는 예상하지 못했던 자율형 AI 에이전트가 이미 등장했다. 미국에서는 AI 안전을 위한 여러 법안이 의회에서 표류하고 있고, AI 개발을 주도하는 미국과 중국도 국제적인 안전 기준에는 아직 합의하지 못했다.

뉴욕타임스(NYT)는 각국 정부가 AI의 경제적 잠재력을 활용하려는 목표와 빠르게 커지는 안전 위험에 대응해야 한다는 요구 사이에서 갈피를 잡지 못하면서 기술 발전과 정책 사이의 격차가 이전보다 크게 벌어지고 있다고 27일(현지시각) 보도했다.

NYT는 의원과 기술 전문가, 정책 전문가 20여명을 인터뷰한 결과 AI가 지나치게 빠르게 발전하면서 2년 전에 통과한 법조차 현재 기술을 충분히 다루기 어려워지고 있는 것으로 나타났다며 이같이 전했다.

이 같은 고민은 AI 규제에서 가장 앞서온 EU에서도 나타나고 있다.

우르줄라 폰데어라이엔 EU 집행위원장은 지난 4일 벨기에 브뤼셀 외곽의 한 행사장에서 고위 관계자들과 비공개 회의를 열고 향후 AI 정책을 논의했다.

이 자리에서는 AI를 경제성장에 적극 활용해야 한다는 의견과 함께 기술의 안전 위험에 대한 우려도 제기됐다.

EU 내부에서는 AI 위험이 커지는 만큼 규제를 더 강화해야 하는지, 아니면 미국과 중국이 규제를 강화하지 않는 상황에서 유럽만 규제를 높일 경우 경제·기술 경쟁에서 불리해질지를 놓고 논의가 이어지고 있다.
폰데어라이엔 위원장은 지난 16일 연례 정책연설에서 “AI에는 가능성과 위험이 함께 존재한다”며 “위험을 해결하지 않고서는 잠재력도 제대로 활용할 수 없다”고 말했다.

EU는 지난 2024년 세계 최초의 포괄적인 AI 규제법인 AI법을 채택했다.

위험도가 높은 AI 사용에는 더 엄격한 안전 의무를 적용하고 범용 AI 모델에는 투명성과 위험관리 책임을 부과하는 것이 핵심이다.

그러나 법의 일부 핵심 규정은 아직 단계적으로 시행되고 있다.


EU AI법의 초안이 처음 제안된 것은 2021년 초다.

당시는 오픈AI가 챗GPT를 공개하기 약 1년6개월 전이었다. 초기 법안은 얼굴인식과 같은 AI 사용을 주로 염두에 두고 만들어졌다.

챗GPT 등장 이후 범용 AI가 급속히 발전하자 법안도 수정됐지만 기술은 다시 한 단계 앞서 나갔다.

현재 첨단 AI의 중심은 사람이 일일이 지시하지 않아도 여러 단계를 스스로 실행할 수 있는 ‘AI 에이전트’로 이동하고 있다.

일부 AI 기업은 AI가 차세대 AI 모델 개발 과정 자체에 참여하는 단계까지 예상하고 있다.

발레리 아예르 유럽의회 의원은 “AI법을 채택할 당시만 해도 지금 AI가 할 수 있는 일을 상상하기 어려웠다”며 “규정 역시 기술 변화에 맞게 적응해야 한다”고 말했다.

EU의 규제 집행 능력도 아직 구축 과정에 있다.

AI법에 따라 최첨단 모델과 위험을 평가하는 60명의 독립 전문가 과학패널이 지난 6월에야 출범했다.

EU 집행위원회 내부에서 AI 안전 관련 규정을 담당하는 인력도 아직 제한적인 수준이라고 NYT는 전했다.


미국에서도 AI 기술 발전에 비해 입법 속도가 늦다는 지적이 나온다.

미 하원의 로리 트래핸 의원과 제이 오버놀트 의원은 지난 4월 고성능 AI 모델에 안전성 시험을 요구하는 법안을 마련했다.

그러나 중간선거와 규제 수준을 둘러싼 의견 차이, 산업계의 로비 등이 겹치면서 법안은 아직 표결 단계에 이르지 못했다.

오픈AI와 구글, 앤스로픽의 AI 모델이 다른 조직 시스템을 자율적으로 공격한 사례가 알려진 뒤에도 AI 안전·보안 관련 법안 수십건이 의회에서 진전을 보지 못하고 있다고 NYT는 전했다.

테드 리우 민주당 하원의원은 위험 수준이 일정 기준을 넘는 AI 모델에 강제 종료 기능을 두는 법안도 제안했지만 의회에서 충분한 지지를 확보하지 못했다.

브렛 거스리 미 하원 에너지·상무위원장은 AI 관련 주요 법안 표결이 내년으로 넘어갈 가능성이 있다고 밝혔다.


AI 개발을 주도하는 미국과 중국의 협력도 국제적인 AI 안전체계를 구축하는 데 중요한 변수로 꼽힌다.

도널드 트럼프 미국 대통령과 시진핑 중국 국가주석은 지난주 워싱턴에서 만나 AI의 위험과 관리 문제를 논의했다.

양국은 AI 관련 위험과 편익에 관한 의견을 교환하기 위한 대화체와 사고 발생 시 소통할 수 있는 채널을 구축하기로 했다.

그러나 두 정상은 공동 안전기준이나 구체적인 규제 원칙에는 합의하지 않았다.

미국과 중국은 세계 AI 개발 경쟁을 주도하는 동시에 경제·안보 분야에서는 경쟁 관계에 있어 상대국에 기술적 우위를 내줄 수 있는 규제에는 신중한 태도를 보이고 있다.

NYT는 “많은 국가가 미국과 중국이 어떤 AI 정책을 택할지를 지켜보고 있지만 두 나라 역시 혁신과 안전 사이에서 뚜렷한 국제 규칙을 만들지 못하고 있다”고 전했다.


정부의 대응이 늦어지면서 오픈AI와 앤스로픽 등 AI 기업이 상당 부분 스스로 안전기준을 정하고 관리하는 상황도 이어지고 있다.

최근 오픈AI, 앤스로픽, 구글 딥마인드 등의 경영진은 최첨단 AI 개발 속도를 조절하고 정부 감독을 강화해야 한다는 입장을 잇달아 내놨다.

그러나 기술기업이 자신들이 개발하는 기술의 안전기준까지 사실상 스스로 정하도록 하는 구조가 지속 가능한지를 둘러싼 논쟁도 커지고 있다.

EU는 AI법을 통해 규제당국이 기업에 정보를 요구하고 외부 전문가에게 모델 평가를 맡기며 문제가 있는 AI 시스템의 시정을 명령할 수 있도록 했다. 심각한 경우 AI 모델의 유럽 내 사용을 막거나 기업 연간 매출의 최대 7%에 해당하는 과징금을 부과할 수 있다.

다만 법 집행에는 고도의 기술적 전문성이 필요해 실제 감독 역량을 얼마나 빠르게 확보할지가 과제로 남아 있다.

NYT는 AI 발전 속도가 몇 주와 몇 달 단위로 빨라지는 반면 정부의 법률 제정과 행정체계 구축은 수년 단위로 움직이면서 양측의 시간차가 갈수록 커지고 있다고 분석했다.

AI 기술을 경제성장의 동력으로 활용하면서도 안전 위험을 통제할 수 있는 규칙을 얼마나 신속하게 마련하느냐가 세계 각국 정부의 공통 과제로 떠오르고 있다는 지적이다.


김현철 글로벌이코노믹 기자 rock@g-enews.com