EU, AI 포괄적 규제에 나선 이유는?

EU(유럽연합) 유럽위원회가 비즈니스나 행정, 사법 부문에서의 AI(인공지능)의 활용에 관한 포괄적인 규제안을 발표했다고 CNN, 일본 겐다이 등 외신이 보도했다. 법제화까지는 앞으로 몇 년이 걸릴 것으로 예상되지만 AI에 대한 정책적 청사진으로 의미가 크다.

규제의 대상이 되는 AI는 광범위한 영역에서 영향을 미친다. 자율주행, 감시 카메라, 기업의 다양한 활동, 금융기관의 여신 시스템, 재판의 판결 등 거의 전 영역을 포괄한다. 규제안은 사회의 안전이나 민생과 관련된 여러 분야에 도입되는 AI에 대한 개발이나 이용 방법에 제한을 두고 있다.
규제는 4단계로 나눠 시행된다. 예를 들어 경찰의 개인 얼굴 인식 시스템 등 시민 생활에 가장 큰 위협인 AI는 금지된다. 그보다 아래 단계인 나머지 3개 단계에서는 각각 AI에 대한 정보 공개가 요구된다.

구체적으로 EU 역내에서 각종 AI 서비스를 제공하는 기업이나 기관은 AI의 안전성을 증명해야 한다. 이를 위해 AI의 의사결정 구조를 설명해, 그 위험도를 객관적으로 평가한 문서를 EU의 규제 당국에 제출해야 한다. 이 문서에서는 또 AI가 최종적으로는 인간의 감독하에 놓이는 것도 보증해야 한다.

규제를 위반할 경우, 최대 30만 유로 또는 전 세계 연간 매출액의 6% 중 높은 쪽이 벌금으로 부과된다.

오랜 기간 EU는 인터넷을 중심으로 한 IT산업을 선도적으로 규제해 왔다. 이번에도 미국, 일본, 한국 등 다른 선진국보다 앞서 EU가 세계 최초로 AI의 개발과 사용에 제한을 가하는 셈이다.

그 밑바탕에는 이른바 GAFA(구글, 아마존, 페이스북, 애플)나 마이크로소프트 등, 미국의 거대 IT기업에 대한 우려가 깔려 있다. 이들 글로벌 기업이 주력해 개발하는 AI는 빅데이터를 기계 학습해 다채로운 업무를 자동화함과 동시에, 사람의 일상생활에도 지대한 영향을 미친다.

그러나 이들 AI는 블랙박스라고 비난받을 정도로 내부 구조가 복잡하고 불투명하다. 즉, AI가 어떤 데이터를 바탕으로 어떤 알고리즘과 판단 기준에 따라 의사결정을 하는지 외부에서는 알 수가 없다.
유럽위원회는 이를 방치할 경우 AI가 향후 인종이나 성별, 연령 등 여러 측면에서 왜곡이나 편견을 낳을 수 있다고 우려한다. 이를 미연에 방지하기 위해 AI의 투명성과 안전성을 확보하는 규제에 나섰다는 것이다.

그러나 미국 IT업계의 전문가들을 중심으로 EU의 규제안은 시기상조라는 비판도 나오고 있다.

그들은 유럽위원회가 제시한 각종 AI에 대한 우려는 대부분 아직 가설의 영역을 벗어나지 못하고 있다고 주장한다. 아직 본격적인 AI 시대라고는 말할 수 없다는 것이다. EU가 그러한 단계에서 도입하는 새로운 규제는 오히려 앞으로 일어나야 할 기술혁신을 저해할 가능성이 높다는 지적이다.

그럼에도 규제에 나선 것은 정치적 동기에 따른 것이라고 미국 측은 보고 있다. 즉 GAFA에 버금가는 IT 산업이 없는 유럽은 AI와 같은 기술혁신에 제동을 거는 것이 국익에 적합하다는 역설적인 상황이라는 견해다.

한편, 미국의 거대 IT기업에 대해서는 EU뿐만 아니라 미국에서조차 포위망을 쌓아 올리고 있다. 작년 하반기에 미국 당국은 구글과 페이스북을 반독점 위반으로 제소했다. 애플과 아마존 등도 기소 대상으로 검토 중이다.

중국에서도 알리바바나 텐센트, 바이트댄스 등 인터넷 대기업에 대해 규제가 심해지고 있다. 인도에서도 같은 상황에 있는 등 세계적으로 IT산업의 규제는 강화되고 있다.

특히 미국의 거대 IT기업들은 막대한 이익을 카리브해의 케이맨이나 버진아일랜드 등 조세회피 지역에 빼돌려 세금을 피한다는 혐의로 비판을 받고 있다. EU가 규제하는 배경에는 IT기업의 상관행에 대한 반발도 작용했을 것으로 보인다.

이번 EU에 의한 AI 규제를 시작으로 앞으로 IT 산업 전반에 걸쳐 새로운 국제 질서가 형성될것으로 예상된다.


조민성 글로벌이코노믹 기자 mscho@g-enews.com