경찰의 '첨단 AI 얼굴 인식'으로 체포된 '무고한 시민' 논란

첨단 인공지능(AI)의 활용 분야 중 하나인 얼굴 인식 기술이 무고한 흑인들을 범죄자로 오인해 치안 분야에서 인종 차별 논란이 되고 있다.

7일(이하 현지시간) 비즈니스 인사이더, 뉴욕타임스 등은 미시간주 디트로이트 출신의 흑인 여성 포르차 우드러프(Porcha Woodruff)가 경찰이 얼굴인식 기술의 문제로 용의자로 잘못 식별했다고 보고한 최초의 사례가 됐다고 보도했다.

평범한 가정주부이자 아이들의 어머니였던 우드러프는 지난 2월, 디트로이트 경찰이 운영하는 얼굴 인식 시스템에 의해 범죄 용의자로 지목되어 체포 및 구금됐다.

하지만, 지난 5월, 형사 사법 전문가 타데우스 L. 존슨(Thaddeus L. Johnson)과 나타샤 N. 존슨(Nastasha N. Johnson)은 연구보고서를 통해 경찰에서 사용하는 ‘얼굴 인식 기술이 흑인을 불균형적으로 높은 비율로 체포하도록 이끈다는 것을 밝혔다.
그들은 사이언티픽 아메리칸에 기고한 논평을 통해 “우리는 이러한 얼굴 인식 오류가 알고리즘의 훈련 데이터 세트에 흑인 얼굴이 없다는 것, 이 프로그램이 틀림없다는 잘못된 믿음, 그리고 문제를 확대하려는 경찰관 자신의 편견으로부터 비롯됐다고 믿는다”라고 밝혔다.

또한, 이 연구는 경찰의 머그샷 데이터베이스에 흑인들이 지나치게 많이 포함된 점이 AI를 왜곡한다는 것을 증명했다. 연구원들은 “결과적으로 AI가 흑인의 얼굴을 범죄자로 표시할 가능성이 높아서 무고한 흑인들을 표적으로 삼고 체포하게 될 것”이라고 지적했다.

뉴욕타임스는 우드러프가 얼굴 인식 기술의 오류로 허위 신고된 여섯 번째 인물이며, 그 이전 다섯 건의 신고 사례도 모두 흑인이었다고 보도했다.

제임스 E. 화이트(James E. White) 디트로이트 경찰서장은 인사이더에 보낸 논평을 통해 “그들이 매우 우려하는 가운데, 우리는 소송에 포함된 모든 혐의를 재검토했다”라며 “우리는 이번 문제를 매우 심각하게 받아들이고 있다”고 밝혔다.

미국에서는 얼굴 인식 기술을 사용해 특정 수사에서 용의자를 식별하는 사례가 늘고 있다. 와이어드는 메릴랜드의 국선 변호인 데보라 레비(Deborah Levi)의 말을 인용, 볼티모어 경찰이 2022년에만 800여 건의 얼굴 인식 검색을 실시했다고 보도했다. 뉴욕타임스도 디트로이트 경찰이 매년 약 125건의 얼굴 인식 검색을 한다고 밝혔다.

지난 몇 년간 미국의 각종 시민 단체, 기술 전문가, 사회활동가들은 얼굴 인식 기술의 사용이 치안에서 인종적 불평등을 증가시킬 것이라고 경고해 왔다. 심지어 이번 사건이 발생한 디트로이트에서도 지난 2020년 경찰서장이 “얼굴 인식 기술을 단독으로 사용할 경우 96% 실패한다”고 말했다.

미국시민자유연맹(American Civil Liberties Union of Michigan)의 필 마요르(Phil Mayor) 선임 변호사는 뉴욕타임스를 통해 “이것은 우리가 알고 있는 다수의 허위 체포로 이어진 매우 위험한 관행”이라며 “조잡한 기술은 조잡한 수사를 만들고, 경찰이 진지한 수사를 할 것이라는 약속은 사실이 아니다”라고 말했다.


최용석 글로벌이코노믹 기자 rpch@g-enews.com