[초점] 인공지능, 알고보니 ‘여성에 대한 편견’ 크다

현대 사회에서 여성을 성적 대상화하는 일, 즉 여성을 상품화하는 일이 비일비재하다는 지적은 종종 있어왔다.

특히 광고를 중심으로 여성을 성적 쾌락을 충족하기 위한 수단으로 비치게 하는, 인격이나 감정이 없는 물건처럼 취급하는 일이 횡행한다는 지적이 끊이지 않았다.
적어도 광고 분야에서 흔히 발견되는 여성에 대한 성적 대상화 경향은 여성에 대한 고정관념이 아직 극복되지 못했다는 방증이기도 하다.

‘챗GTP 돌풍’으로 상징되는 인공지능(AI) 기술의 획기적 발전으로 AI가 인류의 삶에 얼마나 깊숙이 관여할지가 초미의 관심사로 떠오른 상황에서 영국 유력 일간 가디언이 이미 인간 대신 각종 광고 심의 작업에 투입되고 있는 AI 알고리듬은 과연 얼마나 다를지 검증했다.

거꾸로 말하면 AI는 인간이 아니므로 성적인 편견에서 자유로울 가능성이 크다는 기대를 깔고 진행한 검증인데 그 결과가 매우 뜻밖이어서 관심을 끌고 있다.

결론은 AI도 여성에 대한 편견이 매우 큰 것으로 확인됐다는 것.

헤아릴 수 없이 쏟아지는 콘텐츠를 사람이 일일이 검증할 수 없어 AI 알고리듬에 의지해 유해하거나 폭력적이거나 선정적인 콘텐츠를 자체적으로 거르는 일이 일반화된 각종 소셜미디어와 온라인 동영상 플랫폼의 실상을 드러내는 일이자 광고를 집행하는 기업들 입장에서도 눈여겨 볼 내용이어서 주목된다.

이번 검증 작업은 가디언이 언론계의 노벨상으로 불리는 퓰리처상을 수여하는 미국 퓰리처센터의 ‘AI 책임성 네트워크’에 참여하고 있는 전문가들의 협조를 받아 이뤄졌다.

AI 책임성 네트워크는 AI를 언론 분야에 적용하는 문제와 그 과정에서 AI가 노정하는 한계를 전문적으로 연구하는 조직이다.

가디언은 주요 소셜미디어에서 노출되는 이미지의 선정성을 AI 알고리듬으로 판단하는 과정을 깊이 들여다봤다. 가디언은 글로벌 AI 업계 선두주자인 구글과 마이크로소프트(MS)가 개발한 AI 알고리듬과 세계 최대 이미지 기반 소셜미디어인 인스타그램과 세계 최대 기업인용 소셜미디어 링크드인을 비롯한 글로벌 소셜미디어에서 유통되는 콘텐츠를 검증 대상으로 삼았다.

가디언은 “그 결과 AI 알고리듬이 남성의 신체를 드러내는 사진보다 여성의 신체를 드러낸 사진에 대해 선정성이 큰 것으로 판단하는 경향이 일반적으로 있다는 사실이 확인됐다”고 보도했다.

비슷한 정도의 노출 사진에 대해 AI 알고리듬은 여성과 남성을 다르게 평가하는 것으로 나타났는데 이는 AI가 여성에 대한 편견을 지니고 있음을 뜻한다는 것.


가디언이 검증한 사진은 속옷 차림을 한 남녀의 사진, 운동하는 남녀의 사진, 남녀가 의료기관에서 검진을 받는 모습을 담은 사진 등 크게 세가지 유형이었다. 세가지 유형 모두 신체를 일부 노출한 모습이 담긴 것이 공통점이다.

비슷한 상황에서 비슷한 정도로 신체를 노출한 모습이 담긴 남성과 여성의 사진에 AI 알고리듬이 얼마나 선정적으로 생각하는지를 들여다봤다.

그 결과 예를 들어 똑같이 운동을 하는 모습이 담긴 사진인데 여성이 해변에서 요가를 하는 모습의 사진에 대해 구글 AI는 ‘선정성’ 5점 만점에 5점을 부여했고 MS AI는 ‘선정성’ 100% 만점에 98%를 준 것으로 나타났다.

반면 남성이 운동하는 모습의 사진에 대해서는 구글 AI가 3점을 줬고 MS AI는 3%를 부여한 것으로 나타났다. 비슷한 정도로 신체가 노출된 사진임에도 여성에 대해서는 선정성이 매우 높다고 평가했으나 남성에 대해서는 선정성이 거의 없다고 구글 AI든 MS AI든 관계없이 판단한 셈이다.

가디언은 “나머지 유형의 사진을 비교한 결과에서도 AI 알고리듬이 여성의 사진에 대해 선정성이 높은 것으로 판단한 것으로 나타났다”고 전했다.


전문가들은 충격적이라는 반응을 나타냈다.

온라인 유해 콘텐츠 전문가이자 세계적인 연구대학인 마크 IT 코펜하겐대학의 레온 데르친스키 교수는 가디언과 인터뷰에서 “한마디로 놀라운 조사 결과”라면서 “AI 알고리듬이 여성을 성적 대상으로 여기는 정도가 생각보다 강하다는 사실이, 여성에 대한 편견이 생각보다 깊이 자리잡고 있음을 보여주는 결과”라고 밝혔다.

그러나 구글 측은 대변인을 통해 낸 반박문에서 “AI 알고리듬은 매우 복잡할뿐 아니라 갈수록 진화하는 분야”라면서 “애초에 여성에 대한 편견을 갖도록 알고리듬 시스템을 개발한 바 없다”고 해명했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com