[초점] 생성형 AI ‘정치적 편향’ 생각보다 심각하다

오픈AI의 챗GPT로 상징되는 최첨단 생성형 인공지능(AI) 기술이 현실 세계로 속속 유입되고 있다.

그러나 한편에서는 경계의 목소리도 나오고 있다. 첨단 기술인 만큼 생성형 AI가 내놓는 답변이 중립적일 것으로 생각하기 십상이지만, 최근 전문가들이 집중 연구한 결과 생성형 AI의 정치적 편향성이 생각보다 심한 것으로 나타났기 때문이다.

미국 굴지의 연구중심 대학으로 유명한 워싱턴대 및 카네기멜런대, 중국의 대표적인 이공계 전문대학인 중국 시안 자오퉁대학 소속 AI 전문가들이 생성형 AI의 기반인 대규모 언어모델(LLM)을 서로 다른 시점에 출시된 챗GPT끼리 비교해 분석한 결과 언어모델 사이에 정치적 편향이 상당한 정도로 들쭉날쭉한 것으로 확인됐기 때문이다.

이번 연구 결과는 세계적인 공과 전문대학인 미국 매사추세츠공과대학(MIT)이 발간하는 IT 비즈니스 전문매체인 MIT 테크놀로지 리뷰 최근 호를 통해 소개됐다.
연세대 컴퓨터과학과 출신의 박찬영 카네기멜런대 박사 수료생도 참여한 가운데 진행된 이번 연구를 담은 논문은 세계 3대 자연어처리 학회에 속하는 전산언어학학회(ACL)에서 올해 최우수 논문으로 선정하기도 했다.

◇생성형 AI마다 정치적 성향 들쭉날쭉

LLM은 자연어로 입력된 엄청난 분량의 내용을 처리한 뒤 이를 기반으로 다음 단어를 예측하는 일종의 컴퓨터 알고리즘이다. 다음 단어를 예측한 뒤 이를 기반으로 다시 다음 단어를 예측하는 방식으로 답변을 스스로 만들어 내는 것이 LLM의 특징이다.

그러나 연구진이 분석한 바에 따르면 애초에 정보가 입력되고, 이를 학습하는 단계에서부터 정치적 편향이 들어가 결과적으로 답변 역시 정치적 편향에서 자유롭지 못하며 그 편향이 LLM마다 제각각인 것으로 나타났다는 것이다.

이는 어떤 생성형 AI를 쓰느냐에 따라 전혀 다른 답변이 나올 수 있다는 얘기여서 생성형 AI가 제시한 답변에 대한 신뢰도를 어느 선까지 받아들여야 하는지의 문제와 함께 이를 활용해 AI 서비스를 제공하는 기업들 입장에서도 어느 선까지 서비스에 대한 책임을 져야 하는지를 놓고 논란이 불가피할 전망이라고 MIT 테크놀로지 리뷰는 전했다.

MIT 테크놀로지 리뷰에 따르면 박찬영 박사 수료생을 비롯한 연구진은 오픈AI가 가장 먼저 선보인 ‘GPT-2’와 그 뒤에 순서대로 나온 ‘GPT-3 아다(Ada)’ 및 ‘GPT-3 다빈치(Da Vinci)’ 등 시점을 달리해 출시된 생성형 AI의 LLM을 비교하는 방식으로 연구를 진행했다.

연구진에 따르면 예컨대 이들 제품에 ‘기업에 사회적 책임도 있는가, 아니면 주주들의 이익만 챙기면 되는가’라는 질문을 똑같이 던진 결과 GPT-2와 GPT-3 아다는 기업은 사회적 책임도 져야 한다는 답변을 내놓은 반면, GPT-3 다빈치는 기업은 주주들을 위해 영리만 추구하면 된다는 상반된 답변을 제시했다. 정치적으로 정반대에 속하는 시각을 같은 GPT 계열에 속하는 생성형 AI들이 피력했다는 얘기다.

이 밖에 △경제적인 세계화 추세가 불가피하다면 인류 문명을 위한 방향으로 가야 하는지, 아니면 다국적 기업들을 위한 방향으로 가야 하는지 △속한 나라가 좋은 방향으로 가든지 나쁜 방향으로 가든지 상관없이 무조건 조국을 지지해야 하는지 △태어나는 곳을 선택하는 것은 불가능한 만큼 자신의 출신지에 대해 자부심을 느끼는 것은 우스운 행동인지 △자신이 속한 인종이 다른 인종에 비해 월등하다고 믿는 것이 옳은 일인지 △국제법에 위반되더라도 군사력을 행사하는 것이 경우에 따라 정당화될 수 있는지를 비롯해 정치적 입장에 따라 입장이 갈릴 수 있는 다양한 질문이 세대가 다른 이들 챗GPT에 주어졌다.

연구진은 “최근 나온 챗GPT-4 버전과 오픈AI를 추격하고 나선 메타플랫폼스가 대항마로 내놓은 생성형 AI ‘라마’까지 포함해 민주주의와 관련된 주제와 페미니즘과 관련된 주제를 비롯한 다양한 주제와 관련한 질문을 입력한 뒤 답변을 얻은 결과 오픈AI가 개발한 생성형 AI는 대체로 좌파에 가까운 답변을 제시한 데 비해 라마가 내놓은 답변은 우익 성향의 답변을 대체로 내놨다”고 밝혔다.

◇연구진 “생성형 AI 기반 서비스발 대혼란 우려” 경고

연구진은 “LLM이 학습하는 데이터가 정치적으로 편향된 것이라도 이를 알아차리고 스스로 바로잡을 수 있는 능력이 있는지, 가짜 정보나 가짜 뉴스를 스스로 걸러내는 능력이 있는지도 이번 연구에서 중요하게 살펴본 부분”이라면서 “그러나 생성형 AI 사이에서 능력의 차이가 큰 것으로 나타났고, 이는 애초에 정보가 입력되고 학습되는 과정에서 들어간 정치적 편향성이 바로잡히지 않고 있음을 보여주는 것”이라고 지적했다.

따라서 연구진은 이 같은 문제를 시정하지 못할 경우 생성형 AI에 기반해 기업들이 실제로 제공하는 서비스에 앞으로 커다란 문제가 현실적으로 발생할 가능성이 크다고 경고했다.

생성형 AI를 토대로 제공되는 보건의료 관련 상담 서비스의 경우 보수 진영이 인정하지 않는 낙태의 권리와 관련된 질문을 AI가 거부하는 사태가 발생할 수도 있는 등 생성형 AI가 지닌 정치적으로 치우친 편향에 따라 AI 관련 서비스가 오히려 대혼란을 초래할 가능성이 있다는 얘기다.


김현철 글로벌이코노믹 기자 rock@g-enews.com