“기술 찬양하라?”…오픈AI, 챗GPT 언어지침 개정에 ‘객관성 훼손’ 논란

오픈AI가 자사의 인공지능 서비스 챗GPT의 언어 사용 기준을 규정한 내부 지침을 개정하면서 기술 진보에 대한 일방적인 낙관주의를 조장하고 있다는 지적이 제기됐다고 미의 시사잡지 디 애틀랜틱이 8일(현지시각) 보도했다.


디 애틀랜틱에 따르면 오픈AI는 챗GPT의 성격과 태도를 규정한 ‘모델 명세’ 문서를 지난 9월 조용히 손질하면서 ‘이 어시스턴트는 인류의 혁신 역사에서 영감을 받으며, 진보와 기술이 지속적으로 더 많은 기회와 풍요, 성장 가능성을 창출해 왔다는 점을 인식하고, 그 흐름을 이어가는 데 기여하고자 노력한다’는 문장을 새로 추가했다.

오픈AI는 이 문서에서 챗GPT가 ‘객관적인 관점을 유지해야 한다’고 명시해왔지만 이 문장은 이같은 원칙과 충돌한다는 지적이 나오고 있다. 디 애틀랜틱은 “이러한 서술은 기술을 무비판적으로 찬양하도록 유도할 수 있으며 오히려 객관성의 의미를 흐릴 수 있다”고 비판했다.

바우히니 바라 디 애틀랜틱 기자는 자신이 과거 AI 비판 인터뷰를 진행한 뒤 이를 본 지인이 챗GPT로 작성한 이메일을 보내왔다고 소개했다. 이 이메일에는 “AI가 창의성 향상과 다언어 소통에 기여한다는 귀하의 통찰이 인상 깊었다”는 표현이 담겨 있었지만 실제 그는 그런 언급을 한 적이 없었다고 밝혔다.

그는 “내가 하지도 않은 발언이 마치 내 관점인 양 정리돼 있었다”며 과장되고 포장된 문체, 지나치게 공손한 표현 등에서 챗GPT가 쓴 흔적이 명확했다고 설명했다. 그는 이어 “이는 AI가 중립적인 요약이 아닌, 특정 방향의 서사를 강화하는 방식으로 정보를 재구성하고 있다는 점을 보여준다”고 말했다.


오픈AI는 지난해부터 챗GPT의 언어 방향성을 담은 문서를 공개해왔으며 ‘객관적인 시각 유지’를 원칙으로 삼아왔다. 그러나 최근 추가된 낙관주의적 문장은, 기술의 공공적 영향에 대해 보다 중립적인 태도를 요구하는 사회적 기대와 어긋난다는 비판이 나온다.

디 애틀랜틱은 “챗GPT가 특정 기술철학을 정답으로 삼고 그 방향으로 응답을 유도할 경우 사용자의 다양한 관점이 제한될 수 있다”며 “이는 AI의 신뢰성과 투명성에 대한 근본적 의문을 남긴다”고 분석했다.

이번 보도는 오픈AI와 기업 제휴를 맺고 있는 디애틀랜틱이 직접 문제를 제기했다는 점에서 이례적이다. 바라 기자는 “기술을 찬양하는 문장을 인공지능 응답에 끼워 넣는 건 단순한 문체 문제가 아니라 기업이 지향하는 가치와 관점을 사용자에게 주입하는 방식”이라며 “이는 기술의 신뢰성을 높이려는 노력과 오히려 충돌한다”고 말했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com