;)
;)
이미지 확대보기
오픈AI가 성적 대화를 포함한 이른바 ‘성인용 챗봇’ 출시 계획을 무기한 보류했다.
내부 직원과 투자자들 사이에서 사회적 영향과 윤리 문제에 대한 우려가 커진 데 따른 결정으로 알려졌다.
26일(현지시각) 파이낸셜타임스에 따르면 오픈AI는 성적 콘텐츠를 다루는 챗봇 모델 출시를 잠정 중단하고 장기적 영향에 대한 추가 연구를 진행하기로 했다.
샘 올트먼 최고경영자(CEO)가 이끄는 오픈AI는 당초 ‘성인 모드’ 형태의 기능을 검토해왔지만 내부 논의를 거치며 출시를 미루거나 아예 폐기하는 방안까지 검토했던 것으로 전해졌다. 회사 측은 성적 대화와 이용자 감정 의존이 사회에 미칠 영향에 대해 충분한 연구가 필요하다고 밝혔다.
이 기능은 특히 이용자와 인공지능(AI) 간 비정상적 관계 형성이나 미성년자 노출 가능성 등 여러 문제를 낳을 수 있다는 지적을 받아왔다. 오픈AI는 현재까지 관련 영향에 대한 충분한 실증적 근거가 부족하다고 인정했다.
이번 결정은 오픈AI가 핵심 사업에 집중하는 전략과도 맞물린다. 회사는 최근 영상 생성 모델 ‘소라’와 소셜 기능 일부를 정리하는 등 이른바 ‘부수 사업’을 축소하고 생산성 도구 중심으로 사업을 재편하고 있다.
성인용 챗봇은 특히 논란이 컸던 프로젝트로 메타 등 주요 플랫폼이 청소년 보호 문제로 법적 압박을 받는 상황에서 부담이 컸다는 평가다. 일론 머스크가 이끄는 xAI도 과거 ‘그록’ 모델을 통해 성인 콘텐츠 기능을 강화했다가 실제 인물의 가짜 성적 이미지 생성 논란으로 비판을 받은 바 있다.
오픈AI 내부에서도 우려가 제기됐다. 일부 직원들은 인간 관계를 대체하는 방식의 서비스가 회사의 설립 취지와 맞지 않는다고 지적했다. 한 전직 고위 직원은 “AI는 친구나 가족을 대체해서는 안 된다”고 말했다.
기술적 문제도 존재했던 것으로 알려졌다. 기존에 안전 기준에 따라 제한되던 성적 대화를 허용하도록 모델을 재학습시키는 과정에서 불법적 콘텐츠를 걸러내는 데 어려움이 있었다는 설명이다.
또 성인용 기능에는 18세 이상 여부를 확인하는 장치가 포함될 가능성이 있었지만, 나이 추정 시스템의 오류율이 10% 이상이라는 지적도 제기됐다.
오픈AI는 자사의 연령 판별 기술이 업계 기준에 부합한다고 설명하면서도 정확도 개선을 계속 진행하고 있다고 밝혔다.
김현철 글로벌이코노믹 기자 rock@g-enews.com
