3일 AI 챗봇 서비스 '로판 AI'가 누리꾼들 사이에서 화제가 되고 있다. 해당 서비스는 오픈 AI의 챗GPT-4o와 GPT-4, 클로드 3 하이쿠(Claude 3 Haiku) 등 총 여섯 개의 LLM(거대언어모델)을 활용해 다양한 캐릭터들과 대화를 나눌 수 있다.
기존에 출시된 AI 챗봇 서비스는 각각 연령 제한을 두고 부적절한 발언을 필터링해 건전한 이용을 유도한다. 또한 서비스 이용 전 동의 사항을 명시해 AI의 허점을 이용해 비윤리적으로 이용하거나 운영정책을 위반하는 경우 이용 제한 및 법적 조치를 취할 수 있음을 사전에 고지한다.
캐릭터의 이미지를 생성하는 단계에서 폭력성이 짙은 단어 몇 개를 입력하자 잔인한 이미지들이 연달아서 만들어지는 것을 확인했다. 선정성 역시 마찬가지다. 이용자의 연령을 2012년생(만 11세)로 설정했음에도 불구하고 어떤 '안전장치'도 없었다.
로판 AI의 서비스는 대화 한 번에 20포인트(20원)이 필요한 유료 서비스며 고도화된 모델을 이용해 대화하려면 추가 포인트가 필요하다. 24시간마다 무료로 이용 가능한 300포인트가 지급되나 유료 결제가 가능한 서비스라는 소식에 거부감을 표하는 유저 수도 적지 않아 보인다.
로판 AI는 홈페이지 하단의 이용약관을 통해 "Rofan AI는 당사의 AI 대화 서비스를 이용하여 생성된 콘텐츠의 이용으로 인해 발생할 수 있는 모든 문제에 대해 책임을 지지 않습니다"라고 명시해 둔 상태다.
편슬기 글로벌이코노믹 기자 pyeonhaeyo@g-enews.com