토스증권, 불법 리딩방·언어폭력 게시물 솎아낸다

토스증권은 인공지능(AI) 기술을 활용한 게시물 자동 검수 시스템을 커뮤니티 서비스에 본격 적용했다고 4일 밝혔다.

이번 시스템 개편은 단순 단어 차단을 넘어 게시물의 전반적인 맥락을 파악해 불법 금융 리딩방 홍보, 언어폭력, 차별·혐오 발언 등 유해 콘텐츠를 정밀하게 솎아내기 위해 추진됐다.

새롭게 도입된 AI 모델은 이용자가 글을 등록하거나 수정하는 즉시 제목과 본문은 물론 첨부된 이미지까지 다각도로 스캔한다. 분석 결과 위반 수위가 높은 것으로 판단되면 해당 게시물에 대해 추천 대상 제외나 숨김 조치 등 단계별 제재가 즉각 실행된다.

글 작성 단계에서 작동하는 금지어 필터링 기능도 한층 섬세해졌다. 변형된 욕설이나 편법으로 쓰인 우회 표현까지 사전에 감지할 수 있도록 성능을 개선했다. 특히 기존에는 금지어가 포함될 경우 게시글 등록 자체가 막혔으나, 이제는 해당 단어만 마스킹(기호) 처리되어 정상 업로드가 가능하도록 편의성을 높였다. 이에 따라 업로드 전 금지어 스크리닝과 업로드 후 AI 맥락 분석으로 이어지는 2중 검증 시스템이 구축됐다.
운영 정책 측면의 정비도 함께 이뤄졌다. 유해 게시물 및 시장 교란 행위 등에 대한 명확한 통제 기준을 담은 '커뮤니티 서비스 콘텐츠 가이드라인'을 새롭게 제정했다. 아울러 게시물이 숨김 처리될 시 사유를 명확히 고지하고, 소명이 필요한 사용자를 위해 고객센터를 통한 이의제기 창구도 운영한다.

토스증권 관계자는 “이번 개선은 투자자들이 불쾌감을 주는 게시글이나 부적절한 투자 권유에 노출되는 것을 줄이고, 보다 신뢰할 수 있는 환경에서 소통할 수 있도록 하는 데 초점을 맞췄다”며 “앞으로도 투자자들이 유용한 정보를 나누고 다양한 의견을 교환할 수 있도록 커뮤니티 환경을 지속 개선해 나가겠다”고 말했다.


서재필 글로벌이코노믹 기자 abceee@g-enews.com

[알림] 본 기사는 투자판단의 참고용이며, 이를 근거로 한 투자손실에 대한 책임은 없습니다.