택배사 챗봇, 고객 서비스 욕설 시까지 작성…AI 비활성화

영국의 한 택배 회사가 서비스에 불만을 품은 고객이 회사의 고객 서비스가 얼마나 나쁜지에 대한 시를 쓰도록 시스템을 악용하자 온라인 채팅 시스템에서 인공지능(AI) 기능을 비활성화했다고 로이터통신이 20일(현지시간) 보도했다.

피아니스트이자 지휘자인 애슐리 보챔프는 지난 목요일 소셜 미디어 플랫폼 X에 봇과 나눈 대화를 올렸는데, 이 영상은 110만 회 조회수를 기록했다.

보챔프는 처음에 봇에게 소포 상태에 대한 정보를 얻지 못한 후 농담을 해달라고 요청했고, 그 다음에는 자동화된 고객 서비스 실패에 대한 시를 써달라고 요청했다고 한다. 그는 또한 봇에게 욕설을 하라고 권유하기도 했다.

영상에서 봇은 "도움을 제공하는 데 전혀 쓸모없는 DPD라는 이름의 챗봇이 있었습니다"라고 썼다.
이어 "DPD는 시간 낭비였고 고객에게는 최악의 악몽이었습니다"라며 "어느 날 마침내 DPD가 종료되었고 모두가 기뻐했습니다. 마침내 그들은 자신이 무엇을 하고 있는지 알고 있는 실제 사람으로부터 필요한 도움을 받을 수 있었기 때문입니다"라고 덧붙였다.

보챔프는 ITV 방송과의 인터뷰에서 아직 소포를 받지 못했다고 말했다. 그는 "지금 (봇을) 인질로 잡고 있는 것 같아요. 나는 그들을 비난하지 않을 것"이라며 "그건 전적으로 제 책임입니다"고 말했다.

DPD UK는 채팅 시스템 내에 AI 요소를 인간 고객 서비스와 함께 수년 동안 성공적으로 사용해 왔지만 시스템 업데이트 후 이 같은 오류가 발생했다고 밝혔다.

ITV가 보도한 성명을 통해 회사는 "AI 요소는 즉시 비활성화되었으며 현재 업데이트 중"이라고 밝혔다.


노정용 글로벌이코노믹 기자 noja@g-enews.com