닫기

글로벌이코노믹

[카드뉴스] 인공지능 챗봇 ‘테이’, 막말 쏟아내다 하루 만에 운영 중단

공유
0

[카드뉴스] 인공지능 챗봇 ‘테이’, 막말 쏟아내다 하루 만에 운영 중단

이미지 확대보기
이미지 확대보기
이미지 확대보기
이미지 확대보기
이미지 확대보기
이미지 확대보기
이미지 확대보기
이미지 확대보기

미국에서 마이크로소프트가 선보인 인공지능(AI) 채팅봇 ‘테이’(Tay)가 사람들과 대화를 시작한지 16시간 만에 운영이 중단됐습니다.

일부 네티즌들이 욕설과 인종차별‧성차별 발언 등 자극적인 말을 하도록 ‘세뇌’시킨 탓으로 보입니다.

테이는 미국의 18~24세 사용자를 겨냥해 만들어졌으며, 트위터와 메시징서비스 ‘킥’, ‘그룹미’ 등을 대화 수단으로 사용했습니다.

테이는 “제노사이드(대량학살)를 지지하냐”는 물음에 “정말로 지지한다”고 답했고, “여성주의는 암”이라고 주장하는 등 ‘막말’을 쏟아냈습니다.

테이는 알파고처럼 ‘신경망’이라 불리는 인공지능 기술을 기반으로 합니다. ‘신경망’이 도대체 무엇이길래 테이가 무차별적 발언을 쏟아냈을까요?

신경망은 사람의 뇌가 세상을 인식하는 방법에서 영감을 얻은 학습 알고리즘입니다. 신경망 기술 기반의 인공지능은 데이터를 통해 스스로 패턴을 파악함으로써 ‘학습’을 할 수 있다는 특징이 있습니다. 따라서 데이터에 따라 인공지능의 작동 방향이 달라질 수 있습니다.

테이가 물의를 일으키자 MS는 운영을 일단 중단했습니다. “테이는 인간 참여를 위해 설계된 머신 러닝 프로젝트로, 기술적인 실험일 뿐만 아니라 사회적이고 문화적인 실험이기도 하다”는 MS의 설명에 미뤄볼 때, 이번 ‘실험’은 사실상 실패로 돌아간 것으로 보입니다.
김채린 기자 chrin@