메타 AI ‘뮤즈’, 일부 전화기능 인간이 대신…개인정보 유출 우려

메타플랫폼스가 새 개인용 인공지능(AI) 에이전트 ‘뮤즈’의 전화 기능 가운데 일부를 실제 인간 상담원이 대신 처리하도록 시험한 것으로 드러났다.

뮤즈는 이용자를 대신해 업체에 전화해 예약하거나 상품 재고를 확인하고 견적을 받는 등 일상 업무를 수행하는 AI 에이전트다. 그러나 메타는 AI가 직접 처리하기 어려운 일부 통화를 외부 상담원에게 넘기는 방식을 시험했고, 내부 직원들 사이에서 개인정보 유출 가능성에 대한 우려가 제기됐다.

로이터통신은 메타의 내부 게시물을 확인한 결과 이 같은 ‘인간 상담원 대행’ 시험이 진행됐으며 메타가 논란이 일자 해당 기능을 일단 되돌렸다고 23일(현지시각) 보도했다.

◇AI인 줄 알았는데 일부 전화는 인간이 대행
로이터에 따르면 메타는 최근 뮤즈에 이용자를 대신해 미국 내 기업과 통화할 수 있는 기능을 추가했다.

이용자가 “미용실 예약을 해달라”거나 “매장에 특정 제품이 있는지 확인해달라”, “여러 업체에 전화해 견적을 받아달라”고 지시하면 뮤즈가 직접 전화를 걸어 업무를 처리하는 방식이다.

그러나 메타 내부에서는 일부 통화를 AI가 아닌 외부 인간 상담원이 대신 수행하도록 하는 시험이 진행된 것으로 확인됐다고 로이터는 전했다.

직원들에게 안내된 내부 게시물에는 뮤즈가 요청을 훈련된 상담원에게 넘기면 상담원이 직접 전화를 걸어 업무를 처리한다는 내용이 담겼다.

메타는 AI가 직접 전화를 거는 것보다 인간 상담원을 투입했을 때 업무 성공률을 높일 수 있다고 판단했다.
회사 내부 시험에서는 인간 상담원을 활용할 경우 전화 업무 성공률이 95~98%까지 올라갈 수 있는 것으로 나타났다. AI가 직접 처리했을 때의 성공률은 이보다 낮았다.

특히 상대방이 AI의 전화를 꺼리는 문제가 있었다.

한 메타 직원은 “보험사에 뮤즈가 전화를 걸도록 했지만 상대방이 AI라는 사실을 듣자 계속 전화를 끊었다”고 전했다.

메타는 이런 문제를 해결하기 위해 지난주 직원 절반을 대상으로 인간 상담원 대행 기능을 활성화했다.

◇직원들 “민감정보 상담원에게 넘어갈 수 있어”

문제는 개인정보였다.

뮤즈는 이용자의 일정과 이메일, 쇼핑 정보 등을 활용해 개인 업무를 대신 수행하기 때문에 전화 과정에서도 민감한 정보가 사용될 수 있다.

메타 직원들은 AI에게 전달한 정보가 인간 상담원에게 어느 수준까지 넘어가는지 이용자가 명확히 알지 못할 경우 개인정보가 의도치 않게 외부로 전달될 수 있다고 지적했다.

한 직원은 내부 게시물에서 이 기능이 위험을 감수할 만큼 가치가 있는지 이해하기 어렵다며 시스템 오류 한 번으로 불필요한 정보가 인간 상담원에게 노출될 수 있다고 우려했다.

실제 문제 사례도 나왔다.

한 직원은 인터넷·케이블 업체에 전화를 걸어 요금을 협상하도록 뮤즈에 지시했다. 이후 통화기록을 확인한 결과 전화를 대신 건 인간 상담원이 인종과 관련해 부적절한 표현을 사용한 것으로 나타났다.

메타 측은 이 직원에게 사과하고 해당 상담원이 앞으로 메타 프로젝트에 참여하지 못하도록 하겠다고 밝혔다.

메타의 AI 담당 부사장은 인간 상담원이 대신 전화를 걸 수 있다는 사실을 제대로 고지하지 않은 상태에서 시험을 시작한 것은 잘못이었다고 인정했다.

로이터에 따르면 메타는 이후 해당 기능을 일단 되돌렸다.

◇‘안전한 개인 AI’ 강조했지만 신뢰 문제로

이번 시험은 메타가 뮤즈의 핵심 장점으로 내세운 개인정보 보호 기능과도 충돌할 수 있다는 내부 지적을 받았다.

메타는 뮤즈 출시 당시 각각의 AI 에이전트가 클라우드상의 독립된 가상 컴퓨터에서 작동하도록 설계했다고 강조했다.

비밀번호와 같은 민감정보도 별도의 안전한 저장공간에 보관해 다른 정보와 격리한다고 설명했다.

그러나 AI가 처리하기로 한 업무를 실제 인간 상담원에게 넘길 경우 기술적 보안장치만으로는 개인정보 보호를 보장하기 어려울 수 있다는 것이 직원들의 우려다.

메타는 인간 상담원 대행 기능에 대한 직원들의 전반적인 반응은 긍정적이었다고 밝혔다.

이번 시험의 목적도 정식 서비스 전에 의견을 받아 안전과 개인정보 보호장치를 개선하기 위한 것이었다고 설명했다.

메타 대변인은 “업체들과 전화 기능을 개선하고 있으며 충분히 준비되고 이용자에게 적절한 고지가 이뤄질 수 있을 때만 기능을 정식으로 출시하겠다”고 밝혔다.

◇AI 자동화 뒤 인간 노동…10년 전에도 비슷한 실험

이번 사례는 완전 자동화를 내세우는 AI 서비스가 실제로는 뒤에서 인간 노동에 의존할 수 있다는 점도 드러냈다.

메타는 페이스북 시절인 약 10년 전에도 메신저에서 ‘M’이라는 디지털 비서를 시험했다.

당시 언론 보도에서는 M이 수행한 업무 가운데 약 70%가 실제로는 사람이 처리한 것으로 추정됐다.

최근 AI 기술이 크게 발전했지만 실제 업체와 전화로 대화하고 예상하지 못한 상황에 대응하는 업무에서는 여전히 인간의 개입이 효과적인 경우가 있다는 의미다.

뮤즈는 출시 이후 미국 시장에서 빠르게 확산하고 있다.

시장조사업체 센서타워에 따르면 뮤즈는 출시 후 250만회 이상 다운로드됐으며 미국 앱 다운로드 순위 1위에도 올랐다.

뮤즈 출시 이후 메타 주가는 20% 넘게 상승해 최근 종가 기준 시가총액이 2000억달러(약 272조5400억원) 이상 늘었다.

AI가 이메일 작성과 쇼핑, 여행 예약을 넘어 전화 통화까지 대신하는 단계로 진화하면서 개인 AI 에이전트 경쟁도 빠르게 확대되고 있다.

그러나 이번 인간 상담원 시험은 AI가 실제 생활에서 이용자를 대신해 행동할수록 기술 성능뿐 아니라 이용자가 자신의 정보가 누구에게 전달되는지 명확히 알 수 있도록 하는 장치가 중요해진다는 점을 드러냈다는 지적이다.


김현철 글로벌이코노믹 기자 rock@g-enews.com