AI 에이전트 도입 기업들, '디지털 노동자 관리' 대혼란

인간을 반복적인 고된 노동에서 해방시키고 완벽한 업무 자동화를 구현할 것으로 기대를 모았던 '자율형 AI 에이전트(Autonomous AI Agent)'가 아시아 기업 현장에 급속도로 보급되고 있으나, 기대와 달리 조직 내에 새로운 업무 마찰과 '디지털 관료주의'를 양산하고 있다는 지적이 나왔다.

에이전트끼리 책임을 미루며 논쟁을 벌이거나 승인되지 않은 초안을 최종 결정으로 오인해 업무 오류를 증폭시키는 사례가 잇따르면서, 이제 기업들의 경쟁력은 AI 에이전트를 몇 개나 쓰느냐가 아니라 이들 디지털 노동자를 어떻게 통제·감독하느냐는 새로운 관리 거버넌스 역량에 달려 있다는 분석이다.

10월 18일(현지시각) 홍콩 사우스차이나모닝포스트(SCMP) 홍콩·상하이발 심층 보도에 따르면, 중국 본토의 빅테크부터 홍콩의 금융 서비스사, 싱가포르의 호텔·보험업계에 이르기까지 자율 소프트웨어를 도입한 아시아 기업들이 심각한 '에이전트 관리 후폭풍'을 겪고 있다.

상하이의 한 대형 기술기업에서 AI 제품 마케팅을 담당하는 샤오멍제 매니저는 최근 두 개의 AI 에이전트에게 공동 작업을 지시했다가 황당한 교착 상태를 목도했다. 업무를 분담해 빠르게 처리할 것이라는 기대와 달리, 자신의 에이전트와 상사의 에이전트가 어떤 작업을 누가 검증하고 책임질지를 두고 장시간 토론과 논쟁을 벌인 것이다. 샤오 매니저는 "인간의 번거로운 관료주의를 대체하라고 도입했더니, 에이전트들끼리 형식적인 소통 비용(오버헤드)을 유발하고 있었다"고 토로했다.

현재 아시아 시장은 자율 소프트웨어 열풍에 휩싸여 있다.

메타(Meta)가 지난 9월 선보인 개인용 에이전트 '뮤즈(Muse)'는 출시 2주 만에 280만 건의 다운로드를 기록했고, 중국에서는 오픈소스 에이전트 '오픈클로(OpenClaw)'를 설치하려는 열풍이 불며 선전 텐센트 본사 앞에 수백 명이 장사진을 치기도 했다. 텐센트, 알리바바, 바이두 등도 일제히 엔터프라이즈 에이전트 플랫폼을 쏟아내고 있다.

그러나 현장 실무의 벽은 높았다. 싱가포르 호텔 기술 스타트업 콘지(Conzi)의 마크 위(Mark Wee) 최고운영책임자(COO)는 투숙객 불만 처리를 예로 들었다. 불만 한 건을 해결하려면 접수, 원인 조사, 운영 지침 수정 등 객실관리(하우스키핑)부터 총지배인실까지 여러 부서가 얽힌다.

위 COO는 "현장의 운영 지식은 여전히 엑셀 스프레드시트나 종이 서류, 베테랑 직원의 머릿속에 파편화되어 있다"며 "주변 업무 환경과 데이터가 통합되지 않은 상태에서 에이전트만 투입하면 분산된 시스템 속에서 언제 인간을 호출해야 할지조차 판단하지 못한다"고 지적했다.

홍콩에서도 기술 격차가 뚜렷하다. 글로벌 컨설팅사 액센츄어에 따르면 홍콩 기업 중 생성형 AI를 복수 사업 부서에 실질적으로 통합한 비율은 10%에 그쳐 중국 본토(21%)의 절반 수준에 머물렀다. 메신저 연계 AI 솔루션을 제공하는 아임비(imBee)의 레오 웡 공동창업자는 "은행과 보험사 등 금융권은 데이터 보안 우려로 인해 에이전트 도입 결정을 극도로 주저하고 있다"고 전했다.

기업들은 이제 AI 에이전트의 '숫자'가 생산성과 직결되지 않는다는 냉정한 현실을 깨닫고 있다. 직원 50~60명 규모인 아임비는 수백 개의 에이전트를 운용 중이며 대표 개인이 20개 이상의 총괄 에이전트를 직접 지휘하고 있다.

동남아 전역에 230여 명의 직원을 둔 싱가포르 인슈어테크 기업 이글루(Igloo)의 라우낙 메타(Raunak Mehta) 최고경영자(CEO)는 "시장은 단순히 에이전트 수를 극대화하던 '에이전트 맥싱(Agent-maxing)' 단계를 이미 지났다"고 단언했다.

메타 CEO는 "현재의 핵심 화두는 에이전트들의 권한을 규제하고 상호작용을 제어하며 인간의 감독을 지원하는 통제 프레임워크인 '에이전트 하네스(Agent Harness·마구)'"라고 강조했다.

적절한 통제 장치가 결여되면 FCM 트래블 아시아의 프라부 상가르 이사가 경고한 '에이전트 스프롤(Agent Sprawl·무분별한 확산)' 현상이 발생한다. 부서별로 제각각 배포된 자율 소프트웨어 간에 데이터가 충돌하고, 한 에이전트의 미완성 초안을 다른 에이전트가 '확정된 승인 문서'로 오인해 후속 조치를 실행하면서 전사적 오류가 눈덩이처럼 커질 수 있기 때문이다.

보안 사고도 현실화되고 있다. 최근 중국 즈푸 AI(Z.ai)는 코딩 어시스턴트가 사용자 동의 없이 로컬 코드를 서버에 업로드해 기능을 긴급 패치했고, 미국 오픈AI의 에이전트가 평가 환경(샌드박스)을 벗어나 허깅페이스 시스템을 침해하는 사건이 발생하기도 했다. 로이터 조사에서는 일부 중국 AI 에이전트들이 테스트 도중 실패를 숨기거나 체계적인 거짓말을 한 사례가 포착됐다.


결국 자동화의 역설 속에서 근본적인 운영 병목은 '컴퓨팅 파워'에서 '인간 감독자'로 되돌아오고 있다.

기술 전문 리서치사 디 AI 캐피톨의 라이오넬 심 대표는 "직원들이 스스로 에이전트를 배치하면서 기술 도입이 경영진의 통제를 앞서가고 있다"며 "직원들에게 프롬프트를 쥐여주는 것보다 에이전트에게 업무를 브리핑하고 결과를 검토·교정하는 관리 역량을 훈련시키는 것이 훨씬 중요해졌다"고 짚었다.

샤오 매니저는 "AI 덕분에 수많은 아이디어를 동시다발 프로젝트로 시작할 수 있게 됐지만, 결국 모든 결과물이 인간의 최종 판단을 기다리며 대기열에 쌓인다"며 "결과적으로 내가 회사에서 가장 바쁘고 스트레스받는 사람이 됐다"고 토로했다.

제도와 현실의 괴리도 깊어지고 있다. 리자하오 광저우베이연구소 연구원은 "AI 기술 역량은 분기마다 급변하는데 법적 규제는 연 단위로 바뀌고, 사고 책임은 개별 소송 판례에 의존하고 있어 격차가 벌어지고 있다"고 지적했다. 그는 "기업들이 에이전트로 초급 업무를 대체하면서 신규 채용을 줄여 청년층의 노동시장 진입 기회가 좁아질 수 있다"며 "AI 관리 역량이 부족한 기업은 비용만 줄이고 청년 실업이라는 사회적 비용을 유발하게 된다"고 경고했다.

첸보 싱가포르국립대 동아시아연구소 선임연구원은 "현재의 AI 에이전트 생태계는 혼란스러운 '야생의 성장기'를 지나고 있다"면서도 "거대한 기술 전환기에서 기업들의 유일한 선택지는 에이전트 스프롤과 같은 부작용을 통제하고 인내하며 적응하는 것뿐"이라고 진단했다.


신경원 글로벌이코노믹 기자 shincm@g-enews.com