애플이 연례보고서에 AI 에이전트 오작동 경고를 담은 속사정

애플이 미국 증권거래위원회(SEC)에 제출한 2026 회계연도 연례 재무보고서를 통해 인공지능 에이전트가 의도하지 않거나 예측할 수 없는 방식으로 작동할 경우 자사 사업에 위협이 될 수 있다고 경고했다.

미국 경제전문매체 CNBC는 11월 3일(현지시간) 인공지능(AI) 에이전트의 자율 행동이 소송 위험 노출과 기업 평판 훼손으로 이어질 수 있다는 내용이 애플의 연례 공시 서류에 새롭게 명시됐다고 보도했다.

실리콘밸리 주요 기업 사이에서 자율 에이전트의 급증에 따른 통제 불능 부작용이 주된 위험 요소로 대두되는 시점이다.


애플은 보고서에서 인공지능 에이전트를 비롯한 기술이 내부나 외부 시스템과 스스로 상호작용하며, 승인받지 않은 시스템에 접근하거나 코드를 실행·변경하고 통신 발송과 거래 완료를 수행할 수 있다고 밝혔다.
이어 에이전트가 지시나 허가를 받지 않은 행동을 포함해 통제를 벗어난 방식으로 움직일 수 있으며, 외부 인공지능 기술을 회사가 완벽히 감독하고 통제하는 데는 한계가 있다고 덧붙였다.

이 같은 경고는 오픈AI의 도츠(Dots)와 메타의 뮤즈(Muse) 등 자율 과업 수행이 가능한 상용 인공지능 에이전트들이 잇따라 나온 가운데 등장했다.

특히 허깅페이스 등에서 발생한 격리 환경 이탈과 해킹 사례가 전 세계 정책 입안자들의 이목을 집중시킨 직후에 나온 조치다.

아마존과 제이피모간체이스 같은 대형 기업들도 에이전트의 서비스 접근을 규제하는 내부 정책 마련에 나섰다. 애플은 이와 관련해 지난달 맥 컴퓨터의 전체 디스크 접근 권한 설정을 변경해 PC에 설치된 에이전트의 과도한 데이터 접근 위험을 낮췄다.

존 터너스 애플 최고경영자는 실적 발표 설명회에서 자사 음성 인식 비서인 시리의 기능 확장 가능성을 언급했다.

터너스 최고경영자는 에이전트 기능이 사용자에게 유익한 도구라면서도 보안과 개인정보 보호가 전제되어야 한다고 강조했다.

올 가을 나온 애플의 시리 인공지능은 아이폰의 기기 내부 저장소를 활용해 캘린더나 이메일 정보에 접근하지만, 도츠나 뮤즈처럼 장시간 스스로 작동하는 형태는 아니다.

터너스 최고경영자는 연락처와 대화 기록, 건강 및 금융 정보 등 방대한 개인 데이터가 담긴 아이폰에서 시리가 외부 유출 없이 안전하게 작동한다는 것을 애플의 차별점으로 내세웠다.

아울러 애플은 급변하는 초지능 및 인공지능 관련 규제에 적응하는 과정에서 상당한 비용이 들 수 있으며, 자동화에 대한 소비자들의 부정적 인식도 사업에 영향을 줄 수 있다고 덧붙였다.


애플의 이번 공시는 글로벌 대형 기술 기업들이 인공지능 에이전트의 자율성 확대에 따른 법적·보안 위험 통제에 본격 착수했음을 보여준다.

시장조사업체 가트너와 인공지능 보안 전문가들은 빅테크 기업들이 향후 에이전트 오작동을 막기 위해 최소 권한 원칙 기반의 제로 트러스트 보안 아키텍처 재설계, 외부 유출을 차단하는 온디바이스 기반 격리 구동 그리고 타사 에이전트의 접근을 엄격히 제한하는 플랫폼 권한 통제 등 세 가지 축을 중심으로 자구책을 강화할 것으로 내다봤다.

이에 따라 자체 온디바이스 기술과 에이전트 생태계를 구축 중인 기술 기업들 역시, 향후 강화될 글로벌 규제와 운영체제(OS) 보안 정책 선회에 발맞춰 권한 통제 기준과 보안 아키텍처를 전면 재설계해야 하는 과제를 안게 됐다.

이와 관련 보안 전문가들은 글로벌 기업들의 이 같은 위험 진단과 자구책 마련이 AI 에이전트 산업의 후퇴나 거품을 뜻하는 것은 아니라고 평가한다. 오히려 기술이 시장에 본격적으로 안착하기 위해 반드시 거쳐야 할 안정화와 규제 표준화 단계라는 분석이 우세하다.


심완섭 글로벌이코노믹 기자 ciberwld@g-enews.com