AI 보험 대란…보험사들 "챗봇 사고 책임 안 진다" 면책 조항 잇달아

미국과 영국 주요 보험사들이 인공지능(AI) 챗봇이나 에이전트를 도입한 기업들에 보험 보장을 제공하지 않으려는 움직임을 보이고 있다.

파이낸셜타임스(FT)가 지난 23일(현지시간) 보도한 내용에 따르면, AIG와 그레이트 아메리칸, WR 버클리 등이 최근 미국 규제당국에 AI 관련 책임을 기업 보험 정책에서 제외하는 조항 승인을 요청했다.


보험업계는 AI 모델이 만들어내는 결과물이 지나치게 예측 불가능하고 불투명해 보험 상품으로 다루기 어렵다고 판단하고 있다. 런던 로이드 보험시장의 전문 보험사 모자이크에서 유럽 사이버보험을 담당하는 데니스 버트람은 "AI는 너무나 블랙박스와 같다"라고 말했다. 블랙박스란 내부 작동 방식을 알 수 없는 시스템을 뜻하는데, AI가 어떤 과정을 거쳐 특정 결과를 내놓는지 보험사가 파악하기 어렵다는 의미다.

WR 버클리가 제안한 면책 조항 가운데 하나는 AI를 "실제 또는 추정되는 모든 사용"과 관련된 청구를 차단하는 내용을 담고 있다. 여기에는 기업이 판매하는 제품이나 서비스에 AI 기술을 "통합"하는 경우도 포함된다.
AIG는 일리노이주 보험규제 당국에 제출한 문서에서 생성형 AI가 "광범위한 기술"이며 향후 청구로 이어질 사건 발생 가능성이 "시간이 흐르면서 증가할 것"이라고 밝혔다. FT에 따르면 AIG는 생성형 AI 면책 조항을 승인받았지만 "현재로서는 이를 시행할 계획이 없다"라고 전했다. 승인을 받아두면 나중에 시행할 선택권을 갖게 된다는 설명이다.

AI 보험 스타트업인 인공지능 언더라이팅 컴퍼니의 공동창업자 라지브 다타니는 "문제가 발생했을 때 누가 책임을 져야 하는지 아무도 모른다"라고 말했다.


AI 실수로 인한 고액 배상 청구 사례들이 현실로 나타나고 있다. 태양광 기업 울프 리버 일렉트릭은 구글을 상대로 명예훼손 소송을 제기하고 최소 1억 1000만 달러(약 1619억 원) 배상을 요구했다. 구글의 AI 오버뷰 기능이 미네소타주 법무장관이 이 회사를 고소했다고 허위로 표시했다는 주장이다.

지난해 중재재판소는 에어캐나다에 고객서비스 챗봇이 만들어낸 할인을 인정하라고 명령했다. 영국 엔지니어링 업체 아럽은 지난해 사기범들이 고위 관리자를 디지털로 복제해 화상회의 중 금융 이체를 지시하는 바람에 2억 홍콩달러(약 378억 원)를 잃었다.
보험중개업체 에이온의 사이버 부문 책임자 케빈 칼리니치는 "보험업계는 자율형 AI를 도입한 한 기업이 잘못된 가격이나 의료 진단을 내놓아 4억~5억 달러(약 5880억~7360억 원) 손실을 입는 경우는 감당할 수 있다"라며 "감당할 수 없는 것은 AI 공급업체가 실수를 해서 1000건 또는 1만 건의 손실로 이어지는 시스템적이고 상관성 있는 집합 위험"이라고 설명했다.


AI 환각은 보안이나 개인정보 침해로 촉발되는 기존 사이버 보험 범위에서 벗어나는 경우가 많다. 기술 관련 "오류 및 누락" 보험이 AI 실수를 보장할 가능성이 더 크지만, 새로운 면책 조항들이 보장 범위를 좁힐 수 있다.

취리히보험 최고정보책임자(CIO) 에릭슨 찬은 보험사들이 다른 기술 관련 오류를 평가할 때는 "책임 소재를 쉽게 파악할 수 있다"라고 말했다. 반면 AI 위험은 개발자와 모델 구축업체, 최종 사용자 등 여러 당사자가 관련돼 있다는 것이다. 그 결과 AI 기반 위험의 잠재적 시장 영향은 "기하급수적일 수 있다"라고 그는 덧붙였다.

보험사 QBE는 유럽연합(EU)의 AI 규정에 따른 벌금과 처벌에 대한 일부 보장을 확대하는 "보증서"를 제시했다. 그러나 대형 중개업체에 따르면 이 보증서는 AI 사용으로 인한 벌금 지급액을 전체 보험 한도의 2.5%로 제한했다.

스위스에 본사를 둔 처브는 중개 협상에서 일부 AI 위험을 보장하는 조건에 동의했지만 한 모델이 여러 고객에게 영향을 미치는 문제처럼 "광범위한" AI 사고는 제외했다.

법무법인 스튜어츠 보험 분쟁팀 책임자 에런 르 마르케르는 "대형 시스템적 사건이 발생하면 보험사들이 '우리는 이런 종류의 사건을 보장할 의도가 없었다'라고 말할 것"이라고 전망했다.


AI 반도체 공급망의 핵심인 한국 기업들은 보험업계의 이런 움직임을 예의주시하고 있다. 카운터포인트리서치에 따르면 2025년 2분기 기준 삼성전자와 SK하이닉스는 전 세계 고대역폭메모리(HBM) 시장에서 80% 가량을 점유하고 있다. HBM은 챗GPT 같은 AI 서비스를 구동하는 데이터센터의 핵심 부품으로, AI 투자가 늘수록 HBM 수요도 함께 증가하는 구조다.

오픈AI나 구글 같은 AI 서비스 기업들이 보험 보장을 받지 못하거나 보험료가 급등하면 운영 비용이 늘어난다. 에이온 통계에 따르면 AI 환각으로 인한 단일 사고의 배상액이 수억 달러에 이를 수 있는데, 보험 없이 이런 리스크를 떠안으면 AI 서비스 수익성이 크게 악화된다.

수익성이 나빠지면 AI 기업들은 신규 서비스 출시를 늦추거나 기존 서비스 확장 계획을 재검토할 수밖에 없다. 실제로 법무법인 스튜어츠의 에런 르 마르케르는 "대형 AI 사고가 발생하면 기업들이 AI 도입에 더욱 신중해질 것"이라고 내다봤다.

AI 서비스 확장이 더뎌지면 이를 뒷받침하는 데이터센터 투자도 영향을 받는다. 트렌드포스는 HBM 시장이 2026년 480억~500억 달러(약 70조~73조 원) 규모로 성장할 것으로 전망했는데, 이는 마이크로소프트와 구글, 아마존 같은 빅테크 기업들의 AI 데이터센터 투자가 계속된다는 전제 아래 나온 수치다.

업계에서는 보험 리스크가 당장 AI 투자를 막지는 않겠지만, 중장기적으로는 투자 속도 조절 요인으로 작용할 수 있다고 본다. 한 반도체 애널리스트는 "AI 기업들이 수익 모델을 입증하지 못한 상태에서 법적 리스크까지 커지면 투자자들이 AI 인프라 투자에 제동을 걸 수 있다"라며 "다만 현재는 AI 경쟁이 워낙 치열해 당장에 가시적 영향이 나타나기는 어려울 것"이라고 전망한다.


박정한 글로벌이코노믹 기자 park@g-enews.com