AI 챗봇에 '내 돈' 묻지 마라… 금융사기 표적 되는 5가지 순간

생성형 인공지능(AI)이 금융 상담의 문턱을 낮췄다. 그러나 역설적으로 이용자의 금융 정보 보안은 벼랑 끝에 섰다. 워싱턴포스트(WP)는 지난 25일(현지시각) 보도에서 "편의를 위해 AI 챗봇에 입력한 금융 정보가 결국 자신의 계좌를 탈취당하는 빌미가 된다"고 경고했다. 금융 상담 접근성 개선이라는 빛 뒤에 가려진 개인정보 침해의 그늘이다.


금융권에 따르면 AI를 활용한 자산 관리 상담 이용자는 폭발적으로 늘고 있다. TD뱅크의 최근 설문조사 결과, 지난해 10%에 머물던 AI 금융 활용 비율은 올해 55%까지 급등했다. 특히 20대와 30대 이용자는 각각 77%, 72%에 달한다.

문제는 이용자의 인식이다. 시스코(Cisco)의 조사에 따르면 AI 이용자의 29%가 민감한 금융·건강 정보를 챗봇에 입력했다. 이용자의 84%가 데이터 유출을 우려하지만, 정작 편리함을 위해 정보를 스스로 내어주는 모순을 범하고 있다.

더욱 심각한 것은 AI 기업의 운영 방식이다. 스탠퍼드대의 연구 결과, 아마존·구글·메타 등 주요 6개 AI 기업은 이용자의 대화 데이터를 기본값으로 설정해 모델 학습에 사용한다. 일부 기업은 이 정보를 영구 보관한다. 금융 사기단은 유출된 대화 데이터를 조합해 피해자를 특정하고, 치밀한 피싱 시나리오를 설계한다. "작은 질문 하나가 금융 범죄의 먹잇감이 된다"는 전문가들의 진단이 나오는 이유다.

금융 자산을 지키려면 AI와의 대화에서 특정 정보를 완전히 격리하는 '블랙아웃(Blackout)' 전략이 필수다. 워싱턴포스트는 AI 챗봇에 절대 입력하지 말아야 할 5가지 정보를 명시했다.

첫째, 개인 식별 정보(PII)다. 이름, 주소, 주민등록번호, 운전면허번호는 AI 채팅창에 절대 입력하지 않는다. 계정 로그인을 위한 이메일이나 사용자명조차 기록하지 않는 것이 안전하다.

둘째, 고용 상세 정보다. 직장명이나 W-2 양식 등 고용 정보는 사기꾼이 신용카드 신청이나 대출을 실행할 때 활용하는 퍼즐의 마지막 조각이다.

셋째, 채무 상세 데이터다. "특정 금융사에 얼마의 빚이 있다"는 식의 구체적인 채무 정보는 사기꾼이 금융기관을 사칭해 접근할 때 사용하는 강력한 무기가 된다. 부채 상담이 필요하다면 금액을 명시하지 말고 일반적인 상환 전략을 물어야 한다.
넷째, 거래 내역이다. 특정 일자에 지출한 구체적인 금액과 장소는 개별 이용자를 특정하는 핵심 데이터다. 이는 유출 시 타 데이터와 결합되어 개인을 완벽하게 식별하게 만든다.

다섯째, 금융 관련 서류다. 세금 환급 관련 서류나 투자 포트폴리오 분석을 위해 계좌 명세서를 업로드하는 행위는 금물이다. 정보를 암호화하거나 일부를 가려도 AI는 맥락을 파악해 식별해낸다.


금융 정보 보호의 핵심은 '익명성 유지'다. AI에게 구체적인 수치를 입력하는 대신, 숫자를 반올림하거나 일반화해 질문해야 한다. AI는 401(k) 기여 한도나 Roth IRA의 장단점과 같은 보편적 정보를 확인하는 용도로 제한적으로 사용한다.

또한, 이용 중인 AI 플랫폼의 '개인정보 보호 설정'을 즉시 확인하라. 모델 학습용으로 대화 내역이 사용되지 않도록 설정(Opt-out)하는 것이 최소한의 방어막이다.

온라인 대화에서는 그 어떤 정보도 100% 안전하지 않다. AI 대화창에 무언가를 입력하기 전, "과연 이 정보를 모르는 사람에게도 보여줄 수 있는가"를 스스로 자문하라. 금융 자산을 지키는 유일한 방법은 정보를 입력하지 않는 것이다.

금융 피해를 예방하려면 AI 이용 습관의 전면적인 쇄신이 필요하다. 우선 플랫폼 보안 설정에서 ‘데이터 모델 학습 차단’ 기능을 반드시 활성화해야 한다. 상담 시 구체적인 채무액이나 지출금액을 직접 입력하기보다 반올림한 수치를 활용해 개인 식별을 차단하는 것이 현명하다. 특히 세금 보고서나 계좌 명세서 등 민감한 서류는 절대 업로드하지 말아야 한다. 이러한 보안 수칙 준수만이 개인정보 유출을 막는 최선의 방어책이다.


김주원 글로벌이코노믹 기자 park@g-enews.com