닫기

글로벌이코노믹

챗봇 발전할수록 보안에 관심 높여야

공유
0

챗봇 발전할수록 보안에 관심 높여야

대화 통해 전달되는 개인정보 주의필요
해킹 등 외부 공격 대응 마련도

챗봇이 발전하고 사용하는 곳이 늘어날수록 보안에 더욱 신경을 써야 한다.

관련업계에 따르면 챗봇이 발전하면서 사용하는 곳이 많아진다면 이를 통한 상담 사례는 증가하게 된다. 상담을 할 때에는 개인정보나 거래내역 등이 챗봇을 통해 전달될 수 있다. 따라서 정보보호에 더욱 관심을 높여야 한다는 것이다.
특히 금융업계에서 활용되는 챗봇은 금융거래와 연관돼 있으므로 보안에 더욱 신경을 쓰고 있다. 예를 들어 고객이 은행을 방문해 대출 관련 상담을 받았다면 이에 대한 내용은 오프라인에서 진행되기 때문에 직원의 실수가 아니라면 외부로 알려지기가 쉽지 않다.

그러나 챗봇을 통해 이러한 상담이 이뤄진다면 인터넷을 통해 내용이 오가기 때문에 외부에 노출될 가능성이 높아지게 된다. 이를 방지하기 위해 다른 금융앱과 마찬가지로 챗봇에서도 보안 기능이 적용된다.

한 은행의 챗봇에서는 대화 내용을 암호화하고 이를 전달하는 방식을 적용했다. 외부에서 챗봇과의 상담내용을 해킹하더라도 암호화돼있기 때문에 내용 확인이 불가능해지는 것이다 .또 채팅 내용을 화면상에서 복사하는 기능도 방지하고 있다. 핸드폰에 설치된 챗봇에서 대화 도중 화면 캡처를 시도할 경우 보안 정책상 화면을 캡처할 수 없다는 안내문이 나오게 된다.

챗봇을 통한 개인 정보 유출의 가능성은 금융보안원에서도 주의할 것을 당부하고 있다.

금융보안원은 챗봇이 고객의 개인정보, 중요정보 유출, 자기학습으로 인한 이상동작 가능성이 있으므로 새로운 보안위협이 예상된다고 밝혔다. 이 같은 위협은 인공지능(AI)이 활용되는 챗봇의 경우에 더 커진다. 시나리오기반의 챗봇은 고객과의 대화 시나리오를 사전에 정의한 후 사용자가 입력하는 키워드에 따라 금융상품 소개, 영업점 안내 등 간단한 업무 위주의 서비스를 제공하기 때문이다.

챗봇에서 AI를 활용할 경우 자연어 처리를 할 수 있고 복잡하고 다양한 업무 대응과 정보 제공이 가능하다는 장점이 있다. 반면 사용자의 질문에 맞춰 답변하므로 명확한 정보 전달 및 영업 등 챗봇의 고유 목적을 효율적으로 달성하도록 구현하는 것이 어려우며 개인정보 유출 등의 보안 위협이 증가한다는 것이다.
금융보안원은 AI 기능이 챗봇의 성공을 보장하지는 않으며 챗봇의 목적에 따라 AI 기능 활용 시 장・단점을 고려하여 활용 여부를 결정해야 한다고 조언했다. 금융보안원은 AI기술 적용 시 고객이 입력한 단어에 대해 AI가 의도하지 않은 행위를 수행해 개인정보유출 등의 보안위협이 발생할 경우를 대비해 AI 행위에 제한을 두고 이상행위 수행을 제한하고 AI 대답에 개인정보 포함여부 확인 등 필터링을 수행하는 과정을 포함할 필요가 있다고 덧붙였다.

이밖에도 사용자 계정과 봇서버 보안 및 접근제어, 네트워크 보안, 웹서버 보안 등 금융서비스에서 일반적으로 고려되는 보안사항에 대해 대비가 필요하다.

시나리오 방식과 AI방식은 각각의 장단점이 있지만 기본적으로 보안의 위협을 줄이는 방식은 모두 필요하다.

그러나 챗봇 활용이 증가하면 챗봇 제공자는 물론 이를 사용하는 고객들에게도 주의사항을 잘 설명해야 한다. 업체에서 보안 기능을 적용해 챗봇을 출시한다고 해도 사용자가 비정상적인 챗봇을 설치할 경우 피싱 또는 파밍 공격 등이 발생할 수 있기 때문이다.

또 타사의 채팅 플랫폼을 활용해 챗봇 서비스를 제공할 경우에는 해당 플랫폼의 보안 취약점이 챗봇에서도 반영될 수 있으므로 각 업체에서는 이를 잘 확인하고 수시로 보안 위협을 점검해야 한다.

금융보안원은 금융산업에 적용되는 챗봇 중 AI기술을 적용한 챗봇은 아직까지는 연구, 개발 및 적용이 초기단계이므로, 보안요소를 신중히 고려해 금융서비스에 반영할 필요가 있다고 전했다. 또한 네트워크 보안, 웹서버 취약점뿐만 아니라 AI기술, 챗봇 플랫폼 등에 의한 보안위협을 파악하고 대응 방안을 마련하여 안전한 금융서비스 구축해야 한다고 강조했다.


백상일 글로벌이코노믹 기자 bsi@g-enews.com