의료 AI '자가 치료' 증가에 전세계 당국 위험성 경고…"개인 정보 보호·허위 정보 우려"

인공지능(AI) 플랫폼이 질병, 식이요법, 약물에 대한 정보를 쉽게 제공하면서, AI를 활용한 '자가 치료'가 급격히 증가하고 있다.

하지만 허위 정보, 개인 정보 보호, 규제 통제 부족에 대한 우려가 커지면서, 전 세계 당국은 이러한 AI 도구가 의학적 조언을 제공하는 것을 금지하는 방안을 고려하기 시작했다고 17일(현지시각) 닛케이 아시아가 보도했다.

최근 아시아 전역의 보고서에 따르면, 챗봇과 AI 도구의 조언으로 자가 치료가 급격히 증가하는 위험한 추세가 나타나고 있다.

필리핀의 젊은이들은 정신 건강 지원을 위해 AI 자조 기술을 사용하고 있으며, 싱가포르의 의료 시스템은 AI 챗봇을 사용하여 만성 질환을 관리하고 있다. 일본과 한국도 의료 AI 승인을 위한 표준과 규정을 만드는 데 집중하고 있다.
미국 일리노이주는 최근 AI가 치료사 또는 상담사로 기능하는 것을 공식적으로 금지했다. 새로운 규칙에 따르면, AI 플랫폼은 자격을 갖춘 전문가의 감독이 없는 한 치료 계획을 세우거나 감정 상태를 평가하거나 치료 서비스를 제공할 수 없다. 위반 시 최대 1만 달러의 벌금이 부과될 수 있다.

이러한 규제 강화는 AI가 때때로 쓸모없거나 상황에 민감하지 않은 응답을 제공하여, 환자가 적절한 의료 감독 없이 자가 진단하거나 자가 치료하는 경우 위험에 빠뜨릴 수 있다는 우려 때문이다. 실제로 ChatGPT에서 권장하는 자가 치료 후 입원하는 사례가 보고되기도 했다.

하지만 AI는 자격을 갖춘 의사의 감독 하에 사용하면 환자 치료에 큰 도움이 될 수 있다.

중국 칭화대학교는 최근 AI '의사 에이전트'로만 구성된 가상 병원인 'AI 에이전트 병원'을 출범시켰다. 이 AI 의사들은 21개 전문 분야에서 93%의 진단 정확도로 훈련하며, 미래 의학을 위한 임상 AI를 안전하게 테스트하고 있다.

대만 의과대학병원(CMUH)은 AI 의료 진단 센터를 운영하며 10개의 다양한 AI 클리닉을 호스팅하고 있다.

인도에서는 AI가 의사, 간호사, 구급대원을 대체하지는 않지만, 의사의 서기 역할을 하거나 먼 지역에서 눈을 스캔하는 AI 기반 장치를 사용하는 등 치료 결과를 개선하는 데 사용되고 있다.

AI는 더 빠르고 정확한 진단, 24시간 이용 가능성, 맞춤형 치료, 그리고 비용 절감 등 의료 분야에 많은 장점을 제공한다. 그러나 AI는 훈련된 데이터에 크게 의존하기 때문에 실수를 하거나 의사의 전문 지식이 필요한 뉘앙스를 놓칠 수 있다.

AI를 활용한 자가 치료는 위험할 수 있으며, 가장 안전한 방법은 AI를 대체 수단이 아닌 전문 의료와 함께 지원 도구로 사용하는 것이다. AI는 의료 서비스를 크게 강화할 수 있지만, 치료를 위해 그것에만 의존하는 것은 위험하다.


신민철 글로벌이코노믹 기자 shincm@g-enews.com