젠슨 황 "자율주행 차도 면허 따야"... '안전성 우선' AI 규제론 부상

인공지능(AI)이 발달하면서 이에 대한 규제의 목소리가 나오고 있다. AI 칩을 개발하는 엔비디아의 최고경영자(CEO) 젠슨 황은 특정 분야에서의 AI 규제가 필요하다는 의견을 내놓았다. 다만 이는 산업 저해를 목적으로 하는 것이 아닌 안전성에 대한 규제가 필요하다고 강조했다.

6일 업계에 따르면 젠슨 황 CEO는 4일(현지시각) 미국 캘리포니아 로스앤젤레스(LA)에서 개최된 '밀컨 글로벌 콘퍼런스 2026'에서 의료와 자율주행차, 비행기 등 분야에서 AI를 활용할 때 이에 대한 적합한 규제의 필요성을 언급했다. 이전부터 AI에 대한 규제가 필요하다는 목소리는 나왔다. 무분별하게 AI를 활용할 경우 피해자가 발생할 수 있다는 것 때문이다. 자율주행 AI로 인해 사고가 발생할 경우, 책임 소재를 명확히 하기 위한 정책적 가이드라인이 필요하다는 지적이 그동안 꾸준히 제기됐다.

하지만 이번에 젠슨 황 CEO가 언급한 것은 단순히 책임 소재를 위한 규제가 아닌 안전성을 위한 규제 강화를 언급한 것으로 해석된다. 황 CEO는 자율주행 차 기술을 예로 들면서 "당신 딸이 면허를 따야 한다면 자율주행 차도 면허를 따야 한다고 생각하지 않는가"라며 "단순히 도로에 풀어놓고 지켜보는 것이 아니라 모든 테스트를 거치는 혹독한 검증이 필요하다"고 설명했다. 이어 그는 AI에게 의료기기 수준의 규제가 필요하다고 강조했다.

실제로 이에 대한 의견은 업계에서 최근 들어 지속적으로 거론되고 있다. AI 업계 한 관계자는 "단순한 거대언어모델(LLM) 기반의 생성형 AI는 저작권 문제에서 그쳤지만 황 CEO가 언급한 부분은 생명을 다루는 부분"이라며 "면허나 의료기기에 비유한 것도 각자 규제당국이 있는 것처럼 AI에 규제를 적용해 미토스처럼 악용되는 사태를 예방하기 위한 조치로 해석된다"고 말했다.
최근 앤스로픽이 공개한 차세대 AI 모델 '클로드 미토스'의 성능 테스트 결과는 업계에 큰 파장을 일으켰다. 이 모델은 사이버 보안 취약점을 찾는 것에서 강점을 보였다. 예를 들어 특정 지시 없이도 지금까지 알려지지 않았던 취약점 수 천 건을 찾아냈으며 이를 공격할 도구까지 자동으로 만들어낸 것이다. 이로 인해 미토스 포비아가 발생하면서 안전성이나 사용 가능한 기관을 정하는 규제가 필요하다는 목소리가 높아진 것이다.

튜링상 수상자이자 AI 대부로 알려진 요슈아 벤지오 몬트리올 대학 교수는 "고급 AI 기술을 감독·관리하는 강력한 기구나 규제 기관이 필요하다"며 예시로 미국 식품의약국(FDA)과 같은 기구 설립을 제안했다. 즉 안전을 위한 최소한의 규제가 필요하다는 의견이 나오는 상황이다. 미국 정부도 AI 개발사에 주의 의무를 부여하고 기존 부처 권한 강화에 나서는 등 조치를 취하고 있다.

이와 같은 규제는 단순히 미국뿐만 아니라 우리나라에도 영향을 끼칠 가능성이 높다. AI를 개발할 경우 자국뿐만 아니라 다양한 국가에서 활용되고 있으며 특히 피지컬 AI와 물류 AI 서비스는 국내보다 해외시장이 더욱 활발하다. 즉 미국이나 유럽 규제는 국내 시장에도 영향을 끼칠 수 밖에 없다는 것이다.

다만 산업을 제한할 정도의 규제는 없을 것이란 관측이 나온다. 이성엽 고려대학교 기술경영전문대학원 교수는 "만약 미국이 규제를 시행해도 산업 성장에 저해하는 방향으로 규제는 시행하지 않을 것 같다"며 "통합적인 규제보다는 섹터 별로 필요한 규제를 각 부처에서 하는 방식으로 진행될 가능성이 높다"고 내다봤다.


이재현 글로벌이코노믹 기자 kiscezyr@g-enews.com