전문가들 'AI 정렬 투자·기술 보안 강화' 강조... 5년내 AI 능력 최대 100만배 증가 전망

시티저널에 따르면 중국 인공지능(AI) 기업 딥시크(DeepSeek)는 지난달 20일 미국의 최고 AI 모델과 견줄만한 성능을 보유한 R1 모델을 공개했다. 딥시크는 미국 기업들이 AI 개발에 투자한 비용의 극히 일부만으로 이를 달성했다고 주장했다.
이에 대응해 도널드 트럼프 미국 대통령은 다음 날인 지난달 21일 백악관에서 오픈AI, 오라클, 일본 소프트뱅크 수장들과 함께 기자회견을 열고 5000억 달러 규모의 AI 데이터센터 시스템인 '스타게이트(Stargate)' 구축 계획을 발표했다.
딥시크의 기술력과 관련해 AI 제품 개발 컨설팅 기업인 AE 스튜디오의 창립자인 저드 로젠블랫 최고경영자(CEO)는 시티저널 대담에서 "R1 모델 개발 비용이 600만 달러에 불과하다는 주장과 달리, 실제로는 총 16억 달러의 컴퓨팅 비용이 투입된 것으로 추정된다"고 주장했다. 그는 "중국이 엔비디아의 H800 칩을 주로 활용했으며, 싱가포르와 말레이시아, 아랍에미리트(UAE) 등을 통한 AI 칩 밀수가 상당한 규모로 이뤄지고 있다"고 지적했다.
AI 기술의 급속한 발전과 관련해 로젠블랫 CEO는 "현재도 AI 모델들은 의료 진단이나 프로그래밍 등에서 인간의 능력을 뛰어넘는 수준"이라며 "향후 5년간 AI 모델의 성능이 현재보다 1만~100만 배 향상될 것"이라고 전망했다.
이러한 급격한 기술 발전에 따른 보안 위협도 커지고 있다. 맨해튼연구소의 닉 휘태커가 제안한 'AI 정책 플레이북'은 미국의 AI 리더십 확대를 위해 해킹과 스파이 행위로부터 AI 연구소를 보호하는 등의 방안을 제시하고 있다. 이와 관련해 로젠블랫 CEO는 "현재 AI 연구소들의 보안이 매우 취약해 중요 기술이 중국으로 유출되고 있으며, 이는 딥시크 사례에서 확인된다"고 설명했다.
더욱 근본적인 우려는 AI 기술의 통제 가능성이다. 로젠블랫 CEO는 "현재 AI가 어떤 방식으로 판단하고 의사결정을 하는지 그 내부 작동 방식을 완전히 이해하지 못하고 있다"며 "마치 매우 똑똑한 존재가 내린 결정의 과정을 전혀 알 수 없는 상황과 같다"고 설명했다. 그는 "AI의 능력이 계속 발전할수록 이러한 불확실성에 따른 통제력 상실 위험이 더욱 커질 수 있다"고 경고했다.
이에 대한 대응방안으로 로젠블랫 CEO는 "국방고등연구계획국(DARPA)이 수십억 달러 규모의 투자를 AI 연구개발에 직접 투입하고, 연방 부지 내 데이터센터 개발 시 일정 비율을 AI 안전성 연구에 의무적으로 할당하는 정책이 필요하다"고 제안했다.
AI 위험성에 대한 중국 측의 인식도 주목된다. 로젠블랫 CEO는 "중국의 유일한 튜링상 수상자가 AI로 인한 실존적 위험을 극도로 우려하고 있다"고 전했다. 또한 "최근 작고한 헨리 키신저 전 미국 국무장관이 생전 마지막 중국 방문에서 시진핑 국가주석에게 AI의 위험성을 설득하려 했다"면서 "이는 AI 기술의 통제를 위한 미중 간 협력 가능성을 보여준다"고 분석했다.
박정한 글로벌이코노믹 기자 park@g-enews.com