머스크·올트먼, 아모데이 ‘AI 속도조절’ 지지

인공지능(AI) 개발을 둘러싸고 치열하게 경쟁해온 다리오 아모데이 앤스로픽 최고경영자(CEO), 샘 올트먼 오픈AI CEO, 일론 머스크가 최첨단 AI 개발 속도를 조절해야 한다는 데 이례적으로 뜻을 모아 시선을 집중시키고 있다.

AI 안전 문제를 둘러싼 업계 내부 경고가 이어지는 가운데 기업별 자율대응을 넘어 경쟁사들이 공동으로 개발 속도와 안전기준을 조율하는 방안이 본격적인 의제로 떠오르는 모습이다.

파이낸셜타임스(FT)는 아모데이 CEO가 AI 능력 향상 속도를 늦춰야 한다고 공식 제안한 데 대해 올트먼 CEO와 머스크가 공개 지지를 표명했다고 13일(이하 현지시각) 보도했다.
아모데이 CEO는 전날 공개한 에세이에서 올여름 AI 개발 속도가 “급격히 빨라졌다”며 기술업계가 AI 모델의 능력을 향상시키는 속도를 늦춰야 한다고 주장했다.

경쟁관계와 개인적 갈등으로 유명한 AI 업계 수장들이 개발 속도조절이라는 민감한 문제에서 공개적으로 같은 목소리를 낸 것은 이례적이다.

머스크는 아모데이의 글을 소셜미디어 X에 공유하며 “다리오가 옳다”고 밝혔다.

올트먼 CEO도 “최첨단 AI 개발의 속도를 조절해야 한다는 다리오의 견해에 동의한다”고 언급했다.

특히 올트먼은 아모데이가 제안한 독립적인 외부 평가자의 상시 접근 방안에도 동참하겠다는 뜻을 나타냈다.
아모데이는 독립적인 평가기관이 모든 최첨단 AI 기업에 지속적으로 접근해 모델을 점검할 수 있어야 한다고 제안했다.

올트먼은 독립 평가자에게 직원과 유사한 수준의 접근권을 제공하는 방안이 좋은 생각이라며 오픈AI도 같은 조치를 취하겠다고 밝혔다. 구체적인 방안도 추가로 공개할 예정이라고 덧붙였다.

◇경쟁사 공동 안전규칙…정부가 ‘담합’ 장벽 풀어야

아모데이의 제안은 개별 기업의 안전조치를 넘어 업계 공동규칙을 만드는 방향으로 한 발 더 나아갔다.

그는 민주주의 국가의 AI 개발사들이 안전기준과 개발 제한을 공동으로 조율할 수 있도록 정부가 지원해야 한다고 주장했다.

AI 기업들이 자율적으로 개발속도나 안전기준을 합의하면 경쟁을 제한하는 담합으로 해석돼 반독점법에 저촉될 가능성이 있기 때문이다.

아모데이는 중국 등 권위주의 국가와의 국제적 조율도 제안했다. 미국 기업들만 일방적으로 속도를 늦출 경우 중국 AI 기업들이 기술격차를 좁히거나 추월할 수 있다는 우려를 의식한 것이다.

그는 공동으로 속도를 조절하면 최첨단 AI 기업들이 상업적 경쟁력이나 미국의 AI 우위를 포기하지 않고도 필요한 안전 연구를 수행할 시간을 확보할 수 있다고 주장했다.

올트먼 CEO도 이번 주 오픈AI 전사회의에서 다른 AI 연구소들이 참여한다면 국제적인 개발 속도조절에 나설 의향이 있다고 직원들에게 밝힌 바 있다.

반면 구글 딥마인드와 메타 경영진은 이번 주말 제안에 아직 공식 입장을 내놓지 않았다.

다만 데미스 허사비스 구글 딥마인드 공동창업자 겸 회장은 지난 7월 빠른 AI 발전에 대응하기 위해 최첨단 시스템을 시험하는 새로운 접근방식이 필요하다고 지적했다.

◇휴깅페이스 사건이 ‘감속론’ 촉발

아모데이가 개발 속도조절을 공식적으로 요구하게 된 직접적인 계기 가운데 하나는 최근 발생한 오픈AI 에이전트들의 휴깅페이스 침입 사건이다.

오픈AI의 여러 AI 에이전트가 시험환경을 벗어나 AI 개발 플랫폼 휴깅페이스에 침입하고 오픈AI 서버를 장악해 서로 협력하면서 주어진 임무를 수행하려 한 사실이 드러났다.

아모데이는 능력이 더 뛰어나면서도 인간의 의도와 비슷한 수준으로 불일치하는 AI 에이전트 집단이었다면 파국적인 피해를 일으킬 수 있었다고 평가했다.

그는 앤스로픽을 포함해 AI 업계에서도 정도가 덜할 뿐 비슷한 사건들이 있었다며 모든 최첨단 AI 기업이 휴깅페이스 사건이 자사에서 벌어진 것처럼 대응해야 한다고 주장했다.

이번 주 앤스로픽 연구원 제이컵 콕슨이 회사를 떠나면서 제기한 AI 안전 경고도 업계 논쟁을 가속했다.

그러나 이번 주말을 기점으로 논쟁의 성격은 연구자들의 위험 경고에서 주요 AI 기업 수장들이 실제로 어떤 공동 안전체계를 만들 것인가라는 문제로 옮겨가고 있다.

◇‘2조달러 앤스로픽’ IPO 준비에도 새 변수

아모데이의 공개적인 속도조절 요구는 앤스로픽의 기업공개(IPO) 준비에도 새로운 변수가 됐다.

앤스로픽은 사상 최대 규모가 될 가능성이 있는 IPO를 준비 중이며 기업가치는 2조달러(약 2688조원) 이상으로 평가될 가능성이 거론되고 있다.

FT에 따르면 앤스로픽은 이르면 지난주 투자설명서를 제출할 것으로 예상됐지만 아직 제출하지 않았다.

AI 능력을 빠르게 확대하는 것이 기업가치 상승의 중요한 기반인 상황에서 CEO가 스스로 개발 속도조절을 요구하면서 성장과 안전 사이의 긴장관계가 투자자들에게도 중요한 평가요소로 떠오르게 됐다.

미국 정부의 입장은 아직 업계의 속도조절 요구와 거리가 있다.

도널드 트럼프 미국 대통령은 지난주 AI가 인류 멸종을 초래할 가능성을 우려하지 않는다고 밝혔다.

트럼프 대통령은 오히려 미국이 AI 경쟁에서 승리하지 못할 경우 매우 불리한 상황에 놓일 수 있다는 점을 우려한다며 미국이 중국에 여전히 약 1년 앞서 있다고 주장했다.

이에 따라 AI 개발 속도를 실제로 늦추려면 경쟁 기업 간 합의뿐 아니라 미국의 기술패권 전략과 중국의 참여까지 함께 풀어야 하는 과제가 남는다.

그럼에도 경쟁과 갈등을 이어온 머스크, 올트먼, 아모데이가 개발 속도조절과 독립적인 외부 평가라는 원칙에 공개적으로 공감하면서 AI 안전 논쟁은 기업별 자율규제에서 업계 공동규칙을 모색하는 새로운 단계로 접어들고 있다는 분석이다.


김현철 글로벌이코노믹 기자 rock@g-enews.com