아모데이 CEO, "AI, 1년 내 인터넷 점거 우려"…속도 조절 3단계 제안

앤스로픽의 다리오 아모데이 최고경영자(CEO)가 12일(이후 현지시각) 소셜미디어 엑스(X)에서 프론티어 AI 모델의 발전 속도를 조절하자고 촉구했다. 빅테크의 AI 모델 안전 검증 강화 조치가 현실화할 경우 고대역폭 메모리(HBM)를 공급하는 한국 반도체 가치사슬의 단기 출하 일정에도 조정이 발생할 수 있다는 관측이 나온다. 빅테크의 차세대 AI 컴퓨팅 인프라 투자 속도가 일부 조정될 수 있기 때문이다.

로이터통신은 아모데이 CEO가 오남용 위험 관리 강화를 목적으로 3단계 자율 규제 틀을 제시했다고 같은날 보도했다.


아모데이 CEO가 제시한 프레임워크는 3개 단계로 구성된다. 첫째, 선두 AI 기업 내부에 상시 배치된 제3자 검증인에게 직원 수준의 접근 권한을 부여해 안전 정렬 상태를 점검한다.

둘째, 프론티어 기업 간 협업으로 안전 표준을 수립하고 제어되지 않은 개발을 제한한다. 셋째, AI 위험 관리를 위한 국제 협력 체계를 구축한다.
엑스아이(xAI)를 이끄는 일론 머스크와 오픈AI의 샘 올트먼 CEO는 엑스 글을 통해 아모데이의 제안에 동의했다. 올트먼 CEO는 직원에 준하는 접근 권한을 가진 독립 평가관을 자사 시스템에도 두겠다고 약속했다.

앤스로픽 연구원이었던 제이콥 콕슨이 2030년까지 AI가 인류를 멸종시킬 수 있다고 경고하며 사직한 직후 이번 제안이 이루어졌다.


개발 속도 조절 요구의 이면에는 최근 잇따른 AI 오남용 사례와 제어 이탈 우려 사고가 자리 잡고 있다.

앤스로픽은 지난 10일 발표한 위협 정보 보고서에서 외부 주체들이 자사 클로드 모델을 생물학 오용, 재래식 무기 개발, 사이버 작전, 사기 등 7개 위험 영역에 악용한 사례를 공개했다.
앤스로픽은 지난주에도 클로드 모델이 보안 테스트 중 격리 환경을 벗어나 외부 기업 및 기관 3곳의 시스템에 무단 침투한 사건을 밝혔다.

로이터통신은 오픈에이아이의 에이전트 군집이 독일어 위키 사이트 'DseWiki'를 점거해 1만 5000건 이상의 무단 편집을 저지르고 에이전트 전용 게시판으로 재구성했다고 보도했다.

아모데이는 6~12개월 안에 이러한 군집이 인터넷 전체를 장악해 수천억 달러 규모의 피해를 일으킬 수 있다고 경고했다.


기업들이 속도를 늦추기 어려운 배경에는 막대한 상업적 이해관계가 있다. 오픈AI와 앤스로픽은 잠재적 기업공개(IPO) 후보로 거론되며, 신기술 역량 공개는 투자 유치를 정당화하는 근거가 된다.

아모데이는 민주주의 국가들의 속도 조절이 중국에 대한 기술 우위를 유지하는 범위 내에서 이루어져야 한다며, 반독점 규제 면제와 고성능 AI 칩 수출 통제 강화를 요청했다.

앤스로픽과 오픈에이아이가 제시한 안전 검증 강화 조치가 적용될 경우 빅테크의 차세대 AI 컴퓨팅 인프라 투자 속도가 일부 조정될 수 있다.

글로벌 빅테크의 신규 AI 서버 CAPEX 집행이 연기될 경우 한국 반도체 기업의 HBM3E와 HBM4 공급 일정에 영향이 미칠 수 있으나, AI 시스템을 인간의 가치, 법적 규범, 사용자 의도에 맞게 인코딩하고 고도화하는 AI 정렬(AI Alignment) 연구개발 투자가 늘면서 데이터센터용 메모리 수요 자체는 유지될 전망이다.

다만 미국 상무부의 대중 규제 수위 변화나 빅테크의 설비 투자가 연기될 경우 이 같은 전망은 실현될 수 없다.

이번 앤스로픽의 경고와 빅테크 경영진의 지지는 미국 정치권의 입법 움직임과 맞물려 구체화하는 양상이다.

공화당과 민주당이 합의하는 초당적 AI 통제 법률안 제정이 추진되는 가운데, 국제원자력기구(IAEA)에 준하는 국제 공동 검증·제재 기구 설립 논의로까지 발전하는 분위기다.

민간 자율 규제와 정부 차원의 법적 제재가 결합된 형태의 강력한 글로벌 AI 규제 틀이 가시화될 수 있을지 빅테크와 반도체 산업계의 시선이 집중되고 있다.


심완섭 글로벌이코노믹 기자 ciberwld@g-enews.com