"AI가 스스로 더 똑똑하게 만든다"… 中 Z.ai 창립자 "자기개선, AGI로 가는 분수령"

인간의 지적 능력을 전반적으로 넘어서는 범용인공지능(AGI)을 구현하기 위한 핵심 통로로 '재귀적 자기개선(RSI·Recursive Self-Improvement)'이 급부상하고 있는 가운데, 중국의 대표적 인공지능 석학이 "RSI는 기존 연구개발(R&D) 체계를 완전히 뒤바꿀 패러다임 전환이지만, 철저한 안전장치 마련이 선행되어야 한다"고 경고했다.

오픈AI(OpenAI)와 앤스로픽(Anthropic) 등 미국 빅테크들이 자체 AI를 모델 개발과 코딩 작업에 대거 투입하며 'AI가 AI를 진화시키는 루프'를 가동하기 시작한 데 이어, 중국의 핵심 파운데이션 모델 진영에서도 RSI를 차세대 개발의 표준 프로세스로 공식화한 것이다.

11월 1일(현지시각) 홍콩 사우스차이나모닝포스트(SCMP)에 따르면, 칭화대학교 컴퓨터공학과 교수이자 중국의 선도적 AI 모델 기업 Z.ai(즈푸AI·Zhipu AI)의 공동 창립자인 탕제(Tang Jie) 교수는 상하이에서 열린 '세계 수상자 포럼(World Laureates Forum)' 기조연설에서 이같이 밝혔다.

탕 교수는 "인공지능을 활용해 한층 더 똑똑한 차세대 시스템을 구축하는 재귀적 자기개선(RSI)은 인류가 AGI에 도달하기 위해 반드시 풀어야 할 최대 핵심 연구 과제"라며 "RSI는 AI 모델 개발 속도를 지금과는 비교할 수 없을 정도로 폭발적으로 가속할 완전히 새로운 R&D 패러다임"이라고 규정했다.

RSI는 한 번 학습된 모델이 고정되는 것을 넘어, AI가 스스로 코드를 작성하고 아키텍처를 검증하며 후속 모델의 학습 환경과 추론 엔진을 고도화하는 자율 피드백 루프를 의미한다.

실제로 글로벌 최선두 AI 연구소들은 이미 RSI의 초기 단계에 본격 진입했다.

미국 앤스로픽은 지난 9월 발표한 내부 보고서에서 지난 8월 기준 사내 AI R&D 업무의 무려 26%를 자사 AI 시스템(클로드)이 주도적으로 수행하고 있다고 공개했다. 지난 3월 해당 비중이 고작 1% 수준에 불과했던 점을 감안하면, AI가 연구원 역할을 대체하는 속도가 기하급수적으로 빨라지고 있음을 보여준다.

중국 독자 거대언어모델인 'GLM(General Language Model)' 시리즈를 개발해 온 Z.ai 역시 실전 배치를 확대하고 있다.

Z.ai는 지난달 최신 주력 모델인 'GLM-5.3'이 중국산 신경망처리장치(NPU) 환경에서 모델을 초고속·고효율로 구동하기 위한 자체 '추론(Inference) 인프라' 최적화 작업을 직접 완수했다고 밝혔다.
초대형 파운데이션 모델이 자사의 하드웨어 구동 인프라를 직접 튜닝하고 효율화한 사례는 글로벌 업계에서도 유례를 찾기 힘든 성과로 꼽힌다.

탕 교수는 "최첨단 AI가 단순 대화형 챗봇에서 벗어나 복잡한 과학 연산과 자율 연구를 수행하는 'AI 에이전트'로 진화함에 따라, 인간 연구진은 막대한 공학적 난도와 재정적 한계에 부딪히고 있다"며 "더 강력한 후속 시스템을 만들기 위해 AI 자체의 지능을 연구 파트너로 활용하는 것은 극히 필연적인 수순"이라고 설명했다.

"반도체 설계부터 모델 진화까지"… 올해 포럼 관통한 'RSI 혁신'

이번 상하이 세계 수상자 포럼에서는 글로벌 및 중국 내 유수의 과학자들과 산업계 리더들이 한자리에 모여 AI가 반도체 설계 및 제조 공정을 혁신하는 사례들을 집중 조명했다.

AI를 구동하는 핵심 반도체 칩 설계를 AI가 직접 지원하고, 그 칩으로 더 진보된 AI를 훈련시키는 이른바 '실리콘-알고리즘 공진화 루프'가 가시화되고 있다는 분석이다.

탕제 교수는 중국 AI 생태계의 '대부'로 평가받는다.

그는 2019년 칭화대 지식공학연구실(KEG)에서 연구성과를 스핀오프(분사)해 Z.ai(즈푸AI)를 설립했으며, 그의 지도를 거친 수많은 제자들은 현재 중국 AI 업계의 중추로 활약하고 있다.

글로벌 오픈소스 진영에서 두각을 나타낸 문샷 AI(Moonshot AI)의 창업자 겸 CEO 양즈린(Yang Zhilin) 역시 탕 교수의 대표적인 수제자다.

"인간 개입 불가능한 통제 불능 위험"… "전 세계가 공동 안전 기준 세워야"

그러나 AI의 자율 진화 속도가 인간의 인지 및 제어 한계를 넘어서는 순간, 기술적 파국을 초래할 수 있다는 엄중한 경고도 동시에 쏟아졌다.

포럼에 참석한 전문가들은 RSI가 본격적인 가속 단계에 접어들 경우, 내부 메커니즘을 인간이 해석할 수 없는 '불투명성'이 극대화되어, 시스템 오류나 사이버 무기화 등의 위협에 인간이 사후 개입조차 하지 못할 위험성을 지적했다.

탕 교수 역시 이러한 실존적 위험을 인정하며, 인류가 기술의 통제선 앞에서 겸손한 자세를 유지해야 한다고 호소했다.

그는 "인간 연구자들은 스스로 진화하는 RSI 기술 앞에서 반드시 '겸손'해야 하며, AI가 안전하게 발전할 수 있도록 책임을 전 지구적으로 분담해야 한다"고 역설했다.

이어 "개별 국가 차원의 규제에 그칠 것이 아니라, 아마도 전 세계 모든 국가가 다 함께 참여해 한 나라의 이익이 아닌 '인류 전체의 안전'을 영구히 보장할 수 있는 보편적 거버넌스 기구를 구축해야 할 시점"이라고 촉구했다.

글로벌 인공지능 전문가들은 "미국과 중국의 선도 연구소들이 일제히 RSI를 차세대 핵심 경로로 선언한 것은 AGI 도달 시점이 종전 예상보다 크게 앞당겨질 수 있음을 시사한다"며 "AI 모델 간의 자체 개선 경쟁이 가열되는 만큼, 시스템의 자율성을 통제할 '글로벌 안전 빗장'을 마련하는 작업이 향후 미·중 기술 외교의 최대 승부처가 될 것"이라고 평가했다.


신경원 글로벌이코노믹 기자 shincm@g-enews.com