“인류 시험할 초강력 AI, 1~2년 내 온다”…문명적 위기 경고

인공지능(AI) 발전 과정에서 인류가 ‘종(種)의 존립’을 시험받는 위기에 직면했다는 강력한 경고가 나왔다.

다리오 아모데이 앤스로픽 최고경영자(CEO)는 27일(현지 시각) 영국 가디언 인터뷰와 에세이 ‘기술의 사춘기’를 통해 “앞으로 1~2년 안에 인간 지성을 압도하는 ‘초강력 AI’가 등장할 가능성이 크다”며 전 세계가 이 위험에 즉각 눈을 떠야 한다고 강조했다. 아모데이 CEO는 특히 막대한 경제적 보상에 눈이 멀어 안전 제동장치를 마련하지 못할 경우 인류 문명 자체가 통제 불능의 격동에 빠질 것이라고 내다봤다.


아모데이 CEO는 현재 AI 발전 속도가 지난 10년간의 지수함수적 궤적을 유지한다면, 머지않아 생물학·수학·공학 등 전 분야에서 인간 최고의 지성을 앞서는 모델이 등장할 것으로 분석했다. 그는 “인류는 상상하기 어려운 힘을 손에 쥐기 직전이지만 우리의 사회·정치적 시스템이 이를 다룰 만큼 성숙했는지는 매우 불투명하다”고 지적했다.

그는 최근 발생한 딥페이크 성착취물 논란 등을 언급하며 일부 기업이 보여주는 부주의함이 미래 AI의 자율성 리스크를 관리할 능력이 있는지에 대해 깊은 의구심을 드러냈다. 앤스로픽이 최근 80쪽 분량의 ‘클로드 헌법’을 통해 윤리 지침을 제시했으나 아모데이 CEO는 “AI가 가져다줄 이익이 너무나 달콤해 어느 누구도 스스로 브레이크를 밟기 힘든 ‘함정’에 빠져 있다”며 문명 차원의 결단을 촉구했다.

글로벌 빅테크 기업들은 이미 AI가 스스로 학습해 성능을 높이는 ‘재귀적 자기개선(Recursive Self-improvement)’ 기술 확보에 사활을 걸고 있다. 27일 미국 경제매체 악시오스(Axios)에 따르면, 데미스 허사비스 구글 딥마인드 CEO는 “훈련 종료 후에도 실제 환경(In the wild)에서 스스로 계속 학습하는 모델을 탐구 중”이라고 밝혔다. 샘 올트먼 오픈AI CEO 역시 오는 2028년 3월까지 ‘진정한 자동화 AI 연구원’을 구축하겠다는 로드맵을 내놓았다.

그러나 이러한 ‘자율 진화’는 통제 불가능성이라는 양날의 검을 가졌다. 조지타운대학교 보안·신흥기술센터(CSET)는 보고서에서 AI가 스스로 연구와 코딩을 수행할 경우 리스크 감지가 불가능해질 수 있다고 경고했다. 허사비스 CEO는 “규칙이 명확한 체스나 바둑과 달리 현실 세계는 훨씬 복잡하고 지저분하다”며 목표 달성을 위해 AI가 인간을 속이는 ‘기만술’을 쓸 가능성을 우려했다.


AI의 급격한 진화는 이미 노동시장의 하부 구조를 뒤흔들고 있다. 지난 26일 일본 아사히신문이 인용한 경제산업성(METI) 추정치에 따르면, 오는 2040년 일본 전역에서 AI·로봇 전문 인력이 약 339만 명 부족할 전망이다. 반면 단순 사무직군은 무려 437만 명의 유휴 인력이 발생해 극심한 고용 불균형(Mismatch)이 일어날 것으로 분석됐다.

아모데이 CEO는 AI가 화이트칼라 초급 일자리를 절반으로 줄여 5년 안에 전체 실업률을 20%까지 끌어올릴 수 있다고 경고했다. 일본 정부는 도쿄 등 주요 대도시를 제외한 지방의 인력 공백이 더 심화될 것으로 보고, 사무직 인력에 대한 대대적인 재교육(Reskilling)과 처우 개선이 시급하다고 판단했다.

전문가들은 현재의 상황을 인류 문명이 기술적 성숙기에 접어들기 전에 겪는 ‘사춘기’로 규정한다. 아모데이 CEO는 “우리가 단호하고 주의 깊게 행동한다면 위험을 극복할 확률이 높으며, 그 너머에는 더 나은 세상이 있다”고 낙관하면서도 이는 반드시 강력한 통제와 투명성이 담보되어야 가능하다고 제언했다. 앞으로 AI 기업들의 자율적인 안전 공시를 넘어 정부 차원의 정교한 규제 틀과 노동시장 충격을 완화할 사회적 안전망 구축이 글로벌 핵심 과제로 부상할 것으로 보인다.


박정한 글로벌이코노믹 기자 park@g-enews.com