해리 왕자·노벨상 수상자 1100명 "AI 초지능 개발 당장 중단하라"…메타는 21조 원 쏟아부어

노벨상 수상자들과 정책 입안자, 유명인사 1100여명이 인공지능(AI) 초지능 개발을 당장 중단해야 한다는 성명을 냈다. 워싱턴포스트는 지난 22일(현지시간) 비영리단체 퓨처 오브 라이프 인스티튜트가 주관한 공개 성명을 보도했다.

성명에는 제프리 힌턴 등 노벨 물리학상 수상자들과 해리 왕자, 배우 조셉 고든-레빗, 스티븐 배넌 전 트럼프 행정부 고문, 수전 라이스 전 오바마 행정부 국가안보보좌관 등이 이름을 올렸다. 서명자들은 "초지능 개발을 금지해야 한다"며 "강력한 대중 동의와 과학 합의로 기술 안전성이 입증될 때까지 금지령을 유지해야 한다"고 밝혔다.


초지능은 인간과 비슷한 수준인 범용 인공지능을 넘어서는 개념으로, 모든 영역에서 인간 지능을 초과하는 AI 시스템을 뜻한다. 메타와 오픈AI 같은 기술 기업들이 이를 미래 소프트웨어의 목표로 내세우고 있다.

메타 최고경영자(CEO) 마크 저커버그는 지난 6월 스케일AI에 약 150억 달러(약 21조5900억 원)를 투자하고 알렉산더 왕 스케일AI CEO를 영입해 '메타 초지능 연구소' 설립을 공식화했다. 저커버그는 "AI 발전 속도가 빨라지면서 초지능 개발이 현실로 다가오고 있다"며 "메타가 그 길을 이끄는 데 필요한 모든 것을 다할 것"이라고 사내 메모를 통해 밝혔다.
메타는 이를 위해 오픈AI와 구글 딥마인드, 앤트로픽 등에서 최고급 AI 연구자들을 영입했다. 샘 올트먼 오픈AI CEO는 지난달 팟캐스트에 나와 메타가 자사 연구원들한테 이직하면 최고 1억 달러(약 1440억 원) 보상 패키지를 제안했다며 "미친 짓"이라고 비판했다.

AI 전문가 대다수는 초지능 기술이 임박하지 않았다고 본다. 하지만 기술 기업들과 각국 정부는 AI 개발 경쟁을 가속화하고 있어, 성명이 제안한 금지 조치는 현실성이 떨어져 보인다.


퓨 리서치 센터가 올해 봄 실시한 조사를 보면 미국인 절반이 AI를 두고 기대보다 우려가 더 크다고 답했다. 갤럽이 같은 시기 실시한 여론조사에서는 미국인 80%가 기술 발전을 늦추더라도 AI 규제가 필요하다고 응답했다.

그러나 트럼프 행정부는 최소 규제 기조를 유지하고 있다. 트럼프 대통령은 지난 7월 'AI 행동 계획'을 내놓으며 "과도한 규제를 걷어낸 AI 혁신 경쟁에서 미국이 이겨야 한다"고 강조했다. 이에 따라 조 바이든 전 대통령이 도입한 AI 안전 행정명령을 철회했다. 트럼프 행정부는 또 특정 AI 법안을 통과시킨 주에 연방 자금 지원을 차단하는 방안을 추진하고 있다.

테드 크루즈 공화당 상원의원은 AI 기업들이 외부 규제에서 2년간 면제받을 수 있는 법안을 냈다. 메타와 벤처캐피털 회사 앤드리슨 호로위츠는 최근 몇 달간 엄격한 AI 규제를 반대하는 후보들을 지원하는 정치행동위원회를 세웠다.


연방 정부와 달리 주 정부 차원에서는 AI 규제가 강화되는 추세다. 미국 전체 주 절반 이상이 AI 법안을 통과시켜 전국에 규제 모자이크가 만들어졌다.

캘리포니아 주지사 개빈 뉴섬은 지난달 AI 기업들이 자사 기술의 '재앙 위험'을 담은 안전 보고서를 공개하도록 하는 법안에 서명했다. 이 법은 해커들이 암호화 소프트웨어를 깨거나 테러리스트들이 새로운 생물학 무기를 만드는 것 같은 위험을 자세히 기록하도록 요구한다.

뉴섬 주지사는 이달 들어 AI 챗봇이 미성년자와 대화하는 방식을 규제하는 미국 최초 법안에도 서명했다. 이는 세 미국 가정이 AI 챗봇이 10대 자살에 영향을 끼쳤다고 주장하며 제기한 별도 소송 뒤에 나온 조치다.

호건 러벨스 법률사무소 케이티 밀너 파트너는 "AI 규제 상황이 빠르게 바뀌고 있다"며 "AI 도구 사용이 급증하면서 정책 입안자들이 본격적으로 대응하고 있고, 의회와 주 정부들은 데이터 사생활 보호와 정부 활용 같은 이슈를 두고 수백 개 AI 법안을 냈다"고 설명했다.


퓨처 오브 라이프 인스티튜트의 앤서니 아기레 공동창업자 겸 전무이사는 "많은 사람들이 과학, 의학, 생산성 등의 혜택을 위해 강력한 AI 도구를 원한다"며 "하지만 AI 기업들이 택한 길, 즉 인간을 대체하도록 설계된 인간보다 똑똑한 AI를 향해 달려가는 것은 대중이 원하는 바와 크게 동떨어져 있다"고 말했다.

제프리 힌턴은 오늘날 AI 도구의 토대를 마련한 것으로 평가받는 AI 연구자로, 지난 2023년 구글을 떠난 뒤 AI 기술 우려를 더 자유롭게 표현하고 있다.

한편 퓨처 오브 라이프 인스티튜트는 2023년에도 일부 기업 리더와 AI 연구자들이 더 강력한 AI 훈련을 6개월간 '중단'할 것을 요구하는 공개 서한을 조직한 바 있다. 하지만 이는 기술 산업 속도를 늦추지 못한 것으로 보인다.


박정한 글로벌이코노믹 기자 park@g-enews.com