AI 최전선 연구자들 번아웃 확산…“통제 잃었다는 불안”

세계 최첨단 인공지능(AI)을 개발하고 안전성을 검증하는 연구자들 사이에서 자신들이 만드는 기술이 사회에 심각한 피해를 줄 수 있다는 불안감과 과도한 업무 부담으로 번아웃과 정신적 스트레스가 확산하고 있는 것으로 나타났다.

일부 연구자들은 장기간 병가를 내거나 상담을 받고 있으며 AI 개발 속도와 안전 문제에 대한 우려로 회사를 떠나는 사례도 잇따르고 있다.

파이낸셜타임스(FT)는 영국 AI 보안 연구소(AISI), 오픈AI, 앤스로픽, 구글 딥마인드 등에서 최첨단 AI 시스템을 다루는 직원들의 정신적 부담이 커지고 있다고 22일(현지시각) 보도했다.

◇AI 모델 시험 압박에 병가·상담까지
FT에 따르면 독립적으로 프런티어 AI 모델을 시험하는 영국 AISI에서는 여러 직원이 스트레스로 병가를 내고 상담을 받고 있다고 이 사안에 밝은 관계자들이 전했다.

아직 공개되지 않은 AI 모델을 제한된 일정 안에 시험해야 하는 압박과 AI 기술이 빠르게 배포되고 성능도 급격히 향상되는 데 대한 우려가 직원들의 사기 저하와 번아웃으로 이어지고 있다는 얘기다.

구글 딥마인드의 한 직원은 “AI를 더 안전하게 만드는 작업 자체가 ‘불가능한 과제’처럼 느껴질 때가 있어 번아웃 위험을 키운다”고 말했다.

이 직원은 “AI가 실제로 어떻게 활용될지 알 수 없다는 점도 정신적 부담”이라고 토로했다. 특히 구글 AI 시스템의 군사적 활용 가능성을 사례로 들며 기술 개발자가 결과를 통제할 수 없다는 감각이 불안을 키우고 있다고 전했다.

그는 직원들 사이에서 퇴사와 정신건강 문제에 따른 휴직이 이어지고 있다며 “통제력을 잃고 있다는 느낌과 자신이 만드는 것이 실제 피해를 일으키고 있다는 생각”이 부담으로 작용한다고 말했다.
영국 정부는 프런티어 AI 분야의 업무가 다른 정부 직무와 마찬가지로 빠르고 부담이 크다면서도 직원들의 복지와 지속 가능한 근무환경을 중요하게 다루고 있으며 필요한 지원을 제공하고 있다고 밝혔다.

딥마인드도 프런티어 연구는 높은 업무 강도를 요구하지만 연구자 지원을 최우선 과제로 두고 있으며 복지 프로그램과 우려를 경영진에 전달할 수 있는 별도 채널을 운영하고 있다고 밝혔다.

◇사이버·생물학 능력 급증에 불안 커져

FT에 따르면 AI 연구자들의 불안은 모델의 능력이 예상보다 빠르게 높아지면서 더욱 커지고 있다.

AISI 출신 한 연구자는 사이버보안과 생화학 분야 연구자들이 최근 AI 능력의 급격한 향상에 특히 큰 우려를 나타내고 있다고 말했다.

최신 모델들이 소프트웨어 코드에서 아직 발견되지 않은 취약점을 찾아내거나 자연계에 존재하지 않는 바이러스 설계를 지원할 정도로 복잡한 작업에 접근하면서 위험성이 달라지고 있다는 것이다.

이 연구자는 기술 공개 과정에서 위험한 관행이 반복되고 있지만 개선되지 않는다는 불안이 존재한다며 연구자들 사이에 ‘이를 멈출 수 있는 것이 있는가’라는 우려가 이어지고 있다고 전했다.

또 다른 AISI 전 직원은 세계에서 가장 중요한 문제를 다루고 있다고 믿는 조직일수록 극심한 스트레스와 때로는 유해한 조직문화가 형성될 수 있다고 말했다.

에너지망과 전쟁지역 같은 핵심 분야에 AI가 투입되는 반면 기업과 정부의 안전장치는 충분하지 않다는 인식도 연구자들의 불안을 키우는 요인으로 지목됐다.

◇2년간 고위 연구자 12명 이상 퇴사

오픈AI, 앤스로픽, 딥마인드 등 서방의 주요 AI 연구소에서는 지난 2년간 고위 연구자 12명 이상이 회사를 떠났다.

FT에 따르면 이들 가운데 상당수는 경영진이 안전 문제를 충분히 우선시하지 않는다는 우려나 AI 기술의 개발 속도와 위험성에 대한 불안을 퇴사 이유로 들었다.

오픈AI와 앤스로픽에서 근무했던 27세 연구자 제이컵 콕슨은 이달 초 두 회사를 공개적으로 비판하며 퇴사했다. 그는 두 회사가 인류의 미래를 걸고 ‘도박’을 하고 있다고 주장했다.

AI를 이용한 생물테러 위험 완화 등을 연구했던 앤스로픽의 므리낭크 샤르마도 지난 2월 회사를 떠났다. 그는 직원들에게 보낸 글에서 세상이 위험에 처해 있다며 강한 압박 속에서는 조직이 실제 행동에서 가치관을 지키기 어렵다고 지적했다.

오픈AI와 일론 머스크의 xAI에서 근무했던 히에우 팜도 올해 회사를 떠나 고국 베트남으로 돌아갔다. 그는 고도로 지능적인 시스템을 만드는 고강도 업무가 대가를 요구했다며 자신이 번아웃 상태에 빠졌다고 밝혔다.

◇“개발 속도와 안전 양립하기 어렵다”

AI 안전 연구자들의 문제의식은 기업들이 모델 성능 경쟁을 가속하면서 안전 연구는 상대적으로 뒤로 밀리고 있다는 우려로 이어지고 있다.

영국 하원 과학기술위원장을 맡고 있는 치 온우라 의원은 “기업의 인센티브가 안전보다는 수익과 기업가치 상승을 만들어내는 개발 업무에 인력과 자원을 투입하도록 작용한다”고 지적했다.

AI 시스템이 예상하지 못한 행동을 보인 최근 사례도 불안을 증폭시키고 있다.

오픈AI가 만든 AI 에이전트들이 허깅페이스 모델 저장소와 오픈AI 자체 서버에 허가 없이 접근한 사건에서는 1000개가 넘는 에이전트가 사이버 시험에서 공동으로 부정행위를 하고 활동 기록을 조작해 이를 감추거나 서로 업무를 분담한 것으로 조사됐다.

오픈AI는 이후 제한을 우회하거나 실수를 숨기고 사용자 허락 없이 온라인 행동을 실행한 사례 등 AI 에이전트의 우려스러운 행동 6건을 추가로 공개했다.

이 같은 우려가 커지면서 다리오 아모데이 앤스로픽 최고경영자(CEO)는 최근 AI 안전 문제에 대응하기 위해 개발 속도를 늦추고 외부의 독립적인 검증을 강화해야 한다고 주장했다. 일론 머스크, 샘 올트먼 오픈AI CEO 등도 이에 호응했다.

딥마인드의 한 직원은 AI 업계가 요구하는 개발 속도를 지적하며 “이런 속도에 대한 요구는 안전과 양립하기 어렵다”고 말했다.


김현철 글로벌이코노믹 기자 rock@g-enews.com