오픈AI '올트먼 해임'…"한 편의 ‘연구 논문’이 원인"

인공지능(AI) 연구 기업 오픈AI CEO인 샘 올트먼의 축출 배경이 밝혀졌다.

최신 혁신 기술인 AI의 독보적 기업인 오픈AI의 전 CEO인 샘 올트먼은 최근 이사회와의 분쟁에서 승리하고 화려하게 회사로 복귀했다.

이사회와 CEO의 마찰은 소셜 및 전통 미디어에 많은 담론을 불러일으켰다. 양측의 이러한 불일치는 오픈AI와 지주 회사의 영리와 비영리 성격 간의 구분에서 비롯된 것으로 세간에 알려졌다.

하지만 뉴욕타임즈는 이번 올트먼의 축출과 양측의 대립은 이사회 구성원 헬렌 토너(Helen Toner) 교수가 작성한 연구 논문에서 비롯됐다고 보도했다.
헬렌 토너는 MIT 컴퓨터 과학과 교수이자 소프트웨어 연구소 소장으로, AI 윤리와 안전 분야 연구로 잘 알려져 있다. 오픈AI의 윤리 지침 개발에도 참여했다.

토너 교수는 오픈AI의 윤리 지침 개발에 참여하면서 AI의 윤리적 사용을 위한 10가지 원칙을 제안했다. 이 원칙은 AI의 개발과 사용에 있어서 인간에게 이익이 되어야 하고 인간의 통제를 받아야 하는 점을 강조했다.

그녀의 논문은 정부와 기업이 의사소통을 통해 자신의 의도를 명확히 하는 방법을 다루고 있다. 논문에서 ‘신호’라는 통신 도구를 정의하고, 오픈AI의 ‘신호 전달’ 접근 방식이 부적절하다고 비판했다.

특히 그녀의 논문은 GPT-4 모델 출시를 둘러싼 오픈AI 활동에 초점을 맞췄다.

오픈AI는 지난 2023년 3월에 최신 대규모언어모델(LLM)인 GPT-4를 발표했다. 이 모델 자체는 놀라운 기술적 성과였지만 토너 교수는 ‘신호’와의 관련성에서 오픈AI가 안전 약속을 위한 의사소통 도구로서 위험도를 완화하는 데 충분하지 않았다고 판단했다. 이는 GPT-4의 위험에 대한 정보를 제공하는 시스템 카드가 출시되었지만, 시스템 카드가 광범위한 대중에게 충분히 알려지지 않았기 때문이다.

챗GPT의 출시도 거론됐다. 챗GPT가 GPT-4와 유사 기능을 가진 LLM이지만, 오픈AI의 안전 약속을 따르지 않고 서둘러 출시되었다는 것이다. 그는 챗GPT는 누구나 사용할 수 있으며, GPT-4와 마찬가지로 악용될 수 있는 잠재적 위험을 가지고 있다고 평가했다.

또한, 그는 오픈AI의 경쟁업체인 앤트로픽(Anthropic)의 접근 방식을 칭찬했다. 앤트로픽은 클라우드 플랫폼 출시를 연기함으로써, AI 개발과 사용을 잠시 멈추고 안전성과 윤리성을 검토하겠다는 의사를 표명했다.

토너는 이런 결정을 “비용이 많이 드는 억제 신호”라고 정의하면서, 이것이 AI의 발전을 위한 투자를 지연이나 포기하는 것이 아니라, 오히려 AI 안전과 윤리를 확보하기 위해 비용을 지불할 용의가 있다는 의미라고 해석했다.

그는 오픈AI는 GPT-4의 출시를 서두르기보다는, 안전성과 윤리성을 보다 철저히 검토해야 한다는 입장이었다. 이는 오픈AI가 안전보다 속도에 무게를 두고 GPT-4 출시를 서둘렀고, 챗GPT를 안전성 검증 없이 출시를 강했다는 진행했다는 의혹으로 해석됐다.

토너의 논문이 출판된 후 올트먼은 그의 논문에 불만을 표시하고, 이메일을 통해 오픈AI 직원들에게 논문의 내용을 비판했다. 이어 오픈AI의 연구 책임자 일리야 수츠케버를 비롯한 경영진들과 토너를 이사회에서 축출할지를 논의했다.

그러나 수츠케버는 놀랍게도 올트먼의 해고에 손을 들었다. 일리야 수츠케버는 AI 분야의 세계적인 석학으로, 딥러닝 분야의 선구자로 평가받고 있다. 그는 2015년 일론 머스크, 샘 올트먼, 샘 팀블리 등과 함께 비영리 AI 연구소인 오픈AI를 설립했다.

수츠케버의 결정은 오픈AI 내부의 분열을 야기했고, 결국 올트먼의 사임으로 이어졌다. 올트먼은 사임 성명에서 “오픈AI의 미래에 대한 비전을 공유하지 않게 된 것이 유감”이라고 말했다.

오픈AI의 설립자이자 CEO로서 회사의 초기 성공에 중요한 역할을 해왔던 올트먼의 축출 과정은 오픈AI의 미래에 대한 우려를 불러일으켰다. 그가 다시 CEO로 돌아왔지만, 오픈AI가 AI 안전에 대한 약속을 앞으로 계속 유지할 수 있을지에 대한 의문이 제기되고 있다.

이번 논란으로 이사회에서 물러난 이사들도 학계에서 정평이 나 있는 인물들이다. AI 기능의 인간에 대한 기여를 두고 여전히 윤리적 논란이 계속되고 있는 만큼, 올트먼의 오픈AI 복귀가 회사 가치에 마냥 긍정적 측면으로만 작용하지 않을 전망이다.


박정한 글로벌이코노믹 기자 park@g-enews.com