오픈AI CEO, IAEA 같은 국제감시기구 창설 제안

오픈AI CEO 샘 알트만은 AI가 가지는 치명적 우려를 UN의 핵 감시기구와 같은 국제기구를 통해 감독하는 방안을 AI 문제의 해결책으로 제안했다.

그는 AI가 인류에게 “실존적 위험을 제기한다”고 아랍 에미리트를 방문하는 동안 경고하면서, 국제원자력기구(IAEA)와 같은 국제기구가 획기적인 AI 기술을 감독하면 손실보다 이익을 보호할 수 있다고 제안했다.
현재 생성형 AI 열풍이 불면서 EU는 AI가 초래할 허위 정보와 싸우기 위해 대응책을 고민 중이다. 미국과 EU는 규제 요구가 증가함에 따라 자발적 AI 행동 강령 작성 등으로 대응하고 있지만, 시장의 반응은 더 강력한 대책을 요구하고 있다.

이런 가운데 오픈AI CEO 샘 알트만은 AI에 대해 논의하기 위해 전 세계를 순회 중이다.


인기 챗봇인 오픈AI의 챗GPT는 사용자의 프롬프트에 에세이 같은 답변을 제공해 전 세계의 주목을 끌었다. 마이크로소프트는 여기에 약 1억 달러를 투자했다. 선풍적인 인기가 일어났다.

하지만, AI가 인간이 일하고 배우는 방식을 바꿀 수 있는 방식을 엿볼 수 있는 챗GPT의 성공은 우려를 불러일으켰다.

알트만을 포함한 수백 명의 업계 리더들은 지난 5월 “AI로 인한 코로나 및 핵전쟁과 같은 다른 사회적 규모의 위험을 예방하는 것이 함께 세계적 우선 순위가 되어야 한다”라고 경고하는 서한에 서명했다.

알트만은 정치권과 시장의 우려에 충분히 위협이 될 수 있음을 동의하면서 대책 마련의 필요성에 공감한다.
그는 우리가 심각한 위험에 직면해 있지만, 세계가 직면한 과제는 우리가 이런 위험을 관리하고 엄청난 혜택을 누릴 수 있게 하는 것이라고 말한다. 그는 AI로 세상을 더 좋은 곳으로 만들려는 것이지 파괴하려는 것은 결단코 아니라고 말한다.

알트만은 대책으로 유엔 핵 감시기구인 IAEA가 전 세계 원자력을 감독하기 위해 결합한 방식을 언급했다. 이 기구는 원전 투하 후 몇 년이 지난 다음 결성되었다.

그는 IAEA의 설립 취지인 “좋지만, 매우 위험한 기술에 모두 가드레일을 설치하자”라는 데 주목하자고 말한다. 위험과 기회를 모두 가진 기술을 잘 관리해서 인류를 위해 활용하자는 제안이다.

전 세계의 정치인들은 AI 위해성을 조사하고 있다. 27개국이 회원인 EU는 AI의 사실상의 글로벌 표준이 될 수 있는 AI 법을 추진하고 있다.

알트만도 지난 5월 미국 의회에서 AI와 함께 오는 위험을 통제하기 위해서 정부 개입이 중요하다고 말했다.

그는 아랍을 방문하는 동안 분쟁이 여전한 이곳에서 적으로 간주되는 상대에게 치명적 손상을 주기 위해 얼마든지 가짜 정보를 제작해 대중에게 제공할 수 있다는 지적을 듣고 그 위험에 공감했다.

특정하고 불순한 이익을 위해 정보를 조작하고 누군가를 공격하는 행위를 단속하고 강제적으로 처벌할 수 있는 국제적 합의와 기구가 필요하다는 데 대해 많은 사람들이 공감하고 있다.


박정한 글로벌이코노믹 기자 park@g-enews.com