이미지 확대보기
21일 온라인으로 열린 ‘AI서울정상회의(AI서밋)’서 한국과 영국 정부는 “올해 연말께나 혹은 내년 초 열리는 프랑스 AI 정상 회의까지 중대 위험에 초점을 맞춘 안전 프레임워크인 프런티어 AI 안전 지침을 발표할 것”이라며 “기술이 발전함으로 인해 AI는 현재보다 크게 진화할 수 있으며, 이 경우 공공 업데이트를 통해 투명성을 제공하겠다”고 선언했다.
또 테슬라의 일론 머스크와 구글의 전 CEO 에릭 슈미트, 데미스 허사비스 구글 딥 마인드 회장, 아서 멘슈 미스트랄AI 회장, 안나 마칸주 오픈AI 부사장, 브래드 스미스 마이크로소프트 사장, 데이비드 자폴스키 아마존 웹-서비스 부회장, 닉 클레그 메타 사장, 다리오 아모데이 앤트로픽 회장, 삼성전자 이재용 회장, 이해진 네이버 창업자, 및 기타 AI 업계 리더들이 참석했다.
이번 AI서울정상회의에는 카멀라 해리스 미국 부통령, 저스틴 트뤼도 캐나다 총리, 올라프 숄츠 독일 총리, 로런스 웡 싱가포르 총리, 기시다 후미오 일본 총리, 조르자 멜로니 이탈리아 총리, 에마뉘엘 마크롱 프랑스 대통령, 베라 요우로바 EU 부집행위원장이 모습을 드러냈다.
앤서니 앨버니지 호주 총리는 일정상 정상회의에는 참여하지 못했으나 서울선언 채택에 이름을 올렸으며, 국제기구 대표로는 안토니우 구테흐스 유엔 사무총장, 마티아스 코먼 OECD 사무총장이 참여했다.
이들은 리시 수낙 영국 총리와 윤석열 한국 대통령이 주최한 화상 회의에서 주요 7개국(G7), 유럽연합(EU), 싱가포르, 호주, 한국의 광범위한 프런티어 AI 안전 지침에 대한 지지를 표명했다.
윤석열 대통령은 이 자리에서 딥페이크와 같은 위험에 대한 우려를 언급하며 "우리 사회의 안녕과 민주주의를 보호하기 위해 AI의 안전성을 보장해야 한다"고 말했다. 이에 따라 한국 정부는 각국이 AI 안전, 혁신, 포용성을 우선시하기로 합의했다고 밝혔다.
참석 기업의 대표자들은 거버넌스 프레임워크 간의 상호 운용성, 안전 기관 네트워크 계획, 합의를 기반으로 한 국제기구와의 참여가 AI리스크 대처를 위한 새로운 장을 열었다고 평가했다.
이들은 위험 측정을 위한 안전 프레임워크를 공개하고, 위험을 충분히 완화할 수 없는 모델을 피하며, 거버넌스와 투명성을 보장하기로 약속했다.
AI 모델 안전성을 증진하는 단체인 METR의 설립자 베스 반스는 이 선언에 대해 "AI 개발이 공공 안전에 용납할 수 없을 정도로 위험해질 수 있는 '레드라인'에 대한 국제적 합의를 이끌어내는 것이 중요한 부분"이라고 말했다.
'AI의 대부'로 알려진 컴퓨터 과학자 요슈아 벤지오도 이런 선언을 지지함과 동시에 자발적 약속에는 규제가 수반되어야 한다고 지적했다.
또한 대형 언어 모델 회사 코히어의 공동 설립자 에이단 고메즈는 “11월 이후 AI 규제에 대한 논의는 장기적인 종말 시나리오에서 의료나 금융과 같은 분야에서 AI를 사용하는 방법과 같은 보다 실용적인 문제로 옮겨가게 될 것”이고 전망했다.
한편, 차기 회의는 'AI 행동 정상회의'(AI Action Summit)라는 명칭으로 프랑스에서 개최된다.
이용수 글로벌이코노믹 기자 piscrait@g-enews.com
