AI 위험 인정한 올트먼 “그래도 기업 믿어달라”…자율규제 논쟁 확산

샘 올트먼 오픈AI 최고경영자(CEO)가 인공지능(AI)의 급속한 발전을 두려워하는 것은 정당하다고 인정하면서도 IT기업들이 스스로 안전을 관리할 수 있다고 주장했다.

AI 업계 수장들이 최근 잇따라 기술의 잠재적 위험을 인정하는 가운데 정부 규제보다 기업 자율규제에 무게를 두면서 이를 믿기 어렵다는 업계 안팎의 반론도 거세지고 있다.

16일(이하 현지시각) BBC에 따르면 올트먼 CEO는 전날 미국 샌프란시스코에서 열린 소프트웨어업체 세일즈포스의 연례 행사에서 AI 기업들이 올바른 선택을 할 것이라고 신뢰해달라고 말했다.

올트먼 CEO는 “세계는 우리가 올바른 일을 할 것이라고 믿어야 한다”며 AI 기업들이 자신들이 다루는 기술의 중요성을 충분히 인식하고 있다는 취지로 말했다.
동시에 그는 AI 기술의 능력이 빠르게 발전하면서 위험에 대한 우려도 정당해졌다고 인정했다.

올트먼은 과거보다 AI가 어떤 방식으로 잘못될 수 있는지 상상하기 쉬워졌다며 “세계가 이를 두려워하는 것은 옳다고 생각한다”고 말했다.

◇위험 인정하면서도 “기업이 스스로 관리 가능”

올트먼 CEO의 이같은 발언은 최근 AI 업계 내부에서 인류의 생존까지 위협할 수 있다는 강한 경고가 잇따르는 가운데 나왔다.

앤스로픽을 퇴사한 연구자 제이컵 콕슨은 최근 AI를 제대로 통제하지 못하면 2030년 말까지 인류를 모두 죽일 수도 있다고 주장했다.
일부 AI 경영진과 전문가들이 그의 우려에 동조했지만 구체적으로 AI가 어떤 경로를 통해 이런 결과를 초래할 수 있는지는 명확히 제시하지 않았다.

다리오 아모데이 앤스로픽 CEO는 이후 최첨단 AI 개발 속도를 늦추고 정부가 업계를 규제해야 한다고 촉구했다.

올트먼 CEO와 데미스 허사비스 구글 딥마인드 공동창업자, 일론 머스크도 아모데이가 제기한 AI 위험과 속도조절 필요성에는 공감했다.

그러나 정부가 규제를 주도해야 하는지를 놓고는 업계 내부의 의견이 크게 갈린다.

올트먼 CEO는 AI 기업들이 스스로 안전을 관리할 능력이 있다고 주장했다.

그는 AI의 정렬과 안전 수준을 기술 능력보다 충분히 앞서 유지할 수 없다면 개발 속도를 늦추거나 멈출 것이라고 밝혔다.

정렬은 AI가 인간의 가치와 의도에 맞게 행동하도록 만드는 기술과 연구를 의미한다.

◇젠슨 황 “새 법·규제 필요 없다”

젠슨 황 엔비디아 CEO도 같은 행사에서 정부의 새로운 AI 규제에 부정적인 입장을 밝혔다.

황 CEO는 새로운 법이나 규제가 필요하지 않으며 AI 기업이 새 기술을 공개할지 여부를 외부 기관이 아닌 기업 스스로 결정해야 한다고 주장했다.

그는 AI 안전을 ‘공학적 문제’로 규정하면서 혁신 속도와 안전 가운데 하나만 선택해야 한다는 구도는 잘못됐다고 말했다.

기업이 제품 안전성이나 통제 능력에 확신을 잃는다면 스스로 개발을 잠시 멈추고 문제를 해결해야 한다는 것이다.

마크 저커버그 메타 CEO도 AI 기업에는 자체적으로 안전조치를 취할 능력과 경제적 유인이 있다고 주장했다.

그는 AI 정렬 문제에 충분히 투자하지 않는 연구소는 경쟁에서 뒤처질 것이며, 모델이 피해를 일으키면 기업이 상당한 법적 책임을 질 수 있기 때문에 안전 확보에 강한 동기가 있다고 밝혔다.

◇“기업에 맡기는 건 막대한 위험 놓고 주사위 굴리기”

반론도 만만치 않다.

잭 클라크 앤스로픽 공동창업자는 AI를 사실상 완전한 무규제 산업으로 방치하는 것은 “막대한 위험을 놓고 주사위를 굴리는 것”이라고 BBC에 말했다.

현대 AI 연구의 개척자로 평가받는 요슈아 벤지오도 영리기업 밖에서 AI 위험에 대응하기 위한 적극적인 노력이 필요하다고 주장했다.

얀 르쿤이 의장을 맡고 있는 로지컬인텔리전스의 패트릭 힐먼 최고운영책임자(COO)는 대중이 기술기업이 공익을 위해 자발적으로 행동할 것이라고 믿지 않는다는 점을 지적했다.

그는 기업들이 자신들이 만드는 기술이 정말 위험하다고 믿는다면 무엇을 실제로 중단할 준비가 돼 있는지 보여줘야 한다고 주장했다.

미 정치권에서도 기업 자율규제에 대한 비판이 나온다.

무소속 버니 샌더스 상원의원은 AI를 둘러싼 결정권이 세계에서 가장 부유한 소수에게 맡겨졌다고 비판했다.

도널드 트럼프 미국 대통령의 전 백악관 수석전략가 스티브 배넌도 기술업계 거물들이 스스로를 규제할 것이라고 믿어서는 안 된다고 주장했다.

◇트럼프는 AI 안전 우려 “사기극” 규정

반면 트럼프 대통령은 최근 AI에 대한 추가적인 안전규제 요구를 강하게 비판했다.

트럼프 대통령은 AI 안전에 대한 공포를 ‘사기극’이라고 규정하면서 미국 기업의 AI 개발 속도를 늦추는 규제가 중국과의 경쟁에서 미국에 불리하게 작용할 수 있다고 주장했다.

그는 AI에 필요한 안전장치는 강하고 똑똑한 대통령이라고 말하며 정부 규제 확대 요구에 부정적인 입장을 나타냈다.

미 의회에서도 AI 규제를 둘러싼 합의는 이뤄지지 않고 있다.

올트먼 CEO는 2023년 의회 증언 이후 첨단 AI를 위한 기본적인 규제 틀이 마련될 것으로 예상했지만 아직 실현되지 않았다고 이달 초 말했다.

그는 기술 발전 속도가 워낙 빠른 데다 혁신을 늦추지 않으면서 규제하는 문제를 놓고 의회가 어려움을 겪고 있다고 평가했다.

중간선거를 앞두고 의회 일정까지 촉박해지면서 단기간에 새로운 AI 안전법이 나올 가능성도 높지 않다고 BBC는 전했다.

◇오픈AI·앤스로픽·구글, 자율 안전표준 논의

정부 차원의 규제가 교착상태에 빠진 사이 주요 AI 기업들은 업계 공동 안전기준 마련을 추진하고 있다.

아모데이 CEO는 앤스로픽이 다른 AI 기업들과 더 강화된 안전기준과 AI 개발 점검 방식을 마련하기 위한 협의를 진행하고 있다고 밝혔다.

크리스 리헤인 오픈AI 최고대외협력책임자도 “오픈AI가 앤스로픽, 구글 딥마인드 등과 최첨단 AI 안전표준을 마련하기 위해 협력하고 있다”고 밝혔다.

아모데이 CEO는 AI 붐에서 가장 예상하지 못했던 점은 기술 자체의 발전보다 기업들이 얼마나 빠르게 성장하고 사회의 핵심적인 존재가 됐는지라고 평가했다.

AI 기업들이 한편으로는 기술의 심각한 위험을 공개적으로 인정하면서 다른 한편으로는 정부의 직접 규제보다 기업 스스로 마련하는 안전장치를 선호하면서 AI를 누가, 어떤 방식으로 통제해야 하는지를 둘러싼 논쟁은 더욱 커지고 있다.


김현철 글로벌이코노믹 기자 rock@g-enews.com