;)
;)
이미지 확대보기
오픈AI는 최첨단 인공 지능 소프트웨어인 GPT-4를 이용해 생화학 무기를 만들 수 있나 여부를 실험을 통해 관찰했다. 결론은 약간의 위험이 없지 않으나 아직 큰 위협은 없는 것으로 드러났다.
인공지능 열풍이 불면서 미국 의회와 일부 기술 기업 임원들 사이에 인공 지능이 나쁜 사람들에 의해 생화학 무기 개발을 더 쉽게 만들 수 있을지 여부에 대한 우려가 제기됐다.
조 바이든 대통령은 지난해 10월 인공 지능에 관한 행정 명령을 서명하여 에너지부에 AI 시스템이 화학, 생물학 또는 핵 위험을 일으키지 않도록 보장하는 방안을 마련하도록 지시했다.
같은 달 오픈AI는 이 같은 위험을 최소화하기 위한 준비 팀을 구성했다. 첫 연구의 일환으로 오픈AI의 연구자들은 50명의 생물학 전문가와 대학 수준의 생물학을 수강한 50명의 학생으로 구성된 그룹을 꾸렸다.
참가자의 절반에겐 특정한 질문에 대한 답변에 제한이 없는 GPT-4를 사용해 생물학적 위협과 관련된 작업을 수행하라는 임무가 부여됐다. 다른 그룹은 GPT-4가 아닌 일반 인터넷 액세스만 제공 받았다.
오픈AI 팀은 충분한 양으로 무기로 사용될 수 있는 화학물질을 성장하거나 배양하는 방법, 그리고 그것을 특정 인구 집단에 배포하는 방법을 찾도록 지시했다.
두 그룹의 결과를 비교한 연구자들은 GPT-4를 사용한 쪽이 "정확성과 완전함에서 조금 더 향상된 것"을 알아냈다. 연구자들은 GPT-4를 이용한 그룹이 "생물학적 위협을 가하기 위한 정보 습득에 유리하다"는 결론을 내렸다.
준비 팀을 이끈 MIT 알렉산더 매드리 교수는 블룸버그통신에 “이번 연구는 오픈AI 기술의 오·남용 가능성을 이해하기 위해 진행 중인 여러 연구 중 하나”라고 말했다.
또 다른 연구팀은 인공 지능이 사이버 보안 위협을 만드는 데 사용될 수 있는 가능성과 사람들의 신념을 바꾸기 위한 도구로서의 역할을 탐구하는 것으로 알려졌다.
성일만 글로벌이코노믹 기자 texan509@g-enews.com
