;)
;)
이미지 확대보기
그러나 AI가 아무리 첨단을 걷더라도, 첨단 AI를 활용한 자동화 기술의 급격한 확산 추세 속에서도 사람을 대체하는 것이 어려운 영역도 여전히 존재한다.
유해한 콘텐츠를 거르는 것부터 가짜뉴스를 규제하는 것에 이르기까지 온라인 콘텐츠를 관리하는 일이 대표적이다.
세계적인 소셜미디어 페이스북과 트위터의 후신 X가 콘텐츠 관리팀을 운영하면서도 늘 논란에서 자유롭지 못했던 것도 콘텐츠 관리가 얼마나 어려운 일인지를 잘 보여준다.
16일(현지 시간) 더버지에 따르면 챗GPT를 세상에 내놔 초대박을 터뜨리면서 제2의 자동화 혁명을 이끌고 있는 오픈AI가 인간도 어려움을 겪는 콘텐츠 관리 업무에도 챗GPT를 투입해 새 장을 열겠다고 선언해 주목된다.
그러나 오픈AI의 선언이 야심 찬 것은 사실이지만 유보적으로 또는 회의적으로 바라보는 시각도 만만치 않다.
◇오픈AI “GPT-4, 콘텐츠 관리 업무에 전면 투입 가능”
이미지 확대보기
오픈AI가 내놓은 야심 찬 카드는 챗GPT의 가장 최신 버전인 ‘GPT-4’다.
지난 6월 출시된 GPT-4는 현재 전 세계적으로 인기몰이 중인 챗GPT에 적용된 대규모 언어모델(LLM) GPT-3.5의 업그레이드 버전이다.
텍스트뿐 아니라 이미지까지 인식할 수 있어 기존 버전보다 인식 능력이 크게 향상됐고, 고급 단계의 추론 능력까지 갖췄다는 것이 오픈AI가 밝힌 새로운 특징이고, 이를 기반으로 온라인 콘텐츠를 관리하는 일까지 가능하다는 것이 오픈AI의 주장이다.
더버지에 따르면 오픈AI는 최근 홈페이지에 올린 글을 통해 GPT-4 기술을 콘텐츠 관리 업무에도 적용하겠다고 선언했다.
릴리안 웡 오픈AI 안전시스템 총괄은 이 글에서 “현실적으로 부딪히고 있는 콘텐츠 관련 문제들을 관리하는 업무에 AI 기술을 활용할 수 있는 길이 열렸다는 것은 인류 사회 입장에서 보면 매우 커다란 진전”이라고 주장했다.
웡 총괄은 악시오스와 한 인터뷰에서도 “AI 기술을 콘텐츠 관리 업무에 본격적으로 투입하게 되면 많은 사람을 투입해야 하는 일도 없어질 것”이라면서 “사람은 AI 시스템이 잘 작동하는지 정도만 감독하고 애매한 부분에만 개입하는 정도로 역할을 줄이는 것이 가능하다”고 전망했다.
알고리즘으로 상징되는 AI 기술로 유튜브, 페이스북, X 등 상당수 소셜미디어에서 유해성 콘텐츠나 문제성 콘텐츠를 거르는 작업은 진작부터 있었다.
그러나 오픈AI가 주장하는 것이 이와 다른 점은 대규모로 콘텐츠를 관리하는 일이 GPT-4를 활용하면 가능하다는 것이다. 이전에는 사람이 주로 콘텐츠를 심의하거나 판단하고 정형화된 콘텐츠 관리 업무에 알고리즘을 제한적으로 투입했다면, GPT-4 이후에는 사람을 거의 대체할 수 있는 수준으로 전면적인 콘텐츠 관리가 가능하다는 것이 오픈AI가 주장하는 바의 핵심이다.
◇오픈AI가 주장하는 ‘AI가 관리하는 콘텐츠 관리’의 이점
오픈AI의 주장은 근거가 있는 것일까. 오픈AI는 AI를 콘텐츠 관리 업무에 투입하면 세 가지 측면에서 이점이 있다고 밝혔다.
첫째는 사람은 똑같은 콘텐츠를 보더라도 사람마다 다른 시각 때문에 콘텐츠를 다르게 이해하는 경향이 있지만, AI는 그런 점에서 비교적 자유롭다는 것. 들쭉날쭉하지 않고 일관성 있는 기준에 따라 콘텐츠를 바라볼 수 있는 게 AI의 강점이라는 뜻이다. 정해진 콘텐츠 관리 방침을 이해하고 숙지하는 데에도 사람의 경우 오랜 시간이 걸릴 수 있는 반면, AI는 매우 짧은 시간 안에 방침을 습득할 수 있다는 것도 장점이라는 게 오픈AI의 주장이다.
둘째로 콘텐츠 관리를 위한 새로운 방침을 수립하는 일의 경우 사람에 비해 AI는 시간이 훨씬 적게 걸린다는 게 오픈AI의 입장이다.
셋째로 사람이 콘텐츠 관리 업무를 할 경우 끔찍한 내용을 보는 일이 불가피하고 이 때문에 개인의 정신건강이 위협받을 수 있지만 AI는 감정이 없기 때문에 그런 문제에서도 자유롭다.
그러나 반론도 적지 않다. 고도의 판단 능력을 요구하는 콘텐츠 관리 업무를 AI가 사람 대신 맡는 것 자체가 쉽지 않다는 것이 회의적인 시각의 공통분모다.
예컨대 외설물처럼 어느 정도 정형화된 콘텐츠의 경우, 즉 거르는 것이 비교적 수월한 낮은 단계의 콘텐츠 관리는 이미 상당수 소셜미디어에서 AI 기술에 기반한 알고리즘을 활용하는 방식으로 거르고 있다.
하지만 유해 정도가 애매하고 규제 대상으로 삼을 때 경계가 모호한 콘텐츠의 경우 인간이 판단할 때도 어려운 경우가 많은데 AI가 이런 문제까지 개입해 제대로 판단하기를 기대하는 것은 불가능하다는 게 회의론자들의 지적이다.
김현철 글로벌이코노믹 기자 rock@g-enews.com
