AI가 집필까지…출판시장서 ‘인간 저자’ 프리미엄 부상

생성형 인공지능(AI)이 책의 조사와 집필, 편집, 유통 전반에 빠르게 스며들면서 출판업계에서 ‘사람이 쓴 책’ 자체가 새로운 프리미엄으로 부상하고 있다.

AI가 만든 그럴듯한 허위 정보가 여러 차례의 편집과 검토를 통과하고 AI로 집필됐다는 의혹을 받은 소설이 대형 출판사의 선택까지 받으면서 출판사들은 인간 저술 여부를 계약서와 인증표시로 확인하는 작업에 나섰다.

파이낸셜타임스(FT)는 세계 출판업계가 AI를 창작 보조 도구로 활용할지 인간 저자를 대체할 위협으로 볼지를 놓고 갈라지고 있다고 27일(이하 현지시각) 보도했다.

지난 2025년 세계 도서시장 규모는 1400억달러(약 205조8000억원)에 달했다. AI는 이 거대한 시장에서 책이 기획되고 편집돼 독자에게 전달되는 방식뿐 아니라 독자가 책을 사는 이유까지 바꾸고 있다고 FT는 분석했다.

FT에 따르면 논쟁을 상징적으로 보여준 사례는 미국 작가 스티븐 로젠바움이 쓴 논픽션 ‘진실의 미래’다.

AI와 기술이 진실을 어떻게 바꿀지를 다룬 이 책에는 실제로 존재하지 않거나 출처가 잘못된 인용문이 들어간 것으로 드러났다. 로젠바움은 3년에 걸쳐 책을 조사하고 집필했으며 출판 과정에서도 여러 차례 편집과 검토를 거쳤다.

그는 AI를 원고 작성에 직접 사용하지 않고 자료를 조사·정리하거나 문서와 인터뷰를 요약하는 데 활용했다고 밝혔다.

그러나 AI는 일부 요약 내용을 실제 발언처럼 보이는 직접 인용문으로 바꿨다. 로젠바움도 편집자들도 이를 책이 출간될 때까지 발견하지 못했다.

로젠바움은 “위험한 것은 AI가 나쁜 문장을 쓴다는 점이 아니라 존재하지 않는 사실에 설득력 있는 문장을 붙인다는 점”이라고 말했다.
그는 AI의 환각 현상을 단순한 오타와 구분해야 한다고 지적했다. 오타는 원문과 대조해 찾을 수 있지만 AI가 만들어낸 허위 인용문은 권위 있는 사실처럼 보여 저자와 출판사가 별도의 사실확인 과정을 거쳐야 하기 때문이다.

로젠바움은 현재 전문 사실확인 담당자와 함께 원고를 한 문장씩 다시 검토한 뒤 수정판을 출간할 계획이다. 다만 이번 사건에도 AI 사용 자체를 중단하지는 않겠다는 입장을 밝혔다.

FT에 따르면 출판업계의 우려는 논픽션에 그치지 않는다.

프랑스계 대형 출판사 아셰트는 지난 3월 미아 밸러드의 공포소설 ‘샤이 걸’이 AI로 일부 집필됐다는 의혹이 제기되자 영국에서 판매를 중단하고 미국 출간을 취소했다.

밸러드는 자신이 AI를 사용해 소설을 썼다는 주장을 부인했다.

이 작품은 처음에는 자비출판 형식으로 공개됐지만 독자들의 관심을 받은 뒤 아셰트에 판권이 팔렸다. 정식 출간을 결정한 출판사 내부에서도 작품이 AI로 작성됐을 가능성을 걸러내지 못했다.

출판업계 관계자들은 AI가 만든 원고가 문학 에이전트와 출판사에 대량으로 유입되고 있다고 전했다. 사람이 쓴 글에도 어색하거나 서투른 문장이 있고 숙련된 작가가 AI 원고를 세밀하게 수정하면 AI 탐지기를 통과할 가능성도 있다.

일부 출판 관계자들은 젊은 세대가 AI가 만든 문장을 반복적으로 접하면서 AI 특유의 표현을 자연스러운 문체로 받아들이고 다시 그와 비슷하게 글을 쓰는 악순환이 생길 수 있다고 우려했다.


출판사들은 AI의 허용 범위를 정하기 위해 저자 계약서에 관련 조항을 넣기 시작했다.

일반적으로 자료 조사와 사실확인, 맞춤법 교정, 문법 수정, 긴 자료의 요약 등은 허용할 수 있지만 AI가 실제 원고를 생성하는 것은 금지하는 방식이다.

그러나 조사와 집필의 경계가 명확하지 않다는 문제가 남는다는 지적이다. AI가 자료를 요약하는 과정에서 로젠바움의 책처럼 존재하지 않는 인용문을 만들어낸다면 단순한 조사 보조로 보기 어렵기 때문이다.

AI가 쓴 문장을 작가가 수정했을 때 어느 정도까지 고쳐야 인간 저술로 볼 수 있는지도 정해진 기준이 없다. 출판사와 편집자, 문학 에이전트와 저자마다 허용 범위가 다르다.

블룸즈버리는 출판물에 생성형 AI를 사용하는 것을 금지하고 있다. 다만 인간의 창작을 대체하지 않고 보조하는 일부 상황에서는 AI가 유용할 수 있다는 여지를 남겼다.

반면 일부 독립 출판사는 맞춤법과 문법 교정, 사실확인과 인용문 추가까지 AI 사용을 일절 허용하지 않는다. 이용자가 요청한 범위를 넘어 AI가 원고를 바꿀 수 있다는 이유에서다.

출판사들은 AI 탐지 프로그램도 시험하고 있지만 결과를 전적으로 신뢰하지는 못하고 있다.

미국작가조합은 AI 탐지 결과나 온라인에서 제기된 의혹만을 근거로 출판 계약을 취소하거나 책을 판매대에서 철수시키는 것은 중대한 계약 위반이 될 수 있다고 경고했다.

탐지 기술만으로 AI 사용을 입증하기 어려운 만큼 출판업계에서는 저자와 출판사가 각자의 AI 사용 범위를 서로 공개하는 방식이 현실적인 대안으로 거론된다.

AI가 출판시장에 미치는 영향은 누가 책을 썼는지를 판단하는 문제에 머물지 않는다.

독자들이 자기계발과 요리, 전기, 금융 등 실용적인 정보를 책 대신 챗봇에서 찾으면서 논픽션 판매도 압박받고 있다.

영국의 논픽션 판매량은 2025년 6% 감소했다. 팟캐스트와 유튜브 등 대체 콘텐츠의 영향도 있지만 출판업계에서는 챗봇 사용 증가가 판매 감소와 연관됐다고 보고 있다.

독자들은 베스트셀러 한 권을 직접 읽는 대신 챗봇에 핵심 내용만 요약해 달라고 요청할 수 있다. 생활 속 문제에 대한 즉각적인 답을 원하는 독자에게는 한 권의 책보다 대화형 AI가 편리할 수 있다.

이에 따라 단순한 정보 전달을 넘어 독보적인 취재와 경험, 개성이 담긴 논픽션의 가치가 더 커질 수 있다는 분석도 나온다.

FT는 뚜렷하고 독창적인 목소리를 가진 저자들의 작품은 상대적으로 강한 수요를 유지하고 있다고 전했다. AI가 쉽게 만들어내는 평균적인 문장과 달리 저자의 직접적인 경험과 관점은 대체하기 어렵다는 것이다.

AI의 영향이 가장 뚜렷하게 나타나는 곳은 자비출판 시장이다.

미국에서 국제표준도서번호(ISBN)를 받은 신간은 2025년 400만종을 넘어 전년보다 3분의 1 증가했다. 이 가운데 5분의 4 이상이 자비출판 도서였다.

AI를 활용하면 저자가 많은 시간을 들이지 않고도 하루에 한 권씩 책을 만들어낼 수 있다. 이에 따라 문학 에이전트와 편집자가 검토해야 할 원고의 양도 급증하고 있다.

세계 최대 자비출판 플랫폼인 아마존 킨들 다이렉트 퍼블리싱은 저자에게 AI가 생성한 콘텐츠를 사용했는지 신고하도록 요구한다. 그러나 AI가 조사나 교정 등 보조 역할을 한 경우에는 공개하지 않아도 된다.

아마존은 무분별한 대량 출판을 막기 위해 저자가 등록할 수 있는 책을 형식별로 일주일에 10권까지로 제한하고 있다.

AI 합성음성도 출판시장에 새로운 문제를 만들고 있다. 합성음성을 사용하면 정식 오디오북을 제작하지 않고도 책을 낭독한 콘텐츠를 빠르게 만들 수 있다.

일부 도구는 실제 작가의 목소리까지 모방할 수 있어 저작권과 저자의 음성권을 둘러싼 분쟁 가능성도 제기된다.


AI 콘텐츠가 쏟아지자 미국과 영국의 작가단체들은 사람이 쓴 책을 구별하는 인증제도를 도입했다.

미국작가조합과 영국작가협회는 일정한 기준을 충족한 책에 ‘인간 저술’ 표시를 사용할 수 있도록 하고 있다.

이 표시는 AI가 본문을 생성하지 않았으며 맞춤법이나 문법 수정 등 극히 제한적인 범위에서만 사용됐다는 뜻이다.

다만 인증이나 고지만으로 오류를 완전히 막을 수 있는 것은 아니다. 로젠바움의 ‘진실의 미래’도 인간 저술을 강조하는 취지의 고지를 담았지만 AI가 만들어낸 허위 인용문을 걸러내지 못했다.

AI 기업들이 저작권자의 허락을 받지 않고 책을 학습자료로 사용한 문제도 출판업계의 불신을 키우고 있다.

FT에 따르면 앤스로픽은 출판물 48만권 이상을 대규모언어모델(LLM) 훈련에 사용한 문제와 관련해 지난주 저자·출판사들과 15억달러(약 2조2000억원) 규모의 합의에 도달했다.

출판업계 일각에서는 질이 낮은 AI 생성물이 한동안 급증한 뒤 오히려 인간의 경험과 개성이 담긴 책을 찾는 수요가 커질 것이라는 전망도 나온다.

FT는 AI가 평균적인 정보와 무난한 문장을 빠르게 생산할수록 저자의 판단과 상상력, 삶의 경험이 드러나는 작품이 더 희소해질 수 있다고 분석했다.

AI가 책을 대량 생산하는 시대에 ‘사람이 직접 썼다’는 사실이 책의 기본 조건에서 독자가 비용을 지불할 만한 차별화 요소로 바뀌고 있다는 얘기다.


김현철 글로벌이코노믹 기자 rock@g-enews.com