No início deste ano, o responsável Steven Rosenbaum recebeu um telefonema que virou seu mundo de cabeça para inferior. O livro que ele havia pretérito três anos pesquisando e escrevendo, foi informado, continha citações inventadas por ferramentas de IA.

“Quando soube que havia imprecisões factuais em ‘The Future of Truth’, minha primeira reação foi: isso é impossível”, conta Rosenbaum, dois meses em seguida a invenção. “O livro havia pretérito por um processo editorial tradicional, com várias rodadas de edição e revisão.”

Rosenbaum havia sido transparente sobre o uso de ferramentas de IA em seu livro de não ficção —ironicamente, um estudo sobre o porvir da verdade e da tecnologia—, mas as utilizara exclusivamente para pesquisar e organizar o material, inclusive para somar documentos de referência e entrevistas.

“O que não percebi foi que, em alguns casos, ela transformou esses resumos no que pareciam ser citações diretas”, afirma. “O transe não é a IA ortografar uma prosa ruim. O transe é ela ortografar uma prosa persuasivo associada a fatos que nunca existiram.”

O rápido desenvolvimento da IA está mudando a maneira porquê o setor editorial, estimado em US$ 140 bilhões, encomenda, edita e distribui livros. O uso não autorizado de material protegido por direitos autorais por empresas de IA também se tornou uma preocupação crucial. Na semana passada, a Anthropic concordou em remunerar US$ 1,5 bilhão em um conformidade com autores e editoras em seguida usar mais de 480 milénio obras publicadas para treinar seus grandes modelos de linguagem sem pagamento nem autorização.

Mas é também o trabalho da tecnologia na própria geração literária —e a prenúncio de que a IA possa substituir autores humanos— que preocupa o setor editorial, uma atividade que opera de maneira semelhante há décadas, quando não há séculos.

O mercado de livros está profundamente dividido sobre porquê mourejar com uma tecnologia que algumas editoras e alguns autores juram não usar, mas que outros veem porquê uma enorme oportunidade, já capaz de mudar os hábitos de leitura e de consumo de audiolivros.

“Toda semana vemos um livro que suspeitamos envolver IA”, diz um cimeira executivo do setor editorial. “É difícil calcular a zona cinzenta entre um texto genérico e um texto escrito por IA. Não sabemos quanto teor publicamos sem perceber.”

Agentes dizem que também estão sendo inundados por textos gerados por IA. “Vemos isso comparecer em livros que as pessoas nos enviam”, afirma Christy Fletcher, codiretora da UTA Publishing, que representa autores porquê Daniel Mason e Eric Ries.

“É realmente evidente. Agora você precisa se treinar para perguntar: isto parece ter sido escrito pelo Claude, o chatbot da Anthropic?”

Em março, a editora francesa Hachette foi obrigada a retirar das prateleiras do Reino Uno “Shy Girl”, romance de terror de Mia Ballard, e a cancelar seu lançamento nos Estados Unidos em seguida acusações de que a obra teria sido parcialmente escrita por IA. Ballard negou a argumento.

O romance havia conquistado seguidores porquê livro independente antes de ser adquirido pela Hachette. “Todo mundo gostou”, diz um executivo do setor. “Depois de ‘Shy Girl’, todos os editores ficaram apreensivos.”

Ainda hoje, o livro de Ballard tem uma média superior a três estrelas no Goodreads, site de resenhas literárias. Um responsável, falando sob exigência de anonimato, expressa o maior temor do setor: “O que realmente assusta todo mundo é a possibilidade de o público não se importar.”

“Alucinações não são erros de digitação”

Executivos de outras editoras dizem que é exclusivamente uma questão de tempo até serem atingidos por um escândalo semelhante aos casos de Rosenbaum ou Ballard e correm para tentar estabelecer regras à medida que a tecnologia avança.

“A IA se infiltrou em absolutamente todos os cantos e frestas dos softwares”, diz Madeline McIntosh, cofundadora e diretora-executiva da editora independente Authors Equity e ex-chefe da Penguin Random House nos Estados Unidos.

“A menos que você diga ‘só é permitido usar papel e caneta’, o vestuário é que você está em contato com a IA —e a IA está em contato com seu trabalho”, acrescenta.

De modo universal, as orientações atuais das editoras aos autores sugerem que a IA pode ser usada para facilitar o processo criativo —em pesquisas, verificação de fatos e, às vezes, até mesmo na edição e no refinamento—, mas não para efetivamente gerar texto.

No entanto, o intensidade em que a IA pode facilitar na escrita de um livro varia de conformidade com a editora, o editor e o agente. “Neste momento, há muitas, muitas zonas cinzentas”, diz McIntosh.

Fletcher descreve uma “cisão”, sobretudo entre a ficção, na qual há “mais dogmatismo” quanto ao uso da IA, e a não ficção, em que seu valor para a pesquisa costuma ser estimado.

“Que nível de uso de IA é suportável?”, pergunta outro executivo do setor. “O que se entende por pesquisa? O que significa ‘escrito com IA’? Em caso sim, que porcentagem precisa ser escrita por ela? É um caminho perigoso.”

Até mesmo entre os autores há opiniões divergentes. “Temos 12.500 membros, e cada um deles terá limites ligeiramente diferentes”, diz Anna Ganley, diretora-executiva da Society of Authors, do Reino Uno.

As editoras agora estão inserindo cláusulas sobre IA nos contratos. A Pan Macmillan afirma que seus contratos-padrão exigem que os autores garantam que a obra seja inteiramente própria, original e de autoria humana, o que também assegura a proteção dos direitos autorais.

“Se um responsável ou ilustrador quiser testar novas ferramentas de IA, estamos totalmente abertos a conversar sobre porquê fazer isso de maneira responsável”, diz um porta-voz da editora.

Isso pode incluir o uso de IA para facilitar em pesquisas, verificar fatos, emendar a gramática, aprimorar o texto, somar materiais de referência ou correr o processo de escrita. Mas o “recato, a voz e a responsabilidade intelectual do responsável devem permanecer no meio do livro”. A editora forneceu orientações a seus editores sobre porquê identificar um verosímil uso de IA e, até o momento, nenhum livro foi reprovado nos testes.

A Bloomsbury também proíbe o uso de IA generativa em suas publicações, embora sua política para autores afirme que a IA “pode oferecer soluções úteis em alguns contextos, mormente quando usada para concordar, e não substituir, a originalidade humana”.

Outras adotam uma postura mais rígida. A Microcosm Publishing, editora e distribuidora independente sediada em Portland, afirma que sua política sobre IA é: “não, obrigado… nem sequer para correções ortográficas e gramaticais. Nem para adequação do nível de leitura. Nem para ininterrupção, nem para verificação de fatos. Nem para ampliar citações. Esses aplicativos farão muito mais do que você pedir”.

Rosenbaum tem dolorosa consciência desse risco de a IA extrapolar sua função original. “Alucinações não são erros de digitação”, afirma, referindo-se à percepção, por um grande protótipo de linguagem, de um padrão ou objeto que na verdade não existe.

“São invenções que soam confiáveis. Esse é um duelo editorial completamente dissemelhante… que deixa autores e editoras com a responsabilidade de detectar as alucinações depois que elas já ocorreram.”

O ciclo vicioso da IA

Muitos no setor acreditam ser capazes de detectar textos escritos por IA. Mas os executivos admitem que, com uma edição cuidadosa, um plumitivo experiente ainda poderia fazer um texto produzido por IA passar por seu.

Um estilo ruim, por si só, não basta para identificar o uso de IA. “Muitos livros são mal escritos”, diz um executivo, dando de ombros. Ele acrescenta que as pequenas imperfeições involuntárias e a transgressão criativa e deliberada das regras são o que pode fazer as pessoas sentirem a humanidade por trás da escrita.

Alguns chegam a temer um ciclo vicioso para as gerações futuras, no qual os leitores mais jovens se acostumem tanto a ler textos gerados por IA, com todas as suas falhas, que também passem a ortografar nesse estilo.

As editoras adotaram tecnologias de detecção de IA, mas, em universal, estão insatisfeitas com os resultados. “Testamos ferramentas de detecção de IA, mas nem sempre as usamos. Por enquanto, a prenúncio é considerada suficiente, e essas ferramentas não são muito boas”, diz o diretor-executivo de uma editora.

A Authors Guild, dos Estados Unidos, alertou que cancelar um contrato ou retirar um livro de circulação com base exclusivamente em acusações ou no uso de ferramentas de detecção constituiria uma violação contratual sumarento.

Diante das dificuldades para definir e vistoriar regras, e do risco de erros, McIntosh, da Authors Equity, afirma que a transparência se tornou fundamental nas conversas que a empresa vem mantendo com os autores.

“Em nosso contrato, tanto nós quanto o responsável precisamos informar um ao outro porquê usamos a IA”, diz ela. “Se um responsável usou IA para facilitar na pesquisa de um livro de não ficção, tudo muito. Mas quero saber que ele fez isso, porque significa que, juntos, precisamos ampliar outra classe de pesquisa humana para prometer que os fatos sejam realmente verdadeiros.”

Fletcher, da UTA, afirma que seus clientes autores muitas vezes querem garantias sobre porquê a IA está sendo usada pelas editoras, particularmente de que “a edição não usa IA e o design da toga não usa IA”.

Ela acrescenta: “Eles realmente se importam que… o trabalho não seja entregue a um software”.

A Pan Macmillan afirma que os editores podem usar ferramentas seguras de IA para somar rapidamente um manuscrito extenso, listar detalhes dos personagens ou extrair citações marcantes para ajudar a apresentar um livro. Não podem usá-las para editar nem para sentenciar o que admitir ou rejeitar.

Muitas editoras também consideram a IA útil em tarefas de vendas e marketing, porquê a atualização automática de metadados para que os livros ganhem mais destaque na internet, além dos processos de sentimento e armazenamento.

A Bonnier Books promoveu mesas-redondas sobre IA com autores e agentes, em um esforço para encontrar soluções coletivas. “A única maneira de passar aquela que possivelmente é a maior transição vivida pelo setor nos tempos modernos é por meio de conversas abertas”, diz Sarah Posner, gerente de inovação editorial da separação britânica da Bonnier. “Precisamos trabalhar juntos.”

Chatbots versus livros

Os desafios da IA vão além de instaurar quem —ou o que— escreveu um livro. A tecnologia também está começando a mudar o que os leitores compram e porquê as editoras operam.

As vendas de livros de não ficção mais práticos, em áreas porquê autoajuda, culinária, biografia e finanças, estão sendo afetadas à medida que mais pessoas recorrem a chatbots em procura de conselhos práticos.

As vendas de não ficção caíram 6% no ano pretérito somente no Reino Uno, segundo dados da Nielsen. Embora isso esteja relacionado a vários fatores, incluindo a popularidade de podcasts e vídeos no YouTube que abordam temas semelhantes, as editoras acreditam ter uma reciprocidade direta com a subida dos chatbots.

“As pessoas vão querer simplesmente destrinchar um best-seller”, afirma um cimeira executivo. “Vão pedir ao ChatGPT: ‘conte-me tudo o que preciso saber sobre [a guru da organização] Marie Kondo’.”

Outro executivo afirma que certos gêneros de não ficção, porquê história e relatos de crimes reais, atraem mais leitores do sexo masculino, “e os homens também adoram o ChatGPT”.

O resultado, segundo executivos do setor, é uma premência ainda maior de autores porquê Patrick Radden Keefe, cuja vertente de jornalismo investigativo conseguível conquistou críticos e leitores.

“O que vemos lucrar força são pessoas com vozes próprias muito marcantes, e os leitores estão se identificando com elas”, afirma a agente Fletcher.

Os autores também já percebem que o uso da IA começa a afetar as categorias de ficção. Nilanjana Roy, colunista do FT Weekend e autora de “The Wildings” e “The Hundred Names of Darkness”, diz que é “inútil tentar manter a literatura produzida por IA à intervalo”, acrescentando que uma “geração mais jovem fará experimentações” e que escritores consagrados, porquê Vauhini Vara e Rie Kudan, “já brincaram com IA e grandes modelos de linguagem para gerar textos bastante fascinantes”.

Mas ela sugere que, à medida que grandes volumes de textos produzidos com o auxílio de IA ameaçam sobrecarregar agentes, editores e casas editoriais, “surge a perspectiva irônica, mas também deliciosa, de um assistente de IA vasculhando manuscritos de IA”.

A influência da IA é mais visível no mercado de autopublicação, que vive um boom associado, por muitas editoras, ao uso de ferramentas que tornam muito mais fácil ortografar um livro.

O número de novos livros com ISBN nos Estados Unidos aumentou um terço no ano pretérito, ultrapassando 4 milhões, sendo mais de quatro quintos deles autopublicados. Muitos desses autores conseguem usar ferramentas de IA para gerar um livro por dia, recorrendo muito pouco à própria originalidade.

O Kindle Direct Publishing, da Amazon, a maior plataforma de autopublicação, pede aos autores que declarem por conta própria o teor gerado por IA, mas eles não são obrigados a informar o teor produzido com o auxílio da tecnologia.

A Amazon declarou que “continua aprimorando nossas proteções contra teor que não esteja em conformidade”, citando regras porquê a limitação do número de títulos que os autores podem fabricar a dez livros por formato a cada semana. A empresa adota “medidas proativas e reativas para prevenir, detectar e remover teor que viole […] as diretrizes, seja ele gerado por IA ou não”.

Vozes sintéticas criadas por IA também podem ser usadas para produzir narrações de livros quase instantâneas para plataformas de redes sociais, eliminando a premência de comprar e minguar um audiolivro solene, segundo um cimeira executivo. Ele afirma que as ferramentas de voz sintética já são tão boas que conseguem imitar as vozes de autores consagrados, que normalmente seriam convidados a narrar os próprios romances em audiolivros.

‘De autoria humana’

A consumição quanto ao impacto da IA sobre o mercado editorial não é generalizada. Alguns executivos do setor acreditam que, em seguida uma vaga inicial de teor de baixa qualidade gerado por IA, haverá maior demanda por textos de qualidade escritos por seres humanos.

“Os livros não vão desvanecer”, afirma Posner, da Bonnier Books. “Na verdade, vejo as pessoas buscando cada vez mais experiências humanas reais.”

O setor sobreviveu a diversas outras transformações, da autopublicação aos livros digitais, que foram consideradas ameaças existenciais quando surgiram. Tom Weldon, diretor-executivo da Penguin Random House UK, segmento do maior grupo editorial de língua inglesa do mundo, afirma que os livros “se mostraram sobremodo resilientes diante de todas as mudanças tecnológicas, porque oferecem um tanto único”.

“A IA pode ser uma utensílio poderosa para concordar os profissionais criativos de muitas maneiras, mas nunca deve substituir a imaginação, o recato e a experiência de vida de um responsável”, acrescenta.