No início deste ano, o autor Steven Rosenbaum recebeu um telefonema que virou seu mundo de cabeça para baixo. O livro que ele havia passado três anos pesquisando e escrevendo, foi informado, continha citações inventadas por ferramentas de IA.
“Quando soube que havia imprecisões factuais em ‘The Future of Truth’, minha primeira reação foi: isso é impossível”, conta Rosenbaum, dois meses após a descoberta. “O livro havia passado por um processo editorial tradicional, com várias rodadas de edição e revisão.”
Rosenbaum havia sido transparente sobre o uso de ferramentas de IA em seu livro de não ficção —ironicamente, um estudo sobre o futuro da verdade e da tecnologia—, mas as utilizara apenas para pesquisar e organizar o material, inclusive para resumir documentos de referência e entrevistas.
“O que não percebi foi que, em alguns casos, ela transformou esses resumos no que pareciam ser citações diretas”, afirma. “O perigo não é a IA escrever uma prosa ruim. O perigo é ela escrever uma prosa convincente associada a fatos que nunca existiram.”
O rápido desenvolvimento da IA está mudando a maneira como o setor editorial, avaliado em US$ 140 bilhões, encomenda, edita e distribui livros. O uso não autorizado de material protegido por direitos autorais por empresas de IA também se tornou uma preocupação crucial. Na semana passada, a Anthropic concordou em pagar US$ 1,5 bilhão em um acordo com autores e editoras após usar mais de 480 mil obras publicadas para treinar seus grandes modelos de linguagem sem pagamento nem autorização.
Mas é também o emprego da tecnologia na própria criação literária —e a ameaça de que a IA possa substituir autores humanos— que preocupa o setor editorial, uma atividade que opera de maneira semelhante há décadas, quando não há séculos.
O mercado de livros está profundamente dividido sobre como lidar com uma tecnologia que algumas editoras e alguns autores juram não usar, mas que outros veem como uma enorme oportunidade, já capaz de mudar os hábitos de leitura e de consumo de audiolivros.
“Toda semana vemos um livro que suspeitamos envolver IA“, diz um alto executivo do setor editorial. “É difícil avaliar a zona cinzenta entre um texto genérico e um texto escrito por IA. Não sabemos quanto conteúdo publicamos sem perceber.”
Agentes dizem que também estão sendo inundados por textos gerados por IA. “Vemos isso aparecer em livros que as pessoas nos enviam”, afirma Christy Fletcher, codiretora da UTA Publishing, que representa autores como Daniel Mason e Eric Ries.
“É realmente evidente. Agora você precisa se treinar para perguntar: isto parece ter sido escrito pelo Claude, o chatbot da Anthropic?”
Em março, a editora francesa Hachette foi obrigada a retirar das prateleiras do Reino Unido “Shy Girl”, romance de terror de Mia Ballard, e a cancelar seu lançamento nos Estados Unidos após acusações de que a obra teria sido parcialmente escrita por IA. Ballard negou a alegação.
O romance havia conquistado seguidores como livro independente antes de ser adquirido pela Hachette. “Todo mundo gostou”, diz um executivo do setor. “Depois de ‘Shy Girl’, todos os editores ficaram apreensivos.”
Ainda hoje, o livro de Ballard tem uma média superior a três estrelas no Goodreads, site de resenhas literárias. Um autor, falando sob condição de anonimato, expressa o maior temor do setor: “O que realmente assusta todo mundo é a possibilidade de o público não se importar.”
“Alucinações não são erros de digitação”
Executivos de outras editoras dizem que é apenas uma questão de tempo até serem atingidos por um escândalo semelhante aos casos de Rosenbaum ou Ballard e correm para tentar estabelecer regras à medida que a tecnologia avança.
“A IA se infiltrou em absolutamente todos os cantos e frestas dos softwares”, diz Madeline McIntosh, cofundadora e diretora-executiva da editora independente Authors Equity e ex-chefe da Penguin Random House nos Estados Unidos.
“A menos que você diga ‘só é permitido usar papel e caneta’, o fato é que você está em contato com a IA —e a IA está em contato com seu trabalho”, acrescenta.
De modo geral, as orientações atuais das editoras aos autores sugerem que a IA pode ser usada para auxiliar o processo criativo —em pesquisas, verificação de fatos e, às vezes, até mesmo na edição e no refinamento—, mas não para efetivamente gerar texto.
No entanto, o grau em que a IA pode auxiliar na escrita de um livro varia de acordo com a editora, o editor e o agente. “Neste momento, há muitas, muitas zonas cinzentas“, diz McIntosh.
Fletcher descreve uma “cisão”, sobretudo entre a ficção, na qual há “mais dogmatismo” quanto ao uso da IA, e a não ficção, em que seu valor para a pesquisa costuma ser apreciado.
“Que nível de uso de IA é aceitável?“, pergunta outro executivo do setor. “O que se entende por pesquisa? O que significa ‘escrito com IA’? Em caso afirmativo, que porcentagem precisa ser escrita por ela? É um caminho perigoso.”
Até mesmo entre os autores há opiniões divergentes. “Temos 12.500 membros, e cada um deles terá limites ligeiramente diferentes”, diz Anna Ganley, diretora-executiva da Society of Authors, do Reino Unido.
As editoras agora estão inserindo cláusulas sobre IA nos contratos. A Pan Macmillan afirma que seus contratos-padrão exigem que os autores garantam que a obra seja inteiramente própria, original e de autoria humana, o que também assegura a proteção dos direitos autorais.
“Se um autor ou ilustrador quiser experimentar novas ferramentas de IA, estamos totalmente abertos a conversar sobre como fazer isso de maneira responsável”, diz um porta-voz da editora.
Isso pode incluir o uso de IA para auxiliar em pesquisas, verificar fatos, corrigir a gramática, aprimorar o texto, resumir materiais de referência ou acelerar o processo de escrita. Mas o “discernimento, a voz e a responsabilidade intelectual do autor devem permanecer no centro do livro”. A editora forneceu orientações a seus editores sobre como identificar um possível uso de IA e, até o momento, nenhum livro foi reprovado nos testes.
A Bloomsbury também proíbe o uso de IA generativa em suas publicações, embora sua política para autores afirme que a IA “pode oferecer soluções úteis em alguns contextos, especialmente quando usada para apoiar, e não substituir, a criatividade humana”.
Outras adotam uma postura mais rígida. A Microcosm Publishing, editora e distribuidora independente sediada em Portland, afirma que sua política sobre IA é: “não, obrigado… nem sequer para correções ortográficas e gramaticais. Nem para adequação do nível de leitura. Nem para continuidade, nem para verificação de fatos. Nem para acrescentar citações. Esses aplicativos farão muito mais do que você pedir“.
Rosenbaum tem dolorosa consciência desse risco de a IA extrapolar sua função original. “Alucinações não são erros de digitação”, afirma, referindo-se à percepção, por um grande modelo de linguagem, de um padrão ou objeto que na realidade não existe.
“São invenções que soam confiáveis. Esse é um desafio editorial completamente diferente… que deixa autores e editoras com a responsabilidade de detectar as alucinações depois que elas já ocorreram.”
O ciclo vicioso da IA
Muitos no setor acreditam ser capazes de detectar textos escritos por IA. Mas os executivos admitem que, com uma edição cuidadosa, um escritor experiente ainda poderia fazer um texto produzido por IA passar por seu.
Um estilo ruim, por si só, não basta para identificar o uso de IA. “Muitos livros são mal escritos”, diz um executivo, dando de ombros. Ele acrescenta que as pequenas imperfeições involuntárias e a transgressão criativa e deliberada das regras são o que pode fazer as pessoas sentirem a humanidade por trás da escrita.
Alguns chegam a temer um ciclo vicioso para as gerações futuras, no qual os leitores mais jovens se acostumem tanto a ler textos gerados por IA, com todas as suas falhas, que também passem a escrever nesse estilo.
As editoras adotaram tecnologias de detecção de IA, mas, em geral, estão insatisfeitas com os resultados. “Testamos ferramentas de detecção de IA, mas nem sempre as usamos. Por enquanto, a ameaça é considerada suficiente, e essas ferramentas não são muito boas”, diz o diretor-executivo de uma editora.
A Authors Guild, dos Estados Unidos, alertou que cancelar um contrato ou retirar um livro de circulação com base apenas em acusações ou no uso de ferramentas de detecção constituiria uma violação contratual substancial.
Diante das dificuldades para definir e fiscalizar regras, e do risco de erros, McIntosh, da Authors Equity, afirma que a transparência se tornou fundamental nas conversas que a empresa vem mantendo com os autores.
“Em nosso contrato, tanto nós quanto o autor precisamos informar um ao outro como usamos a IA”, diz ela. “Se um autor usou IA para auxiliar na pesquisa de um livro de não ficção, tudo bem. Mas quero saber que ele fez isso, porque significa que, juntos, precisamos acrescentar outra camada de pesquisa humana para garantir que os fatos sejam realmente verdadeiros.”
Fletcher, da UTA, afirma que seus clientes autores muitas vezes querem garantias sobre como a IA está sendo usada pelas editoras, particularmente de que “a edição não usa IA e o design da capa não usa IA“.
Ela acrescenta: “Eles realmente se importam que… o trabalho não seja entregue a um software”.
A Pan Macmillan afirma que os editores podem usar ferramentas seguras de IA para resumir rapidamente um manuscrito extenso, listar detalhes dos personagens ou extrair citações marcantes para ajudar a apresentar um livro. Não podem usá-las para editar nem para decidir o que aceitar ou rejeitar.
Muitas editoras também consideram a IA útil em tarefas de vendas e marketing, como a atualização automática de metadados para que os livros ganhem mais destaque na internet, além dos processos de impressão e armazenamento.
A Bonnier Books promoveu mesas-redondas sobre IA com autores e agentes, em um esforço para encontrar soluções coletivas. “A única maneira de atravessar aquela que possivelmente é a maior transição vivida pelo setor nos tempos modernos é por meio de conversas abertas”, diz Sarah Posner, gerente de inovação editorial da divisão britânica da Bonnier. “Precisamos trabalhar juntos.”
Chatbots versus livros
Os desafios da IA vão além de determinar quem —ou o que— escreveu um livro. A tecnologia também está começando a mudar o que os leitores compram e como as editoras operam.
As vendas de livros de não ficção mais práticos, em áreas como autoajuda, culinária, biografia e finanças, estão sendo afetadas à medida que mais pessoas recorrem a chatbots em busca de conselhos práticos.
As vendas de não ficção caíram 6% no ano passado somente no Reino Unido, segundo dados da Nielsen. Embora isso esteja relacionado a vários fatores, incluindo a popularidade de podcasts e vídeos no YouTube que abordam temas semelhantes, as editoras acreditam haver uma correlação direta com a ascensão dos chatbots.
“As pessoas vão querer simplesmente destrinchar um best-seller”, afirma um alto executivo. “Vão pedir ao ChatGPT: ‘conte-me tudo o que preciso saber sobre [a guru da organização] Marie Kondo’.”
Outro executivo afirma que certos gêneros de não ficção, como história e relatos de crimes reais, atraem mais leitores do sexo masculino, “e os homens também adoram o ChatGPT“.
O resultado, segundo executivos do setor, é uma necessidade ainda maior de autores como Patrick Radden Keefe, cuja vertente de jornalismo investigativo acessível conquistou críticos e leitores.
“O que vemos ganhar força são pessoas com vozes próprias muito marcantes, e os leitores estão se identificando com elas”, afirma a agente Fletcher.
Os autores também já percebem que o uso da IA começa a afetar as categorias de ficção. Nilanjana Roy, colunista do FT Weekend e autora de “The Wildings” e “The Hundred Names of Darkness”, diz que é “inútil tentar manter a literatura produzida por IA à distância”, acrescentando que uma “geração mais jovem fará experimentações” e que escritores consagrados, como Vauhini Vara e Rie Kudan, “já brincaram com IA e grandes modelos de linguagem para gerar textos bastante fascinantes”.
Mas ela sugere que, à medida que grandes volumes de textos produzidos com o auxílio de IA ameaçam sobrecarregar agentes, editores e casas editoriais, “surge a perspectiva irônica, mas também deliciosa, de um assistente de IA vasculhando manuscritos de IA”.
A influência da IA é mais visível no mercado de autopublicação, que vive um boom associado, por muitas editoras, ao uso de ferramentas que tornam muito mais fácil escrever um livro.
O número de novos livros com ISBN nos Estados Unidos aumentou um terço no ano passado, ultrapassando 4 milhões, sendo mais de quatro quintos deles autopublicados. Muitos desses autores conseguem usar ferramentas de IA para gerar um livro por dia, recorrendo muito pouco à própria criatividade.
O Kindle Direct Publishing, da Amazon, a maior plataforma de autopublicação, pede aos autores que declarem por conta própria o conteúdo gerado por IA, mas eles não são obrigados a informar o conteúdo produzido com o auxílio da tecnologia.
A Amazon declarou que “continua aprimorando nossas proteções contra conteúdo que não esteja em conformidade”, citando regras como a limitação do número de títulos que os autores podem criar a dez livros por formato a cada semana. A empresa adota “medidas proativas e reativas para prevenir, detectar e remover conteúdo que viole […] as diretrizes, seja ele gerado por IA ou não”.
Vozes sintéticas criadas por IA também podem ser usadas para produzir narrações de livros quase instantâneas para plataformas de redes sociais, eliminando a necessidade de comprar e baixar um audiolivro oficial, segundo um alto executivo. Ele afirma que as ferramentas de voz sintética já são tão boas que conseguem imitar as vozes de autores consagrados, que normalmente seriam convidados a narrar os próprios romances em audiolivros.
‘De autoria humana’
A apreensão quanto ao impacto da IA sobre o mercado editorial não é generalizada. Alguns executivos do setor acreditam que, após uma onda inicial de conteúdo de baixa qualidade gerado por IA, haverá maior demanda por textos de qualidade escritos por seres humanos.
“Os livros não vão desaparecer”, afirma Posner, da Bonnier Books. “Na verdade, vejo as pessoas buscando cada vez mais experiências humanas reais.”
O setor sobreviveu a diversas outras transformações, da autopublicação aos livros digitais, que foram consideradas ameaças existenciais quando surgiram. Tom Weldon, diretor-executivo da Penguin Random House UK, parte do maior grupo editorial de língua inglesa do mundo, afirma que os livros “se mostraram extraordinariamente resilientes diante de todas as mudanças tecnológicas, porque oferecem algo único”.
“A IA pode ser uma ferramenta poderosa para apoiar os profissionais criativos de muitas maneiras, mas jamais deve substituir a imaginação, o discernimento e a experiência de vida de um autor”, acrescenta.
