Uma autora norte-americana encontrou na Amazon uma série de livros falsos usando seu nome que não foram escritos por ela e não foram publicados por sua editora. Todos gerados por inteligência artificial. O que essa tecnologia pode ter de consequência para quem escreve livros?

Cuidado ao comprar um ebook do sua autora preferida! Ela pode nunca ter escrito esse livro. Vamos falar como a geração livre de textos com Inteligência Artificial está criando polêmica no mercado editoral.

Bom dia ouvintes da CBN,

Nos últimos 25 anos, a escritora norte-americana Jane Friedman escreveu ou contribuiu para 10 livros sobre os bastidores da indústria de editoras e publicações, e ocupou posições de professora de mídia em duas universidades. No ano passado, foi até premiada como Comentadora Editorial do Ano. No mês passado, um leitor enviou um e-mail para ela sobre suas últimas obras na Amazon. O problema é que ela não escreve um novo livro desde 2018. Consultando outros sites, além da Amazon, percebeu que havia meia dúzia de livros sendo vendidos com o nome dela, mas que ela não escreveu nem publicou. Eles foram gerados por IA.

Friedman diz que, quando foi à Amazon para denunciar os títulos falsos - que incluíam títulos estranhos e longos, como “Promova para Prosperar: Estratégias para Impulsionar as Vendas de Seus eBooks”, ela encontrou uma resistência alarmante. Inicialmente, pediram-lhe uma lista detalhada de suas reclamações, incluindo um pedido para indicar as obras infringidas. Em seguida, a Amazon recusou o pedido dela para remover os títulos falsos de seu site, em parte porque ela não pôde fornecer nenhum número de registro de marca associado ao seu nome.

Depois que a escritora expressou sua consternação com o incidente no Twitter e em seu blog, os títulos falsos não estavam mais disponíveis para compra na Amazon, nem listados em sites de catálogo.

Ou seja, alguém estava tentando lucrar com o nome da autora. Uma violação particularmente grosseira. Não é particularmente surpreendente que a inteligência artificial gerativa tenha chegado ao consumidor comum. O New York Times relatou que guias de qualidade duvidosa gerados por IA inundaram a Amazon nos últimos meses. Já há romances para jovens adultos escritos por IA liderando as listas de best-sellers do Kindle da Amazon. Mas com o aumento disso em plataformas de autopublicação, como o Kindle Direct Publish da Amazon, e com poucos limites, os autores estão questionando o que precisam fazer para proteger sua marca profissional.

Na Amazon, no início deste ano, o ChatGPT já aparecia como co-autor de mais de 200 livros, segundo levantamento feito pela agência de notícias Reuters.

Isso representa um abuso da tecnologia de modelos de linguagem extensos, como é oferecido por chatGPT, Bard, entre outros.
Por baixo está um sistema de predição que tenta adivinhar o texto que deve ser escrito em uma determinada situação, com base em textos anteriores que ele já processou e, digamos assim, aprendeu. Assim, se a inteligência artificial receber os livros escritos por um autor até hoje, ele teria a capacidade de “aprender” (aspas aí) o estilo desse autor. Os aproveitadores pedem então para que a IA gere uma nova história com esse mesmo estilo, empacotam o resultado em um arquivo de ebook, e colocam na Amazon para vender. Um dinheiro fácil, diriam alguns, enganando leitores incautos, achando que realmente seu autor preferido lançou um livro. Quando eles percebem, já comprou, aí é tarde.

Isso, para os autores, o equivalente textual aos deepfakes, aqueles vídeos falsos que colocam pessoas em situações que ela nunca vivenciaram. Levanta questões de engano do consumidor, levanta questões de um tipo de invasão e violência contra o autor, e de injustiça econômica.

A comunidade literária já começou a tomar medidas contra a inteligência artificial. No mês passado, cerca de 10.000 escritores - incluindo os autores Nora Roberts e Jodi Picoult - assinaram uma carta aberta redigida pelo Authors Guild exigindo que os líderes da indústria de IA protejam os escritores. Na carta, o Guild enfatizou a “justiça inerente” em construir tecnologia que utilize obras protegidas por direitos autorais e exigiu que os desenvolvimentos “obtenham consentimento, deem crédito e compensem de forma justa os autores.”

Do ponto de vista da Amazon, o conceito de livros falsos usando as identidades de autores reais pode levantar preocupações sobre a responsabilidade “contributiva”. Embora a Amazon não seja a infratora direta, uma vez que ela não está produzindo os livros falsos sob o nome de um autor, eles são a plataforma na qual os itens estão sendo vendidos com lucro.

Ou seja, a Amazon, como uma questão de ser um mercado confiável, transparente e autêntico, precisa fazer algo. Há uma pressão da indústria para que a Amazon tente detectar esse tipo de fraude, sob pena de ser processada pelos danos.

A autora lesada, Jane Friedman, está na dúvida sobre como proceder. Ela diz que vai apenas fazer o que sabe melhor: continuar escrevendo. Ela está reescrevendo novas seções de seu livro mais famoso, “Como ser um escritor”, e diz que vai incluir uma seção sobre a IA. Pelo menos agora ela vai ter uma boa história para contar.

Um abraço e até a próxima.