Revista literária suspende publicação de contos após identificar mais de 500 textos criados ou auxiliados por inteligência artificial. Quais os riscos éticos e legais?

Por Maria Clara Oberlaender
Revisão: Antônio Netto

A ferramenta Chat GPT está sendo um tópico amplamente debatido na internet e o motivo é sua escrita com uma linguagem natural, semelhante ao ser humano. Lançada em novembro de 2022 pela empresa Open.AI, a plataforma utiliza uma grande base de dados para gerar as respostas.

O programa logo se popularizou, a ponto de em menos de dois meses chegar a marca de 100 milhões de usuários. Uma das grandes questões que está sendo discutida e problematizada na internet é a interferência desse recurso na literatura.

Segundo a agência de notícias Reuters, o chat aparece como ‘co-autor’ em mais de 200 e-books na Kindle Store, porém o número pode ser substancialmente maior, já que a Amazon não aplica uma política de autores divulgarem uso de inteligência artificial em suas obras.

A plataforma pode ser um grande auxiliar na produção de arte, mas não tem como fazê-la por si só. Tanto a IA, quanto os humanos, absorvem informações de outras pessoas, outros textos, mas a arte vai muito além de uma formulação feita a partir de repetições.

O escritor, advogado, professor de direito e membro da Academia de Letras da Bahia, Marcus Vinícius Rodrigues, comenta:

“As pessoas têm seus defeitos, seus problemas e dificuldades e acabam passando isso para os textos quando os escrevem, a máquina não. Acredito que o momento em que tudo se transforma acontece pelas mãos humanas”.

Alguns dos impactos da aplicação de chatbots em textos já podem ser vistos. Recentemente a revista literária Clarkesworld Magazine teve que suspender o envio de contos, por conta da quantidade exacerbada de obras escritas por máquinas. Foram identificados mais de 500 textos enviados.

A revista proíbe obras que foram escritas, co-escritas ou auxiliadas por inteligência artificial. Os métodos para a identificação, porém, não foram divulgados; o editor da revista, Neil Clarke, apenas afirmou que esses textos seguiam padrões, “padrões muito óbvios”.

Existe direito autoral para IA?

Essa é uma implicação importante que veio à tona com essa ferramenta.  O advogado, professor da UFBA, diretor e sócio da Associação Brasileira de Direito Autoral (ABDA), Rodrigo Moraes, explica:

“O artigo 11 da lei 9.610/98 declara que autor é pessoa física, ou seja, não existe pessoa jurídica autora, muito menos um robô pode ser considerado autor”.

Em resumo, as obras geradas por computador sem intervenção humana não podem ser consideradas obras autorais. Entretanto, em caso de plágio do Chat ou informações falsas, quem se responsabiliza?

“Quando uma pessoa utiliza da ferramenta e não dá os créditos, ela passa a se responsabilizar pelo que está escrito”, esclarece Moraes.

A Inteligência Artificial (IA) pode ser bem utilizada se feita com responsabilidade, suas ferramentas podem auxiliar em tarefas monótonas. A grande questão é a forma como isso será realizado.

Moraes conclui: “A IA pode mudar tudo na área jurídica, inclusive causar muitos desempregos. Mas o direito chegará para regulamentar, como já chegou para todas as transformações sociais”.

O Chat GPT se responsabiliza por plágio?

Todas as respostas do software são baseadas em textos já existentes. Ao perguntar para o próprio ChatGPT, após explicar como funciona seu modelo de coleta de dados, a resposta foi:

“[…] o ChatGPT não é projetado para plagiar ou violar direitos autorais. No entanto, é importante lembrar que o ChatGPT é uma ferramenta de inteligência artificial que não tem capacidade de julgamento moral ou ético. Portanto, é responsabilidade do usuário garantir que as informações fornecidas pelo ChatGPT sejam usadas de maneira adequada e ética, e que não violem os direitos autorais ou de propriedade intelectual de terceiros.”

A declaração do software gera controvérsias, ao mesmo tempo em que cobra a ética dos usuários, se isenta afirmando que não tem capacidade de julgamento. Mas se a própria ferramenta não tem propriedade sobre as informações, como pode se esperar uma regulamentação?

Flávia Rosa, jornalista, produtora editorial, diretora da editora da UFBA (Edufba) por quase 25 anos e presidente da Associação Brasileira de Editoras Universitárias (ABEU) por dois mandatos, se preocupa:

“O grande problema do Chat GPT é que ele não mostra as fontes. Quando pesquisamos no Google Acadêmico, por exemplo, você encontra as fontes de onde você vai retirar informações. Você pode fazer uma seleção de onde pesquisar, buscar sites mais confiáveis.”

As fake news, termo que já está no vocabulário da população, podem ter um crescimento substancial por conta do uso dos chatbots.

O co-CEO da News Guard, empresa que rastreia desinformação online, Gordon Crovitz, em entrevista ao New York Times alerta:

“Criar uma nova narrativa falsa agora pode ser feito em escala dramática e com muito mais frequência. É como ter agentes de IA contribuindo para a desinformação.”

As limitações do Chat GPT

O Chat é formado por uma quantidade exorbitante de dados, textos e informações, porém nem todo resultado gerado é correto. Um exemplo é quando se pergunta “quantos brasileiros ganharam um Nobel?”.

A resposta da inteligência artificial é “sete”, nomeando todos e suas respectivas datas. Porém, um detalhe importante é que apesar de o Brasil já ter concorrido mais de 100 vezes ao prêmio, nunca o ganhou.

“O perigo está na utilização do uso da tecnologia para produzir textos pelas pessoas que estão em situação de poder. Porque, quem decide a vida da gente na sociedade é a palavra escrita, a exemplo da lei, na justiça, no executivo, nos contratos. E quem a domina controla a sociedade”, afirma Rodrigues.

A plataforma foi precedida por outras, a exemplo do Chatbot Tay, da Microsoft, que surgiu em 2016 e ficou internacionalmente conhecida após uma manipulação de internautas, fazendo com que a inteligência artificial emitisse mensagens racistas, nazistas e xenófobas. Após o escândalo, a plataforma saiu do ar.

Mostrando que aprendeu com seus anteriores, o Chat GPT possui um filtro para minimizar perguntas e respostas preconceituosas e ainda tem a possibilidade de o usuário denunciar, caso tenha algo que seja inadequado e fuja da ética.

Recentemente, no dia 29 de março de 2023, um grupo de executivos e pesquisadores do ramo tecnológico, incluindo Elon Musk, diretor-executivo do twitter, assinaram uma carta pedindo o freamento do crescimento do Chat GPT e de outras inteligências artificiais.

Os integrantes afirmam que os laboratórios da área deveriam parar e juntos criarem um conjunto de protocolos de segurança compartilhados para o desenvolvimento de IA. Qual efeito essa carta trará ainda é uma incógnita.

O futuro da literatura

Como toda nova tecnologia que surge, a Inteligência Artificial e os chatbots irão mudar muitas coisas na sociedade atual.

“Caso a função de edição de texto seja substituída por uma inteligência artificial, a gente vai ver uma padronização na literatura. O estilo de escrita do autor é uma coisa muito própria dele, pessoal e a IA não tem a sensibilidade da construção de um estilo próprio para cada pessoa”, alerta Flávia Rosa.

Já Marcus Vinícius Rodrigues pondera que “no futuro as pessoas irão ler menos, não abrirão mão de consumir narrativas, já que o ser humano produz e utiliza narrativas o tempo todo”.

“As formas desse consumo que talvez mudem. O problema é a gente se alimentar de narrativas feitas por máquinas, escritos repetitivos”, destaca Rodrigues.

Independentemente de como seja a interferência desse software na literatura, Rodrigo Moraes deixa a reflexão: “Porque as pessoas querem tanto que os robôs façam o trabalho delas?”