Zombaria generalizada de rato gerado por IA com pênis gigante em um artigo traz problema à atenção pública

O ganhador do Prêmio Nobel, André Geim, disse que “pesquisadores publicam muitos artigos inúteis”. Fotografia: Sigrid Gombert/Getty Images/Image Source

Por Ian Sample, Editor de ciência, para o “The Guardian” 

À primeira vista, era apenas mais um artigo científico, um dos milhões publicados todos os anos, e destinado a receber pouca ou nenhuma atenção fora do campo arcano da sinalização biológica em células-tronco destinadas a se tornarem espermatozoides.

Mas logo após a publicação online, no periódico Frontiers in Cell and Developmental Biology, o artigo conquistou um público global. Nem todos os leitores vieram pela ciência.

O motivo de seu apelo mais amplo? Uma imagem chamativa, que retratava um rato sentado ereto, com um pênis inacreditavelmente grande e muitos testículos. Partes do corpo eram rotuladas com palavras sem sentido, como “testtomcels” e “dck”.

Em vez de cair na obscuridade acadêmica, o artigo logo se tornou alvo de chacota na grande mídia. “Revista científica publica rato gerado por Inteligência Artificial (IA) com pênis gigantesco”, noticiou a Vice News. “Pode ser considerado um erro de IA em larga escala”, entoou o Daily Telegraph.

As imagens foram de fato geradas por IA, mas isso era permitido pelas regras do periódico. O problema era que os autores não haviam verificado a precisão do material gerado pela IA. Nem a equipe do periódico nem seus revisores especialistas notaram os erros gritantes. Três dias após a publicação, o artigo foi retratado.

O que diferencia a anedota de outras histórias de desastres com IA é o vislumbre que ela proporciona de problemas mais amplos no cerne de uma indústria importante. A publicação científica registra e atua como guardiã de informações que moldam o mundo e com base nas quais decisões de vida e morte são tomadas.

O primeiro periódico científico publicado continuamente foi publicado pela Royal Society em 1665. A edição inaugural da Philosophical Transactions contava aos leitores sobre um ponto em Júpiter, um minério de chumbo peculiar da Alemanha e um bezerro “monstruoso” encontrado por um açougueiro em Lymington.

Desde então, os periódicos têm sido a crônica do pensamento científico sério. Newton, Einstein e Darwin postularam teorias históricas ali; Marie Curie cunhou o termo “radioatividade” em um periódico.

Mas periódicos são mais do que registros históricos. Pesquisas inovadoras em campos críticos, desde genética e IA até ciência do clima e exploração espacial, são publicadas rotineiramente em um número crescente de periódicos, mapeando o progresso da humanidade. Tais estudos orientam o desenvolvimento de medicamentos, moldam a prática médica, fundamentam políticas governamentais e informam estratégias geopolíticas, chegando até mesmo a estimativas de fatalidades em campanhas militares sangrentas, como o ataque israelense a Gaza.

A natureza consequente dos periódicos e as potenciais ameaças à qualidade e à confiabilidade do trabalho que publicam levaram cientistas renomados a soar o alarme. Muitos argumentam que a publicação científica é fragmentada, insustentável e produz muitos artigos que beiram a inutilidade.

O alerta de laureados com o Nobel e outros acadêmicos surge no momento em que a Royal Society se prepara para lançar uma importante revisão da publicação científica no final do verão. A publicação se concentrará nas “disrupções” que a indústria enfrentará nos próximos 15 anos.

Sir Mark Walport, ex-cientista-chefe do governo e presidente do conselho editorial da Royal Society, disse que quase todos os aspectos da publicação científica estavam sendo transformados pela tecnologia, enquanto incentivos profundamente arraigados para pesquisadores e editores frequentemente favoreciam a quantidade em detrimento da qualidade.

“Volume é um fator ruim”, disse Walport. “O incentivo deve ser a qualidade, não a quantidade. Trata-se de reestruturar o sistema de forma a incentivar a boa pesquisa do início ao fim.”

Hoje, após a drástica expansão da ciência e das práticas de publicação, iniciada pelo magnata da imprensa Robert Maxwell, dezenas de milhares de periódicos científicos publicam milhões de artigos anualmente. Uma análise para o Guardian feita por Gordon Rogers, cientista-chefe de dados da Clarivate, uma empresa de análise, mostra que o número de estudos de pesquisa indexados no banco de dados Web of Science da empresa aumentou 48%, de 1,71 milhão para 2,53 milhões, entre 2015 e 2024. Somando todos os outros tipos de artigos científicos, o total chega a 3,26 milhões.

Em um artigo marcante do ano passado, o Dr. Mark Hanson, da Universidade de Exeter, descreveu como os cientistas estavam “cada vez mais sobrecarregados” com o volume de artigos publicados. Manter o ritmo de trabalho verdadeiramente original é apenas um dos problemas. As demandas da revisão por pares – na qual acadêmicos se voluntariam para avaliar o trabalho uns dos outros – são agora tão intensas que os editores de periódicos podem ter dificuldade para encontrar especialistas dispostos.

De acordo com um estudo recente , somente em 2020, acadêmicos em todo o mundo gastaram mais de 100 milhões de horas revisando artigos para periódicos. Para especialistas nos EUA, o tempo gasto na revisão naquele ano representou mais de US$ 1,5 bilhão em mão de obra gratuita.

“Todos concordam que o sistema está meio quebrado e insustentável”, disse Venki Ramakrishnan, ex-presidente da Royal Society e ganhador do Prêmio Nobel no Laboratório de Biologia Molecular do Conselho de Pesquisa Médica. “Mas ninguém sabe realmente o que fazer a respeito.”

No mundo acadêmico do “publique ou pereça”, onde e com que frequência um pesquisador publica, e quantas citações seus artigos recebem, são fatores que definem sua carreira. A justificativa é razoável: os melhores cientistas frequentemente publicam nos melhores periódicos. Mas o sistema pode levar os pesquisadores a perseguir métricas. Eles podem conduzir estudos mais fáceis, promover resultados chamativos ou publicar suas descobertas em mais artigos do que o necessário. “Eles são incentivados por seus institutos ou agências de financiamento governamentais a publicar artigos com seus nomes, mesmo que não tenham nada de novo ou útil a dizer”, disse Hanson.

A publicação científica possui um modelo de negócios único. Cientistas, normalmente financiados por contribuintes ou instituições de caridade, realizam as pesquisas, as escrevem e revisam o trabalho uns dos outros para manter os padrões de qualidade. Os periódicos gerenciam a revisão por pares e publicam os artigos. Muitos periódicos cobram pelo acesso por meio de assinaturas, mas as editoras estão adotando modelos de acesso aberto, nos quais os autores podem pagar até £ 10.000 para ter um único artigo disponibilizado gratuitamente online.

De acordo com uma análise recente , entre 2015 e 2018, pesquisadores em todo o mundo pagaram mais de US$ 1 bilhão em taxas de acesso aberto às cinco grandes editoras acadêmicas: Elsevier, Sage, Springer Nature, Taylor & Francis e Wiley.

O acesso aberto ajuda a disseminar pesquisas de forma mais ampla. Por não ter acesso pago, o trabalho pode ser lido por qualquer pessoa, em qualquer lugar. Mas o modelo incentiva editoras comerciais a publicar mais artigos. Algumas lançam novos periódicos para atrair mais estudos. Outras solicitam artigos para um grande número de edições especiais.

Para uma editora suíça, a MDPI, edições especiais de periódicos representam uma importante fonte de receita. Um único periódico da MDPI, o International Journal of Molecular Sciences, está aceitando submissões para mais de 3.000 edições especiais . A taxa de publicação, ou taxa de processamento de artigo (APC), para um artigo é de £ 2.600. Desde o ano passado, a Fundação Nacional de Ciências da Suíça se recusa a pagar taxas de publicação para edições especiais devido a preocupações com a qualidade . A MDPI não respondeu a um pedido de entrevista.

Incentivos inúteis em torno da publicação acadêmica são apontados como responsáveis por níveis recordes de retratações , pelo aumento de periódicos predatórios , que publicam qualquer coisa mediante pagamento, e pelo surgimento de estudos escritos por IA e de fábricas de papel, que vendem artigos falsos a pesquisadores inescrupulosos para que os submetam a periódicos. Todos esses fatores contaminam a literatura científica e correm o risco de prejudicar a confiança na ciência. No início deste mês, a Taylor & Francis suspendeu as submissões ao seu periódico Bioengineered enquanto seus editores investigavam 1.000 artigos que apresentavam indícios de manipulação ou de procedência de fábricas de papel.

Embora fraudes e falsificações sejam problemas importantes, Hanson está mais preocupado com a abundância de artigos científicos que pouco contribuem para o progresso do conhecimento científico. “O perigo muito maior, em volume e em números totais, é o material genuíno, mas desinteressante e pouco informativo”, disse ele.

Agora é possível publicar um artigo revisado por pares em um periódico que praticamente não traz nada de novo. Esses artigos representam um grande dreno para o sistema em termos do dinheiro usado para publicá-los e custeá-los, do tempo gasto em sua escrita e da revisão deles.

O professor Andre Geim, ganhador do Prêmio Nobel da Universidade de Manchester, afirmou: “Acredito que os pesquisadores publicam muitos artigos inúteis e, mais importante, não somos flexíveis o suficiente para abandonar temas em declínio, onde pouco se pode aprender de novo. Infelizmente, após atingir uma massa crítica, as comunidades de pesquisa se autoperpetuam devido aos interesses emocionais e financeiros dos envolvidos.”

Hanson acredita que o problema não é o acesso aberto e os APCs em si, mas sim as editoras com fins lucrativos que buscam publicar o maior número possível de artigos. Ele acredita que a pressão sobre a publicação acadêmica poderia ser substancialmente aliviada se as agências de financiamento estipulassem que o trabalho que apoiam deve ser publicado em periódicos sem fins lucrativos.

Hannah Hope, líder de pesquisa aberta do Wellcome Trust, afirmou que, em geral, pesquisas suficientemente boas para serem financiadas devem ser publicadas e que um maior investimento em ciência, especialmente fora da América do Norte e da Europa, contribuiu para o aumento de artigos científicos. No entanto, ela concordou que a revisão por pares poderia ser usada de forma mais seletiva. “Tenho certeza de que a revisão por pares leva à melhoria da pesquisa. Vale sempre a pena o tempo investido nela? Acho que é algo que devemos questionar como área, e se a revisão por pares acontece no formato atual para tudo”, disse ela.

Ritu Dhand, diretora científica da editora Springer Nature, rejeitou a narrativa de que “editoras de periódicos gananciosas” lucram publicando artigos de baixa qualidade e destacou o fato de que o cenário da pesquisa científica passou por uma “transformação radical”, quadruplicando de tamanho nos últimos 25 anos. Há muito dominada por países ocidentais, a pesquisa agora é muito mais globalizada e liderada pela China , e não pelos EUA.

“A solução é não permitir que o resto do mundo publique?”, disse ela. “Vivemos em um mundo digital. Certamente, não importa quantos artigos estejam sendo publicados.” Ela vê soluções em melhores filtros, ferramentas de busca e alertas para que os pesquisadores possam encontrar o trabalho que realmente lhes interessa, além de uma expansão global de revisores por pares para absorver a demanda.

Embora a tecnologia represente novos desafios para as editoras acadêmicas, Ramakrishnan concordou que ela pode ser a resposta para alguns dos problemas. “Eventualmente, todos esses artigos serão escritos por um agente de IA, e então outro agente de IA os lerá, analisará e produzirá um resumo para humanos. Eu realmente acredito que é isso que vai acontecer.”