Editorial publicado em revista de farmacologia clínica alerta que a combinação entre IA generativa, periódicos predatórios e pesquisas fraudulentas pode comprometer a integridade da literatura médica e ampliar a desinformação científica em escala global
A publicação do editorial “Scientific Fraud: How Do We Ensure Sound Medical Literature?”, assinado por Michael J. Fossler e Katy P. Moore na revista Clinical Pharmacology in Drug Development, traz à tona uma preocupação que ultrapassa os limites da farmacologia clínica: a crescente vulnerabilidade da produção científica à fraude em uma era marcada pelo uso disseminado da inteligência artificial.
Embora a fraude científica esteja longe de ser um fenômeno novo, os autores alertam que as tecnologias atuais ampliaram enormemente a capacidade de produzir dados falsos, artigos fraudulentos e narrativas pseudocientíficas com aparência de legitimidade. Trata-se de uma ameaça que não afeta apenas a comunidade acadêmica, mas toda a sociedade, uma vez que a ciência continua sendo um dos principais instrumentos de formulação de políticas públicas, desenvolvimento tecnológico e tomada de decisões médicas.
O texto relembra episódios históricos conhecidos, como a fraude do Homem de Piltdown e as controvérsias em torno dos experimentos de Gregor Mendel. Contudo, os autores ressaltam que as consequências mais graves ocorrem quando a fraude se infiltra na medicina e na saúde pública. O exemplo paradigmático é o caso do médico britânico Andrew Wakefield, cuja publicação fraudulenta associando a vacina tríplice viral (MMR) ao autismo continua produzindo efeitos negativos décadas após sua retratação. O resultado é visível: a redução da cobertura vacinal, o reaparecimento de doenças antes controladas e a ampliação dos movimentos antivacina em diversas partes do mundo.
A questão torna-se ainda mais preocupante quando analisada à luz da atual revolução tecnológica. Os autores citam experimentos recentes nos quais pesquisadores conseguiram criar doenças fictícias, pesquisadores inexistentes, universidades imaginárias e conjuntos inteiros de dados artificiais capazes de enganar sistemas de inteligência artificial e até mesmo especialistas humanos. Em outro exemplo mencionado, o ChatGPT foi utilizado para gerar um artigo médico completo descrevendo um ensaio clínico inexistente, contendo introdução, metodologia, resultados, tabelas e discussão com aparência altamente convincente.
O problema não reside apenas na publicação de artigos falsos. Há uma dimensão mais profunda e potencialmente mais perigosa. À medida que modelos de inteligência artificial passam a ser treinados com enormes quantidades de literatura científica disponível na internet, estudos fraudulentos podem contaminar as bases de conhecimento utilizadas por esses sistemas. Em outras palavras, dados falsificados podem se transformar em “evidências” reproduzidas automaticamente por algoritmos, criando um ciclo contínuo de desinformação científica.
Essa preocupação merece atenção especial porque coincide com um momento histórico de crescente desconfiança social em relação à ciência. A pandemia da Covid-19 expôs fragilidades na comunicação científica, conflitos de interesse e disputas políticas que afetaram a percepção pública sobre especialistas, instituições de pesquisa e órgãos de saúde. Em tal contexto, cada novo caso de fraude não representa apenas uma infração ética individual, mas um golpe adicional na legitimidade social da própria ciência.
Os autores argumentam que a farmacologia clínica possui algumas barreiras institucionais que dificultam fraudes mais grosseiras, como a necessidade de equipes numerosas, monitoramento contínuo dos ensaios clínicos e auditorias regulares dos dados. Ainda assim, alertam que tais mecanismos não são suficientes diante das novas capacidades oferecidas pela inteligência artificial. Por isso defendem medidas mais rigorosas, incluindo auditorias independentes, fortalecimento dos sistemas de garantia da qualidade, exigência de documentação detalhada dos ensaios clínicos e endurecimento das penalidades legais para casos de fraude científica.
A análise proposta por Fossler e Moore é relevante porque desloca o debate para além da questão moral. A fraude científica não é apenas uma violação ética; ela produz desperdício de recursos públicos, desvia agendas de pesquisa, compromete decisões médicas e pode custar vidas humanas. O caso de pesquisas fraudulentas sobre Alzheimer, mencionado pelos autores, consumiu quase uma década de trabalho de outros pesquisadores antes que as manipulações fossem identificadas. O mesmo ocorreu com publicações ligadas ao Dana-Farber Cancer Institute, que resultaram em multas milionárias após a descoberta de imagens manipuladas.
Entretanto, talvez o aspecto mais importante do editorial seja sua defesa de uma postura ativa da comunidade científica. Os autores argumentam que a simples confiança nos mecanismos tradicionais de revisão por pares já não é suficiente. A ciência precisará desenvolver novas formas de verificação, rastreabilidade e auditoria para enfrentar um cenário em que artigos inteiros podem ser produzidos automaticamente por sistemas de inteligência artificial.
O desafio é enorme. A mesma tecnologia capaz de acelerar descobertas científicas pode ser utilizada para fabricar evidências falsas em escala industrial. Em um momento em que governos, empresas e cidadãos recorrem cada vez mais à inteligência artificial para buscar informações, a integridade da literatura científica torna-se uma questão de interesse público global.
A credibilidade da ciência sempre foi construída lentamente, por meio da transparência, da replicação dos resultados e do escrutínio coletivo. A era da inteligência artificial não elimina esses princípios. Pelo contrário: torna-os mais necessários do que nunca