Editor de revista de neurociência renuncia devido a preocupações com uso de IA na seleção de revisores

junho 18, 2026 / Marcos Pędłowski / Deixe um comentário

O editor demitiu-se depois que o sistema de inteligência artificial da editora anulou sua seleção de revisores para um manuscrito. Sua atitude motivou uma revisão interna do sistema Código de computador.

Configurações automáticas: Os recursos automatizados utilizados na Frontiers, editora com sede na Suíça, ajudam os editores a identificar e convidar revisores por pares. Fotograzia / Getty Images

Por Dalmeet Singh Chawla, Escritor colaborador, para “The Transmitter”

Um editor associado da Frontiers in Systems Neuroscience renunciou ao cargo em protesto contra o sistema de inteligência artificial (IA) da editora, argumentando que seu uso indevido está comprometendo a integridade acadêmica da revista.

Michael Okun , professor associado de neurociência da Universidade de Nottingham, anunciou sua renúncia nas redes sociais em 10 de junho, depois que funcionários da revista científica lhe disseram que não podiam desativar as ferramentas de inteligência artificial que encontram automaticamente potenciais revisores por pares.

Os recursos fazem parte do sistema Artificial Intelligence Research Assistant (AIRA) da editora, que a Frontiers lançou há alguns anos com o objetivo de auxiliar os editores na realização da revisão por pares, entre outros motivos .

Em entrevista ao The Transmitter , Okun explicou que, no início de maio, recebeu um pedido da revista para revisar um manuscrito sobre a dinâmica de redes neuronais. Ele o enviou para cerca de meia dúzia de potenciais revisores, mas antes que qualquer um deles aceitasse seu pedido, a AIRA começou a enviar seus próprios pedidos de revisão para outros pesquisadores , conta Okun. Dois revisores contatados pela AIRA — que não tinham experiência relevante, segundo Okun — aceitaram os pedidos.

Isso levou Okun a alertar a Frontiers sobre o problema. Okun afirma que lhe disseram para ignorar os pedidos enviados pela AIRA e continuar buscando revisores por conta própria. Mas quando ele fez isso e um dos especialistas convidados aceitou o convite, a AIRA revogou todos os outros convites. “É simplesmente inconcebível que um convite feito manualmente a alguém que é de fato um especialista na área seja revogado poucas horas depois de enviado”, diz Okun.

Isso foi um fator decisivo para Okun. “A revista quer publicar o máximo de artigos possível e não se importa muito com a qualidade”, diz ele. “Esses não são bugs, mas sim recursos intencionais, projetados para eliminar ao máximo a intervenção dos editores humanos.”

Em um comunicado enviado ao The Transmitter , Frederick Fenter , editor-chefe executivo da Frontiers em Lausanne, Suíça, afirma que cada recurso desenvolvido pela Frontiers visa economizar tempo para os cientistas, permitindo que eles se concentrem em suas pesquisas. “Lamentamos que o Dr. Okun tenha tido uma experiência negativa, e meu convite para discutir suas preocupações diretamente permanece em aberto.”

Fenter observa que os editores têm a capacidade de suspender os convites para revisores a qualquer momento, algo que não ficou claro no caso de Okun. Portanto, a Frontiers está conduzindo uma revisão interna, diz Fenter, para apurar onde ocorreu a falha de comunicação e garantir que incidentes semelhantes não se repitam no futuro.

O jornal The Transmission entrou em contato com dezenas de editores listados no site da Frontiers in Systems Neuroscience .

Um deles, Shuzo Sakata , professor de neurociência de sistemas na Universidade de Strathclyde, diz ter tido uma experiência semelhante com o sistema automatizado da revista. ” Mesmo depois de eu ter decidido rejeitar um manuscrito, o sistema convidou outro revisor sem a minha permissão”, lembra Sakata.

Sakata afirma que não aceita mais os pedidos da revista para supervisionar a edição. ” A automação é importante e muitas vezes útil, mas o sistema deles ultrapassou os limites.”

Vários outros editores consultados pelo The Transmitter disseram não ter enfrentado os mesmos problemas com a AIRA que Okun destacou, alguns observando que não editaram muitos artigos para a revista.

Outros pesquisadores observaram que a AIRA os contata com solicitações incomuns. “A Frontiers está constantemente me enviando pedidos de revisão ou edição que não têm nada a ver com minha área de especialização”, diz Earl K. Miller , professor de neurociência da Cátedra Picower no Instituto de Tecnologia de Massachusetts.

“Recebo pedidos frequentes para atuar como editor, mas em 97% dos casos o manuscrito em questão não se relaciona com minha área de especialização”, acrescenta Mathew Diamond , que lidera o Laboratório de Explorações das Bases Neuronais da Experiência Sensorial na Escola Internacional de Estudos Avançados.

De acordo com Fenter, a Frontiers utiliza IA desde 2018 para ajudar seus editores a identificar e convidar revisores.

Mas o julgamento humano é fundamental para o processo, afirma ele. “Os editores mantêm total discricionariedade sobre o uso de sugestões automatizadas; eles podem revisar todas as recomendações antes do envio de qualquer convite, decidir quem será convidado e em que ordem, e podem adicionar, remover ou reatribuir revisores a qualquer momento”, acrescenta Fenter. “As decisões de aceitar ou rejeitar sempre cabem a um editor humano, sem exceção.”

Quanto ao uso de IA para auxiliar os editores, Fenter afirma que isso traz benefícios claros: o tempo médio para encontrar revisores dispostos a realizar o trabalho caiu 30% na Frontiers no último ano. Os dados da Frontiers sugerem que 80% dos editores responsáveis pela gestão dos artigos consideram a automação útil e que ela agiliza a atribuição de revisores, diz Fenter, e 94% dos autores classificam sua experiência de revisão por pares como boa ou excelente.

“Os editores também contam com o apoio de uma Equipe de Integridade em Pesquisa dedicada, que supervisiona as verificações automatizadas de qualidade em todas as etapas do nosso processo editorial”, escreve Fenter. “Continuamos comprometidos em manter a expertise humana no centro da revisão por pares e em contribuir abertamente para o debate mais amplo sobre o uso responsável da IA na publicação acadêmica.”

Okun afirma que a ideia de usar grandes modelos de linguagem para encontrar especialistas externos é boa. “Sou totalmente a favor, desde que o editor humano seja consultado”, diz ele.

Por outro lado, Okun afirma que também não vê problema em um sistema totalmente automatizado, desde que as editoras divulguem que toda a edição foi feita por IA. “Desde que seja honesto e não se coloque simplesmente o nome de alguém, isso também é perfeitamente aceitável”, diz ele.

Fonte: The Transmitter

Quando a inteligência artificial revisa a ciência, quem revisa a inteligência artificial?

junho 13, 2026 / Marcos Pędłowski / Deixe um comentário

Muito além do debate sobre transparência no uso da inteligência artificial, está em jogo a capacidade da ciência de produzir interpretações originais, desafiar paradigmas e resistir à padronização imposta pelas grandes plataformas digitais

O editorial publicado na revista Evidence-Based Dentistry parte de um dado que merece atenção: mais da metade dos pareceristas científicos já utiliza ferramentas de inteligência artificial durante o processo de revisão por pares, embora grande parte das editoras ainda mantenha políticas ambíguas, restritivas e de difícil fiscalização. O texto defende que a IA já é uma realidade incontornável e propõe que o debate deixe de ser centrado na proibição para passar a ser orientado por mecanismos de transparência, governança e uso responsável.

Entretanto, há uma dimensão importante que o editorial apenas tangencia e que merece ser aprofundada: as implicações desse processo para a própria produção da ciência crítica.

Em primeiro lugar, é preciso reconhecer que a revisão por pares não é um exercício meramente linguístico. Um parecer de qualidade resulta da trajetória intelectual do pesquisador, de seu acúmulo teórico, de sua experiência metodológica e, sobretudo, de sua capacidade de formular perguntas incômodas. O bom parecerista não apenas identifica erros estatísticos ou problemas formais, mas é capaz de perceber silêncios, pressupostos ideológicos, conflitos de interesse e limitações epistemológicas que frequentemente escapam a uma leitura superficial.

É justamente nesse ponto que reside o principal problema da crescente delegação dessa atividade aos grandes modelos de linguagem. Essas ferramentas são treinadas para reconhecer padrões estatísticos presentes em grandes massas documentais. Em consequência, tendem a reproduzir aquilo que já é dominante, consensual e amplamente aceito na literatura científica. A originalidade, a ruptura teórica e a crítica às estruturas estabelecidas deixam de aparecer como virtudes e passam a ser interpretadas como desvios em relação ao padrão.

Em outras palavras, existe o risco concreto de que a IA funcione como um poderoso mecanismo de normalização da produção científica.

Esse risco é particularmente preocupante nas ciências sociais, humanas e ambientais, áreas em que grande parte das contribuições mais relevantes nasceu justamente do questionamento dos paradigmas vigentes. Pensadores que hoje são referências internacionais provavelmente teriam seus trabalhos classificados como excessivamente especulativos, pouco alinhados ao consenso ou insuficientemente convencionais caso fossem avaliados por sistemas treinados predominantemente sobre a literatura dominante.

Há ainda um aspecto estrutural que o editorial menciona apenas de forma indireta: a utilização crescente da IA não decorre apenas da busca por eficiência, mas da intensificação das condições de trabalho na academia. Pesquisadores são pressionados a publicar mais artigos, orientar mais estudantes, captar mais recursos, participar de mais bancas, assumir mais funções administrativas e, simultaneamente, produzir pareceres gratuitos para um sistema editorial altamente lucrativo. Nesse contexto, a IA surge como uma prótese cognitiva destinada a compensar a sobrecarga de trabalho.

O problema é que essa solução individual pode produzir um efeito coletivo perverso. Quanto mais a atividade intelectual é parcialmente terceirizada para sistemas algorítmicos, menor tende a ser o exercício cotidiano das competências analíticas que caracterizam o pensamento científico. A revisão por pares deixa de ser um espaço privilegiado de aprendizado, reflexão e confronto de ideias para transformar-se em uma atividade de edição e validação de textos previamente organizados pela inteligência artificial.

Existe também uma dimensão política pouco explorada no editorial. Os grandes modelos de linguagem são produtos de poucas corporações multinacionais que controlam infraestrutura computacional, bases de dados e recursos financeiros inacessíveis à maior parte da comunidade científica. A incorporação crescente dessas ferramentas ao processo editorial amplia a dependência da ciência em relação a plataformas privadas cujos critérios de treinamento, seleção de dados e funcionamento permanecem em grande medida opacos.

Nesse sentido, o problema não é apenas metodológico ou ético, mas também epistemológico. Se a produção, a avaliação e a circulação do conhecimento passam a ser mediadas por tecnologias desenvolvidas por um número reduzido de empresas, cria-se uma nova forma de concentração do poder científico, na qual determinados estilos de escrita, formas de argumentação e referências bibliográficas tendem a ser privilegiados em detrimento de perspectivas periféricas, dissidentes ou contra-hegemônicas.

Paradoxalmente, o próprio uso massivo da IA pode enfraquecer aquilo que mais se espera da revisão por pares: a diversidade de interpretações. Se milhares de pareceristas recorrem aos mesmos sistemas, treinados sobre os mesmos conjuntos de dados e programados para produzir respostas semelhantes, corre-se o risco de uma progressiva homogeneização do julgamento científico. O pluralismo metodológico e teórico, condição indispensável para o avanço da ciência, pode dar lugar a uma padronização algorítmica da crítica.

Por isso, embora o editorial tenha razão ao defender que a simples proibição da IA é ineficaz e provavelmente contraproducente, a discussão não deveria limitar-se à transparência do seu uso. É igualmente necessário preservar espaços em que o exercício da leitura crítica, da dúvida metodológica e da imaginação teórica continue sendo uma atividade genuinamente humana.

A ciência avança precisamente porque alguém é capaz de enxergar o que ainda não está consolidado, de formular perguntas que os consensos existentes não conseguem responder e de desafiar as interpretações dominantes. Uma inteligência artificial, treinada para reproduzir padrões, pode auxiliar tarefas técnicas e operacionais, mas dificilmente substituirá a capacidade de produzir estranhamento diante do aparentemente óbvio.

Em uma época marcada pela crescente automatização da produção acadêmica, talvez o maior desafio não seja impedir o uso da IA, mas evitar que ela transforme a ciência em um exercício de reprodução do consenso, justamente quando o mundo necessita, mais do que nunca, de pensamento crítico, criatividade intelectual e disposição para questionar as estruturas de poder que moldam tanto a sociedade quanto o próprio conhecimento científico.

Inteligência Artificial: a nova corrida do ouro que pode nos deixar sem água

junho 9, 2026 / Marcos Pędłowski / Deixe um comentário

Enquanto grandes corporações acumulam fortunas com a expansão acelerada da IA, pouco se discute sobre seus custos ambientais, a substituição do trabalho humano e a crescente captura do próprio fazer científico

O uso disseminado da chamada Inteligência Artificial (IA) é a principal transformação que vem ocorrendo no mundo científico, afetando, por assim dizer, o conjunto da obra. Não se trata mais de usar a IA para realizar correções linguísticas pontuais, mas até mesmo para escrever textos inteiros, incluindo o desenvolvimento de hipóteses e questões de pesquisa.

Os defensores da IA veem esse processo de captura do fazer científico como uma espécie de chegada de uma nova pedra filosofal, pois haveria um ganho não apenas de tempo, mas também na complexidade dos desafios que se poderiam enfrentar na realização da empreitada científica. É como se, do nada, estivéssemos entrando em uma nova idade de ouro da ciência.

A questão que esses apologistas da IA não fazem, nem querem que se faça, é a seguinte: quem ganha — e aí eu digo economicamente — com toda essa aceleração? Claramente, as grandes corporações econômicas que hoje monopolizam a produção dos algoritmos que impulsionam as diferentes ferramentas que cabem sob a sombrinha da IA. São essas corporações que estão especulando com a IA e, por enquanto, amealhando grandes fortunas com a sensação de que temos ganhos produtivos decorrentes dessa corrida.

Por outro lado, quem perde e o que se perde? Os perdedores são, essencialmente, os trabalhadores que estão vendo suas oportunidades de trabalho serem diminuídas pelo uso da IA. Mas pouco se fala sobre os custos ambientais trazidos pelo boom da IA, a começar pelo consumo exagerado de água, em um momento em que as reservas planetárias já estão se escasseando, inclusive no Brasil.

Como em qualquer onda gerada pela máquina capitalista, existe uma certa euforia em torno da IA. E é justamente por isso que precisamos ter um olhar crítico, e não um de mero deslumbre, sobre as ferramentas de IA. Ainda que não se possam ignorar os ganhos pontuais que se obtêm com a IA, o que não se pode esquecer é que o desenvolvimento intelectual humano ainda possui grande potencial de crescimento, e não há sequer necessidade de uma substituição sistemática da capacidade crítica que os seres humanos possuem.

Por isso, como em muitas outras situações atravessadas pela hegemonia capitalista, esse boom da IA precisa ser compreendido pelo que é e pelos custos que carrega. Do contrário, daqui a pouco não teremos água nem para o cafezinho, enquanto os donos das corporações de IA se afogam em suas fortunas.

Por outro lado, a inteligência humana sempre avançou porque aprendeu a construir ferramentas. O problema nunca foram as ferramentas, mas quem as controla, quem se apropria de seus benefícios e quem é obrigado a suportar seus custos socioambientais. A IA pode ampliar a capacidade humana de produzir conhecimento ou acelerar sua captura pelo capital. A diferença entre um caminho e outro não será decidida pelos algoritmos, mas pela luta política e pelas decisões que sejam tomadas em sociedade.

A sede da inteligência artificial: a revolução digital pode consumir água suficiente para abastecer 1,3 bilhão de pessoas

junho 6, 2026 / Marcos Pędłowski / Deixe um comentário

Relatório da Universidade das Nações Unidas alerta que a expansão acelerada da IA depende de enormes volumes de água para resfriar centros de dados e produzir eletricidade, expondo um custo ambiental praticamente ausente do debate público sobre o futuro da tecnologia

Antes de mais nada, é preciso desfazer uma das ilusões mais difundidas sobre a inteligência artificial: a de que ela pertence a um universo puramente digital, etéreo e praticamente sem impactos materiais. A popularização de ferramentas capazes de produzir textos, imagens, vídeos e análises complexas em questão de segundos criou a percepção de que estamos diante de uma tecnologia “limpa”, cuja principal matéria-prima seria apenas informação. Entretanto, um relatório recentemente publicado pelo United Nations University Institute for Water, Environment and Health (UNU-INWEH), intitulado The Environmental Cost of AI’s Energy Use: Carbon, Water and Land Footprints, demonstra que essa percepção está profundamente equivocada. Por trás da aparente simplicidade de uma pergunta feita a um chatbot existe uma infraestrutura gigantesca composta por centros de dados, redes elétricas, sistemas de refrigeração, cadeias globais de mineração e uma crescente demanda por terras e recursos naturais.

O relatório chega em um momento particularmente oportuno, quando governos e grandes empresas anunciam investimentos bilionários em inteligência artificial como se esta fosse a solução para praticamente todos os desafios contemporâneos. A narrativa dominante enfatiza ganhos de produtividade, inovação e crescimento econômico, mas dedica pouca atenção aos custos ambientais associados a essa expansão acelerada. Ao contrário do discurso corporativo, os pesquisadores da Universidade das Nações Unidas lembram que a inteligência artificial possui uma materialidade muito concreta: ela consome eletricidade, utiliza enormes volumes de água para resfriar servidores, depende da extração de minerais estratégicos e ocupa áreas cada vez maiores destinadas à construção de centros de processamento de dados.

Uma das principais contribuições do estudo é justamente ampliar o conceito de impacto ambiental. Em vez de limitar a discussão às emissões de carbono, o relatório demonstra que cada unidade de energia consumida pela inteligência artificial produz simultaneamente três tipos de pegadas ecológicas: a pegada de carbono, associada às emissões de gases de efeito estufa; a pegada hídrica, relacionada ao consumo direto e indireto de água; e a pegada territorial, que corresponde à ocupação de áreas necessárias para geração de energia, construção de infraestrutura e extração de matérias-primas. Essa abordagem integrada revela que uma fonte energética considerada “limpa” do ponto de vista climático pode continuar exercendo enorme pressão sobre recursos hídricos ou sobre a disponibilidade de terras, mostrando que a simples substituição dos combustíveis fósseis por fontes renováveis está longe de resolver todos os problemas.

Os números apresentados pelo relatório impressionam. Mantido o ritmo atual de expansão, os centros de dados dedicados à inteligência artificial poderão consumir cerca de 945 terawatts-hora de eletricidade por ano até 2030, valor equivalente ao consumo anual de diversos países industrializados. Trata-se de uma demanda energética colossal, impulsionada não apenas pelo treinamento de grandes modelos de linguagem, mas principalmente pela utilização cotidiana dessas ferramentas por centenas de milhões de pessoas. Cada consulta aparentemente trivial realizada em um sistema de IA representa um pequeno consumo de energia que, multiplicado bilhões de vezes diariamente, transforma-se em um dos mais importantes vetores de crescimento da demanda mundial por eletricidade.

Ainda mais preocupante é a questão da água, frequentemente ignorada nas discussões sobre tecnologia digital. Os supercomputadores responsáveis pelo funcionamento dos modelos de inteligência artificial produzem enormes quantidades de calor e necessitam de sofisticados sistemas de refrigeração, muitos deles baseados em água. Além disso, a própria geração da eletricidade utilizada por esses centros de dados também depende, em grande medida, de recursos hídricos. O relatório estima que, até o final da década, a infraestrutura global de inteligência artificial poderá consumir um volume de água suficiente para atender aproximadamente 1,3 bilhão de pessoas por um ano inteiro. Em um contexto marcado pela intensificação das mudanças climáticas, pela ocorrência de secas prolongadas e pelo aumento dos conflitos em torno da disponibilidade hídrica, esse dado assume proporções alarmantes.

Outro aspecto importante destacado pelos autores é a crescente demanda por minerais estratégicos necessários à fabricação de processadores de alto desempenho. A expansão da inteligência artificial significa também uma expansão da mineração de lítio, cobalto, níquel e terras raras, atividades frequentemente associadas a elevados impactos ambientais e sociais. Mais uma vez, observa-se uma divisão internacional dos custos e benefícios: enquanto os ganhos econômicos da revolução digital tendem a se concentrar nos grandes centros tecnológicos e financeiros, a degradação ambiental, a contaminação de ecossistemas e os conflitos sociais decorrentes da mineração recaem, em grande medida, sobre países periféricos da África, América Latina e Ásia.

Essa constatação conduz talvez à reflexão mais importante do relatório: a inteligência artificial também deve ser analisada sob a perspectiva da justiça ambiental. Os benefícios produzidos pela nova economia digital são distribuídos globalmente entre grandes empresas, investidores e consumidores de alta renda, mas seus impactos recaem de maneira desigual sobre comunidades locais que enfrentam aumento da demanda por água, pressão sobre sistemas elétricos, expansão da mineração, geração crescente de resíduos eletrônicos e ocupação intensiva do território. Em outras palavras, a inteligência artificial reproduz um padrão já conhecido de outras cadeias produtivas globais, no qual a riqueza é apropriada por poucos enquanto os passivos ambientais são socializados.

No caso brasileiro, as implicações desse cenário merecem atenção especial. O país reúne algumas das condições consideradas ideais para a instalação de grandes centros de dados, como relativa disponibilidade de energia renovável, abundância hídrica em determinadas regiões e potencial para expansão da infraestrutura elétrica. Ao mesmo tempo, é um dos principais fornecedores mundiais de minerais estratégicos e abriga biomas extremamente sensíveis, como a Amazônia e o Cerrado, que já sofrem forte pressão decorrente da mineração, do desmatamento e da expansão do agronegócio. Sem mecanismos robustos de regulação ambiental e planejamento territorial, a corrida global pela inteligência artificial pode aprofundar processos históricos de exploração de recursos naturais, concentrando benefícios econômicos e distribuindo impactos ambientais sobre populações vulneráveis.

O mérito do relatório do United Nations University Institute for Water, Environment and Health está justamente em retirar a inteligência artificial do campo da abstração tecnológica e recolocá-la no mundo material. Por trás de cada resposta produzida por um algoritmo existem cabos, concreto, aço, cobre, água, eletricidade, mineração, transporte e ocupação do território. Em um momento em que a inovação tecnológica é frequentemente apresentada como sinônimo automático de sustentabilidade, esse documento lembra que nenhuma revolução digital é capaz de escapar das leis da física nem das limitações ecológicas do planeta. A verdadeira discussão sobre inteligência artificial, portanto, não deve restringir-se à velocidade dos algoritmos ou aos ganhos de produtividade, mas precisa incorporar uma pergunta muito mais fundamental: quem suporta os custos ambientais dessa transformação e quem efetivamente se beneficia dela? Essa é uma questão que não pode continuar ausente do debate público, especialmente em países como o Brasil, onde a exploração intensiva dos recursos naturais já produz profundas desigualdades sociais e territoriais.

Citações zumbis devastam o mundo da Ciência

maio 9, 2026maio 9, 2026 / Marcos Pędłowski / Deixe um comentário

Uma entrevista com um acadêmica que testemunhou de perto o impacto da inflação de citações por IA

Como alguém de fora do meio acadêmico em sua totalidade, devo admitir que não tenho muita experiência com a publicação acadêmica/literatura revisada por pares.

Mas mesmo assim, eu sei quando algo está errado, e claramente o que ficou conhecido como “Frankencitações” — referências em artigos acadêmicos a literatura inexistente, inventadas por meio do uso do LLM — está errado. Elas ridicularizam todo o empreendimento e me parecem uma espécie de crise.

Ben Williamson, da Universidade de Edimburgo, tem acompanhado o fenômeno devido a uma experiência muito pessoal com as Frankencitations. Fiz-lhe algumas perguntas sobre o que está acontecendo e o que ele acha que devemos fazer a respeito.

JW: Vamos começar com uma apresentação para que as pessoas entendam suas credenciais.

BW: Sou professora sênior no Centro de Pesquisa em Educação Digital da Universidade de Edimburgo e editora do periódico Learning, Media and Technology . Minha pesquisa se concentra em tecnologia digital e dados no setor educacional, com trabalhos recentes e em andamento voltados para investidores em tecnologia educacional, a ascensão das ciências biológicas da aprendizagem com uso intensivo de dados e políticas educacionais relacionadas à IA.

P: O que é uma “Frankencitação” e por que devemos nos preocupar com elas?

R: Nos últimos dois ou três anos, muitos de nós que trabalhamos em universidades começamos a notar essas estranhas referências a artigos de periódicos acadêmicos ou livros que não existem. As referências são fabricadas por inteligência artificial generativa quando um autor, por exemplo, instrui um modelo de linguagem complexo a ajudá-lo a escrever um artigo ou adiciona referências para fundamentar uma revisão bibliográfica. Acho que todos já sabemos que os modelos de linguagem complexos rotineiramente inventam material. É isso que está acontecendo aqui. Os modelos de linguagem complexos estão criando referências acadêmicas porque pesquisadores acadêmicos os utilizam para produzir trabalhos de pesquisa, como artigos, capítulos ou livros.

Já ouvi vários nomes diferentes para isso: referências fantasmas, citações zumbis, referências espectrais ou Frankencitações. O que todos esses termos querem dizer é que as referências falsas geradas por IA não são reais, como um corpo humano vivo, mas têm uma espécie de meia-vida. “Frankencitações” funciona bem como nome porque elas são como o monstro — costuradas a partir de dados em um modelo de linguagem e, em seguida, animadas quando alguém usa um chatbot como o ChatGPT para fazer o trabalho por elas. E então, essas citações fabricadas podem causar todo tipo de problema quando se espalham pelo mundo ao serem incluídas em artigos acadêmicos.

P: Isso me parece muito ruim. Uma verdadeira onda de conteúdo falso infectando pesquisas acadêmicas e citações.

R: O grande problema que enfrentamos agora é que essas citações Frankenstein estão acabando em manuscritos enviados para revisão por pares. Isso está sobrecarregando editores e revisores, pois agora precisamos fiscalizar os manuscritos em busca de informações falsas nas listas de referências. Algumas dessas citações Frankenstein estão até mesmo sendo publicadas em periódicos acadêmicos. Elas simplesmente não estão sendo detectadas em nenhuma etapa do processo de publicação acadêmica — nem por editores, nem por revisores, nem mesmo durante a revisão, a correção de provas e a produção da publicação final.

Usar IA para produzir publicações acadêmicas com essas inserções falsas é uma forma de poluição do conhecimento, como deixar toxinas se infiltrarem em um rio e alterarem todo o ecossistema que ele alimenta. Também interfere na integridade acadêmica e quebra as cadeias de citação que sinalizam a relação de um autor com sua área de estudo. Isso representa o perigo real de que indivíduos sejam creditados por ideias que nunca tiveram ou que lhes sejam atribuídas afirmações que nunca fizeram. É por isso que a ideia de que essas referências falsas têm uma espécie de meia-vida me parece correta: elas estão circulando, deixando sua marca no mundo acadêmico e causando enormes problemas para editores, revisores e leitores de periódicos, apesar de não terem a substância de uma publicação real.

P: Você tem uma história interessante sobre como se deparou com o fenômeno pela primeira vez. Gostaria que você nos contasse essa história, mas também gostaria de saber o que você estava pensando/sentindo enquanto tudo acontecia. Qual foi a jornada intelectual/emocional de descobrir que você havia sido tão extensivamente Frankenificado?

R: Sou editora de periódico e isso envolve verificar novos manuscritos submetidos para decidir se são adequados para revisão por pares. Recentemente, meus coeditores e eu começamos a encontrar referências em novos manuscritos a artigos nos quais um ou mais de nós éramos creditados como autores, mas soubemos imediatamente que esses artigos não deviam ser reais, pois não os escrevemos!

Nossa hipótese é que alguns autores que submetem artigos à nossa revista estejam solicitando aos editores que incluam referências a artigos dos próprios editores, na esperança de que isso aumente as chances de seus manuscritos serem aprovados na revisão inicial. O problema é que eles estão inserindo erros crassos que detectamos imediatamente. Assim, nesses casos, os editores se tornam não apenas os primeiros leitores, mas também os últimos, já que somos obrigados a rejeitá-los de imediato. Isso configura uma conduta acadêmica inadequada, segundo os padrões de publicação científica, visto que os autores são absolutamente responsáveis pela precisão das referências em seus próprios manuscritos.

Recentemente, porém, decidi fazer uma busca na internet por uma dessas falsas referências a mim, puramente por curiosidade para ver se ela aparecia em algum outro lugar. Tinha o título “Governança e datificação da educação”. É um título bem genérico, mas já publiquei sobre os temas “educação”, “governança” e “datificação”, então essas são palavras-chave plausíveis para associar ao meu nome. Mas quando pesquisei “Governança e datificação da educação”, percebi rapidamente que essa citação Frankenstein em particular teve uma vida útil bastante agitada. Pelo que pude apurar, esse texto, “Governança e datificação da educação”, foi citado cerca de 70 vezes. Você mesmo pode conferir — basta acessar o Google Acadêmico, pesquisar “Governança e datificação da educação” e encontrará páginas e páginas de publicações que me citam por algo que eu nunca escrevi.

O que me intriga ainda mais é que, entre todos esses artigos, o subtítulo “Governança educacional e datificação” muda constantemente. Ele é citado em diversos periódicos diferentes. Às vezes, é um livro inteiro. Na maioria das vezes, tem um coautor nomeado — alguém com quem já colaborei —, mas às vezes não. E esse não-artigo continua a circular, ainda recebendo novas citações.

P: Sua reputação acadêmica explodiu!

R: Uma publicação inexistente tornou-se rapidamente uma das minhas mais citadas. É um pouco frustrante, porque de fato dediquei anos de trabalho relevante, mas dezenas de autores preferem citar algo em que eu nunca trabalhei.

O que realmente me preocupa é não saber pelo que estou sendo creditado. A maioria desses artigos é da minha área. Alguns foram publicados por editoras predatórias de qualidade muito baixa e podem ser ignorados sem problemas. Mas nem todos. Há casos em que acadêmicos renomados, que publicam em periódicos de alto impacto, estão citando meu trabalho. O que eles estão dizendo que eu escrevi ou reivindiquei? Também fiquei sabendo por um colega de outra instituição que minha citação falsa apareceu em um trabalho de um aluno. Portanto, a produção e reprodução dessas referências falsas também coloca os alunos em risco.

É uma situação realmente ridícula. Sou mais reconhecido por algo que não escrevi do que pelos artigos que de fato escrevi sobre o tema de educação, dados e governança!

P: Mesmo achando que entendo o fenômeno em um nível básico, não tenho certeza de como e por que essas coisas se proliferam tão rapidamente. Você fez um estudo para verificar quantas vezes havia sido alvo de Frankencitações e, algum tempo depois, outra pessoa fez um acompanhamento e o número de Frankencitações havia aumentado significativamente. Qual é o mecanismo? Qual a dimensão do fenômeno?

R: Sim, depois que publiquei algo online sobre minha descoberta, um cientista da computação chamado Dirk HR Spennemann investigou o assunto de forma completamente independente. Ele usou isso como exemplo para examinar como os LLMs produzem referências fabricadas — ele acabou de publicar um preprint no arXiv que detalha os aspectos técnicos. Então, ele fez uma busca muito mais minuciosa no Google Acadêmico do que eu consegui. O que ele descobriu foi que o artigo inexistente havia sido citado quase 140 vezes. E ele queria entender, em um nível técnico, como os LLMs geram essas referências. A conclusão dele foi que existem padrões distintos na forma como o genAI as cria. Aqui está o que ele escreveu no artigo:

“As referências acadêmicas alucinadas criadas pelo ChatGPT não são erros aleatórios, mas sim artefatos previsíveis e orientados por padrões, que refletem a forma como os modelos de IA geram texto. Essas referências são reconstruções sistemáticas construídas a partir de autores, periódicos e palavras-chave relevantes reais. Como os modelos de IA se baseiam no reconhecimento de padrões em vez da verificação factual, eles produzem citações que são estruturalmente corretas e contextualmente plausíveis, porém inexistentes. Essas alucinações podem ser geradas repetidamente, levando à duplicação e consistência em diferentes textos, o que pode aumentar sua legitimidade percebida.”

Certo, então, “Governança educacional e datificação” é uma combinação de um autor real (eu), periódicos reais (alguns dos quais publiquei) e palavras-chave relevantes (como eu disse, trabalho na área da educação e estudo dados e governança). Como também existe no Google Acadêmico, considerado um índice de referência da produção acadêmica mundial, um modelo de linguagem que busca informações na web — em vez de apenas gerar texto a partir de seus dados de treinamento — acaba confirmando a existência e a legitimidade do artigo, apesar de ele não existir. Spennemann também realizou um pequeno experimento no qual instruiu o ChatGPT a gerar ensaios sobre o tema de governança educacional e dados. Ele citou o artigo inexistente, é claro.

Como explicou Aaron Tay, especialista em sistemas de bibliotecas , o que temos é um conjunto dinâmico de processos que envolvem tanto o Google Acadêmico quanto a IA generativa. O Google Acadêmico estabeleceu “Governança e datificação da educação” como uma citação referenciada por outras 140 publicações, e os LLMs (mestrados em direito) estão amplificando sua existência ao executar processos de geração aumentada por recuperação (RAG) que tratam o Google Acadêmico como uma fonte autorizada de verdade citacional. O Google Acadêmico o trata como real e os chatbots o reproduzem como tal assim que alguém escreve uma proposta para uma redação ou artigo sobre o mesmo tema.

Uma coisa que tem sido difícil de descobrir completamente é se “Governança educacional e datificação” surgiu inicialmente como uma referência totalmente gerada por IA, ou se originou de um erro humano, que a genAI apenas amplificou massivamente desde então.

P: Creio que seja óbvio para todos por que proliferar citações falsas sobre uma fonte inexistente é simplesmente errado e ruim, mas o que há além disso? O que podemos esperar se permitirmos que essas coisas continuem a se proliferar?

R: Obviamente, já tivemos problemas com citações incorretas e pesquisas falsificadas no passado. O uso atual de IA generativa está industrializando problemas antigos na academia e nos colocando sob muito mais pressão quando se trata de publicação acadêmica. Para mim, isso é uma questão de confiança. Como confiar no registro acadêmico se ele está poluído com material sintético que não se refere mais com precisão a pesquisas anteriores? Quero dizer, toda pesquisa deveria ser um processo de construção sobre o conhecimento prévio para gerar novas ideias e fazer contribuições originais para a compreensão. Não é o caso com as Frankencitações. De forma mais prosaica, por que eu deveria confiar em um autor que submeteu algo à nossa revista que viola a integridade acadêmica?

É também uma questão de trabalho acadêmico. Uma pessoa que tenta economizar tempo ou ser mais produtiva com IA tem efeitos subsequentes sobre aqueles que supervisionam os manuscritos acadêmicos durante a revisão e publicação. Isso está começando a causar um sofrimento intolerável para editores e revisores de periódicos. Já estamos tendo que trabalhar muito mais para acompanhar o aumento exponencial das taxas de submissão, e agora muitas pessoas estão dizendo que também deveríamos verificar cada referência em um artigo — uma tarefa praticamente impossível.

O problema realmente abrangente é o que alguns agora chamam de “desleixo acadêmico”. Enciclopédias Frankenstein podem ser um bom indicador de um artigo gerado por IA. Estamos falando de lixo de IA na academia. Não se trata apenas de referências falsificadas com IA, mas de artigos e livros inteiros. O problema é que grande parte disso é difícil de detectar. Alguns pesquisadores acreditam que deveríamos trabalhar mais com IA e sugerem que é natural que, com o tempo, cada vez mais registros acadêmicos sejam aumentados com a ajuda da IA — seja pelo uso da IA na produção e análise de dados ou como coautora e parceira na produção de conhecimento. Isso pode ser verdade para alguns, em projetos específicos, para fins específicos. Mas o que temos aqui é a produção massiva e mecânica de material acadêmico que pode ou não corresponder a algo real no mundo. Se um artigo não corresponde nem mesmo à literatura anterior em sua própria área, como podemos confiar que ele nos diga algo sobre seus próprios sujeitos e objetos de análise?

P: A curto prazo, existe algo que nós (leitores, pesquisadores, instituições, publicações, etc.) possamos fazer para impedir essa proliferação?

R: Um dos motivos pelos quais temos nos manifestado bastante sobre isso em nossa revista é justamente para tentar persuadir autores acadêmicos de que é uma má ideia se desvalorizarem como pesquisadores e nos insultarem como editores e revisores, submetendo manuscritos com material falso. Quer dizer, se você nos cita e nós não escrevemos o artigo, sabemos o que você fez, e isso diz muito sobre seus padrões acadêmicos. Mas, é claro, essas referências falsas nem sempre são fáceis de detectar, e lidar com isso exigirá esforços muito mais sistêmicos. As editoras já estão testando soluções tecnológicas que supostamente detectam referências geradas por IA. Mas isso aparentemente é muito mais complexo tecnicamente do que se imagina. Já sabemos que os detectores de escrita por IA geram muitos falsos positivos, e é por isso que não são confiáveis para uso em revistas acadêmicas ou para a revisão de trabalhos de estudantes. Os detectores de citação por IA podem apenas amplificar os mesmos problemas, levando a ondas de falsas acusações, rejeições de artigos e animosidade acadêmica.

Acho que precisamos deixar claro que as editoras acadêmicas e as empresas de tecnologia precisam, sem dúvida, se unir e nos ajudar nessa questão. Afinal, as editoras têm parcerias multimilionárias com as grandes empresas de IA para alugar nossos artigos existentes como dados de treinamento para novos modelos. Elas fazem parte do problema do conteúdo acadêmico produzido por IA e precisam trabalhar com editores, autores, bibliotecas e instituições para resolvê-lo.

Aqui no Reino Unido, muitas bibliotecas acadêmicas já estão cancelando contratos com editoras devido ao aumento vertiginoso dos custos. E se nossas bibliotecas e as associações que as representam fossem até as editoras e as grandes empresas de tecnologia com as quais têm parceria e exigissem providências? Sem dúvida, há muito mais força em alianças desse tipo do que em alguns editores gritando em suas redes sociais (como tenho feito ultimamente).

P: E a longo prazo? Quais são as mudanças estruturais/sistêmicas necessárias para evitar que sejamos inundados por esse tipo de lixo de IA?

R: Precisamos de algum tipo de conjunto de acordos consensuais em todo o setor quando se trata de publicação acadêmica. É claro que as violações da integridade acadêmica não começaram com a IA generativa. Editoras predatórias existem há muito tempo. As fábricas de papel também conseguem produzir manuscritos sob demanda há anos. Algumas pesquisas científicas são ruins e nunca deveriam ser publicadas.

A IA está agora amplificando todos esses problemas existentes. Não os está atenuando. E no atual contexto político de muitos países, a ciência já está sob ataque. Não é difícil imaginar publicações “científicas” geradas por IA que sirvam a fins políticos mais explícitos, especialmente porque certas revistas acadêmicas já foram tomadas e se voltaram contra acadêmicos liberais. A IA também tem o potencial de acelerar ainda mais a produção de artigos científicos, agravando o dilúvio de manuscritos que já inunda as revistas. Esta não é a utopia da IA para a transformação da publicação acadêmica que nos foi prometida quando as editoras se aliaram à OpenAI, ao Google e à Microsoft.

Então, que tipos de regras e normas precisamos reforçar para nos proteger de tudo isso? Precisamos de acordos setoriais sobre como lidar com violações da integridade acadêmica? Na academia e no mercado editorial, temos diversos conjuntos de princípios, padrões e regras. Então, por que não para a IA também?

Não tenho respostas ou soluções completas para esses problemas. Assim como muitos outros editores, revisores, autores e bibliotecários universitários, tenho lutado para manter uma certa esperança acadêmica, visto que a IA foi simplesmente liberada em todos os nossos sistemas de conhecimento. É claro que o sistema já apresentava sérios problemas, mas me parece evidente que o experimento descontrolado com IA dos últimos anos tem sido um desastre para a produção e publicação do conhecimento acadêmico.

Os editores da revista Organization Science acabaram de realizar um estudo detalhado sobre isso , concluindo que o uso acadêmico da IA levou a mais pesquisas, mas não a pesquisas de melhor qualidade, e causou uma crise na revisão por pares. Precisaremos de esforços conjuntos de instituições, editoras e até mesmo das próprias empresas de tecnologia para resolver essa situação. Caso contrário, corremos o risco de o público perder ainda mais a confiança no setor como fonte confiável de conhecimento importante. Ou, para sermos mais otimistas, talvez possamos aproveitar este momento para definir qual tipo de sistema de publicação acadêmica realmente funcionaria melhor no futuro.

Fonte: Inside Higher Ed

A armadilha das alucinações

maio 4, 2026 / Marcos Pędłowski / Deixe um comentário

Harold M. Lambert / Getty Images

Por Mônica Manir pafa “Revista Fapesp”

Um caso constrangedor envolvendo o veterano jornalista belga Peter Vandermeersh ilustrou os perigos associados ao uso indiscriminado de ferramentas de inteligência artificial (IA) na produção de conteúdo jornalístico. Chefe das operações irlandesas do Mediahuis, um dos principais grupos de mídia na Europa, ele foi suspenso de suas funções em março após uma investigação interna constatar que incorporou a seus textos falsas declarações entre aspas atribuídas a especialistas, que foram geradas erroneamente por programas como ChatGPT, Perplexity e Google NotebookLM.

Dezenas de declarações presentes em 15 textos publicados por Vandermeersh não correspondiam a fontes verificáveis e sete fontes citadas nos artigos negaram veementemente ter proferido aquelas palavras. “Existem citações que não podem ser encontradas nas publicações das quais Vandermeersch afirma tê-las obtido, como estudos científicos e notícias”, informou o jornal NRC (do qual Vandermeersch já foi editor-chefe), responsável pela investigação. O jornalista reconheceu os equívocos e afirmou ter “caído na armadilha das alucinações”, termo usado para descrever erros gerados por IA, ao confiar excessivamente nas ferramentas sem verificar o conteúdo replicado.

“Perdi muitos minutos do meu tempo procurando onde eu poderia ter dito alguma besteira sobre ‘conhecimento imersivo’”, queixou-se Emily Bell, diretora do Centro Tow de Jornalismo Digital da Universidade Columbia, nos Estados Unidos, uma das vítimas das alucinações disseminadas por Vandermeersh. Usando ferramentas de IA do Google, Bell encontrou frases muito semelhantes em um discurso feito por outra pessoa. Seu nome também foi mencionado nesse discurso, mas em outro contexto, o que pode ser a origem da alucinação. O episódio evidencia um paradoxo da IA generativa: a tecnologia é capaz de produzir textos verossímeis, mas não há garantia de que sejam verdadeiros. Isso coloca em xeque princípios fundamentais do jornalismo profissional, como a verificação e a precisão dos fatos transmitidos ao público.

O tema tem sido abordado em estudos que investigam como jornalistas que cobrem assuntos científicos estão lidando com a incorporação da IA em suas rotinas de trabalho. Um artigo publicado em dezembro no Sage Journals por seis pesquisadores da área de comunicação, três deles brasileiros (Luisa Massarani e Cleiton Bezerra, da Fundação Oswaldo Cruz, e Luiz Neves, da Universidade Federal de Goiás), evidenciou uma ampla adoção das ferramentas de IA por repórteres especializados em ciência em tarefas corriqueiras, como transcrição de gravações e apoio à escrita. Nas entrevistas com os profissionais de imprensa, também foram relatadas preocupações com a confiabilidade das informações e com a compatibilidade do uso de IA com valores jornalísticos, como responsabilidade e ética. A maioria ainda é cautelosa ao utilizar a tecnologia em tarefas mais sofisticadas, como a análise de dados.

A adoção da inteligência artificial nas redações, segundo a pesquisa, varia entre países. Os autores se debruçaram sobre três deles: Brasil, Índia e Reino Unido. Jornalistas científicos britânicos mostraram certa resistência ao uso avançado das ferramentas, enquanto brasileiros e indianos indicaram ser mais flexíveis. Uma particularidade dos brasileiros é que adotam amplamente as ferramentas para traduzir textos e apoiar a escrita em um segundo idioma. Entre os benefícios propiciados pela IA, os entrevistados destacam o aumento da eficiência e o acesso facilitado à informação e, entre os perigos, a possibilidade de disseminar desinformação e a eliminação de postos de trabalho, que são cada vez mais escassos no jornalismo, incluindo sua vertente de ciência.

Outro estudo, esse publicado no Journal of Science Comunication por pesquisadores das universidades de Mainz e Ludwig Maximillian, de Munique, entrevistou 30 jornalistas científicos alemães sobre as perspectivas abertas pelo uso de IA. Os autores tinham interesse em saber se as novas ferramentas poderiam amenizar ou agravar o que se convencionou chamar de “crise do jornalismo científico”, impulsionada pela crescente digitalização dos meios de comunicação, pela perda de anunciantes e pelas mudanças nos hábitos de consumo de notícias do público. Em um fenômeno ambivalente, pesquisadores e divulgadores científicos criaram canais de comunicação direta com os leitores, por meio de blogs e redes sociais, enquanto os jornalistas profissionais foram impactados por demissões e sobrecarga de trabalho. A maioria dos profissionais entrevistados, contudo, disse não se sentir ameaçada e reconhece que sua atividade caminha pra uma integração cada vez maior com a IA.

Já um estudo da PLOS ONE realizado por duas pesquisadoras da Universidade de Twente, nos Países Baixos, e outro da Universidade de Bolonha, na Itália, analisou a qualidade da cobertura da imprensa sobre IA em quatro nações (Bélgica, Itália, Portugal e Espanha), examinando notícias e entrevistando jornalistas científicos. De forma geral, os entrevistados demonstraram preocupação com a situação do jornalismo científico, incluindo a falta de financiamento, que pode afetar a qualidade das reportagens. Segundo o estudo, novas vertentes, como o jornalismo de engajamento, que prevê a participação da audiência na produção da notícia, e o jornalismo de soluções, que busca evidências capazes de resolver problemas sociais, teriam potencial para contribuir no enfrentamento desses desafios, inclusive nesse momento de transição, com a IA batendo à porta.

Para auxiliar nessa travessia, em 2024 o Centro de Estudos de Ciência, Comunicação e Sociedade da Universidade Pompeu Fabra (SCS-UPF), instituição pública localizada em Barcelona, na Espanha, liderou o desenvolvimento de um guia de ferramentas de inteligência artificial para jornalistas científicos. O manual se divide em três blocos. O primeiro indica plataformas que auxiliam na pesquisa de documentos e imagens, na identificação de pesquisas revisadas por pares, na tradução de textos e na transcrição de áudios. O segundo se detém em recursos para podcasts e o terceiro na organização do fluxo de trabalho. Para selecionar as melhores ferramentas, foi realizado um webinar com profissionais da comunicação científica, que apontaram aquelas que usavam com mais frequência. Todas elas foram testadas em um curso-piloto realizado em Barcelona, para verificar se eram mesmo eficientes e úteis.

Fonte: Revista Fapesp

A IA está inundando as revistas acadêmicas com material ruim. Uma revista mediu a dimensão dessa avalanche

maio 4, 2026 / Marcos Pędłowski / Deixe um comentário

Submissions to academic journals have surged since the release of ChatGPT, straining a peer review system built for human-scale production. A new study from Organization Science measures the impact.

Por John Drake, professor da Universidade da Geórgia, para a Forbes

As submissões de artigos para revistas científicas aumentaram desde o lançamento do ChatGPT, sobrecarregando um sistema de revisão por pares construído para a produção em escala humana. Um novo estudo da Organization Science mede o impacto. getty

O termo “IA slop” geralmente descreve as imagens e o texto de baixa qualidade que a mídia social desordena. Chegou agora ao sistema de revisão por pares que governa o que conta como conhecimento científico.

As Submissões à Ciência da Organização, uma das principais revistas em pesquisa de gestão, subiram 42% desde o lançamento do ChatGPT. A escrita piorou.

Um novo estudo da equipe editorial da revista descobriu que os manuscritos gerados por IA são mais difíceis de ler, mais jargões carregados e mais propensos a serem rejeitados do que aqueles escritos por humanos. Enquanto isso, mais de 30% das avaliações de especialistas que os periódicos rotineiramente usam para decidir o que publicar agora mostram o uso detectável de IA, e os editores relatam que essas revisões são essencialmente pouco informativas. A tecnologia que deveria tornar a ciência mais produtiva está, no momento, tornando mais difícil avaliar. Sem dúvida, este é um instantâneo de um sistema em transição, não um veredicto permanente sobre a IA na pesquisa. Mas o instantâneo vale a pena olhar de perto.

Tenho escrito sobre as pressões estruturais sobre a revisão por pares, e sobre o risco de que as ferramentas de IA possam degradar a qualidade do pensamento científico, mesmo à medida que aceleram a produção. Este artigo, da Força-Tarefa de IA da revista liderada por Sharique Hasan, da Duke, é o primeiro a colocar dados detalhados por trás dessas preocupações em um único periódico.

A qualidade dessa escrita deteriorou-se. As pontuações de IA e Flesch Reading Ease foram negativamente correlacionadas entre as submissões. Manuscritos com alto conteúdo de IA exigem um nível de nível mais alto para analisar, usar mais nominalizações (palavras como “conceitualização” e “operacionalização”) e carregar mais jargões. Curiosamente, existem algumas dimensões em que o texto de IA teve melhor desempenho: tendia a ser mais específico e menos hedge. Mas o efeito líquido é a prosa que é mais densa e mais difícil de ler. Gartenberg invocou o ensaio de George Orwell “Política e a Língua Inglesa”, com seus exemplos de políticos enterrando significado na abstração. A prosa de IA, disse ela, se lê como esses políticos: densa, vagamente impressionante, difícil de seguir.

O título do jornal enquadra o problema: “Mais versus melhor”. “A IA, como está sendo usada hoje, está colidindo com incentivos institucionais para criar mais do que uma pesquisa melhor”, disse Gartenberg. “Não é a IA por si só. É IA mais incentivos de publicação ou pereza.”

Quem está usando e por quê

O jornal inclui uma descoberta que deve preocupar qualquer um que pense que isso é apenas sobre alguns maus atores com ChatGPT. As escolas de negócios cujo corpo docente historicamente mais responde aos rankings de contagem de publicações aumentaram desproporcionalmente seus envios de IA depois que o ChatGPT se tornou disponível. O ranking em questão é a lista da UTD, mantida pela Universidade do Texas em Dallas, que pontua escolas de negócios por quantos artigos seu corpo docente publica em 24 revistas de topo designadas. É uma das métricas mais amplamente observadas na academia de negócios, e os acadêmicos de escolas que competem nela têm fortes incentivos para maximizar a quantidade.

O efeito é estatisticamente significativo: as escolas que competem no ranking da UTD enviaram mais trabalhos após o ChatGPT, e esses trabalhos adicionais foram desproporcionalmente IA escrita. Isso sugere que o uso pesado de IA em manuscritos não é aleatório, mas rastreia incentivos institucionais. Autores em escolas onde a contagem de publicações mais importa são os que mais se apoiam nas máquinas.

Gartenberg descreveu o que ela vê como sua visão central do projeto: a IA é uma ferramenta agnóstica. Você pode apontá-lo para a qualidade ou você pode apontá-lo para o volume. “Há incentivos de volume tão poderosos agora”, disse ela, “que pode realmente ser destrutivo”.

O lado da revisão

A IA não se limita ao pipeline de submissão. Mais de 30% das avaliações por pares na Organization Science agora mostram o uso detectável de IA, acima de quase zero antes do ChatGPT. Essas revisões seguem o mesmo padrão que os envios: mais difícil de ler, mais nominalização, mais jargões. Eles também mudam a ênfase para a teoria e para longe de dados e métodos empíricos, um estreitamento da faixa avaliativa que, se persistir, poderia remodelar que tipo de ciência é recompensada.

A ética da IA na revisão por pares é instável. Se um especialista usa a IA para informar uma opinião, essa opinião ainda é do especialista? Manuscritos inéditos são compartilhados com revisores em confiança. Enviá-los para os servidores de um chatbot é geralmente visto como inaceitável, uma divulgação para um leitor não autorizado, mesmo que esse leitor seja uma máquina. Mas o cálculo muda se o manuscrito já estiver público em um servidor de pré-impressão? Se a IA é executada em um ambiente com caixa de areia que não retém nada? Se o revisor coloca uma pergunta que nunca compartilha explicitamente o texto? Essas distinções importam, e nenhuma delas está resolvida.

A descoberta mais reveladora é que, na Organization Science, as revisões de IA não parecem informar decisões editoriais. As revisões humanas correlacionam-se com os resultados editoriais. As avaliações de IA não. “Não é como se os editores soubessem que essas são avaliações de IA e estão jogando-as fora”, disse Gartenberg. “Eles estão lendo e não estão informando a recomendação final do editor.” Os editores estão substituindo seu próprio julgamento, o que significa que a revisão, o mecanismo central do controle de qualidade na ciência, está produzindo um texto no qual ninguém age.

Segurando a Linha, por Enquanto

A boa notícia é que o processo editorial da Organization Science ainda está filtrando de forma eficaz. Apenas 3,2% dos manuscritos pontuados em 70% ou mais de uso da IA recebem uma revisão e reenvio, em comparação com 11,9% para papéis de IA baixos. Artigos publicados permanecem predominantemente gerados pelo ser humano. Os editores estão a apanhar o mau trabalho.

No entanto, há um custo humano significativo. A revista dobrou seus editores adjuntos de seis para onze e quase dobrou seus editores seniores de cerca de 30 para 60. Tudo isso é trabalho voluntário, acadêmicos não remunerados doando tempo para manter a qualidade científica. Quando esses acadêmicos estão eliminando o IA slop, eles não estão usando seu tempo para dar aulas, realizar pesquisas ou servir suas profissões.

O economista Scott Cunningham moldou a produção científica como uma função de produção com dois insumos: tempo humano e tempo da máquina. Um pouco de tempo de máquina, combinado com tempo humano substancial, aumenta a qualidade da saída. Mas se os pesquisadores deixarem a máquina substituir seu próprio engajamento, eles entram no que Cunningham chama de “zona de perigo”, uma região onde a qualidade da produção realmente fica abaixo do que eles teriam produzido sem a IA. O mecanismo é simples: o tempo humano não é apenas trabalho. É o processo através do qual a atenção se acumula no conhecimento e no julgamento. Evite as horas e você pule o aprendizado.

Os dados de Gartenberg sugerem que a zona de perigo não é hipotética. Já é visível nas estatísticas de submissão de uma grande revista. “As pessoas pensam como escrevem”, ela me disse, “e por isso, se você não escreve, você não está pensando tão profundamente sobre isso.” Os pesquisadores que enviam manuscritos obtiveram pontuação em 70% ou mais de conteúdo de IA, na estrutura de Cunningham, ultrapassaram esse limiar. Trocaram o pensamento pela produção. Os editores podem dizer.

Um instantâneo, não um veredicto

Essas descobertas merecem contexto. Os dados vão até o início de 2026, mas grande parte da IA que a equipe detectou foi produzida com modelos anteriores, ChatGPT 3.5 e GPT-4, que tinham contagens estilísticas bem conhecidas e uma tendência para a prosa nominal inchada. As ferramentas estão melhorando rapidamente. Não há nada fundamental para impedir que um modelo de linguagem seja treinado ou solicitado a escrever em um nível de leitura alvo, para minimizar o jargão, para passar nos mesmos testes de legibilidade que os editores humanos usam. A lacuna de qualidade deste documento em papel pode ser substancialmente uma função de quão grosseiramente a maioria dos pesquisadores está atualmente implantando as ferramentas. Há tanto a maturidade das próprias ferramentas quanto a maturidade das pessoas que as usam. Ambos estão evoluindo.

Também vale a pena notar o que o papel não mostra. A Ciência da Organização não está perdendo o seu melhor trabalho. Os principais artigos da revista ainda estão passando, e sua taxa geral de rejeição é essencialmente inalterada em todas as categorias de IA. Os envios adicionais são principalmente medíocres e os editores estão filtrando-os. Uma maneira de ler os dados é que o efeito líquido sobre o conhecimento ainda é positivo: toda a boa ciência que estava sendo produzida antes, além de alguma fração de novo trabalho que, embora não mude de campo, registra fatos e descobertas que podem ser úteis para alguém no futuro. A ciência sempre gerou uma longa cauda de trabalho incremental ao lado dos avanços. Se o custo de produção dessa cauda cair, e o processo editorial ainda puder separar o sinal do ruído, a base de conhecimento pode crescer mesmo que a qualidade média dos envios diminua.

Também existe uma possibilidade mais especulativa. Se a IA está aumentando a variação na qualidade de submissão enquanto o processo editorial apara a cauda inferior, os melhores papéis no pipeline poderiam realmente ser melhores do que antes. Pesquisadores que usam bem a IA, como um parceiro de pensamento em vez de um ghostwriter, podem estar produzindo um trabalho mais ambicioso do que poderiam ter conseguido sozinhos. Os dados ainda não podem confirmar isso. Mas eles são consistentes com isso.

Em um ponto de nossa conversa, Gartenberg desenhou uma analogia com o xadrez. A IA pode vencer qualquer jogador humano, mas o xadrez é mais popular agora do que nunca. A pergunta que ela continua entregando: o que se torna o objetivo da ciência quando a IA pode produzir as saídas? Quando falei com Jeff Clune, autor sênior de um artigo recente da Nature sobre automação de pesquisa de ponta a ponta, ele fez uma observação semelhante sobre escalada em rocha. Alex Honnold pode escalar El Capitan mais rápido e melhor do que Clune jamais vai. Isso não fez Clune desistir de subir. Montanhas e xadrez e ciência não são entretenimento. São coisas que proporcionam significado às pessoas. A ciência pode estar se aproximando de um momento existencial, onde o propósito do trabalho importa mais do que os produtos dele.

Onde a IA pode realmente ajudar

A ironia da situação atual é que a mesma tecnologia que cria problemas no lado da submissão pode ser útil no lado editorial. O gargalo na publicação acadêmica não é produção. É avaliação. Os diários estão se afogando em manuscritos e lutando para encontrar revisores dispostos a lê-los. A IA é adequada exatamente para o tipo de avaliação estruturada que pode aliviar essa pressão.

Considere o que um periódico pode fazer com a IA no pipeline editorial. Antes que qualquer ser humano leia um envio, uma tela automatizada verifica a facilidade de leitura, a densidade do jargão e a complexidade da frase. Trabalhos abaixo de um limiar são devolvidos aos autores com feedback específico. Isso, por si só, filtraria uma parcela substancial dos envios de baixa qualidade que atualmente consomem tempo de editores voluntários.

A IA também pode avaliar dimensões que os editores humanos avaliam de forma intuitiva, mas inconsistente: se as alegações de um artigo são apoiadas por seus métodos, se a revisão da literatura envolve o trabalho anterior relevante, se a abordagem estatística corresponde ao design da pesquisa. Nenhuma dessas avaliações precisaria ser definitiva. Eles precisariam ser informativos o suficiente para ajudar os editores a alocar sua atenção para os manuscritos que merecem isso. O humano fica no circuito. A máquina lida com triagem. No lado da revisão, onde os dados de Gartenberg mostram a inteligência artificial mudando a atenção para a teoria e longe dos dados, um assistente de revisão bem projetado poderia fazer o oposto: levar os revisores a se envolver com alegações empíricas específicas, sinalizando inconsistências entre métodos e resultados, andaime da revisão em vez de substituí-la.

Para mim, a tecnologia não é madura o suficiente para ser implantada de forma confiável em escala. Errar a implementação pode introduzir novos problemas. Mas a restrição de ligação na ciência está mudando da produção para a avaliação, e a IA é a ferramenta mais plausível para abordá-la.

A própria Gartenberg usa Claude e Codex em sua própria pesquisa. Ela não está argumentando que a IA deve ser mantida fora da ciência. Seu artigo é uma medida de onde as coisas estão hoje, não uma previsão de onde elas vão acabar. Como editor de periódicos, reconheço tudo nele: as submissões crescentes, o engajamento do revisor em declínio, o crescente fardo editorial. O sistema está a aguentar. A questão em aberto é se as ferramentas que estão atualmente forçando-o podem ser reaproveitadas para fortalecê-lo.

Fonte: Forbes

Estudo alegava que o ChatGPT melhorava o processo de aprendizagem causou grande impacto. Agora, ele foi despublicado

maio 1, 2026 / Marcos Pędłowski / Deixe um comentário

O artigo de pesquisa recomendava a integração do ChatGPT no ensino e teve ampla circulação. Graças a dois pesquisadores noruegueses, ele foi despublicado

O aplicativo ChatGPT da OpenAI em exibição na App Store da Apple em um smartphone.

Segundo os críticos, o estudo não mediu realmente se o uso do ChatGPT ajudou os alunos a aprenderem mais, mas sim a qualidade do que eles produziram usando o ChatGPT. São duas coisas bem diferentes. Foto: Matt Rourke /AP / NTB

Por JorgenSvarstad para “Krono”

Em um artigo de pesquisa publicado na revista Humanities and Social Sciences Communications em maio passado , dois pesquisadores chineses afirmaram que o uso do ChatGPT tem um grande efeito positivo na aprendizagem dos alunos.

Tratava-se de uma meta-análise que revisou 51 quase-experimentos sobre inteligência artificial (IA) e ChatGPT.

“Para obter os melhores resultados, o ChatGPT deve ser integrado ativamente ao ensino, de preferência ao longo de várias semanas e com suporte dentro de uma estrutura pedagógica clara”, recomendaram os autores.

O artigo recebeu muita atenção e foi destaque em diversos veículos de comunicação noruegueses, como Khrono , NRK e Aftenposten .

Segundo a Altmetric, o artigo foi lido mais de 470.000 vezes e citado mais de 250 vezes em outras pesquisas .

Dois pesquisadores da UIT criticaram

Mas também foi alvo de críticas. Dois funcionários de universidades norueguesas, o pesquisador Magnus Ingebrigtsen e o professor sênior Marko Lukic, da UiT – Universidade Ártica da Noruega, foram os primeiros a criticá-la.

Eles acompanharam o caso de perto, e suas críticas foram decisivas para a decisão da revista esta semana de retratar o artigo.

O aviso de retirada de obra da editora é relativamente enigmático. Ele afirma:

“O editor decidiu retratar este artigo devido a preocupações relacionadas a discrepâncias na meta-análise. Essas questões, em última análise, comprometem a confiança que o editor pode ter na validade da análise e nas conclusões dela derivadas.”

O texto afirma ainda que os autores não responderam aos questionamentos sobre a retratação.

A Khrono também tentou entrar em contato com os autores para obter comentários, mas não recebeu resposta.

Você acha que isso não mede os resultados da aprendizagem?

Algumas semanas após a publicação do artigo no ano passado, Ingebrigtsen e Lukic escreveram em uma coluna na Khrono que “Não, esta meta-análise não mostra melhor aprendizado com o ChatGPT.”

Eles escreveram ainda que a meta-análise não mediu principalmente a aprendizagem, mas sim os “resultados da aprendizagem”, ou seja, a qualidade do código ou dos textos acadêmicos produzidos com a ajuda do ChatGPT.

Além disso, apontaram diversos erros graves: números incorretos de participantes, tamanhos de efeito calculados incorretamente, uso acrítico de estudos originais fracos e casos em que variáveis que não foram medidas nos estudos originais foram, no entanto, utilizadas na análise.

“Os erros são tão significativos que o artigo jamais deveria ter passado pela revisão por pares e justificam uma revisão completa, ou mesmo uma retratação”, escreveram eles.

Os dois entraram em contato diretamente com os autores, que é o que as diretrizes da editora Springer Nature indicam ser a primeira coisa que os críticos devem fazer.

A resposta dos pesquisadores

Magnus Ingebrigtsen diz:

– Eles nos responderam imediatamente. Enviaram-nos bastante material. Entre outras coisas, um arquivo chamado data.xlsx, mas que na verdade não continha nenhum dado, apenas a bibliografia. Depois, enviaram-nos um gráfico com uma resolução tão ruim que mal dava para ler os valores. Em seguida, responderam a todos os nossos pontos e admitiram muitos dos erros, mas atribuíram-nos a erros de formatação ocorridos durante o processo de composição tipográfica.

Em seguida, os dois pesquisadores noruegueses enviaram à revista um artigo intitulado “Questões Emergentes”, que consiste em um comentário científico sobre o artigo.

Lá, eles solicitaram formalmente a retratação do artigo devido a erros. Apontaram, entre outras coisas, que o estudo individual com maior peso na meta-análise já havia sido retratado antes da publicação do controverso estudo ChatGPT.

O segundo estudo com maior peso não mediu o desempenho de aprendizagem, mas sim a autoconfiança e a aceitação da tecnologia.

Finalmente foi despublicado

O editor respondeu que iriam investigar o assunto. Passaram-se meses sem que nada acontecesse.

Em abril, os pesquisadores noruegueses encaminharam o caso ao grupo de integridade científica da editora Springer Nature. Apenas cinco dias depois, receberam a notícia de que o artigo havia sido retratado.

O editor também escreveu que foi o artigo “Assuntos Emergentes” que desencadeou a investigação.

– É fantástico que tenha sido despublicado , mas demorou muito tempo, diz Ingebrigtsen.

Grande impacto

Ele acredita que muitos danos foram causados nos dez meses desde a publicação do artigo.

O vídeo recebeu quase meio milhão de visualizações e várias centenas de citações científicas.

Segundo Ingebrigtsen, um projeto educacional financiado pela União Europeia utilizou o estudo como argumento de que a IA tem um grande impacto positivo na aprendizagem.

Ingebrigtsen afirma que as empresas de tecnologia educacional (edtech) usam isso em seu marketing.

Pesquisadores da área da educação na Noruega já discutiram o assunto.

— E se você perguntar a qualquer modelo de linguagem, ChatGPT, Gemini ou Claude, se existem bons estudos que mostram que o ChatGPT proporciona um aprendizado melhor, eles citarão este. Portanto, uma consequência disso é que potencialmente muitas pessoas se referem a este estudo — afirma ele.

– Por que você insistiu tanto nisso?

— Esta é a minha área de especialização. Estou escrevendo uma tese de doutorado sobre como aprendemos melhor e com mais eficácia. Me irrita que descobertas imprecisas e pouco confiáveis como essa influenciem decisões importantes sobre escolas e educação — afirma ele.

Acredito que a IA pode ter efeitos positivos na aprendizagem, mas também efeitos negativos significativos. Tudo depende de como a utilizamos. A literatura atual é caracterizada por “exageros”, e muitos artigos são publicados sobre IA e educação. No entanto, muitos deles apresentam fragilidades metodológicas e, ainda assim, chegam a conclusões extremamente positivas.

Fonte: Krono

A terceirização do pensamento: IA, ensino superior e o futuro da ciência

abril 30, 2026 / Marcos Pędłowski / Deixe um comentário

O uso descontrolado de IA ameaça a formação crítica de estudantes e o futuro da produção científica

Nos últimos dois anos, a inteligência artificial (IA) deixou de ser uma curiosidade tecnológica para se tornar presença constante no cotidiano universitário. Hoje, uma quantidade significativa de estudantes consegue gerar resumos, resolver exercícios, escrever relatórios, montar apresentações e até produzir artigos científicos completos em questão de minutos. À primeira vista, isso parece apenas mais uma revolução tecnológica inevitável. Mas basta olhar com um pouco mais de atenção para perceber que estamos diante de um problema muito mais profundo, e potencialmente devastador para a formação universitária, a ética acadêmica e o próprio futuro da ciência. O ponto central é simples: o uso descontrolado da IA está corroendo silenciosamente o próprio processo de formação universitária.

A universidade nunca teve como missão apenas entregar diplomas. O papel histórico das universidades sempre foi formar profissionais capazes de pensar, analisar, argumentar, duvidar e tomar decisões em contextos complexos. Em outras palavras, formar autonomia intelectual. E isso não se constrói com respostas prontas, pois toda a experiência acumulada mostra que isso se constrói com esforço cognitivo, erro, tentativa, leitura difícil e escrita trabalhosa. É justamente esse processo que a IA começa a substituir, e rapidamente assimilada em nome da formação mais veloz de profissionais que estariam sendo ansiosamente esperados pelo mercado.

O problema é que disciplinas obrigatórias existem por uma razão. Elas definem o perfil profissional que a sociedade espera de um engenheiro, de um médico, de um advogado, de um cientista. Anatomia, fisiologia, farmacologia e epidemiologia não são obstáculos burocráticos na formação médica; são a base que sustenta decisões clínicas que podem salvar ou perder vidas. Quando um estudante terceiriza a resolução de exercícios, a escrita de relatórios ou a síntese de textos para uma IA, ele pode até entregar um trabalho perfeito, mas sem ter trilhado o caminho cognitivo necessário para, de fato, aprender. O fato é que estamos criando, silenciosamente, a figura do profissional diplomado sem domínio real das competências fundamentais.

E aqui o risco deixa de ser educacional e passa a ser social. Imaginemos médicos excessivamente dependentes de sistemas automatizados para interpretar exames ou propor diagnósticos. Imagine engenheiros incapazes de avaliar criticamente um cálculo gerado por software. Imaginemos cientistas que nunca desenvolveram plenamente a capacidade de formular perguntas originais. Esse cenário não é ficção científica, pois ele está começando a ser construído agora, dentro das universidades em todo o mundo.

Um dos efeitos mais preocupantes desse processo é a terceirização do esforço cognitivo. Pensar exige treino constante. Leitura profunda exige prática. Escrever exige sofrimento intelectual. Quando a IA passa a realizar essas tarefas com rapidez e fluidez, muitos estudantes deixam simplesmente de exercitar essas habilidades. Aos poucos, a tolerância à complexidade diminui, a capacidade de concentração se reduz e a autonomia intelectual se fragiliza. A tecnologia criada para ampliar capacidades humanas começa, paradoxalmente, a atrofiá-las.

O impacto ético também é gigantesco. A fraude acadêmica entrou em uma nova fase. Durante décadas, plagiar significava copiar textos existentes. Hoje, tornou-se possível produzir trabalhos inteiros sem dominar o conteúdo e com baixíssima probabilidade de detecção. As universidades estão enfrentando uma crise silenciosa: trabalhos deixaram de ser evidência confiável de aprendizagem. Se professores não conseguem distinguir autoria humana de produção automatizada, as notas deixam de refletir competência real e os diplomas passam a sinalizar muito menos do que deveriam. Isso ameaça a credibilidade institucional do ensino superior. Mas talvez o impacto mais grave esteja acontecendo na própria ciência. A escrita acadêmica sempre foi parte essencial da formação de pesquisadores. Dissertações e teses não são apenas produtos finais; são rituais de passagem intelectual, mas um momento em que o estudante aprende a formular problemas, estruturar argumentos, lidar com incertezas e construir pensamento original. Quando a IA entra como autora invisível, esse processo formativo se enfraquece.

Já começamos a ver sinais de uma possível “industrialização” da escrita científica: revisões de literatura produzidas em massa, artigos inflacionados, textos plausíveis mas superficiais. Existe o risco real de uma poluição textual da ciência — mais artigos publicados, mas menos pensamento crítico por trás deles. Em um cenário extremo, poderemos ter IA escrevendo artigos e IA ajudando a revisá-los, enquanto a participação humana se torna cada vez mais periférica. A ciência perderia sua função mais importante: o escrutínio crítico humano. Mas tudo indica que este cenário extremo já está entre nós, representando uma grave ameaça para o futuro da ciência enquanto um empreendimento que deveria servir para melhorar a vida da maioria da Humanidade.

Diante desse quadro, a resposta não pode ser fingir que nada está acontecendo. Tampouco é realista imaginar a proibição total da IA. O que precisamos urgentemente é de regulação pedagógica séria. Primeiro, é inevitável reformular os sistemas de avaliação. Provas presenciais, avaliações orais, defesas públicas e atividades realizadas em tempo real precisam voltar ao centro do processo educativo. Não como nostalgia do passado, mas como estratégia para garantir que o estudante realmente pense no que e sobre o que está fazendo. Na medicina, isso significa reforçar simulações clínicas presenciais e avaliações de raciocínio diagnóstico ao vivo. Segundo, o uso de IA precisa ser declarado de forma obrigatória em qualquer produção acadêmica. Transparência deve se tornar regra básica. Terceiro, universidades precisam ensinar IA de forma crítica. Não basta permitir o seu uso, pois é preciso formar usuários capazes de compreender limites, vieses e riscos epistemológicos dessas ferramentas. E, acima de tudo, precisamos reafirmar um princípio simples: aprender não é produzir textos; aprender é desenvolver pensamento crítico e autônomo.

A IA não é apenas mais uma ferramenta já que ela redefine o que significa estudar, pesquisar e produzir conhecimento. Se continuarmos ignorando os riscos do uso descontrolado da IA, poderemos formar uma geração altamente certificada, mas intelectualmente frágil , e uma ciência que se tornará cada vez mais volumosa, porém menos crítica e, consequentemente, avessa às reais necessidades que a atual conjuntura histórica de um planeta em colapso climático impõe.

Finalmente, há que se reconhecer que a IA não é apenas mais uma ferramenta tecnológica incorporada ao cotidiano universitário dado que ela redefine silenciosamente o próprio significado de estudar, pesquisar, ensinar e produzir conhecimento. Se continuarmos tratando seu uso irrestrito como um fenômeno neutro ou inevitável, corremos o risco de formar uma geração altamente certificada, porém intelectualmente frágil; uma ciência cada vez mais volumosa, mas progressivamente menos crítica; e universidades que preservam rituais formais de avaliação enquanto perdem sua função substantiva de formação. O que está em jogo não é apenas a integridade acadêmica ou a qualidade dos diplomas, mas a própria capacidade da sociedade humana de produzir profissionais capazes de lidar com problemas complexos, tomar decisões responsáveis e sustentar práticas científicas confiáveis. Em última instância, se trata de preservar a credibilidade social da universidade e o papel civilizatório da ciência. Desta forma, o verdadeiro desafio não é impedir a IA, algo impossível a estas alturas do campeonato, mas impedir que ela substitua aquilo que constitui a essência da educação superior: o desenvolvimento paciente, exigente e insubstituível de mentes autônomas, críticas, criativas e responsáveis. Sem essa reação por parte das universidades e da comunidade científica, o risco é que a automação intelectual avance mais rápido do que nossa capacidade coletiva de compreender suas consequências, deixando para o futuro o custo de uma formação que parece moderna, eficiente e produtiva, mas que poderá se revelar profundamente vazia e antissocial.

CNPq institui Política de Integridade na Atividade Cientifica, que estabelece normas e boas práticas de atuação

março 27, 2026 / Marcos Pędłowski / Deixe um comentário

Política foi elaborada com base em ações de educação, prevenção, apuração e sanção e traz diretrizes para uso de IA na pesquisa científica

Imagem ilustrativa de processo de avaliação realizado ao computador. – Foto: Imagem de Freepik

O CNPq publicou uma portaria que institui a Política de Integridade na Atividade Cientifica, que tem como finalidade garantir a integridade em todas as atividades científicas apoiadas pelo Conselho e é valida para todos os usuários das bases do órgão, como servidores, proponentes, beneficiários e demais agentes vinculados ao fomento e usuários dos serviços digitais e plataformas do CNPq. A política foi elaborada com base em ações de educação, prevenção, apuração e sanção.

Assista ao vídeo de apresentação:

Os objetivos da Política de Integridade na Atividade Científica são promover a ética e a integridade na atividade científica; estabelecer regras de boa convivência acadêmica e coletiva, prevenindo conflitos éticos e de interesse nas ações do CNPq; promover a transparência e a idoneidade nas decisões institucionais e avaliações de mérito, evitando conflitos de interesses e ações e/ou omissões de cunho discriminatório; instituir código de conduta para promover ambiente mais plural, inclusivo e respeitoso na atividade científica e estimular a qualidade e a integridade das informações em todas as etapas dos projetos de pesquisa apoiados pelo CNPq, estabelecendo rígidos princípios éticos e morais, desde a concepção até a difusão dos resultados.

O Código de Conduta do CNPq – que estava em vigor desde 1º de agosto de 2024 e previa, entre outras recomendações, a extensão do prazo de avaliação da produtividade científica em 2 anos por evento de maternidade no período avaliado – , foi integrado à política e passa a ter nova redação, com base em dez princípios:

I – Honestidade intelectual, integridade, boa prática científica e responsabilidade em todas as fases da pesquisa, da concepção à publicação e divulgação dos resultados;

II – Veracidade na autoria e créditos científicos;

III – Respeito aos participantes das pesquisas, às pessoas pesquisadas e aos objetos de pesquisa;

IV – Atuação responsável na formação e supervisão na carreira científica em todas as etapas;

V – Observância às normas legais e éticas vigentes;

VI – Decoro, justiça social, racial, cognitiva e de gênero;

VII – Urbanidade e respeito nas relações interpessoais e institucionais;

VIII – Segurança e zelo pelos membros e participantes da pesquisa e pelo patrimônio e uso dos recursos materiais;

IX – Cumprimento das diretrizes de políticas científicas federais, estaduais, municipais e institucionais;

X – Respeito à diversidade e promoção da inclusão na ciência.”

O texto estabelece deveres para os membros de comitês e comissões e para bolsistas. Os dois primeiros, por exemplo, devem conduzir avaliações com rigor, objetividade, imparcialidade e presteza; observando critérios de mérito científico, tecnológico e de inovação, e respeitando as definições da ação; não discriminar áreas do conhecimento, linhas de pesquisa, grupos, pessoas ou instituições e resguardar o sigilo das informações, dados e pareceres a que tiverem acesso.

Já bolsistas devem, entre outros deveres, ter conhecimento e respeitar as especificidades normativas do CNPq quanto à concessão de bolsas e auxílio, em especial sobre as vedações ao acúmulo de bolsas; à necessidade de informar ao CNPq sobre afastamentos e intercorrências durante o período de vigência do fomento concedido e a dificuldades encontradas para realizar a pesquisa e os devidos relatórios.

Inteligência artificial

Em relação às diretrizes de integridade na pesquisa, o texto traz abordagem específica sobre o uso de inteligência artificial gerativa (IAG), cujo uso não é proibido, mas é preciso que seja declarado, qualquer que seja o tipo de IAG e a fase do desenvolvimento da pesquisa, especificando a ferramenta utilizada e a finalidade. Também é vedada a submissão de conteúdo gerado por IAG como se fosse de autoria humana, sendo os/as autores/as integralmente responsáveis pelo conteúdo final, inclusive por eventuais plágios ou imprecisões geradas pela ferramenta utilizada. O uso da inteligência artificial na elaboração de pareceres científicos não é recomendado pela política publicada.

O texto traz uma preocupação em relação ao padrão ético de tratamento de produtos de pesquisa, com orientações como creditar de forma adequada todas as fontes que fundamentam o trabalho desenvolvido, de modo a assegurar veracidade à autoria e créditos científicos, bem como fidelidade ao significado das ideias ou fatos apresentados, ao resumir texto de terceiros, com a devida citação.

De acordo com a política, será competência da Comissão de Integridade na Atividade Científica (CIAC) decidir sobre casos de desvio da integridade na atividade científica submetidos a essa instância, bem como examinar suspeitas em relação à integridade de informações no Currículo Lattes, deliberar sobre a aplicação de sanções nos casos concretos de infrações graves e gravíssimas, entre outras.

Denúncias de supostas infrações à Política de Integridade Científica devem ser encaminhadas via Ouvidoria do CNPq.

Responsabilidades

A nova política define que o CNPq e as Instituições Científicas, Tecnológicas e de Inovação (ICTs) apoiadas são responsáveis pela apuração adequada das denúncias de má conduta científica. As ICTs que se apresentem como sede de atividades apoiadas pelo CNPq compartilham com os pesquisadores a responsabilidade pela integridade da pesquisa, cabendo-lhes primariamente promover a cultura institucional de integridade científica, e também prevenir e tratar más condutas ocorridas sob sua governança. 

Nos casos em que ocorram alegações e denúncias de má conduta em pesquisas apoiadas pelo CNPq, a ICT será solicitada a cooperar com auditorias e ações corretivas entre as instituições, informando sobre o resultado da apuração e as medidas implementadas.

Sanções

De acordo com o texto, as infrações, resultantes de ação ou omissão, que contrariem princípios, deveres e práticas previstas nos Art. 5º, 6º e 7º da política estão sujeitas a sanções, que variam dependendo do tipo de infração: leve, grave ou gravíssima.

Entre as sanções previstas estão advertência formal; suspensão, por período determinado, de bolsas, auxílios; interrupção de benefício, com possibilidade de ressarcimento ao erário; impedimento para participação em ações de fomento ou processos seletivos do CNPq, por prazo determinado; devolução de recursos concedidos pelo CNPq aos projetos relacionados à conduta irregular com ressarcimento proporcional ao pagamento realizado; revogação da outorga de fomento, aplicável quando obtida por meio de apresentação de requisitos infundados para seleção e classificação dos projetos de pesquisa, podendo ser adotadas medidas cautelares no decorrer da apuração das denúncias.

Para a dosimetria da sanção, serão considerados a natureza e a gravidade da infração; a extensão dos danos causados ao CNPq e à comunidade científica; a existência de dolo, fraude ou reincidência; circunstâncias agravantes ou atenuantes; os antecedentes do(a) infrator(a). Neste caso, não serão considerados grau acadêmico, premiações, cargos ou funções de relevo científico ou acadêmico, atuais ou passados, ou quaisquer reconhecimentos profissionais prévios.

Fonte: CNPq