A inteligência artificial está acelerando rapidamente a produção científica, mas corre o risco de restringir a investigação, enfraquecer o discernimento e prejudicar a formação dos cientistas
A automação computadorizada pode dificultar a aquisição de habilidades e conhecimentos especializados. Crédito: Westend61/Getty
Por Lisa Messeri e MJ Crockett para “Nature”
A comunidade científica está adotando ferramentas de inteligência artificial, especialmente grandes modelos de linguagem (LLMs), a uma velocidade surpreendente. A escrita de artigos com auxílio de LLMs aumentou drasticamente nos últimos três anos e os pesquisadores têm buscado incorporar agentes semiautônomos em seus fluxos de trabalho . No entanto, a adoção rápida e acrítica da Inteligência Artificial (IA) na ciência acarreta riscos significativos. Vários problemas já são evidentes: artigos que utilizam ferramentas de IA se concentram em um conjunto mais restrito de questões de pesquisa estabelecidas e , em alguns casos, foram avaliados como tendo menor mérito científico do que estudos que não dependem de IA.
Além disso, à medida que a IA automatiza tarefas científicas rotineiras, as preocupações com a erosão das oportunidades de formação para investigadores em início de carreira permanecem em grande parte sem solução e muitas vezes ignoradas. Convencionalmente, a formação científica tem combinado instrução formal em factos e métodos com a aquisição gradual de conhecimento tácito através de trabalho prático de nível inicial. Os académicos em estudos de ciência e tecnologia têm demonstrado repetidamente que os textos científicos, por si só, não comunicam totalmente o conhecimento; em vez disso, o saber-fazer crucial está incorporado nas comunidades de investigação e é transmitido através da aprendizagem e da prática .
Esse conhecimento tácito — por exemplo, sobre o que constitui dados “razoáveis”, ou os detalhes de uma técnica que são difíceis de articular em uma seção de métodos, ou se um resultado é consistente com a literatura existente — é essencial para que um pesquisador supervisione fluxos de trabalho assistidos por IA de forma eficaz no futuro. Se os sistemas de IA substituírem cada vez mais o trabalho científico de nível inicial, os estagiários podem nunca desenvolver essas habilidades, deixando potencialmente a próxima geração de cientistas mal preparada para supervisionar pesquisas orientadas por IA de forma responsável.
Essas tendências exigem que os cientistas reflitam sobre o propósito das instituições científicas. Nosso objetivo é simplesmente construir uma coleção de fatos científicos ou também cultivar uma comunidade viva e em constante evolução de cientistas? Se as ferramentas de IA aceleram o primeiro objetivo, mas ameaçam o segundo, como os cientistas devem proceder? Com base em evidências emergentes sobre os efeitos da IA na prática científica, destacamos aqui os principais riscos e delineamos possíveis soluções.
Mais produção, menos compreensão
A indústria de IA tem comercializado agressivamente produtos LLM para cientistas como tecnologias para aumentar a produtividade. Alguns pesquisadores abraçaram essa promessa, destacando a capacidade desses produtos de “turbinar” sua escrita acadêmica.
Se considerarmos a produtividade como a produção de artigos científicos, os produtos de IA sem dúvida cumpriram a promessa , com efeitos de longo alcance. Repositórios online de pré-publicações , como o SocArXiv e o PsyArXiv, impuseram moratórias temporárias a artigos de IA ou atualizaram suas políticas de revisão; o arXiv mudou sua política e não aceita mais artigos de opinião em ciência da computação (que são relativamente fáceis de produzir para mestrados em direito), e os Institutos Nacionais de Saúde dos EUA começaram a limitar as propostas de financiamento a seis por ano por pesquisador principal.
Além do aumento da produtividade, há evidências de que cientistas que utilizam ferramentas de IA em seu trabalho recebem mais citações e progridem mais rapidamente para cargos de pesquisador principal do que aqueles que não as utilizam, sendo que pessoas com inglês como primeira língua se beneficiam de forma desproporcional.Vale ressaltar, no entanto, que os benefícios de carreira proporcionados por produtos de IA são mais evidentes em métricas quantitativas, como número de publicações e citações. Tais medidas não conseguem determinar se esses benefícios decorrem da contribuição científica ou de conexões com uma área em alta. Seria, portanto, um erro considerar essas métricas como representativas de uma vitória para a ciência, sem analisar mais atentamente a qualidade desse aumento de produtividade.
Mais nem sempre é melhor, e há cada vez mais evidências de que o aumento da produtividade científica impulsionado pelo aprendizado de máquina muitas vezes tem um custo. O mais óbvio é a introdução de “lixo de IA” na literatura, incluindo imagens sem sentido geradas por IA e citações alucinadas.
Diversos estudos documentaram tendências preocupantes em artigos que dependem fortemente da assistência de especialistas em redação (LLM, na sigla em inglês) na escrita. O periódico Organization Science auditou todas as 6.957 submissões recebidas entre janeiro de 2021 e janeiro de 2026 e observou que os artigos com assistência de especialistas em redação apresentavam qualidade científica inferior (medida pela probabilidade de serem aceitos pelo periódico). Outro estudo , com 264.125 artigos coletados em uma conferência de IA de 2024 e submissões publicadas em três servidores de pré-impressão (arXiv, bioRxiv e SSRN) entre 2023 e 2024, constatou que, em artigos com assistência de especialistas em redação, a boa escrita deixou de ser um indicador preciso de qualidade científica (medida pelo resultado da publicação e pelas notas da revisão por pares).
Os autores concluem que isso cria “um risco para a atividade científica, já que uma enxurrada de pesquisas superficialmente convincentes, mas cientificamente pouco robustas, poderia saturar a literatura”. Atualmente, não existem soluções claras para essa poluição do nosso ecossistema de conhecimento, apesar do consenso de que ela não deveria ocorrer.
As ferramentas de IA implementadas em toda a cadeia de pesquisa também estão limitando a compreensão científica de maneiras mais sutis, por exemplo, reduzindo o conjunto de preocupações que os pesquisadores exploram. Uma análise de 41,3 milhões de artigos científicos abrangendo biologia, medicina, química, física, ciência dos materiais e geologia mostra que a adoção da IA parece “induzir os autores a convergirem para as mesmas soluções para problemas conhecidos, em vez de criarem novas”. Este é um alerta precoce da probabilidade de a IA ter impactos em cascata no ecossistema do conhecimento .
Ameaça de desqualificação
As visões mais ambiciosas da IA para a ciência envolvem ‘cientistas de IA’ semiautônomos ou totalmente autônomos, e protótipos recentes dessa visão têm recebidogrande alarde tanto na ciência quanto na indústria. Os desenvolvedores de cientistas de IA fazem questão de assegurar que sua intenção “não é substituir cientistas humanos, mas sim complementar e acelerar seu trabalho” . Esses produtos, portanto, devem ser supervisionados por um cientista qualificado que possa direcionar e verificar, de forma responsável, os resultados da IA.
Questionamos se essa visão pode se concretizar sem uma definição clara de como o cientista responsável pode desenvolver a expertise necessária para distinguir entre resultados bons e ruins da IA. Grande parte do entusiasmo pelas ferramentas de IA em toda a cadeia científica vem da promessa de aliviar a carga de trabalho. Mas muitas tarefas consideradas “pouco qualificadas” têm sido tradicionalmente pontos de partida importantes para cientistas em formação.
A limpeza de dados brutos ajuda os estagiários a compreender a diversidade e a qualidade dos dados; a pesquisa, a leitura e o resumo da literatura científica desenvolvem a percepção de quais áreas de pesquisa são densamente povoadas versus quais são escassas, e quais tipos de descobertas são comuns versus raras. Os cientistas seniores de hoje encontram-se na posição singular de terem sido treinados antes da ampla disponibilidade de ferramentas de IA, beneficiando-se, assim, de décadas de experiência prática que os estagiários atuais talvez nunca venham a desenvolver. Parte ou mesmo todo esse trabalho árduo pode não ser necessário para o desenvolvimento da expertise que os cientistas seniores de hoje possuem. Mas é uma aposta arriscada presumir, de antemão, que esse será o caso.
Um caminho a seguir
Para lidar com esses riscos, defendemos políticas e práticas que apoiem a autoavaliação contínua nas comunidades científicas, de forma análoga à maneira como os ecologistas monitoram os ecossistemas em busca de sinais de danos.
Uma intervenção simples seria que editoras e financiadores exigissem mais transparência. Nos últimos anos, cientistas desenvolveram uma norma de divulgação do uso de IA em seus trabalhos. Este é um primeiro passo importante, mas a divulgação por si só obscurece a diversidade de razões para o uso de ferramentas de IA. Um pesquisador que não tem o inglês como língua materna pode usar um modelo de aprendizado de máquina para aprimorar a versão final de um artigo. Outro pode depender de modelos de aprendizado de máquina para trabalhar com grandes conjuntos de dados que seriam inviáveis de analisar sem automação, ou mesmo para gerar uma revisão bibliográfica do zero dentro de um prazo apertado. Tratar todos esses usos como equivalentes obscurece suas diferentes implicações para o trabalho científico, o julgamento e a responsabilidade.
Exigimos mais transparência não apenas no uso de ferramentas de IA na ciência, mas também nas razões por trás de seu uso. Assim como não podemos confiar em descobertas científicas sem métodos descritos de forma transparente e justificativas para esses métodos, não podemos confiar em ferramentas de IA na ciência sem mais informações sobre como e por que elas estão sendo usadas. Como ocorre com outras novas técnicas e tecnologias, o diálogo entre revisores e autores estabelecerá novas normas.
Essa troca só pode ocorrer com explicações e justificativas mais explícitas, além da mera divulgação. Tais informações poderiam, em última análise, servir como fonte de dados para projetos de metaciência que avaliam a conexão entre as diversas justificativas para o uso de IA e a robustez das descobertas resultantes. Se os cientistas que utilizam produtos de IA em seu trabalho desejam conectar os ganhos de produtividade aos ganhos de compreensão, a divulgação com explicações pode ser um primeiro passo para atingir esse objetivo.
Um conjunto mais complexo de questões diz respeito a como devemos treinar os futuros cientistas e certificar sua competência em cada etapa. Os pesquisadores principais precisam considerar o quanto podem confiar que seus orientandos usarão ferramentas de IA de forma responsável, e os programas de pós-graduação precisam discutir políticas para o uso de mestrados em direito (LLM) em exames de qualificação e dissertações.
Quais habilidades elementares pesquisadores em início de carreira devem adquirir para garantir que se tornem cientistas responsáveis, independentemente dos futuros desenvolvimentos tecnológicos? A resposta a essa pergunta varia de acordo com a disciplina. Por exemplo, alguns pesquisadores das ciências humanas estão entusiasmados com o uso de modelos de aprendizagem baseados em linguagem (LLMs) para automatizar entrevistas e a análise de dados qualitativos, enquanto outros argumentam que a leitura e a análise desses dados são cruciais para a compreensão das experiências dos participantes humanos, indo além de resumos quantitativos. Os cientistas devem promover debates abrangentes sobre o assunto agora, em vez de presumir, sem evidências, que a automatização do trabalho inicial não influenciará a expertise de futuros colegas.
Ao navegarmos por esta nova fase da produção de conhecimento, devemos lembrar que os objetivos da indústria não são os mesmos da ciência. A ciência acadêmica não se resume à produtividade; ela também busca a compreensão profunda, a exploração de soluções criativas e a formação de pensadores críticos para serem a próxima geração de pesquisadores. Chegou a hora de a comunidade científica avaliar se os produtos de IA auxiliam ou dificultam esses esforços.
Nature 653 , 675-676 (2026)
doi: https://doi-org.ez81.periodicos.capes.gov.br/10.1038/d41586-026-01557-x
Fonte: Nature


Ilhas florestais são uma das formas mais extremas de fragmentação de habitat. Crédito da imagem: Anderson Saldanha Bueno.
Segundo Bueno, o número de aves pode duplicar quando o ambiente imediato consiste em áreas terrestres com maior número de árvores. Crédito da imagem: Luis Fábio Silveira.






Em um acampamento rural, ouvindo histórias de resistência 