Fraude científica e inteligência artificial: a nova fronteira da crise de confiança na ciência

Editorial publicado em revista de farmacologia clínica alerta que a combinação entre IA generativa, periódicos predatórios e pesquisas fraudulentas pode comprometer a integridade da literatura médica e ampliar a desinformação científica em escala global

A publicação do editorial “Scientific Fraud: How Do We Ensure Sound Medical Literature?, assinado por Michael J. Fossler e Katy P. Moore na revista Clinical Pharmacology in Drug Development, traz à tona uma preocupação que ultrapassa os limites da farmacologia clínica: a crescente vulnerabilidade da produção científica à fraude em uma era marcada pelo uso disseminado da inteligência artificial. 

Embora a fraude científica esteja longe de ser um fenômeno novo, os autores alertam que as tecnologias atuais ampliaram enormemente a capacidade de produzir dados falsos, artigos fraudulentos e narrativas pseudocientíficas com aparência de legitimidade. Trata-se de uma ameaça que não afeta apenas a comunidade acadêmica, mas toda a sociedade, uma vez que a ciência continua sendo um dos principais instrumentos de formulação de políticas públicas, desenvolvimento tecnológico e tomada de decisões médicas.

O texto relembra episódios históricos conhecidos, como a fraude do Homem de Piltdown e as controvérsias em torno dos experimentos de Gregor Mendel. Contudo, os autores ressaltam que as consequências mais graves ocorrem quando a fraude se infiltra na medicina e na saúde pública. O exemplo paradigmático é o caso do médico britânico Andrew Wakefield, cuja publicação fraudulenta associando a vacina tríplice viral (MMR) ao autismo continua produzindo efeitos negativos décadas após sua retratação. O resultado é visível: a redução da cobertura vacinal, o reaparecimento de doenças antes controladas e a ampliação dos movimentos antivacina em diversas partes do mundo.

A questão torna-se ainda mais preocupante quando analisada à luz da atual revolução tecnológica. Os autores citam experimentos recentes nos quais pesquisadores conseguiram criar doenças fictícias, pesquisadores inexistentes, universidades imaginárias e conjuntos inteiros de dados artificiais capazes de enganar sistemas de inteligência artificial e até mesmo especialistas humanos. Em outro exemplo mencionado, o ChatGPT foi utilizado para gerar um artigo médico completo descrevendo um ensaio clínico inexistente, contendo introdução, metodologia, resultados, tabelas e discussão com aparência altamente convincente.

O problema não reside apenas na publicação de artigos falsos. Há uma dimensão mais profunda e potencialmente mais perigosa. À medida que modelos de inteligência artificial passam a ser treinados com enormes quantidades de literatura científica disponível na internet, estudos fraudulentos podem contaminar as bases de conhecimento utilizadas por esses sistemas. Em outras palavras, dados falsificados podem se transformar em “evidências” reproduzidas automaticamente por algoritmos, criando um ciclo contínuo de desinformação científica.

Essa preocupação merece atenção especial porque coincide com um momento histórico de crescente desconfiança social em relação à ciência. A pandemia da Covid-19 expôs fragilidades na comunicação científica, conflitos de interesse e disputas políticas que afetaram a percepção pública sobre especialistas, instituições de pesquisa e órgãos de saúde. Em tal contexto, cada novo caso de fraude não representa apenas uma infração ética individual, mas um golpe adicional na legitimidade social da própria ciência.

Os autores argumentam que a farmacologia clínica possui algumas barreiras institucionais que dificultam fraudes mais grosseiras, como a necessidade de equipes numerosas, monitoramento contínuo dos ensaios clínicos e auditorias regulares dos dados. Ainda assim, alertam que tais mecanismos não são suficientes diante das novas capacidades oferecidas pela inteligência artificial. Por isso defendem medidas mais rigorosas, incluindo auditorias independentes, fortalecimento dos sistemas de garantia da qualidade, exigência de documentação detalhada dos ensaios clínicos e endurecimento das penalidades legais para casos de fraude científica.

A análise proposta por Fossler e Moore é relevante porque desloca o debate para além da questão moral. A fraude científica não é apenas uma violação ética; ela produz desperdício de recursos públicos, desvia agendas de pesquisa, compromete decisões médicas e pode custar vidas humanas. O caso de pesquisas fraudulentas sobre Alzheimer, mencionado pelos autores, consumiu quase uma década de trabalho de outros pesquisadores antes que as manipulações fossem identificadas. O mesmo ocorreu com publicações ligadas ao Dana-Farber Cancer Institute, que resultaram em multas milionárias após a descoberta de imagens manipuladas.

Entretanto, talvez o aspecto mais importante do editorial seja sua defesa de uma postura ativa da comunidade científica. Os autores argumentam que a simples confiança nos mecanismos tradicionais de revisão por pares já não é suficiente. A ciência precisará desenvolver novas formas de verificação, rastreabilidade e auditoria para enfrentar um cenário em que artigos inteiros podem ser produzidos automaticamente por sistemas de inteligência artificial.

O desafio é enorme. A mesma tecnologia capaz de acelerar descobertas científicas pode ser utilizada para fabricar evidências falsas em escala industrial. Em um momento em que governos, empresas e cidadãos recorrem cada vez mais à inteligência artificial para buscar informações, a integridade da literatura científica torna-se uma questão de interesse público global.

A credibilidade da ciência sempre foi construída lentamente, por meio da transparência, da replicação dos resultados e do escrutínio coletivo. A era da inteligência artificial não elimina esses princípios. Pelo contrário: torna-os mais necessários do que nunca

O Papa, a Inteligência Artificial e o novo império das máquinas

Ao transformar a inteligência artificial em tema central de seu pontificado, Papa Leão XIV expõe não apenas os riscos éticos da automação, mas também o avanço silencioso das corporações do Big Tech sobre o trabalho, os Estados nacionais e a própria democracia

O artigo publicado pelo jornal britânico The Guardian e assinado pelo jornalista Philip Pullella coloca em evidência um movimento político e moral relevante dentro da Igreja Católica: a tentativa do papa Papa Leão XIV de transformar a inteligência artificial em uma das questões centrais de seu pontificado. A encíclica Magnifica Humanitas, apresentada no Vaticano em 25 de maio de 2026, representa não apenas uma intervenção religiosa sobre tecnologia, mas também uma crítica contundente ao modo como o capitalismo digital vem reorganizando o trabalho, a guerra e as relações humanas no século XXI.

O aspecto mais importante do documento talvez seja o reconhecimento de que a inteligência artificial não é apenas uma inovação técnica, mas uma força capaz de redefinir o próprio significado do humano. Ao relacionar IA, automação e novas formas de escravidão digital, Leão XIV estabelece um paralelo direto entre a atual revolução tecnológica e a Revolução Industrial do século XIX, que motivou a encíclica Rerum Novarum, de Papa Leão XIII.

A crítica papal atinge um ponto frequentemente ocultado pelo discurso triunfalista do Vale do Silício: a inteligência artificial está sendo desenvolvida dentro de estruturas altamente concentradas de poder econômico, militar e informacional. Quando o papa denuncia a “cultura do poder” que impulsiona a corrida tecnológica e pede o “desarmamento” da IA, ele aponta para a crescente fusão entre Big Tech, sistemas de vigilância, indústria bélica e governos.

Hoje, empresas privadas controlam modelos algorítmicos capazes de influenciar eleições, moldar comportamentos, monitorar populações e substituir trabalhadores em larga escala. A promessa de “eficiência” frequentemente funciona como eufemismo para precarização do trabalho, concentração de renda e eliminação de direitos sociais.

Mas talvez seja necessário avançar ainda mais na crítica. A inteligência artificial não vem sendo apropriada apenas para ampliar mercados ou automatizar processos produtivos. As grandes corporações do Big Tech têm utilizado a IA para expandir seu controle sobre instituições de Estado, transformando governos em dependentes de plataformas privadas de armazenamento de dados, computação em nuvem e processamento algorítmico.

Empresas como Alphabet, Microsoft, Amazon, Meta e OpenAI já exercem funções quase paraestatais ao controlar infraestruturas essenciais utilizadas por universidades, sistemas de segurança pública, escolas e aparelhos administrativos nacionais.

Isso cria uma situação profundamente assimétrica: enquanto os Estados se tornam dependentes das plataformas privadas para operar funções básicas, as corporações acumulam volumes inéditos de dados, capacidade computacional e influência política. Surge, assim, uma espécie de soberania tecnológica privada, na qual decisões fundamentais passam a ser mediadas por sistemas opacos desenvolvidos segundo interesses empresariais e financeiros.

Nesse contexto, a IA se converte em instrumento central de ampliação das taxas de lucro dessas corporações. Quanto maior a automação, maior a redução de custos trabalhistas; quanto maior a coleta de dados, maior o poder de prever, induzir e monetizar comportamentos humanos. A consequência é o aprofundamento da concentração global de riqueza e poder em torno de um pequeno grupo de conglomerados sediados principalmente nos Estados Unidos.

Ao abordar a questão do trabalho, Leão XIV toca em uma ferida particularmente sensível. A automação baseada em IA ameaça não apenas empregos industriais repetitivos, mas também profissões intelectuais, administrativas e criativas. O discurso tecnocrático insiste que novas tecnologias sempre criam novos empregos, mas a velocidade da atual transformação sugere algo distinto: uma possível erosão estrutural da centralidade do trabalho humano na economia.

O papa também introduz uma dimensão ética raramente discutida no debate tecnológico contemporâneo: a relação entre inteligência artificial e dignidade humana. Em uma cultura dominada por métricas e algoritmos, seres humanos passam a ser tratados como unidades de desempenho ou simples conjuntos de dados. O risco não é apenas econômico, mas civilizacional. A lógica algorítmica reduz complexidades humanas a padrões calculáveis, enfraquecendo empatia, solidariedade e autonomia moral.

Outro elemento importante da encíclica é o reconhecimento histórico da cumplicidade da própria Igreja com sistemas de escravidão. Ao pedir desculpas pela demora da instituição em condenar a escravidão moderna, Leão XIV estabelece uma ponte entre antigas formas de exploração e novas formas de servidão digital associadas à economia de plataformas e ao trabalho invisível que sustenta os sistemas de IA.

Essa conexão é particularmente relevante porque a inteligência artificial depende de enormes cadeias globais de trabalho frequentemente ocultadas pela retórica da inovação. Por trás dos sistemas “inteligentes” existem mineradores de lítio, operários de semicondutores, moderadores de conteúdo precarizados e milhões de pessoas que alimentam algoritmos com seus dados pessoais sem remuneração adequada.

Nesse sentido, a preocupação expressa por Leão XIV ultrapassa o campo religioso e se insere em um debate central sobre democracia, soberania tecnológica e justiça social. A questão decisiva do século XXI talvez não seja apenas o avanço da inteligência artificial, mas quem controla essa tecnologia, a serviço de quais interesses e sob quais limites éticos e políticos.

A adoção acrítica da IA ​​na ciência é alarmante — precisamos urgentemente de mecanismos de controle

A inteligência artificial está acelerando rapidamente a produção científica, mas corre o risco de restringir a investigação, enfraquecer o discernimento e prejudicar a formação dos cientistas

A automação computadorizada pode dificultar a aquisição de habilidades e conhecimentos especializados. Crédito: Westend61/Getty

Por  Lisa Messeri e  MJ Crockett para “Nature”

A comunidade científica está adotando ferramentas de inteligência artificial, especialmente grandes modelos de linguagem (LLMs), a uma velocidade surpreendente. A escrita de artigos com auxílio de LLMs aumentou drasticamente nos últimos três anos e os pesquisadores têm buscado incorporar agentes semiautônomos em seus fluxos de trabalho . No entanto, a adoção rápida e acrítica da Inteligência Artificial (IA) ​​na ciência acarreta riscos significativos. Vários problemas já são evidentes: artigos que utilizam ferramentas de IA se concentram em um conjunto mais restrito de questões de pesquisa estabelecidas e , em alguns casos, foram avaliados como tendo menor mérito científico do que estudos que não dependem de IA.

Além disso, à medida que a IA automatiza tarefas científicas rotineiras, as preocupações com a erosão das oportunidades de formação para investigadores em início de carreira permanecem em grande parte sem solução e muitas vezes ignoradas. Convencionalmente, a formação científica tem combinado instrução formal em factos e métodos com a aquisição gradual de conhecimento tácito através de trabalho prático de nível inicial. Os académicos em estudos de ciência e tecnologia têm demonstrado repetidamente que os textos científicos, por si só, não comunicam totalmente o conhecimento; em vez disso, o saber-fazer crucial está incorporado nas comunidades de investigação e é transmitido através da aprendizagem e da prática .

Esse conhecimento tácito — por exemplo, sobre o que constitui dados “razoáveis”, ou os detalhes de uma técnica que são difíceis de articular em uma seção de métodos, ou se um resultado é consistente com a literatura existente — é essencial para que um pesquisador supervisione fluxos de trabalho assistidos por IA de forma eficaz no futuro. Se os sistemas de IA substituírem cada vez mais o trabalho científico de nível inicial, os estagiários podem nunca desenvolver essas habilidades, deixando potencialmente a próxima geração de cientistas mal preparada para supervisionar pesquisas orientadas por IA de forma responsável.

Essas tendências exigem que os cientistas reflitam sobre o propósito das instituições científicas. Nosso objetivo é simplesmente construir uma coleção de fatos científicos ou também cultivar uma comunidade viva e em constante evolução de cientistas? Se as ferramentas de IA aceleram o primeiro objetivo, mas ameaçam o segundo, como os cientistas devem proceder? Com ​​base em evidências emergentes sobre os efeitos da IA ​​na prática científica, destacamos aqui os principais riscos e delineamos possíveis soluções.

Mais produção, menos compreensão

A indústria de IA tem comercializado agressivamente produtos LLM para cientistas como tecnologias para aumentar a produtividade. Alguns pesquisadores abraçaram essa promessa, destacando a capacidade desses produtos de “turbinar” sua escrita acadêmica.

Se considerarmos a produtividade como a produção de artigos científicos, os produtos de IA sem dúvida cumpriram a promessa  , com efeitos de longo alcance. Repositórios online de pré-publicações , como o SocArXiv e o PsyArXiv, impuseram moratórias temporárias a artigos de IA ou atualizaram suas políticas de revisão; o arXiv mudou sua política e não aceita mais artigos de opinião em ciência da computação (que são relativamente fáceis de produzir para mestrados em direito), e os Institutos Nacionais de Saúde dos EUA começaram a limitar as propostas de financiamento a seis por ano por pesquisador principal.

Além do aumento da produtividade, há evidências de que cientistas que utilizam ferramentas de IA em seu trabalho recebem mais citações e progridem mais rapidamente para cargos de pesquisador principal do que aqueles que não autilizam, sendo que pessoas com inglês como primeira língua se beneficiam de forma desproporcional.Vale ressaltar, no entanto, que os benefícios de carreira proporcionados por produtos de IA são mais evidentes em métricas quantitativas, como número de publicações e citações. Tais medidas não conseguem determinar se esses benefícios decorrem da contribuição científica ou de conexões com uma área em alta. Seria, portanto, um erro considerar essas métricas como representativas de uma vitória para a ciência, sem analisar mais atentamente a qualidade desse aumento de produtividade.

Mais nem sempre é melhor, e há cada vez mais evidências de que o aumento da produtividade científica impulsionado pelo aprendizado de máquina muitas vezes tem um custo. O mais óbvio é a introdução de “lixo de IA” na literatura, incluindo imagens sem sentido geradas por IA e citações alucinadas.

Diversos estudos documentaram tendências preocupantes em artigos que dependem fortemente da assistência de especialistas em redação (LLM, na sigla em inglês) na escrita. O periódico Organization Science auditou todas as 6.957 submissões recebidas entre janeiro de 2021 e janeiro de 2026 e observou que os artigos com assistência de especialistas em redação apresentavam qualidade científica inferior (medida pela probabilidade de serem aceitos pelo periódico). Outro estudo , com 264.125 artigos coletados em uma conferência de IA de 2024 e submissões publicadas em três servidores de pré-impressão (arXiv, bioRxiv e SSRN) entre 2023 e 2024, constatou que, em artigos com assistência de especialistas em redação, a boa escrita deixou de ser um indicador preciso de qualidade científica (medida pelo resultado da publicação e pelas notas da revisão por pares).

As ferramentas de IA implementadas em toda a cadeia de pesquisa também estão limitando a compreensão científica de maneiras mais sutis, por exemplo, reduzindo o conjunto de preocupações que os pesquisadores exploram. Uma análise de 41,3 milhões de artigos científicos abrangendo biologia, medicina, química, física, ciência dos materiais e geologia mostra que a adoção da IA ​​parece “induzir os autores a convergirem para as mesmas soluções para problemas conhecidos, em vez de criarem novas”. Este é um alerta precoce da probabilidade de a IA ter impactos em cascata no ecossistema do conhecimento .

Ameaça de desqualificação

As visões mais ambiciosas da IA ​​para a ciência envolvem ‘cientistas de IA’ semiautônomos ou totalmente autônomos, e protótipos recentes dessa visão têm recebidogrande alarde tanto na ciência quanto na indústria. Os desenvolvedores de cientistas de IA fazem questão de assegurar que sua intenção “não é substituir cientistas humanos, mas sim complementar e acelerar seu trabalho” . Esses produtos, portanto, devem ser supervisionados por um cientista qualificado que possa direcionar e verificar, de forma responsável, os resultados da IA.

Questionamos se essa visão pode se concretizar sem uma definição clara de como o cientista responsável pode desenvolver a expertise necessária para distinguir entre resultados bons e ruins da IA. Grande parte do entusiasmo pelas ferramentas de IA em toda a cadeia científica vem da promessa de aliviar a carga de trabalho. Mas muitas tarefas consideradas “pouco qualificadas” têm sido tradicionalmente pontos de partida importantes para cientistas em formação.

A limpeza de dados brutos ajuda os estagiários a compreender a diversidade e a qualidade dos dados; a pesquisa, a leitura e o resumo da literatura científica desenvolvem a percepção de quais áreas de pesquisa são densamente povoadas versus quais são escassas, e quais tipos de descobertas são comuns versus raras. Os cientistas seniores de hoje encontram-se na posição singular de terem sido treinados antes da ampla disponibilidade de ferramentas de IA, beneficiando-se, assim, de décadas de experiência prática que os estagiários atuais talvez nunca venham a desenvolver. Parte ou mesmo todo esse trabalho árduo pode não ser necessário para o desenvolvimento da expertise que os cientistas seniores de hoje possuem. Mas é uma aposta arriscada presumir, de antemão, que esse será o caso.

Um caminho a seguir

Para lidar com esses riscos, defendemos políticas e práticas que apoiem a autoavaliação contínua nas comunidades científicas, de forma análoga à maneira como os ecologistas monitoram os ecossistemas em busca de sinais de danos.

Uma intervenção simples seria que editoras e financiadores exigissem mais transparência. Nos últimos anos, cientistas desenvolveram uma norma de divulgação do uso de IA em seus trabalhos. Este é um primeiro passo importante, mas a divulgação por si só obscurece a diversidade de razões para o uso de ferramentas de IA. Um pesquisador que não tem o inglês como língua materna pode usar um modelo de aprendizado de máquina para aprimorar a versão final de um artigo. Outro pode depender de modelos de aprendizado de máquina para trabalhar com grandes conjuntos de dados que seriam inviáveis ​​de analisar sem automação, ou mesmo para gerar uma revisão bibliográfica do zero dentro de um prazo apertado. Tratar todos esses usos como equivalentes obscurece suas diferentes implicações para o trabalho científico, o julgamento e a responsabilidade.

Exigimos mais transparência não apenas no uso de ferramentas de IA na ciência, mas também nas razões por trás de seu uso. Assim como não podemos confiar em descobertas científicas sem métodos descritos de forma transparente e justificativas para esses métodos, não podemos confiar em ferramentas de IA na ciência sem mais informações sobre como e por que elas estão sendo usadas. Como ocorre com outras novas técnicas e tecnologias, o diálogo entre revisores e autores estabelecerá novas normas.

Essa troca só pode ocorrer com explicações e justificativas mais explícitas, além da mera divulgação. Tais informações poderiam, em última análise, servir como fonte de dados para projetos de metaciência que avaliam a conexão entre as diversas justificativas para o uso de IA e a robustez das descobertas resultantes. Se os cientistas que utilizam produtos de IA em seu trabalho desejam conectar os ganhos de produtividade aos ganhos de compreensão, a divulgação com explicações pode ser um primeiro passo para atingir esse objetivo.

Um conjunto mais complexo de questões diz respeito a como devemos treinar os futuros cientistas e certificar sua competência em cada etapa. Os pesquisadores principais precisam considerar o quanto podem confiar que seus orientandos usarão ferramentas de IA de forma responsável, e os programas de pós-graduação precisam discutir políticas para o uso de mestrados em direito (LLM) em exames de qualificação e dissertações.

Quais habilidades elementares pesquisadores em início de carreira devem adquirir para garantir que se tornem cientistas responsáveis, independentemente dos futuros desenvolvimentos tecnológicos? A resposta a essa pergunta varia de acordo com a disciplina. Por exemplo, alguns pesquisadores das ciências humanas estão entusiasmados com o uso de modelos de aprendizagem baseados em linguagem (LLMs) para automatizar entrevistas e a análise de dados qualitativos, enquanto outros argumentam que a leitura e a análise desses dados são cruciais para a compreensão das experiências dos participantes humanos, indo além de resumos quantitativos. Os cientistas devem promover debates abrangentes sobre o assunto agora, em vez de presumir, sem evidências, que a automatização do trabalho inicial não influenciará a expertise de futuros colegas.

Ao navegarmos por esta nova fase da produção de conhecimento, devemos lembrar que os objetivos da indústria não são os mesmos da ciência. A ciência acadêmica não se resume à produtividade; ela também busca a compreensão profunda, a exploração de soluções criativas e a formação de pensadores críticos para serem a próxima geração de pesquisadores. Chegou a hora de a comunidade científica avaliar se os produtos de IA auxiliam ou dificultam esses esforços.

Nature 653 , 675-676 (2026)

doi: https://doi-org.ez81.periodicos.capes.gov.br/10.1038/d41586-026-01557-x


Fonte: Nature

Datacenters estão se tornando o mais novo vilão político nos EUA

Novas pesquisas projetam que os custos de eletricidade no atacado nos EUA podem subir até 29% até o final da década, alimentando uma crise política crescente para o setor

Por Cris Tolomia para “Quartz” 

A frustração dos estadunidenses com a inteligência artificial está se transformando em oposição política organizada, impulsionada em grande parte pela raiva em relação aos custos de eletricidade ligados à rápida expansão de centros de dados em todo o país.

Uma pesquisa da Gallup divulgada na semana passada revelou que aproximadamente 70% dos estadunidesnes se oporiam à construção de um centro de dados de Inteligência Artificial (IA) em suas comunidades, citando preocupações com a sobrecarga nos recursos energéticos locais e a possibilidade de contas de luz mais altas como suas principais objeções. Uma pesquisa da YouGov e da Economist, realizada no mesmo período, mostrou que a maioria dos americanos acredita que o ritmo do desenvolvimento da IA ​​está ultrapassando a capacidade da sociedade de gerenciá-lo e que a tecnologia não trará benefícios econômicos significativos para as pessoas comuns.

A reação negativa já está remodelando a política local. A oposição da comunidade paralisou ou interrompeu 48 projetos, representando mais de US$ 156 bilhões em construções planejadas somente no ano passado, de acordo com dados da Data Center Watch citados pela Fortune .

Por trás dessa resistência, existe uma preocupação financeira concreta. Novas descobertas publicadas na revista Environmental Research Letters mostraram que a participação dos data centers na demanda nacional de energia mais que dobrou, passando de 1,9% para 4,4%, no período de cinco anos que termina em 2023. Dependendo da trajetória de crescimento dos data centers, essa mesma pesquisa estima que os preços da eletricidade no atacado em todo o país podem aumentar de 6% a 29% até o final da década. Na Virgínia, um polo de construção de data centers, os custos de geração podem subir até 57%.

Jeremiah Johnson, professor associado de engenharia civil e ambiental da Universidade Estadual da Carolina do Norte e principal autor do estudo, afirmou que a escala do crescimento da demanda não tem precedentes recentes no setor de energia. “O desafio aqui é que a magnitude dessa demanda de que estamos falando é realmente grande. Ela está em uma escala que supera em muito algumas das outras mudanças que vivenciamos no setor de energia nos últimos anos”, disse Johnson à Fortune.

A modelagem do estudo indica que os fornecedores de energia dependeriam substancialmente do gás natural, ao mesmo tempo que reativariam instalações de carvão ociosas, uma combinação que, segundo estimativas dos pesquisadores, poderia aumentar as emissões de dióxido de carbono do setor elétrico em até 28% antes do final da década. Sem subsídios federais para energia limpa na escala daqueles fornecidos pela Lei de Redução da Inflação — incentivos que o Congresso revogou em grande parte este ano —, o estudo constatou que o gás natural absorveria cerca de 70% do aumento da carga de geração, com o carvão, a energia eólica e a solar respondendo pelo restante.

As consequências políticas do aumento das contas de luz já tiveram um grande impacto no resultado de uma eleição . O democrata John McAuliff, ex-conselheiro climático da Casa Branca, derrotou um deputado republicano na Assembleia Legislativa da Virgínia no ano passado, atribuindo sua vitória apertada, em parte, à frustração dos eleitores com os custos de energia elétrica, ligados à concentração de data centers no Condado de Loudoun. Os legisladores da Virgínia agora estão analisando um projeto de lei que transferiria certos custos de conexão à rede elétrica de clientes residenciais para usuários de alto consumo, como data centers.

A viabilidade econômica dos data centers também tem sido questionada. A Virgínia deixou de arrecadar mais de US$ 1,6 bilhão em impostos no ano fiscal de 2025 devido às isenções fiscais para data centers, enquanto o setor gerou 1.610 empregos no mesmo período — um custo de cerca de US$ 1,2 milhão por novo emprego, segundo a VPM.

A indústria está respondendo com investimentos. Empresas de IA, incluindo Anthropic, OpenAI e Meta $META-1,41% Estão destinando pelo menos US$ 150 milhões para eleições estaduais e federais este ano por meio de organizações políticas e prometeram absorver uma parcela maior de seus custos com eletricidade, a pedido do presidente Donald Trump.


Fonte: Quartz

A terceirização do pensamento: IA, ensino superior e o futuro da ciência

O uso descontrolado de IA ameaça a formação crítica de estudantes e o futuro da produção científica

Nos últimos dois anos, a inteligência artificial (IA) deixou de ser uma curiosidade tecnológica para se tornar presença constante no cotidiano universitário. Hoje, uma quantidade significativa de estudantes consegue gerar resumos, resolver exercícios, escrever relatórios, montar apresentações e até produzir artigos científicos completos em questão de minutos. À primeira vista, isso parece apenas mais uma revolução tecnológica inevitável. Mas basta olhar com um pouco mais de atenção para perceber que estamos diante de um problema muito mais profundo, e potencialmente devastador para a formação universitária, a ética acadêmica e o próprio futuro da ciência. O ponto central é simples: o uso descontrolado da IA está corroendo silenciosamente o próprio processo de formação universitária.

A universidade nunca teve como missão apenas entregar diplomas.  O papel histórico das universidades sempre foi formar profissionais capazes de pensar, analisar, argumentar, duvidar e tomar decisões em contextos complexos. Em outras palavras, formar autonomia intelectual. E isso não se constrói com respostas prontas, pois toda a experiência acumulada mostra que isso se constrói com esforço cognitivo, erro, tentativa, leitura difícil e escrita trabalhosa. É justamente esse processo que a IA começa a substituir, e rapidamente assimilada em nome da formação mais veloz de profissionais que estariam sendo ansiosamente esperados pelo mercado.

O problema é que disciplinas obrigatórias existem por uma razão. Elas definem o perfil profissional que a sociedade espera de um engenheiro, de um médico, de um advogado, de um cientista. Anatomia, fisiologia, farmacologia e epidemiologia não são obstáculos burocráticos na formação médica; são a base que sustenta decisões clínicas que podem salvar ou perder vidas. Quando um estudante terceiriza a resolução de exercícios, a escrita de relatórios ou a síntese de textos para uma IA, ele pode até entregar um trabalho perfeito, mas sem ter trilhado o caminho cognitivo necessário para, de fato, aprender.  O fato é que estamos criando, silenciosamente, a figura do profissional diplomado sem domínio real das competências fundamentais.

E aqui o risco deixa de ser educacional e passa a ser social. Imaginemos médicos excessivamente dependentes de sistemas automatizados para interpretar exames ou propor diagnósticos. Imagine engenheiros incapazes de avaliar criticamente um cálculo gerado por software. Imaginemos cientistas que nunca desenvolveram plenamente a capacidade de formular perguntas originais. Esse cenário não é ficção científica, pois ele está começando a ser construído agora, dentro das universidades em todo o mundo.

Um dos efeitos mais preocupantes desse processo é a terceirização do esforço cognitivo. Pensar exige treino constante. Leitura profunda exige prática. Escrever exige sofrimento intelectual. Quando a IA passa a realizar essas tarefas com rapidez e fluidez, muitos estudantes deixam simplesmente de exercitar essas habilidades. Aos poucos, a tolerância à complexidade diminui, a capacidade de concentração se reduz e a autonomia intelectual se fragiliza. A tecnologia criada para ampliar capacidades humanas começa, paradoxalmente, a atrofiá-las. 

O impacto ético também é gigantesco. A fraude acadêmica entrou em uma nova fase. Durante décadas, plagiar significava copiar textos existentes. Hoje, tornou-se possível produzir trabalhos inteiros sem dominar o conteúdo e com baixíssima probabilidade de detecção. As universidades estão enfrentando uma crise silenciosa: trabalhos deixaram de ser evidência confiável de aprendizagem. Se professores não conseguem distinguir autoria humana de produção automatizada, as notas deixam de refletir competência real e os diplomas passam a sinalizar muito menos do que deveriam. Isso ameaça a credibilidade institucional do ensino superior. Mas talvez o impacto mais grave esteja acontecendo na própria ciência. A escrita acadêmica sempre foi parte essencial da formação de pesquisadores. Dissertações e teses não são apenas produtos finais; são rituais de passagem intelectual, mas um momento em que o estudante aprende a formular problemas, estruturar argumentos, lidar com incertezas e construir pensamento original. Quando a IA entra como autora invisível, esse processo formativo se enfraquece. 

Já começamos a ver sinais de uma possível “industrialização” da escrita científica: revisões de literatura produzidas em massa, artigos inflacionados, textos plausíveis mas superficiais. Existe o risco real de uma poluição textual da ciência — mais artigos publicados, mas menos pensamento crítico por trás deles. Em um cenário extremo, poderemos ter IA escrevendo artigos e IA ajudando a revisá-los, enquanto a participação humana se torna cada vez mais periférica. A ciência perderia sua função mais importante: o escrutínio crítico humano. Mas tudo indica que este cenário extremo já está entre nós, representando uma grave ameaça para o futuro da ciência enquanto um empreendimento que deveria servir para melhorar a vida da maioria da Humanidade.

Diante desse quadro, a resposta não pode ser fingir que nada está acontecendo. Tampouco é realista imaginar a proibição total da IA. O que precisamos urgentemente é de regulação pedagógica séria.  Primeiro, é inevitável reformular os sistemas de avaliação. Provas presenciais, avaliações orais, defesas públicas e atividades realizadas em tempo real precisam voltar ao centro do processo educativo. Não como nostalgia do passado, mas como estratégia para garantir que o estudante realmente pense no que e sobre o que está fazendo. Na medicina, isso significa reforçar simulações clínicas presenciais e avaliações de raciocínio diagnóstico ao vivo. Segundo, o uso de IA precisa ser declarado de forma obrigatória em qualquer produção acadêmica. Transparência deve se tornar regra básica. Terceiro, universidades precisam ensinar IA de forma crítica. Não basta permitir o seu uso, pois é preciso formar usuários capazes de compreender limites, vieses e riscos epistemológicos dessas ferramentas. E, acima de tudo, precisamos reafirmar um princípio simples: aprender não é produzir textos; aprender é desenvolver pensamento crítico e autônomo.

A IA não é apenas mais uma ferramenta já que ela redefine o que significa estudar, pesquisar e produzir conhecimento. Se continuarmos ignorando os riscos do uso descontrolado da IA, poderemos formar uma geração altamente certificada, mas intelectualmente frágil , e uma ciência que se tornará cada vez mais volumosa, porém menos crítica e, consequentemente, avessa às reais necessidades que a atual conjuntura histórica de um planeta em colapso climático impõe.

Finalmente, há que se reconhecer que a IA não é apenas mais uma ferramenta tecnológica incorporada ao cotidiano universitário dado que ela redefine silenciosamente o próprio significado de estudar, pesquisar, ensinar e produzir conhecimento. Se continuarmos tratando seu uso irrestrito como um fenômeno neutro ou inevitável, corremos o risco de formar uma geração altamente certificada, porém intelectualmente frágil; uma ciência cada vez mais volumosa, mas progressivamente menos crítica; e universidades que preservam rituais formais de avaliação enquanto perdem sua função substantiva de formação. O que está em jogo não é apenas a integridade acadêmica ou a qualidade dos diplomas, mas a própria capacidade da sociedade humana de produzir profissionais capazes de lidar com problemas complexos, tomar decisões responsáveis e sustentar práticas científicas confiáveis. Em última instância, se trata de preservar a credibilidade social da universidade e o papel civilizatório da ciência. Desta forma, o verdadeiro desafio não é impedir a IA, algo impossível a estas alturas do campeonato, mas impedir que ela substitua aquilo que constitui a essência da educação superior: o desenvolvimento paciente, exigente e insubstituível de mentes autônomas, críticas, criativas e responsáveis. Sem essa reação por parte das universidades e da comunidade científica, o risco é que a automação intelectual avance mais rápido do que nossa capacidade coletiva de compreender suas consequências, deixando para o futuro o custo de uma formação que parece moderna, eficiente e produtiva, mas que poderá se revelar profundamente vazia e antissocial.

Autor de tese de Doutorado em universidade sueca é repreendido por causa do uso de Inteligência Artificial

Recentemente, um pesquisador da Universidade de Lund foi repreendido após sua tese de doutorado ter sido apontada como utilizando inteligência artificial. O pesquisador, que alegou não ter usado nenhuma ferramenta de IA, foi autorizado a manter o título de doutor, apesar da condenação por má conduta em pesquisa

Uma tese de doutorado foi sinalizada na Universidade de Lund por causa do uso de fontes falsas. Foto: Alexandra Wendt Höjer/Levart_
Photographer (unsplah) (Montagem)

Por Dione Zijp para Lund University 

Sabe-se que os projetos de pesquisa de doutorado são submetidos a rigorosos padrões acadêmicos, pois visam preparar os doutorandos para uma carreira futura na academia. O uso da IA ​​em processos de pesquisa é um tema controverso, que levanta questões sobre rigor acadêmico, integridade e ética científica.

Em fevereiro deste ano, a Universitetsläraren ( Associação de Professores Universitários) informou que o Conselho Nacional de Avaliação de Má Conduta em Pesquisa (NPOF) havia sinalizado uma tese de doutorado da Universidade de Lund por suspeita de uso indevido de inteligência artificial, alegando que o projeto continha 14 referências falsificadas. A lista de referências do projeto continha diversas fontes inexistentes, títulos citados incorretamente e DOIs referenciados de forma errada. Como a tese já havia sido defendida e aprovada pelo orientador e pela banca examinadora, o pesquisador tem permissão para manter o título de doutor. 

Uma análise mais detalhada da avaliação do NPOF mostra que as referências falsificadas apareceram apenas na lista de referências, e todas as citações no texto estavam corretas. De acordo com o relatório , o pesquisador de doutorado argumentou que, como todos os erros de referência ocorreram apenas nessa lista, não houve falsificação nem plágio.

As referências incorretas na lista foram resultado do estresse durante o processo de pesquisa de doutorado e do uso de ferramentas de busca para a compilação da bibliografia. Além disso, a pesquisadora afirmou que uma lista correta foi submetida à banca e que o objetivo final era citar autoras em uma área predominantemente masculina. 

Embora o uso da IA ​​por si só não seja conclusivo para determinar má conduta em pesquisa, o caso destaca o papel crescente que as ferramentas de IA desempenham no processo de pesquisa, inclusive em nível de doutorado. Até o momento, existem poucas pesquisas que avaliam o papel da IA ​​nos processos de pesquisa de doutorado.

A Universidade de Linköping está atualmente conduzindo um estudo com entrevistas sobre a opinião de estudantes de doutorado a respeito do papel da IA ​​em trabalhos de tese, mas os resultados ainda não foram publicados. Enquanto isso, os alunos continuam sendo repreendidos pelo uso de IA em trabalhos acadêmicos, embora os relatos de fraude com IA na Universidade de Lund sejam relativamente baixos em comparação com outras universidades suecas.

O uso da IA ​​no trabalho universitário continua sendo um tema de debate acadêmico. Enquanto isso, a Universidade de Lund publicou suas próprias diretrizes para o uso da inteligência artificial no processo de pesquisa. Em uma das publicações da universidade , os pró-reitores Jimmie Kristensson e Per Mickwitz afirmam que:  “O ponto de partida ao usar IA em pesquisa é seguir os princípios básicos da ética em pesquisa e deixar que eles orientem sua conduta como pesquisador.”

A universidade também menciona as diretrizes de pesquisa publicadas pelo Conselho Sueco de Pesquisa, incentivando os pesquisadores a se guiarem pelos princípios de confiabilidade, honestidade, respeito e responsabilidade ao utilizarem ferramentas de IA.


Fonte: Lund University

Autoria, Responsabilidade e a Erosão das Publicações Científicas

Personagens de fantasia, incluindo uma bruxa, um pirata, um robô, um fantasma, um goblin e um zumbi, reunidos em torno de uma mesa assinando documentos em um estande de inscrição de autores de artigos científicos.

Por Tim Hardman para “Niche Science&Technology” 

Comecei minha carreira como cientista júnior na década de 1980, no que poderia ser chamado de crepúsculo da era da ciência cavalheiresca, onde a investigação acadêmica era menos uma ocupação formal do que uma identidade social, enraizada em privilégio, curiosidade e um senso de dever intelectual. A pesquisa era mais lenta, mais manual e, muitas vezes, profundamente pessoal em sua apropriação intelectual. A autoria em publicações não refletia a contribuição. Meu papel era gerar dados, repetir experimentos e lidar com as falhas. O reconhecimento acadêmico (ou seja, a autoria) era reservado para aqueles que estavam em posições mais elevadas na hierarquia acadêmica.

À medida que fui progredindo em funções de coordenação de pesquisa laboratorial, a dinâmica tornou-se mais complexa em vez de mais equitativa. A colaboração era incentivada, mas vinha acompanhada de expectativas implícitas. Figuras clínicas seniores, por vezes com envolvimento apenas marginal, eram rotineiramente incluídas como autoras. A sua presença nos manuscritos refletia influência e posição na rede tanto quanto contribuição intelectual. Este padrão não era anómalo; era estrutural.

Meu trabalho subsequente em comunicação médica revelou uma camada adicional. A prática de escrever manuscritos em nome de terceiros evidenciou como alguns médicos podiam se tornar autores hiperprolíficos, com taxas de publicação implausíveis (sem apoio substancial e invisível). Isso ocorreu antes da ampla adoção de estruturas de transparência, como as promovidas pelas Boas Práticas de Publicação (Good Publication Practice ). A divulgação era limitada e a distinção entre quem escrevia e quem recebia os créditos era frequentemente obscura.

Olhando para trás, essas experiências refletem não práticas isoladas, mas uma manifestação inicial de uma mudança mais ampla, da ciência artesanal e individualmente atribuível para um modelo de produção de conhecimento mais distribuído e industrial.

Ciência Industrial e a Inflação da Autoria

A transição para o que poderíamos chamar de “ciência industrial” foi impulsionada pela digitalização, pela colaboração global e pela intensificação da competição. As pesquisas de ponta agora são conduzidas em redes, em vez de em laboratórios isolados. Embora isso tenha possibilitado avanços notáveis, também alterou fundamentalmente o significado de autoria.

Evidências empíricas demonstram um aumento consistente no número de autores por artigo em diversas disciplinas. Análises mostraram que a pesquisa em equipe passou a dominar a produção de conhecimento, com o trabalho colaborativo associado a resultados de maior impacto [1]. Observamos uma expansão constante do tamanho das equipes e sua correlação com o impacto das citações em diversas áreas [2]. Esse crescimento não se restringe a domínios específicos, mas é generalizado em toda a ciência moderna.

Os manuscritos também se tornaram mais longos, citando cada vez mais referências e apresentando resumos cada vez mais elaborados — características que podem sinalizar complexidade, mas não necessariamente clareza ou originalidade. Em resposta, o  Comitê Internacional de Editores de Revistas Médicas  tentou definir a autoria citando qualificações como contribuição intelectual substancial e responsabilidade. No entanto, a aplicação prática desses critérios é frequentemente inconsistente.

Os principais fatores que impulsionam a inflação da autoria incluem:

  • Especialização crescente que exige conhecimentos diversificados.
  • Pressão para incluir figuras importantes em troca de financiamento ou prestígio.
  • Colaborações globais onde a contribuição é difícil de quantificar.
  • Preferências de periódicos para submissões com múltiplos autores e múltiplas instituições

O aumento da autoria hiperprolífica complica ainda mais o cenário. Observadores identificaram um subconjunto de pesquisadores produzindo artigos em taxas extraordinárias, às vezes ultrapassando uma publicação a cada poucos dias [3]. Tal produtividade, em nenhum mundo sensato, reflete um envolvimento profundo com projetos individuais, mas sim aponta para um sistema no qual a autoria pode ser distribuída estrategicamente entre múltiplas colaborações.

A autoria de cortesia, em que indivíduos são incluídos apesar de sua contribuição limitada, continua sendo um problema persistente. Uma análise de dados de seis periódicos médicos de alto impacto revelou que 21% dos artigos continham autores honorários, enquanto 11% tinham autores fantasmas [4]. Outros autores relataram números semelhantes, observando que muitos autores honorários não revisaram o manuscrito final nem assumiram a responsabilidade por seu conteúdo [5]. Essas práticas não são meramente lapsos éticos, mas adaptações a um ambiente em que a autoria funciona tanto como moeda de troca quanto como credencial.

Um caso notório

O escândalo Merck/Vioxx (2008) revelou que a gigante farmacêutica havia redigido dezenas de estudos de pesquisa e artigos de revisão, recrutando em seguida médicos acadêmicos renomados para incluírem seus nomes como autores. Documentos internos mostraram um rascunho com o campo do autor principal marcado como “Autor externo?” — um espaço reservado para um pesquisador proeminente ainda não recrutado. Essa prática de autoria fantasma enganou os leitores e ocultou conflitos de interesse por anos.

Métricas, esforço e os limites do sistema de publicação

A inflação da autoria tem implicações significativas para a forma como a contribuição científica é medida e valorizada. Bibliometrias como o índice h e o impacto de citação ponderado por área dependem da autoria como um indicador da contribuição intelectual [6]. Quando a autoria se torna diluída, essas métricas correm o risco de representar de forma distorcida tanto a produtividade quanto a influência.

Essa distorção é particularmente problemática na avaliação da contribuição acadêmica, onde as decisões de contratação, promoção e financiamento estão intimamente ligadas aos registros de publicação. Moher et al. (2018) argumentaram que as práticas de avaliação atuais enfatizam excessivamente as métricas quantitativas em detrimento da avaliação qualitativa da contribuição [7]. Nesses casos, o incentivo não é apenas publicar, mas ser visto como alguém que publica, de preferência com frequência e em grande escala.

No entanto, a realidade vivida do trabalho científico permanece teimosamente resistente a tal simplificação. A experimentação continua lenta, iterativa e frequentemente malsucedida. Envolve extensa leitura prévia, experimentação repetida e o acúmulo de dados que podem nunca ser publicados. O caminho do conceito ao manuscrito raramente é linear e muitas vezes se estende muito além do horário de trabalho formal e dos esforços dos autores principais.

Diante dessas demandas, alguns pesquisadores adotam uma estratégia de engajamento distribuído, participando minimamente de múltiplos projetos para garantir um fluxo contínuo de publicações. Embora racional dentro do sistema atual, essa abordagem enfraquece ainda mais o vínculo entre esforço e autoria. Agora temos o movimento de ‘contribuição’ (taxonomia CRediT; [8]), mas não há como definir onde se encontra o limite para inclusão em projetos individuais (veja nosso recente Insider’s Insight sobre as regras de autoria: [9]).

O sistema de periódicos agrava esses desafios. A revisão por pares, embora fundamental para a garantia da qualidade, é altamente variável. Os revisores diferem em especialização, rigor e intenção. Alguns oferecem orientação construtiva; outros se concentram em identificar motivos para rejeição. Atrasos são comuns, com manuscritos frequentemente levando meses ou anos para serem publicados.

Frustrações comuns com o sistema atual:

  • Resenhistas que rejeitam sem apresentar uma crítica substancial
  • Atrasos de 6 a 12 meses entre a submissão e a decisão.
  • Conservadorismo que privilegia a ciência incremental em detrimento da ciência inovadora.
  • Falta de reconhecimento dos próprios revisores pares [10]

Existe também um conservadorismo generalizado dentro do sistema. Trabalhos inovadores ou especulativos podem ter dificuldades em obter aceitação, uma vez que revisores e editores privilegiam avanços incrementais que se alinhem com paradigmas estabelecidos. Alguns argumentam que certos aspectos do ecossistema de pesquisa podem ser fundamentalmente falhos, com vieses sistêmicos que afetam o que é publicado e como é avaliado [11]. Para os autores, o processo pode parecer menos um caminho para a disseminação e mais uma negociação prolongada com um sistema opaco e, por vezes, resistente.

Reflexão e Futuro: Propriedade, Significado e o Ponto de Inflexão da IA

Em sua essência, a questão da autoria não é meramente processual, mas filosófica. Na era da ciência artesanal, a autoria implicava propriedade — uma clara associação entre o intelecto individual e a obra publicada. Na era da ciência industrial, essa associação tornou-se difusa. O conhecimento é produzido coletivamente, frequentemente por equipes grandes e geograficamente dispersas. A autoria, nesse contexto, pode refletir participação em vez de propriedade.

Isso levanta questões fundamentais. A quem pertence o conhecimento gerado por grandes colaborações? A autoria ainda significa contribuição intelectual ou tornou-se uma forma de moeda acadêmica? Se for a segunda opção, a erosão de seu significado tem implicações não apenas para as carreiras individuais, mas também para a integridade do próprio registro científico.

O que mudou em 40 anos

  • Antes:  2 a 4 autores por artigo;  agora:  10 a mais de 50 autores.
  • Antes:  a autoria implicava propriedade;  agora:  muitas vezes sinaliza participação.
  • Antes:  a escrita era manual e individual;  agora:  é assistida por IA e colaborativa.
  • Antes:  Autores seniores revisavam cada versão;  agora:  podem não ler a versão final.

Superficialmente, muita coisa mudou desde a década de 1980: mais autores, mais referências, mais produção. No entanto, as tensões subjacentes entre contribuição e reconhecimento, esforço e crédito, permanecem sem solução. Aliás, elas se intensificaram. Isso impactou minha própria abordagem à narrativa científica. Recentemente, meu foco mudou de periódicos acadêmicos para o blog no site da nossa empresa. Enquanto antes eu levava 40 anos para publicar mais de 120 artigos, cujo conteúdo era sufocado pelo establishment, agora posso expressar minha própria opinião mais de 120 vezes por ano, e o conteúdo não está bloqueado por paywalls de periódicos.

O surgimento da inteligência artificial introduz uma camada adicional de incerteza. Ferramentas como o ChatGPT já estão remodelando a forma como os manuscritos são redigidos e aprimorados. Embora ofereçam eficiência, também correm o risco de distanciar ainda mais o autor do texto [9][12]. A linguagem pode se tornar mais padronizada, as vozes mais homogeneizadas e a fronteira entre a contribuição humana e a da máquina cada vez mais tênue.

Principais questões que a IA levanta para a autoria:

  • Uma ferramenta de IA pode ser listada como coautora? (Consenso atual do ICMJE, Nature, Elsevier e JAMA: Não)
  • Quem é responsável pelos erros ou alucinações gerados pela IA [13]?
  • O uso de IA para redação exige divulgação [14]?
  • Será que a IA irá homogeneizar os estilos de escrita científica?

Existe também o risco de que os sistemas de IA, treinados com base na literatura existente, reforcem normas e preconceitos prevalecentes, dificultando o surgimento de ideias não convencionais. Nesse sentido, a adoção da IA ​​pode não resolver as ambiguidades da autoria, mas sim aprofundá-las.

Assim como a transição do artesanato para a ciência industrial transformou a escala e a estrutura da autoria, a integração da IA ​​pode redefini-la mais uma vez. Se essa transformação irá aprimorar a clareza e a responsabilidade, ou corroê-las ainda mais, permanece incerto. A trajetória até agora oferece pouca segurança. O que está claro é que, sem uma reforma sistêmica, a adoção de modelos de contribuição, a aplicação da transparência e a reformulação de como avaliamos os pesquisadores, o sinal em nossa literatura científica continuará se perdendo em meio ao ruído.

Referências

  1. Wuchty S, Jones BF, Uzzi B. O crescente domínio das equipes na produção de conhecimento. Science . 2007;316(5827):1036–1039 .
  2. Larivière V, Gingras Y, Sugimoto CR, Tsou A. O tamanho da equipe importa: colaboração e impacto científico. J Assoc Inf Sci Technol . 2015;66(7):1323–1332 .
  3. Ioannidis JPA, Klavans R, Boyack KW. Milhares de cientistas publicam um artigo a cada cinco dias. Nature . 2018;561:167–169 .
  4. Wislar JS, Flanagin A, Fontanarosa PB, DeAngelis CD. Autoria honorária e fantasma em periódicos biomédicos de alto impacto: um estudo transversal. BMJ . 2011;343:d6128 .
  5. Flanagin A, Carey LA, Fontanarosa PB, et al. Prevalência de artigos com autores honorários e autores fantasmas em periódicos médicos revisados ​​por pares.  JAMA . 1998;280(3):222–224 .
  6. Niche Science & Technology Ltd (2021). Análise Bibliométrica: Uma Visão Interna
  7. Moher D, Naudet F, Cristea IA, Miedema F, Ioannidis JPA, Goodman SN. Avaliando cientistas para contratação, promoção e estabilidade. PLoS Biol . 2018;16(3):e2004089 .
  8. Niche Science & Technology Ltd (2026). Uma visão privilegiada sobre autoria científica.
  9. Horton R. Offline: O que é o 5 sigma da medicina? Lancet . 2015;385(9976):1380 .
  10. Hardman TC (2026). Figuras geradas por IA em publicações acadêmicas.
  11. Allen L, Scott J, Brand A, Hlava M, Altman M. Publicação: Crédito onde o crédito é devido.  Nature . 2019;571(7763):29–31 .
  12. Smith R. Revisão por pares: um processo falho no coração da ciência e dos periódicos.  JR Soc Med . 2006;99(4):178–182 .
  13. Alkaissi H, McFarlane SI. Alucinações artificiais no ChatGPT: implicações na escrita científica.  Cureus . 2023;15(2):e35179 .
  14. Flanagin A, et al. “Autores” não humanos e implicações para a integridade da publicação científica e do conhecimento médico.  JAMA . 2023;329(8):637–639 .

Fonte: Niche Science&Technology

‘Uma quantidade inacreditável de poluição’: qual é a dimensão da ameaça da IA ​​para o clima?

Defensores da IA ​​afirmam que ela pode contribuir para o combate à crise climática. No entanto, o aumento vertiginoso dos custos de energia e água preocupa os especialistas

Um computador de grande porte consumindo toda a energia de um reservatório.

O custo ambiental do boom da IA ​​é difícil de mensurar, mesmo enquanto dispara. Imagem composta: Alex Mellon para o The Guardian: Getty Images

Por Ajit Niranjan para “The Guardian” 

“Foi de cair o queixo”, disse Wilson, um ex-trabalhador do setor de petróleo e gás do Texas que documenta emissões de metano há mais de uma década e estima que o data center Colossus da xAI estivesse expelindo mais desse gás que aquece o planeta do que uma grande usina de energia. “Uma quantidade inacreditável de poluição.”

Naquela mesma semana, o principal produto da empresa estava causando alvoroço nos noticiários. O chatbot irreverente de Musk, Grok, repetiu uma teoria da conspiração de que um “genocídio branco” estava ocorrendo na África do Sul quando questionado sobre assuntos tão aleatórios quanto beisebol e andaimes. As postagens foram rapidamente apagadas, mas Grok continuou elogiando Hitler , promovendo ideologias de extrema-direita e fazendo afirmações falsas.

Grok de Elon Musk

Grok, o chatbot de IA de Elon Musk, já elogiou Hitler e repetiu teorias da conspiração sobre o “genocídio branco”. Fotografia: Algi Febri Sugita/ZUMA Press Wire/Shutterstock

“É um desperdício horrível, horrível”, disse Wilson, diretor do grupo de campanha Oilfield Witness, apontando para imagens do Mickey Mouse nazista geradas pelo Grok como um exemplo do que o gás fóssil estava sendo queimado para produzir. “Que utilidade isso tem?”

Alguns especialistas temem que os centros de dados possam prejudicar a transição para uma economia limpa, adicionando um obstáculo desnecessário à tarefa inglória de impedir que o planeta aqueça 1,5°C (2,7°F). Outros se mostram otimistas em relação aos custos de energia, argumentando que eles são insignificantes em comparação não apenas com as indústrias poluentes, mas também com o poder da tecnologia de transformar a sociedade.

Qual é a dimensão da ameaça da IA ​​para o clima? E será que ela pode trazer mais benefícios do que prejuízos?

Quando Hannah Daly dirigia modelos para a Agência Internacional de Energia (IEA) em Paris e depois se tornou professora de energia sustentável na University College Cork, na Irlanda, ela dedicava pouco tempo a se preocupar com o custo de carbono dos computadores. Carros, vacas e aquecimento doméstico estavam entre os problemas complexos que consumiam o orçamento de carbono; as emissões dos serviços digitais eram pequenas e relativamente estáveis.

Mas na Irlanda, a demanda computacional por energia atingiu níveis impossíveis de ignorar. Os centros de dados consomem um quinto da eletricidade do país e a previsão é de que esse consumo chegue a quase um terço em poucos anos. A rápida expansão de armazéns repletos de chips, que surgiram em um ritmo mais acelerado do que a rede elétrica consegue suportar, levou à sua proibição efetiva de conexão à rede em 2021.

A trajetória de “crescimento enorme e exponencial” é o que preocupa, disse Daly. “Não sei se a Irlanda é uma exceção ou um prenúncio do que está por vir. Mas é definitivamente um conto de advertência.”

Os centros de dados consomem apenas 1% da eletricidade mundial, mas em breve poderão demandar muito mais. Sua participação no consumo de eletricidade dos EUA deverá mais que dobrar, chegando a 8,6% até 2035, segundo a BloombergNEF, enquanto a AIE (Agência Internacional de Energia) projeta que os centros de dados serão responsáveis ​​por pelo menos 20% do crescimento da demanda de eletricidade nos países desenvolvidos até o final da década.

Parte da demanda está sendo atendida por meio de contratos de longo prazo para a compra de energia renovável – apoiando a expansão da energia limpa mesmo quando a eletricidade que alimenta a instalação é poluente – enquanto algumas empresas de tecnologia assinaram acordos para usar energia nuclear.

Mas, num futuro próximo, os combustíveis fósseis deverão dominar o fornecimento. Os centros de dados da China estão concentrados no leste do país, região com forte presença do carvão. Nos EUA, onde se espera que o gás natural gere a maior parte da eletricidade nos centros de dados na próxima década, o governo Trump usou esse argumento para justificar a queima de mais carvão. “O carvão, bonito e limpo, será essencial para… vencer a corrida da IA”, disse o secretário de Energia, Chris Wright, em setembro, ao anunciar um pacote de investimentos de US$ 625 milhões (R$ 2,7 bilhões).

Um centro de dados da Amazon em Didcot, Oxfordshire.

Um datacenter da Amazon em Didcot, Oxfordshire. Fotografia: Horst Friedrichs/Alamy

Na Irlanda, que está construindo terminais para importar gás natural liquefeito (GNL) e usinas para queimá-lo, o boom dos data centers compensou os ganhos climáticos da expansão das energias renováveis ​​no setor elétrico, de acordo com uma análise que Daly realizou para a Friends of the Earth Ireland no ano passado. Países mais pobres também podem não estar imunes. A energia solar barata começou a substituir o carvão a um ritmo notável no Paquistão, mas os data centers estão prestes a ocupar a capacidade ociosa de usinas de energia desativadas, após o governo anunciar que dedicaria 2 GW de energia à inteligência artificial e ao bitcoin.

“Essa ideia de que o menor custo das energias renováveis ​​por si só impulsionará a descarbonização não é suficiente”, disse Daly. “Porque se houver uma enorme demanda de energia que queira crescer, ela recairá sobre esses ativos de combustíveis fósseis obsoletos.”

Isso significa que usar chatbots para redigir e-mails, escrever ensaios e planejar férias coloca o planeta em risco? As empresas de tecnologia têm resistido à pressão para fornecer dados detalhados sobre o consumo de energia de sua IA, mas estimativas populares giram em torno de 0,2 a 3 watts-hora (Wh) para uma simples consulta de texto e aumentam consideravelmente para “pesquisas complexas” e produção de vídeo. Em uma postagem de blog em julho, o CEO da OpenAI, Sam Altman, afirmou que uma consulta no ChatGPT usa tão pouca energia quanto uma lâmpada acesa por alguns minutos, em consonância com um relatório recente do Google sobre o consumo médio de texto para seu assistente de IA, Gemini.

Os números são insignificantes em comparação com atividades como voar, comer carne ou dirigir um carro. Ainda assim, os céticos se preocupam com a enorme escala da tecnologia – o ChatGPT afirma ter várias centenas de milhões de usuários semanais apenas três anos após seu lançamento – e com o fervor com que as empresas a inseriram em todos os aspectos da vida digital. O Google controla cerca de 90% do mercado global de mecanismos de busca e impôs a IA generativa em sua página de resultados. A ascensão de agentes de IA e serviços nos bastidores deve aumentar ainda mais esse burburinho.

“O que me preocupa é que estamos implementando IA de uma forma que não nos permite ter uma boa noção do consumo de energia”, disse Sasha Luccioni, líder de clima da empresa de IA Hugging Face, que se frustrou com as “divulgações seletivas” de grandes empresas que obscurecem o verdadeiro impacto climático de seus produtos. “Estamos essencialmente operando sob a hipótese de que não é um problema – ou que, se for um problema, será resolvido de alguma forma – em vez de nos anteciparmos a ele.”

Se a IA pudesse pagar suas dívidas energéticas economizando carbono em outros setores da economia? Essa é a tese apresentada em um relatório da AIE (Agência Internacional de Energia) em abril, que argumentou que as aplicações de IA existentes poderiam reduzir as emissões em uma proporção muito maior do que a produzida pelos data centers. Um artigo de pesquisadores da London School of Economics e da Systemiq chegou a uma conclusão semelhante em junho, após modelar cenários nos quais a IA ajudaria a integrar energia solar e eólica à rede elétrica, identificar proteínas alternativas que imitam a carne, melhorar a composição das baterias em carros elétricos e incentivar as pessoas a fazerem escolhas sustentáveis.

“A IA pode acelerar a implementação dessas tecnologias limpas, basicamente acelerando sua posição na curva de inovação e adoção”, disse a coautora Roberta Pierfederici, pesquisadora de políticas públicas do Instituto Grantham da LSE.

As projeções de redução de carbono trazem grandes incertezas – maior eficiência pode levar a um maior consumo, alerta a AIE (Agência Internacional de Energia), e efeitos rebote podem anular os ganhos, como carros autônomos prejudicando o transporte público – mas exemplos já existem. O Google afirma que a IA o ajudou a reduzir o resfriamento em data centers em 40%. A espanhola Iberdrola diz que a IA otimizou a manutenção e o desempenho de turbinas eólicas, aumentando a eficiência operacional em 25%. A francesa Engie afirma ter reduzido o tempo de inatividade em usinas solares usando IA para detectar falhas.

Como outros setores são muito poluentes, dizem os pesquisadores, a IA precisaria reduzir suas emissões em apenas uma pequena fração para compensar o custo de carbono de sua computação, que um estudo recente estimou em 0,1-0,2% das emissões globais, e está aumentando. “No setor de energia, já estamos vendo os resultados”, disse Pierfederici. “Já o setor de carne ainda não chegou lá.”

s defensores da tecnologia limpa não são os únicos que perceberam o potencial transformador da IA.

Quando Holly e Will Alpine decidiram deixar seus empregos na Microsoft no ano passado, sabiam que estavam abrindo mão de uma ótima oportunidade. O casal de millennials desfrutava de salários típicos do setor de tecnologia americano, graças às suas posições nas equipes de IA responsável e sustentabilidade da empresa, com colegas próximos e um trabalho que lhes dava um senso de propósito. Will estava entre as primeiras vozes a pressionar para que se enfrentasse a redução do custo de energia dos data centers.

Mas o trabalho da Microsoft para clientes do setor de petróleo e gás incomodava o casal, que começou a se preocupar mais com as emissões que a empresa possibilitava do que com as que ela produzia. Em 2019, a empresa anunciou uma parceria com a ExxonMobil com potencial para expandir a produção em até 50 mil barris por dia. No mesmo ano, iniciou um projeto digital com a Chevron que, segundo a petrolífera, reduziu em 30 dias o tempo de planejamento de seus poços em águas profundas. Com o surgimento de mais contratos, os Alpines começaram a pressionar a empresa por respostas.

“A resposta da empresa frequentemente apontava para sua própria pegada operacional, o que não é relevante”, disse Holly Alpine, que deixou a empresa com Will para fazer campanha para que a indústria de tecnologia combatesse as emissões que gera. “Após uma campanha interna de quatro anos, na qual recebemos muitas promessas, mas a maioria não foi cumprida, percebemos que a pressão interna não era suficiente.”

Um poço de petróleo no deserto

O diretor executivo da petrolífera Saudi Aramco afirmou recentemente que a empresa incorporou inteligência artificial “em tudo”. Fotografia: Bloomberg/Getty Images

A Agência Internacional de Energia (IEA) estima que a IA poderá aumentar as reservas tecnicamente recuperáveis ​​de petróleo e gás em 5% e reduzir o custo de um projeto em águas profundas em 10%. As grandes petrolíferas estão ainda mais otimistas. “A inteligência artificial será, em última análise, o próximo boom do fracking na indústria”, disse Mike Sommers, diretor do Instituto Americano de Petróleo, à Axios . Amin Nasser, CEO da Saudi Aramco, afirmou que a empresa incorporou IA “em tudo” em uma entrevista à Bloomberg Television no início deste ano. A maior petrolífera do mundo dobrou seus investimentos em tecnologia de 2023 para 2024, segundo Nasser, e a ampla adoção da IA ​​”aumentou a produtividade e, consequentemente, o número de poços”.

Ao mesmo tempo, a indústria de petróleo e gás afirma que a IA pode reduzir sua intensidade de carbono, por exemplo, analisando dados de satélite para detectar vazamentos de metano. Mas mesmo nesse aspecto, críticos apontam que existe uma lacuna entre as percepções digitais e as ações corporativas. Wilson, que viu “nuvens gigantescas de gás escapando por todos os lados” durante uma recente viagem de campo à Bacia Permiana, disse que a sofisticada rede de satélites da indústria obteve poucos resultados, pois os vazamentos representam um problema pequeno em comparação com as liberações intencionais de metano.

“Eles estão usando isso como desculpa para adiar a ação”, disse Wilson. “Observar o metano do espaço não vai impedir a emissão de metano.”

Talvez ainda mais preocupante do que a expansão da oferta de combustíveis fósseis seja o efeito sobre o consumo. Um estudo publicado em outubro revelou que anúncios gerados por IA superam os criados por humanos, e a facilidade com que podem ser prouzidos reduz drasticamente o custo de incentivar o consumo. O setor de marketing, já familiarizado com anúncios hiperpersonalizados e compras simplificadas, está se preparando para agentes de IA que poderão comprar presentes e reservar voos em nome do cliente. A Tui, maior operadora de viagens da Europa, afirma estar investindo fortemente em IA, à medida que as pessoas recorrem ao ChatGPT para reservar suas férias.

“A narrativa está realmente focada nessa comparação falsa entre a energia usada para operar a tecnologia e os casos de uso positivos”, disse Alpine. “Mas é perigoso omitir os casos de uso negativos.”

Algumas vozes pedem uma pausa, pelo menos até que regras melhores sejam implementadas. Em outubro, o relator especial da ONU para o direito humano à água potável pediu uma moratória no desenvolvimento de novos centros de dados, citando os impactos ambientais prejudiciais. Em dezembro, uma coalizão de mais de 230 grupos ambientalistas nos EUA exigiu uma moratória nacional até que esses centros de dados fossem regulamentados. A Comissão de Serviços Públicos da Irlanda suspendeu sua proibição de fato às conexões à rede elétrica, mas afirmou que 80% do consumo anual de eletricidade de um centro de dados deve vir, eventualmente, de novos projetos de energia renovável.

Outros defenderam que se pressione o setor para que faça o bem. A Espanha, único país a mencionar a IA em uma legislação climática, obriga o governo a promover a digitalização que possa ajudar a descarbonizar a economia. Laurence Tubiana, uma das arquitetas do Acordo de Paris sobre o clima, sugeriu a taxação da IA ​​para gerar os fundos necessários para impedir o aquecimento global.

Os alpinistas, que afirmam não ser contra a IA, mas apenas desejar “limites razoáveis” para a tecnologia, estão pressionando para que o projeto de lei da UE sobre IA classifique os combustíveis fósseis como uma aplicação de alto risco da tecnologia. Eles também querem que os investidores considerem as emissões geradas pela IA na avaliação das empresas em relação a métricas ambientais, sociais e de governança (ESG).

O Google e a xAI não responderam ao pedido de comentários. A OpenAI afirmou que dedica muita atenção à melhor utilização de seu poder computacional, apoia iniciativas com parceiros para atingir metas de sustentabilidade e acredita que a IA será fundamental no combate às mudanças climáticas.

A Microsoft afirmou que a transição energética é complexa e exige avançar de forma ética, com a tecnologia desempenhando um papel importante na descarbonização do setor. “Isso requer equilibrar as necessidades energéticas e as práticas industriais atuais, ao mesmo tempo que se inventam e implementam as do futuro”, disse um porta-voz.

Luccioni afirmou que, em vez de entrar em pânico com a IA, as pessoas deveriam pressionar as empresas para que criem ferramentas que sejam econômicas desde a sua concepção.

“Talvez eu seja um pouco ingênua, mas ainda acredito que a IA pode fazer bem no combate à crise climática – projetando a próxima geração de baterias, monitorando o desmatamento, prevendo furacões”, disse ela. “Há tantas coisas boas para as quais poderíamos usá-la – e, em vez disso, estamos criando sites de mídia social repletos de conteúdo gerado por IA, enquanto data centers são alimentados por geradores a diesel.”


Fonte: The Guardian

Resistindo à inconsistência da Inteligência Artificial

Burn it down: a license for AI resistance (opinion)

Por H. Holden Thorp para “Science”

É difícil falar sobre qualquer tópico em ciência ou educação hoje em dia sem que o assunto da inteligência artificial (IA) venha à tona — seja para permitir que grandes modelos de linguagem auxiliem na busca por artigos científicos ou até mesmo para escrever ou revisar o próprio artigo. Em algumas das especulações mais extravagantes, os humanos envolvidos na condução de estudos e experimentos científicos e na avaliação dos resultados para publicação serão gradualmente eliminados do processo. Mas quando essa retórica grandiosa começa a circular, nós da Science tentamos manter a calma e continuar contribuindo para uma literatura científica robusta, com curadoria humana, que resistirá ao teste do tempo.

As políticas mais recentes da Science permitem o uso de grandes modelos de linguagem para certos processos sem necessidade de divulgação, como a edição de textos em artigos científicos para melhorar a clareza e a legibilidade ou o auxílio na coleta de referências. No entanto, o uso de IA além disso — por exemplo, na redação do texto do manuscrito — deve ser declarado. E o uso de IA para criar figuras não é permitido. Todos os autores devem certificar e ser responsáveis ​​por todo o conteúdo, incluindo aquele gerado com o auxílio de IA. A Science também utiliza ferramentas de IA, como o iThenticate e o Proofig, para melhor identificar textos plagiados ou figuras alteradas. Ao longo do último ano, a Science colaborou com a DataSeer para avaliar a adesão à sua política que exige o compartilhamento dos dados e do código subjacentes de todos os artigos científicos publicados. Os resultados iniciais são encorajadores: de 2.680 artigos da Science publicados entre 2021 e 2024, 69% compartilharam dados. Para aumentar ainda mais a transparência, uma lista de verificação de reprodutibilidade do DataSeer, que a Science testou em um programa piloto em 2025, está sendo integrada aos protocolos da revista. A tecnologia de processamento de linguagem natural do DataSeer analisa o artigo e gera uma lista de verificação de reprodutibilidade preenchida previamente. Os autores são solicitados a confirmar as informações e fazer as revisões necessárias.

Embora a IA esteja ajudando a Science a detectar erros que podem ser corrigidos ou elementos ausentes em um artigo, mas que deveriam ser incluídos, como código de apoio ou dados brutos, seu uso e a avaliação dos resultados exigem mais esforço humano, e não menos. De fato, a IA está permitindo que a ciência identifique problemas com mais rigor do que antes, mas os relatórios gerados por essas ferramentas precisam ser avaliados por pessoas. Talvez o pânico em relação à IA substituir empregos se justifique a longo prazo, mas continuo cético. A maioria dos avanços tecnológicos não levou a perdas catastróficas de empregos.

Uma preocupação ainda maior em relação à IA é que seu uso na produção ou revisão de artigos científicos possa comprometer a confiabilidade da literatura científica. Ao contrário de algumas iniciativas recentes, a revista Science proíbe que os revisores utilizem qualquer parte de um artigo em um modelo de linguagem abrangente para gerar uma avaliação. No entanto, a Science permite que os revisores usem IA para refinar o texto, desde que o uso seja declarado.

A crescente vigilância da ciência contra a corrupção da literatura tornou-se mais um componente na busca incessante da verdade pela ciência e pela publicação científica. Publicar artigos cuidadosamente editados e submetidos ao julgamento de múltiplos seres humanos — e a retratação e correção de artigos quando os humanos envolvidos cometem erros — nunca foi tão importante. Como um pequeno grupo de periódicos que pode dedicar mais esforço humano a cada artigo, os periódicos da Science são menos suscetíveis — e contribuem menos — para o acúmulo de “erros de IA” na literatura, mas nenhum sistema, humano ou artificial, consegue detectar tudo. A potencial degradação da literatura pela tecnologia reforça o valor de um registro mantido com experiência e conhecimento científico humano.

Há 15 anos, o ensino superior parecia ameaçado pelas previsões de que os cursos online abertos e massivos (MOOCs) acabariam com as universidades. Isso não aconteceu, mas os cursos online se tornaram um elemento importante da educação e permitiram que as universidades crescessem, em vez de encolherem. A migração das revistas científicas para a publicação online provocou um resultado semelhante: aumentou o tamanho e a escala das publicações acadêmicas. A aceitação de afirmações bombásticas sobre os impactos da IA ​​na literatura científica deve aguardar verificação.

Assim como muitas ferramentas, a IA permitirá que a comunidade científica faça mais, desde que saiba utilizá-la corretamente. A comunidade precisa ter cautela e não se deixar levar pela euforia em torno de cada produto de IA.


Fonte: Science

As análises de IA da Google colocam as pessoas em risco com conselhos de saúde enganosos

Investigação do Guardian revela informações imprecisas em resumos

Homem olhando para o smartphone na cama

O jornal The Guardian revelou diversos casos de informações de saúde imprecisas nos Resumos de IA do Google. Fotografia: Caia Image/Alamy

Por Andrew Gregory para “The Guardian” 

Uma investigação do jornal The Guardian revelou que as pessoas estão sendo expostas a riscos devido a informações de saúde falsas e enganosas nos resumos de inteligência artificial do Google.

A empresa afirmou que seus Resumos de IA, que usam IA generativa para fornecer instantâneos de informações essenciais sobre um tópico ou questão, são úteis ” e “confiáveis ”.

No entanto, alguns dos resumos, que aparecem no topo dos resultados de pesquisa, forneciam informações de saúde imprecisas e colocavam as pessoas em risco de sofrer danos.

Em um caso que especialistas descreveram como “realmente perigoso”, o Google aconselhou erroneamente pessoas com câncer de pâncreas a evitarem alimentos ricos em gordura. Especialistas afirmaram que isso era exatamente o oposto do que deveria ser recomendado e pode aumentar o risco de morte dos pacientes pela doença.

Em outro exemplo “alarmante”, a empresa forneceu informações falsas sobre testes cruciais de função hepática, o que poderia levar pessoas com doenças hepáticas graves a acreditarem erroneamente que estão saudáveis.

As buscas no Google por respostas sobre exames de câncer em mulheres também forneceram informações “completamente erradas”, o que, segundo especialistas, pode levar as pessoas a ignorar sintomas reais.

Um porta-voz do Google afirmou que muitos dos exemplos de saúde compartilhados com eles eram “capturas de tela incompletas”, mas, pelo que puderam avaliar, continham links “para fontes conhecidas e confiáveis ​​e recomendavam a busca por aconselhamento especializado”.

A investigação do The Guardian surge em meio à crescente preocupação de que os dados de IA possam confundir os consumidores, que podem presumir que sejam confiáveis. Em novembro do ano passado, um estudo descobriu que chatbots de IA em diversas plataformas forneciam conselhos financeiros imprecisos , enquanto preocupações semelhantes foram levantadas em relação a resumos de notícias .

Sophie Randall, diretora do Patient Information Forum, que promove informações de saúde baseadas em evidências para pacientes, público em geral e profissionais de saúde, afirmou que os exemplos mostram que “os Resumos de IA do Google podem colocar informações de saúde imprecisas no topo das buscas online, representando um risco para a saúde das pessoas”.

Stephanie Parker, diretora da área digital da Marie Curie, uma instituição de caridade que oferece cuidados paliativos, afirmou: “As pessoas recorrem à internet em momentos de preocupação e crise. Se as informações que recebem forem imprecisas ou estiverem fora de contexto, isso pode prejudicar seriamente a sua saúde.”

O jornal The Guardian revelou diversos casos de informações de saúde imprecisas nos Resumos de IA do Google, após várias organizações de saúde, instituições de caridade e profissionais expressarem preocupação.

Anna Jewell, diretora de apoio, pesquisa e influência da Pancreatic Cancer UK, afirmou que aconselhar pacientes a evitarem alimentos ricos em gordura é “completamente incorreto”. Fazer isso “pode ​​ser muito perigoso e comprometer as chances de uma pessoa estar bem o suficiente para receber tratamento”, acrescentou.

Jewell afirmou: “A resposta da IA ​​do Google sugere que pessoas com câncer de pâncreas evitem alimentos ricos em gordura e fornece uma lista de exemplos. No entanto, se alguém seguisse o que o resultado da pesquisa indica, poderia não ingerir calorias suficientes, ter dificuldade para ganhar peso e não tolerar a quimioterapia ou uma cirurgia que poderia salvar sua vida.”

Digitar “qual é a faixa normal para exames de sangue do fígado” também forneceu informações enganosas, com uma grande quantidade de números, pouco contexto e sem levar em consideração a nacionalidade, o sexo, a etnia ou a idade dos pacientes.

Pamela Healy, diretora executiva da British Liver Trust, afirmou que os resumos gerados por IA são alarmantes. “Muitas pessoas com doenças hepáticas não apresentam sintomas até os estágios avançados, por isso é tão importante que façam exames. Mas o que as análises de IA do Google consideram ‘normal’ pode variar drasticamente do que é realmente considerado normal.”

“É perigoso porque significa que algumas pessoas com doenças hepáticas graves podem achar que têm um resultado normal e, portanto, não se preocuparem em comparecer a uma consulta de acompanhamento com o profissional de saúde.”

Uma busca por “sintomas e exames para câncer vaginal” listou o exame de Papanicolau como um exame para detectar câncer vaginal, o que está incorreto.

Athena Lamnisos, diretora executiva da instituição de caridade para o câncer Eve Appeal, disse: “Não é um teste para detectar câncer e certamente não é um teste para detectar câncer vaginal – essa informação está completamente errada. Receber informações erradas como essa pode levar alguém a não procurar atendimento médico para sintomas de câncer vaginal por ter tido um resultado negativo em um exame preventivo recente de câncer do colo do útero.”

“Também nos preocupou o fato de o resumo da IA ​​mudar quando realizávamos exatamente a mesma pesquisa, apresentando uma resposta diferente a cada vez, baseada em fontes distintas. Isso significa que as pessoas recebem uma resposta diferente dependendo de quando pesquisam, e isso não é aceitável.”

Lamnisos disse estar extremamente preocupada. “Alguns dos resultados que vimos são realmente preocupantes e podem potencialmente colocar as mulheres em perigo”, afirmou.

O jornal The Guardian também descobriu que o Google AI Overviews fornecia resultados enganosos para pesquisas sobre transtornos mentais. “Isso é extremamente preocupante para nós como instituição de caridade”, afirmou Stephen Buckley, chefe de informações da Mind.

Alguns dos resumos de IA para condições como psicose e distúrbios alimentares ofereciam “conselhos muito perigosos” e eram “incorretos, prejudiciais ou poderiam levar as pessoas a evitar procurar ajuda”, disse Buckley.

Alguns também deixaram de considerar contextos ou nuances importantes, acrescentou. “Eles podem sugerir o acesso a informações de sites inadequados e sabemos que, quando a IA resume informações, muitas vezes pode refletir preconceitos, estereótipos ou narrativas estigmatizantes preexistentes.”

O Google afirmou que a grande maioria de seus Resumos de IA eram factuais e úteis, e que realiza melhorias contínuas na qualidade. A taxa de precisão dos Resumos de IA estava em pé de igualdade com seus outros recursos de busca, como os snippets em destaque, que já existiam há mais de uma década, acrescentou a empresa.

A empresa também afirmou que, quando o AI Overviews interpretasse erroneamente o conteúdo da web ou ignorasse o contexto, tomaria as medidas cabíveis de acordo com suas políticas.

Um porta-voz do Google afirmou: “Investimos significativamente na qualidade das Visões Gerais de IA, principalmente em tópicos como saúde, e a grande maioria fornece informações precisas.”


Fonte: The Guardian