Quando as máquinas escrevem, precisamos de mais pessoas que saibam ler

julho 20, 2026 / Marcos Pędłowski / Deixe um comentário

Precisamos de pessoas que consigam detectar quando a linguagem se torna excessivamente simplista, quando os termos escondem mais do que explicam, quando a história é simplificada demais e quando as experiências humanas são encaixadas em categorias que parecem neutras, mas não o são

Por Zeshan Ullah Qureshi, candidato a doutorado, Universidade de Ciências Aplicadas MF, para “Kronos”

Se o texto, a análise e o controle da análise forem deixados a cargo de modelos de linguagem, não teremos resolvido o problema. Apenas teremos transferido o poder de julgamento da responsabilidade humana, afirma Zeshan Ullah Qureshi. Foto: Particular

Quase 4.000 vagas nas áreas de humanidades, ciências sociais e artes desapareceram das universidades britânicas em apenas um ano. É particularmente preocupante que tais cortes enfraqueçam as humanidades em um momento em que a sociedade precisa de mais, e não menos, pensamento crítico.

Ao mesmo tempo, a redução de pessoal está acontecendo justamente quando a inteligência artificial torna a produção de texto, análise e cultura mais barata e rápida do que nunca.

Portanto, é pertinente quando Vivienne Stern, CEO da Universities UK, afirma que, na era da IA, valorizaremos mais , e não menos, a compreensão de como as pessoas pensam e agem.

As ciências humanas são frequentemente defendidas com o argumento de que as disciplinas nos proporcionam a capacidade de reflexão crítica, desenvolvimento democrático e compreensão social.

Tudo isso está correto, mas diante da inteligência artificial, o argumento pode ser formulado de maneira ainda mais incisiva: a IA não torna as humanidades menos relevantes. Ela as torna mais necessárias.

Quando a IA puder escrever a tese, o doutorado deverá ser sobre os dados.

A questão não é mais apenas quem consegue produzir texto, porque as máquinas agora podem fazer isso em larga escala. Nem é apenas quem consegue analisar texto, porque a IA já pode nos ajudar a identificar pressupostos, conceitos, fontes e perspectivas em um texto.

Portanto, surge uma nova questão: quem deve avaliar a análise da IA? Quem deve decidir se ela trata as fontes adequadamente, se ignora nuances históricas, se repete preconceitos estabelecidos ou se simplesmente imita a linguagem crítica sem discernimento profissional?

Uma possível solução seria ter vários sistemas de IA verificando uns aos outros. Poderíamos pedir ao ChatGPT para avaliar o Gemini, ao Gemini para avaliar o Claude, ao Claude para avaliar o DeepSeek, e assim por diante, de modelo para modelo.

Isso pode ser útil, mas será que é realmente suficiente?

Se deixarmos o texto, a análise e o controle da análise a cargo de modelos de linguagem, não teremos resolvido o problema. Teremos apenas transferido o poder de julgamento da responsabilidade humana.

No debate sobre IA, estamos falando de coisas diferentes.

A IA pode ser uma ferramenta poderosa para a leitura crítica, mas não pode, por si só, garantir a sua eficácia. Quando modelos de linguagem são usados para resumos, ensino, pesquisa e políticas públicas, a sociedade torna-se mais dependente de humanos capazes de distinguir entre textos aparentemente bem formulados e insights genuínos.

A IA pode imitar a forma do conhecimento, mas não pode assumir a responsabilidade humana pela verdade, pelo contexto ou pelas consequências. Ela não possui memória histórica no verdadeiro sentido e precisa ser verificada por críticos textuais treinados nos métodos das humanidades e capazes de perguntar: O que realmente está acontecendo neste texto?

As humanidades não se resumem à leitura de livros antigos, ao aprendizado de idiomas ou à compreensão da história cultural. Em um nível mais elevado, as humanidades também abrangem os métodos de interpretação.

A hermenêutica nos ensina a navegar pelo significado dentro do contexto. A análise do discurso nos ensina como a linguagem não apenas descreve o mundo, mas também o molda, e quais estruturas de poder operam nos bastidores. A crítica das fontes nos ensina a questionar quem diz o quê, com base em quê, em que situação e com quais interesses.

A análise histórica nos ensina que os conceitos não são atemporais.

Na minha área, estudos religiosos, frequentemente trabalhamos com textos que transitaram entre línguas, culturas e contextos históricos. Uma tradução nunca é apenas uma transferência técnica de um idioma para outro. Envolve escolhas, interpretações, adaptações e nuances.

A questão não é apenas se o texto está certo ou errado, mas quais categorias ele usa, em quais autoridades se baseia e como torna uma tradição compreensível dentro de um contexto cultural diferente.

Na era da IA, o conceito de indústria cultural de Adorno e Horkheimer também pode ganhar nova relevância. Na década de 1940, eles descreveram como a cultura poderia ser produzida em massa de maneiras que tornavam o público mais passivo e menos crítico. Não é preciso adotar toda a análise deles para perceber que algo semelhante está acontecendo hoje. Quando o conteúdo pode ser gerado em segundos, torna-se mais fácil consumir significados prontos do que pensar por si mesmo.

Então, as humanidades se tornam um contrapeso.

Não porque os humanistas devam ser guardiões nostálgicos das antigas tradições profissionais, mas porque a sociedade precisa de pessoas que saibam ler devagar numa época em que tudo é produzido rapidamente.

Portanto, a discussão sobre as ciências humanas não deve se limitar ao número de vagas de estudo, à relevância para o mercado de trabalho ou a quais áreas têm o maior número de candidatos no momento.

Deveria também ser sobre que tipo de sociedade teremos se desvalorizarmos as disciplinas que nos ensinam a compreender a linguagem, a cultura, a história e a interpretação.

Quando as máquinas escrevem, não precisamos de menos humanistas. Precisamos de mais pessoas que saibam ler.

Fonte: Kronos

Ética em pesquisa e IA generativa: por uma abordagem crítica e soberana

julho 20, 2026 / Marcos Pędłowski / Deixe um comentário

Por Deisy Ventura, professora títular da Faculdade de Saúde Pública da USP, para o “Jornal da USP”

Impulsionada em escala global por grandes corporações estrangeiras, a vertiginosa generalização do emprego de ferramentas de Inteligência Artificial Generativa (IAGen) no cotidiano acadêmico traz importantes desafios éticos, em particular para a ética em pesquisa. Antes de abordar alguns deles, lembro que atualmente “80% das universidades brasileiras dependem de Google ou Microsoft”, como indica o Caderno Vozes da Ciência, recentemente publicado pela Sociedade Brasileira pelo Progresso da Ciência (SBPC). Resultante de um ciclo de debates do qual tive a honra de participar, este valioso documento formula 117 propostas para “o Brasil que queremos”, entre elas as que buscam assegurar a soberania digital e tecnológica brasileira.

O primeiro desafio que enfrentamos é resgatar a história da ciência. A atribuição às máquinas de tarefas outrora exclusivamente humanas inscreve-se em um longo debate sobre as relações entre ética, técnica e produção científica. Numerosos autores demonstraram como as tecnologias, impulsionadas por imperativos econômicos, avançaram de forma alheia, senão antagônica, à reflexão e ao pensamento crítico, deixando a ética isolada em algum rincão das ciências ditas sociais e humanas. Podemos escolher os anos 1970 para resgatar Hans Jonas, filósofo alemão que em diversas obras apontou a responsabilidade dos cientistas pelos efeitos devastadores do “progresso”, e o quanto a “novidade” (“o epíteto laudatório novo”) pode funcionar como salvo-conduto para agir sem precaução nem dever de prestar contas. Porém, muito antes de Jonas e outros tantos pensadores ocidentais, os povos originários já nos alertavam para a possível confusão entre avanço tecnológico e progresso humano; a repartição brutalmente assimétrica dos benefícios e danos oriundos da técnica; e o modo pelo qual, nas palavras de Ailton Krenak, estamos vendendo o amanhã – aliás, a um preço módico.

O segundo desafio é reconhecer que a IA não avança em ambiente “neutro”. A extração de grandes volumes de dados sem prévio consentimento esclarecido e sem contrapartida à altura; a presença de vieses em ferramentas aparentemente anódinas; e a subtração a modalidades de controle legal e social, do ponto de vista das big techs, constituem funcionalidades dessas tecnologias, e não disfunções. Todos sabemos que tais atributos servem não apenas aos vultosos lucros que envolvem a chamada “economia de dados”, mas também aos ecossistemas de desinformação dotados de financiamento bilionário e objetivos político-ideológicos ostensivos, que vêm desempenhando papel importante na crescente ascensão global das extremas direitas. Exceto pela escala e pela velocidade, tampouco estamos diante de uma novidade. O mesmo homem pode aceitar boquiaberto os mais fantasiosos relatos e rejeitar com desprezo as verdades mais solidamente estabelecidas, escreveu Marc Bloch em suas Reflexões de um historiador sobre as notícias falsas da guerra (1921). Soldado durante a Primeira Guerra e fuzilado pela Gestapo durante a Segunda, Bloch foi recentemente homenageado com a entrada simbólica no Panteão francês. Fascinado pela credulidade humana, concluiu que o sucesso de uma notícia falsa nasce de representações coletivas pré-existentes, como medos, ódios e preconceitos. Assim, o processo pelo qual mentiras deslavadas tornam-se grandes lendas não se explica pela ignorância, e sim pela existência de um ambiente favorável a elas. Lamento constatar que hoje, em matéria de plágio, fabricação ou falsificação de dados, considerados as más práticas científicas mais graves, enfrentamos um verdadeiro boom de empreendedorismo.

Isto nos leva a um terceiro desafio: discernir o modus operandi das big techs e de seus aliados, que compreende tanto a coerção como a propaganda. Começando pela imposição, muitos motores de busca, softwares e aplicativos que utilizamos cotidianamente não oferecem a opção de recusa à IA. Sendo condição de acesso aos conteúdos que de fato buscamos, ignorá-la exige um gesto contraintuitivo. Mesmo quando a desativação é possível, nem sempre temos o letramento necessário para fazê-la. Por outro lado, ao lidar com outros serviços públicos ou privados que impõem diferentes modalidades de IA, não raro sofremos um atendimento ansiogênico, redutor das demandas do cidadão ou consumidor a alternativas enviesadas, por vezes tornando impossível uma efetiva interação. Ademais, a persistente exclusão digital de diversos grupos é demonstrada em inúmeras pesquisas.

Sobre a propaganda, limito-me a abordar quatro de suas muitas dimensões. A primeira é o determinismo que apregoa a inexorabilidade da disseminação da IAGen: estaríamos diante de uma ruptura antropológica maior, de caráter irreversível. Todavia, colegas como Anne Alombert, filósofa e professora da Universidade de Paris 8, questionam a natureza desta ruptura, eis que a IA dá continuidade à externalização de funções humanas. Enquanto por meio dos algoritmos de recomendação externalizamos nossa capacidade de decidir o que ver, o que consumir, quem seguir etc., por meio da IAGen transferimos a sistemas probabilísticos a nossa capacidade de expressão. Modelos se expressam em nosso lugar por meio de categorias que não provêm de nossas trajetórias, sempre únicas, mas sim de cálculos sobre volumes de dados, orientados por critérios opacos e de rastreabilidade limitada ou inexistente. No artigo Curar a estupidez artificial, Alombert aponta os efeitos nefastos da generalização do uso subalterno da IAGen, entre eles a dependência cognitiva dos indivíduos: quanto menos exercemos a capacidade de triar e organizar as informações, a memória, a criatividade ou a busca de sentido, menos estamos treinados para pensar de forma autônoma. Além disso, o espaço simbólico é uniformizado pela “média”, paulatinamente eliminando singularidades, inclusive idiomáticas. Ao “fotocopiar indefinidamente a fotocópia”, favorece a esterilização cultural.

Na mesma direção, a cientista política de origem tunisiana Asma Mhalla, professora da Politécnica de Paris, autora do livro Cyberpunk: o novo sistema totalitário, se diz impressionada não com a suposta ruptura, e sim com o rolo compressor imposto pelas infraestruturas digitais, concentradas em um punhado de atores poderosos. A propalada irreversibilidade está sendo imposta na prática, por meio de imponentes pressões econômicas e políticas. Logo, a questão não é a máquina, e sim quem a governa ou desgoverna. A tecnologia deveria ser usada como um instrumento do bem comum, e não como ferramenta de dominação e exploração. Especialmente no meio universitário, creio que o argumento da suposta inexorabilidade serve para nos desalojar de nossa condição de sujeitos responsáveis, elemento central da ética, e obnubilar nossa capacidade de agir. Ambas precisam ser recuperadas não para que recusemos a tecnologia, e sim para que decidamos conscientemente quando, como e com que finalidade a utilizaremos, sempre avaliando com transparência e rigor os efeitos de seu uso.

Uma segunda dimensão da propaganda é a desqualificação sistemática de quem questiona o uso da IA, apontado como anacrônico, vetusto, reacionário ou tecnofóbico, responsáveis pelo “atraso” de nosso mergulho no admirável mundo novo da IA. A desqualificação contrasta, porém, com a seriedade e a competência de colegas como os do MIT (Massachusetts Institute of Technology) que demonstram a queda de desempenho nos níveis neural, linguístico e comportamental de pessoas que utilizam o ChatGPT em certas condições. Também é o caso dos profissionais que vêm comprovando nosso grau de dependência das infraestruturas tecnológicas externas, como pesquisadores da USP e da Universidade de Brasília (UnB) que criaram um índice de soberania digital. Enquanto China, França, Rússia e Estados Unidos ocupam os primeiros lugares do ranking, grande parte de África, América Latina e Sudeste Asiático depende de um restrito clube de corporações estrangeiras, reproduzindo, sob o manto do “novo”, a velha clivagem Norte/Sul, levando a literatura acadêmica a falar de colonialismo de dados ou digital.

Uma terceira dimensão que atinge particularmente nossas agendas e métodos de pesquisa é a intensa propaganda sobre os benefícios da IAGen, que contribuiria para aumentar e acelerar a produtividade, em especial para lidar com grandes volumes de dados. Essas ferramentas se tornariam imprescindíveis para uma produção científica atualizada e de qualidade, e deveriam ser utilizadas também na avaliação da produção acadêmica. Aqui reconhecemos a disputa permanente pela definição do que é ciência e o legado colonial de importação de padrões de excelência.

Entre os incontáveis riscos da “excelência artificial”, sublinho que, no atual contexto de superficialidade e desatenção coletivas, decorrentes justamente do estágio de automação que alcançamos, é evidente a tolerância a sínteses incorretas ou enviesadas, a mediocridade e o reducionismo de textos, os erros crassos ou sutis de tradução, os mal-entendidos e as imprecisões técnicas. Quando apontados, rapidamente se opera a transferência de responsabilidades do sistema ao indivíduo: perguntas ou prompts é que teriam sido mal formulados; seria preciso “ensinar” ou “treinar” corretamente a IA; a falha seria da revisão etc. Diga-se de passagem, essas ferramentas, na verdade, não aprendem nem conversam, tampouco são inteligentes, razão pela qual Alombert prefere chamá-las de autômatos computacionais interativos, recusando metáforas antropomórficas que servem a naturalizá-las.

Neste ponto, urge recordar que o papel da universidade brasileira não é formar revisores de textos gerados por algoritmos, tampouco reproduzir de forma acrítica interesses de corporações estrangeiras ao facultar-lhes o acesso a lucrativos ou estratégicos acervos de dados arduamente construídos, inclusive com recursos públicos.

A quarta dimensão da propaganda alardeia que a regulação do uso da IAGen seria suficiente para evitar riscos e derivas. Ela enseja também um grande desafio, entre os tantos que o espaço de um artigo não permite abordar. Note-se que diversos defensores da suficiência regulatória são contratados por empresas de tecnologia ou conduzem pesquisas financiadas por elas, mas nem sempre declaram conflitos de interesse. Também é importante registrar que, apesar desta propaganda, na prática, as big techs investem agressivamente contra qualquer regulação, e igualmente contra juízes, tribunais e governos capazes de aplicá-la. Em qualquer caso, trata-se de uma ética a posteriori, ou seja, de princípios propostos após a comercialização massiva de ferramentas, muitos deles sendo violados de forma corriqueira até mesmo por quem os propõe.

Neste cenário, será decisivo o papel das Comissões de Ética em Pesquisa (CEPs), que precisam ter voz ativa nos processos regulatórios, não apenas pela função que desempenham, mas sobretudo pelas décadas de experiência que acumulam. No mês passado, tive a oportunidade de participar de um evento que abordou tais desafios regulatórios, organizado pela Pró-Reitoria de Pesquisa e Inovação, que reuniu as CEPs da USP, na atenta presença da Pró-Reitora, professora Maria Helena Palucci Marziale, com curadoria da professora Ana Paula Magalhães, da Faculdade de Filosofia, Letras e Ciências Humanas da USP.

No referido evento, compartilhei uma mesa com a pesquisadora Márcia Azevedo Coelho, da Cátedra Alfredo Bosi de Educação Básica (Instituto de Estudos Avançados da USP), cujos estudos sobre o uso da IAGen nas escolas eu já admirava. Ela destacou os limites de iniciativas como a Portaria CNPq n. 2.664, de 6 de março de 2026, que apesar de representarem um avanço, não dão conta de problemas éticos importantes como o risco de dependência na formulação de problemas de pesquisa; o condicionamento epistêmico pelas limitações da ferramenta em uso; a análise de dados feita por meio de sistemas opacos, não rastreáveis e de reprodutibilidade incontrolada, podendo comprometer a validade dos achados, entre muitos outros. O depoimento de pesquisadores que usam a IAGen com a devida precaução é também importante, e por certo trará à luz novas dificuldades.

Desculpando-me de antemão pela analogia, o encorajamento acrítico do uso da IAGen no meio universitário faz lembrar a propaganda das Bets, ao pedir que pesquisadores “joguem com responsabilidade” na ausência de regras e controle adequados. As derrotas em cascata que se anunciam vão da dependência cognitiva individual à dependência tecnológica nacional. Mas há também o pêndulo percebido por Marc Bloch, a oscilar entre a credulidade inocente e a desconfiança generalizada. Mesmo letrados, podemos hesitar em nossa percepção do que é real ou artificial. Cresce o risco de perda da confiança na ciência, que induz a cidadania a renunciar ao usufruto de seus resultados. Por tudo isto, nossos desafios devem ser enfrentados com urgência, não apenas por especialistas em IA, mas por todos os pesquisadores, pelo Estado e pela sociedade brasileira.

________________
(As opiniões expressas nos artigos publicados noJornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)

Fonte: Jornal da USP

Inteligência Artificial: a nova corrida do ouro que pode nos deixar sem água

junho 9, 2026 / Marcos Pędłowski / Deixe um comentário

Enquanto grandes corporações acumulam fortunas com a expansão acelerada da IA, pouco se discute sobre seus custos ambientais, a substituição do trabalho humano e a crescente captura do próprio fazer científico

O uso disseminado da chamada Inteligência Artificial (IA) é a principal transformação que vem ocorrendo no mundo científico, afetando, por assim dizer, o conjunto da obra. Não se trata mais de usar a IA para realizar correções linguísticas pontuais, mas até mesmo para escrever textos inteiros, incluindo o desenvolvimento de hipóteses e questões de pesquisa.

Os defensores da IA veem esse processo de captura do fazer científico como uma espécie de chegada de uma nova pedra filosofal, pois haveria um ganho não apenas de tempo, mas também na complexidade dos desafios que se poderiam enfrentar na realização da empreitada científica. É como se, do nada, estivéssemos entrando em uma nova idade de ouro da ciência.

A questão que esses apologistas da IA não fazem, nem querem que se faça, é a seguinte: quem ganha — e aí eu digo economicamente — com toda essa aceleração? Claramente, as grandes corporações econômicas que hoje monopolizam a produção dos algoritmos que impulsionam as diferentes ferramentas que cabem sob a sombrinha da IA. São essas corporações que estão especulando com a IA e, por enquanto, amealhando grandes fortunas com a sensação de que temos ganhos produtivos decorrentes dessa corrida.

Por outro lado, quem perde e o que se perde? Os perdedores são, essencialmente, os trabalhadores que estão vendo suas oportunidades de trabalho serem diminuídas pelo uso da IA. Mas pouco se fala sobre os custos ambientais trazidos pelo boom da IA, a começar pelo consumo exagerado de água, em um momento em que as reservas planetárias já estão se escasseando, inclusive no Brasil.

Como em qualquer onda gerada pela máquina capitalista, existe uma certa euforia em torno da IA. E é justamente por isso que precisamos ter um olhar crítico, e não um de mero deslumbre, sobre as ferramentas de IA. Ainda que não se possam ignorar os ganhos pontuais que se obtêm com a IA, o que não se pode esquecer é que o desenvolvimento intelectual humano ainda possui grande potencial de crescimento, e não há sequer necessidade de uma substituição sistemática da capacidade crítica que os seres humanos possuem.

Por isso, como em muitas outras situações atravessadas pela hegemonia capitalista, esse boom da IA precisa ser compreendido pelo que é e pelos custos que carrega. Do contrário, daqui a pouco não teremos água nem para o cafezinho, enquanto os donos das corporações de IA se afogam em suas fortunas.

Por outro lado, a inteligência humana sempre avançou porque aprendeu a construir ferramentas. O problema nunca foram as ferramentas, mas quem as controla, quem se apropria de seus benefícios e quem é obrigado a suportar seus custos socioambientais. A IA pode ampliar a capacidade humana de produzir conhecimento ou acelerar sua captura pelo capital. A diferença entre um caminho e outro não será decidida pelos algoritmos, mas pela luta política e pelas decisões que sejam tomadas em sociedade.

Fraude científica e inteligência artificial: a nova fronteira da crise de confiança na ciência

junho 3, 2026 / Marcos Pędłowski / Deixe um comentário

Editorial publicado em revista de farmacologia clínica alerta que a combinação entre IA generativa, periódicos predatórios e pesquisas fraudulentas pode comprometer a integridade da literatura médica e ampliar a desinformação científica em escala global

A publicação do editorial “Scientific Fraud: How Do We Ensure Sound Medical Literature?”, assinado por Michael J. Fossler e Katy P. Moore na revista Clinical Pharmacology in Drug Development, traz à tona uma preocupação que ultrapassa os limites da farmacologia clínica: a crescente vulnerabilidade da produção científica à fraude em uma era marcada pelo uso disseminado da inteligência artificial.

Embora a fraude científica esteja longe de ser um fenômeno novo, os autores alertam que as tecnologias atuais ampliaram enormemente a capacidade de produzir dados falsos, artigos fraudulentos e narrativas pseudocientíficas com aparência de legitimidade. Trata-se de uma ameaça que não afeta apenas a comunidade acadêmica, mas toda a sociedade, uma vez que a ciência continua sendo um dos principais instrumentos de formulação de políticas públicas, desenvolvimento tecnológico e tomada de decisões médicas.

O texto relembra episódios históricos conhecidos, como a fraude do Homem de Piltdown e as controvérsias em torno dos experimentos de Gregor Mendel. Contudo, os autores ressaltam que as consequências mais graves ocorrem quando a fraude se infiltra na medicina e na saúde pública. O exemplo paradigmático é o caso do médico britânico Andrew Wakefield, cuja publicação fraudulenta associando a vacina tríplice viral (MMR) ao autismo continua produzindo efeitos negativos décadas após sua retratação. O resultado é visível: a redução da cobertura vacinal, o reaparecimento de doenças antes controladas e a ampliação dos movimentos antivacina em diversas partes do mundo.

A questão torna-se ainda mais preocupante quando analisada à luz da atual revolução tecnológica. Os autores citam experimentos recentes nos quais pesquisadores conseguiram criar doenças fictícias, pesquisadores inexistentes, universidades imaginárias e conjuntos inteiros de dados artificiais capazes de enganar sistemas de inteligência artificial e até mesmo especialistas humanos. Em outro exemplo mencionado, o ChatGPT foi utilizado para gerar um artigo médico completo descrevendo um ensaio clínico inexistente, contendo introdução, metodologia, resultados, tabelas e discussão com aparência altamente convincente.

O problema não reside apenas na publicação de artigos falsos. Há uma dimensão mais profunda e potencialmente mais perigosa. À medida que modelos de inteligência artificial passam a ser treinados com enormes quantidades de literatura científica disponível na internet, estudos fraudulentos podem contaminar as bases de conhecimento utilizadas por esses sistemas. Em outras palavras, dados falsificados podem se transformar em “evidências” reproduzidas automaticamente por algoritmos, criando um ciclo contínuo de desinformação científica.

Essa preocupação merece atenção especial porque coincide com um momento histórico de crescente desconfiança social em relação à ciência. A pandemia da Covid-19 expôs fragilidades na comunicação científica, conflitos de interesse e disputas políticas que afetaram a percepção pública sobre especialistas, instituições de pesquisa e órgãos de saúde. Em tal contexto, cada novo caso de fraude não representa apenas uma infração ética individual, mas um golpe adicional na legitimidade social da própria ciência.

Os autores argumentam que a farmacologia clínica possui algumas barreiras institucionais que dificultam fraudes mais grosseiras, como a necessidade de equipes numerosas, monitoramento contínuo dos ensaios clínicos e auditorias regulares dos dados. Ainda assim, alertam que tais mecanismos não são suficientes diante das novas capacidades oferecidas pela inteligência artificial. Por isso defendem medidas mais rigorosas, incluindo auditorias independentes, fortalecimento dos sistemas de garantia da qualidade, exigência de documentação detalhada dos ensaios clínicos e endurecimento das penalidades legais para casos de fraude científica.

A análise proposta por Fossler e Moore é relevante porque desloca o debate para além da questão moral. A fraude científica não é apenas uma violação ética; ela produz desperdício de recursos públicos, desvia agendas de pesquisa, compromete decisões médicas e pode custar vidas humanas. O caso de pesquisas fraudulentas sobre Alzheimer, mencionado pelos autores, consumiu quase uma década de trabalho de outros pesquisadores antes que as manipulações fossem identificadas. O mesmo ocorreu com publicações ligadas ao Dana-Farber Cancer Institute, que resultaram em multas milionárias após a descoberta de imagens manipuladas.

Entretanto, talvez o aspecto mais importante do editorial seja sua defesa de uma postura ativa da comunidade científica. Os autores argumentam que a simples confiança nos mecanismos tradicionais de revisão por pares já não é suficiente. A ciência precisará desenvolver novas formas de verificação, rastreabilidade e auditoria para enfrentar um cenário em que artigos inteiros podem ser produzidos automaticamente por sistemas de inteligência artificial.

O desafio é enorme. A mesma tecnologia capaz de acelerar descobertas científicas pode ser utilizada para fabricar evidências falsas em escala industrial. Em um momento em que governos, empresas e cidadãos recorrem cada vez mais à inteligência artificial para buscar informações, a integridade da literatura científica torna-se uma questão de interesse público global.

A credibilidade da ciência sempre foi construída lentamente, por meio da transparência, da replicação dos resultados e do escrutínio coletivo. A era da inteligência artificial não elimina esses princípios. Pelo contrário: torna-os mais necessários do que nunca

O Papa, a Inteligência Artificial e o novo império das máquinas

maio 25, 2026 / Marcos Pędłowski / Deixe um comentário

Ao transformar a inteligência artificial em tema central de seu pontificado, Papa Leão XIV expõe não apenas os riscos éticos da automação, mas também o avanço silencioso das corporações do Big Tech sobre o trabalho, os Estados nacionais e a própria democracia

O artigo publicado pelo jornal britânico The Guardian e assinado pelo jornalista Philip Pullella coloca em evidência um movimento político e moral relevante dentro da Igreja Católica: a tentativa do papa Papa Leão XIV de transformar a inteligência artificial em uma das questões centrais de seu pontificado. A encíclica Magnifica Humanitas, apresentada no Vaticano em 25 de maio de 2026, representa não apenas uma intervenção religiosa sobre tecnologia, mas também uma crítica contundente ao modo como o capitalismo digital vem reorganizando o trabalho, a guerra e as relações humanas no século XXI.

O aspecto mais importante do documento talvez seja o reconhecimento de que a inteligência artificial não é apenas uma inovação técnica, mas uma força capaz de redefinir o próprio significado do humano. Ao relacionar IA, automação e novas formas de escravidão digital, Leão XIV estabelece um paralelo direto entre a atual revolução tecnológica e a Revolução Industrial do século XIX, que motivou a encíclica Rerum Novarum, de Papa Leão XIII.

A crítica papal atinge um ponto frequentemente ocultado pelo discurso triunfalista do Vale do Silício: a inteligência artificial está sendo desenvolvida dentro de estruturas altamente concentradas de poder econômico, militar e informacional. Quando o papa denuncia a “cultura do poder” que impulsiona a corrida tecnológica e pede o “desarmamento” da IA, ele aponta para a crescente fusão entre Big Tech, sistemas de vigilância, indústria bélica e governos.

Hoje, empresas privadas controlam modelos algorítmicos capazes de influenciar eleições, moldar comportamentos, monitorar populações e substituir trabalhadores em larga escala. A promessa de “eficiência” frequentemente funciona como eufemismo para precarização do trabalho, concentração de renda e eliminação de direitos sociais.

Mas talvez seja necessário avançar ainda mais na crítica. A inteligência artificial não vem sendo apropriada apenas para ampliar mercados ou automatizar processos produtivos. As grandes corporações do Big Tech têm utilizado a IA para expandir seu controle sobre instituições de Estado, transformando governos em dependentes de plataformas privadas de armazenamento de dados, computação em nuvem e processamento algorítmico.

Empresas como Alphabet, Microsoft, Amazon, Meta e OpenAI já exercem funções quase paraestatais ao controlar infraestruturas essenciais utilizadas por universidades, sistemas de segurança pública, escolas e aparelhos administrativos nacionais.

Isso cria uma situação profundamente assimétrica: enquanto os Estados se tornam dependentes das plataformas privadas para operar funções básicas, as corporações acumulam volumes inéditos de dados, capacidade computacional e influência política. Surge, assim, uma espécie de soberania tecnológica privada, na qual decisões fundamentais passam a ser mediadas por sistemas opacos desenvolvidos segundo interesses empresariais e financeiros.

Nesse contexto, a IA se converte em instrumento central de ampliação das taxas de lucro dessas corporações. Quanto maior a automação, maior a redução de custos trabalhistas; quanto maior a coleta de dados, maior o poder de prever, induzir e monetizar comportamentos humanos. A consequência é o aprofundamento da concentração global de riqueza e poder em torno de um pequeno grupo de conglomerados sediados principalmente nos Estados Unidos.

Ao abordar a questão do trabalho, Leão XIV toca em uma ferida particularmente sensível. A automação baseada em IA ameaça não apenas empregos industriais repetitivos, mas também profissões intelectuais, administrativas e criativas. O discurso tecnocrático insiste que novas tecnologias sempre criam novos empregos, mas a velocidade da atual transformação sugere algo distinto: uma possível erosão estrutural da centralidade do trabalho humano na economia.

O papa também introduz uma dimensão ética raramente discutida no debate tecnológico contemporâneo: a relação entre inteligência artificial e dignidade humana. Em uma cultura dominada por métricas e algoritmos, seres humanos passam a ser tratados como unidades de desempenho ou simples conjuntos de dados. O risco não é apenas econômico, mas civilizacional. A lógica algorítmica reduz complexidades humanas a padrões calculáveis, enfraquecendo empatia, solidariedade e autonomia moral.

Outro elemento importante da encíclica é o reconhecimento histórico da cumplicidade da própria Igreja com sistemas de escravidão. Ao pedir desculpas pela demora da instituição em condenar a escravidão moderna, Leão XIV estabelece uma ponte entre antigas formas de exploração e novas formas de servidão digital associadas à economia de plataformas e ao trabalho invisível que sustenta os sistemas de IA.

Essa conexão é particularmente relevante porque a inteligência artificial depende de enormes cadeias globais de trabalho frequentemente ocultadas pela retórica da inovação. Por trás dos sistemas “inteligentes” existem mineradores de lítio, operários de semicondutores, moderadores de conteúdo precarizados e milhões de pessoas que alimentam algoritmos com seus dados pessoais sem remuneração adequada.

Nesse sentido, a preocupação expressa por Leão XIV ultrapassa o campo religioso e se insere em um debate central sobre democracia, soberania tecnológica e justiça social. A questão decisiva do século XXI talvez não seja apenas o avanço da inteligência artificial, mas quem controla essa tecnologia, a serviço de quais interesses e sob quais limites éticos e políticos.

A adoção acrítica da IA na ciência é alarmante — precisamos urgentemente de mecanismos de controle

maio 21, 2026maio 21, 2026 / Marcos Pędłowski / Deixe um comentário

A inteligência artificial está acelerando rapidamente a produção científica, mas corre o risco de restringir a investigação, enfraquecer o discernimento e prejudicar a formação dos cientistas

A automação computadorizada pode dificultar a aquisição de habilidades e conhecimentos especializados. Crédito: Westend61/Getty

Por Lisa Messeri e MJ Crockett para “Nature”

A comunidade científica está adotando ferramentas de inteligência artificial, especialmente grandes modelos de linguagem (LLMs), a uma velocidade surpreendente. A escrita de artigos com auxílio de LLMs aumentou drasticamente nos últimos três anos e os pesquisadores têm buscado incorporar agentes semiautônomos em seus fluxos de trabalho . No entanto, a adoção rápida e acrítica da Inteligência Artificial (IA) na ciência acarreta riscos significativos. Vários problemas já são evidentes: artigos que utilizam ferramentas de IA se concentram em um conjunto mais restrito de questões de pesquisa estabelecidas e , em alguns casos, foram avaliados como tendo menor mérito científico do que estudos que não dependem de IA.

Além disso, à medida que a IA automatiza tarefas científicas rotineiras, as preocupações com a erosão das oportunidades de formação para investigadores em início de carreira permanecem em grande parte sem solução e muitas vezes ignoradas. Convencionalmente, a formação científica tem combinado instrução formal em factos e métodos com a aquisição gradual de conhecimento tácito através de trabalho prático de nível inicial. Os académicos em estudos de ciência e tecnologia têm demonstrado repetidamente que os textos científicos, por si só, não comunicam totalmente o conhecimento; em vez disso, o saber-fazer crucial está incorporado nas comunidades de investigação e é transmitido através da aprendizagem e da prática .

Esse conhecimento tácito — por exemplo, sobre o que constitui dados “razoáveis”, ou os detalhes de uma técnica que são difíceis de articular em uma seção de métodos, ou se um resultado é consistente com a literatura existente — é essencial para que um pesquisador supervisione fluxos de trabalho assistidos por IA de forma eficaz no futuro. Se os sistemas de IA substituírem cada vez mais o trabalho científico de nível inicial, os estagiários podem nunca desenvolver essas habilidades, deixando potencialmente a próxima geração de cientistas mal preparada para supervisionar pesquisas orientadas por IA de forma responsável.

Essas tendências exigem que os cientistas reflitam sobre o propósito das instituições científicas. Nosso objetivo é simplesmente construir uma coleção de fatos científicos ou também cultivar uma comunidade viva e em constante evolução de cientistas? Se as ferramentas de IA aceleram o primeiro objetivo, mas ameaçam o segundo, como os cientistas devem proceder? Com base em evidências emergentes sobre os efeitos da IA na prática científica, destacamos aqui os principais riscos e delineamos possíveis soluções.

Mais produção, menos compreensão

A indústria de IA tem comercializado agressivamente produtos LLM para cientistas como tecnologias para aumentar a produtividade. Alguns pesquisadores abraçaram essa promessa, destacando a capacidade desses produtos de “turbinar” sua escrita acadêmica.

Se considerarmos a produtividade como a produção de artigos científicos, os produtos de IA sem dúvida cumpriram a promessa , com efeitos de longo alcance. Repositórios online de pré-publicações ^, como o SocArXiv e o PsyArXiv, impuseram moratórias temporárias a artigos de IA ou atualizaram suas políticas de revisão; o arXiv mudou sua política e não aceita mais artigos de opinião em ciência da computação (que são relativamente fáceis de produzir para mestrados em direito), e os Institutos Nacionais de Saúde dos EUA começaram a limitar as propostas de financiamento a seis por ano por pesquisador principal.

Além do aumento da produtividade, há evidências de que cientistas que utilizam ferramentas de IA em seu trabalho recebem mais citações e progridem mais rapidamente para cargos de pesquisador principal do que aqueles que não as utilizam, sendo que pessoas com inglês como primeira língua se beneficiam de forma desproporcional.Vale ressaltar, no entanto, que os benefícios de carreira proporcionados por produtos de IA são mais evidentes em métricas quantitativas, como número de publicações e citações. Tais medidas não conseguem determinar se esses benefícios decorrem da contribuição científica ou de conexões com uma área em alta. Seria, portanto, um erro considerar essas métricas como representativas de uma vitória para a ciência, sem analisar mais atentamente a qualidade desse aumento de produtividade.

Mais nem sempre é melhor, e há cada vez mais evidências de que o aumento da produtividade científica impulsionado pelo aprendizado de máquina muitas vezes tem um custo. O mais óbvio é a introdução de “lixo de IA” na literatura, incluindo imagens sem sentido geradas por IA e citações alucinadas.

Diversos estudos documentaram tendências preocupantes em artigos que dependem fortemente da assistência de especialistas em redação (LLM, na sigla em inglês) na escrita. O periódico Organization Science auditou todas as 6.957 submissões recebidas entre janeiro de 2021 e janeiro de 2026 e observou que os artigos com assistência de especialistas em redação apresentavam qualidade científica inferior (medida pela probabilidade de serem aceitos pelo periódico). Outro estudo , com 264.125 artigos coletados em uma conferência de IA de 2024 e submissões publicadas em três servidores de pré-impressão (arXiv, bioRxiv e SSRN) entre 2023 e 2024, constatou que, em artigos com assistência de especialistas em redação, a boa escrita deixou de ser um indicador preciso de qualidade científica (medida pelo resultado da publicação e pelas notas da revisão por pares).

Os autores concluem que isso cria “um risco para a atividade científica, já que uma enxurrada de pesquisas superficialmente convincentes, mas cientificamente pouco robustas, poderia saturar a literatura”. Atualmente, não existem soluções claras para essa poluição do nosso ecossistema de conhecimento, apesar do consenso de que ela não deveria ocorrer.

As ferramentas de IA implementadas em toda a cadeia de pesquisa também estão limitando a compreensão científica de maneiras mais sutis, por exemplo, reduzindo o conjunto de preocupações que os pesquisadores exploram. Uma análise de 41,3 milhões de artigos científicos abrangendo biologia, medicina, química, física, ciência dos materiais e geologia mostra que a adoção da IA parece “induzir os autores a convergirem para as mesmas soluções para problemas conhecidos, em vez de criarem novas”. Este é um alerta precoce da probabilidade de a IA ter impactos em cascata no ecossistema do conhecimento ^.

Ameaça de desqualificação

As visões mais ambiciosas da IA para a ciência envolvem ‘cientistas de IA’ semiautônomos ou totalmente autônomos, e protótipos recentes dessa visão têm recebidogrande alarde tanto na ciência quanto na indústria. Os desenvolvedores de cientistas de IA fazem questão de assegurar que sua intenção “não é substituir cientistas humanos, mas sim complementar e acelerar seu trabalho” . Esses produtos, portanto, devem ser supervisionados por um cientista qualificado que possa direcionar e verificar, de forma responsável, os resultados da IA.

Questionamos se essa visão pode se concretizar sem uma definição clara de como o cientista responsável pode desenvolver a expertise necessária para distinguir entre resultados bons e ruins da IA. Grande parte do entusiasmo pelas ferramentas de IA em toda a cadeia científica vem da promessa de aliviar a carga de trabalho. Mas muitas tarefas consideradas “pouco qualificadas” têm sido tradicionalmente pontos de partida importantes para cientistas em formação.

A limpeza de dados brutos ajuda os estagiários a compreender a diversidade e a qualidade dos dados; a pesquisa, a leitura e o resumo da literatura científica desenvolvem a percepção de quais áreas de pesquisa são densamente povoadas versus quais são escassas, e quais tipos de descobertas são comuns versus raras. Os cientistas seniores de hoje encontram-se na posição singular de terem sido treinados antes da ampla disponibilidade de ferramentas de IA, beneficiando-se, assim, de décadas de experiência prática que os estagiários atuais talvez nunca venham a desenvolver. Parte ou mesmo todo esse trabalho árduo pode não ser necessário para o desenvolvimento da expertise que os cientistas seniores de hoje possuem. Mas é uma aposta arriscada presumir, de antemão, que esse será o caso.

Um caminho a seguir

Para lidar com esses riscos, defendemos políticas e práticas que apoiem a autoavaliação contínua nas comunidades científicas, de forma análoga à maneira como os ecologistas monitoram os ecossistemas em busca de sinais de danos.

Uma intervenção simples seria que editoras e financiadores exigissem mais transparência. Nos últimos anos, cientistas desenvolveram uma norma de divulgação do uso de IA em seus trabalhos. Este é um primeiro passo importante, mas a divulgação por si só obscurece a diversidade de razões para o uso de ferramentas de IA. Um pesquisador que não tem o inglês como língua materna pode usar um modelo de aprendizado de máquina para aprimorar a versão final de um artigo. Outro pode depender de modelos de aprendizado de máquina para trabalhar com grandes conjuntos de dados que seriam inviáveis de analisar sem automação, ou mesmo para gerar uma revisão bibliográfica do zero dentro de um prazo apertado. Tratar todos esses usos como equivalentes obscurece suas diferentes implicações para o trabalho científico, o julgamento e a responsabilidade.

Exigimos mais transparência não apenas no uso de ferramentas de IA na ciência, mas também nas razões por trás de seu uso. Assim como não podemos confiar em descobertas científicas sem métodos descritos de forma transparente e justificativas para esses métodos, não podemos confiar em ferramentas de IA na ciência sem mais informações sobre como e por que elas estão sendo usadas. Como ocorre com outras novas técnicas e tecnologias, o diálogo entre revisores e autores estabelecerá novas normas.

Essa troca só pode ocorrer com explicações e justificativas mais explícitas, além da mera divulgação. Tais informações poderiam, em última análise, servir como fonte de dados para projetos de metaciência que avaliam a conexão entre as diversas justificativas para o uso de IA e a robustez das descobertas resultantes. Se os cientistas que utilizam produtos de IA em seu trabalho desejam conectar os ganhos de produtividade aos ganhos de compreensão, a divulgação com explicações pode ser um primeiro passo para atingir esse objetivo.

Um conjunto mais complexo de questões diz respeito a como devemos treinar os futuros cientistas e certificar sua competência em cada etapa. Os pesquisadores principais precisam considerar o quanto podem confiar que seus orientandos usarão ferramentas de IA de forma responsável, e os programas de pós-graduação precisam discutir políticas para o uso de mestrados em direito (LLM) em exames de qualificação e dissertações.

Quais habilidades elementares pesquisadores em início de carreira devem adquirir para garantir que se tornem cientistas responsáveis, independentemente dos futuros desenvolvimentos tecnológicos? A resposta a essa pergunta varia de acordo com a disciplina. Por exemplo, alguns pesquisadores das ciências humanas estão entusiasmados com o uso de modelos de aprendizagem baseados em linguagem (LLMs) para automatizar entrevistas e a análise de dados qualitativos, enquanto outros argumentam que a leitura e a análise desses dados são cruciais para a compreensão das experiências dos participantes humanos, indo além de resumos quantitativos. Os cientistas devem promover debates abrangentes sobre o assunto agora, em vez de presumir, sem evidências, que a automatização do trabalho inicial não influenciará a expertise de futuros colegas.

Ao navegarmos por esta nova fase da produção de conhecimento, devemos lembrar que os objetivos da indústria não são os mesmos da ciência. A ciência acadêmica não se resume à produtividade; ela também busca a compreensão profunda, a exploração de soluções criativas e a formação de pensadores críticos para serem a próxima geração de pesquisadores. Chegou a hora de a comunidade científica avaliar se os produtos de IA auxiliam ou dificultam esses esforços.

Nature 653 , 675-676 (2026)

doi: https://doi-org.ez81.periodicos.capes.gov.br/10.1038/d41586-026-01557-x

Fonte: Nature

Datacenters estão se tornando o mais novo vilão político nos EUA

maio 20, 2026maio 20, 2026 / Marcos Pędłowski / Deixe um comentário

Novas pesquisas projetam que os custos de eletricidade no atacado nos EUA podem subir até 29% até o final da década, alimentando uma crise política crescente para o setor

Por Cris Tolomia para “Quartz”

A frustração dos estadunidenses com a inteligência artificial está se transformando em oposição política organizada, impulsionada em grande parte pela raiva em relação aos custos de eletricidade ligados à rápida expansão de centros de dados em todo o país.

Uma pesquisa da Gallup divulgada na semana passada revelou que aproximadamente 70% dos estadunidesnes se oporiam à construção de um centro de dados de Inteligência Artificial (IA) em suas comunidades, citando preocupações com a sobrecarga nos recursos energéticos locais e a possibilidade de contas de luz mais altas como suas principais objeções. Uma pesquisa da YouGov e da Economist, realizada no mesmo período, mostrou que a maioria dos americanos acredita que o ritmo do desenvolvimento da IA está ultrapassando a capacidade da sociedade de gerenciá-lo e que a tecnologia não trará benefícios econômicos significativos para as pessoas comuns.

A reação negativa já está remodelando a política local. A oposição da comunidade paralisou ou interrompeu 48 projetos, representando mais de US$ 156 bilhões em construções planejadas somente no ano passado, de acordo com dados da Data Center Watch citados pela Fortune .

Por trás dessa resistência, existe uma preocupação financeira concreta. Novas descobertas publicadas na revista Environmental Research Letters mostraram que a participação dos data centers na demanda nacional de energia mais que dobrou, passando de 1,9% para 4,4%, no período de cinco anos que termina em 2023. Dependendo da trajetória de crescimento dos data centers, essa mesma pesquisa estima que os preços da eletricidade no atacado em todo o país podem aumentar de 6% a 29% até o final da década. Na Virgínia, um polo de construção de data centers, os custos de geração podem subir até 57%.

Jeremiah Johnson, professor associado de engenharia civil e ambiental da Universidade Estadual da Carolina do Norte e principal autor do estudo, afirmou que a escala do crescimento da demanda não tem precedentes recentes no setor de energia. “O desafio aqui é que a magnitude dessa demanda de que estamos falando é realmente grande. Ela está em uma escala que supera em muito algumas das outras mudanças que vivenciamos no setor de energia nos últimos anos”, disse Johnson à Fortune.

A modelagem do estudo indica que os fornecedores de energia dependeriam substancialmente do gás natural, ao mesmo tempo que reativariam instalações de carvão ociosas, uma combinação que, segundo estimativas dos pesquisadores, poderia aumentar as emissões de dióxido de carbono do setor elétrico em até 28% antes do final da década. Sem subsídios federais para energia limpa na escala daqueles fornecidos pela Lei de Redução da Inflação — incentivos que o Congresso revogou em grande parte este ano —, o estudo constatou que o gás natural absorveria cerca de 70% do aumento da carga de geração, com o carvão, a energia eólica e a solar respondendo pelo restante.

As consequências políticas do aumento das contas de luz já tiveram um grande impacto no resultado de uma eleição . O democrata John McAuliff, ex-conselheiro climático da Casa Branca, derrotou um deputado republicano na Assembleia Legislativa da Virgínia no ano passado, atribuindo sua vitória apertada, em parte, à frustração dos eleitores com os custos de energia elétrica, ligados à concentração de data centers no Condado de Loudoun. Os legisladores da Virgínia agora estão analisando um projeto de lei que transferiria certos custos de conexão à rede elétrica de clientes residenciais para usuários de alto consumo, como data centers.

A viabilidade econômica dos data centers também tem sido questionada. A Virgínia deixou de arrecadar mais de US$ 1,6 bilhão em impostos no ano fiscal de 2025 devido às isenções fiscais para data centers, enquanto o setor gerou 1.610 empregos no mesmo período — um custo de cerca de US$ 1,2 milhão por novo emprego, segundo a VPM.

A indústria está respondendo com investimentos. Empresas de IA, incluindo Anthropic, OpenAI e Meta $META-1,41% Estão destinando pelo menos US$ 150 milhões para eleições estaduais e federais este ano por meio de organizações políticas e prometeram absorver uma parcela maior de seus custos com eletricidade, a pedido do presidente Donald Trump.

Fonte: Quartz

A terceirização do pensamento: IA, ensino superior e o futuro da ciência

abril 30, 2026 / Marcos Pędłowski / Deixe um comentário

O uso descontrolado de IA ameaça a formação crítica de estudantes e o futuro da produção científica

Nos últimos dois anos, a inteligência artificial (IA) deixou de ser uma curiosidade tecnológica para se tornar presença constante no cotidiano universitário. Hoje, uma quantidade significativa de estudantes consegue gerar resumos, resolver exercícios, escrever relatórios, montar apresentações e até produzir artigos científicos completos em questão de minutos. À primeira vista, isso parece apenas mais uma revolução tecnológica inevitável. Mas basta olhar com um pouco mais de atenção para perceber que estamos diante de um problema muito mais profundo, e potencialmente devastador para a formação universitária, a ética acadêmica e o próprio futuro da ciência. O ponto central é simples: o uso descontrolado da IA está corroendo silenciosamente o próprio processo de formação universitária.

A universidade nunca teve como missão apenas entregar diplomas. O papel histórico das universidades sempre foi formar profissionais capazes de pensar, analisar, argumentar, duvidar e tomar decisões em contextos complexos. Em outras palavras, formar autonomia intelectual. E isso não se constrói com respostas prontas, pois toda a experiência acumulada mostra que isso se constrói com esforço cognitivo, erro, tentativa, leitura difícil e escrita trabalhosa. É justamente esse processo que a IA começa a substituir, e rapidamente assimilada em nome da formação mais veloz de profissionais que estariam sendo ansiosamente esperados pelo mercado.

O problema é que disciplinas obrigatórias existem por uma razão. Elas definem o perfil profissional que a sociedade espera de um engenheiro, de um médico, de um advogado, de um cientista. Anatomia, fisiologia, farmacologia e epidemiologia não são obstáculos burocráticos na formação médica; são a base que sustenta decisões clínicas que podem salvar ou perder vidas. Quando um estudante terceiriza a resolução de exercícios, a escrita de relatórios ou a síntese de textos para uma IA, ele pode até entregar um trabalho perfeito, mas sem ter trilhado o caminho cognitivo necessário para, de fato, aprender. O fato é que estamos criando, silenciosamente, a figura do profissional diplomado sem domínio real das competências fundamentais.

E aqui o risco deixa de ser educacional e passa a ser social. Imaginemos médicos excessivamente dependentes de sistemas automatizados para interpretar exames ou propor diagnósticos. Imagine engenheiros incapazes de avaliar criticamente um cálculo gerado por software. Imaginemos cientistas que nunca desenvolveram plenamente a capacidade de formular perguntas originais. Esse cenário não é ficção científica, pois ele está começando a ser construído agora, dentro das universidades em todo o mundo.

Um dos efeitos mais preocupantes desse processo é a terceirização do esforço cognitivo. Pensar exige treino constante. Leitura profunda exige prática. Escrever exige sofrimento intelectual. Quando a IA passa a realizar essas tarefas com rapidez e fluidez, muitos estudantes deixam simplesmente de exercitar essas habilidades. Aos poucos, a tolerância à complexidade diminui, a capacidade de concentração se reduz e a autonomia intelectual se fragiliza. A tecnologia criada para ampliar capacidades humanas começa, paradoxalmente, a atrofiá-las.

O impacto ético também é gigantesco. A fraude acadêmica entrou em uma nova fase. Durante décadas, plagiar significava copiar textos existentes. Hoje, tornou-se possível produzir trabalhos inteiros sem dominar o conteúdo e com baixíssima probabilidade de detecção. As universidades estão enfrentando uma crise silenciosa: trabalhos deixaram de ser evidência confiável de aprendizagem. Se professores não conseguem distinguir autoria humana de produção automatizada, as notas deixam de refletir competência real e os diplomas passam a sinalizar muito menos do que deveriam. Isso ameaça a credibilidade institucional do ensino superior. Mas talvez o impacto mais grave esteja acontecendo na própria ciência. A escrita acadêmica sempre foi parte essencial da formação de pesquisadores. Dissertações e teses não são apenas produtos finais; são rituais de passagem intelectual, mas um momento em que o estudante aprende a formular problemas, estruturar argumentos, lidar com incertezas e construir pensamento original. Quando a IA entra como autora invisível, esse processo formativo se enfraquece.

Já começamos a ver sinais de uma possível “industrialização” da escrita científica: revisões de literatura produzidas em massa, artigos inflacionados, textos plausíveis mas superficiais. Existe o risco real de uma poluição textual da ciência — mais artigos publicados, mas menos pensamento crítico por trás deles. Em um cenário extremo, poderemos ter IA escrevendo artigos e IA ajudando a revisá-los, enquanto a participação humana se torna cada vez mais periférica. A ciência perderia sua função mais importante: o escrutínio crítico humano. Mas tudo indica que este cenário extremo já está entre nós, representando uma grave ameaça para o futuro da ciência enquanto um empreendimento que deveria servir para melhorar a vida da maioria da Humanidade.

Diante desse quadro, a resposta não pode ser fingir que nada está acontecendo. Tampouco é realista imaginar a proibição total da IA. O que precisamos urgentemente é de regulação pedagógica séria. Primeiro, é inevitável reformular os sistemas de avaliação. Provas presenciais, avaliações orais, defesas públicas e atividades realizadas em tempo real precisam voltar ao centro do processo educativo. Não como nostalgia do passado, mas como estratégia para garantir que o estudante realmente pense no que e sobre o que está fazendo. Na medicina, isso significa reforçar simulações clínicas presenciais e avaliações de raciocínio diagnóstico ao vivo. Segundo, o uso de IA precisa ser declarado de forma obrigatória em qualquer produção acadêmica. Transparência deve se tornar regra básica. Terceiro, universidades precisam ensinar IA de forma crítica. Não basta permitir o seu uso, pois é preciso formar usuários capazes de compreender limites, vieses e riscos epistemológicos dessas ferramentas. E, acima de tudo, precisamos reafirmar um princípio simples: aprender não é produzir textos; aprender é desenvolver pensamento crítico e autônomo.

A IA não é apenas mais uma ferramenta já que ela redefine o que significa estudar, pesquisar e produzir conhecimento. Se continuarmos ignorando os riscos do uso descontrolado da IA, poderemos formar uma geração altamente certificada, mas intelectualmente frágil , e uma ciência que se tornará cada vez mais volumosa, porém menos crítica e, consequentemente, avessa às reais necessidades que a atual conjuntura histórica de um planeta em colapso climático impõe.

Finalmente, há que se reconhecer que a IA não é apenas mais uma ferramenta tecnológica incorporada ao cotidiano universitário dado que ela redefine silenciosamente o próprio significado de estudar, pesquisar, ensinar e produzir conhecimento. Se continuarmos tratando seu uso irrestrito como um fenômeno neutro ou inevitável, corremos o risco de formar uma geração altamente certificada, porém intelectualmente frágil; uma ciência cada vez mais volumosa, mas progressivamente menos crítica; e universidades que preservam rituais formais de avaliação enquanto perdem sua função substantiva de formação. O que está em jogo não é apenas a integridade acadêmica ou a qualidade dos diplomas, mas a própria capacidade da sociedade humana de produzir profissionais capazes de lidar com problemas complexos, tomar decisões responsáveis e sustentar práticas científicas confiáveis. Em última instância, se trata de preservar a credibilidade social da universidade e o papel civilizatório da ciência. Desta forma, o verdadeiro desafio não é impedir a IA, algo impossível a estas alturas do campeonato, mas impedir que ela substitua aquilo que constitui a essência da educação superior: o desenvolvimento paciente, exigente e insubstituível de mentes autônomas, críticas, criativas e responsáveis. Sem essa reação por parte das universidades e da comunidade científica, o risco é que a automação intelectual avance mais rápido do que nossa capacidade coletiva de compreender suas consequências, deixando para o futuro o custo de uma formação que parece moderna, eficiente e produtiva, mas que poderá se revelar profundamente vazia e antissocial.

Autor de tese de Doutorado em universidade sueca é repreendido por causa do uso de Inteligência Artificial

abril 22, 2026 / Marcos Pędłowski / 1 comentário

Recentemente, um pesquisador da Universidade de Lund foi repreendido após sua tese de doutorado ter sido apontada como utilizando inteligência artificial. O pesquisador, que alegou não ter usado nenhuma ferramenta de IA, foi autorizado a manter o título de doutor, apesar da condenação por má conduta em pesquisa

Uma tese de doutorado foi sinalizada na Universidade de Lund por causa do uso de fontes falsas. Foto: Alexandra Wendt Höjer/Levart_
Photographer (unsplah) (Montagem)

Por Dione Zijp para Lund University

Sabe-se que os projetos de pesquisa de doutorado são submetidos a rigorosos padrões acadêmicos, pois visam preparar os doutorandos para uma carreira futura na academia. O uso da IA em processos de pesquisa é um tema controverso, que levanta questões sobre rigor acadêmico, integridade e ética científica.

Em fevereiro deste ano, a Universitetsläraren ( Associação de Professores Universitários) informou que o Conselho Nacional de Avaliação de Má Conduta em Pesquisa (NPOF) havia sinalizado uma tese de doutorado da Universidade de Lund por suspeita de uso indevido de inteligência artificial, alegando que o projeto continha 14 referências falsificadas. A lista de referências do projeto continha diversas fontes inexistentes, títulos citados incorretamente e DOIs referenciados de forma errada. Como a tese já havia sido defendida e aprovada pelo orientador e pela banca examinadora, o pesquisador tem permissão para manter o título de doutor.

Uma análise mais detalhada da avaliação do NPOF mostra que as referências falsificadas apareceram apenas na lista de referências, e todas as citações no texto estavam corretas. De acordo com o relatório , o pesquisador de doutorado argumentou que, como todos os erros de referência ocorreram apenas nessa lista, não houve falsificação nem plágio.

As referências incorretas na lista foram resultado do estresse durante o processo de pesquisa de doutorado e do uso de ferramentas de busca para a compilação da bibliografia. Além disso, a pesquisadora afirmou que uma lista correta foi submetida à banca e que o objetivo final era citar autoras em uma área predominantemente masculina.

Embora o uso da IA por si só não seja conclusivo para determinar má conduta em pesquisa, o caso destaca o papel crescente que as ferramentas de IA desempenham no processo de pesquisa, inclusive em nível de doutorado. Até o momento, existem poucas pesquisas que avaliam o papel da IA nos processos de pesquisa de doutorado.

A Universidade de Linköping está atualmente conduzindo um estudo com entrevistas sobre a opinião de estudantes de doutorado a respeito do papel da IA em trabalhos de tese, mas os resultados ainda não foram publicados. Enquanto isso, os alunos continuam sendo repreendidos pelo uso de IA em trabalhos acadêmicos, embora os relatos de fraude com IA na Universidade de Lund sejam relativamente baixos em comparação com outras universidades suecas.

O uso da IA no trabalho universitário continua sendo um tema de debate acadêmico. Enquanto isso, a Universidade de Lund publicou suas próprias diretrizes para o uso da inteligência artificial no processo de pesquisa. Em uma das publicações da universidade , os pró-reitores Jimmie Kristensson e Per Mickwitz afirmam que: “O ponto de partida ao usar IA em pesquisa é seguir os princípios básicos da ética em pesquisa e deixar que eles orientem sua conduta como pesquisador.”

A universidade também menciona as diretrizes de pesquisa publicadas pelo Conselho Sueco de Pesquisa, incentivando os pesquisadores a se guiarem pelos princípios de confiabilidade, honestidade, respeito e responsabilidade ao utilizarem ferramentas de IA.

Fonte: Lund University

Autoria, Responsabilidade e a Erosão das Publicações Científicas

abril 15, 2026 / Marcos Pędłowski / Deixe um comentário

Personagens de fantasia, incluindo uma bruxa, um pirata, um robô, um fantasma, um goblin e um zumbi, reunidos em torno de uma mesa assinando documentos em um estande de inscrição de autores de artigos científicos.

Por Tim Hardman para “Niche Science&Technology”

Comecei minha carreira como cientista júnior na década de 1980, no que poderia ser chamado de crepúsculo da era da ciência cavalheiresca, onde a investigação acadêmica era menos uma ocupação formal do que uma identidade social, enraizada em privilégio, curiosidade e um senso de dever intelectual. A pesquisa era mais lenta, mais manual e, muitas vezes, profundamente pessoal em sua apropriação intelectual. A autoria em publicações não refletia a contribuição. Meu papel era gerar dados, repetir experimentos e lidar com as falhas. O reconhecimento acadêmico (ou seja, a autoria) era reservado para aqueles que estavam em posições mais elevadas na hierarquia acadêmica.

À medida que fui progredindo em funções de coordenação de pesquisa laboratorial, a dinâmica tornou-se mais complexa em vez de mais equitativa. A colaboração era incentivada, mas vinha acompanhada de expectativas implícitas. Figuras clínicas seniores, por vezes com envolvimento apenas marginal, eram rotineiramente incluídas como autoras. A sua presença nos manuscritos refletia influência e posição na rede tanto quanto contribuição intelectual. Este padrão não era anómalo; era estrutural.

Meu trabalho subsequente em comunicação médica revelou uma camada adicional. A prática de escrever manuscritos em nome de terceiros evidenciou como alguns médicos podiam se tornar autores hiperprolíficos, com taxas de publicação implausíveis (sem apoio substancial e invisível). Isso ocorreu antes da ampla adoção de estruturas de transparência, como as promovidas pelas Boas Práticas de Publicação (Good Publication Practice ). A divulgação era limitada e a distinção entre quem escrevia e quem recebia os créditos era frequentemente obscura.

Olhando para trás, essas experiências refletem não práticas isoladas, mas uma manifestação inicial de uma mudança mais ampla, da ciência artesanal e individualmente atribuível para um modelo de produção de conhecimento mais distribuído e industrial.

Ciência Industrial e a Inflação da Autoria

A transição para o que poderíamos chamar de “ciência industrial” foi impulsionada pela digitalização, pela colaboração global e pela intensificação da competição. As pesquisas de ponta agora são conduzidas em redes, em vez de em laboratórios isolados. Embora isso tenha possibilitado avanços notáveis, também alterou fundamentalmente o significado de autoria.

Evidências empíricas demonstram um aumento consistente no número de autores por artigo em diversas disciplinas. Análises mostraram que a pesquisa em equipe passou a dominar a produção de conhecimento, com o trabalho colaborativo associado a resultados de maior impacto [1]. Observamos uma expansão constante do tamanho das equipes e sua correlação com o impacto das citações em diversas áreas [2]. Esse crescimento não se restringe a domínios específicos, mas é generalizado em toda a ciência moderna.

Os manuscritos também se tornaram mais longos, citando cada vez mais referências e apresentando resumos cada vez mais elaborados — características que podem sinalizar complexidade, mas não necessariamente clareza ou originalidade. Em resposta, o Comitê Internacional de Editores de Revistas Médicas tentou definir a autoria citando qualificações como contribuição intelectual substancial e responsabilidade. No entanto, a aplicação prática desses critérios é frequentemente inconsistente.

Os principais fatores que impulsionam a inflação da autoria incluem:

Especialização crescente que exige conhecimentos diversificados.
Pressão para incluir figuras importantes em troca de financiamento ou prestígio.
Colaborações globais onde a contribuição é difícil de quantificar.
Preferências de periódicos para submissões com múltiplos autores e múltiplas instituições

O aumento da autoria hiperprolífica complica ainda mais o cenário. Observadores identificaram um subconjunto de pesquisadores produzindo artigos em taxas extraordinárias, às vezes ultrapassando uma publicação a cada poucos dias [3]. Tal produtividade, em nenhum mundo sensato, reflete um envolvimento profundo com projetos individuais, mas sim aponta para um sistema no qual a autoria pode ser distribuída estrategicamente entre múltiplas colaborações.

A autoria de cortesia, em que indivíduos são incluídos apesar de sua contribuição limitada, continua sendo um problema persistente. Uma análise de dados de seis periódicos médicos de alto impacto revelou que 21% dos artigos continham autores honorários, enquanto 11% tinham autores fantasmas [4]. Outros autores relataram números semelhantes, observando que muitos autores honorários não revisaram o manuscrito final nem assumiram a responsabilidade por seu conteúdo [5]. Essas práticas não são meramente lapsos éticos, mas adaptações a um ambiente em que a autoria funciona tanto como moeda de troca quanto como credencial.

Um caso notório

O escândalo Merck/Vioxx (2008) revelou que a gigante farmacêutica havia redigido dezenas de estudos de pesquisa e artigos de revisão, recrutando em seguida médicos acadêmicos renomados para incluírem seus nomes como autores. Documentos internos mostraram um rascunho com o campo do autor principal marcado como “Autor externo?” — um espaço reservado para um pesquisador proeminente ainda não recrutado. Essa prática de autoria fantasma enganou os leitores e ocultou conflitos de interesse por anos.

Métricas, esforço e os limites do sistema de publicação

A inflação da autoria tem implicações significativas para a forma como a contribuição científica é medida e valorizada. Bibliometrias como o índice h e o impacto de citação ponderado por área dependem da autoria como um indicador da contribuição intelectual [6]. Quando a autoria se torna diluída, essas métricas correm o risco de representar de forma distorcida tanto a produtividade quanto a influência.

Essa distorção é particularmente problemática na avaliação da contribuição acadêmica, onde as decisões de contratação, promoção e financiamento estão intimamente ligadas aos registros de publicação. Moher et al. (2018) argumentaram que as práticas de avaliação atuais enfatizam excessivamente as métricas quantitativas em detrimento da avaliação qualitativa da contribuição [7]. Nesses casos, o incentivo não é apenas publicar, mas ser visto como alguém que publica, de preferência com frequência e em grande escala.

No entanto, a realidade vivida do trabalho científico permanece teimosamente resistente a tal simplificação. A experimentação continua lenta, iterativa e frequentemente malsucedida. Envolve extensa leitura prévia, experimentação repetida e o acúmulo de dados que podem nunca ser publicados. O caminho do conceito ao manuscrito raramente é linear e muitas vezes se estende muito além do horário de trabalho formal e dos esforços dos autores principais.

Diante dessas demandas, alguns pesquisadores adotam uma estratégia de engajamento distribuído, participando minimamente de múltiplos projetos para garantir um fluxo contínuo de publicações. Embora racional dentro do sistema atual, essa abordagem enfraquece ainda mais o vínculo entre esforço e autoria. Agora temos o movimento de ‘contribuição’ (taxonomia CRediT; [8]), mas não há como definir onde se encontra o limite para inclusão em projetos individuais (veja nosso recente Insider’s Insight sobre as regras de autoria: [9]).

O sistema de periódicos agrava esses desafios. A revisão por pares, embora fundamental para a garantia da qualidade, é altamente variável. Os revisores diferem em especialização, rigor e intenção. Alguns oferecem orientação construtiva; outros se concentram em identificar motivos para rejeição. Atrasos são comuns, com manuscritos frequentemente levando meses ou anos para serem publicados.

Frustrações comuns com o sistema atual:

Resenhistas que rejeitam sem apresentar uma crítica substancial
Atrasos de 6 a 12 meses entre a submissão e a decisão.
Conservadorismo que privilegia a ciência incremental em detrimento da ciência inovadora.
Falta de reconhecimento dos próprios revisores pares [10]

Existe também um conservadorismo generalizado dentro do sistema. Trabalhos inovadores ou especulativos podem ter dificuldades em obter aceitação, uma vez que revisores e editores privilegiam avanços incrementais que se alinhem com paradigmas estabelecidos. Alguns argumentam que certos aspectos do ecossistema de pesquisa podem ser fundamentalmente falhos, com vieses sistêmicos que afetam o que é publicado e como é avaliado [11]. Para os autores, o processo pode parecer menos um caminho para a disseminação e mais uma negociação prolongada com um sistema opaco e, por vezes, resistente.

Reflexão e Futuro: Propriedade, Significado e o Ponto de Inflexão da IA

Em sua essência, a questão da autoria não é meramente processual, mas filosófica. Na era da ciência artesanal, a autoria implicava propriedade — uma clara associação entre o intelecto individual e a obra publicada. Na era da ciência industrial, essa associação tornou-se difusa. O conhecimento é produzido coletivamente, frequentemente por equipes grandes e geograficamente dispersas. A autoria, nesse contexto, pode refletir participação em vez de propriedade.

Isso levanta questões fundamentais. A quem pertence o conhecimento gerado por grandes colaborações? A autoria ainda significa contribuição intelectual ou tornou-se uma forma de moeda acadêmica? Se for a segunda opção, a erosão de seu significado tem implicações não apenas para as carreiras individuais, mas também para a integridade do próprio registro científico.

O que mudou em 40 anos

Antes: 2 a 4 autores por artigo; agora: 10 a mais de 50 autores.
Antes: a autoria implicava propriedade; agora: muitas vezes sinaliza participação.
Antes: a escrita era manual e individual; agora: é assistida por IA e colaborativa.
Antes: Autores seniores revisavam cada versão; agora: podem não ler a versão final.

Superficialmente, muita coisa mudou desde a década de 1980: mais autores, mais referências, mais produção. No entanto, as tensões subjacentes entre contribuição e reconhecimento, esforço e crédito, permanecem sem solução. Aliás, elas se intensificaram. Isso impactou minha própria abordagem à narrativa científica. Recentemente, meu foco mudou de periódicos acadêmicos para o blog no site da nossa empresa. Enquanto antes eu levava 40 anos para publicar mais de 120 artigos, cujo conteúdo era sufocado pelo establishment, agora posso expressar minha própria opinião mais de 120 vezes por ano, e o conteúdo não está bloqueado por paywalls de periódicos.

O surgimento da inteligência artificial introduz uma camada adicional de incerteza. Ferramentas como o ChatGPT já estão remodelando a forma como os manuscritos são redigidos e aprimorados. Embora ofereçam eficiência, também correm o risco de distanciar ainda mais o autor do texto [9][12]. A linguagem pode se tornar mais padronizada, as vozes mais homogeneizadas e a fronteira entre a contribuição humana e a da máquina cada vez mais tênue.

Principais questões que a IA levanta para a autoria:

Uma ferramenta de IA pode ser listada como coautora? (Consenso atual do ICMJE, Nature, Elsevier e JAMA: Não)
Quem é responsável pelos erros ou alucinações gerados pela IA [13]?
O uso de IA para redação exige divulgação [14]?
Será que a IA irá homogeneizar os estilos de escrita científica?

Existe também o risco de que os sistemas de IA, treinados com base na literatura existente, reforcem normas e preconceitos prevalecentes, dificultando o surgimento de ideias não convencionais. Nesse sentido, a adoção da IA pode não resolver as ambiguidades da autoria, mas sim aprofundá-las.

Assim como a transição do artesanato para a ciência industrial transformou a escala e a estrutura da autoria, a integração da IA pode redefini-la mais uma vez. Se essa transformação irá aprimorar a clareza e a responsabilidade, ou corroê-las ainda mais, permanece incerto. A trajetória até agora oferece pouca segurança. O que está claro é que, sem uma reforma sistêmica, a adoção de modelos de contribuição, a aplicação da transparência e a reformulação de como avaliamos os pesquisadores, o sinal em nossa literatura científica continuará se perdendo em meio ao ruído.

Referências

Fonte: Niche Science&Technology