Quem escreveu esse artigo? O uso da IA ​​gera debate sobre a autoria científica

As regras que regem o crédito e a responsabilidade por trabalhos escritos por máquinas podem precisar de uma reformulação

Stephan Schmitz/FolioArt 

Por Jeffrey Brainard para “Science”

Quando a empresa de inteligência artificial (IA) OpenAI publicou centenas de artigos científicos abordando problemas matemáticos de longa data neste mês , os PDFs que descreviam os resultados seguiam um formato de pré-publicação já conhecido. Mas havia um desvio crucial: eles listavam a própria IA como única autora, porque os algoritmos haviam concebido e escrito as demonstrações, segundo a OpenAI.

A medida contornou os padrões de publicação acadêmica que exigem que os autores assumam a responsabilidade pelo trabalho — o que, sem dúvida, exige que esses autores sejam humanos, com discernimento humano. Matemáticos que trabalham com a OpenAI, no entanto, afirmaram não entender algumas das demonstrações. E “Se não entendemos algo, não podemos realmente ser responsabilizados por isso em um sentido moral”, afirma o bioeticista David Resnik.

Atualmente, periódicos e servidores de pré-publicação proíbem que a IA seja listada como autora por esse motivo, e grupos de ética em publicação e diretrizes atuais sobre o assunto afirmam que a IA não deve ser considerada autora. Mas, à medida que os cientistas incorporam cada vez mais a IA em seus trabalhos, a onda de publicações da OpenAI levanta a questão: o que significa ser autor na era da IA?

A forma exata como isso se concretizaria ainda é objeto de debate — um debate que tem sido debatido em inúmeros comentários publicados desde julho no JME Practical Bioethics , do qual Earp é editor-chefe. Earp não defende que as IAs devam ser listadas como autoras, mas não descarta a possibilidade de que os padrões evoluam para permitir isso. E alerta contra políticas que permitam que cientistas humanos editem um manuscrito escrito por IA apenas o suficiente para que ele se qualifique como autor. “Isso parece um pouco desonesto e não é algo que queremos incentivar.” Em vez disso, ele afirma que a exigência de que um autor humano tenha concebido o estudo poderia ser flexibilizada se pelo menos um humano — a ser chamado de autor “certificador” — revisasse o manuscrito e atestasse os resultados.

Mas Resnik, que trabalha no Instituto Nacional de Ciências da Saúde Ambiental dos EUA, teme que a criação de uma categoria separada para certificar artigos escritos por IA possa levar os autores a não darem a devida atenção aos trabalhos . Em sua opinião, uma pessoa que atenda ao padrão do ICMJE, que exige que o autor tenha analisado ou interpretado os dados do artigo, fornece a responsabilidade necessária. Se um artigo gerado por IA não atender pelo menos a esse padrão, ele afirma que não deveria ser publicado. “Para ser um cientista responsável que trabalha com IA, é fundamental saber o que ela está fazendo e supervisionar seu trabalho”, diz ele. “Você não apenas apresentou um problema e ela simplesmente encontrou uma solução que você não entende. Você [deveria] estar envolvido em todas as etapas do processo, como estaria se estivesse trabalhando com um estudante de pós-graduação ou um pós-doutorando.”

Mas outros comentaristas afirmam que será difícil monitorar e avaliar de forma confiável as interações humanas com a IA — registros de conversas com chatbots podem ser falsificados, por exemplo. Como resultado, artigos produzidos por IA podem passar a ser julgados mais pela sua qualidade do que pelos detalhes de sua origem.

A OpenAI afirmou que não busca reconhecimento acadêmico por seus preprints recentes, que se ramificaram da matemática para a ciência da computação e a física, e alguns dos quais a empresa já retirou ou corrigiu devido a erros identificados após a publicação . Mas, na segunda-feira, a empresa — que tem sido criticada por divulgar resultados gerados por máquinas sem supervisão humana suficiente — anunciou que convidou cientistas para atuarem como “guias” que organizarão especialistas para revisar e compreender os artigos da OpenAI, que a empresa compara a “dados brutos de pesquisa”. Esses grupos “devem receber reconhecimento pela compreensão que desenvolvem e pelos artigos que escrevem”, afirma a OpenAI. Mas o convite “não implica que eles ou seus grupos de trabalho tenham feito a descoberta original”.

Instituições e financiadores também precisarão lidar com a questão de como avaliar pesquisadores cujo trabalho com IA pode comprometer as medidas tradicionais de produtividade acadêmica. “As normas de autoria estão evoluindo mais lentamente do que os padrões de pesquisa”, afirma Véronique Kiermer, diretora científica da família de periódicos PLOS. Em março, ela foi coautora de um comentário publicado nos Anais da Academia Nacional de Ciências (Proceedings of the National Academy of Sciences) que incentiva as instituições a treinarem seus docentes em práticas de autoria responsável e a garantir seu cumprimento. “É importante ancorar as decisões de autoria em uma estrutura baseada em princípios que possa perdurar”, diz ela.

Apesar da clara proibição do uso de IA como autora, as práticas são mais confusas em torno de uma questão relacionada: se os cientistas humanos devem divulgar o uso de IA em seus artigos e, em caso afirmativo, qual o nível de detalhamento dessas divulgações. As políticas têm, em grande parte, defendido a divulgação de qualquer uso, desde pequenas correções linguísticas até contribuições substanciais na concepção do trabalho e na análise dos resultados. No entanto, estudos constataram que muitos autores deixam de divulgar o uso de IA por medo de serem vistos como preguiçosos ou sofrerem outras consequências negativas. Outras pesquisas sugerem que as declarações de uso de IA se perdem em detalhes que os leitores não consideram relevantes, como o uso para edição do manuscrito, e negligenciam detalhes que os leitores mais desejam , relacionados à execução da pesquisa.

Assim, algumas revistas estão experimentando abordagens no extremo oposto do espectro, optando pelo silêncio. No ano passado, a família de revistas médicas JACC decidiu não exigir a divulgação de qualquer tipo de auxílio de IA na escrita. Em vez disso, a política estabelece que os autores são responsáveis ​​pelo conteúdo do artigo submetido e devem atestar que ele cita corretamente a literatura científica e está livre de plágio. (As ferramentas de IA utilizadas para conduzir a pesquisa ainda devem ser divulgadas, para facilitar a replicação dos estudos relatados.) “O que importa é se os autores permaneceram intelectualmente engajados, verificaram o resultado e assumiram a responsabilidade pelo trabalho”, escreve o editor-chefe Harlan Krumholz em um comentário neste mês .

Da mesma forma, a PLOS mudou sua política para “não exigir tipos comuns de uso de IA, como melhorias de linguagem, porque, se você insistir em relatar usos muito comuns, a divulgação se torna um exercício burocrático sem sentido”, diz Kiermer. “Continuamos a responsabilizar os autores pela precisão do conteúdo, e isso exige uma reflexão mais profunda por parte deles.”

De forma mais ampla, um grupo de trabalho que opera em cooperação com diversos grupos da indústria de publicação científica está preparando um conjunto de diretrizes sobre a escrita científica assistida por IA . O grupo parte do pressuposto de que a IA não deve ser listada como autora, mas que a divulgação consistente e detalhada do uso da tecnologia melhorará a utilidade dos artigos. Esclarecer e padronizar as diretrizes ajudará a reverter a relutância em divulgar o uso da IA, afirmou o grupo de trabalho em um comunicado solicitando comentários. “Um padrão comum sinaliza a aceitação do uso de IA na pesquisa e aumenta a facilidade e a consistência na divulgação honesta dos resultados.”

O grupo de trabalho propôs este mês uma taxonomia de 18 categorias de atividades centrais para a maioria dos projetos de pesquisa , como o desenvolvimento de hipóteses, a síntese da literatura relevante, a geração de código computacional e a redação do manuscrito. Os autores deveriam relatar os detalhes do uso de IA separadamente para cada categoria. O grupo também coletou feedback sobre se os autores deveriam divulgar todos os usos de IA ou apenas os usos substanciais, como a geração de figuras ou a análise de dados — aspectos que os leitores podem precisar saber para interpretar adequadamente o artigo resultante. O grupo planeja divulgar uma versão preliminar completa da proposta até o início de 2027.


Fonte: Science

Autoria, Responsabilidade e a Erosão das Publicações Científicas

Personagens de fantasia, incluindo uma bruxa, um pirata, um robô, um fantasma, um goblin e um zumbi, reunidos em torno de uma mesa assinando documentos em um estande de inscrição de autores de artigos científicos.

Por Tim Hardman para “Niche Science&Technology” 

Comecei minha carreira como cientista júnior na década de 1980, no que poderia ser chamado de crepúsculo da era da ciência cavalheiresca, onde a investigação acadêmica era menos uma ocupação formal do que uma identidade social, enraizada em privilégio, curiosidade e um senso de dever intelectual. A pesquisa era mais lenta, mais manual e, muitas vezes, profundamente pessoal em sua apropriação intelectual. A autoria em publicações não refletia a contribuição. Meu papel era gerar dados, repetir experimentos e lidar com as falhas. O reconhecimento acadêmico (ou seja, a autoria) era reservado para aqueles que estavam em posições mais elevadas na hierarquia acadêmica.

À medida que fui progredindo em funções de coordenação de pesquisa laboratorial, a dinâmica tornou-se mais complexa em vez de mais equitativa. A colaboração era incentivada, mas vinha acompanhada de expectativas implícitas. Figuras clínicas seniores, por vezes com envolvimento apenas marginal, eram rotineiramente incluídas como autoras. A sua presença nos manuscritos refletia influência e posição na rede tanto quanto contribuição intelectual. Este padrão não era anómalo; era estrutural.

Meu trabalho subsequente em comunicação médica revelou uma camada adicional. A prática de escrever manuscritos em nome de terceiros evidenciou como alguns médicos podiam se tornar autores hiperprolíficos, com taxas de publicação implausíveis (sem apoio substancial e invisível). Isso ocorreu antes da ampla adoção de estruturas de transparência, como as promovidas pelas Boas Práticas de Publicação (Good Publication Practice ). A divulgação era limitada e a distinção entre quem escrevia e quem recebia os créditos era frequentemente obscura.

Olhando para trás, essas experiências refletem não práticas isoladas, mas uma manifestação inicial de uma mudança mais ampla, da ciência artesanal e individualmente atribuível para um modelo de produção de conhecimento mais distribuído e industrial.

Ciência Industrial e a Inflação da Autoria

A transição para o que poderíamos chamar de “ciência industrial” foi impulsionada pela digitalização, pela colaboração global e pela intensificação da competição. As pesquisas de ponta agora são conduzidas em redes, em vez de em laboratórios isolados. Embora isso tenha possibilitado avanços notáveis, também alterou fundamentalmente o significado de autoria.

Evidências empíricas demonstram um aumento consistente no número de autores por artigo em diversas disciplinas. Análises mostraram que a pesquisa em equipe passou a dominar a produção de conhecimento, com o trabalho colaborativo associado a resultados de maior impacto [1]. Observamos uma expansão constante do tamanho das equipes e sua correlação com o impacto das citações em diversas áreas [2]. Esse crescimento não se restringe a domínios específicos, mas é generalizado em toda a ciência moderna.

Os manuscritos também se tornaram mais longos, citando cada vez mais referências e apresentando resumos cada vez mais elaborados — características que podem sinalizar complexidade, mas não necessariamente clareza ou originalidade. Em resposta, o  Comitê Internacional de Editores de Revistas Médicas  tentou definir a autoria citando qualificações como contribuição intelectual substancial e responsabilidade. No entanto, a aplicação prática desses critérios é frequentemente inconsistente.

Os principais fatores que impulsionam a inflação da autoria incluem:

  • Especialização crescente que exige conhecimentos diversificados.
  • Pressão para incluir figuras importantes em troca de financiamento ou prestígio.
  • Colaborações globais onde a contribuição é difícil de quantificar.
  • Preferências de periódicos para submissões com múltiplos autores e múltiplas instituições

O aumento da autoria hiperprolífica complica ainda mais o cenário. Observadores identificaram um subconjunto de pesquisadores produzindo artigos em taxas extraordinárias, às vezes ultrapassando uma publicação a cada poucos dias [3]. Tal produtividade, em nenhum mundo sensato, reflete um envolvimento profundo com projetos individuais, mas sim aponta para um sistema no qual a autoria pode ser distribuída estrategicamente entre múltiplas colaborações.

A autoria de cortesia, em que indivíduos são incluídos apesar de sua contribuição limitada, continua sendo um problema persistente. Uma análise de dados de seis periódicos médicos de alto impacto revelou que 21% dos artigos continham autores honorários, enquanto 11% tinham autores fantasmas [4]. Outros autores relataram números semelhantes, observando que muitos autores honorários não revisaram o manuscrito final nem assumiram a responsabilidade por seu conteúdo [5]. Essas práticas não são meramente lapsos éticos, mas adaptações a um ambiente em que a autoria funciona tanto como moeda de troca quanto como credencial.

Um caso notório

O escândalo Merck/Vioxx (2008) revelou que a gigante farmacêutica havia redigido dezenas de estudos de pesquisa e artigos de revisão, recrutando em seguida médicos acadêmicos renomados para incluírem seus nomes como autores. Documentos internos mostraram um rascunho com o campo do autor principal marcado como “Autor externo?” — um espaço reservado para um pesquisador proeminente ainda não recrutado. Essa prática de autoria fantasma enganou os leitores e ocultou conflitos de interesse por anos.

Métricas, esforço e os limites do sistema de publicação

A inflação da autoria tem implicações significativas para a forma como a contribuição científica é medida e valorizada. Bibliometrias como o índice h e o impacto de citação ponderado por área dependem da autoria como um indicador da contribuição intelectual [6]. Quando a autoria se torna diluída, essas métricas correm o risco de representar de forma distorcida tanto a produtividade quanto a influência.

Essa distorção é particularmente problemática na avaliação da contribuição acadêmica, onde as decisões de contratação, promoção e financiamento estão intimamente ligadas aos registros de publicação. Moher et al. (2018) argumentaram que as práticas de avaliação atuais enfatizam excessivamente as métricas quantitativas em detrimento da avaliação qualitativa da contribuição [7]. Nesses casos, o incentivo não é apenas publicar, mas ser visto como alguém que publica, de preferência com frequência e em grande escala.

No entanto, a realidade vivida do trabalho científico permanece teimosamente resistente a tal simplificação. A experimentação continua lenta, iterativa e frequentemente malsucedida. Envolve extensa leitura prévia, experimentação repetida e o acúmulo de dados que podem nunca ser publicados. O caminho do conceito ao manuscrito raramente é linear e muitas vezes se estende muito além do horário de trabalho formal e dos esforços dos autores principais.

Diante dessas demandas, alguns pesquisadores adotam uma estratégia de engajamento distribuído, participando minimamente de múltiplos projetos para garantir um fluxo contínuo de publicações. Embora racional dentro do sistema atual, essa abordagem enfraquece ainda mais o vínculo entre esforço e autoria. Agora temos o movimento de ‘contribuição’ (taxonomia CRediT; [8]), mas não há como definir onde se encontra o limite para inclusão em projetos individuais (veja nosso recente Insider’s Insight sobre as regras de autoria: [9]).

O sistema de periódicos agrava esses desafios. A revisão por pares, embora fundamental para a garantia da qualidade, é altamente variável. Os revisores diferem em especialização, rigor e intenção. Alguns oferecem orientação construtiva; outros se concentram em identificar motivos para rejeição. Atrasos são comuns, com manuscritos frequentemente levando meses ou anos para serem publicados.

Frustrações comuns com o sistema atual:

  • Resenhistas que rejeitam sem apresentar uma crítica substancial
  • Atrasos de 6 a 12 meses entre a submissão e a decisão.
  • Conservadorismo que privilegia a ciência incremental em detrimento da ciência inovadora.
  • Falta de reconhecimento dos próprios revisores pares [10]

Existe também um conservadorismo generalizado dentro do sistema. Trabalhos inovadores ou especulativos podem ter dificuldades em obter aceitação, uma vez que revisores e editores privilegiam avanços incrementais que se alinhem com paradigmas estabelecidos. Alguns argumentam que certos aspectos do ecossistema de pesquisa podem ser fundamentalmente falhos, com vieses sistêmicos que afetam o que é publicado e como é avaliado [11]. Para os autores, o processo pode parecer menos um caminho para a disseminação e mais uma negociação prolongada com um sistema opaco e, por vezes, resistente.

Reflexão e Futuro: Propriedade, Significado e o Ponto de Inflexão da IA

Em sua essência, a questão da autoria não é meramente processual, mas filosófica. Na era da ciência artesanal, a autoria implicava propriedade — uma clara associação entre o intelecto individual e a obra publicada. Na era da ciência industrial, essa associação tornou-se difusa. O conhecimento é produzido coletivamente, frequentemente por equipes grandes e geograficamente dispersas. A autoria, nesse contexto, pode refletir participação em vez de propriedade.

Isso levanta questões fundamentais. A quem pertence o conhecimento gerado por grandes colaborações? A autoria ainda significa contribuição intelectual ou tornou-se uma forma de moeda acadêmica? Se for a segunda opção, a erosão de seu significado tem implicações não apenas para as carreiras individuais, mas também para a integridade do próprio registro científico.

O que mudou em 40 anos

  • Antes:  2 a 4 autores por artigo;  agora:  10 a mais de 50 autores.
  • Antes:  a autoria implicava propriedade;  agora:  muitas vezes sinaliza participação.
  • Antes:  a escrita era manual e individual;  agora:  é assistida por IA e colaborativa.
  • Antes:  Autores seniores revisavam cada versão;  agora:  podem não ler a versão final.

Superficialmente, muita coisa mudou desde a década de 1980: mais autores, mais referências, mais produção. No entanto, as tensões subjacentes entre contribuição e reconhecimento, esforço e crédito, permanecem sem solução. Aliás, elas se intensificaram. Isso impactou minha própria abordagem à narrativa científica. Recentemente, meu foco mudou de periódicos acadêmicos para o blog no site da nossa empresa. Enquanto antes eu levava 40 anos para publicar mais de 120 artigos, cujo conteúdo era sufocado pelo establishment, agora posso expressar minha própria opinião mais de 120 vezes por ano, e o conteúdo não está bloqueado por paywalls de periódicos.

O surgimento da inteligência artificial introduz uma camada adicional de incerteza. Ferramentas como o ChatGPT já estão remodelando a forma como os manuscritos são redigidos e aprimorados. Embora ofereçam eficiência, também correm o risco de distanciar ainda mais o autor do texto [9][12]. A linguagem pode se tornar mais padronizada, as vozes mais homogeneizadas e a fronteira entre a contribuição humana e a da máquina cada vez mais tênue.

Principais questões que a IA levanta para a autoria:

  • Uma ferramenta de IA pode ser listada como coautora? (Consenso atual do ICMJE, Nature, Elsevier e JAMA: Não)
  • Quem é responsável pelos erros ou alucinações gerados pela IA [13]?
  • O uso de IA para redação exige divulgação [14]?
  • Será que a IA irá homogeneizar os estilos de escrita científica?

Existe também o risco de que os sistemas de IA, treinados com base na literatura existente, reforcem normas e preconceitos prevalecentes, dificultando o surgimento de ideias não convencionais. Nesse sentido, a adoção da IA ​​pode não resolver as ambiguidades da autoria, mas sim aprofundá-las.

Assim como a transição do artesanato para a ciência industrial transformou a escala e a estrutura da autoria, a integração da IA ​​pode redefini-la mais uma vez. Se essa transformação irá aprimorar a clareza e a responsabilidade, ou corroê-las ainda mais, permanece incerto. A trajetória até agora oferece pouca segurança. O que está claro é que, sem uma reforma sistêmica, a adoção de modelos de contribuição, a aplicação da transparência e a reformulação de como avaliamos os pesquisadores, o sinal em nossa literatura científica continuará se perdendo em meio ao ruído.

Referências

  1. Wuchty S, Jones BF, Uzzi B. O crescente domínio das equipes na produção de conhecimento. Science . 2007;316(5827):1036–1039 .
  2. Larivière V, Gingras Y, Sugimoto CR, Tsou A. O tamanho da equipe importa: colaboração e impacto científico. J Assoc Inf Sci Technol . 2015;66(7):1323–1332 .
  3. Ioannidis JPA, Klavans R, Boyack KW. Milhares de cientistas publicam um artigo a cada cinco dias. Nature . 2018;561:167–169 .
  4. Wislar JS, Flanagin A, Fontanarosa PB, DeAngelis CD. Autoria honorária e fantasma em periódicos biomédicos de alto impacto: um estudo transversal. BMJ . 2011;343:d6128 .
  5. Flanagin A, Carey LA, Fontanarosa PB, et al. Prevalência de artigos com autores honorários e autores fantasmas em periódicos médicos revisados ​​por pares.  JAMA . 1998;280(3):222–224 .
  6. Niche Science & Technology Ltd (2021). Análise Bibliométrica: Uma Visão Interna
  7. Moher D, Naudet F, Cristea IA, Miedema F, Ioannidis JPA, Goodman SN. Avaliando cientistas para contratação, promoção e estabilidade. PLoS Biol . 2018;16(3):e2004089 .
  8. Niche Science & Technology Ltd (2026). Uma visão privilegiada sobre autoria científica.
  9. Horton R. Offline: O que é o 5 sigma da medicina? Lancet . 2015;385(9976):1380 .
  10. Hardman TC (2026). Figuras geradas por IA em publicações acadêmicas.
  11. Allen L, Scott J, Brand A, Hlava M, Altman M. Publicação: Crédito onde o crédito é devido.  Nature . 2019;571(7763):29–31 .
  12. Smith R. Revisão por pares: um processo falho no coração da ciência e dos periódicos.  JR Soc Med . 2006;99(4):178–182 .
  13. Alkaissi H, McFarlane SI. Alucinações artificiais no ChatGPT: implicações na escrita científica.  Cureus . 2023;15(2):e35179 .
  14. Flanagin A, et al. “Autores” não humanos e implicações para a integridade da publicação científica e do conhecimento médico.  JAMA . 2023;329(8):637–639 .

Fonte: Niche Science&Technology