As regras que regem o crédito e a responsabilidade por trabalhos escritos por máquinas podem precisar de uma reformulação
Stephan Schmitz/FolioArt
Por Jeffrey Brainard para “Science”
Quando a empresa de inteligência artificial (IA) OpenAI publicou centenas de artigos científicos abordando problemas matemáticos de longa data neste mês , os PDFs que descreviam os resultados seguiam um formato de pré-publicação já conhecido. Mas havia um desvio crucial: eles listavam a própria IA como única autora, porque os algoritmos haviam concebido e escrito as demonstrações, segundo a OpenAI.
A medida contornou os padrões de publicação acadêmica que exigem que os autores assumam a responsabilidade pelo trabalho — o que, sem dúvida, exige que esses autores sejam humanos, com discernimento humano. Matemáticos que trabalham com a OpenAI, no entanto, afirmaram não entender algumas das demonstrações. E “Se não entendemos algo, não podemos realmente ser responsabilizados por isso em um sentido moral”, afirma o bioeticista David Resnik.
Atualmente, periódicos e servidores de pré-publicação proíbem que a IA seja listada como autora por esse motivo, e grupos de ética em publicação e diretrizes atuais sobre o assunto afirmam que a IA não deve ser considerada autora. Mas, à medida que os cientistas incorporam cada vez mais a IA em seus trabalhos, a onda de publicações da OpenAI levanta a questão: o que significa ser autor na era da IA?
A forma exata como isso se concretizaria ainda é objeto de debate — um debate que tem sido debatido em inúmeros comentários publicados desde julho no JME Practical Bioethics , do qual Earp é editor-chefe. Earp não defende que as IAs devam ser listadas como autoras, mas não descarta a possibilidade de que os padrões evoluam para permitir isso. E alerta contra políticas que permitam que cientistas humanos editem um manuscrito escrito por IA apenas o suficiente para que ele se qualifique como autor. “Isso parece um pouco desonesto e não é algo que queremos incentivar.” Em vez disso, ele afirma que a exigência de que um autor humano tenha concebido o estudo poderia ser flexibilizada se pelo menos um humano — a ser chamado de autor “certificador” — revisasse o manuscrito e atestasse os resultados.
Mas Resnik, que trabalha no Instituto Nacional de Ciências da Saúde Ambiental dos EUA, teme que a criação de uma categoria separada para certificar artigos escritos por IA possa levar os autores a não darem a devida atenção aos trabalhos . Em sua opinião, uma pessoa que atenda ao padrão do ICMJE, que exige que o autor tenha analisado ou interpretado os dados do artigo, fornece a responsabilidade necessária. Se um artigo gerado por IA não atender pelo menos a esse padrão, ele afirma que não deveria ser publicado. “Para ser um cientista responsável que trabalha com IA, é fundamental saber o que ela está fazendo e supervisionar seu trabalho”, diz ele. “Você não apenas apresentou um problema e ela simplesmente encontrou uma solução que você não entende. Você [deveria] estar envolvido em todas as etapas do processo, como estaria se estivesse trabalhando com um estudante de pós-graduação ou um pós-doutorando.”
Mas outros comentaristas afirmam que será difícil monitorar e avaliar de forma confiável as interações humanas com a IA — registros de conversas com chatbots podem ser falsificados, por exemplo. Como resultado, artigos produzidos por IA podem passar a ser julgados mais pela sua qualidade do que pelos detalhes de sua origem.
A OpenAI afirmou que não busca reconhecimento acadêmico por seus preprints recentes, que se ramificaram da matemática para a ciência da computação e a física, e alguns dos quais a empresa já retirou ou corrigiu devido a erros identificados após a publicação . Mas, na segunda-feira, a empresa — que tem sido criticada por divulgar resultados gerados por máquinas sem supervisão humana suficiente — anunciou que convidou cientistas para atuarem como “guias” que organizarão especialistas para revisar e compreender os artigos da OpenAI, que a empresa compara a “dados brutos de pesquisa”. Esses grupos “devem receber reconhecimento pela compreensão que desenvolvem e pelos artigos que escrevem”, afirma a OpenAI. Mas o convite “não implica que eles ou seus grupos de trabalho tenham feito a descoberta original”.
Instituições e financiadores também precisarão lidar com a questão de como avaliar pesquisadores cujo trabalho com IA pode comprometer as medidas tradicionais de produtividade acadêmica. “As normas de autoria estão evoluindo mais lentamente do que os padrões de pesquisa”, afirma Véronique Kiermer, diretora científica da família de periódicos PLOS. Em março, ela foi coautora de um comentário publicado nos Anais da Academia Nacional de Ciências (Proceedings of the National Academy of Sciences) que incentiva as instituições a treinarem seus docentes em práticas de autoria responsável e a garantir seu cumprimento. “É importante ancorar as decisões de autoria em uma estrutura baseada em princípios que possa perdurar”, diz ela.
Apesar da clara proibição do uso de IA como autora, as práticas são mais confusas em torno de uma questão relacionada: se os cientistas humanos devem divulgar o uso de IA em seus artigos e, em caso afirmativo, qual o nível de detalhamento dessas divulgações. As políticas têm, em grande parte, defendido a divulgação de qualquer uso, desde pequenas correções linguísticas até contribuições substanciais na concepção do trabalho e na análise dos resultados. No entanto, estudos constataram que muitos autores deixam de divulgar o uso de IA por medo de serem vistos como preguiçosos ou sofrerem outras consequências negativas. Outras pesquisas sugerem que as declarações de uso de IA se perdem em detalhes que os leitores não consideram relevantes, como o uso para edição do manuscrito, e negligenciam detalhes que os leitores mais desejam , relacionados à execução da pesquisa.
Assim, algumas revistas estão experimentando abordagens no extremo oposto do espectro, optando pelo silêncio. No ano passado, a família de revistas médicas JACC decidiu não exigir a divulgação de qualquer tipo de auxílio de IA na escrita. Em vez disso, a política estabelece que os autores são responsáveis pelo conteúdo do artigo submetido e devem atestar que ele cita corretamente a literatura científica e está livre de plágio. (As ferramentas de IA utilizadas para conduzir a pesquisa ainda devem ser divulgadas, para facilitar a replicação dos estudos relatados.) “O que importa é se os autores permaneceram intelectualmente engajados, verificaram o resultado e assumiram a responsabilidade pelo trabalho”, escreve o editor-chefe Harlan Krumholz em um comentário neste mês .
Da mesma forma, a PLOS mudou sua política para “não exigir tipos comuns de uso de IA, como melhorias de linguagem, porque, se você insistir em relatar usos muito comuns, a divulgação se torna um exercício burocrático sem sentido”, diz Kiermer. “Continuamos a responsabilizar os autores pela precisão do conteúdo, e isso exige uma reflexão mais profunda por parte deles.”
De forma mais ampla, um grupo de trabalho que opera em cooperação com diversos grupos da indústria de publicação científica está preparando um conjunto de diretrizes sobre a escrita científica assistida por IA . O grupo parte do pressuposto de que a IA não deve ser listada como autora, mas que a divulgação consistente e detalhada do uso da tecnologia melhorará a utilidade dos artigos. Esclarecer e padronizar as diretrizes ajudará a reverter a relutância em divulgar o uso da IA, afirmou o grupo de trabalho em um comunicado solicitando comentários. “Um padrão comum sinaliza a aceitação do uso de IA na pesquisa e aumenta a facilidade e a consistência na divulgação honesta dos resultados.”
O grupo de trabalho propôs este mês uma taxonomia de 18 categorias de atividades centrais para a maioria dos projetos de pesquisa , como o desenvolvimento de hipóteses, a síntese da literatura relevante, a geração de código computacional e a redação do manuscrito. Os autores deveriam relatar os detalhes do uso de IA separadamente para cada categoria. O grupo também coletou feedback sobre se os autores deveriam divulgar todos os usos de IA ou apenas os usos substanciais, como a geração de figuras ou a análise de dados — aspectos que os leitores podem precisar saber para interpretar adequadamente o artigo resultante. O grupo planeja divulgar uma versão preliminar completa da proposta até o início de 2027.
Fonte: Science










