O editor demitiu-se depois que o sistema de inteligência artificial da editora anulou sua seleção de revisores para um manuscrito. Sua atitude motivou uma revisão interna do sistema
Por Dalmeet Singh Chawla, Escritor colaborador, para “The Transmitter”
Um editor associado da Frontiers in Systems Neuroscience renunciou ao cargo em protesto contra o sistema de inteligência artificial (IA) da editora, argumentando que seu uso indevido está comprometendo a integridade acadêmica da revista.
Michael Okun , professor associado de neurociência da Universidade de Nottingham, anunciou sua renúncia nas redes sociais em 10 de junho, depois que funcionários da revista científica lhe disseram que não podiam desativar as ferramentas de inteligência artificial que encontram automaticamente potenciais revisores por pares.
Os recursos fazem parte do sistema Artificial Intelligence Research Assistant (AIRA) da editora, que a Frontiers lançou há alguns anos com o objetivo de auxiliar os editores na realização da revisão por pares, entre outros motivos .
Em entrevista ao The Transmitter , Okun explicou que, no início de maio, recebeu um pedido da revista para revisar um manuscrito sobre a dinâmica de redes neuronais. Ele o enviou para cerca de meia dúzia de potenciais revisores, mas antes que qualquer um deles aceitasse seu pedido, a AIRA começou a enviar seus próprios pedidos de revisão para outros pesquisadores , conta Okun. Dois revisores contatados pela AIRA — que não tinham experiência relevante, segundo Okun — aceitaram os pedidos.
Isso levou Okun a alertar a Frontiers sobre o problema. Okun afirma que lhe disseram para ignorar os pedidos enviados pela AIRA e continuar buscando revisores por conta própria. Mas quando ele fez isso e um dos especialistas convidados aceitou o convite, a AIRA revogou todos os outros convites. “É simplesmente inconcebível que um convite feito manualmente a alguém que é de fato um especialista na área seja revogado poucas horas depois de enviado”, diz Okun.
Isso foi um fator decisivo para Okun. “A revista quer publicar o máximo de artigos possível e não se importa muito com a qualidade”, diz ele. “Esses não são bugs, mas sim recursos intencionais, projetados para eliminar ao máximo a intervenção dos editores humanos.”
Em um comunicado enviado ao The Transmitter , Frederick Fenter , editor-chefe executivo da Frontiers em Lausanne, Suíça, afirma que cada recurso desenvolvido pela Frontiers visa economizar tempo para os cientistas, permitindo que eles se concentrem em suas pesquisas. “Lamentamos que o Dr. Okun tenha tido uma experiência negativa, e meu convite para discutir suas preocupações diretamente permanece em aberto.”
Fenter observa que os editores têm a capacidade de suspender os convites para revisores a qualquer momento, algo que não ficou claro no caso de Okun. Portanto, a Frontiers está conduzindo uma revisão interna, diz Fenter, para apurar onde ocorreu a falha de comunicação e garantir que incidentes semelhantes não se repitam no futuro.
O jornal The Transmission entrou em contato com dezenas de editores listados no site da Frontiers in Systems Neuroscience .
Um deles, Shuzo Sakata , professor de neurociência de sistemas na Universidade de Strathclyde, diz ter tido uma experiência semelhante com o sistema automatizado da revista. ” Mesmo depois de eu ter decidido rejeitar um manuscrito, o sistema convidou outro revisor sem a minha permissão”, lembra Sakata.
Sakata afirma que não aceita mais os pedidos da revista para supervisionar a edição. ” A automação é importante e muitas vezes útil, mas o sistema deles ultrapassou os limites.”
Vários outros editores consultados pelo The Transmitter disseram não ter enfrentado os mesmos problemas com a AIRA que Okun destacou, alguns observando que não editaram muitos artigos para a revista.
Outros pesquisadores observaram que a AIRA os contata com solicitações incomuns. “A Frontiers está constantemente me enviando pedidos de revisão ou edição que não têm nada a ver com minha área de especialização”, diz Earl K. Miller , professor de neurociência da Cátedra Picower no Instituto de Tecnologia de Massachusetts.
“Recebo pedidos frequentes para atuar como editor, mas em 97% dos casos o manuscrito em questão não se relaciona com minha área de especialização”, acrescenta Mathew Diamond , que lidera o Laboratório de Explorações das Bases Neuronais da Experiência Sensorial na Escola Internacional de Estudos Avançados.
De acordo com Fenter, a Frontiers utiliza IA desde 2018 para ajudar seus editores a identificar e convidar revisores.
Mas o julgamento humano é fundamental para o processo, afirma ele. “Os editores mantêm total discricionariedade sobre o uso de sugestões automatizadas; eles podem revisar todas as recomendações antes do envio de qualquer convite, decidir quem será convidado e em que ordem, e podem adicionar, remover ou reatribuir revisores a qualquer momento”, acrescenta Fenter. “As decisões de aceitar ou rejeitar sempre cabem a um editor humano, sem exceção.”
Quanto ao uso de IA para auxiliar os editores, Fenter afirma que isso traz benefícios claros: o tempo médio para encontrar revisores dispostos a realizar o trabalho caiu 30% na Frontiers no último ano. Os dados da Frontiers sugerem que 80% dos editores responsáveis pela gestão dos artigos consideram a automação útil e que ela agiliza a atribuição de revisores, diz Fenter, e 94% dos autores classificam sua experiência de revisão por pares como boa ou excelente.
“Os editores também contam com o apoio de uma Equipe de Integridade em Pesquisa dedicada, que supervisiona as verificações automatizadas de qualidade em todas as etapas do nosso processo editorial”, escreve Fenter. “Continuamos comprometidos em manter a expertise humana no centro da revisão por pares e em contribuir abertamente para o debate mais amplo sobre o uso responsável da IA na publicação acadêmica.”
Okun afirma que a ideia de usar grandes modelos de linguagem para encontrar especialistas externos é boa. “Sou totalmente a favor, desde que o editor humano seja consultado”, diz ele.
Por outro lado, Okun afirma que também não vê problema em um sistema totalmente automatizado, desde que as editoras divulguem que toda a edição foi feita por IA. “Desde que seja honesto e não se coloque simplesmente o nome de alguém, isso também é perfeitamente aceitável”, diz ele.
Fonte: The Transmitter