Os problemas revelados no arXiv mostram que a crise atual não decorre apenas da velocidade com que produzimos artigos científicos, mas da crescente dificuldade de separar conhecimento original de conteúdo gerado em escala por algoritmo

O arXiv representa uma das maiores conquistas da ciência aberta. Desde sua criação, em 1991, democratizou o acesso ao conhecimento, acelerou a circulação de resultados científicos e reduziu a dependência dos periódicos tradicionais como único meio de divulgação da pesquisa. Para inúmeras áreas, especialmente Física, Matemática e Ciência da Computação, tornou-se uma infraestrutura essencial da ciência contemporânea.

Entretanto, duas publicações recentes chamam atenção para problemas que podem comprometer esse patrimônio coletivo.  A primeira, publicada na Nature, revela que milhões de preprints depositados no arXiv contêm informações que jamais deveriam ter sido disponibilizadas publicamente. Senhas, coordenadas geográficas de locais sensíveis, conversas privadas, nomes de arquivos internos e outros metadados permanecem embutidos nos documentos submetidos, expondo pesquisadores e instituições a riscos desnecessários. O problema não está apenas no texto principal dos artigos, mas nos arquivos-fonte e nos metadados que acompanham as submissões. A segunda reflexão, publicada pelo portal The Geyser, levanta uma questão ainda mais inquietante: estaria o arXiv deixando de ser um repositório de preprints produzidos por pesquisadores para se transformar em uma espécie de “AIXiv”, inundado por manuscritos produzidos ou fortemente assistidos por inteligência artificial (IA)?

Embora o título do The Geyser seja provocativo, ele aponta para uma transformação real. Nunca foi tão fácil produzir artigos científicos. Modelos de linguagem conseguem elaborar revisões bibliográficas, estruturar argumentos, gerar códigos, criar gráficos e até redigir manuscritos inteiros em poucas horas. Se antes o principal gargalo da ciência era produzir conhecimento, hoje um dos gargalos passa a ser distinguir produção científica relevante de uma avalanche de textos tecnicamente bem escritos, mas intelectualmente pouco originais.

Esse fenômeno produz uma contradição importante. A IA pode ampliar enormemente a produtividade científica, permitindo que pesquisadores dediquem mais tempo às perguntas relevantes e menos às tarefas mecânicas. Contudo, ela também reduz drasticamente o custo de produzir artigos medianos. Quando o custo de escrever cai quase a zero, o incentivo passa a ser publicar cada vez mais, independentemente da contribuição efetiva.

A consequência pode ser uma inflação científica. Não necessariamente de conhecimento, mas de documentos.  Nesse contexto, o arXiv ocupa uma posição particularmente delicada. Sua missão nunca foi funcionar como um filtro editorial, mas como um mecanismo rápido de disseminação do conhecimento. Essa filosofia foi extremamente bem-sucedida durante mais de três décadas. Entretanto, a escala atual da produção científica — potencializada pela IA generativa — pode exigir novos mecanismos de verificação e controle de qualidade que preservem o espírito da ciência aberta sem permitir que ela seja soterrada por uma avalanche de conteúdo automatizado. O próprio debate em torno da independência institucional recentemente adquirida pelo arXiv já reconhece o desafio de enfrentar o chamado AI slop, isto é, o excesso de conteúdo gerado por IA de baixa qualidade.

Existe ainda uma questão menos discutida, mas igualmente importante. A ciência não é apenas um produto final; ela é um processo social de construção do conhecimento. Hipóteses são refinadas, erros são identificados, argumentos amadurecem por meio da crítica entre pares. Se a produção de artigos passar a ocorrer em ritmo muito superior à capacidade humana de leitura, avaliação e reprodução dos resultados, cria-se um desequilíbrio perigoso entre a velocidade da produção e a velocidade da validação científica. Alguns estudos já alertam que as ferramentas de IA estão acelerando a escrita muito mais rapidamente do que a capacidade do sistema de revisão por pares de acompanhar esse crescimento.  O risco, portanto, não reside na inteligência artificial em si. O problema está na combinação entre incentivos acadêmicos baseados em quantidade de publicações, facilidade extrema de geração de manuscritos e limitações humanas para avaliar esse volume crescente de informação.

Paradoxalmente, a IA pode tanto fortalecer quanto enfraquecer a ciência aberta. Ela amplia o acesso ao conhecimento, mas também pode obscurecê-lo sob uma montanha de textos redundantes, superficiais ou insuficientemente verificados.

Talvez a pergunta mais importante já não seja se a IA escreverá artigos científicos — isso já está acontecendo e aparentemente em quantidades massivas. A verdadeira questão é se conseguiremos preservar os princípios fundamentais da atividade científica: originalidade, transparência, verificabilidade e honestidade intelectual.  É que no fim das contas, a ciência nunca se mediu pelo número de PDFs produzidos, mas pela capacidade de gerar conhecimento confiável capaz de transformar nossa compreensão do mundo e produzir transformações tangíveis no entendemos ser conhecimento científico.