Enquanto grandes corporações acumulam fortunas com a expansão acelerada da IA, pouco se discute sobre seus custos ambientais, a substituição do trabalho humano e a crescente captura do próprio fazer científico
O uso disseminado da chamada Inteligência Artificial (IA) é a principal transformação que vem ocorrendo no mundo científico, afetando, por assim dizer, o conjunto da obra. Não se trata mais de usar a IA para realizar correções linguísticas pontuais, mas até mesmo para escrever textos inteiros, incluindo o desenvolvimento de hipóteses e questões de pesquisa.
Os defensores da IA veem esse processo de captura do fazer científico como uma espécie de chegada de uma nova pedra filosofal, pois haveria um ganho não apenas de tempo, mas também na complexidade dos desafios que se poderiam enfrentar na realização da empreitada científica. É como se, do nada, estivéssemos entrando em uma nova idade de ouro da ciência.
A questão que esses apologistas da IA não fazem, nem querem que se faça, é a seguinte: quem ganha — e aí eu digo economicamente — com toda essa aceleração? Claramente, as grandes corporações econômicas que hoje monopolizam a produção dos algoritmos que impulsionam as diferentes ferramentas que cabem sob a sombrinha da IA. São essas corporações que estão especulando com a IA e, por enquanto, amealhando grandes fortunas com a sensação de que temos ganhos produtivos decorrentes dessa corrida.
Por outro lado, quem perde e o que se perde? Os perdedores são, essencialmente, os trabalhadores que estão vendo suas oportunidades de trabalho serem diminuídas pelo uso da IA. Mas pouco se fala sobre os custos ambientais trazidos pelo boom da IA, a começar pelo consumo exagerado de água, em um momento em que as reservas planetárias já estão se escasseando, inclusive no Brasil.
Como em qualquer onda gerada pela máquina capitalista, existe uma certa euforia em torno da IA. E é justamente por isso que precisamos ter um olhar crítico, e não um de mero deslumbre, sobre as ferramentas de IA. Ainda que não se possam ignorar os ganhos pontuais que se obtêm com a IA, o que não se pode esquecer é que o desenvolvimento intelectual humano ainda possui grande potencial de crescimento, e não há sequer necessidade de uma substituição sistemática da capacidade crítica que os seres humanos possuem.
Por isso, como em muitas outras situações atravessadas pela hegemonia capitalista, esse boom da IA precisa ser compreendido pelo que é e pelos custos que carrega. Do contrário, daqui a pouco não teremos água nem para o cafezinho, enquanto os donos das corporações de IA se afogam em suas fortunas.
Por outro lado, a inteligência humana sempre avançou porque aprendeu a construir ferramentas. O problema nunca foram as ferramentas, mas quem as controla, quem se apropria de seus benefícios e quem é obrigado a suportar seus custos socioambientais. A IA pode ampliar a capacidade humana de produzir conhecimento ou acelerar sua captura pelo capital. A diferença entre um caminho e outro não será decidida pelos algoritmos, mas pela luta política e pelas decisões que sejam tomadas em sociedade.
Relatório da Universidade das Nações Unidas alerta que a expansão acelerada da IA depende de enormes volumes de água para resfriar centros de dados e produzir eletricidade, expondo um custo ambiental praticamente ausente do debate público sobre o futuro da tecnologia
Antes de mais nada, é preciso desfazer uma das ilusões mais difundidas sobre a inteligência artificial: a de que ela pertence a um universo puramente digital, etéreo e praticamente sem impactos materiais. A popularização de ferramentas capazes de produzir textos, imagens, vídeos e análises complexas em questão de segundos criou a percepção de que estamos diante de uma tecnologia “limpa”, cuja principal matéria-prima seria apenas informação. Entretanto, um relatório recentemente publicado pelo United Nations University Institute for Water, Environment and Health (UNU-INWEH), intitulado The Environmental Cost of AI’s Energy Use: Carbon, Water and Land Footprints, demonstra que essa percepção está profundamente equivocada. Por trás da aparente simplicidade de uma pergunta feita a um chatbot existe uma infraestrutura gigantesca composta por centros de dados, redes elétricas, sistemas de refrigeração, cadeias globais de mineração e uma crescente demanda por terras e recursos naturais.
O relatório chega em um momento particularmente oportuno, quando governos e grandes empresas anunciam investimentos bilionários em inteligência artificial como se esta fosse a solução para praticamente todos os desafios contemporâneos. A narrativa dominante enfatiza ganhos de produtividade, inovação e crescimento econômico, mas dedica pouca atenção aos custos ambientais associados a essa expansão acelerada. Ao contrário do discurso corporativo, os pesquisadores da Universidade das Nações Unidas lembram que a inteligência artificial possui uma materialidade muito concreta: ela consome eletricidade, utiliza enormes volumes de água para resfriar servidores, depende da extração de minerais estratégicos e ocupa áreas cada vez maiores destinadas à construção de centros de processamento de dados.
Uma das principais contribuições do estudo é justamente ampliar o conceito de impacto ambiental. Em vez de limitar a discussão às emissões de carbono, o relatório demonstra que cada unidade de energia consumida pela inteligência artificial produz simultaneamente três tipos de pegadas ecológicas: a pegada de carbono, associada às emissões de gases de efeito estufa; a pegada hídrica, relacionada ao consumo direto e indireto de água; e a pegada territorial, que corresponde à ocupação de áreas necessárias para geração de energia, construção de infraestrutura e extração de matérias-primas. Essa abordagem integrada revela que uma fonte energética considerada “limpa” do ponto de vista climático pode continuar exercendo enorme pressão sobre recursos hídricos ou sobre a disponibilidade de terras, mostrando que a simples substituição dos combustíveis fósseis por fontes renováveis está longe de resolver todos os problemas.
Os números apresentados pelo relatório impressionam. Mantido o ritmo atual de expansão, os centros de dados dedicados à inteligência artificial poderão consumir cerca de 945 terawatts-hora de eletricidade por ano até 2030, valor equivalente ao consumo anual de diversos países industrializados. Trata-se de uma demanda energética colossal, impulsionada não apenas pelo treinamento de grandes modelos de linguagem, mas principalmente pela utilização cotidiana dessas ferramentas por centenas de milhões de pessoas. Cada consulta aparentemente trivial realizada em um sistema de IA representa um pequeno consumo de energia que, multiplicado bilhões de vezes diariamente, transforma-se em um dos mais importantes vetores de crescimento da demanda mundial por eletricidade.
Ainda mais preocupante é a questão da água, frequentemente ignorada nas discussões sobre tecnologia digital. Os supercomputadores responsáveis pelo funcionamento dos modelos de inteligência artificial produzem enormes quantidades de calor e necessitam de sofisticados sistemas de refrigeração, muitos deles baseados em água. Além disso, a própria geração da eletricidade utilizada por esses centros de dados também depende, em grande medida, de recursos hídricos. O relatório estima que, até o final da década, a infraestrutura global de inteligência artificial poderá consumir um volume de água suficiente para atender aproximadamente 1,3 bilhão de pessoas por um ano inteiro. Em um contexto marcado pela intensificação das mudanças climáticas, pela ocorrência de secas prolongadas e pelo aumento dos conflitos em torno da disponibilidade hídrica, esse dado assume proporções alarmantes.
Outro aspecto importante destacado pelos autores é a crescente demanda por minerais estratégicos necessários à fabricação de processadores de alto desempenho. A expansão da inteligência artificial significa também uma expansão da mineração de lítio, cobalto, níquel e terras raras, atividades frequentemente associadas a elevados impactos ambientais e sociais. Mais uma vez, observa-se uma divisão internacional dos custos e benefícios: enquanto os ganhos econômicos da revolução digital tendem a se concentrar nos grandes centros tecnológicos e financeiros, a degradação ambiental, a contaminação de ecossistemas e os conflitos sociais decorrentes da mineração recaem, em grande medida, sobre países periféricos da África, América Latina e Ásia.
Essa constatação conduz talvez à reflexão mais importante do relatório: a inteligência artificial também deve ser analisada sob a perspectiva da justiça ambiental. Os benefícios produzidos pela nova economia digital são distribuídos globalmente entre grandes empresas, investidores e consumidores de alta renda, mas seus impactos recaem de maneira desigual sobre comunidades locais que enfrentam aumento da demanda por água, pressão sobre sistemas elétricos, expansão da mineração, geração crescente de resíduos eletrônicos e ocupação intensiva do território. Em outras palavras, a inteligência artificial reproduz um padrão já conhecido de outras cadeias produtivas globais, no qual a riqueza é apropriada por poucos enquanto os passivos ambientais são socializados.
No caso brasileiro, as implicações desse cenário merecem atenção especial. O país reúne algumas das condições consideradas ideais para a instalação de grandes centros de dados, como relativa disponibilidade de energia renovável, abundância hídrica em determinadas regiões e potencial para expansão da infraestrutura elétrica. Ao mesmo tempo, é um dos principais fornecedores mundiais de minerais estratégicos e abriga biomas extremamente sensíveis, como a Amazônia e o Cerrado, que já sofrem forte pressão decorrente da mineração, do desmatamento e da expansão do agronegócio. Sem mecanismos robustos de regulação ambiental e planejamento territorial, a corrida global pela inteligência artificial pode aprofundar processos históricos de exploração de recursos naturais, concentrando benefícios econômicos e distribuindo impactos ambientais sobre populações vulneráveis.
O mérito do relatório do United Nations University Institute for Water, Environment and Health está justamente em retirar a inteligência artificial do campo da abstração tecnológica e recolocá-la no mundo material. Por trás de cada resposta produzida por um algoritmo existem cabos, concreto, aço, cobre, água, eletricidade, mineração, transporte e ocupação do território. Em um momento em que a inovação tecnológica é frequentemente apresentada como sinônimo automático de sustentabilidade, esse documento lembra que nenhuma revolução digital é capaz de escapar das leis da física nem das limitações ecológicas do planeta. A verdadeira discussão sobre inteligência artificial, portanto, não deve restringir-se à velocidade dos algoritmos ou aos ganhos de produtividade, mas precisa incorporar uma pergunta muito mais fundamental: quem suporta os custos ambientais dessa transformação e quem efetivamente se beneficia dela? Essa é uma questão que não pode continuar ausente do debate público, especialmente em países como o Brasil, onde a exploração intensiva dos recursos naturais já produz profundas desigualdades sociais e territoriais.
Uma entrevista com um acadêmica que testemunhou de perto o impacto da inflação de citações por IA
Como alguém de fora do meio acadêmico em sua totalidade, devo admitir que não tenho muita experiência com a publicação acadêmica/literatura revisada por pares.
Mas mesmo assim, eu sei quando algo está errado, e claramente o que ficou conhecido como “Frankencitações” — referências em artigos acadêmicos a literatura inexistente, inventadas por meio do uso do LLM — está errado. Elas ridicularizam todo o empreendimento e me parecem uma espécie de crise.
Ben Williamson, da Universidade de Edimburgo, tem acompanhado o fenômeno devido a uma experiência muito pessoal com as Frankencitations. Fiz-lhe algumas perguntas sobre o que está acontecendo e o que ele acha que devemos fazer a respeito.
JW: Vamos começar com uma apresentação para que as pessoas entendam suas credenciais.
BW: Sou professora sênior noCentro de Pesquisa em Educação Digital da Universidade de Edimburgo e editora do periódicoLearning, Media and Technology . Minha pesquisa se concentra em tecnologia digital e dados no setor educacional, com trabalhos recentes e em andamento voltados para investidores em tecnologia educacional, a ascensão das ciências biológicas da aprendizagem com uso intensivo de dados e políticas educacionais relacionadas à IA.
P: O que é uma “Frankencitação” e por que devemos nos preocupar com elas?
R: Nos últimos dois ou três anos, muitos de nós que trabalhamos em universidades começamos a notar essas estranhas referências a artigos de periódicos acadêmicos ou livros que não existem. As referências são fabricadas por inteligência artificial generativa quando um autor, por exemplo, instrui um modelo de linguagem complexo a ajudá-lo a escrever um artigo ou adiciona referências para fundamentar uma revisão bibliográfica. Acho que todos já sabemos que os modelos de linguagem complexos rotineiramente inventam material. É isso que está acontecendo aqui. Os modelos de linguagem complexos estão criando referências acadêmicas porque pesquisadores acadêmicos os utilizam para produzir trabalhos de pesquisa, como artigos, capítulos ou livros.
Já ouvi vários nomes diferentes para isso: referências fantasmas, citações zumbis, referências espectrais ou Frankencitações. O que todos esses termos querem dizer é que as referências falsas geradas por IA não são reais, como um corpo humano vivo, mas têm uma espécie de meia-vida. “Frankencitações” funciona bem como nome porque elas são como o monstro — costuradas a partir de dados em um modelo de linguagem e, em seguida, animadas quando alguém usa um chatbot como o ChatGPT para fazer o trabalho por elas. E então, essas citações fabricadas podem causar todo tipo de problema quando se espalham pelo mundo ao serem incluídas em artigos acadêmicos.
P: Isso me parece muito ruim. Uma verdadeira onda de conteúdo falso infectando pesquisas acadêmicas e citações.
R: O grande problema que enfrentamos agora é que essas citações Frankenstein estão acabando em manuscritos enviados para revisão por pares. Isso está sobrecarregando editores e revisores, pois agora precisamos fiscalizar os manuscritos em busca de informações falsas nas listas de referências. Algumas dessas citações Frankenstein estão até mesmo sendo publicadas em periódicos acadêmicos. Elas simplesmente não estão sendo detectadas em nenhuma etapa do processo de publicação acadêmica — nem por editores, nem por revisores, nem mesmo durante a revisão, a correção de provas e a produção da publicação final.
Usar IA para produzir publicações acadêmicas com essas inserções falsas é uma forma de poluição do conhecimento, como deixar toxinas se infiltrarem em um rio e alterarem todo o ecossistema que ele alimenta. Também interfere na integridade acadêmica e quebra as cadeias de citação que sinalizam a relação de um autor com sua área de estudo. Isso representa o perigo real de que indivíduos sejam creditados por ideias que nunca tiveram ou que lhes sejam atribuídas afirmações que nunca fizeram. É por isso que a ideia de que essas referências falsas têm uma espécie de meia-vida me parece correta: elas estão circulando, deixando sua marca no mundo acadêmico e causando enormes problemas para editores, revisores e leitores de periódicos, apesar de não terem a substância de uma publicação real.
P: Você tem uma história interessante sobre como se deparou com o fenômeno pela primeira vez. Gostaria que você nos contasse essa história, mas também gostaria de saber o que você estava pensando/sentindo enquanto tudo acontecia. Qual foi a jornada intelectual/emocional de descobrir que você havia sido tão extensivamente Frankenificado?
R: Sou editora de periódico e isso envolve verificar novos manuscritos submetidos para decidir se são adequados para revisão por pares. Recentemente, meus coeditores e eu começamos a encontrar referências em novos manuscritos a artigos nos quais um ou mais de nós éramos creditados como autores, mas soubemos imediatamente que esses artigos não deviam ser reais, pois não os escrevemos!
Nossa hipótese é que alguns autores que submetem artigos à nossa revista estejam solicitando aos editores que incluam referências a artigos dos próprios editores, na esperança de que isso aumente as chances de seus manuscritos serem aprovados na revisão inicial. O problema é que eles estão inserindo erros crassos que detectamos imediatamente. Assim, nesses casos, os editores se tornam não apenas os primeiros leitores, mas também os últimos, já que somos obrigados a rejeitá-los de imediato. Isso configura uma conduta acadêmica inadequada, segundo os padrões de publicação científica, visto que os autores são absolutamente responsáveis pela precisão das referências em seus próprios manuscritos.
Recentemente, porém, decidi fazer uma busca na internet por uma dessas falsas referências a mim, puramente por curiosidade para ver se ela aparecia em algum outro lugar. Tinha o título “Governança e datificação da educação”. É um título bem genérico, mas já publiquei sobre os temas “educação”, “governança” e “datificação”, então essas são palavras-chave plausíveis para associar ao meu nome. Mas quando pesquisei “Governança e datificação da educação”, percebi rapidamente que essa citação Frankenstein em particular teve uma vida útil bastante agitada. Pelo que pude apurar, esse texto, “Governança e datificação da educação”, foi citado cerca de 70 vezes. Você mesmo pode conferir — basta acessar o Google Acadêmico, pesquisar “Governança e datificação da educação” e encontrará páginas e páginas de publicações que me citam por algo que eu nunca escrevi.
O que me intriga ainda mais é que, entre todos esses artigos, o subtítulo “Governança educacional e datificação” muda constantemente. Ele é citado em diversos periódicos diferentes. Às vezes, é um livro inteiro. Na maioria das vezes, tem um coautor nomeado — alguém com quem já colaborei —, mas às vezes não. E esse não-artigo continua a circular, ainda recebendo novas citações.
P: Sua reputação acadêmica explodiu!
R: Uma publicação inexistente tornou-se rapidamente uma das minhas mais citadas. É um pouco frustrante, porque de fato dediquei anos de trabalho relevante, mas dezenas de autores preferem citar algo em que eu nunca trabalhei.
O que realmente me preocupa é não saber pelo que estou sendo creditado. A maioria desses artigos é da minha área. Alguns foram publicados por editoras predatórias de qualidade muito baixa e podem ser ignorados sem problemas. Mas nem todos. Há casos em que acadêmicos renomados, que publicam em periódicos de alto impacto, estão citando meu trabalho. O que eles estão dizendo que eu escrevi ou reivindiquei? Também fiquei sabendo por um colega de outra instituição que minha citação falsa apareceu em um trabalho de um aluno. Portanto, a produção e reprodução dessas referências falsas também coloca os alunos em risco.
É uma situação realmente ridícula. Sou mais reconhecido por algo que não escrevi do que pelos artigos que de fato escrevi sobre o tema de educação, dados e governança!
P: Mesmo achando que entendo o fenômeno em um nível básico, não tenho certeza de como e por que essas coisas se proliferam tão rapidamente. Você fez um estudo para verificar quantas vezes havia sido alvo de Frankencitações e, algum tempo depois, outra pessoa fez um acompanhamento e o número de Frankencitações havia aumentado significativamente. Qual é o mecanismo? Qual a dimensão do fenômeno?
R:Sim, depois que publiquei algo online sobre minha descoberta, um cientista da computação chamado Dirk HR Spennemann investigou o assunto de forma completamente independente. Ele usou isso como exemplo para examinar como os LLMs produzem referências fabricadas — ele acabou de publicar umpreprint no arXivque detalha os aspectos técnicos. Então, ele fez uma busca muito mais minuciosa no Google Acadêmico do que eu consegui. O que ele descobriu foi que o artigo inexistente havia sido citado quase 140 vezes. E ele queria entender, em um nível técnico, como os LLMs geram essas referências. A conclusão dele foi que existem padrões distintos na forma como o genAI as cria. Aqui está o que ele escreveu no artigo:
“As referências acadêmicas alucinadas criadas pelo ChatGPT não são erros aleatórios, mas sim artefatos previsíveis e orientados por padrões, que refletem a forma como os modelos de IA geram texto. Essas referências são reconstruções sistemáticas construídas a partir de autores, periódicos e palavras-chave relevantes reais. Como os modelos de IA se baseiam no reconhecimento de padrões em vez da verificação factual, eles produzem citações que são estruturalmente corretas e contextualmente plausíveis, porém inexistentes. Essas alucinações podem ser geradas repetidamente, levando à duplicação e consistência em diferentes textos, o que pode aumentar sua legitimidade percebida.”
Certo, então, “Governança educacional e datificação” é uma combinação de um autor real (eu), periódicos reais (alguns dos quais publiquei) e palavras-chave relevantes (como eu disse, trabalho na área da educação e estudo dados e governança). Como também existe no Google Acadêmico, considerado um índice de referência da produção acadêmica mundial, um modelo de linguagem que busca informações na web — em vez de apenas gerar texto a partir de seus dados de treinamento — acaba confirmando a existência e a legitimidade do artigo, apesar de ele não existir. Spennemann também realizou um pequeno experimento no qual instruiu o ChatGPT a gerar ensaios sobre o tema de governança educacional e dados. Ele citou o artigo inexistente, é claro.
Como explicou Aaron Tay,especialista em sistemas de bibliotecas , o que temos é um conjunto dinâmico de processos que envolvem tanto o Google Acadêmico quanto a IA generativa. O Google Acadêmico estabeleceu “Governança e datificação da educação” como uma citação referenciada por outras 140 publicações, e os LLMs (mestrados em direito) estão amplificando sua existência ao executar processos de geração aumentada por recuperação (RAG) que tratam o Google Acadêmico como uma fonte autorizada de verdade citacional. O Google Acadêmico o trata como real e os chatbots o reproduzem como tal assim que alguém escreve uma proposta para uma redação ou artigo sobre o mesmo tema.
Uma coisa que tem sido difícil de descobrir completamente é se “Governança educacional e datificação” surgiu inicialmente como uma referência totalmente gerada por IA, ou se originou de um erro humano, que a genAI apenas amplificou massivamente desde então.
P: Creio que seja óbvio para todos por que proliferar citações falsas sobre uma fonte inexistente é simplesmente errado e ruim, mas o que há além disso? O que podemos esperar se permitirmos que essas coisas continuem a se proliferar?
R:Obviamente, já tivemos problemas com citações incorretas e pesquisas falsificadas no passado. O uso atual de IA generativa está industrializando problemas antigos na academia e nos colocando sob muito mais pressão quando se trata de publicação acadêmica. Para mim, isso é uma questão de confiança. Como confiar no registro acadêmico se ele está poluído com material sintético que não se refere mais com precisão a pesquisas anteriores? Quero dizer, toda pesquisa deveria ser um processo de construção sobre o conhecimento prévio para gerar novas ideias e fazer contribuições originais para a compreensão. Não é o caso com as Frankencitações. De forma mais prosaica, por que eu deveria confiar em um autor que submeteu algo à nossa revista que viola a integridade acadêmica?
É também uma questão de trabalho acadêmico. Uma pessoa que tenta economizar tempo ou ser mais produtiva com IA tem efeitos subsequentes sobre aqueles que supervisionam os manuscritos acadêmicos durante a revisão e publicação. Isso está começando a causar um sofrimento intolerável para editores e revisores de periódicos. Já estamos tendo que trabalhar muito mais para acompanhar o aumento exponencial das taxas de submissão, e agora muitas pessoas estão dizendo que também deveríamos verificar cada referência em um artigo — uma tarefa praticamente impossível.
O problema realmente abrangente é o que alguns agora chamam de “desleixo acadêmico”. Enciclopédias Frankenstein podem ser um bom indicador de um artigo gerado por IA. Estamos falando de lixo de IA na academia. Não se trata apenas de referências falsificadas com IA, mas de artigos e livros inteiros. O problema é que grande parte disso é difícil de detectar. Alguns pesquisadores acreditam que deveríamos trabalhar mais com IA e sugerem que é natural que, com o tempo, cada vez mais registros acadêmicos sejam aumentados com a ajuda da IA — seja pelo uso da IA na produção e análise de dados ou como coautora e parceira na produção de conhecimento. Isso pode ser verdade para alguns, em projetos específicos, para fins específicos. Mas o que temos aqui é a produção massiva e mecânica de material acadêmico que pode ou não corresponder a algo real no mundo. Se um artigo não corresponde nem mesmo à literatura anterior em sua própria área, como podemos confiar que ele nos diga algo sobre seus próprios sujeitos e objetos de análise?
P: A curto prazo, existe algo que nós (leitores, pesquisadores, instituições, publicações, etc.) possamos fazer para impedir essa proliferação?
R: Um dos motivos pelos quais temos nos manifestado bastante sobre isso em nossa revista é justamente para tentar persuadir autores acadêmicos de que é uma má ideia se desvalorizarem como pesquisadores e nos insultarem como editores e revisores, submetendo manuscritos com material falso. Quer dizer, se você nos cita e nós não escrevemos o artigo, sabemos o que você fez, e isso diz muito sobre seus padrões acadêmicos. Mas, é claro, essas referências falsas nem sempre são fáceis de detectar, e lidar com isso exigirá esforços muito mais sistêmicos. As editoras já estão testando soluções tecnológicas que supostamente detectam referências geradas por IA. Mas isso aparentemente é muito mais complexo tecnicamente do que se imagina. Já sabemos que os detectores de escrita por IA geram muitos falsos positivos, e é por isso que não são confiáveis para uso em revistas acadêmicas ou para a revisão de trabalhos de estudantes. Os detectores de citação por IA podem apenas amplificar os mesmos problemas, levando a ondas de falsas acusações, rejeições de artigos e animosidade acadêmica.
Acho que precisamos deixar claro que as editoras acadêmicas e as empresas de tecnologia precisam, sem dúvida, se unir e nos ajudar nessa questão. Afinal, as editoras têm parcerias multimilionárias com as grandes empresas de IA para alugar nossos artigos existentes como dados de treinamento para novos modelos. Elas fazem parte do problema do conteúdo acadêmico produzido por IA e precisam trabalhar com editores, autores, bibliotecas e instituições para resolvê-lo.
Aqui no Reino Unido, muitas bibliotecas acadêmicas já estão cancelando contratos com editoras devido ao aumento vertiginoso dos custos. E se nossas bibliotecas e as associações que as representam fossem até as editoras e as grandes empresas de tecnologia com as quais têm parceria e exigissem providências? Sem dúvida, há muito mais força em alianças desse tipo do que em alguns editores gritando em suas redes sociais (como tenho feito ultimamente).
P: E a longo prazo? Quais são as mudanças estruturais/sistêmicas necessárias para evitar que sejamos inundados por esse tipo de lixo de IA?
R: Precisamos de algum tipo de conjunto de acordos consensuais em todo o setor quando se trata de publicação acadêmica. É claro que as violações da integridade acadêmica não começaram com a IA generativa. Editoras predatórias existem há muito tempo. As fábricas de papel também conseguem produzir manuscritos sob demanda há anos. Algumas pesquisas científicas são ruins e nunca deveriam ser publicadas.
A IA está agora amplificando todos esses problemas existentes. Não os está atenuando. E no atual contexto político de muitos países, a ciência já está sob ataque. Não é difícil imaginar publicações “científicas” geradas por IA que sirvam a fins políticos mais explícitos, especialmente porque certas revistas acadêmicas já foram tomadas e se voltaram contra acadêmicos liberais. A IA também tem o potencial de acelerar ainda mais a produção de artigos científicos, agravando o dilúvio de manuscritos que já inunda as revistas. Esta não é a utopia da IA para a transformação da publicação acadêmica que nos foi prometida quando as editoras se aliaram à OpenAI, ao Google e à Microsoft.
Então, que tipos de regras e normas precisamos reforçar para nos proteger de tudo isso? Precisamos de acordos setoriais sobre como lidar com violações da integridade acadêmica? Na academia e no mercado editorial, temos diversos conjuntos de princípios, padrões e regras. Então, por que não para a IA também?
Não tenho respostas ou soluções completas para esses problemas. Assim como muitos outros editores, revisores, autores e bibliotecários universitários, tenho lutado para manter uma certa esperança acadêmica, visto que a IA foi simplesmente liberada em todos os nossos sistemas de conhecimento. É claro que o sistema já apresentava sérios problemas, mas me parece evidente que o experimento descontrolado com IA dos últimos anos tem sido um desastre para a produção e publicação do conhecimento acadêmico.
Os editores da revista Organization Science acabaram de realizar um estudo detalhado sobre isso, concluindo que o uso acadêmico da IA levou a mais pesquisas, mas não a pesquisas de melhor qualidade, e causou uma crise na revisão por pares. Precisaremos de esforços conjuntos de instituições, editoras e até mesmo das próprias empresas de tecnologia para resolver essa situação. Caso contrário, corremos o risco de o público perder ainda mais a confiança no setor como fonte confiável de conhecimento importante. Ou, para sermos mais otimistas, talvez possamos aproveitar este momento para definir qual tipo de sistema de publicação acadêmica realmente funcionaria melhor no futuro.
Um caso constrangedor envolvendo o veterano jornalista belga Peter Vandermeersh ilustrou os perigos associados ao uso indiscriminado de ferramentas de inteligência artificial (IA) na produção de conteúdo jornalístico. Chefe das operações irlandesas do Mediahuis, um dos principais grupos de mídia na Europa, ele foi suspenso de suas funções em março após uma investigação interna constatar que incorporou a seus textos falsas declarações entre aspas atribuídas a especialistas, que foram geradas erroneamente por programas como ChatGPT, Perplexity e Google NotebookLM.
Dezenas de declarações presentes em 15 textos publicados por Vandermeersh não correspondiam a fontes verificáveis e sete fontes citadas nos artigos negaram veementemente ter proferido aquelas palavras. “Existem citações que não podem ser encontradas nas publicações das quais Vandermeersch afirma tê-las obtido, como estudos científicos e notícias”, informou o jornal NRC (do qual Vandermeersch já foi editor-chefe), responsável pela investigação. O jornalista reconheceu os equívocos e afirmou ter “caído na armadilha das alucinações”, termo usado para descrever erros gerados por IA, ao confiar excessivamente nas ferramentas sem verificar o conteúdo replicado.
“Perdi muitos minutos do meu tempo procurando onde eu poderia ter dito alguma besteira sobre ‘conhecimento imersivo’”, queixou-se Emily Bell, diretora do Centro Tow de Jornalismo Digital da Universidade Columbia, nos Estados Unidos, uma das vítimas das alucinações disseminadas por Vandermeersh. Usando ferramentas de IA do Google, Bell encontrou frases muito semelhantes em um discurso feito por outra pessoa. Seu nome também foi mencionado nesse discurso, mas em outro contexto, o que pode ser a origem da alucinação. O episódio evidencia um paradoxo da IA generativa: a tecnologia é capaz de produzir textos verossímeis, mas não há garantia de que sejam verdadeiros. Isso coloca em xeque princípios fundamentais do jornalismo profissional, como a verificação e a precisão dos fatos transmitidos ao público.
O tema tem sido abordado em estudos que investigam como jornalistas que cobrem assuntos científicos estão lidando com a incorporação da IA em suas rotinas de trabalho. Um artigo publicado em dezembro no Sage Journals por seis pesquisadores da área de comunicação, três deles brasileiros (Luisa Massarani e Cleiton Bezerra, da Fundação Oswaldo Cruz, e Luiz Neves, da Universidade Federal de Goiás), evidenciou uma ampla adoção das ferramentas de IA por repórteres especializados em ciência em tarefas corriqueiras, como transcrição de gravações e apoio à escrita. Nas entrevistas com os profissionais de imprensa, também foram relatadas preocupações com a confiabilidade das informações e com a compatibilidade do uso de IA com valores jornalísticos, como responsabilidade e ética. A maioria ainda é cautelosa ao utilizar a tecnologia em tarefas mais sofisticadas, como a análise de dados.
A adoção da inteligência artificial nas redações, segundo a pesquisa, varia entre países. Os autores se debruçaram sobre três deles: Brasil, Índia e Reino Unido. Jornalistas científicos britânicos mostraram certa resistência ao uso avançado das ferramentas, enquanto brasileiros e indianos indicaram ser mais flexíveis. Uma particularidade dos brasileiros é que adotam amplamente as ferramentas para traduzir textos e apoiar a escrita em um segundo idioma. Entre os benefícios propiciados pela IA, os entrevistados destacam o aumento da eficiência e o acesso facilitado à informação e, entre os perigos, a possibilidade de disseminar desinformação e a eliminação de postos de trabalho, que são cada vez mais escassos no jornalismo, incluindo sua vertente de ciência.
Outro estudo, esse publicado no Journal of Science Comunication por pesquisadores das universidades de Mainz e Ludwig Maximillian, de Munique, entrevistou 30 jornalistas científicos alemães sobre as perspectivas abertas pelo uso de IA. Os autores tinham interesse em saber se as novas ferramentas poderiam amenizar ou agravar o que se convencionou chamar de “crise do jornalismo científico”, impulsionada pela crescente digitalização dos meios de comunicação, pela perda de anunciantes e pelas mudanças nos hábitos de consumo de notícias do público. Em um fenômeno ambivalente, pesquisadores e divulgadores científicos criaram canais de comunicação direta com os leitores, por meio de blogs e redes sociais, enquanto os jornalistas profissionais foram impactados por demissões e sobrecarga de trabalho. A maioria dos profissionais entrevistados, contudo, disse não se sentir ameaçada e reconhece que sua atividade caminha pra uma integração cada vez maior com a IA.
Já um estudo da PLOS ONE realizado por duas pesquisadoras da Universidade de Twente, nos Países Baixos, e outro da Universidade de Bolonha, na Itália, analisou a qualidade da cobertura da imprensa sobre IA em quatro nações (Bélgica, Itália, Portugal e Espanha), examinando notícias e entrevistando jornalistas científicos. De forma geral, os entrevistados demonstraram preocupação com a situação do jornalismo científico, incluindo a falta de financiamento, que pode afetar a qualidade das reportagens. Segundo o estudo, novas vertentes, como o jornalismo de engajamento, que prevê a participação da audiência na produção da notícia, e o jornalismo de soluções, que busca evidências capazes de resolver problemas sociais, teriam potencial para contribuir no enfrentamento desses desafios, inclusive nesse momento de transição, com a IA batendo à porta.
Para auxiliar nessa travessia, em 2024 o Centro de Estudos de Ciência, Comunicação e Sociedade da Universidade Pompeu Fabra (SCS-UPF), instituição pública localizada em Barcelona, na Espanha, liderou o desenvolvimento de um guia de ferramentas de inteligência artificial para jornalistas científicos. O manual se divide em três blocos. O primeiro indica plataformas que auxiliam na pesquisa de documentos e imagens, na identificação de pesquisas revisadas por pares, na tradução de textos e na transcrição de áudios. O segundo se detém em recursos para podcasts e o terceiro na organização do fluxo de trabalho. Para selecionar as melhores ferramentas, foi realizado um webinar com profissionais da comunicação científica, que apontaram aquelas que usavam com mais frequência. Todas elas foram testadas em um curso-piloto realizado em Barcelona, para verificar se eram mesmo eficientes e úteis.
Por John Drake, professor da Universidade da Geórgia, para a Forbes
As submissões de artigos para revistas científicas aumentaram desde o lançamento do ChatGPT, sobrecarregando um sistema de revisão por pares construído para a produção em escala humana. Um novo estudo da Organization Science mede o impacto. getty
O termo “IA slop” geralmente descreve as imagens e o texto de baixa qualidade que a mídia social desordena. Chegou agora ao sistema de revisão por pares que governa o que conta como conhecimento científico.
As Submissões à Ciência da Organização, uma das principais revistas em pesquisa de gestão, subiram 42% desde o lançamento do ChatGPT. A escrita piorou.
Umnovo estudo da equipe editorial da revista descobriu que os manuscritos gerados por IA são mais difíceis de ler, mais jargões carregados e mais propensos a serem rejeitados do que aqueles escritos por humanos. Enquanto isso, mais de 30% das avaliações de especialistas que os periódicos rotineiramente usam para decidir o que publicar agora mostram o uso detectável de IA, e os editores relatam que essas revisões são essencialmente pouco informativas. A tecnologia que deveria tornar a ciência mais produtiva está, no momento, tornando mais difícil avaliar. Sem dúvida, este é um instantâneo de um sistema em transição, não um veredicto permanente sobre a IA na pesquisa. Mas o instantâneo vale a pena olhar de perto.
Tenho escritosobre as pressões estruturais sobre a revisão por pares, e sobre o risco de que as ferramentas de IA possamdegradar a qualidade do pensamento científico, mesmo à medida que aceleram a produção. Este artigo, da Força-Tarefa de IA da revista liderada por Sharique Hasan, da Duke, é o primeiro a colocar dados detalhados por trás dessas preocupações em um único periódico.
Esta foto tirada em 23 de janeiro de 2023 em Toulouse, sudoeste da França, mostra telas exibindo os logotipos do OpenAI e do ChatGPT. (Foto de Lionel BONAVENTURE / AFP) (Foto de Lionel BONAVENTURE/AFP via Getty Images)
AFP via Getty Images
A qualidade dessa escrita deteriorou-se. As pontuações de IA e Flesch Reading Ease foram negativamente correlacionadas entre as submissões. Manuscritos com alto conteúdo de IA exigem um nível de nível mais alto para analisar, usar mais nominalizações (palavras como “conceitualização” e “operacionalização”) e carregar mais jargões. Curiosamente, existem algumas dimensões em que o texto de IA teve melhor desempenho: tendia a ser mais específico e menos hedge. Mas o efeito líquido é a prosa que é mais densa e mais difícil de ler. Gartenberg invocou o ensaio de George Orwell “Política e a Língua Inglesa”, com seus exemplos de políticos enterrando significado na abstração. A prosa de IA, disse ela, se lê como esses políticos: densa, vagamente impressionante, difícil de seguir.
The Prompt: Receba as maiores notícias de IA da semana sobre as empresas mais movimentadas e avanços mais ousados, em sua caixa de entrada.
O título do jornal enquadra o problema: “Mais versus melhor”. “A IA, como está sendo usada hoje, está colidindo com incentivos institucionais para criar mais do que uma pesquisa melhor”, disse Gartenberg. “Não é a IA por si só. É IA mais incentivos de publicação ou pereza.”
Quem está usando e por quê
O jornal inclui uma descoberta que deve preocupar qualquer um que pense que isso é apenas sobre alguns maus atores com ChatGPT. As escolas de negócios cujo corpo docente historicamente mais responde aos rankings de contagem de publicações aumentaram desproporcionalmente seus envios de IA depois que o ChatGPT se tornou disponível. O ranking em questão é alista da UTD, mantida pela Universidade do Texas em Dallas, que pontua escolas de negócios por quantos artigos seu corpo docente publica em 24 revistas de topo designadas. É uma das métricas mais amplamente observadas na academia de negócios, e os acadêmicos de escolas que competem nela têm fortes incentivos para maximizar a quantidade.
O efeito é estatisticamente significativo: as escolas que competem no ranking da UTD enviaram mais trabalhos após o ChatGPT, e esses trabalhos adicionais foram desproporcionalmente IA escrita. Isso sugere que o uso pesado de IA em manuscritos não é aleatório, mas rastreia incentivos institucionais. Autores em escolas onde a contagem de publicações mais importa são os que mais se apoiam nas máquinas.
Gartenberg descreveu o que ela vê como sua visão central do projeto: a IA é uma ferramenta agnóstica. Você pode apontá-lo para a qualidade ou você pode apontá-lo para o volume. “Há incentivos de volume tão poderosos agora”, disse ela, “que pode realmente ser destrutivo”.
O lado da revisão
A IA não se limita ao pipeline de submissão. Mais de 30% das avaliações por pares na Organization Science agora mostram o uso detectável de IA, acima de quase zero antes do ChatGPT. Essas revisões seguem o mesmo padrão que os envios: mais difícil de ler, mais nominalização, mais jargões. Eles também mudam a ênfase para a teoria e para longe de dados e métodos empíricos, um estreitamento da faixa avaliativa que, se persistir, poderia remodelar que tipo de ciência é recompensada.
A ética da IA na revisão por pares é instável. Se um especialista usa a IA para informar uma opinião, essa opinião ainda é do especialista? Manuscritos inéditos são compartilhados com revisores em confiança. Enviá-los para os servidores de um chatbot é geralmente visto como inaceitável, uma divulgação para um leitor não autorizado, mesmo que esse leitor seja uma máquina. Mas o cálculo muda se o manuscrito já estiver público em um servidor de pré-impressão? Se a IA é executada em um ambiente com caixa de areia que não retém nada? Se o revisor coloca uma pergunta que nunca compartilha explicitamente o texto? Essas distinções importam, e nenhuma delas está resolvida.
A descoberta mais reveladora é que, na Organization Science, as revisões de IA não parecem informar decisões editoriais. As revisões humanas correlacionam-se com os resultados editoriais. As avaliações de IA não. “Não é como se os editores soubessem que essas são avaliações de IA e estão jogando-as fora”, disse Gartenberg. “Eles estão lendo e não estão informando a recomendação final do editor.” Os editores estão substituindo seu próprio julgamento, o que significa que a revisão, o mecanismo central do controle de qualidade na ciência, está produzindo um texto no qual ninguém age.
Segurando a Linha, por Enquanto
A boa notícia é que o processo editorial da Organization Science ainda está filtrando de forma eficaz. Apenas 3,2% dos manuscritos pontuados em 70% ou mais de uso da IA recebem uma revisão e reenvio, em comparação com 11,9% para papéis de IA baixos. Artigos publicados permanecem predominantemente gerados pelo ser humano. Os editores estão a apanhar o mau trabalho.
No entanto, há um custo humano significativo. A revista dobrou seus editores adjuntos de seis para onze e quase dobrou seus editores seniores de cerca de 30 para 60. Tudo isso é trabalho voluntário, acadêmicos não remunerados doando tempo para manter a qualidade científica. Quando esses acadêmicos estão eliminando o IA slop, eles não estão usando seu tempo para dar aulas, realizar pesquisas ou servir suas profissões.
O economista Scott Cunningham moldou a produção científica como uma função de produção com dois insumos: tempo humano e tempo da máquina. Um pouco de tempo de máquina, combinado com tempo humano substancial, aumenta a qualidade da saída. Mas se os pesquisadores deixarem a máquina substituir seu próprio engajamento, eles entram no que Cunningham chama de “zona de perigo”, uma região onde a qualidade da produção realmente fica abaixo do que eles teriam produzido sem a IA. O mecanismo é simples: o tempo humano não é apenas trabalho. É o processo através do qual a atenção se acumula no conhecimento e no julgamento. Evite as horas e você pule o aprendizado.
Os dados de Gartenberg sugerem que a zona de perigo não é hipotética. Já é visível nas estatísticas de submissão de uma grande revista. “As pessoas pensam como escrevem”, ela me disse, “e por isso, se você não escreve, você não está pensando tão profundamente sobre isso.” Os pesquisadores que enviam manuscritos obtiveram pontuação em 70% ou mais de conteúdo de IA, na estrutura de Cunningham, ultrapassaram esse limiar. Trocaram o pensamento pela produção. Os editores podem dizer.
Um instantâneo, não um veredicto
Essas descobertas merecem contexto. Os dados vão até o início de 2026, mas grande parte da IA que a equipe detectou foi produzida com modelos anteriores, ChatGPT 3.5 e GPT-4, que tinham contagens estilísticas bem conhecidas e uma tendência para a prosa nominal inchada. As ferramentas estão melhorando rapidamente. Não há nada fundamental para impedir que um modelo de linguagem seja treinado ou solicitado a escrever em um nível de leitura alvo, para minimizar o jargão, para passar nos mesmos testes de legibilidade que os editores humanos usam. A lacuna de qualidade deste documento em papel pode ser substancialmente uma função de quão grosseiramente a maioria dos pesquisadores está atualmente implantando as ferramentas. Há tanto a maturidade das próprias ferramentas quanto a maturidade das pessoas que as usam. Ambos estão evoluindo.
Também vale a pena notar o que o papel não mostra. A Ciência da Organização não está perdendo o seu melhor trabalho. Os principais artigos da revista ainda estão passando, e sua taxa geral de rejeição é essencialmente inalterada em todas as categorias de IA. Os envios adicionais são principalmente medíocres e os editores estão filtrando-os. Uma maneira de ler os dados é que o efeito líquido sobre o conhecimento ainda é positivo: toda a boa ciência que estava sendo produzida antes, além de alguma fração de novo trabalho que, embora não mude de campo, registra fatos e descobertas que podem ser úteis para alguém no futuro. A ciência sempre gerou uma longa cauda de trabalho incremental ao lado dos avanços. Se o custo de produção dessa cauda cair, e o processo editorial ainda puder separar o sinal do ruído, a base de conhecimento pode crescer mesmo que a qualidade média dos envios diminua.
Também existe uma possibilidade mais especulativa. Se a IA está aumentando a variação na qualidade de submissão enquanto o processo editorial apara a cauda inferior, os melhores papéis no pipeline poderiam realmente ser melhores do que antes. Pesquisadores que usam bem a IA, como um parceiro de pensamento em vez de um ghostwriter, podem estar produzindo um trabalho mais ambicioso do que poderiam ter conseguido sozinhos. Os dados ainda não podem confirmar isso. Mas eles são consistentes com isso.
Em um ponto de nossa conversa, Gartenberg desenhou uma analogia com o xadrez. A IA pode vencer qualquer jogador humano, mas o xadrez é mais popular agora do que nunca. A pergunta que ela continua entregando: o que se torna o objetivo da ciência quando a IA pode produzir as saídas? Quando falei com Jeff Clune, autor sênior de um artigo recente da Nature sobreautomação de pesquisa de ponta a ponta, ele fez uma observação semelhante sobre escalada em rocha. Alex Honnold pode escalar El Capitan mais rápido e melhor do que Clune jamais vai. Isso não fez Clune desistir de subir. Montanhas e xadrez e ciência não são entretenimento. São coisas que proporcionam significado às pessoas. A ciência pode estar se aproximando de um momento existencial, onde o propósito do trabalho importa mais do que os produtos dele.
Onde a IA pode realmente ajudar
A ironia da situação atual é que a mesma tecnologia que cria problemas no lado da submissão pode ser útil no lado editorial. O gargalo na publicação acadêmica não é produção. É avaliação. Os diários estão se afogando em manuscritos e lutando para encontrar revisores dispostos a lê-los. A IA é adequada exatamente para o tipo de avaliação estruturada que pode aliviar essa pressão.
Considere o que um periódico pode fazer com a IA no pipeline editorial. Antes que qualquer ser humano leia um envio, uma tela automatizada verifica a facilidade de leitura, a densidade do jargão e a complexidade da frase. Trabalhos abaixo de um limiar são devolvidos aos autores com feedback específico. Isso, por si só, filtraria uma parcela substancial dos envios de baixa qualidade que atualmente consomem tempo de editores voluntários.
A IA também pode avaliar dimensões que os editores humanos avaliam de forma intuitiva, mas inconsistente: se as alegações de um artigo são apoiadas por seus métodos, se a revisão da literatura envolve o trabalho anterior relevante, se a abordagem estatística corresponde ao design da pesquisa. Nenhuma dessas avaliações precisaria ser definitiva. Eles precisariam ser informativos o suficiente para ajudar os editores a alocar sua atenção para os manuscritos que merecem isso. O humano fica no circuito. A máquina lida com triagem. No lado da revisão, onde os dados de Gartenberg mostram a inteligência artificial mudando a atenção para a teoria e longe dos dados, um assistente de revisão bem projetado poderia fazer o oposto: levar os revisores a se envolver com alegações empíricas específicas, sinalizando inconsistências entre métodos e resultados, andaime da revisão em vez de substituí-la.
Para mim, a tecnologia não é madura o suficiente para ser implantada de forma confiável em escala. Errar a implementação pode introduzir novos problemas. Mas a restrição de ligação na ciência está mudando da produção para a avaliação, e a IA é a ferramenta mais plausível para abordá-la.
A própria Gartenberg usa Claude e Codex em sua própria pesquisa. Ela não está argumentando que a IA deve ser mantida fora da ciência. Seu artigo é uma medida de onde as coisas estão hoje, não uma previsão de onde elas vão acabar. Como editor de periódicos, reconheço tudo nele: as submissões crescentes, o engajamento do revisor em declínio, o crescente fardo editorial. O sistema está a aguentar. A questão em aberto é se as ferramentas que estão atualmente forçando-o podem ser reaproveitadas para fortalecê-lo.
O artigo de pesquisa recomendava a integração do ChatGPT no ensino e teve ampla circulação. Graças a dois pesquisadores noruegueses, ele foi despublicado
Segundo os críticos, o estudo não mediu realmente se o uso do ChatGPT ajudou os alunos a aprenderem mais, mas sim a qualidade do que eles produziram usando o ChatGPT. São duas coisas bem diferentes.Foto: Matt Rourke /AP / NTB
Por JorgenSvarstad para “Krono”
Em um artigo de pesquisapublicado na revista Humanities and Social Sciences Communications em maio passado , dois pesquisadores chineses afirmaram que o uso do ChatGPT tem um grande efeito positivo na aprendizagem dos alunos.
Tratava-se de uma meta-análise que revisou 51 quase-experimentos sobre inteligência artificial (IA) e ChatGPT.
“Para obter os melhores resultados, o ChatGPT deve ser integrado ativamente ao ensino, de preferência ao longo de várias semanas e com suporte dentro de uma estrutura pedagógica clara”, recomendaram os autores.
O artigo recebeu muita atenção e foi destaque em diversos veículos de comunicação noruegueses, comoKhrono , NRKe Aftenposten.
Segundo a Altmetric, o artigo foi lido mais de 470.000 vezes e citado mais de 250 vezes em outras pesquisas .
Dois pesquisadores da UIT criticaram
Mas também foi alvo de críticas. Dois funcionários de universidades norueguesas, o pesquisador Magnus Ingebrigtsen e o professor sênior Marko Lukic, da UiT – Universidade Ártica da Noruega, foram os primeiros a criticá-la.
Eles acompanharam o caso de perto, e suas críticas foram decisivas para a decisão da revista esta semana de retratar o artigo.
O aviso de retirada de obra da editora é relativamente enigmático. Ele afirma:
“O editor decidiu retratar este artigo devido a preocupações relacionadas a discrepâncias na meta-análise. Essas questões, em última análise, comprometem a confiança que o editor pode ter na validade da análise e nas conclusões dela derivadas.”
O texto afirma ainda que os autores não responderam aos questionamentos sobre a retratação.
A Khrono também tentou entrar em contato com os autores para obter comentários, mas não recebeu resposta.
Você acha que isso não mede os resultados da aprendizagem?
Algumas semanas após a publicação do artigo no ano passado, Ingebrigtsen e Lukic escreveram em uma colunana Khrono que “Não, esta meta-análise não mostra melhor aprendizado com o ChatGPT.”
Eles escreveram ainda que a meta-análise não mediu principalmente a aprendizagem, mas sim os “resultados da aprendizagem”, ou seja, a qualidade do código ou dos textos acadêmicos produzidos com a ajuda do ChatGPT.
Magnus Ingebrigtsen (à esquerda) e Marko Lukic duvidaram da conclusão do estudo. Universidade de Tecnologia
Além disso, apontaram diversos erros graves: números incorretos de participantes, tamanhos de efeito calculados incorretamente, uso acrítico de estudos originais fracos e casos em que variáveis que não foram medidas nos estudos originais foram, no entanto, utilizadas na análise.
“Os erros são tão significativos que o artigo jamais deveria ter passado pela revisão por pares e justificam uma revisão completa, ou mesmo uma retratação”, escreveram eles.
Os dois entraram em contato diretamente com os autores, que é o que as diretrizes da editora Springer Nature indicam ser a primeira coisa que os críticos devem fazer.
A resposta dos pesquisadores
Magnus Ingebrigtsen diz:
– Eles nos responderam imediatamente. Enviaram-nos bastante material. Entre outras coisas, um arquivo chamado data.xlsx, mas que na verdade não continha nenhum dado, apenas a bibliografia. Depois, enviaram-nos um gráfico com uma resolução tão ruim que mal dava para ler os valores. Em seguida, responderam a todos os nossos pontos e admitiram muitos dos erros, mas atribuíram-nos a erros de formatação ocorridos durante o processo de composição tipográfica.
Em seguida, os dois pesquisadores noruegueses enviaram à revista um artigo intitulado “Questões Emergentes”, que consiste em um comentário científico sobre o artigo.
Lá, eles solicitaram formalmente a retratação do artigo devido a erros. Apontaram, entre outras coisas, que o estudo individual com maior peso na meta-análise já havia sido retratado antes da publicação do controverso estudo ChatGPT.
O segundo estudo com maior peso não mediu o desempenho de aprendizagem, mas sim a autoconfiança e a aceitação da tecnologia.
Finalmente foi despublicado
O editor respondeu que iriam investigar o assunto. Passaram-se meses sem que nada acontecesse.
Em abril, os pesquisadores noruegueses encaminharam o caso ao grupo de integridade científica da editora Springer Nature. Apenas cinco dias depois, receberam a notícia de que o artigo havia sido retratado.
O editor também escreveu que foi o artigo “Assuntos Emergentes” que desencadeou a investigação.
– É fantástico que tenha sido despublicado , mas demorou muito tempo, diz Ingebrigtsen.
Grande impacto
Ele acredita que muitos danos foram causados nos dez meses desde a publicação do artigo.
O vídeo recebeu quase meio milhão de visualizações e várias centenas de citações científicas.
Segundo Ingebrigtsen, um projeto educacional financiado pela União Europeia utilizou o estudo como argumento de que a IA tem um grande impacto positivo na aprendizagem.
Ingebrigtsen afirma que as empresas de tecnologia educacional (edtech) usam isso em seu marketing.
Pesquisadores da área da educação na Noruega já discutiram o assunto.
— E se você perguntar a qualquer modelo de linguagem, ChatGPT, Gemini ou Claude, se existem bons estudos que mostram que o ChatGPT proporciona um aprendizado melhor, eles citarão este. Portanto, uma consequência disso é que potencialmente muitas pessoas se referem a este estudo — afirma ele.
– Por que você insistiu tanto nisso?
— Esta é a minha área de especialização. Estou escrevendo uma tese de doutorado sobre como aprendemos melhor e com mais eficácia. Me irrita que descobertas imprecisas e pouco confiáveis como essa influenciem decisões importantes sobre escolas e educação — afirma ele.
Acredito que a IA pode ter efeitos positivos na aprendizagem, mas também efeitos negativos significativos. Tudo depende de como a utilizamos. A literatura atual é caracterizada por “exageros”, e muitos artigos são publicados sobre IA e educação. No entanto, muitos deles apresentam fragilidades metodológicas e, ainda assim, chegam a conclusões extremamente positivas.
O uso descontrolado de IA ameaça a formação crítica de estudantes e o futuro da produção científica
Nos últimos dois anos, a inteligência artificial (IA) deixou de ser uma curiosidade tecnológica para se tornar presença constante no cotidiano universitário. Hoje, uma quantidade significativa de estudantes consegue gerar resumos, resolver exercícios, escrever relatórios, montar apresentações e até produzir artigos científicos completos em questão de minutos. À primeira vista, isso parece apenas mais uma revolução tecnológica inevitável. Mas basta olhar com um pouco mais de atenção para perceber que estamos diante de um problema muito mais profundo, e potencialmente devastador para a formação universitária, a ética acadêmica e o próprio futuro da ciência. O ponto central é simples: o uso descontrolado da IA está corroendo silenciosamente o próprio processo de formação universitária.
A universidade nunca teve como missão apenas entregar diplomas. O papel histórico das universidades sempre foi formar profissionais capazes de pensar, analisar, argumentar, duvidar e tomar decisões em contextos complexos. Em outras palavras, formar autonomia intelectual. E isso não se constrói com respostas prontas, pois toda a experiência acumulada mostra que isso se constrói com esforço cognitivo, erro, tentativa, leitura difícil e escrita trabalhosa. É justamente esse processo que a IA começa a substituir, e rapidamente assimilada em nome da formação mais veloz de profissionais que estariam sendo ansiosamente esperados pelo mercado.
O problema é que disciplinas obrigatórias existem por uma razão. Elas definem o perfil profissional que a sociedade espera de um engenheiro, de um médico, de um advogado, de um cientista. Anatomia, fisiologia, farmacologia e epidemiologia não são obstáculos burocráticos na formação médica; são a base que sustenta decisões clínicas que podem salvar ou perder vidas. Quando um estudante terceiriza a resolução de exercícios, a escrita de relatórios ou a síntese de textos para uma IA, ele pode até entregar um trabalho perfeito, mas sem ter trilhado o caminho cognitivo necessário para, de fato, aprender. O fato é que estamos criando, silenciosamente, a figura do profissional diplomado sem domínio real das competências fundamentais.
E aqui o risco deixa de ser educacional e passa a ser social. Imaginemos médicos excessivamente dependentes de sistemas automatizados para interpretar exames ou propor diagnósticos. Imagine engenheiros incapazes de avaliar criticamente um cálculo gerado por software. Imaginemos cientistas que nunca desenvolveram plenamente a capacidade de formular perguntas originais. Esse cenário não é ficção científica, pois ele está começando a ser construído agora, dentro das universidades em todo o mundo.
Um dos efeitos mais preocupantes desse processo é a terceirização do esforço cognitivo. Pensar exige treino constante. Leitura profunda exige prática. Escrever exige sofrimento intelectual. Quando a IA passa a realizar essas tarefas com rapidez e fluidez, muitos estudantes deixam simplesmente de exercitar essas habilidades. Aos poucos, a tolerância à complexidade diminui, a capacidade de concentração se reduz e a autonomia intelectual se fragiliza. A tecnologia criada para ampliar capacidades humanas começa, paradoxalmente, a atrofiá-las.
O impacto ético também é gigantesco. A fraude acadêmica entrou em uma nova fase. Durante décadas, plagiar significava copiar textos existentes. Hoje, tornou-se possível produzir trabalhos inteiros sem dominar o conteúdo e com baixíssima probabilidade de detecção. As universidades estão enfrentando uma crise silenciosa: trabalhos deixaram de ser evidência confiável de aprendizagem. Se professores não conseguem distinguir autoria humana de produção automatizada, as notas deixam de refletir competência real e os diplomas passam a sinalizar muito menos do que deveriam. Isso ameaça a credibilidade institucional do ensino superior. Mas talvez o impacto mais grave esteja acontecendo na própria ciência. A escrita acadêmica sempre foi parte essencial da formação de pesquisadores. Dissertações e teses não são apenas produtos finais; são rituais de passagem intelectual, mas um momento em que o estudante aprende a formular problemas, estruturar argumentos, lidar com incertezas e construir pensamento original. Quando a IA entra como autora invisível, esse processo formativo se enfraquece.
Já começamos a ver sinais de uma possível “industrialização” da escrita científica: revisões de literatura produzidas em massa, artigos inflacionados, textos plausíveis mas superficiais. Existe o risco real de uma poluição textual da ciência — mais artigos publicados, mas menos pensamento crítico por trás deles. Em um cenário extremo, poderemos ter IA escrevendo artigos e IA ajudando a revisá-los, enquanto a participação humana se torna cada vez mais periférica. A ciência perderia sua função mais importante: o escrutínio crítico humano. Mas tudo indica que este cenário extremo já está entre nós, representando uma grave ameaça para o futuro da ciência enquanto um empreendimento que deveria servir para melhorar a vida da maioria da Humanidade.
Diante desse quadro, a resposta não pode ser fingir que nada está acontecendo. Tampouco é realista imaginar a proibição total da IA. O que precisamos urgentemente é de regulação pedagógica séria. Primeiro, é inevitável reformular os sistemas de avaliação. Provas presenciais, avaliações orais, defesas públicas e atividades realizadas em tempo real precisam voltar ao centro do processo educativo. Não como nostalgia do passado, mas como estratégia para garantir que o estudante realmente pense no que e sobre o que está fazendo. Na medicina, isso significa reforçar simulações clínicas presenciais e avaliações de raciocínio diagnóstico ao vivo. Segundo, o uso de IA precisa ser declarado de forma obrigatória em qualquer produção acadêmica. Transparência deve se tornar regra básica. Terceiro, universidades precisam ensinar IA de forma crítica. Não basta permitir o seu uso, pois é preciso formar usuários capazes de compreender limites, vieses e riscos epistemológicos dessas ferramentas. E, acima de tudo, precisamos reafirmar um princípio simples: aprender não é produzir textos; aprender é desenvolver pensamento crítico e autônomo.
A IA não é apenas mais uma ferramenta já que ela redefine o que significa estudar, pesquisar e produzir conhecimento. Se continuarmos ignorando os riscos do uso descontrolado da IA, poderemos formar uma geração altamente certificada, mas intelectualmente frágil , e uma ciência que se tornará cada vez mais volumosa, porém menos crítica e, consequentemente, avessa às reais necessidades que a atual conjuntura histórica de um planeta em colapso climático impõe.
Finalmente, há que se reconhecer que a IA não é apenas mais uma ferramenta tecnológica incorporada ao cotidiano universitário dado que ela redefine silenciosamente o próprio significado de estudar, pesquisar, ensinar e produzir conhecimento. Se continuarmos tratando seu uso irrestrito como um fenômeno neutro ou inevitável, corremos o risco de formar uma geração altamente certificada, porém intelectualmente frágil; uma ciência cada vez mais volumosa, mas progressivamente menos crítica; e universidades que preservam rituais formais de avaliação enquanto perdem sua função substantiva de formação. O que está em jogo não é apenas a integridade acadêmica ou a qualidade dos diplomas, mas a própria capacidade da sociedade humana de produzir profissionais capazes de lidar com problemas complexos, tomar decisões responsáveis e sustentar práticas científicas confiáveis. Em última instância, se trata de preservar a credibilidade social da universidade e o papel civilizatório da ciência. Desta forma, o verdadeiro desafio não é impedir a IA, algo impossível a estas alturas do campeonato, mas impedir que ela substitua aquilo que constitui a essência da educação superior: o desenvolvimento paciente, exigente e insubstituível de mentes autônomas, críticas, criativas e responsáveis. Sem essa reação por parte das universidades e da comunidade científica, o risco é que a automação intelectual avance mais rápido do que nossa capacidade coletiva de compreender suas consequências, deixando para o futuro o custo de uma formação que parece moderna, eficiente e produtiva, mas que poderá se revelar profundamente vazia e antissocial.
Política foi elaborada com base em ações de educação, prevenção, apuração e sanção e traz diretrizes para uso de IA na pesquisa científica
Imagem ilustrativa de processo de avaliação realizado ao computador. – Foto: Imagem de Freepik
O CNPq publicou umaportaria que institui a Política de Integridade na Atividade Cientifica, que tem como finalidade garantir a integridade em todas as atividades científicas apoiadas pelo Conselho e é valida para todos os usuários das bases do órgão, como servidores, proponentes, beneficiários e demais agentes vinculados ao fomento e usuários dos serviços digitais e plataformas do CNPq. A política foi elaborada com base em ações de educação, prevenção, apuração e sanção.
Assista ao vídeo de apresentação:
Os objetivos da Política de Integridade na Atividade Científica são promover a ética e a integridade na atividade científica; estabelecer regras de boa convivência acadêmica e coletiva, prevenindo conflitos éticos e de interesse nas ações do CNPq; promover a transparência e a idoneidade nas decisões institucionais e avaliações de mérito, evitando conflitos de interesses e ações e/ou omissões de cunho discriminatório; instituir código de conduta para promover ambiente mais plural, inclusivo e respeitoso na atividade científica e estimular a qualidade e a integridade das informações em todas as etapas dos projetos de pesquisa apoiados pelo CNPq, estabelecendo rígidos princípios éticos e morais, desde a concepção até a difusão dos resultados.
O Código de Conduta do CNPq – que estava em vigor desde 1º de agosto de 2024 e previa, entre outras recomendações, a extensão do prazo de avaliação da produtividade científica em 2 anos por evento de maternidade no período avaliado – , foi integrado à política e passa a ter nova redação, com base em dez princípios:
I – Honestidade intelectual, integridade, boa prática científica e responsabilidade em todas as fases da pesquisa, da concepção à publicação e divulgação dos resultados;
II – Veracidade na autoria e créditos científicos;
III – Respeito aos participantes das pesquisas, às pessoas pesquisadas e aos objetos de pesquisa;
IV – Atuação responsável na formação e supervisão na carreira científica em todas as etapas;
V – Observância às normas legais e éticas vigentes;
VI – Decoro, justiça social, racial, cognitiva e de gênero;
VII – Urbanidade e respeito nas relações interpessoais e institucionais;
VIII – Segurança e zelo pelos membros e participantes da pesquisa e pelo patrimônio e uso dos recursos materiais;
IX – Cumprimento das diretrizes de políticas científicas federais, estaduais, municipais e institucionais;
X – Respeito à diversidade e promoção da inclusão na ciência.”
O texto estabelece deveres para os membros de comitês e comissões e para bolsistas. Os dois primeiros, por exemplo, devem conduzir avaliações com rigor, objetividade, imparcialidade e presteza; observando critérios de mérito científico, tecnológico e de inovação, e respeitando as definições da ação; não discriminar áreas do conhecimento, linhas de pesquisa, grupos, pessoas ou instituições e resguardar o sigilo das informações, dados e pareceres a que tiverem acesso.
Já bolsistas devem, entre outros deveres, ter conhecimento e respeitar as especificidades normativas do CNPq quanto à concessão de bolsas e auxílio, em especial sobre as vedações ao acúmulo de bolsas; à necessidade de informar ao CNPq sobre afastamentos e intercorrências durante o período de vigência do fomento concedido e a dificuldades encontradas para realizar a pesquisa e os devidos relatórios.
Inteligência artificial
Em relação às diretrizes de integridade na pesquisa, o texto traz abordagem específica sobre o uso de inteligência artificial gerativa (IAG), cujo uso não é proibido, mas é preciso que seja declarado, qualquer que seja o tipo de IAG e a fase do desenvolvimento da pesquisa, especificando a ferramenta utilizada e a finalidade. Também é vedada a submissão de conteúdo gerado por IAG como se fosse de autoria humana, sendo os/as autores/as integralmente responsáveis pelo conteúdo final, inclusive por eventuais plágios ou imprecisões geradas pela ferramenta utilizada. O uso da inteligência artificial na elaboração de pareceres científicos não é recomendado pela política publicada.
O texto traz uma preocupação em relação ao padrão ético de tratamento de produtos de pesquisa, com orientações como creditar de forma adequada todas as fontes que fundamentam o trabalho desenvolvido, de modo a assegurar veracidade à autoria e créditos científicos, bem como fidelidade ao significado das ideias ou fatos apresentados, ao resumir texto de terceiros, com a devida citação.
De acordo com a política, será competência da Comissão de Integridade na Atividade Científica (CIAC) decidir sobre casos de desvio da integridade na atividade científica submetidos a essa instância, bem como examinar suspeitas em relação à integridade de informações no Currículo Lattes, deliberar sobre a aplicação de sanções nos casos concretos de infrações graves e gravíssimas, entre outras.
Denúncias de supostas infrações à Política de Integridade Científica devem ser encaminhadas via Ouvidoria do CNPq.
Responsabilidades
A nova política define que o CNPq e as Instituições Científicas, Tecnológicas e de Inovação (ICTs) apoiadas são responsáveis pela apuração adequada das denúncias de má conduta científica. As ICTs que se apresentem como sede de atividades apoiadas pelo CNPq compartilham com os pesquisadores a responsabilidade pela integridade da pesquisa, cabendo-lhes primariamente promover a cultura institucional de integridade científica, e também prevenir e tratar más condutas ocorridas sob sua governança.
Nos casos em que ocorram alegações e denúncias de má conduta em pesquisas apoiadas pelo CNPq, a ICT será solicitada a cooperar com auditorias e ações corretivas entre as instituições, informando sobre o resultado da apuração e as medidas implementadas.
Sanções
De acordo com o texto, as infrações, resultantes de ação ou omissão, que contrariem princípios, deveres e práticas previstas nos Art. 5º, 6º e 7º da política estão sujeitas a sanções, que variam dependendo do tipo de infração: leve, grave ou gravíssima.
Entre as sanções previstas estão advertência formal; suspensão, por período determinado, de bolsas, auxílios; interrupção de benefício, com possibilidade de ressarcimento ao erário; impedimento para participação em ações de fomento ou processos seletivos do CNPq, por prazo determinado; devolução de recursos concedidos pelo CNPq aos projetos relacionados à conduta irregular com ressarcimento proporcional ao pagamento realizado; revogação da outorga de fomento, aplicável quando obtida por meio de apresentação de requisitos infundados para seleção e classificação dos projetos de pesquisa, podendo ser adotadas medidas cautelares no decorrer da apuração das denúncias.
Para a dosimetria da sanção, serão considerados a natureza e a gravidade da infração; a extensão dos danos causados ao CNPq e à comunidade científica; a existência de dolo, fraude ou reincidência; circunstâncias agravantes ou atenuantes; os antecedentes do(a) infrator(a). Neste caso, não serão considerados grau acadêmico, premiações, cargos ou funções de relevo científico ou acadêmico, atuais ou passados, ou quaisquer reconhecimentos profissionais prévios.
Três das principais universidades do país, USP, Unicamp e Unesp estão criando protocolos para o uso da inteligência artificial (IA). Em geral, a regra é a transparência. A utilização da IA deve ser combinada entre professores e alunos e declarada nas pesquisas e nos demais trabalhos acadêmicos. E não basta dizer “Eu usei IA”. O rigor acadêmico exige que sejam listadas quais ferramentas foram utilizadas, detalhando versões e modelos, e de que maneira, reproduzindo até os prompts (comandos para execução de tarefas).
Diante da importância dessas três universidades, o caminho adotado por elas diz respeito não somente às suas comunidades, mas deve servir como referência a outras instituições de ensino, à educação brasileira em geral e até a outras áreas.
O debate sobre o uso de IA tem tomado diferentes setores, inclusive a imprensa, cada um deles com suas especificidades.
Nas universidades, a definição de regras é parte de um projeto maior. A exemplo do que vem ocorrendo em universidades no mundo todo, USP, Unicamp e Unesp estão estruturando departamentos para estabelecer protocolos e diretrizes da IA, coordenar debates, pesquisas e desenvolvimento de ferramentas, além de promover a formação de alunos, professores, funcionários e da comunidade externa.
A Unesp publicou no ano passado a resolução geral e uma portaria para a pós-graduação. Finalizou agora um guia para a graduação, ao qual a Folha de S.Paulo teve acesso, com normas divididas em “O que você PODE fazer”, “O que você NUNCA pode fazer” e “O que você TALVEZ possa fazer”.
Exemplos do que o aluno pode fazer: usar IA para traduzir textos, parafrasear parágrafos e elaborar resumos. E do que nunca pode fazer: submeter trabalhos gerados por IA, de forma integral ou parcial, como se fossem produções originais, usar IA em avaliações sem autorização do professor.
Docentes podem, por exemplo, usar IA para elaborar aulas e auxiliá-los na correção é obrigatório que revisem o resultado. Nunca podem criar materiais didáticos sem revisão humana e sem declarar o uso da IA aos alunos.
O guia orienta que os docentes reflitam com os alunos sobre a IA e estipulem em que fases dos trabalhos ela pode ser utilizada e como. Curiosamente, o guia foi elaborado com a ajuda de IA, trazendo um capítulo para falar sobre isso.
“Buscamos promover o uso responsável. E isso envolve também a formação sobre o que é a IA, fundamentos, riscos, possibilidades, aspectos éticos”, diz Denis Salvadeo, um dos organizadores do guia. Ele coordena o Laboratório do Futuro, ligado à reitoria. Criado no ano passado para tratar da IA na Unesp, já ofereceu um curso de formação para docentes, alunos e funcionários.
O laboratório deve ser ampliado e se tornar o Instituto de Inovação em Inteligência Artificial (I3A), para coordenar ações e pesquisas na universidade e articular debates e parcerias com a comunidade externa. “Há muitas questões em aberto na sociedade e precisamos achar um equilíbrio no uso dessas ferramentas”, diz. “A Unesp tem muitos cursos de licenciatura, forma professores. Como falar com os alunos sobre IA?”, questiona.
“Não há ferramentas de detecção de IA confiáveis, elas levam ao risco de acusações injustas. Devemos ter outras estratégias para o ensino, como reforçar os projetos, os debates, as questões orais feitas em sala de aula.”
IA é o amianto nas paredes da nossa sociedade tecnológica, esmagado ali por monopolistas descontrolados. Uma luta séria contra ela deve atingir suas raízes
Por Cory Doctorow para “The Guardian”
Sou escritor de ficção científica, o que significa que meu trabalho é criar parábolas futuristas sobre nossos atuais arranjos tecno-sociais para questionar não apenas o que um aparelho faz, mas para quem ele faz e para quem faz.
O que eu não faço é prever o futuro. Ninguém pode prever o futuro, o que é bom, pois se o futuro fosse previsível, isso significaria que não poderíamos mudá-lo.
Agora, nem todo mundo entende essa distinção. Eles acham que escritores de ficção científica são oráculos. Até alguns dos meus colegas vivem sob a ilusão de que podemos “ver o futuro”.
Depois, há os fãs de ficção científica que acreditam que estão lendo o futuro. Um número deprimente dessas pessoas parece ter se tornado irmãos da Inteligência Artificial (IA). Esses caras não param de falar sobre o dia em que sua máquina apimentada de autopreenchimento vai acordar e transformar todos nós emclipes de papel, o que levou muitos jornalistas e organizadores de conferências confusos a tentarem me convencer a comentar sobre o futuro da IA.
Isso era algo que eu costumava resistir veementemente a fazer, porque perdi dois anos da minha vida explicando pacientemente e repetidamente por que achava a cripto estúpida, e sendo incessantemente criticado por cultistas das criptomoedas que, no começo, insistiam que eu simplesmente não entendia cripto. E então, quando deixei claro que entendia de cripto, eles insistiram que eu devia ser um agente pago.
Isso é literalmente o que acontece quando você discute com cientologistas, e a vida é curta demais. Dito isso, as pessoas não paravam de perguntar – então vou explicar o que penso sobre IA e como ser um bom crítico de IA. Com isso quero dizer: “Como ser um crítico cuja crítica causa o máximo de dano às partes da IA que estão causando mais dano.”
Um exército de centauros reversos
Na teoria da automação, um “centauro” é uma pessoa assistida por uma máquina. Dirigir um carro faz de você um centauro, assim como usar o autocompletado.
Um centauro reverso é uma cabeça de máquina em um corpo humano, uma pessoa que serve como um apêndice de carne mole para uma máquina indiferente.
Por exemplo, um entregador da Amazon, que fica em uma cabine cercada por câmeras de IA que monitoram os olhos do motorista e retiram pontos se ele olhar em uma direção prescrita, e monitora a boca do motorista porque cantar não é permitido no trabalho, e dedura o motorista para o chefe se não cumprir a cota.
O motorista está nessa van porque ela não consegue dirigir sozinha e não consegue levar um pacote da calçada até a sua varanda. O motorista é um periférico para uma van, e a van conduz o motorista em velocidade sobre-humana, exigindo resistência sobre-humana.
Obviamente, é bom ser um centauro, e é horrível ser um centauro invertido. Existem muitas ferramentas de IA que podem ser muito semelhantes a centauros, mas minha tese é que essas ferramentas são criadas e financiadas com o propósito expresso de criar centauros reversos, o que nenhum de nós quer ser.
Mas, como eu disse, o trabalho de um escritor de ficção científica é fazer mais do que pensar no que o gadget faz, e aprofundar para quem ele faz isso epara quem ele faz. Os chefes de tecnologia querem que acreditemos que só existe uma forma de uma tecnologia ser usada. Mark Zuckerbergquer que você pense que é tecnologicamente impossível conversar com um amigo sem que ele esteja ouvindo. Tim Cook quer que você pense que é impossível ter uma experiência computacional confiável a menos que ele tenha direito de veto sobre qual software você instala e sem que ele tire 30 centavos de cada dólar que você gasta. Sundar Pichai quer que você pense que é para você encontrar uma página na web, a menos que ele possa te espionar do ânus ao apetite.
Tudo isso é uma espécie de Thatcherismo vulgar. O mantra de Margaret Thatcher era: “Não há alternativa.” Ela repetia isso tantas vezes que a chamavam de “Tina” Thatcher: Pronto. É. Não. Alternativa.
“Não há alternativa” é uma ofensa retórica barata. É uma exigência disfarçada de observação. “Não há alternativa” significa: “pare de tentar pensar em uma alternativa.”
Sou escritora de ficção científica – meu trabalho é pensar em uma dúzia de alternativas antes do café da manhã.
Então deixe-me explicar o que acho que está acontecendo aqui com essa bolha de IA e quem o exército dos centauros reversos está servindo, e separar a besteira da realidade material.
Como bombear uma bolha
Comece pelos monopólios: as empresas de tecnologia são gigantescas e não competem, apenas dominam setores inteiros, sozinhos ou em cartéis.
Google e Meta controlam o mercado de publicidade. Google e Apple controlam o mercado móvel, e o Google paga à Applemais de 20 bilhões de dólares por ano para não criar um motor de busca concorrente, e, claro, o Google tem 90% de participação no mercado de buscas.
Agora, você pensaria que isso seria uma boa notícia para as empresas de tecnologia, que dominam todo o seu setor.
Mas na verdade é uma crise. Veja, quando uma empresa está crescendo, ela é uma “ação de crescimento”, e os investidores realmente gostam de ações de crescimento. Quando você compra uma ação em uma ação de crescimento, está apostando que ela continuará crescendo. Portanto, as ações de crescimento negociam a um múltiplo enorme de seus lucros. Isso é chamado de “razão preço/lucro” ou “razão PE”.
Mas, uma vez que uma empresa para de crescer, ela se torna uma ação “madura” e negocia com um índice de lucro muito menor. Então, para cada dólar que a Target – uma empresa madura – arrecada, vale $10. Ele tem um índice de investimento (PE) de 10, enquanto a Amazon tem um índice de custo (PE) de 36, o que significa que para cada dólar que a Amazon arreca, o valor de mercado é de $36.
É maravilhoso administrar uma empresa que tem uma ação de crescimento. Suas ações valem tanto quanto dinheiro. Se quiser comprar outra empresa ou contratar um trabalhador-chave, pode oferecer ações em vez de dinheiro. E ações são muito fáceis para as empresas conseguirem, porque as ações são fabricadas ali mesmo, tudo o que você precisa fazer é digitar alguns zeros em uma planilha, enquanto dólares são muito mais difíceis de conseguir. Uma empresa só pode receber dólares de clientes ou credores.
Então, quando a Amazon faz lance contra a Target por uma aquisição ou contratação de chave, a Amazon pode dar lances com ações que ganha digitando zeros em uma planilha, e a Target só pode dar lances com dólares que ganha vendendo coisas para nós ou fazendo empréstimos, por isso a Amazon geralmente vence essas guerras de lances.
Esse é o lado positivo de ter uma ação de crescimento. Mas aqui está o lado negativo: eventualmente uma empresa precisa parar de crescer. Por exemplo, se você tiver 90% de participação de mercado no seu setor, como você vai crescer?
Se você é executivo em uma empresa dominante com uma ação em crescimento, precisa viver com medo constante de que o mercado decida que você provavelmente não crescerá mais. Pense no que aconteceu com o Facebook no primeiro trimestre de 2022. Eles disseram aos investidores que tiveram um crescimento um pouco mais lento nos EUA do que haviam previsto, e os investidores entraram em pânico. Eles realizaram uma venda de um dia, no valor de 240 bilhões de dólares. Um quarto de trilhão de dólares em 24 horas! Na época, foi a maior e mais acentuada queda na avaliação corporativa da história humana.
Esse é o pior pesadelo de um monopolista, porque uma vez que você está comandando uma empresa “madura”, os funcionários-chave com que você tem compensado passam por uma queda acentuada nos salários e fogem para sair, então você perde as pessoas que poderiam ajudar a crescer novamente, e só pode contratar seus substitutos com dinheiro – não ações.
Esse é o paradoxo do capital de crescimento. Enquanto você está crescendo para dominar, o mercado te ama, mas uma vez que você alcança a dominância, o mercado perde 75% ou mais seu valor de uma só vez se não confiar no seu poder de precificação.
Por isso, as empresas de ações de crescimento estão sempre desesperadamente inflando uma bolha ou outra, gastando bilhões para promover a transição para vídeo, criptomoedas, NFTs, metaverso ou IA.
Não estou dizendo que os chefes de tecnologia estão fazendo apostas que não planejam ganhar. Mas vencer a aposta – criar um metaverso viável – é o objetivo secundário. O objetivo principal é manter o mercado convencido de que sua empresa continuará crescendo, e permanecer convencido até que a próxima bolha apareça.
É por isso que eles estão promovendo a IA: a base material para centenas de bilhões em investimentos em IA.
IA não pode fazer seu trabalho
Agora quero falar sobre como eles estão vendendo IA. A narrativa de crescimento da IA é que a IA vai desestabilizar os mercados de trabalho. Eu uso “disrupt” aqui no sentido mais desrespeitável de ‘tech-bro’.
A promessa da IA – a promessa que as empresas de IA fazem aos investidores – é que haverá IA capaz de fazer seu trabalho, e quando seu chefe te demitirá e te substituir por IA, ele ficará com metade do seu salário para si e dará a outra metade para a empresa de IA.
Essa é a história de crescimento de 13 bilhões de dólares que Morgan Stanley está contando. É por isso que grandes investidores estão dando às empresas de IA centenas de bilhões de dólares. E como estão se acumulando, os normies também estão sendo sugados, arriscando suas economias de aposentadoria e a segurança financeira da família.
Agora, se a IA pudesse fazer seu trabalho, isso ainda seria um problema. Teríamos que descobrir o que fazer com todas essas pessoas desempregadas.
Mas a IA não pode fazer seu trabalho. Isso pode ajudar você a fazer seu trabalho, mas isso não significa que vai economizar dinheiro para alguém.
Pegue a radiologia: há algumas evidências de que a IA às vezes pode identificar tumores de massa sólida que alguns radiologistas não percebem. Olha, eu tenho câncer. Felizmente, é muito tratável, mas tenho interesse em que a radiologia seja o mais confiável e precisa possível.
Digamos que meu hospital comprou algumas ferramentas de radiologia com IA e disse aos radiologistas: “Pessoal, aqui está o negócio. Hoje, você está processando cerca de 100 raios-X por dia. De agora em diante, vamos obter uma segunda opinião instantânea da IA, e se a IA achar que você deixou passar um tumor, queremos que você volte e dê outra olhada, mesmo que isso signifique que você processe apenas 98 raios-X por dia. Tudo bem, só nos importamos em encontrar todos esses tumores.”
Se foi isso que disseram, eu ficaria encantado. Mas ninguém está investindo centenas de bilhões em empresas de IA porque acham que a IA vai encarecer a radiologia, nem mesmo que isso também torne a radiologia mais precisa. A aposta do mercado na IA é que um vendedor de IA vai visitar o CEO da Kaiser e fazer esta proposta: “Olha, você demite nove em cada dez radiologistas, economizando 20 milhões de dólares por ano. Você nos dá 10 milhões de dólares por ano, e ganha 10 milhões por ano, e o trabalho dos radiologistas restantes será supervisionar os diagnósticos que a IA faz em velocidade sobre-humana – e de alguma forma permanecer vigilantes enquanto o fazem, apesar de a IA geralmente estar certa, exceto quando está catastróficamente errada.
“E se a IA não detectar um tumor, a culpa será do radiologista humano, porque ele é o ‘humano no loop’. É a assinatura deles no diagnóstico.”
Este é um centauro invertido, e é um tipo específico de centauro reverso: é o queDan Davieschama de “sumidouro de responsabilidade”. O trabalho do radiologista não é realmente supervisionar o trabalho da IA, mas sim assumir a culpa pelos erros da IA.
Essa é outra chave para entender – e, assim, esvaziar – a bolha da IA. A IA não consegue fazer seu trabalho, mas um vendedor de IA pode convencer seu chefe a te demitir e te substituir por uma IA que não consegue fazer seu trabalho. Isso é fundamental porque nos ajuda a construir os tipos de coalizões que terão sucesso na luta contra a bolha da IA.
Se você é alguém preocupado com câncer e está ouvindo que o preço de tornar a radiologia barata demais para medir é que teremos que realocar os 32.000 radiologistas americanos, com a troca de que ninguém jamais será negado de serviços de radiologia novamente, você pode dizer: “Bem, ok, sinto muito por esses radiologistas, e eu apoio totalmente conseguir para eles treinamento profissional, RBU ou qualquer outra forma. Mas o objetivo da radiologia é combater o câncer, não pagar radiologistas, então eu sei de que lado estou.”
Os charlatãs de IA e seus clientes na alta direção querem o público do seu lado. Eles querem forjar uma aliança de classes entre os deployers de IA e as pessoas que desfrutam dos frutos do trabalho dos centauros reversos. Eles querem que nos vejamos como inimigos dos trabalhadores.
Agora, algumas pessoas estarão do lado dos trabalhadores por questões políticas ou estéticas. Mas se você quer conquistar todas as pessoas que se beneficiam do seu trabalho, precisa entender e enfatizar como os produtos da IA serão de qualidade inferior. Que eles vão ser cobrados mais por coisas piores. Que eles têm um interesse material compartilhado com você.
Esses produtos serão de qualidade inferior? Há todos os motivos para pensar assim.
Pense na geração de software de IA: há muitos programadores que adoram usar IA. Usar IA para tarefas simples pode realmente torná-las mais eficientes e dar mais tempo para fazerem a parte divertida da programação, ou seja, resolver quebra-cabeças realmente complexos e abstratos. Mas quando você ouve líderes empresariais falando sobre seus planos de IA para programadores, fica claro que eles não esperam criar alguns centauros.
Eles querem demitir muitos trabalhadores de tecnologia – 500.000 nos últimos três anos– e fazer o restante continuar o trabalho de programação, o que só é possível se você deixar a IA fazer toda a resolução criativa e elaborada de problemas, e aí você fizer a parte mais entediante e esmagadora do trabalho: revisar o código da IA.
E como a IA é apenas um programa de adivinhação de palavras, porque tudo o que ela faz é calcular a palavra mais provável a ser seguida, os erros que ela comete são especialmente sutis e difíceis de detectar, porque esses bugs são quase indistinguíveis de código funcionando.
Por exemplo: programadores rotineiramente usam “bibliotecas de código” padrão para lidar com tarefas rotineiras. Digamos que você queira que seu programa absorva um documento e faça algum sentido disso – encontre todos os endereços, por exemplo, ou todos os números dos cartões de crédito. Em vez de escrever um programa para dividir um documento em suas partes constituintes, você simplesmente pega uma biblioteca que faz isso para você.
Essas bibliotecas vêm em famílias e têm nomes previsíveis. Se for uma biblioteca para puxar um arquivo html, pode ser chamada de algo como lib.html.text.parsing; E se for um arquivo FOR DOCX, será lib.docx.text.parsing.
Mas a realidade é bagunçada, os humanos são desatentos e as coisas dão errado, então às vezes há outra biblioteca, digamos, uma para análise de PDFs, e em vez de ser chamada de lib.pdf.text.parsing, ela se chama lib.text.pdf.parsing. Alguém acabou de digitar um nome de biblioteca errado e ele ficou. Como eu disse, o mundo é bagunçado.
Now, AI is a statistical inference engine. All it can do is predict what word will come next based on all the words that have been typed in the past. That means that it will “hallucinate” a library called lib.pdf.text.parsing, because that matches the pattern it’s already seen. And the thing is, malicious hackers know that the AI will make this error, so they will go out and create a library with the predictable, hallucinated name, and that library will get automatically sucked into the AI’s program, and it will do things like steal user data or try to penetrate other computers on the same network.
And you, the human in the loop – the reverse centaur – you have to spot this subtle, hard-to-find error, this bug that is indistinguishable from correct code. Now, maybe a senior coder could catch this, because they have been around the block a few times, and they know about this tripwire.
Mas adivinha quem os chefes de tecnologia querem demitir preferencialmente e substituir por IA? Programadores seniores. Aqueles trabalhadores tagarelas, arrogantes, extremamente bem pagos, que não se veem como trabalhadores. Que se veem como fundadores em espera, colegas da alta administração da empresa. O tipo de programador que lideraria uma greve por causa da empresa que construiu sistemas de mira de drones para o Pentágono, que custou ao Google 10 bilhões de dólares em 2018.
Para que a IA seja valiosa, ela precisa substituir os trabalhadores de alta remuneração, e são justamente esses trabalhadores que podem perceber alguns desses erros estatisticamente camuflados da IA.
Se você pode substituir programadores por IA, quem não pode substituir por IA? Demitir programadores é um anúncio de IA.
O que me leva à arte – ou “arte” – que é frequentemente usada como um anúncio para IA, mesmo que não faça parte do modelo de negócios da IA.
Deixe-me explicar: em média, ilustradores não ganham dinheiro. Eles já são um dos grupos de trabalhadores mais miseráveis e precários que existem. Se geradores de imagens por IA tirassem todo ilustrador que trabalha hoje sem emprego, a economia resultante na massa salarial seria indetectável como parte de todos os custos associados ao treinamento e operação de geradores de imagens. A fatura salarial total dos ilustradores comerciais é menor do que a conta do kombucha para a cafeteria da empresa em apenas um dos campi da OpenAI.
O propósito da arte com IA – e a história da arte com IA como um toque de morte para os artistas – é convencer o público em geral de que a IA é incrível e fará coisas incríveis. É para criar burburinho. O que não quer dizer que não seja repugnante que a ex-CTO da OpenAI, Mira Murati, tenha dito a uma plateia da conferência que “alguns empregos criativos nem deveriam ter existido”.
Dizem que é nojento. Era para fazer os artistas correrem e dizerem: “A IA pode fazer meu trabalho, e vai roubar meu emprego, e isso não é terrível?”
Mas será que a IA pode fazer o trabalho de um ilustrador? Ou qualquer trabalho de artista?
Vamos pensar nisso por um segundo. Sou artista profissional desde os 17 anos, quando vendi meu primeiro conto. Aqui está o que eu acho que a arte é: ela começa com um artista, que tem um sentimento vasto, complexo, numinoso e irredutível em sua mente. E o artista infunde esse sentimento em algum meio artístico. Eles fazem uma canção, um poema, uma pintura, um desenho, uma dança, um livro ou uma fotografia. E a ideia é que, quando você experimenta esse trabalho, uma réplica do grande, numinoso e irredutível sentimento se materializará em sua mente.
Mas o programa de geração de imagens não sabe nada sobre o seu grande, numinoso e irredutível sentimento. A única coisa que ele sabe é o que você coloca no seu prompt, e essas poucas frases são diluídas em um milhão de pixels ou cem mil palavras, de modo que a densidade média comunicativa da obra resultante é indistinguível de zero.
É possível infundir mais intenção comunicativa em uma obra: escrever prompts mais detalhados, ou fazer o trabalho seletivo de escolher entre várias variantes, ou mexer diretamente na imagem da IA depois, com pincel, Photoshop ou o Gimp. E se algum dia existir uma obra de arte de IA que seja boa arte – em vez de meramente marcante, interessante ou um exemplo de bom desenho – será graças a essas infusões adicionais de intenção criativa de um humano.
E, enquanto isso, é arte ruim. É arte ruim no sentido de ser “assustadora”, a palavra que o teórico cultural Mark Fisher usou para descrever “quando há algo presente onde não deveria haver nada, ou não há nada presente quando deveria haver algo”.
A arte de IA é assustadora porque parece haver um pretendente e uma intenção por trás de cada palavra e cada pixel, porque temos uma vida inteira de experiência que nos diz que pinturas têm pintores, e a escrita tem escritores. Mas falta algo. Não tem nada a dizer, ou o que quer que tenha a dizer é tão diluído que é indetectável.
Expandir os direitos autorais não é a solução
Não devemos simplesmente dar de ombros e aceitar o fatalismo do Thatcherismo: “Não há alternativa.”
Então, qual é a alternativa? Muitos artistas e seus aliados acham que têm uma resposta: dizem que devemos estender os direitos autorais para cobrir as atividades associadas ao treinamento de um modelo.
E estou aqui para dizer que eles estão errados. Errado, porque isso representaria uma enorme expansão dos direitos autorais sobre atividades atualmente permitidas – e com razão. Vou explicar:
O treinamento de IA envolve raspar várias páginas da web, o que é inequívocamente legal sob a lei atual de direitos autorais. Em seguida, você realiza uma análise desses trabalhos. Basicamente, você conta as coisas neles: conta pixels, suas cores e proximidade com outros pixels; Ou contar palavras. Obviamente, isso não é algo para o qual você precisa de licença.
E depois de contar todos os pixels ou palavras, é hora da etapa final: publicá-los. Porque é isso que é um modelo: uma obra literária (ou seja, um software) que incorpora um monte de fatos sobre várias outras obras, informações de distribuição de palavras e pixels, codificadas em um arranjo multidimensional.
E, novamente, o direito autoral absolutamente não proíbe você de publicar fatos sobre obras protegidas por direitos autorais. E, novamente, ninguém deveria querer viver em um mundo onde outra pessoa decide quais declarações factuais você pode publicar.
Mas olha, talvez você ache que tudo isso é sofisma. Talvez você ache que eu sou mentira. Tudo bem. Não seria a primeira vez que alguém pensa assim.
Afinal, mesmo que eu esteja certo sobre como os direitos autorais funcionam hoje, não há motivo para não mudarmos direitos autorais para proibir atividades de treinamento, e talvez exista até uma forma inteligente de manipular a lei para que ela só capture coisas ruins que não gostamos, e não todas as coisas boas que vêm da extração, análise e publicação – como motores de busca e pesquisas acadêmicas.
Bem, mesmo assim, você não vai ajudar os criadores criando esse novo direito autoral. Expandimos os direitos autorais de forma monótona desde 1976, de modo que hoje o direito autoral abrange mais tipos de obras, concede direitos exclusivos sobre mais usos e dura mais.
E hoje, a indústria da mídia está maior e mais lucrativa do que nunca, e também – a parcela da renda da indústria da mídia que vai para trabalhadores criativos é menor do que nunca, tanto em termos reais quanto como proporção desses ganhos incríveis feitos pelos chefes dos criadores na empresa de mídia.
Em um mercado criativo dominado por cinco editoras, quatro estúdios, três gravadoras, duas lojas de aplicativos móveis e uma única empresa que controla todos os ebooks e audiolivros, dar a um trabalhador criativo direitos extras para negociar é como dar mais dinheiro para o almoço do seu filho vítima de bullying.
Não importa quanto dinheiro do almoço você dê para o garoto, os valentões vão levar tudo. Dê dinheiro suficiente para essa criança e os valentões contratarão uma agência para conduzir uma campanha global proclamando: “Pense nas crianças famintas! Dê mais dinheiro para o almoço para eles!”
Trabalhadores criativos que torcem por processos movidos por grandes estúdios e gravadoras precisam lembrar da primeira regra da luta de classes: coisas que são boas para seu chefe raramente são o que é bom para você.
Um novo direito autoral para treinar modelos não vai nos proporcionar um mundo onde modelos não sejam usados para destruir artistas, vai apenas nos proporcionar um mundo onde os contratos padrão das poucas empresas que controlam todos os mercados de trabalho criativo sejam atualizados para exigir que entreguemos esses novos direitos de treinamento para essas empresas. Exigir um novo direito autoral só faz de você um útil para seu chefe.
Quando na verdade o que eles estão exigindo é um mundo onde 30% do capital investido das empresas de IA vá para o bolso dos acionistas. Quando um artista está sendo devorado por monopólios vorazes, importa como eles dividem a refeição?
Precisamos proteger os artistas da predação da IA, não apenas criar uma nova forma de os artistas ficarem irritados com sua pobreza.
Incrivelmente, existe uma maneira muito simples de fazer isso. Depois de mais de 20 anos sendo consistentemente errado e terrível para os direitos dos artistas, o Escritório de Direitos Autorais dos EUA finalmente fez algo gloriosamente e maravilhosamente certo. Durante toda essa bolha de IA, o Escritório de Direitos Autorais manteve – corretamente – que obras geradas por IA não podem ser protegidas por direitos autorais, porque os direitos autorais são exclusivamente para humanos. Por isso a “selfie do macaco” está em domínio público. O direito autoral só é concedido a obras de expressão criativa humana fixadas em um meio tangível.
E não apenas o Escritório de Direitos Autorais adotou essa posição, como também a defendeu vigorosamente nos tribunais, vencendo repetidamente decisões para defender esse princípio.
O fato de que toda obra criada por IA está em domínio público significa que, se jornais Getty, Disney, Universal ou Hearst usam IA para gerar obras – qualquer outra pessoa pode pegar essas obras, copiá-las, vendê-las ou doá-las gratuitamente. E a única coisa que essas empresas odeiam mais do que pagar trabalhadores criativos é que outras pessoas peguem suas coisas sem permissão.
A posição do Escritório de Direitos Autorais dos EUA significa que a única forma dessas empresas conseguirem um direito é pagando humanos para fazerem trabalhos criativos. Esta é uma receita para a centauridade. Se você é um artista visual ou escritor que usa prompts para criar ideias ou variações, isso não é problema, porque o trabalho final vem de você. E se você é um editor de vídeo que usa deepfakes para mudar a linha de olhar de 200 figurantes em uma cena de multidão, então claro, esses olhos estão em domínio público, mas o filme permanece protegido por direitos autorais.
Mas trabalhadores criativos não precisam depender do governo dos EUA para nos resgatar de predadores de IA. Podemos fazer isso sozinhos, como os roteiristas fizeram em sua histórica greve dos escritores. Os roteiristas colocaram os estúdios de joelhos. Eles fizeram isso porque são organizados e solidários, mas também têm permissão para fazer algo que praticamente nenhum outro trabalhador pode fazer: podem participar de “negociação setorial”, pela qual todos os trabalhadores de um setor podem negociar um contrato com todos os empregadores do setor.
Isso é ilegal para a maioria dos trabalhadores desde o final dos anos 1940, quando a Lei Taft-Hartley o proibiu. Se vamos fazer campanha para aprovar uma nova lei na esperança de ganhar mais dinheiro e ter mais controle sobre nosso trabalho, devemos lutar para restaurar a negociação setorial, não para expandir os direitos autorais.
Como estourar a bolha
A IA é uma bolha e bolhas são terríveis.
As bolhas transferem as economias de uma vida de pessoas comuns que só querem uma aposentadoria digna para as pessoas mais ricas e antiéticas da nossa sociedade, e toda bolha eventualmente estoura, levando suas economias junto.
Mas nem toda bolha é criada igual. Algumas bolhas deixam algo produtivo. A Worldcom roubou bilhões de pessoas comuns ao enganá-las sobre pedidos de cabos de fibra óptica. O CEO foi preso e morreu lá. Mas a fibra sobreviveu a ele. Ainda está enterrado. Na minha casa, tenho 2GB de fibra simétrica, porque a AT&T iluminou um pouco daquela antiga fibra escura da Worldcom.
Teria sido melhor se a Worldcom nunca tivesse existido, mas a única coisa pior do que a Worldcom cometer toda aquela fraude horrível seria se não houvesse nada a ser salvo dos destroços.
Não acho que vamos salvar muito com as criptomoedas, por exemplo. Quando a cripto morrer, o que ela deixará para trás são uma má economia austríaca e piores jpegs de macaco.
A IA é uma bolha e vai estourar. A maioria das empresas vai fracassar. A maioria dos datacenters será fechada ou vendida para peças. Então, o que ficará para trás?
Teremos vários programadores que são muito bons em estatística aplicada. Teremos muitas GPUs baratas, o que será uma boa notícia para, digamos, artistas de efeitos e cientistas do clima, que poderão comprar esse hardware crítico por uma cópia de centavo. E teremos modelos de código aberto que rodam em hardware comum, ferramentas de IA que podem fazer muitas coisas úteis, como transcrever áudio e vídeo; descrever imagens; resumindo documentos; e automatizar muita edição gráfica trabalhosa – como remover fundos ou retocar fotos de transeuntes. Esses computadores vão rodar em nossos laptops e celulares, e hackers de código aberto vão encontrar maneiras de forçá-los a fazer coisas que seus criadores nunca imaginaram.
Se nunca tivesse existido uma bolha de IA, se tudo isso surgisse apenas porque cientistas da computação e gerentes de produto ficaram alguns anos criando novos aplicativos legais, a maioria das pessoas teria ficado agradavelmente surpresa com essas coisas interessantes que seus computadores podiam fazer. Nós os chamaríamos de “plugins”.
O que é ruim é a bolha, não essas aplicações. A bolha não quer coisas baratas e úteis. Quer coisas caras, “disruptivas”: grandes modelos de fundação que perdem bilhões de dólares todos os anos.
Quando a mania do investimento em IA parar, a maioria desses modelos vai desaparecer, porque simplesmente não será econômico manter os datacenters funcionando. Como diz a lei de Stein: “Tudo que não pode continuar para sempre, eventualmente para.”
O colapso da bolha da IA vai ser feio. Sete empresas de IA atualmente representam mais de um terço do mercado de ações, e elas repassam incessantemente o mesmo depoimento, em cerca de 100 bilhões de dólares.
A IA é o amianto nas paredes da nossa sociedade tecnológica, amontoado ali com abandono selvagem por um setor financeiro e monopolistas tecnológicos desenfreados. Vamos escavá-la por uma geração ou mais.
Para estourar a bolha, precisamos martelar as forças que a criaram: o mito de que a IA pode fazer seu trabalho, especialmente se você recebe salários altos que seu chefe pode recuperar; a compreensão de que empresas em crescimento precisam de uma sucessão de bolhas cada vez mais extravagantes para sobreviver; o fato de que os trabalhadores e o público que eles servem estão de um lado dessa luta, e os patrões e seus investidores do outro lado.
Como a bolha da IA realmente é uma notícia muito ruim, vale a pena lutar seriamente, e uma luta séria contra a IA atinge sua raiz: os fatores materiais que alimentam as centenas de bilhões em capital desperdiçado que estão sendo gastos para nos colocar na linha do pão e encher todas as nossas paredes com amianto de alta tecnologia.
Cory Doctorow é autor, ativista e jornalista de ficção científica. Ele é autor de dezenas de livros, mais recentemente Enshittification: Por que Tudo Piorou de Repente e O Que Fazer a Respeito. Este ensaio foi adaptado de uma palestra recente sobre seu próximo livro, The Reverse Centaur’s Guide to Life After AI, que será lançado em junho
