Por Deisy Ventura, professora títular da Faculdade de Saúde Pública da USP, para o “Jornal da USP”
Impulsionada em escala global por grandes corporações estrangeiras, a vertiginosa generalização do emprego de ferramentas de Inteligência Artificial Generativa (IAGen) no cotidiano acadêmico traz importantes desafios éticos, em particular para a ética em pesquisa. Antes de abordar alguns deles, lembro que atualmente “80% das universidades brasileiras dependem de Google ou Microsoft”, como indica o Caderno Vozes da Ciência, recentemente publicado pela Sociedade Brasileira pelo Progresso da Ciência (SBPC). Resultante de um ciclo de debates do qual tive a honra de participar, este valioso documento formula 117 propostas para “o Brasil que queremos”, entre elas as que buscam assegurar a soberania digital e tecnológica brasileira.
O primeiro desafio que enfrentamos é resgatar a história da ciência. A atribuição às máquinas de tarefas outrora exclusivamente humanas inscreve-se em um longo debate sobre as relações entre ética, técnica e produção científica. Numerosos autores demonstraram como as tecnologias, impulsionadas por imperativos econômicos, avançaram de forma alheia, senão antagônica, à reflexão e ao pensamento crítico, deixando a ética isolada em algum rincão das ciências ditas sociais e humanas. Podemos escolher os anos 1970 para resgatar Hans Jonas, filósofo alemão que em diversas obras apontou a responsabilidade dos cientistas pelos efeitos devastadores do “progresso”, e o quanto a “novidade” (“o epíteto laudatório novo”) pode funcionar como salvo-conduto para agir sem precaução nem dever de prestar contas. Porém, muito antes de Jonas e outros tantos pensadores ocidentais, os povos originários já nos alertavam para a possível confusão entre avanço tecnológico e progresso humano; a repartição brutalmente assimétrica dos benefícios e danos oriundos da técnica; e o modo pelo qual, nas palavras de Ailton Krenak, estamos vendendo o amanhã – aliás, a um preço módico.
O segundo desafio é reconhecer que a IA não avança em ambiente “neutro”. A extração de grandes volumes de dados sem prévio consentimento esclarecido e sem contrapartida à altura; a presença de vieses em ferramentas aparentemente anódinas; e a subtração a modalidades de controle legal e social, do ponto de vista das big techs, constituem funcionalidades dessas tecnologias, e não disfunções. Todos sabemos que tais atributos servem não apenas aos vultosos lucros que envolvem a chamada “economia de dados”, mas também aos ecossistemas de desinformação dotados de financiamento bilionário e objetivos político-ideológicos ostensivos, que vêm desempenhando papel importante na crescente ascensão global das extremas direitas. Exceto pela escala e pela velocidade, tampouco estamos diante de uma novidade. O mesmo homem pode aceitar boquiaberto os mais fantasiosos relatos e rejeitar com desprezo as verdades mais solidamente estabelecidas, escreveu Marc Bloch em suas Reflexões de um historiador sobre as notícias falsas da guerra (1921). Soldado durante a Primeira Guerra e fuzilado pela Gestapo durante a Segunda, Bloch foi recentemente homenageado com a entrada simbólica no Panteão francês. Fascinado pela credulidade humana, concluiu que o sucesso de uma notícia falsa nasce de representações coletivas pré-existentes, como medos, ódios e preconceitos. Assim, o processo pelo qual mentiras deslavadas tornam-se grandes lendas não se explica pela ignorância, e sim pela existência de um ambiente favorável a elas. Lamento constatar que hoje, em matéria de plágio, fabricação ou falsificação de dados, considerados as más práticas científicas mais graves, enfrentamos um verdadeiro boom de empreendedorismo.
Isto nos leva a um terceiro desafio: discernir o modus operandi das big techs e de seus aliados, que compreende tanto a coerção como a propaganda. Começando pela imposição, muitos motores de busca, softwares e aplicativos que utilizamos cotidianamente não oferecem a opção de recusa à IA. Sendo condição de acesso aos conteúdos que de fato buscamos, ignorá-la exige um gesto contraintuitivo. Mesmo quando a desativação é possível, nem sempre temos o letramento necessário para fazê-la. Por outro lado, ao lidar com outros serviços públicos ou privados que impõem diferentes modalidades de IA, não raro sofremos um atendimento ansiogênico, redutor das demandas do cidadão ou consumidor a alternativas enviesadas, por vezes tornando impossível uma efetiva interação. Ademais, a persistente exclusão digital de diversos grupos é demonstrada em inúmeras pesquisas.
Sobre a propaganda, limito-me a abordar quatro de suas muitas dimensões. A primeira é o determinismo que apregoa a inexorabilidade da disseminação da IAGen: estaríamos diante de uma ruptura antropológica maior, de caráter irreversível. Todavia, colegas como Anne Alombert, filósofa e professora da Universidade de Paris 8, questionam a natureza desta ruptura, eis que a IA dá continuidade à externalização de funções humanas. Enquanto por meio dos algoritmos de recomendação externalizamos nossa capacidade de decidir o que ver, o que consumir, quem seguir etc., por meio da IAGen transferimos a sistemas probabilísticos a nossa capacidade de expressão. Modelos se expressam em nosso lugar por meio de categorias que não provêm de nossas trajetórias, sempre únicas, mas sim de cálculos sobre volumes de dados, orientados por critérios opacos e de rastreabilidade limitada ou inexistente. No artigo Curar a estupidez artificial, Alombert aponta os efeitos nefastos da generalização do uso subalterno da IAGen, entre eles a dependência cognitiva dos indivíduos: quanto menos exercemos a capacidade de triar e organizar as informações, a memória, a criatividade ou a busca de sentido, menos estamos treinados para pensar de forma autônoma. Além disso, o espaço simbólico é uniformizado pela “média”, paulatinamente eliminando singularidades, inclusive idiomáticas. Ao “fotocopiar indefinidamente a fotocópia”, favorece a esterilização cultural.
Na mesma direção, a cientista política de origem tunisiana Asma Mhalla, professora da Politécnica de Paris, autora do livro Cyberpunk: o novo sistema totalitário, se diz impressionada não com a suposta ruptura, e sim com o rolo compressor imposto pelas infraestruturas digitais, concentradas em um punhado de atores poderosos. A propalada irreversibilidade está sendo imposta na prática, por meio de imponentes pressões econômicas e políticas. Logo, a questão não é a máquina, e sim quem a governa ou desgoverna. A tecnologia deveria ser usada como um instrumento do bem comum, e não como ferramenta de dominação e exploração. Especialmente no meio universitário, creio que o argumento da suposta inexorabilidade serve para nos desalojar de nossa condição de sujeitos responsáveis, elemento central da ética, e obnubilar nossa capacidade de agir. Ambas precisam ser recuperadas não para que recusemos a tecnologia, e sim para que decidamos conscientemente quando, como e com que finalidade a utilizaremos, sempre avaliando com transparência e rigor os efeitos de seu uso.
Uma segunda dimensão da propaganda é a desqualificação sistemática de quem questiona o uso da IA, apontado como anacrônico, vetusto, reacionário ou tecnofóbico, responsáveis pelo “atraso” de nosso mergulho no admirável mundo novo da IA. A desqualificação contrasta, porém, com a seriedade e a competência de colegas como os do MIT (Massachusetts Institute of Technology) que demonstram a queda de desempenho nos níveis neural, linguístico e comportamental de pessoas que utilizam o ChatGPT em certas condições. Também é o caso dos profissionais que vêm comprovando nosso grau de dependência das infraestruturas tecnológicas externas, como pesquisadores da USP e da Universidade de Brasília (UnB) que criaram um índice de soberania digital. Enquanto China, França, Rússia e Estados Unidos ocupam os primeiros lugares do ranking, grande parte de África, América Latina e Sudeste Asiático depende de um restrito clube de corporações estrangeiras, reproduzindo, sob o manto do “novo”, a velha clivagem Norte/Sul, levando a literatura acadêmica a falar de colonialismo de dados ou digital.
Uma terceira dimensão que atinge particularmente nossas agendas e métodos de pesquisa é a intensa propaganda sobre os benefícios da IAGen, que contribuiria para aumentar e acelerar a produtividade, em especial para lidar com grandes volumes de dados. Essas ferramentas se tornariam imprescindíveis para uma produção científica atualizada e de qualidade, e deveriam ser utilizadas também na avaliação da produção acadêmica. Aqui reconhecemos a disputa permanente pela definição do que é ciência e o legado colonial de importação de padrões de excelência.
Entre os incontáveis riscos da “excelência artificial”, sublinho que, no atual contexto de superficialidade e desatenção coletivas, decorrentes justamente do estágio de automação que alcançamos, é evidente a tolerância a sínteses incorretas ou enviesadas, a mediocridade e o reducionismo de textos, os erros crassos ou sutis de tradução, os mal-entendidos e as imprecisões técnicas. Quando apontados, rapidamente se opera a transferência de responsabilidades do sistema ao indivíduo: perguntas ou prompts é que teriam sido mal formulados; seria preciso “ensinar” ou “treinar” corretamente a IA; a falha seria da revisão etc. Diga-se de passagem, essas ferramentas, na verdade, não aprendem nem conversam, tampouco são inteligentes, razão pela qual Alombert prefere chamá-las de autômatos computacionais interativos, recusando metáforas antropomórficas que servem a naturalizá-las.
Neste ponto, urge recordar que o papel da universidade brasileira não é formar revisores de textos gerados por algoritmos, tampouco reproduzir de forma acrítica interesses de corporações estrangeiras ao facultar-lhes o acesso a lucrativos ou estratégicos acervos de dados arduamente construídos, inclusive com recursos públicos.
A quarta dimensão da propaganda alardeia que a regulação do uso da IAGen seria suficiente para evitar riscos e derivas. Ela enseja também um grande desafio, entre os tantos que o espaço de um artigo não permite abordar. Note-se que diversos defensores da suficiência regulatória são contratados por empresas de tecnologia ou conduzem pesquisas financiadas por elas, mas nem sempre declaram conflitos de interesse. Também é importante registrar que, apesar desta propaganda, na prática, as big techs investem agressivamente contra qualquer regulação, e igualmente contra juízes, tribunais e governos capazes de aplicá-la. Em qualquer caso, trata-se de uma ética a posteriori, ou seja, de princípios propostos após a comercialização massiva de ferramentas, muitos deles sendo violados de forma corriqueira até mesmo por quem os propõe.
Neste cenário, será decisivo o papel das Comissões de Ética em Pesquisa (CEPs), que precisam ter voz ativa nos processos regulatórios, não apenas pela função que desempenham, mas sobretudo pelas décadas de experiência que acumulam. No mês passado, tive a oportunidade de participar de um evento que abordou tais desafios regulatórios, organizado pela Pró-Reitoria de Pesquisa e Inovação, que reuniu as CEPs da USP, na atenta presença da Pró-Reitora, professora Maria Helena Palucci Marziale, com curadoria da professora Ana Paula Magalhães, da Faculdade de Filosofia, Letras e Ciências Humanas da USP.
No referido evento, compartilhei uma mesa com a pesquisadora Márcia Azevedo Coelho, da Cátedra Alfredo Bosi de Educação Básica (Instituto de Estudos Avançados da USP), cujos estudos sobre o uso da IAGen nas escolas eu já admirava. Ela destacou os limites de iniciativas como a Portaria CNPq n. 2.664, de 6 de março de 2026, que apesar de representarem um avanço, não dão conta de problemas éticos importantes como o risco de dependência na formulação de problemas de pesquisa; o condicionamento epistêmico pelas limitações da ferramenta em uso; a análise de dados feita por meio de sistemas opacos, não rastreáveis e de reprodutibilidade incontrolada, podendo comprometer a validade dos achados, entre muitos outros. O depoimento de pesquisadores que usam a IAGen com a devida precaução é também importante, e por certo trará à luz novas dificuldades.
Desculpando-me de antemão pela analogia, o encorajamento acrítico do uso da IAGen no meio universitário faz lembrar a propaganda das Bets, ao pedir que pesquisadores “joguem com responsabilidade” na ausência de regras e controle adequados. As derrotas em cascata que se anunciam vão da dependência cognitiva individual à dependência tecnológica nacional. Mas há também o pêndulo percebido por Marc Bloch, a oscilar entre a credulidade inocente e a desconfiança generalizada. Mesmo letrados, podemos hesitar em nossa percepção do que é real ou artificial. Cresce o risco de perda da confiança na ciência, que induz a cidadania a renunciar ao usufruto de seus resultados. Por tudo isto, nossos desafios devem ser enfrentados com urgência, não apenas por especialistas em IA, mas por todos os pesquisadores, pelo Estado e pela sociedade brasileira.
________________
(As opiniões expressas nos artigos publicados noJornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)
Fonte: Jornal da USP
