Nas últimas semanas de campanha, o presidente eleito argentino, Javier Milei, publicou uma imagem fabricada retratando o seu rival peronista Sergio Massa como um comunista à moda antiga em traje militar, com a mão levantada em saudação.

A imagem aparentemente gerada por Inteligência Artificial (IA) atraiu cerca de 3 milhões de visualizações quando Milei a publicou numa conta de rede social, destacando como as equipes de campanha rivais usaram tecnologia de inteligência artificial para chamar a atenção dos eleitores numa tentativa de influenciar a corrida.

“Houve sinais preocupantes de uso de IA” nas eleições, disse Darrell West, pesquisador sênior do Centro de Inovação Tecnológica da Brookings Institution, com sede em Washington.

“Os ativistas usaram a IA para entregar mensagens enganosas aos eleitores, e isso é um risco para qualquer processo eleitoral”, disse ele.

O libertário de direita Milei venceu o segundo turno de domingo com 56% dos votos, ao aproveitar a raiva dos eleitores com a classe política – incluindo o partido peronista dominante de Sérgio Massa, mas ambos os lados recorreram à IA durante a turbulenta campanha eleitoral.

A equipe de Massa distribuiu uma série de imagens e vídeos estilizados gerados por IA por meio de uma conta não oficial do Instagram chamada “AI for the Homeland”.

Num deles, o ministro da economia de centro-esquerda era retratado como um imperador romano. Em outros, ele foi mostrado como um boxeador nocauteando um rival, estrelando uma capa falsa da revista New Yorker e como um soldado em cenas do filme de guerra “1917”.

Outras imagens geradas por IA pretendiam minar e difamar Milei, retratando o economista de cabelos rebeldes e sua equipe como zumbis e piratas enfurecidos.

A utilização de tecnologia de IA cada vez mais acessível em campanhas políticas é uma tendência global, dizem especialistas em tecnologia e direitos, levantando preocupações sobre as potenciais implicações para eleições importantes em países como os Estados Unidos, a Indonésia e a Índia no próximo ano.

Uma série de novas ferramentas de “IA generativa”, como o Midjourney, estão tornando mais barato e fácil a criação de fotos e vídeos fabricados.

Com poucas salvaguardas legais em muitos países, há um desconforto crescente sobre a forma como esse material pode ser utilizado para enganar ou confundir os eleitores no período que antecede as eleições.

“Em todo o mundo, estas ferramentas para criar imagens falsas estão a ser usadas para tentar demonizar a oposição”, disse West.

“Embora não seja ilegal usar conteúdo gerado por IA em quase nenhum país, imagens que retratam pessoas dizendo coisas que não disseram ou inventando coisas claramente ultrapassam os limites éticos”.

Uso político

A maioria das imagens geradas por IA usadas na campanha eleitoral argentina tinham um sabor satírico, buscando provocar uma reação emocional dos eleitores e se espalhar rapidamente nas redes sociais.

Mas os algoritmos de IA também podem ser treinados em muitas imagens on-line para criar imagens, gravações de voz e vídeos realistas, mas fabricados – os chamados deepfakes.

Durante a recente campanha, um vídeo adulterado que parecia mostrar Massa usando drogas circulou nas redes sociais, com imagens existentes manipuladas para adicionar a imagem e a voz de Massa.

É uma nova fronteira perigosa em notícias falsas e desinformação, dizem os pesquisadores, com alguns pedindo que material contendo imagens deepfake carregue um rótulo de divulgação dizendo que foram gerados usando IA.

“Agora eles têm uma ferramenta que lhes permite criar coisas do zero, mesmo que seja evidente que pode ser gerado artificialmente”, disse West, acrescentando que “a divulgação por si só não protege as pessoas do perigo.

“Será um enorme problema nas eleições globais no futuro, pois será cada vez mais difícil para os eleitores distinguirem o falso do real”, disse ele.

Risco para a democracia

À medida que o conteúdo gerado pela IA se torna mais acessível e mais convincente, as plataformas de redes sociais e os reguladores lutam para se manterem à frente, disse o investigador de desinformação Richard Kuchta, que trabalha no Reset, um grupo que se concentra no impacto da tecnologia na democracia.

“É claramente um jogo de gato e rato”, disse Kuchta. “Se você observar como a desinformação funciona durante uma eleição, ela ainda é praticamente a mesma. Mas ela foi enormemente ampliada em termos de quão enganosa pode ser.”

Ele citou um caso na Eslováquia no início deste ano, em que verificadores de factos se esforçaram para verificar gravações de áudio falsas publicadas no Facebook poucos dias antes das eleições de 30 de Setembro no país.

Na fita, uma voz parecida com a de um dos candidatos parecia estar discutindo como fraudar a eleição.

“Eventualmente, a peça foi considerada falsa, mas causou muitos danos”, disse Kuchta.

A Meta Platforms, proprietária do Facebook e do Instagram, disse este mês que a partir de 2024 os anunciantes terão que divulgar quando a IA ou outros métodos digitais forem usados ​​para alterar ou criar anúncios políticos, sociais ou relacionados a eleições nos sites.

Nos Estados Unidos, um grupo bipartidário de senadores propôs legislação para proibir a “distribuição de áudio, imagens ou vídeos materialmente enganosos gerados por IA relacionados a candidatos federais em anúncios políticos ou em determinados anúncios temáticos”.

Além disso, a Comissão Eleitoral Federal dos EUA pretende regular os deepfakes gerados por IA em anúncios políticos para proteger os eleitores contra a desinformação antes das eleições presidenciais do próximo ano.

Outros países estão a liderar esforços semelhantes, embora nenhuma proposta regulamentar deste tipo tenha ainda sido apresentada na Argentina.

“Ainda estamos nos estágios iniciais da IA”, disse Olivia Sohr, jornalista da ONG argentina de verificação de fatos Chequeado, observando que a maior parte das informações falsas que circularam durante a campanha envolviam manchetes de jornais fabricadas e citações falsas atribuídas a um candidato específico. .

“A IA tem o potencial de elevar a desinformação a um novo nível. Mas, por enquanto, existem outras formas igualmente eficazes de cumprir os seus objetivos sem serem necessariamente tão caras ou sofisticadas.”

---