The Guardian revela a brecha do Facebook que permite que líderes mundiais enganem e assediem seus cidadãos

Uma investigação do “The Guardia”n expõe a amplitude da manipulação da plataforma apoiada por diferentes governos no mundo

fb0

Por Julia Carrie Wong em São Francisco para o “The Guardian”

“Há muitos danos sendo causados ​​no Facebook que não estão sendo respondidos porque não é considerado um risco de relações públicas suficiente para o Facebook”, disse Sophie Zhang, uma ex-cientista de dados do Facebook que trabalhou na organização de “integridade” da empresa para combater o comportamento inautêntico. “O custo não é suportado pelo Facebook. É suportado pelo mundo mais amplo como um todo. ”

O Facebook se comprometeu a combater a manipulação política apoiada pelo estado de sua plataforma após o fiasco histórico da eleição americana de 2016, quando agentes russos usaram contas inautênticas do Facebook para enganar e dividir os eleitores americanos.

Mas a empresa tem falhado repetidamente em tomar medidas oportunas quando apresentada a evidências de manipulação desenfreada e abuso de suas ferramentas por líderes políticos em todo o mundo.

Ex-funcionária do Facebook fala sobre a perigosa brecha da empresa: ‘Autocratas não se preocupam em se esconder’

O Facebook demitiu Zhang por mau desempenho em setembro de 2020. Em seu último dia, ela publicou um memorando de despedida de 7.800 palavras descrevendo como ela “encontrou várias tentativas flagrantes de governos nacionais estrangeiros de abusar de nossa plataforma em grandes escalas para enganar seus próprios cidadãos” e criticando a empresa por sua falha em lidar com os abusos. “Eu sei que tenho sangue em minhas mãos agora”, escreveu ela. A notícia do memorando foi relatada pela primeira vez em setembro pelo BuzzFeed News .

“O Facebook não tem um forte incentivo para lidar com isso, exceto o medo de que alguém vaze e faça um grande alarido, que é o que estou fazendo”, disse ela ao Guardian. “Todo o ponto da atividade inautêntica não pode ser encontrado. Você não pode consertar algo a menos que saiba que existe. ”

Liz Bourgeois, porta-voz do Facebook, disse: “Discordamos fundamentalmente da caracterização da Sra. Zhang de nossas prioridades e esforços para erradicar o abuso em nossa plataforma.

“Perseguimos agressivamente os abusos em todo o mundo e temos equipes especializadas focadas neste trabalho. Como resultado, derrubamos mais de 100 redes de comportamento inautêntico coordenado. Cerca de metade delas eram redes domésticas que operavam em países ao redor do mundo, incluindo aqueles na América Latina, Oriente Médio e Norte da África, e na região da Ásia-Pacífico. Combater o comportamento inautêntico coordenado é a nossa prioridade. Também estamos tratando dos problemas de spam e engajamento falso. Investigamos cada problema antes de tomar medidas ou fazer reivindicações públicas sobre eles. ”

O Facebook não contestou as afirmações factuais de Zhang sobre seu tempo na empresa.

Sophie Zhang era uma cientista de dados do Facebook que relatou o uso indevido da plataforma por líderes políticos.  Ela foi despedida em setembro de 2020.
Sophie Zhang era uma cientista de dados do Facebook que relatou o uso indevido generalizado da plataforma por líderes políticos. Fotografia: Jason Henry / The Guardian

Com 2,8 bilhões de usuários, o Facebook desempenha um papel dominante no discurso político de quase todos os países do mundo. Mas os algoritmos e recursos da plataforma podem ser manipulados para distorcer o debate político.

Uma maneira de fazer isso é criando um “engajamento” falso – curtidas, comentários, compartilhamentos e reações – usando contas do Facebook não autênticas ou comprometidas. Além de moldar a percepção pública da popularidade de um líder político, o falso engajamento pode afetar o algoritmo de feed de notícias importantíssimo do Facebook. Jogar com sucesso o algoritmo pode fazer a diferença entre alcançar uma audiência de milhões – ou gritar contra o vento.

Zhang foi contratado pelo Facebook em janeiro de 2018 para trabalhar na equipe dedicada a erradicar o envolvimento falso. Ela descobriu que a grande maioria do engajamento falso apareceu em postagens de indivíduos, empresas ou marcas, mas que também estava sendo usado no que o Facebook chamou de alvos “cívicos” – isto é, políticos.

O exemplo mais flagrante foi Juan Orlando Hernández, o presidente de Honduras , que em agosto de 2018 estava recebendo 90% de todo o engajamento cívico falso conhecido no pequeno país centro-americano. Em agosto de 2018, Zhang descobriu evidências de que a equipe de Hernández estava diretamente envolvida na campanha para impulsionar o conteúdo de sua página com centenas de milhares de curtidas falsas.

Um dos administradores da página oficial de Hernández no Facebook também administrava centenas de outras páginas que foram configuradas para se parecerem com perfis de usuário. O funcionário usou as páginas fictícias para entregar curtidas falsas nas postagens de Hernández, o equivalente digital de se reunir com uma multidão falsa para um discurso.

Esse método de obter engajamento falso, que Zhang chama de “abuso de página”, foi possível devido a uma lacuna nas políticas do Facebook. A empresa exige que as contas de usuário sejam autênticas e impede que os usuários tenham mais de uma, mas não tem regras comparáveis ​​para páginas, que podem realizar muitos dos mesmos compromissos que as contas podem, incluindo curtir, compartilhar e comentar.

A brecha permaneceu aberta devido à falta de fiscalização e parece que está sendo usada pelo partido no poder do Azerbaijão para deixar milhões de comentários agressivos nas páginas do Facebook de veículos de notícias independentes e políticos da oposição azerbaijana.

O abuso de página está relacionado ao que a Agência de Pesquisa da Internet da Rússia fez durante as eleições nos EUA de 2016, quando criou contas no Facebook que pretendiam representar os americanos e as usou para manipular indivíduos e influenciar debates políticos. O Facebook chamou isso de “comportamento inautêntico coordenado ” (CIB) e encarregou uma equipe de elite de investigadores, conhecida como inteligência de ameaças, para descobri-lo e removê-lo. O Facebook agora divulga as campanhas CIB que revela em relatórios mensais, enquanto remove as contas e páginas falsas.

Mas a inteligência de ameaças – e vários gerentes e executivos do Facebook – resistiram em investigar os casos de abuso de página em Honduras e no Azerbaijão, apesar das evidências em ambos os casos ligando o abuso ao governo nacional. Entre os líderes da empresa que Zhang informou sobre suas descobertas estavam Guy Rosen, o vice-presidente de integridade; Katie Harbath, ex-diretora de políticas públicas para eleições globais; Samidh Chakrabarti, o então chefe da integridade cívica; e David Agranovich, o líder global de interrupção de ameaças.

Os casos foram particularmente preocupantes devido à natureza dos líderes políticos envolvidos. Hernández foi reeleito em 2017 em um concurso amplamente considerado fraudulento. Sua administração foi marcada por denúncias de corrupção desenfreada e violações dos direitos humanos . O Azerbaijão é um país autoritário sem liberdade de imprensa ou eleições livres.

Hernández não respondeu às perguntas enviadas ao seu assessor de imprensa, advogado e ministro da Transparência. O partido no poder do Azerbaijão não respondeu às perguntas.

O Facebook levou quase um ano para derrubar a rede de Honduras e 14 meses para remover a campanha do Azerbaijão . Em ambos os casos, o Facebook posteriormente permitiu que o abuso retornasse. O Facebook diz que usa métodos de detecção manuais e automatizados para monitorar casos anteriores de aplicação de CIB e que remove “continuamente” contas e páginas conectadas a redes removidas anteriormente.

Os longos atrasos foram em grande parte resultado do sistema de prioridades do Facebook para proteger o discurso político e as eleições.

“Temos literalmente centenas ou milhares de tipos de abuso (segurança no trabalho e integridade, eh!)”, Disse Rosen a Zhang em um bate-papo em abril de 2019, depois de reclamar da falta de ação em Honduras. “É por isso que devemos começar do fim (principais países, áreas de alta prioridade, fatores que impulsionam a prevalência, etc.) e tentar diminuir um pouco.”

Zhang disse a Rosen em dezembro de 2019 que ela havia sido informada de que a inteligência de ameaças só priorizaria a investigação de suspeitas de redes CIB “nos EUA / Europa Ocidental e adversários estrangeiros, como Rússia / Irã / etc”.

Rosen endossou a estrutura, dizendo: “Acho que essa é a priorização certa”

Zhang registrou dezenas de escalonamentos no sistema de gerenciamento de tarefas do Facebook para alertar a equipe de inteligência de ameaças sobre redes de contas ou páginas falsas que distorciam o discurso político, incluindo na Albânia, México, Argentina, Itália, Filipinas, Afeganistão, Coreia do Sul, Bolívia, Equador , Iraque, Tunísia, Turquia, Taiwan, Paraguai, El Salvador, Índia, República Dominicana, Indonésia, Ucrânia, Polônia e Mongólia.

As redes muitas vezes não atendiam aos critérios de mudança do Facebook para serem priorizadas para as remoções do CIB, mas, mesmo assim, violavam as políticas da empresa e deveriam ter sido removidas.

Em alguns dos casos que Zhang descobriu, incluindo aqueles na Coréia do Sul, Taiwan, Ucrânia, Itália e Polônia, o Facebook agiu rapidamente, resultando em investigações por equipes da inteligência de ameaças e, na maioria dos casos, remoção de contas não autênticas.

fb1

Em outros casos, o Facebook demorou meses para agir. Quando Zhang descobriu uma rede de contas falsas criando engajamento falso de baixa qualidade com roteiro para políticos nas Filipinas em outubro de 2019, o Facebook deixou de lado. Mas quando um pequeno subconjunto dessa rede começou a criar uma quantidade insignificante de engajamento falso na página de Donald Trump em fevereiro de 2020, a empresa agiu rapidamente para removê-lo.

fb2

Em vários casos, o Facebook não realizou nenhuma ação.

Um investigador de inteligência de ameaças encontrou evidências de que a rede albanesa, que estava produzindo comentários inautênticos em massa, estava ligada a indivíduos no governo, então desistiu do caso.

Uma rede boliviana de contas falsas apoiando um candidato presidencial na corrida para as disputadas eleições gerais de outubro de 2019 no país foi totalmente ignorada; no último dia de trabalho de Zhang, em setembro de 2020, a rede continuava operando.

Redes na Tunísia e na Mongólia também não foram investigadas, apesar das eleições na Tunísia e de uma crise constitucional na Mongólia.

Em meio a protestos em massa e uma crise política no Iraque em 2019, o especialista de mercado do Facebook para o Iraque pediu que duas redes que Zhang encontrou fossem priorizadas. Um investigador concordou que as contas deveriam ser removidas, mas ninguém jamais executou a ação de repressão, e no último dia de Zhang, ela encontrou aproximadamente 1.700 contas falsas continuando a agir em apoio a uma figura política no país.

Em última análise, Zhang argumenta que o Facebook é muito relutante em punir políticos poderosos e que, quando age, as consequências são muito brandas.

“Suponha que a punição quando você roubou um banco com sucesso seja que suas ferramentas de assalto sejam confiscadas e haja um aviso público em um jornal que diz: ‘Pegamos essa pessoa roubando um banco. Eles não deveriam fazer isso ‘”, diz Zhang. “Isso é essencialmente o que está acontecendo no Facebook. E então o que aconteceu é que vários presidentes nacionais decidiram que esse risco é suficiente para que eles se envolvam nele.

“Nessa analogia, o dinheiro já foi gasto. Não pode ser retirado. ”

fecho

Este texto foi escrito originalmente em inglês e publicado pelo jornal “The Guardian”  [Aqui!  ]. A versão em inglês possui mais ilustrações que são pedagógicas sobre o uso do Facebook por diferentes governos ao redor do mundo.

Deixe um comentário

Faça o login usando um destes métodos para comentar:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s