inteligência artificial

Sucesso da chinesa DeepSeek expõe sobrevalorização de empresas de IA dos EUA e pode causar banho de sangue no mercado de ações

/ Marcos Pędłowski / Deixe um comentário

O logotipo da empresa chinesa de inteligência artificial DeepSeek é visto em Hangzhou, província de Zhejiang, China, em 26 de janeiro de 2025. CFOTO/Future Publishing via Getty Images
Por Ryan Grim e Waqas Ahmed para o DropSite

As ações de tecnologia dos EUA estão despencando enquanto a China parece estar expondo as empresas americanas envolvidas em Inteligência Artificial (IA) como extremamente supervalorizadas. É uma consequência previsível de como o governo americano abordou o Vale do Silício e vice-versa. Este não é o tipo de coisa que normalmente cobrimos, mas não confiamos muito na mídia dos EUA para contar essa história com precisão.

Qualquer um que acompanha casualmente viu como foi. Empresas de tecnologia dos EUA, com o apoio do governo federal (e do Pentágono), construíram uma posição global dominante por meio de inovação genuína. Microsoft, Facebook, Apple, Google e Amazon remodelaram o mundo. A Microsoft, uma das primeiras grandes empresas a crescer, tentou interromper essa inovação comprando e/ou esmagando seus concorrentes, mas os EUA a processaram em 1998 por violar as leis antitruste. O governo Bush resolveu o caso, recuando no esforço de separá-los. O que se seguiu foi um abraço bipartidário da Big Tech; as eras Bush e Obama viram crescimento desenfreado e fusões. À medida que as empresas de tecnologia viam empresas menores inovando, elas compravam a empresa, a matavam e absorviam parte de sua equipe.

Um movimento antimonopólio começou a borbulhar, levando a processos judiciais contra Facebook, Amazon, Google e Apple na última década. Lina Khan, como presidente da Comissão Federal de Comércio sob o ex-presidente Joe Biden, tornou-se uma heroína popular ao alertar que a ganância e a consolidação não estavam prejudicando apenas consumidores e trabalhadores, mas que as próprias empresas escleróticas acabariam sofrendo com a falta de concorrência. “Nossa história mostra que manter mercados abertos, justos e competitivos, especialmente em pontos de inflexão tecnológica, é uma maneira fundamental de garantir que a América se beneficie da inovação que essas ferramentas podem catalisar”, disse Khan em 2023.

Agora ficou claro que o fosso que os EUA construíram para proteger suas empresas da concorrência doméstica na verdade criou as condições que permitiram que elas atrofiassem. Elas ficaram gordas e felizes dentro de seus castelos. Seus negócios mudaram da inovação tecnológica para a realização de alquimia com planilhas, transformando métricas inventadas em avaliações em dólares desvinculadas da realidade. Agora, a DeepSeek expôs o golpe. Com uma pequena fração dos recursos e sem acesso a toda a panóplia de tecnologia de chips dos EUA, a empresa chinesa DeepSeek enganou o Vale do Silício. A empresa americana OpenAI começou como uma organização sem fins lucrativos dedicada a tornar a IA amplamente disponível, como seu nome sugere. Seu chefe, Sam Altman, conseguiu transformá-la em uma empresa com fins lucrativos e fechá-la.

Agora, o DeepSeek está ironicamente cumprindo a missão original do OpenAI ao fornecer um modelo de código aberto que simplesmente tem melhor desempenho do que qualquer outro no mercado. 

Enquanto isso, aqui nos Estados Unidos, Trump está comemorando um investimento (possivelmente exagerado) de US$ 500 bilhões no Texas para abastecer o poder computacional de IA que parece estar obsoleto — ou muito menos relevante — graças à inovação da DeepSeek. E Trump está enchendo sua administração com manos da criptografia, magnatas da tecnologia se recusando a desinvestir e até lançou sua própria moeda meme de golpe. Os principais conselheiros de tecnologia de Trump, como Elon Musk, enquanto isso, têm extensos laços comerciais diretamente com a China. Você não precisa apertar os olhos muito para ver qual desses países vai ganhar essa competição.

O contrato social firmado entre o governo dos EUA e o Vale do Silício — do qual o povo americano se tornou parte involuntária — era direto: deixaremos um punhado de caras da tecnologia se tornarem incomensuravelmente ricos e, em troca, eles construirão uma indústria de tecnologia que manterá a América globalmente dominante. Em vez disso, os caras da tecnologia quebraram o acordo. Eles pegaram o dinheiro, mas em vez de continuar a inovar e competir, construíram monopólios para manter a concorrência fora — até mesmo recebendo a ajuda do estado de segurança nacional dos EUA para bloquear o acesso chinês à nossa tecnologia. Mas eles não conseguiram ficar fora da competição para sempre. Lina Khan estava certa. E agora aqui estamos.

Os efeitos posteriores serão profundos se a trajetória de uma transferência de riqueza dos EUA para a China continuar acelerada. É comum dizer que a maioria das pessoas não possui ações individuais, mas isso subestima a exposição que todos nós temos a esse golpe. Está em nossos IRAs ou 401ks e a ascensão dessas ações constituiu quase todo o crescimento do mercado de ações nos últimos anos. E se a China se tornar cada vez mais o lugar para trabalhar se você for um pesquisador ou desenvolvedor ambicioso, não é difícil ver aonde isso leva.

Abaixo está uma explicação sobre o DeepSeek que pedimos ao nosso correspondente Waqas Ahmed para elaborar.
   

CEO da OpenAI, Sam Altman. Foto de Justin Sullivan/Getty Images.

P: O que é DeepSeek e por que ele está causando um colapso nas ações?

R: A empresa chinesa DeepSeek lançou um modelo de IA que é tão bom quanto qualquer um de seus equivalentes americanos e o tornou de código aberto. Isso mudou fundamentalmente a economia e a política da indústria de IA em rápido crescimento, que até agora tem sido liderada por um oligopólio de empresas de tecnologia americanas tentando posicionar os Large Language Models (LLMs) como o avanço tecnológico definidor deste século, e eles próprios como os guardiões de seu molho secreto.

Há muita conversa sobre o DeepSeek custar apenas cerca de US$ 6 milhões para ser construído, embora esse valor não inclua pesquisa e desenvolvimento. E, apesar dos controles de exportação, o DeepSeek conseguiu explorar um número não trivial de chips de alta tecnologia que estávamos tentando manter deles. No entanto, ainda é um choque enorme para a indústria dos EUA.

P: O que são LLMs e como eles surgiram ?

R: Um artigo de 2017 intitulado “Atenção é tudo o que você precisa ” foi um ponto de virada na indústria de IA. O artigo descreveu um método de criação de um modelo de aprendizado de máquina que poderia produzir texto semelhante ao humano com precisão e escala sem precedentes usando uma arquitetura chamada “transformadores”. Esses “transformadores” melhoraram consideravelmente uma classe de modelos chamados Large Language Models (LLMs). Os LLMs usam grandes quantidades de texto — livros, artigos, e-mails, receitas, perguntas frequentes, tudo — para criar representações matemáticas internas de relacionamentos entre bilhões de palavras e frases — ou, mais precisamente, entre combinações de tokens encontrados em uma linguagem humana natural.

Antes de 2017, os LLMs não eram muito úteis, mas os “transformadores” mudaram isso. Ao processar grandes quantidades de texto usando a arquitetura do transformador, esses modelos agora podiam “aprender” o que as palavras significam em diferentes contextos e detectar nuances que os computadores nunca tinham conseguido antes, permitindo que esses modelos produzissem texto extremamente relevante em resposta a um prompt ou pergunta do usuário.

P: Como começou o entusiasmo pela IA?

R: A OpenAI se tornou a primeira empresa americana a demonstrar que se você tirar um instantâneo de toda a internet conhecida e de todos os livros digitalizados existentes sem se preocupar muito com a lei de direitos autorais , você pode criar um modelo tão bom que sua saída seria quase indistinguível daquela de um burocrata de DC com inteligência medíocre. No entanto, a OpenAI mostrou que seu modelo poderia ser treinado para ter experiência em diferentes domínios e poderia dar respostas aprofundadas a perguntas muito específicas. Seu modelo passou em exames de codificação, no exame da ordem e se formou na escola de negócios. Os resultados foram tão chocantes que a OpenAI saiu e afirmou que valia um zilhão de dólares e que o futuro da humanidade dependia disso.

P: Qual é o estado atual do setor de IA?

R: A OpenAI, parcialmente de propriedade da Microsoft, foi a primeira a lançar um grande produto LLM, o ChatGPT, em novembro de 2022. Logo depois, a Meta lançou seu próprio modelo, o LLaMa, e o Google lançou o Gemini. Todas as três empresas tinham grandes quantidades de texto para treinar seus modelos, mas um LLM precisa de outro ingrediente crucial: poder de computação para processar esse texto e, em seguida, gerar respostas às consultas do usuário. A empresa líder que fabrica as máquinas de computação é a Nvidia, cujas ações cresceram exponencialmente como resposta quando as guerras de LLM lideradas pela OpenAI/Microsoft, Google e Meta se seguiram.

As máquinas de computação são chamadas de GPUs — Unidades de Processamento Gráfico. Elas foram originalmente inventadas para processar gráficos de computador para jogos, como renderização 3D. Mais tarde, elas se tornaram populares porque suas capacidades de processamento paralelo as tornaram ideais para mineração de criptomoedas. Agora, ao que parece, elas também são ótimas em processamento de dados de IA por razões semelhantes. A Nvidia basicamente tem surfado ondas de booms à medida que diferentes mercados descobrem novos usos para seu produto.

Nos últimos anos, Meta, Google, Microsoft e OpenAI conseguiram acumular centenas de milhares das GPUs mais avançadas e obter tratamento preferencial da Nvidia e de seu fornecedor, o principal fabricante mundial de semicondutores, a TSMC.

A indústria tecnológica americana tem tomado medidas significativas para se alinhar em torno da IA. As empresas têm adquirido startups, recrutado os melhores pesquisadores de IA e investido recursos no desenvolvimento de seus modelos primários de IA proprietários (chamados de modelos fundamentais), criando um fluxo de investimento em IA e tecnologias relacionadas, como computação em nuvem, fabricação avançada de chips e infraestrutura de dados. Tudo isso é uma tentativa de garantir o domínio no que eles afirmam ser a próxima fronteira da inovação tecnológica.

P: Como a China está envolvida?

R: Como parte de seu esforço maior para conter a China, o governo dos EUA tem a missão de impedir que empresas chinesas se tornem líderes em diferentes áreas de tecnologia. Ele fez isso exercendo controle sobre as cadeias de suprimentos globais e protegendo as empresas de tecnologia americanas da concorrência no processo. Os EUA bloquearam a entrada da Huawei no seu território no momento em que ela estava ultrapassando a Apple para se tornar a segunda maior fabricante de smartphones do mundo e impediram que países europeus instalassem infraestrutura 5G fabricada pela Huawei quando era claramente mais econômica; e, mais recentemente, aprovaram uma legislação proibindo o TikTok, um aplicativo de mídia social chinês que se tornou extremamente popular nos Estados Unidos e cujo algoritmo de recomendação nenhum aplicativo de mídia social americano conseguiu superar.

A alegação dos EUA de que a Huawei e outras empresas de tecnologia chinesas estão inextricavelmente ligadas à estratégia geopolítica da China e colocam empresas e pessoas ocidentais em risco elevado de vigilância e espionagem corporativa é, claro, baseada na realidade. A DeepSeek não tem vergonha de quantos dados coleta em sua plataforma, incluindo até mesmo suas teclas digitadas:

Coletamos certas informações de conexão de dispositivo e rede quando você acessa o Serviço. Essas informações incluem o modelo do seu dispositivo, sistema operacional, padrões ou ritmos de pressionamento de tecla, endereço IP e idioma do sistema. Também coletamos informações relacionadas ao serviço, diagnóstico e desempenho, incluindo relatórios de falhas e logs de desempenho. Atribuímos automaticamente a você um ID de dispositivo e um ID de usuário. Quando você faz login em vários dispositivos, usamos informações como o ID do seu dispositivo e o ID do usuário para identificar sua atividade em todos os dispositivos para fornecer a você uma experiência de login perfeita e para fins de segurança.

No entanto, como o DeepSeek é de código aberto e pode ser executado localmente em um dispositivo separado, os olhos curiosos do presidente Xi Jinping podem ser protegidos.

Manter o domínio tecnológico global é uma das principais preocupações que os formuladores de políticas dos EUA têm repetidamente citado e identificado a IA como uma tecnologia crucial para manter esse domínio . Em 2018, quando o governo dos EUA estava no processo de banir a Huawei, percebeu que precisaria fazer o mesmo com tecnologias downstream, como chips semicondutores, o principal componente usado em CPUs e GPUs. A grave escassez de chips devido a interrupções na cadeia de suprimentos global durante a Covid-19 mostrou que chips avançados são um gargalo na cadeia de suprimentos global e um recurso escasso. Em 2022, o governo Biden impôs sanções abrangentes à China, interrompendo a exportação desses chips para o país e impedindo que as empresas chinesas de IA acessassem as GPUs mais recentes e eficientes. Ao mesmo tempo, aprovou a lei CHIPS, subsidiando a fabricação nacional de semicondutores com mais de US$ 50 bilhões.

P: Por que todo mundo de repente está tão interessado em IA?

R: O nível exagerado de marketing e vendedor de óleo de cobra da indústria de IA dos EUA causou um certo pânico entre os formuladores de políticas governamentais menos alfabetizados tecnicamente. Muitos especialistas da indústria alegaram que os avanços em LLMs poderiam em breve levar à criação da Inteligência Artificial Geral (AGI), basicamente um computador que pensa como um ser humano e é bom em muitas tarefas diferentes. Alguns já soaram o alarme de que ele pode se tornar maligno e autoconsciente. Mas até mesmo seus detratores concordaram que os LLMs são uma tecnologia revolucionária que mudará fundamentalmente a forma como interagimos com os computadores.

P: Por que os caras da tecnologia estão tão bravos?

Grandes empresas de tecnologia também têm dito ao governo e investidores que construir IA é muito, muito caro. Em sua primeira semana no cargo, o presidente dos EUA, Donald Trump, anunciou US$ 500 bilhões em investimentos do setor privado em IA sob um projeto chamado Stargate — uma colaboração entre OpenAI, Softbank e Oracle.

No passado, o fundador da OpenAI, Sam Altman, afirmou que precisaria de até US$ 7 trilhões para criar sua IA dos sonhos e estava levantando investimentos usando essa meta. Para contextualizar, nenhum homem em toda a história do mundo já gastou essa quantia de dinheiro em uma única coisa. Mas a mensagem subjacente parece ser: esta é uma tecnologia mágica e uma força mais poderosa do que qualquer outra que o mundo já viu, precisamos de quantias astronômicas de dinheiro para construí-la e precisamos da proteção do governo dos EUA enquanto fazemos isso.

Então veio uma pequena empresa chinesa que estourou essa bolha com seu projeto paralelo. Ela usou US$ 5,5 milhões em poder computacional para fazer isso, usando apenas 2.048 GPUs Nvidia H800 que a empresa chinesa tinha porque não podia comprar as GPUs superiores H100 ou A100 que as empresas americanas estão reunindo em centenas de milhares.

Para contextualizar, a Meta AI estabeleceu a meta de possuir um cluster de 600.000 GPUs H100 até o final de 2024. Elon Musk tem 100.000 GPUs, enquanto a OpenAI treinou seu modelo GPT-4 em aproximadamente 25.000 GPUs A100. Enquanto isso, a DeepSeek foi fundada pela gestora de fundos de hedge chinesa High Flyer que queria colocar seu cluster de, de acordo com a mídia chinesa , 10.000 GPUs H800 em bom uso.

A DeepSeek, de acordo com a tradição , contratou uma equipe muito jovem e os impulsionou a inovar e aproveitar ao máximo seu hardware limitado. Eles lançaram o modelo DeepSeek-V3 no mês passado, um modelo que supera o OpenAI GPT-4 e todos os outros modelos do setor na maioria dos benchmarks. Não há nenhum desenvolvimento significativo na tecnologia básica, eles apenas usam o hardware de forma eficiente e treinam melhor seu modelo.

Os manos da tecnologia são salgados porque isso os faz parecer ruins. O que complica ainda mais as coisas é que o DeepSeek lançou seu modelo e métodos de treinamento como software de código aberto, o que significa que qualquer um pode ver como eles fizeram seu modelo e replicar o processo. Isso também significa que os usuários podem instalar modelos do DeepSeek em suas próprias máquinas e executá-los em suas próprias GPUs , onde eles parecem estar tendo um desempenho muito bom.

P: Como os caras da tecnologia estão reagindo?

R: Embora tenha havido uma mudança significativa na vibração em direção a “acabou “, alguns ainda afirmam que “estamos de volta ” e este é o “momento Sputnik da IA “. Outros não foram tão magnânimos.

“Deepseek é uma operação psicológica do estado do Partido Comunista da China+ guerra econômica para tornar a IA americana não lucrativa. Eles estão fingindo que o custo era baixo para justificar a fixação de um preço baixo e esperando que todos mudem para ele, prejudicando a competitividade da IA nos EUA, não morda a isca”, tuitou Neal Khosla, filho do investidor Vinod Khosla. A Khosla Ventures levantou mais de US$ 400 milhões para a OpenAI e é um dos maiores investidores da empresa.

“O DeepSeek é um alerta para a América”, disse Alexandr Wang, fundador da empresa de IA Scale AI, e alguém que acusou mais notavelmente o DeepSeek de esconder um estoque secreto de 50.000 GPUs H100.

“As acusações/obsessões sobre o DeepSeek usar o H100 parecem como se um time de crianças ricas tivesse sido derrotado por um time de crianças pobres, que nem sequer tinham permissão para usar sapatos”, tuitou Jen Zhu, um investidor em IA, “e agora as crianças ricas estão exigindo uma investigação para saber se sapatos foram usados em vez de treinar mais para se aprimorarem”.

P: Por que o mercado de ações está despencando?

R: Embora o DeepSeek v3 já esteja disponível há quase um mês, as notícias estão começando a chegar ao mercado somente agora. As ações da Nvidia caíram quase 15% antes do mercado na segunda-feira, perdendo aproximadamente US$ 420 bilhões de sua capitalização de mercado e desencadeando um banho de sangue nas ações de semicondutores que poderia varrer US$ 1 trilhão do mercado de ações em um único dia. Quando foi lançado no final de dezembro, Andrej Karpathy, um importante cientista na área, comentou sobre sua eficiência surpreendente, mas as repercussões de uma empresa chinesa desconhecida lançando um modelo fundamental de código aberto só decolaram quando o Vale do Silício começou a testar o DeepSeek em seus computadores pessoais e o DeepSeek subiu para o aplicativo número um .

Ironicamente, os caras da tecnologia surtando e gerando níveis de conflito nunca antes vistos estão contribuindo para a viralidade do DeepSeek.

Fonte:  DropSite

Ações da Nvidia despencam com grande avanço da chinesa DeepSeek que está abalando os investidores de IA

/ Marcos Pędłowski / Deixe um comentário

DeepSeek lançou um concorrente ChatGPT e Llama usando chips de capacidade reduzida da Nvidia

Por Rocio Fabbro para o “Quartz” 

As ações da Nvidia ( NVDA ) caíram até 14% no pré-mercado na segunda-feira, depois que o modelo mais recente da startup chinesa de inteligência artificial (IA) DeepSeek levantou questões sobre a competitividade americana no espaço da IA.

A DeepSeek lançou em dezembro um modelo de linguagem grande (LLM) de código aberto e gratuito, que ela alegou ter desenvolvido em apenas dois meses por menos de US$ 6 milhões. E na semana passada, a empresa disse que lançou um modelo que rivaliza com o ChatGPT da OpenAI e o Llama 3.1 da Meta ( META ) — e que chegou ao topo da App Store da Apple ( AAPL ) no fim de semana.

Mais notavelmente, a DeepSeek construiu o modelo usando chips de menor capacidade da Nvidia, o que pode pressionar a queridinha dos semicondutores se outras empresas se afastarem de suas ofertas premium.

Analistas da Wedbush disseram em uma nota de pesquisa na segunda-feira que “as ações de tecnologia estão sob enorme pressão liderada pela Nvidia, já que a Wall Street verá o DeepSeek como uma grande ameaça percebida ao domínio da tecnologia dos EUA e à posse desta Revolução da IA”.

As ações da Nvidia caíram quase 12% na manhã de segunda-feira. A notícia fez outras grandes ações de chips caírem, incluindo a ASML ( ASML ), que caiu 7%, e a Broadcom ( AVGO ), que teve uma queda de 12%. A liquidação fez o índice Nasdaq, pesado em tecnologia, cair no pré-mercado , com os futuros quase 4% mais baixos.

“As empresas de tecnologia dos EUA estão sendo negociadas com avaliações premium, com grandes players de IA como Nvidia, Microsoft ( MSFT ) e Alphabet ( GOOGL ) comandando múltiplos [preço-lucro] futuros muito acima das médias históricas”, disse Charu Chanana, estrategista-chefe de investimentos na plataforma de investimentos Saxo, em uma declaração. “Com essas ações precificadas para a perfeição, até mesmo pequenas interrupções, como a DeepSeek provando que a IA avançada pode ser construída sem chips de primeira linha, podem pesar muito nos preços das ações.”

Com o objetivo final da IA ​​sendo a inteligência artificial geral (AGI) — e com as empresas dos EUA bem encaminhadas para alcançá-la nos próximos anos — os analistas da Wedbush acreditam que o nervosismo dos investidores de segunda-feira pode ser exagerado.

“Embora o modelo seja impressionante e tenha um impacto cascata”, eles disseram, “a realidade é que a Mag 7 e a tecnologia dos EUA estão focadas no jogo final da AGI com toda a infraestrutura e ecossistema que a China e especialmente a DeepSeek não conseguem chegar perto, em nossa opinião”.

Fonte: Quartz

O exército israelense é um dos principais clientes de IA da Microsoft, revelam documentos vazados

/ Marcos Pędłowski / Deixe um comentário

Por Ryan Grim e Waqas Ahmed para o Drop Site

A Microsoft é uma grande provedora de serviços de nuvem e inteligência artificial para o exército israelense, de acordo com documentos internos relacionados aos contratos entre o Ministério da Defesa de Israel (MoD) e a Microsoft Israel obtidos pelo Drop Site News. Os documentos vazados mostram que o uso de Israel aumentou drasticamente nos meses seguintes a 7 de outubro de 2023, quando Israel estava usando Inteligência Artificial (IA) e outras tecnologias para travar sua guerra brutal em Gaza.

O tesouro de documentos revela que os laços da Microsoft com o exército israelense são mais profundos e lucrativos do que se sabia anteriormente, expondo o papel da gigante da tecnologia no fornecimento de serviços avançados de nuvem e IA durante a guerra que vários órgãos internacionais, incluindo a Corte Internacional de Justiça, decidiram que pode plausivelmente constituir um genocídio . O Drop Site compartilhou os documentos com a revista investigativa israelense +972, que expôs anteriormente o uso de IA por Israel em sua campanha de bombardeio , e com o The Guardian, ambos os quais também publicaram histórias na quinta-feira.

As negociações da Microsoft com o exército israelense são parte de um padrão entre gigantes da tecnologia americana que correm para fornecer tecnologias de nuvem e IA para garantir uma parte do crescente fundo de guerra de Israel desde outubro de 2023. De acordo com os documentos, a Microsoft expandiu drasticamente seu relacionamento com o exército israelense desde o início da guerra em Gaza e se tornou uma grande fornecedora de serviços de nuvem para várias unidades militares israelenses.

No total, os custos apenas para suporte de engenharia e consultoria com os militares israelenses somaram aproximadamente US$ 10 milhões desde o início da ofensiva em Gaza em outubro de 2023, com projetos de suporte adicionais no valor de outros US$ 30 milhões sob consideração em 2024. O tamanho total do contrato do Ministério da Defesa israelense com a Microsoft, incluindo o uso da plataforma Azure, é muito maior, mas o valor exato não pôde ser determinado a partir dos documentos.

Os militares israelenses têm aproveitado uma gama de serviços de nuvem da Microsoft para dar suporte às suas operações em andamento, de acordo com os documentos. O Microsoft Azure é uma plataforma de computação em nuvem que fornece um conjunto de aplicativos e serviços para seus clientes corporativos. Seus componentes mais importantes historicamente têm sido computação e armazenamento, que permitem que os clientes da Microsoft processem e armazenem grandes quantidades de dados em servidores de nuvem hospedados globalmente. Mais recentemente, devido ao investimento de bilhões de dólares da Microsoft na OpenAI, a mesma empresa que administra o ChatGPT, a Microsoft adicionou os Large Language Models da OpenAI ao seu conjunto de ofertas do Azure.

Juntos, esses serviços são o que formam o núcleo dos serviços que o exército israelense comprou da Microsoft. Entre seus serviços mais usados estão a tradução e o serviço Azure OpenAl, um serviço empresarial baseado na mesma tecnologia do ChatGPT, juntos respondendo por quase 75 por cento do uso total. Serviços de fala e voz compõem o restante.

Dados vazados mostram um aumento dramático no armazenamento em nuvem da Microsoft usado pelos militares israelenses, saltando mais de 155% entre junho de 2023 e abril de 2024, e atingindo o pico pouco antes da ofensiva de Rafah em maio de 2024. O uso de armazenamento é um indicador importante que mostra a extensão do uso de IA, já que o armazenamento geralmente cresce junto com o uso de outros produtos de nuvem.

A inteligência artificial assumiu um novo papel na guerra de Israel em Gaza, com os militares israelenses usando um programa chamado Lavender para identificar alvos, de acordo com reportagem do +972 — embora não se saiba exatamente quais empresas alimentaram esse programa em particular e os militares reduziram esse programa nos meses subsequentes. O relatório deles em agosto também revelou que o Microsoft Azure e o Amazon AWS estavam competindo por lucrativos contratos militares israelenses.

O conflito em Gaza estimulou uma “corrida do ouro” entre empresas de tecnologia que buscavam fornecer serviços aos militares israelenses. Nas semanas seguintes ao ataque de 7 de outubro, o Google intensificou seus esforços para fornecer ao Ministério da Defesa de Israel maior acesso à sua tecnologia de IA. Essa urgência foi motivada pela preocupação de que os militares recorreriam à concorrente do Google, a Amazon, que também tem um contrato com o governo israelense. O novo conjunto de documentos mostra que a Microsoft estava igualmente entusiasmada com os contratos israelenses e deu grandes descontos pela oportunidade.

Desde o início da guerra em Gaza, Israel surgiu como um dos 500 principais clientes globais da Microsoft, com o MoD israelense servindo como um cliente guarda-chuva da Microsoft, supervisionando o relacionamento geral do exército israelense com a empresa. Mas, diferentemente de um modelo de aquisição centralizado tradicional, onde uma única organização toma decisões de compra em nome de toda a entidade, a estrutura do exército israelense é mais descentralizada. O que diferencia o exército israelense de outras contas guarda-chuva é que vários departamentos e entidades dentro do exército israelense operam com um grau significativo de autonomia e podem assinar contratos de forma independente com base em seus orçamentos internos.

Os documentos também revelam a amplitude das negociações da Microsoft com o exército israelense; várias unidades dentro do exército israelense contrataram serviços da Microsoft de forma independente, incluindo a Unidade 8200, uma unidade de inteligência de elite especializada em inteligência de sinais, guerra cibernética, descriptografia de código e vigilância militar; Matzov, o Centro de Criptografia e Segurança da Informação; Mamram, a unidade central do sistema de computação; Tikshuv, a Diretoria de Computadores e TI supervisionando comunicações e segurança cibernética; e Lotem, a unidade de Telecomunicações e Tecnologia da Informação. A Força Aérea e a Marinha israelenses também fizeram acordos significativos com a Microsoft imediatamente após o início da ofensiva de Gaza em outubro de 2023.

Os data centers da Microsoft que prestam serviços ao exército israelense não se limitam a Israel, com muitos sendo hospedados em países europeus que reconhecem a jurisdição do Tribunal Internacional de Justiça como compulsória. Se o tribunal finalmente decidir que a guerra é um genocídio, hospedar os servidores de dados da Microsoft utilizados pelo exército israelense pode constituir uma violação da lei internacional e pode causar problemas legais relacionados às operações da Microsoft nessas jurisdições.

Internamente, os funcionários da Microsoft já estavam solicitando ao seu empregador que examinasse suas políticas relacionadas a Israel. O Drop Site havia relatado em setembro do ano passado que a Microsoft foi criticada por seu patrocínio da conferência “I Love Mamram”, celebrando o 65º aniversário do Mamram, a unidade do Centro de Computação e Sistemas de Informação do exército israelense, onde o CEO da Microsoft Israel estava programado para falar. Os documentos agora revelam que o Mamram era um cliente da Microsoft. A empresa também enfrentou críticas por igualar doações de funcionários a organizações que apoiam o exército israelense, enquanto não igualou doações a organizações que apoiam os palestinos, e até mesmo retirou organizações da lista como a UNRWA, a agência da ONU para refugiados palestinos.

Fonte: Drop Site

Guia inédito norteia pesquisadores sobre uso ético e responsável da IA generativa

/ Marcos Pędłowski / Deixe um comentário

Gratuito, livro foi elaborado por pesquisadores que têm se debruçado sobre os impactos da inteligência artificial generativa (IAG) na pesquisa acadêmica e no ensino

LIVRO IA

Por Camille Bropp para a UFPR 

Lançado em dezembro pela Sociedade Brasileira de Estudos Interdisciplinares da Comunicação (Intercom) e já disponível para download, o livro “Diretrizes para o uso ético e responsável da Inteligência Artificial Generativa“ busca discutir e promover o uso producente da inteligência artificial (IA) generativa no mundo acadêmico.

A obra tem entre seus autores o professor e pesquisador do Departamento de Ciência Política da Universidade Federal do Paraná (UFPR), Rafael Cardoso Sampaio. Os outros autores são Marcelo Sabbatini, da Universidade Federal de Pernambuco (UFPE), e Ricardo Limongi, da Universidade Federal de Goiás (UFG).

Segundo eles, a premissa do livro é “desmistificar o entusiasmo exagerado (hype) em torno da tecnologia, assim como os temores infundados”. Assim, tem como objetivo ser um guia prático e de fácil consulta em meio à ausência de materiais similares no Brasil.

O e-book aborda dos princípios de funcionamento e aplicações práticas da tecnologia às possibilidades de uso em diferentes fases da pesquisa acadêmica. Também aprofunda a discussão sobre as atuais limitações da IA, entre eles os vieses e os riscos à privacidade e integridade acadêmica, assim como a necessidade de preservação da agência humana e do uso eticamente orientado.

A publicação tem apoio da Associação Brasileira de Ciência Política (ABCP) e da Associação Nacional de Pós-Graduação e Pesquisa em Ciências Sociais (Anpocs), que reconhecem a importância do debate sobre os impactos da IA nas pesquisas acadêmicas e a necessidade de maturação da discussão.

Fonte: UFPR

As lâmpadas têm classificações de energia — então por que os chatbots de IA não podem ter?

/ Marcos Pędłowski / Deixe um comentário

O crescente custo energético e ambiental do boom da inteligência artificial está alimentando preocupações. Mecanismos de política verde que já existem oferecem um caminho para uma solução

data ia

À medida que mais data centers surgem em comunidades rurais, a oposição local a eles tem crescido. Crédito: Brian Lawless/PA/Alamy

Por Sasha Luccioni , Boris Gamazaychikov , Sara Hooker , Régis Pierrard , Emma Strubell , Yacine Jernite e Carole-Jean Wu para a Nature

À medida que milhões de pessoas usam cada vez mais modelos de inteligência artificial generativa (IA) para tarefas que vão desde pesquisas na Web até a criação de videoclipes , há uma urgência crescente em minimizar a pegada energética da tecnologia.

O preocupante custo ambiental da IA ​​é óbvio mesmo neste estágio inicial de sua evolução. Um relatório publicado em 1º de janeiro pela Agência Internacional de Energia estimou que o consumo de eletricidade dos data centers pode dobrar até 2026 e sugeriu que melhorias na eficiência serão cruciais para moderar esse aumento esperado.

Alguns líderes da indústria de tecnologia têm procurado minimizar o impacto na rede de energia. Eles sugerem que a IA poderia permitir avanços científicos que podem resultar em uma redução nas emissões de carbono planetárias . Outros têm jogado seu peso por trás de fontes de energia ainda não realizadas, como a fusão nuclear .

No entanto, do jeito que as coisas estão, as demandas de energia da IA ​​estão mantendo as antigas usinas de energia a carvão em serviço e aumentando significativamente as emissões das empresas que fornecem o poder de computação para essa tecnologia. Dado que o consenso claro entre os cientistas do clima é que o mundo enfrenta um momento de “agora ou nunca” para evitar mudanças planetárias irreversíveis 2 , reguladores, formuladores de políticas e empresas de IA devem abordar o problema imediatamente.

Para começar, estruturas de políticas que incentivam a eficiência energética ou de combustível em outros setores econômicos podem ser modificadas e aplicadas a aplicações alimentadas por IA. Esforços para monitorar e comparar os requisitos de energia da IA ​​— e as emissões de carbono associadas — devem ser estendidos além da comunidade de pesquisa. Dar ao público uma maneira simples de tomar decisões informadas eliminaria a divisão que agora existe entre os desenvolvedores e os usuários de modelos de IA, e poderia eventualmente provar ser um divisor de águas.

Este é o objetivo de uma iniciativa chamada projeto AI Energy Star, que descrevemos aqui e recomendamos como um modelo que os governos e a comunidade de código aberto podem adotar. O projeto é inspirado nas classificações Energy Star da Agência de Proteção Ambiental dos EUA . Elas fornecem aos consumidores uma medida transparente e direta do consumo de energia associado a produtos que vão de máquinas de lavar a carros. O programa ajudou a atingir mais de 4 bilhões de toneladas de reduções de gases de efeito estufa nos últimos 30 anos, o equivalente a tirar quase 30 milhões de carros movidos a gasolina das ruas por ano.

O objetivo do projeto AI Energy Star é semelhante: ajudar desenvolvedores e usuários de modelos de IA a levar em conta o consumo de energia. Ao testar uma gama suficientemente diversa de modelos de IA para um conjunto de casos de uso populares, podemos estabelecer uma faixa esperada de consumo de energia e, em seguida, classificar os modelos dependendo de onde eles se encontram nessa faixa, com aqueles que consomem menos energia recebendo a classificação mais alta. Este sistema simples pode ajudar os usuários a escolher os modelos mais apropriados para seu caso de uso rapidamente. Espera-se que uma maior transparência também incentive os desenvolvedores de modelos a considerar o uso de energia como um parâmetro importante, resultando em uma redução em toda a indústria nas emissões de gases de efeito estufa.

Corredor em uma sala de servidores do centro aata com racks de servidores

Ferramentas para quantificar o uso de energia da IA ​​podem melhorar a eficiência e a sustentabilidade. Crédito: Getty

Nosso benchmarking inicial foca em um conjunto de modelos de código aberto hospedados no Hugging Face, um repositório líder para modelos de IA. Embora alguns dos chatbots amplamente usados ​​lançados pelo Google e OpenAI ainda não façam parte do nosso conjunto de testes, esperamos que empresas privadas participem do benchmarking de seus modelos proprietários à medida que o interesse do consumidor no tópico cresce.

A avaliação

Um único modelo de IA pode ser usado para uma variedade de tarefas — variando de resumo a reconhecimento de fala — então nós selecionamos um conjunto de dados para refletir esses diversos casos de uso. Por exemplo, para detecção de objetos, nós recorremos ao COCO 2017 e ao Visual Genome — ambos conjuntos de dados de avaliação estabelecidos usados ​​para pesquisa e desenvolvimento de modelos de IA — assim como o conjunto de dados Plastic in River , composto de exemplos anotados de objetos plásticos flutuantes em cursos d’água.

Nós decidimos por dez maneiras populares nas quais a maioria dos consumidores usa modelos de IA, por exemplo, como um chatbot de resposta a perguntas ou para geração de imagens. Então, extraímos uma amostra representativa do conjunto de dados de avaliação específica da tarefa. Nosso objetivo era medir a quantidade de energia consumida para responder a 1.000 consultas. O pacote de código aberto CodeCarbon foi usado para rastrear a energia necessária para calcular as respostas. Os experimentos foram realizados executando o código em unidades de processamento gráfico NVIDIA de última geração, refletindo configurações de implantação baseadas em nuvem usando hardware especializado, bem como nas unidades de processamento central de computadores disponíveis comercialmente.

Em nosso conjunto inicial de experimentos, avaliamos mais de 200 modelos de código aberto da plataforma Hugging Face, escolhendo os 20 mais populares (por número de downloads) para cada tarefa. Nossas descobertas iniciais mostram que tarefas envolvendo classificação e geração de imagens geralmente resultam em emissões de carbono milhares de vezes maiores do que aquelas envolvendo apenas texto (veja ‘Pegada energética da IA’). Indústrias criativas que consideram a adoção em larga escala da IA, como a produção de filmes, devem tomar nota.

Pegada energética da IA. Um gráfico de dispersão mostrando a energia total consumida por vários modelos para cinco tarefas diferentes, como geração de imagem e reconhecimento automático de fala. A unidade do eixo x é watt-hora. A geração de imagem consome mais energia e a média é semelhante a um laptop funcionando por 20 horas.

Fonte: Análise não publicada por S. Luccioni et al. / Projeto AI Energy Star

Dentro do nosso conjunto de amostra, o modelo de perguntas e respostas mais eficiente usou aproximadamente 0,1 watt-hora (aproximadamente a energia necessária para alimentar uma lâmpada incandescente de 25 W por 5 minutos) para processar 1.000 perguntas. O modelo de geração de imagens menos eficiente, por outro lado, exigiu até 1.600 Wh para criar 1.000 imagens de alta definição — essa é a energia necessária para carregar totalmente um smartphone aproximadamente 70 vezes , totalizando uma diferença de 16.000 vezes. À medida que milhões de pessoas integram modelos de IA em seu fluxo de trabalho, as tarefas em que eles os implantam serão cada vez mais importantes.

Em geral, tarefas supervisionadas como responder perguntas ou classificar textos — nas quais os modelos recebem um conjunto de opções para escolher ou um documento que contém a resposta — são muito mais eficientes em termos de energia do que tarefas generativas que dependem dos padrões aprendidos dos dados de treinamento para produzir uma resposta do zero 3 . Além disso, tarefas de sumarização e classificação de texto usam relativamente pouca energia, embora deva ser observado que quase todos os casos de uso que envolvem grandes modelos de linguagem são mais intensivos em energia do que uma pesquisa no Google (consultar um chatbot de IA uma vez usa cerca de dez vezes a energia necessária para processar uma solicitação de pesquisa na web).

Essas classificações podem ser usadas por desenvolvedores para escolher arquiteturas de modelos mais eficientes para otimizar o uso de energia. Isso já é possível, como mostrado por nossos testes ainda não publicados em modelos de tamanhos semelhantes (determinados com base no número de conexões na rede neural). Para uma tarefa específica, como geração de texto, um modelo de linguagem chamado OLMo-7B, criado pelo Allen Institute em Seattle, Washington, consumiu 43 Wh para gerar 1.000 respostas de texto, enquanto o Gemma-7B do Google e um chamado Yi-6B LLM, da empresa 01.AI, sediada em Pequim, usaram 53 Wh e 147 Wh, respectivamente.

Com uma gama de opções já existentes, classificações por estrelas baseadas em classificações como a nossa podem levar os desenvolvedores de modelos a reduzir sua pegada energética. Da nossa parte, lançaremos um site de classificação de estrelas de IA Energy Star, juntamente com uma plataforma de testes centralizada que pode ser usada para comparar e referenciar modelos conforme eles forem lançados. Os limites de energia para cada classificação por estrelas mudarão se a indústria se mover na direção certa. É por isso que pretendemos atualizar as classificações rotineiramente e oferecer aos usuários e organizações uma métrica útil, além do desempenho, para avaliar quais modelos de IA são os mais adequados.

As recomendações

Para atingir um progresso significativo, é essencial que todos os stakeholders tomem medidas proativas para garantir o crescimento sustentável da IA. As recomendações a seguir fornecem algumas orientações específicas para a variedade de players envolvidos.

Envolva os desenvolvedores. Pesquisadores e desenvolvedores de IA estão no centro da inovação neste campo. Ao considerar a sustentabilidade durante todo o ciclo de desenvolvimento e implantação, eles podem reduzir significativamente o impacto ambiental da IA ​​desde o início. Para tornar uma prática padrão medir e compartilhar publicamente o uso de energia dos modelos (por exemplo, em um “cartão de modelo” que define informações como dados de treinamento, avaliações de desempenho e metadados), é essencial envolver os desenvolvedores.

Impulsione o mercado em direção à sustentabilidade. Empresas e desenvolvedores de produtos desempenham um papel crucial na implantação e uso comercial de tecnologias de IA. Seja criando um produto autônomo, aprimorando software existente ou adotando IA para processos comerciais internos, esses grupos geralmente são tomadores de decisão importantes na cadeia de valor de IA. Ao exigir modelos de eficiência energética e definir padrões de aquisição, eles podem impulsionar o mercado em direção a soluções sustentáveis. Por exemplo, eles podem definir expectativas básicas (como exigir que os modelos alcancem pelo menos duas estrelas de acordo com o esquema AI Energy Star) ou apoiar a legislação de IA sustentável.

Divulgue o consumo de energia. Usuários de IA estão na linha de frente, interagindo com produtos de IA em várias aplicações. Uma preferência por soluções de eficiência energética pode enviar um sinal de mercado poderoso, encorajando desenvolvedores e empresas a priorizar a sustentabilidade. Usuários podem empurrar a indústria na direção certa ao optar por modelos que divulguem publicamente o consumo de energia. Eles também podem usar produtos de IA de forma mais consciente, evitando o uso desnecessário e desperdiçável.

Fortalecer a regulamentação e a governança. Os formuladores de políticas têm autoridade para tratar a sustentabilidade como um critério obrigatório no desenvolvimento e na implantação de IA. Com exemplos recentes de legislação que pede transparência do impacto da IA ​​na União Europeia e nos Estados Unidos , os formuladores de políticas já estão se movendo em direção a uma maior responsabilização. Isso pode ser inicialmente voluntário, mas eventualmente os governos podem regular a implantação do sistema de IA com base na eficiência dos modelos subjacentes.

Os reguladores podem adotar uma visão panorâmica , e sua contribuição será crucial para criar padrões globais. Também pode ser importante estabelecer autoridades independentes para rastrear mudanças no consumo de energia da IA ​​ao longo do tempo.

Fazendo um balanço

Claramente, muito mais precisa ser feito para colocar um regime regulatório adequado em prática antes que a adoção em massa da IA ​​se torne uma realidade (veja go.nature.com/4dfp1wb ). O projeto AI Energy Star é um pequeno começo e pode ser refinado ainda mais. Atualmente, não contabilizamos as despesas gerais de energia gastas em armazenamento e rede de modelos, bem como o resfriamento do data center, que pode ser medido apenas com acesso direto às instalações da nuvem. Isso significa que nossos resultados representam o limite inferior do consumo geral de energia dos modelos de IA, que provavelmente dobrará 4 se a despesa geral associada for levada em consideração.

Como o uso de energia se traduz em emissões de carbono também dependerá de onde os modelos são finalmente implantados e da mistura de energia disponível naquela cidade ou vila. O maior desafio, no entanto, continuará sendo a impenetrabilidade do que está acontecendo no ecossistema de modelos proprietários. Os reguladores governamentais estão começando a exigir acesso a modelos de IA, especialmente para garantir a segurança. Maior transparência é urgentemente necessária porque os modelos proprietários são amplamente implantados em configurações voltadas para o usuário.

O mundo está agora em um ponto de inflexão fundamental. As decisões que estão sendo tomadas hoje repercutirão por décadas, à medida que a tecnologia de IA evolui junto com um clima planetário cada vez mais instável. Esperamos que o projeto Energy Star sirva como um ponto de partida valioso para enviar uma forte demanda de sustentabilidade por toda a cadeia de valor de IA.

Natureza 632 , 736-738 (2024)

doi: https://doi.org/10.1038/d41586-024-02680-3

Isenção de responsabilidade: todos os experimentos e processamento de dados foram realizados pela Hugging Face, e a Hugging Face hospeda todos os dados relacionados a esta pesquisa.

Referências

  1. Agência Internacional de Energia. Eletricidade 2024 (IEA, 2024).

  2. IPCC. Mudanças Climáticas 2022: Mitigação das Mudanças Climáticas. Contribuição do Grupo de Trabalho III para o Sexto Relatório de Avaliação do Painel Intergovernamental sobre Mudanças Climáticas (eds Shukla, PR et al. ) (Cambridge Univ. Press, 2023).

  3. Luccioni, AS, Jernite, Y. & Strubell, E. em Proc. Conferência ACM 2024. Justiça, conta. Transpar. 85–99 (ACM, 2024).

  4. Luccioni, AS, Viguier, S. & Ligozat, AR J. Machin. Aprender. Res. 24 , 253 (2023).

Fonte: Nature

Chegamos aos limites da altmetria?

/ Marcos Pędłowski / 2 Comentários

A IA aumenta tanto o risco de manipulação deliberada de métricas quanto o ruído geral no sistema de publicação acadêmica

almetria

Por David Stuart para a Research Information

Tem sido fascinante observar o crescimento das altmetrias e outras métricas da web nos últimos 20 anos. Eles deixaram de ser uma curiosidade ociosa e passaram a ser incorporados nas páginas da web de algumas das maiores universidades e editoras acadêmicas do mundo.

Os desenvolvimentos tecnológicos, a normalização e um interesse crescente em métricas alternativas significam que as informações sobre o número de visualizações ou menções nas redes sociais que uma publicação recebeu são frequentemente anunciadas com ousadia juntamente com outras métricas mais estabelecidas.

Contudo, o sucesso passado não é um indicador de crescimento futuro e a web está em constante mudança. O maior disruptor da Web hoje é, sem dúvida, a inteligência artificial (IA) e, embora a extensão total do seu impacto futuro seja atualmente desconhecida, uma questão que levanta é se atingimos os limites da altmetria.

O fascínio das métricas

Num mundo em rápida mudança, as métricas apelam à objectividade. Quer sejam usados ​​para avaliação, motivação ou celebração, oferecem a promessa de algo mais sólido do que a mera opinião individual. Durante muito tempo, na publicação académica, as métricas dominantes basearam-se em citações e, embora as limitações da análise de citações sejam amplamente reconhecidas, muitas vezes sente-se que, ao agregar e normalizar as citações de diferentes maneiras, podem indicar algo de valor.

A mudança para a publicação online, no entanto, aumentou muito as métricas disponíveis. A rica variedade de dados em tempo real sobre o uso de uma publicação e a ascensão da altmetrics nas mídias sociais prometiam fornecer uma compreensão mais rápida e mais matizada do impacto que a pesquisa estava tendo, além do âmbito acadêmico e além das publicações formais.

As publicações informais são, no entanto, mais abertas à manipulação do que as publicações formais, e parece que, no momento em que a altmetria começa a ganhar uma aceitação mais ampla, a sua legitimidade pode ser prejudicada. Até agora, os problemas de manipulação têm sido mínimos, mas com a IA o risco é que tais métricas informais possam rapidamente perder o sentido.

O desafio da IA

A IA aumenta tanto o risco de manipulação deliberada de métricas como o ruído geral no sistema de publicação científica.

Todas as métricas estão abertas à manipulação e é inevitável que indivíduos e organizações sejam incitados a agir de forma a obter a impressão mais favorável. Como afirma a lei econômica de Goodhart: “Quando uma medida se torna uma meta, deixa de ser uma boa medida”. Embora as consequências negativas das métricas na publicação académica possam não ser tão imediatamente aparentes como quando um médico só quer atender pacientes com resultados favoráveis, ou a polícia apenas regista crimes que são facilmente resolvidos, uma ênfase excessiva nas métricas corre o risco de minar o sistema. O problema das fábricas de papel que produzem artigos de investigação que são posteriormente retirados também tem aumentado recentemente, e o problema só deverá aumentar à medida que as melhorias na IA generativa tornarem cada vez mais difícil a identificação de tais artigos. No entanto, na publicação académica ainda existem muitas verificações humanas, poucas das quais se aplicam à altmetria.

A história das métricas da web tem sido uma das duas: a crescente facilidade com que as métricas podem ser coletadas e com que podem ser manipuladas. Quando comecei a contar objetos na web, quase 20 anos atrás, a unidade de escolha para ser contada era o hiperlink. Embora qualquer um pudesse ter criado vários sites com domínios diferentes para aumentar o impacto de sua presença online, o custo em tempo e dinheiro, e o pouco interesse em métricas da web na comunidade acadêmica, significava que o tempo da maioria das pessoas seria melhor gasto criando melhores publicações acadêmicas. A padronização dos grandes sites de mídia social, no entanto, proporcionou maior interesse em métricas da web e também reduziu a barreira para criar um impacto online. Não era mais necessário criar vários sites, apenas perfis diferentes em várias plataformas de mídia social. O custo, em grande parte, foi reduzido a zero, tudo o que era necessário era tempo. Com a IA, no entanto, o tempo envolvido também pode ser reduzido a zero, pelo menos após a configuração inicial.

Não é difícil imaginar um momento no futuro próximo em que, se você quiser gerar cem ou até mil contas de microblog para divulgar a qualidade de sua pesquisa, você poderá simplesmente pedir a um programa de IA generativo para fazer isso em seu nome. Não será necessário selecionar cuidadosamente a imagem de cada conta para distingui-las dos spambots, mas o conteúdo será gerado automaticamente. Você pode ficar um pouco irritado ao descobrir que os insights artificiais ganham mais seguidores do que suas postagens cuidadosamente selecionadas, mas o rápido aumento da pontuação de atenção sem dúvida aliviará a dor.

Nem todo o barulho será deliberado. À medida que o conteúdo é cada vez mais criado automaticamente, a ideia de que partes de conteúdo podem ser contadas como se cada uma tivesse sido criada como um ato individual de um ser humano tornar-se-á cada vez mais falha. Proporções cada vez maiores da web vêm com um aviso de que “esta página foi criada automaticamente com a ajuda da IA”, e tais secções crescerão inevitavelmente mais rapidamente do que as porções criadas por humanos. Como a criação de conteúdo é cada vez mais baseada em outros conteúdos já criados, a vantagem de ser o primeiro artigo mencionado sobre um assunto será cada vez mais difícil de superar.

Com uma distribuição de atenção cada vez mais distorcida, torna-se também cada vez mais importante garantir que as menções sejam associadas ao documento académico correto. A atribuição errada de menções académicas e as flutuações resultantes nas métricas só deverão aumentar à medida que mais dados forem gerados automaticamente.

O fim da altmetria?

À primeira vista, parece que o uso cada vez maior de IA generativa inevitavelmente anunciará o fim da altmetria, mas isso só se todo o resto permanecer igual. Sem dúvida, não será.

Os sites e serviços de mídia social também provavelmente mudarão de várias maneiras. Pode ser que os sites de redes sociais gratuitos sejam evitados em favor de serviços de subscrição ou distribuídos, onde existem maiores restrições à geração de conteúdos, permitindo-lhes formar a base de métricas novas e mais robustas. O interesse no impacto acadêmico sobre um serviço genérico como o X pode ser substituído pelo interesse apenas em contas verificadas ou em servidores selecionados que fazem parte de uma rede distribuída.

Também parece provável que amplie o interesse em métricas da web além da altmetria. Há uma ampla gama de insights que podem ser obtidos na web, ou em cantos dela, desde a análise do que as atividades de pesquisa das pessoas no Google Trends nos dizem sobre o estado da sociedade até como os links entre sites fornecem insights sobre relacionamentos no mundo real e o robustez de uma economia local. No entanto, muitas vezes estas alternativas têm sido marginalizadas com enfoque em métricas avaliativas de grande escala.

Conclusão

As métricas da Web sempre tiveram que se adaptar à medida que novas tecnologias surgiram e, embora a IA sem dúvida ponha fim a uma era de altmetria, novas áreas de investigação surgirão sem dúvida. A inclusão de uma série de literatura cinzenta e citações de patentes que anteriormente teriam sido excluídas da bibliometria provavelmente continuará, mas a ideia de que pode capturar significativamente conteúdo informal em escala superior a essa pode ser cada vez mais duvidosa.

As métricas da Web sempre tiveram bases mais suaves do que a bibliometria, mais propensas a insights ilícitos que são interessantes em vez de confiáveis, e isso pode não ser uma coisa ruim se isso for o máximo que podem acontecer. As métricas avaliativas têm frequentemente um impacto negativo, especialmente quando lhes é dada demasiada credibilidade, pelo que controlar as altmetrias no momento em que estão a ganhar interesse não é necessariamente uma coisa má.

++++++++++++++++++++++

David Stuart é autor do recentemente publicado Web Metrics for Library and Information Professionals (2ª edição ),  que mostra que há muito mais em métricas da web do que altmetria.

Fonte:  Research Information

Wiley fecha 19 revistas acadêmicas em meio a problemas de uso de IA em fábricas de artigos científicos falsos

/ Marcos Pędłowski / Deixe um comentário

Ciência falsa desafia editoras científicas

transferir

Por Thomas Claburn para o “The Register”

A editora norte-americana Wiley descontinuou esta semana 19 revistas científicas supervisionadas pela sua subsidiária Hindawi, centro de um escândalo de publicação académica de longa data.

Em dezembro de 2023, a Wiley anunciou que deixaria de usar a marca Hindawi, adquirida em 2021 , após sua decisão em maio de 2023 de fechar quatro de suas revistas “para mitigar a manipulação sistemática do processo de publicação”.

Descobriu-se que as revistas de Hindawi publicam artigos de fábricas de artigos científicos –  que são organizações ou grupos de indivíduos que tentam subverter o processo de publicação acadêmica para obter ganhos financeiros. Nos últimos dois anos, disse um porta-voz da Wiley ao The Register , a editora retirou mais de 11.300 artigos de seu portfólio Hindawi.

Conforme descrito em um white paper de autoria de Wiley publicado em dezembro de 2023, “Combatendo a manipulação de publicação em escala: a jornada de Hindawi e lições para publicação acadêmica”, as fábricas de papel dependem de várias práticas antiéticas – como o uso de IA na fabricação de manuscritos e manipulações de imagens, e manipular o processo de revisão por pares.

O caso Hindawi coincidiu com a saída do presidente e CEO da Wiley, Brian Napack, em outubro de 2023. Em seu relatório de lucros fiscais do segundo trimestre de 2024  em dezembro passado, a Wiley admitiu que seu declínio de US$ 18 milhões na receita de publicação de pesquisas foi “principalmente devido à perturbação nas publicações da Hindawi .”

Em janeiro, Wiley assinou o United2Act – uma iniciativa da indústria para combater as fábricas de artigos científicos.

Mas a preocupação com a integridade da investigação acadêmica não se limita às publicações da Wiley. Um estudo publicado na revista Nature em julho de 2023 sugere que até um quarto dos ensaios clínicos são problemáticos ou totalmente inventados.

A crescente disponibilidade e sofisticação da IA ​​generativa não é o único factor que contribui para a crise da publicação académica, mas as ferramentas de IA facilitam a falsificação.

“A indústria reconhece que a IA é utilizada pelas fábricas de papel para gerar conteúdo fraudulento”, disse-nos o porta-voz de Wiley. “Recentemente, introduzimos uma nova tecnologia de triagem que ajuda a identificar artigos com potencial uso indevido de Inteligência Artificial (IA) generativa antes do ponto de publicação”.

De acordo com um artigo pré-impresso divulgado em fevereiro, o volume de artigos submetidos ao ArXiv aumentou consideravelmente nas três principais categorias entre 2019 e 2023 – período que coincide aproximadamente com a estreia de ferramentas como o ChatGPT. Os artigos de ciência da computação aumentaram 200% durante esses quatro anos, seguidos pelos artigos de física (45%) e matemática (22%).

Os editores acadêmicos, no entanto, parecem querer os benefícios da assistência para redação de IA, sem as desvantagens. A Springer Nature, por exemplo, lançou em outubro passado o Curie – um assistente de redação com tecnologia de IA destinado a ajudar cientistas cuja primeira língua não é o inglês. Daí a necessidade de melhores ferramentas para detectar resultados generativos de IA – um apelo respondido por esforços recentes para melhorar a marca d’água de conteúdo de IA – que alguns pesquisadores argumentam que não funcionará .

Um porta-voz da Wiley caracterizou a decisão de fechar as 19 revistas como parte do plano anunciado anteriormente para integrar os portfólios da Hindawi e da Wiley, e distinta da questão da fábrica de papel.

“Como parte desta integração, e como é prática padrão, revisamos nosso portfólio de periódicos e decidimos fechar 19 periódicos Hindawi que não atendem mais suas comunidades”, disse o porta-voz ao The Register .

“É importante fazer uma distinção entre os fechamentos de revistas que ocorrem agora como parte da integração de nosso portfólio e as quatro revistas fechadas em maio de 2023. As revistas fechadas em maio de 2023 foram fortemente impactadas pelas fábricas de papel a tal ponto que estavam no melhor interesse da comunidade acadêmica em descontinuá-los imediatamente.”

Enquanto isso, no relatório de ganhos fiscais do terceiro trimestre de 2024 da Wiley , a editora observou que a receita de sua divisão de aprendizagem deverá estar no limite superior das projeções devido aos “acordos de direitos de conteúdo do quarto trimestre para treinamento de modelos de IA”.

color compass

Fonte: The Register

Como a IA moldou o caminho de Milei até a presidência da Argentina

/ Marcos Pędłowski / Deixe um comentário

milei iaO presidente eleito da Argentina, Javier Milei, em uma seção eleitoral em Buenos Aires no domingo | REUTERS 

Por David Feliba, Thomson Reuters Foundation

Nas últimas semanas de campanha, o presidente eleito argentino, Javier Milei, publicou uma imagem fabricada retratando o seu rival peronista Sergio Massa como um comunista à moda antiga em traje militar, com a mão levantada em saudação.

A imagem aparentemente gerada por Inteligência Artificial (IA) atraiu cerca de 3 milhões de visualizações quando Milei a publicou numa conta de rede social, destacando como as equipes de campanha rivais usaram tecnologia de inteligência artificial para chamar a atenção dos eleitores numa tentativa de influenciar a corrida.

“Houve sinais preocupantes de uso de IA” nas eleições, disse Darrell West, pesquisador sênior do Centro de Inovação Tecnológica da Brookings Institution, com sede em Washington.

“Os ativistas usaram a IA para entregar mensagens enganosas aos eleitores, e isso é um risco para qualquer processo eleitoral”, disse ele.

O libertário de direita Milei venceu o segundo turno de domingo com 56% dos votos, ao aproveitar a raiva dos eleitores com a classe política – incluindo o partido peronista dominante de Sérgio Massa, mas ambos os lados recorreram à IA durante a turbulenta campanha eleitoral.

A equipe de Massa distribuiu uma série de imagens e vídeos estilizados gerados por IA por meio de uma conta não oficial do Instagram chamada “AI for the Homeland”.

Num deles, o ministro da economia de centro-esquerda era retratado como um imperador romano. Em outros, ele foi mostrado como um boxeador nocauteando um rival, estrelando uma capa falsa da revista New Yorker e como um soldado em cenas do filme de guerra “1917”.

Outras imagens geradas por IA pretendiam minar e difamar Milei, retratando o economista de cabelos rebeldes e sua equipe como zumbis e piratas enfurecidos.

A utilização de tecnologia de IA cada vez mais acessível em campanhas políticas é uma tendência global, dizem especialistas em tecnologia e direitos, levantando preocupações sobre as potenciais implicações para eleições importantes em países como os Estados Unidos, a Indonésia e a Índia no próximo ano.

Uma série de novas ferramentas de “IA generativa”, como o Midjourney, estão tornando mais barato e fácil a criação de fotos e vídeos fabricados.

Javier Milei fala aos apoiadores depois de vencer o segundo turno das eleições presidenciais na sede de seu partido, em Buenos Aires, no domingo.

Javier Milei fala aos apoiadores depois de vencer o segundo turno das eleições presidenciais na sede de seu partido, em Buenos Aires, no domingo. | AFP-JIJI

Com poucas salvaguardas legais em muitos países, há um desconforto crescente sobre a forma como esse material pode ser utilizado para enganar ou confundir os eleitores no período que antecede as eleições.

“Em todo o mundo, estas ferramentas para criar imagens falsas estão a ser usadas para tentar demonizar a oposição”, disse West.

“Embora não seja ilegal usar conteúdo gerado por IA em quase nenhum país, imagens que retratam pessoas dizendo coisas que não disseram ou inventando coisas claramente ultrapassam os limites éticos”.

Uso político

A maioria das imagens geradas por IA usadas na campanha eleitoral argentina tinham um sabor satírico, buscando provocar uma reação emocional dos eleitores e se espalhar rapidamente nas redes sociais.

Mas os algoritmos de IA também podem ser treinados em muitas imagens on-line para criar imagens, gravações de voz e vídeos realistas, mas fabricados – os chamados deepfakes.

Durante a recente campanha, um vídeo adulterado que parecia mostrar Massa usando drogas circulou nas redes sociais, com imagens existentes manipuladas para adicionar a imagem e a voz de Massa.

É uma nova fronteira perigosa em notícias falsas e desinformação, dizem os pesquisadores, com alguns pedindo que material contendo imagens deepfake carregue um rótulo de divulgação dizendo que foram gerados usando IA.

“Agora eles têm uma ferramenta que lhes permite criar coisas do zero, mesmo que seja evidente que pode ser gerado artificialmente”, disse West, acrescentando que “a divulgação por si só não protege as pessoas do perigo.

“Será um enorme problema nas eleições globais no futuro, pois será cada vez mais difícil para os eleitores distinguirem o falso do real”, disse ele.

Risco para a democracia

À medida que o conteúdo gerado pela IA se torna mais acessível e mais convincente, as plataformas de redes sociais e os reguladores lutam para se manterem à frente, disse o investigador de desinformação Richard Kuchta, que trabalha no Reset, um grupo que se concentra no impacto da tecnologia na democracia.

“É claramente um jogo de gato e rato”, disse Kuchta. “Se você observar como a desinformação funciona durante uma eleição, ela ainda é praticamente a mesma. Mas ela foi enormemente ampliada em termos de quão enganosa pode ser.”

Apoiadores do candidato presidencial argentino Javier Milei comemoram após o fechamento das urnas durante o segundo turno das eleições presidenciais em frente à sede do partido em Buenos Aires, no domingo.

Apoiadores do candidato presidencial argentino Javier Milei comemoram após o fechamento das urnas durante o segundo turno das eleições presidenciais em frente à sede do partido em Buenos Aires, no domingo. | AFP-JIJI

Ele citou um caso na Eslováquia no início deste ano, em que verificadores de factos se esforçaram para verificar gravações de áudio falsas publicadas no Facebook poucos dias antes das eleições de 30 de Setembro no país.

Na fita, uma voz parecida com a de um dos candidatos parecia estar discutindo como fraudar a eleição.

“Eventualmente, a peça foi considerada falsa, mas causou muitos danos”, disse Kuchta.

A Meta Platforms, proprietária do Facebook e do Instagram, disse este mês que a partir de 2024 os anunciantes terão que divulgar quando a IA ou outros métodos digitais forem usados ​​para alterar ou criar anúncios políticos, sociais ou relacionados a eleições nos sites.

Nos Estados Unidos, um grupo bipartidário de senadores propôs legislação para proibir a “distribuição de áudio, imagens ou vídeos materialmente enganosos gerados por IA relacionados a candidatos federais em anúncios políticos ou em determinados anúncios temáticos”.

Além disso, a Comissão Eleitoral Federal dos EUA pretende regular os deepfakes gerados por IA em anúncios políticos para proteger os eleitores contra a desinformação antes das eleições presidenciais do próximo ano.

Outros países estão a liderar esforços semelhantes, embora nenhuma proposta regulamentar deste tipo tenha ainda sido apresentada na Argentina.

“Ainda estamos nos estágios iniciais da IA”, disse Olivia Sohr, jornalista da ONG argentina de verificação de fatos Chequeado, observando que a maior parte das informações falsas que circularam durante a campanha envolviam manchetes de jornais fabricadas e citações falsas atribuídas a um candidato específico. .

“A IA tem o potencial de elevar a desinformação a um novo nível. Mas, por enquanto, existem outras formas igualmente eficazes de cumprir os seus objetivos sem serem necessariamente tão caras ou sofisticadas.”

color compass

Este texto escrito originalmente em inglês foi publicado pelo Japan Times [Aqui!].

Agências de fomento dizem não ao uso de IA na revisão por pares

/ Marcos Pędłowski / Deixe um comentário

Preocupações incluem confidencialidade, precisão e “originalidade de pensamento”

peer review IA

Por Jocelyn Kaiser para a Science

O neurocientista Greg Siegle estava em uma conferência no início de abril quando ouviu algo que achou “muito assustador”. Outro cientista estava entusiasmado com o fato de que o ChatGPT, a ferramenta de inteligência artificial (IA) lançada em novembro de 2022, rapidamente se tornou indispensável para redigir críticas às densas propostas de pesquisa que ele teve que percorrer como revisor de pares para os Institutos Nacionais de Saúde (NIH). Outros ouvintes assentiram, dizendo que viam o ChatGPT como uma grande economia de tempo: redigir uma revisão pode envolver apenas colar partes de uma proposta, como resumo, objetivos e estratégia de pesquisa, na IA e solicitar que ela avalie as informações.

O NIH e outras agências de financiamento, no entanto, estão colocando um fim nessa abordagem. Em 23 de junho, o NIH proibiu o uso de ferramentas de IA generativas online como o ChatGPT “para analisar e formular críticas de revisão por pares” – provavelmente estimulado em parte por uma carta de Siegle, que está na Universidade de Pittsburgh, e colegas. Após a conferência, eles alertaram a agência de que permitir que o ChatGPT escreva análises de bolsas é “um precedente perigoso”. Em um movimento semelhante, o Conselho de Pesquisa Australiano (ARC) em 7 de julho proibiu a IA generativa para revisão por pares após saber de revisões aparentemente escritas pelo ChatGPT.

Outras agências também estão desenvolvendo uma resposta. A National Science Foundation dos EUA formou um grupo de trabalho interno para verificar se pode haver usos apropriados de IA como parte do processo de revisão de mérito e, em caso afirmativo, quais “guardas de proteção” podem ser necessárias, diz um porta-voz. E o Conselho Europeu de Pesquisa espera discutir a IA tanto para redação quanto para avaliação de propostas.

O ChatGPT e outros grandes modelos de linguagem são treinados em vastos bancos de dados de informações para gerar texto que parece ter sido escrito por humanos. Os bots já levaram editores científicos preocupados com ética e precisão factual a restringir seu uso para escrever artigos. Algumas editoras e periódicos, incluindo a Science , também estão proibindo seu uso por revisores.

Para as agências financiadoras, a confidencialidade está no topo da lista de preocupações. Quando partes de uma proposta são inseridas em uma ferramenta de IA online, as informações se tornam parte de seus dados de treinamento. O NIH se preocupa com “para onde os dados estão sendo enviados, salvos, visualizados ou usados ​​no futuro”, afirma seu aviso.

Os críticos também temem que as revisões escritas por IA sejam propensas a erros (os bots são conhecidos por fabricar), tendenciosas contra visões não convencionais porque se baseiam em informações existentes e carecem da criatividade que impulsiona a inovação científica. “A originalidade do pensamento que o NIH valoriza é perdida e homogeneizada com esse processo e pode até constituir plágio”, escreveram os funcionários do NIH em um blog. Para periódicos, a responsabilidade do revisor também é uma preocupação. “Não há garantia de que o [revisor] entenda ou concorde com o conteúdo” que está fornecendo, diz Kim Eggleton, que dirige a revisão por pares na IOP Publishing.

Na Austrália, a ARC proibiu os revisores de bolsas de usar ferramentas de IA generativas 1 semana depois que uma conta anônima do Twitter, ARC_Tracker, administrada por um pesquisador local, relatou que alguns cientistas receberam avaliações que pareciam ter sido escritas pelo ChatGPT. Alguns obtiveram avaliações semelhantes quando colaram partes de suas propostas no ChatGPT, diz ARC_Tracker. Uma revisão incluiu até uma oferta, as palavras “regenerar resposta” que aparecem como um prompt no final de uma resposta do ChatGPT. ( O Science Insider confirmou a identidade do ARC_Tracker, mas concordou com o anonimato para que este pesquisador e outros possam usar a conta para criticar livremente o ARC e as políticas governamentais sem medo de repercussões.)

Os cientistas podem pensar que o ChatGPT produz feedback significativo, mas essencialmente regurgita a proposta, diz o proprietário do ARC_Tracker. É certo que alguns revisores humanos também fazem isso. Mas, “Há uma diferença muito grande entre uma revisão adequada – que deve fornecer insight, crítica, opinião informada e avaliação de especialistas – e um mero resumo do que já está em uma proposta”, escreveu o pesquisador em um e-mail ao Science Insider .

Alguns pesquisadores, no entanto, dizem que a IA oferece uma chance de melhorar o processo de revisão por pares. A proibição do NIH é um “recuo tecnofóbico da oportunidade de mudança positiva”, diz o geneticista psiquiátrico Jake Michaelson, da Universidade de Iowa. Os revisores podem usar as ferramentas para verificar suas críticas para ver se eles esqueceram alguma coisa na proposta, ajudá-los a avaliar o trabalho de fora de seu próprio campo e suavizar a linguagem que eles não perceberam soar “mesquinho ou mesmo maldoso”, diz Michaelson. “Eventualmente, vejo a IA se tornando a primeira linha do processo de revisão por pares, com especialistas humanos complementando as revisões de IA de primeira linha. … Prefiro ter minhas próprias propostas revisadas pelo ChatGPT-4 do que por um revisor humano preguiçoso”, acrescenta.

A paisagem provavelmente mudará com o tempo. Vários cientistas observaram no blog do NIH que alguns modelos generativos de IA funcionam offline e não violam a confidencialidade – eliminando pelo menos essa preocupação. O NIH respondeu que espera “fornecer orientação adicional” para uma “área em rápida evolução”. 

Mohammad Hosseini, pesquisador de pós-doutorado em ética da Northwestern University que escreveu sobre IA na revisão de manuscritos, concorda que a proibição do NIH é razoável, por enquanto: “Dada a sensibilidade dos problemas e projetos com os quais o NIH lida e a novidade das ferramentas de IA, adotar uma abordagem cautelosa e medida é absolutamente necessária.”

compass black

Este texto escrito originalmente em inglês foi publicado pela revista Science [Aqui!].

IAgora: inteligência artificial e alienação

/ Marcos Pędłowski / Deixe um comentário

Aquilo que a IA acessa em seu banco de dados não é a inteligência artificial, mas o conjunto de saberes e experiências humanas objetivadas, distanciadas de seus criadores e que voltam a ele como uma força hostil que os ameaça. Em outras palavras, aliena-se

ia

Por Mauro Iasi para o Blog da Boitempo

“O cérebro eletrônico comanda
Manda e desmanda
Ele é quem manda
Mas ele não anda”
Gilberto Gil (Cérebro eletrônico, 1969)

Em uma brilhante charge, que infelizmente não sei quem é o autor, vemos uma pessoa perguntado a outra se ela se preocupa com o avanço da inteligência artificial e o outro responde que não, que se preocupa mais com o retrocesso da inteligência natural.

Não foram poucas as reações diante de aplicativos que prometem textos sobre qualquer assunto, desenhos criativos, fotos forjadas, debates sobre o sentido da vida ou da filosofia ou da sociologia ou da arte culinária, poemas e letras de música, tudo isso diante de um mero comando e certos indicativos daquilo que se deseja. Expoentes das empresas lançaram uma carta manifesto contra os perigos da IA e pediram um tempo, não se sabe se para poder entrar na concorrência ou pensar nas dimensões supostamente éticas de tal desenvolvimento tecnológico.

Outros mais pragmáticos lançaram livros, como por exemplo um que apresenta um manual de como escrever romances de sucesso usando o famoso aplicativo, não sabemos se escrito por aquele que se denomina autor ou pelo aplicativo. De qualquer maneira, estranhamente apresentado na forma impressa, naquilo que os mais antigos chamariam de “livro”. Neste pequeno manual se afirma que o pretendente a autor deve oferecer ao aplicativo um tema, protagonistas e personagens, uma linha de desenvolvimento da trama e outras dicas para que a inteligência artificial escreva por ele o romance.

Duas coisas nos chamam a atenção de pronto. Em primeiro lugar, o fato de as buscas e pesquisas sobre inteligência artificial já terem uma história bastante antiga, provavelmente nos anos 1950, despertando eufóricas esperanças e dúvidas éticas desde sempre. Aristóteles, desde a longínqua Antiguidade, já ironizava que se os instrumentos pudessem se mover sozinhos não seriam necessários escravos, evidentemente para, diante do absurdo de tal premissa, justificar a escravidão como necessária e natural. Hannah Arendt, diante dos avanços tecnológicos presenciados nos anos 1950, atualiza a premissa de seu mestre, agora não como ironia, mas como base para a sombria previsão que em poucos anos as fábricas se esvaziariam e a condição humana se veria diante do dilema catastrófico de uma sociedade fundada no trabalho que elimina o emprego.

A segunda ordem de reflexão nos remete a um mito ainda mais antigo, que marca a sociedade moderna. Refiro-me aqui ao receio de que as obras humanas fujam ao controle e se voltem contra seus criadores. Este medo atávico se apresenta de forma recorrente, tal como se expressa no clássico Frankenstein: o Prometeu moderno (1818) de Mary Shelley, no também clássico desespero de Mickey Mouse tentando controlar vassouras que colocou em movimento para evitar seu trabalho no filme da Disney, Fantasia (1940), sem nos esquecermos da premissa fundamental da saga Matrix (1999, 2003 e 2021), em que as máquinas substituíram os seres humanos (Animatrix, 2003).

No caso de Mary Shelley, não por acaso filha da filósofa feminista Mary Wollstonecraft, quando de uma estadia chuvosa com seus amigos divertindo-se no Lago de Genebra, contando histórias de terror e discutindo os estudos de Eramus Darwin (cientista e poeta do século XVIII, avô de Charles Darwin), que afirmava ter movido matéria morta por meio da eletricidade, teve a ideia de um conto que acabou tornando-se o famoso romance sobre Frankenstein. Sobre a ideia, a autora afirmou um tempo depois que seria “terrível, extremamente assustador o efeito de qualquer esforço humano na simulação do estupendo mecanismo do Criador do mundo”.

No entanto, tudo que a humanidade tem feito até hoje no desenvolvimento da tecnologia pode ser descrito como a sina de Prometeu, o subtítulo da obra de Shelley. Ele, diz a lenda, ficou encarregado pelos deuses de criar o homem a partir do barro (no qual observamos que a terceirização e o plágio são coisas antigas), mas acabou roubando o fogo dos deuses para oferecer aos homens e por tal crime foi condenado a ficar preso em um rochedo tendo seu fígado devorado e recriado para ser devorado novamente por abutres.

O ser humano é um ser que faz instrumentos para complementar sua anatomia natural precária, compensando seus dentes retos, a falta de garras e força, com machados de pedra, flechas e lanças. Para tanto, lança mão de duas características naturais da espécie: os polegares opositores e um telencéfalo altamente desenvolvido. Com isso desenvolveu, como afirma Marx, uma atividade exclusiva do gênero humano: o trabalho. Para o pensador alemão, o trabalho exige a capacidade teleológica, isto é, a incrível capacidade de antever o resultado desejado em seu cérebro, interessantemente a raiz do nome Prometeu (aquele que vê antes).

O cérebro humano tem a capacidade armazenar informações e associá-las, quando necessário, por isso pode responder às necessidades usando sua experiência anterior e sua habilidade com as mãos criando instrumentos e técnicas diversas.

O que faz a chamada Inteligência Artificial? Em princípio, ela busca informações e as associa de acordo com a necessidade de responder a algo ou alguém. Este seria o aspecto da inteligência, o caráter artificial é que ela não busca isso usando um cérebro que armazena pessoalmente experiências, ela busca em um banco de dados previamente alimentado de informações por meio de circuitos e algoritmos.

O grande salto desta ferramenta, dizem os especialistas, é que em comparação com as formas computacionais anteriores, que também buscavam dados e os associavam para executar tarefas,  elas podem (ou mais precisamente estão se desenvolvendo para tanto) aprender. Em outras palavras, acumular “experiências” que possam ser usadas em outras situações. A grande dificuldade neste campo, segundo ainda aqueles que entendem do assunto e que diferem de uma malta de palpitadores, é que os computadores não erram e o erro é um caminho importante da inteligência.

Existe uma sintonia muito fina na ação humana, que faz com que pela experiência a ação seja corrigida e assim aperfeiçoada, guardando-a na memória e aplicando quando exigida. Um cientista pesquisador da IA fez um teste interessante. Ele jogava uma bola para uma pessoa. Alterando aleatoriamente e com movimentos pequenos a trajetória da bola, a pessoa rapidamente conseguia pegá-la, corrigindo a posição das mãos e do seu corpo. Já para a máquina, isto implica em uma série de comandos pré-programados e a capacidade ver que a bola está vindo alguns milímetros para um lado ou outro, que não podem ser antecipados, isto é, a maquina tinha que aprender. Bom, é isso que o desenvolvimento da IA busca. Interessante notar que todo desenvolvimento da técnica foi para fazer o que nós como humanos não poderíamos fazer, mas agora seria para fazer aquilo que só nós como humanos fazemos. Estranho.

Mas, por que isto deveria nos assustar? Certamente existe uma série de funções muito úteis para este desenvolvimento tecnológico, desde controle de tráfego aéreo até pedir para a caixinha de som tocar sua música predileta.

Em sua bela cnação da década de 1960, Gilberto Gil procura destacar o que o distingue do cérebro eletrônico. Já no início da música, diz o querido Gil que o cérebro eletrônico “faz quase tudo, mas ele é mudo” e logo depois, em outra parte da letra, afirma que ele “comanda, manda e desmanda”, mas ele “ não anda”. Ora, hoje podemos dizer que a Alexa e alguns robôs estão aí para provar que falam e andam. Parece que alguns aplicativos podem estabelecer até uma interessante conversa sobre se deus existe ou juntar todas as informações disponíveis sobre o tema da morte e talvez oferecer reflexões pertinentes ou simulações de conforto espiritual para avançarmos em nosso caminho inevitável para a morte.

O receio atualizado, fiel à premissa de Arendt, é que tal capacidade venha a substituir os seres humanos. Já aparecem listas de profissões que estarão extintas com a generalização da IA, que incluem atendentes de telemarketing e de atendimento ao cliente, sociólogos, fotógrafos, jornalistas, tradutores, pesquisadores, analistas de dados, assistentes jurídicos, terapeutas e psicólogos, educadores físicos, nutricionistas, entre outras. A previsão, no caso de pesquisadores, é de um ano. Achei interessante que os filósofos não constam na lista, talvez por já serem considerados extintos.

Vamos com calma. Algumas chamadas profissões devem ser mesmo extintas, primeiro pelo fato de que não são profissões, como telemarketing ou serviços de atendimento ao cliente (previsão para desaparecerem de seis meses a um ano – acho muito), trabalhos extremamente precarizados que não oferecem nenhuma perspectiva profissional. Em segundo lugar, pelo fato de que algumas atividades são degradantes e emburrecedoras, por isso seria melhor que fossem relegadas a instrumentos ou algoritmos (que, diga-se logo, precisam melhorar muito – só quem sofreu com os autoatendimentos burros sabe do que se trata).

O que me chama a atenção é que o temor se fundamenta em uma total incompreensão do trabalho humano, reduzido a uma mera tarefa. Seria demais pedir que lessem Marx, mas já ajudaria ver a distinção realizada pela conservadora Hannah Arendt em seu livro sobre a condição humana entre labor e trabalho. O temor é uma expressão de nossos tempos de decadência, mas como tal é uma expressão fidedigna da materialidade miserável em que nos encontramos.

Se os instrumentos, além da mecanização de tarefas, desenvolverem a capacidade de guardar dados, relacioná-los para responder questões, aprenderem e serem capazes de simular experiência e memória, resta algo que parece ser desconsiderado: a intencionalidade. Em outras palavras o porquê de fazer tudo isso.

A resposta é que vivemos em tempos de subordinação real da vida e, portanto, do humano ao capital e ao processo de valorização do valor. Como tal, no auge da reificação na qual o humano se coisifica e as coisas se fetichizam. O lugar do ser humano na atividade do trabalho não se reduz a coisa na qual objetiva seu ser, nela está a intencionalidade e o fim último da coisa no consumo da substância última do  ser objeto, que é a satisfação de uma necessidade do corpo ou do espírito.

Pensando na perspectiva humana, nós seriamos o início e o fim de tal processo, mas subsumidos ao domínio do capital e do valor, nos tornamos meios do processo de valorização no qual a intencionalidade e o fim último é o capital e seu movimento de valorização. O capital é o sujeito e nós os meios de sua realização.

Aquilo que a IA acessa em seu banco de dados não é a inteligência artificial, mas o conjunto de saberes e experiências humanas objetivadas, distanciadas de seus criadores e que voltam a ele como uma força hostil que os ameaça. Em outras palavras, aliena-se. Aquilo que acessa não é mais que um instrumento que foi feito por seres humanos que nele se objetivaram e igualmente se alienaram. Tanto o instrumento tecnológico como o conjunto de dados é produto da inteligência humana que fica escondida em seu produto estranhado. Por precisão terminológica, a sigla IA deveria significar Inteligência Alienada.

O cérebro eletrônico agora fala e anda, pode discutir se deus existe ou o sentido da morte, pode até sistematizar um texto coerente sobre a teoria social marxiana e a possibilidade de uma revolução social, pode até assumir o comando e nos considerar obsoletos, inúteis e nos destruir como em O Exterminador do Futuro (1984) ou em 2001: uma odisseia no espaço (1968), quem sabe. No entanto, o sujeito desta ameaça não é a tecnologia, mas uma classe que transformou os meios necessários à vida em mercadorias e estas em veículos de valor e mais valor. O capital é a força estranhada que pode decidir se vivemos ou morremos, se produziremos vida ou morte. Por trás do capital existe uma classe que tem por interesse manter o processo de acumulação: a grande burguesia monopolista.

Há, ainda, um último elemento neste processo de alienação, aquilo que Marx e depois Lukács chamaram de “decadência ideológica”. Se a tecnologia é uma objetivação da inteligência humana, foi também um meio de desenvolvê-la. Agora, sob o invólucro das relações que constituem a sociedade do capital no máximo de seu desenvolvimento, ela se transforma em seu contrário, passa a constituir uma barreira para o desenvolvimento do saber humano. A ingenuidade decadente imagina um conjunto de dados e um instrumentos de busca, ambos isentos de interesses e valores, mas o simples uso de uma ferramenta de busca demonstra a falácia de tal neutralidade objetiva.

Um aplicativo pode fazer um texto adequado sobre os fundamentos da sociologia e seus três autores fundantes – Marx, Durkheim e Weber –, mas o preguiçoso aluno apreenderá algo ao pedir que a máquina faça seu trabalho? Graças ao aplicativo, até um imbecil pode escrever um romance, mas continuará um imbecil. Há uma diferença entre associar palavras dispersas e dar a isto um formato de um texto ou uma imitação de produção intelectual, porque esta implica a intencionalidade e a subjetividade do autor que ao contribuir com o saber coletivo engrandece a si mesmo. Subsumido à ordem da mercadoria e do capital, como dizia Marx, quanto mais o trabalhador realiza a mercadoria, mais se desrrealiza.

No caso sobre o qual nos debruçamos, o preguiçoso e suposto autor que só pede que a máquina reúna os dados existentes e previamente armazenados, sem acrescentar nada nem ao conhecimento coletivo nem a ele próprio: um algoritmo pode escrever um texto, mas nunca escrevera O Capital, pode escrever um romance, mas nunca escreverá As vinhas da ira. Pode. Pode juntar palavras belas em uma métrica perfeita, mas nunca será Maiakóvski, pode fazer uma música mas nunca poderá ser Caetano Veloso. E se um dia, por uma hipótese absurda o fizer, será para que enquanto máquina possa ser aquilo que nós, enquanto humanos, abdicamos de ser.

Sabe Gil… permita-me mexer em seus versos:

Nosso caminho não precisa ser para a morte
Porque somos vivos
Somos muito vivos e sabemos
Que cérebro eletrônico nenhum nos dá socorro
Com seus botões de plástico e seus olhos de vidro

Quais são os impactos das tecnologias em nossa sociedade? Que consequências enfrentamos com a concentração das principais ferramentas tecnológicas que regem a vida de milhões de pessoas no domínio de um punhado de empresas estadunidenses? De que maneira é possível relacionar algoritmos a racismo, misoginia e outras formas de violência e opressão?

Em Colonialismo digital: por uma crítica hacker-fanoniana, Deivison Faustino e Walter Lippold entrelaçam tecnologia e ciências humanas, apresentando um debate provocador sobre diferentes assuntos de nossa era. Inteligência artificial, internet das coisas, soberania digital, racismo algorítmico, big data, indústrias 4.0 e 5.0, segurança digital, software livre e valor da informação são alguns dos temas abordados.

A obra se inicia com um debate histórico e conceitual sobre o dilema das redes e a atualidade do colonialismo para, em seguida, discutir as expressões “colonialismo digital” e “racismo algorítmico”. Ao fim, apresenta uma reflexão sobre os possíveis caminhos a seguir, partindo das encruzilhadas teóricas e políticas entre o hacktivismo anticapitalista e o pensamento antirracista radical. Para discutir a relação dialética entre tecnologia, dominação e desigualdade e propor pautas fundamentais a movimentos sociais, os autores dispõem, ao longo da obra, da contribuição de intelectuais como Frantz Fanon, Karl Marx, Julian Assange, Shoshana Zuboff, Byung-Chul Han, Marcos Dantas, entre outros.

A edição conta, ainda, com a colaboração de referências no debate nacional: a apresentação é de Sergio Amadeu, especialista em software livre e inclusão digital no Brasil; e o texto de orelha é deTarcízio Silva, pesquisador e um dos maiores nomes do hacktivismo brasileiro.

Mauro Iasi é professor adjunto da Escola de Serviço Social da UFRJ, pesquisador do NEPEM (Núcleo de Estudos e Pesquisas Marxistas), do NEP 13 de Maio e membro do Comitê Central do PCB.

color compass

Este texto foi originalmente publicado pelo Blog da Boitempo [Aqui!].