A armadilha das alucinações

Harold M. Lambert / Getty Images

Por Mônica Manir pafa “Revista Fapesp”

Um caso constrangedor envolvendo o veterano jornalista belga Peter Vandermeersh ilustrou os perigos associados ao uso indiscriminado de ferramentas de inteligência artificial (IA) na produção de conteúdo jornalístico. Chefe das operações irlandesas do Mediahuis, um dos principais grupos de mídia na Europa, ele foi suspenso de suas funções em março após uma investigação interna constatar que incorporou a seus textos falsas declarações entre aspas atribuídas a especialistas, que foram geradas erroneamente por programas como ChatGPT, Perplexity e Google NotebookLM.

Dezenas de declarações presentes em 15 textos publicados por Vandermeersh não correspondiam a fontes verificáveis e sete fontes citadas nos artigos negaram veementemente ter proferido aquelas palavras. “Existem citações que não podem ser encontradas nas publicações das quais Vandermeersch afirma tê-las obtido, como estudos científicos e notícias”, informou o jornal NRC (do qual Vandermeersch já foi editor-chefe), responsável pela investigação. O jornalista reconheceu os equívocos e afirmou ter “caído na armadilha das alucinações”, termo usado para descrever erros gerados por IA, ao confiar excessivamente nas ferramentas sem verificar o conteúdo replicado.

“Perdi muitos minutos do meu tempo procurando onde eu poderia ter dito alguma besteira sobre ‘conhecimento imersivo’”, queixou-se Emily Bell, diretora do Centro Tow de Jornalismo Digital da Universidade Columbia, nos Estados Unidos, uma das vítimas das alucinações disseminadas por Vandermeersh. Usando ferramentas de IA do Google, Bell encontrou frases muito semelhantes em um discurso feito por outra pessoa. Seu nome também foi mencionado nesse discurso, mas em outro contexto, o que pode ser a origem da alucinação. O episódio evidencia um paradoxo da IA generativa: a tecnologia é capaz de produzir textos verossímeis, mas não há garantia de que sejam verdadeiros. Isso coloca em xeque princípios fundamentais do jornalismo profissional, como a verificação e a precisão dos fatos transmitidos ao público.

O tema tem sido abordado em estudos que investigam como jornalistas que cobrem assuntos científicos estão lidando com a incorporação da IA em suas rotinas de trabalho. Um artigo publicado em dezembro no Sage Journals por seis pesquisadores da área de comunicação, três deles brasileiros (Luisa Massarani e Cleiton Bezerra, da Fundação Oswaldo Cruz, e Luiz Neves, da Universidade Federal de Goiás), evidenciou uma ampla adoção das ferramentas de IA por repórteres especializados em ciência em tarefas corriqueiras, como transcrição de gravações e apoio à escrita. Nas entrevistas com os profissionais de imprensa, também foram relatadas preocupações com a confiabilidade das informações e com a compatibilidade do uso de IA com valores jornalísticos, como responsabilidade e ética. A maioria ainda é cautelosa ao utilizar a tecnologia em tarefas mais sofisticadas, como a análise de dados.

A adoção da inteligência artificial nas redações, segundo a pesquisa, varia entre países. Os autores se debruçaram sobre três deles: Brasil, Índia e Reino Unido. Jornalistas científicos britânicos mostraram certa resistência ao uso avançado das ferramentas, enquanto brasileiros e indianos indicaram ser mais flexíveis. Uma particularidade dos brasileiros é que adotam amplamente as ferramentas para traduzir textos e apoiar a escrita em um segundo idioma. Entre os benefícios propiciados pela IA, os entrevistados destacam o aumento da eficiência e o acesso facilitado à informação e, entre os perigos, a possibilidade de disseminar desinformação e a eliminação de postos de trabalho, que são cada vez mais escassos no jornalismo, incluindo sua vertente de ciência.

Outro estudo, esse publicado no Journal of Science Comunication por pesquisadores das universidades de Mainz e Ludwig Maximillian, de Munique, entrevistou 30 jornalistas científicos alemães sobre as perspectivas abertas pelo uso de IA. Os autores tinham interesse em saber se as novas ferramentas poderiam amenizar ou agravar o que se convencionou chamar de “crise do jornalismo científico”, impulsionada pela crescente digitalização dos meios de comunicação, pela perda de anunciantes e pelas mudanças nos hábitos de consumo de notícias do público. Em um fenômeno ambivalente, pesquisadores e divulgadores científicos criaram canais de comunicação direta com os leitores, por meio de blogs e redes sociais, enquanto os jornalistas profissionais foram impactados por demissões e sobrecarga de trabalho. A maioria dos profissionais entrevistados, contudo, disse não se sentir ameaçada e reconhece que sua atividade caminha pra uma integração cada vez maior com a IA.

Já um estudo da PLOS ONE realizado por duas pesquisadoras da Universidade de Twente, nos Países Baixos, e outro da Universidade de Bolonha, na Itália, analisou a qualidade da cobertura da imprensa sobre IA em quatro nações (Bélgica, Itália, Portugal e Espanha), examinando notícias e entrevistando jornalistas científicos. De forma geral, os entrevistados demonstraram preocupação com a situação do jornalismo científico, incluindo a falta de financiamento, que pode afetar a qualidade das reportagens. Segundo o estudo, novas vertentes, como o jornalismo de engajamento, que prevê a participação da audiência na produção da notícia, e o jornalismo de soluções, que busca evidências capazes de resolver problemas sociais, teriam potencial para contribuir no enfrentamento desses desafios, inclusive nesse momento de transição, com a IA batendo à porta.

Para auxiliar nessa travessia, em 2024 o Centro de Estudos de Ciência, Comunicação e Sociedade da Universidade Pompeu Fabra (SCS-UPF), instituição pública localizada em Barcelona, na Espanha, liderou o desenvolvimento de um guia de ferramentas de inteligência artificial para jornalistas científicos. O manual se divide em três blocos. O primeiro indica plataformas que auxiliam na pesquisa de documentos e imagens, na identificação de pesquisas revisadas por pares, na tradução de textos e na transcrição de áudios. O segundo se detém em recursos para podcasts e o terceiro na organização do fluxo de trabalho. Para selecionar as melhores ferramentas, foi realizado um webinar com profissionais da comunicação científica, que apontaram aquelas que usavam com mais frequência. Todas elas foram testadas em um curso-piloto realizado em Barcelona, para verificar se eram mesmo eficientes e úteis.


Fonte: Revista Fapesp

Uma eulogia para Maurício Tuffani

Faleceu ontem  aos 63 anos, o jornalista e editor do site “Direto da Ciência, Maurício Tuffani, que atualmente também era o editor chefe do jornal da Unesp. Tuffani iniciou sua carreira jornalística em 1978 e atuou em veículos da mídia corporativa como O Estado de S. Paulo, Jornal da Tarde, Folha de S. Paulo e pelas revistas Scientific American Brasil, Galileu e Unesp Ciência. Tuffani também foi editor-executivo dos portais do PNUD Brasil e Nações Unidas Brasil e foi responsável pela comunicação institucional de diversos órgãos públicos como Secretaria de Educação do Estado de São Paulo, Universidade Estadual Paulista (Unesp) e do Instituto Florestal do Meio Ambiente.

Desde 2016, Maurício Tuffani também impulsionava o site especializado em jornalismo científico, o Direto da Ciência que se notabilizou por oferecer espaços para notícias e artigos de opinião relevantes para o debate científico, especialmente em um momento de negacionismo científico que aborda o mundo, e especialmente o mundo.

Mas acima de um jornalista com a maior nível de capacidade dentro do campo profissional que abraçou, Tuffani era um pessoa preocupada com o destino da ciência brasileira. Em 2017, quando os professores da Universidade Estadual do Norte Fluminense (Uenf) atravessavam um duro momento pela falta de pagamentos de salários, Tuffani gentilmente aceitou participar de um debate organizado pela Associação de Docentes da Uenf (Aduenf) cujo mote foi debater o futuro da ciência no Brasil (ver vídeo abaixo)

 

Naquele evento, Maurício Tuffani instou os presentes a se posicionarem claramente em defesa da ciência brasileira e das instituições responsáveis pela sua produção. Segundo ele, uma das coisas que o deixavam mais perplexo era a letargia que estava presenciando ao processo de desmanche da ciência brasileira, coisa que considerava inaceitável dada a importância, especialmente dentro da própria comunidade científica. Naquele dia ele disse que reagir ao desmanche em curso era uma tarefa primária dos pesquisadores brasileiras. 

Mas além de ser um jornalista altamente preparado e de um cidadão preocupado com a ciência com a qual ele se ocupou durante toda a sua vida profissional, Tuffani era o que podemos chamar de “boa praça”, pois sempre manteve relações pautadas pelo respeito e por uma atitude carinhosa.  Para compensar sua firmeza no trato das pautas que considerava importantes, Maurício Tuffani sempre tinha uma dica para dar e um contato para compartilhar. Aliás, lembro que nos conhecemos quando escrevi para cumprimentá-lo por uma matéria que escrevera sobre publicações em revistas predatórias, e ele me perguntou se eu toparia falar abertamente sobre o assunto, já que poucos pesquisadores aceitavam tocar em um assunto tabu como era a da publicação do que eu chamo de “trash science”. A partir dali nos tornamos amigos por telefone já que ele morava em São Paulo e eu em Campos dos Goytacazes.

Por essas coisas todas é que a morte repentina de Maurício Tuffani é uma perda não apenas para sua família e amigos, mas para todos os que labutam na ciência brasileira. Com sua partida, perdemos um profissional e um cidadão que colocava boa parte de sua energia em defender a ciência.

Convite de apoio ao “Direto da Ciência”

Maurício Tuffani

Impulsionado pelo jornalista Maurício Tuffani, o “Direto da Ciência” é atualmente um dos principais instrumentos de disseminação de informação de qualidade sobre assuntos ligados à ciência, meio ambiente e ensino superior.

Em função dessa importância é que faço um convite aos leitores deste blog para que conheçam e apoiem financeiramente o “Direto da Ciência”. É fundamental que não percamos este espaço de jornalismo independente.

Posto abaixo um material produzido pelo “Direto da Ciência” para explicar seus objetivos e garantir os recursos financeiros para manter-se em funcionamento.

Eu que já sou assinante do “Direto da Ciência” é que convido a todos os leitores deste blog que façam o mesmo.  Investir no bom jornalismo científico é sem dúvida uma  necessidade estratégica neste momento em especial.

Apoie o jornalismo crítico e independente em ciência, ambiente e ensino superior

 

“Trabalhar mais que todos os colegas. Dormir sabendo que nenhum outro jornalista que esteja cobrindo o mesmo caso trabalhou mais que você. Não ter medo de dizer: ‘Desculpe, mas não entendi bem’. Aprender a escrever. Ser ambicioso, ter ideais. Não se deixar amedrontar, desconfiar do poder e duvidar da versão de quem governa.”
(Benjamin Bradlee, respondendo à pergunta “Qual é a receita do bom jornalista?” ao jornal italianoCorriere della Sera, em setembro de 1991, após se aposentar no cargo de editor-chefe do Washington Post, onde comandou a cobertura do caso Watergate.)

Lançado no final de março de 2016, Direto da Ciência já é amplamente reconhecido como um site jornalístico com uma perspectiva independente, investigativa e crítica sobre temas de ciência, meio ambiente e ensino superior. Seu focos principais nessas três áreas são

  • informações de interesse público que não são públicas,
  • articulações políticas, conflitos e bastidores,
  • temas não abordados pelos meios de comunicação e
  • perspectivas geralmente não consideradas pela imprensa.

Direto da Ciência também publica diariamente de segundas às sextas-feiras seu Boletim de Notícias, que informa quais são os principais artigos, reportagens, notas oficiais e outras informações relevantes mais recentes sobre ciência, meio ambiente e ensino superior. Os avisos do Boletim de Notícias e de todas as publicações de Direto da Ciência são enviados gratuitamente.

Independência e dedicação têm custo. E conteúdo exclusivo e de alta qualidade exige não só competência, mas também investimento para ser produzido. Como Direto da Ciência não conta com publicidade para cobrir seus custos, o site vem com dificuldade tentando se manter por meio da captação de recursos por assinaturas e doações.

Quanto maior for esse apoio, maior será o investimento de tempo e de recursos de Direto da Ciência em análises e em reportagens investigativas, inclusive para ampliar gradualmente o trabalho do site, possibilitando até contar com a colaboração de outros jornalistas.

O apoio a Direto da Ciência vai garantir que esteja livremente acessível na internet a informação jornalística de qualidade, de interesse público e com abordagem crítica, investigativa e independente sobre ciência, meio ambiente e ensino superior. É o apoio de pessoas que querem essa informação produzidas não só para elas mesmas, mas para toda a sociedade.

O compromisso de Direto da Ciência é com essa perspectiva jornalística e com o público que a exige.

Clique aqui para apoiar Direto da Ciência.

Obrigado.

MAURÍCIO TUFFANI
Editor

(Clique aqui para saber quem é.)