IAs tentam substituir ferramenta de monitoramento de conteúdos virais

Em 2024, a Meta desativou o CrowdTangle, sistema usado para rastrear como o conteúdo se espalhava pelo Facebook e pelo Instagram. O portal era uma ferramenta essencial para jornalistas, checadores de fatos e pesquisadores, que o utilizaram por mais de 10 anos para monitorar conteúdos virais e a disseminação de desinformação.

O fim do CrowdTangle foi gradual. A Meta desinvestiu no recurso ao longo dos anos, cortando financiamento, desfazendo equipes e restringindo o acesso de usuários. Quando a empresa anunciou, em março de 2024, que encerraria as operações do CrowdTangle em agosto do mesmo ano, uma petição assinada por mais de 100 grupos de monitoramento de mídias sociais e outras entidades alertava que quase todos os esforços externos para identificar e prevenir a desinformação política, a incitação à violência e o assédio on-line seriam inviabilizados.

Agora, uma nova geração de ferramentas baseadas em IA tenta preencher essa lacuna. O Arbiter é um dos projetos que lideram esse movimento. A plataforma utiliza grandes modelos de linguagem (LLMs) e agentes de IA para extrair publicações de mídias sociais e analisá-las em larga escala. O sistema coleta dados de APIs de redes sociais, bancos de dados acadêmicos e empresas terceirizadas de extração de dados. Atualmente, funciona em plataformas como Facebook, Instagram, X (ex-Twitter), YouTube, TikTok, Reddit, Bluesky e 4chan.

No início deste ano, o Arbiter começou a integrar suas primeiras organizações de notícias, como a emissora pública alemã Deutsche Welle (DW), a organização argentina de checagem Chequeado e o site filipino Rappler. Profissionais de mais de 100 organizações já se cadastraram. Para jornalistas que cobrem conteúdos nocivos em redes sociais, o acesso a uma ferramenta robusta e independente das Big Techs é considerado essencial.

O cofundador e presidente da SimPPL –organização sem fins lucrativos por trás do projeto–, Swapneel Mehta, afirma que o jornalismo necessita de mecanismos independentes. Segundo ele, as estruturas de incentivo das plataformas frequentemente entram em conflito com a checagem de fatos, o que faz com que trabalhos relevantes se percam. Mehta defende a criação de soluções resilientes para apoiar profissionais que já enfrentam diversos desafios em sua rotina.

O funcionamento do Arbiter permite fazer perguntas em linguagem simples sobre tópicos nas redes sociais. O sistema identifica automaticamente palavras-chave, rotula e agrupa postagens que promovem narrativas específicas, extrai alegações, rastreia contas que divulgam a mesma mensagem em diferentes plataformas e cria relatórios sintetizados por IA. A ferramenta também monitora como as narrativas se propagam pela internet de forma simultânea.

Uma das principais funcionalidades do Arbiter é a capacidade de mapear tendências de narrativas específicas, identificando quando surgem e quando atingem o pico em cada rede. O objetivo é ajudar repórteres a detectar conteúdos falsos ou enganosos ainda no início. Segundo Mehta, essa característica diferencia o projeto de outras ferramentas de monitoramento de mídias sociais disponíveis no mercado, que costumam ser voltadas para relações públicas e marketing.

Mehta explica que os sistemas tradicionais de monitoramento informam onde os debates se intensificam no momento em que ganham força, enviando alertas. Contudo, o especialista avalia que os jornalistas precisam se antecipar a esses avisos. Para ele, o objetivo é fornecer o alerta antes que a desinformação cause danos irreparáveis na rede.

O Arbiter é o principal produto da SimPPL, organização sem fins lucrativos criada para integrar a IA ao trabalho de jornalistas e pesquisadores focado em integridade da informação. Mehta cofundou o laboratório de pesquisa em IA em 2021 ao lado de Dhara Mungra, cientista de dados que lidera a equipe de produtos da instituição.

O histórico profissional de Mehta inclui o desenvolvimento de sistemas de classificação de desinformação cívica e de saúde no Twitter, pesquisas na Adobe e na Universidade de Oxford, além da tutoria de bolsistas no JournalismAI, programa da London School of Economics focado em IA para redações.

O Arbiter busca resolver problemas recorrentes no ecossistema digital, como a baixa precisão dos motores de busca das redes sociais. Mehta ressalta a importância de aplicar uma camada contextual sobre as buscas: ao pesquisar por ceticismo climático, por exemplo, o sistema analisa o contexto em vez de apenas buscar a palavra em todas as postagens.

Outro desafio é dar sentido aos dados coletados. Mehta pondera que inserir grandes volumes de informações em ferramentas comerciais de análise costuma ser ineficiente e dispendioso. Ele destaca que analistas que lidam com conjuntos superiores a 100 mil dados sabem que lançá-los em softwares convencionais resulta em custos altos e dados pouco práticos.

Para processar as informações com precisão, o Arbiter não utiliza um modelo único, mas uma estrutura combinada de 8 a 10 modelos de IA. Etapas como codificação de consultas, recuperação de postagens, identificação de redes coordenadas e mapeamento semântico utilizam modelos distintos. Algumas camadas são flexíveis, permitindo que as redações escolham o provedor de LLM de sua preferência.

Uma das primeiras organizações a testar o Arbiter foi o Nest Center, ONG de mídia sediada na Mongólia. A instituição administra o Centro Mongol de Ch