Fazendas de robôs, inteligência artificial e badbots estão no centro das campanhas online para combater a desinformação.

robôs, são robôs controlados por estados ou interesses privados que se apresentam na Internet como seres humanos para tentar manipular pessoas durante eleições ou crises políticas. Neste caso estamos falando de Robôs maus. “robôs ruins” que podem ser difíceis de detectar, escondendo-se atrás de contas e e-mails falsos. Eles espalham informações falsas na Internet e interagem com usuários reais da Internet para desestabilizar países como a França.

franceinfo penetrou no Viginum pela primeira vez. O Viginum é o serviço do estado francês que luta contra a interferência estrangeira nas comunicações digitais. Os alertas do Viginum são entregues diretamente ao primeiro-ministro e às agências de inteligência. Os analistas do Datalab no Viginum estão colados às telas para identificar todas as “inautenticidades” das redes sociais – aquelas atividades que foram multiplicadas por robôs, e cada vez mais pela inteligência artificial. Por exemplo, temos uma conta que publica todo o conteúdo à meia-noite ou de hora em hora, explica Paul Antoine Chevalier, chefe do Datalab. Não é o que uma pessoa faria naturalmente. Poderia ser um bot ou IA online. Muito provavelmente, é uma máquina.”

IA a serviço da manipulação e da desinformação

Viginum conseguiu identificar uma dessas operações automatizadas de desinformação contra a França durante as Olimpíadas de Paris 2024: a operação pró-Rússia Matrióchka campanhas distribuíram massivamente conteúdo falso e respostas falsas para X por “fazendas de bots”. A inteligência artificial agora está ajudando a criar uma narrativa mais convincente. Paul-Antoine Chevalier confirma que é evidente que estamos vendo manipulações de IA quando realizamos nossas detecções diárias. Nosso sistema interno detecta conteúdos massivamente duplicados, mesmo quando eles são reformulados usando grandes modelos de linguagem. A distância semântica entre os conteúdos pode ser vista. Precisamos saber como identificar ataques de IA, pois isso oferece novas possibilidades aos invasores. ”

Afirma-se que Robôs maus têm uma participação significativa no mundo digital. A empresa americana Imperva (subsidiária da francesa Thales) vem afirmando medir o tráfego global de bots em redes há vários anos. A Imperva afirma que robôs estão matematicamente a caminho de ultrapassar a atividade humana. Quando você examina todo o tráfego da Internet no mundo, metade é composta de atividade humana e os 50% restantes são robôs automatizados. Florian Malecki é um gerente da Imperva. Os editores no mundo da segurança cibernética e os provedores de redes sociais precisam fazer mais para deter esses badbots. Mas, como qualquer crime, sempre há uma corrida para o final entre 'bons jogadores' e 'maus jogadores'. ”

“Hoje, 32% do tráfego de bot é tráfego de bot malicioso. E isso continuará a aumentar.”

Florian Malecki

para franceinfo

O público é poluído por essas campanhas, amplificadas robôs. A eleição presidencial americana, a guerra na Ucrânia e o conflito israelense-palestino, bem como as eleições legislativas na França são todos exemplos. Muitos especialistas documentaram a automação de campanhas de desinformação ou ódio, incluindo o matemático do CNRS David Chavalarias.

Ele usou um banco de dados de mais de 700.000.000 de mensagens de 2016 a 2024 em um relatório para identificar comunidades de badbots pró-Rússia. Os bots se tornaram mais sofisticados e agora são capazes de produzir mais interação humana do que nunca. Os bots se tornaram mais sofisticados. ChatGPT ou inteligências conversacionais são agora bem conhecidas por todos. Sabemos que podemos fazer robôs que entrarão em contato com os usuários e dialogarão com eles. Eles também analisam saídas digitais e adaptam seu discurso. É um perigo real. ”

A rede social X é acusada nos Estados Unidos de ter ajudado Donald Trump a vencer. X está constantemente removendo contas falsas para combater bots. A plataforma de Elon Musk tem interesse em reter muitos bots, pois suas atividades trazem tráfego e muito dinheiro para os anunciantes.

Soluções de automação com tecnologia OpenAI