Les fermes de robots, l’intelligence artificielle et les badbots sont au cœur des campagnes en ligne pour lutter contre la désinformation.

robots, sont des robots contrôlés par des États ou des intérêts privés qui se font passer sur Internet pour des êtres humains pour tenter de manipuler les gens lors d'élections ou de crises politiques. Dans ce cas, nous parlons de Les mauvais robots. Des « robots malveillants » difficiles à détecter, qui se cachent derrière de faux comptes et de faux e-mails. Ils diffusent de fausses informations sur Internet et interagissent avec de vrais internautes afin de déstabiliser des pays comme la France.

franceinfo a infiltré pour la première fois Viginum, le service de l’État français qui lutte contre les interférences étrangères dans les communications numériques. Les alertes Viginum sont délivrées directement au Premier ministre et aux services de renseignement. Les analystes du Datalab de Viginum sont scotchés à leurs écrans pour identifier toutes les « inauthenticités » des réseaux sociaux, ces activités qui ont été multipliées par 100. robots, et de plus en plus par l’intelligence artificielle. Par exemple, nous avons un compte qui publie tout le contenu à minuit ou toutes les heures, « Ce n’est pas ce qu’une personne ferait naturellement. Cela pourrait être un robot ou une IA en ligne. Le plus souvent, c’est une machine », explique Paul Antoine Chevalier, responsable du Datalab.

L'IA au service de la manipulation et de la désinformation

Viginum a pu identifier une de ces opérations de désinformation automatisées contre la France lors des JO de Paris 2024 : le Matriochka Les campagnes de bots diffusent massivement des contenus factices et des réponses fausses pour X. L’intelligence artificielle permet désormais de créer un récit plus convaincant. Paul-Antoine Chevalier confirme que nous observons des manipulations de l’IA lorsque nous effectuons nos détections quotidiennes. Notre système interne détecte des contenus massivement dupliqués, même lorsqu’ils sont reformulés à l’aide de grands modèles de langage. La distance sémantique entre les contenus est visible. Il faut savoir identifier les attaques de l’IA, car cela offre de nouvelles possibilités aux attaquants. »

On prétend que Les robots maléfiques occupent une place importante dans le monde numérique. La société américaine Imperva (filiale du français Thales) affirme depuis plusieurs années mesurer le trafic global de bots sur les réseaux. Imperva affirme que robots sont mathématiquement en passe de dépasser l’activité humaine. Lorsque vous examinez l'ensemble du trafic Internet dans le monde, la moitié est constituée d'activité humaine et les 50% restants sont des robots automatisés. Florian Malecki est l'un des responsables d'Imperva. Les éditeurs du secteur de la cybersécurité et les fournisseurs de réseaux sociaux doivent faire davantage pour arrêter ces badbots. Mais, comme pour tout crime, il y a toujours une course à la ligne d'arrivée entre les « bons joueurs » et les « mauvais joueurs ».

« Aujourd’hui, 32% du trafic de bots est du trafic de bots malveillants. Et ce chiffre va continuer à augmenter. »

Florian Malecki

à franceinfo

Le public est pollué par ces campagnes, amplifiées robotsL'élection présidentielle américaine, la guerre en Ukraine et le conflit israélo-palestinien ainsi que les élections législatives en France en sont des exemples. De nombreux spécialistes ont documenté l'automatisation de campagnes de désinformation ou de haine, dont le mathématicien du CNRS David Chavalarias.

Il a utilisé une base de données de plus de 700 millions de messages de 2016 à 2024 dans un rapport pour identifier les communautés de badbots pro-russes. Les bots sont montés en gamme et sont désormais capables de produire plus d’interactions humaines que jamais auparavant. Les bots sont devenus plus sophistiqués. ChatGPT ou intelligences conversationnelles sont désormais bien connus de tous. Nous savons que nous pouvons créer des robots qui contacteront les utilisateurs et dialogueront avec eux. Ils analysent également les sorties numériques et adaptent leur discours. C’est un réel danger. »

Le réseau social X est accusé aux Etats-Unis d'avoir aidé Donald Trump à gagner. X supprime sans cesse de faux comptes pour lutter contre les bots. La plateforme d'Elon Musk a tout intérêt à conserver de nombreux bots, car leurs activités apportent du trafic et beaucoup d'argent aux annonceurs.

Solutions d'automatisation basées sur OpenAI