Robotboerderijen, kunstmatige intelligentie en badbots vormen de kern van online campagnes om desinformatie te bestrijden.

bots, zijn robots die worden aangestuurd door staten of particuliere belangen en die zich op het internet voordoen als mensen om mensen te manipuleren tijdens verkiezingen of politieke crises. In dit geval hebben we het over Slechte bots. “slechte robots” die moeilijk te detecteren zijn, zich verschuilen achter valse accounts en e-mails. Ze verspreiden nepinformatie op internet en gaan in gesprek met echte internetgebruikers om landen als Frankrijk te destabiliseren.

franceinfo is voor het eerst doorgedrongen tot Viginum. Viginum is de dienst van de Franse staat die strijdt tegen buitenlandse inmenging in digitale communicatie. Viginum-meldingen worden rechtstreeks naar de premier en inlichtingendiensten gestuurd. Datalab-analisten bij Viginum zijn aan schermen gekluisterd om alle 'onechtheid' van sociale netwerken te identificeren - die activiteiten die zijn vermenigvuldigd met bots, en steeds vaker door kunstmatige intelligentie. We hebben bijvoorbeeld een account dat alle content om middernacht of elk uur publiceert, legt Paul Antoine Chevalier, het hoofd van Datalab, uit. Het is niet wat een persoon van nature zou doen. Het zou een bot of online AI kunnen zijn. Waarschijnlijk is het een machine. ”

AI in dienst van manipulatie en desinformatie

Viginum kon een van deze geautomatiseerde desinformatie-operaties tegen Frankrijk tijdens de Olympische Spelen van 2024 in Parijs identificeren: de pro-Russische Matroesjka campagnes massaal nepcontent en nepantwoorden voor X verspreid door "bot farms". Kunstmatige intelligentie helpt nu om een overtuigender verhaal te creëren. Paul-Antoine Chevalier bevestigt dat het duidelijk is dat we AI-manipulaties zien wanneer we onze dagelijkse detecties uitvoeren. Ons interne systeem detecteert massaal gedupliceerde content, zelfs wanneer deze opnieuw is geformuleerd met behulp van grote taalmodellen. De semantische afstand tussen de content is zichtbaar. We moeten weten hoe we AI-aanvallen kunnen identificeren, omdat het aanvallers nieuwe mogelijkheden biedt. ”

Er wordt beweerd dat Slechte bots hebben een significant aandeel in de digitale wereld. Het Amerikaanse bedrijf Imperva (een dochteronderneming van het Franse Thales) beweert al jaren wereldwijd botverkeer op netwerken te meten. Imperva beweert dat bots zijn wiskundig op weg om de menselijke activiteit te overtreffen. Als je al het wereldwijde internetverkeer bekijkt, bestaat de helft daarvan uit menselijke activiteit en de overige 50% uit geautomatiseerde robots. Florian Malecki is een manager van Imperva. Uitgevers in de cybersecuritywereld en aanbieders van sociale netwerken moeten meer doen om deze badbots te stoppen. Maar zoals bij elke misdaad is er altijd een race naar de finish tussen 'goede spelers' en 'slechte spelers'. ”

“Vandaag de dag is 32% van het botverkeer kwaadaardig botverkeer. En dit zal blijven stijgen.”

Florian Malecki

naar frankrijkinfo

Het publiek wordt door deze campagnes vervuild, versterkt bots. De Amerikaanse presidentsverkiezingen, de oorlog in Oekraïne en het Israëlisch-Palestijnse conflict, maar ook de parlementsverkiezingen in Frankrijk zijn allemaal voorbeelden. Veel specialisten hebben de automatisering van desinformatie of haatcampagnes gedocumenteerd, waaronder CNRS-wiskundige David Chavalarias.

Hij gebruikte een database van meer dan 700.000.000 berichten van 2016 tot 2024 in een rapport om gemeenschappen van pro-Russische badbots te identificeren. Bots zijn naar een hoger niveau getild en kunnen nu meer menselijke interactie produceren dan ooit tevoren. De bots zijn geavanceerder geworden. ChatGPT of conversationele intelligenties zijn nu bij iedereen bekend. We weten dat we robots kunnen maken die contact opnemen met gebruikers en met hen in dialoog gaan. Ze analyseren ook digitale output en passen hun discours aan. Het is een echt gevaar. ”

Het sociale netwerk X wordt in de Verenigde Staten ervan beschuldigd Donald Trump te hebben geholpen te winnen. X verwijdert voortdurend nepaccounts om bots te bestrijden. Het platform van Elon Musk heeft er belang bij om veel bots te behouden, omdat hun activiteiten verkeer en veel geld opleveren voor adverteerders.

OpenAI-aangedreven automatiseringsoplossingen