Fattorie di robot, intelligenza artificiale e badbot sono al centro delle campagne online per combattere la disinformazione.

bot, sono robot controllati da stati o interessi privati che si spacciano per esseri umani su Internet per cercare di manipolare le persone durante le elezioni o le crisi politiche. In questo caso stiamo parlando di I cattivi bot. "robot cattivi" che possono essere difficili da individuare, nascosti dietro falsi account ed e-mail. Diffondono informazioni false su Internet e interagiscono con veri utenti di Internet per destabilizzare paesi come la Francia.

franceinfo è penetrato per la prima volta in Viginum. Viginum è il servizio dello Stato francese che combatte contro le interferenze straniere nelle comunicazioni digitali. Gli avvisi di Viginum vengono recapitati direttamente al primo ministro e alle agenzie di intelligence. Gli analisti di Datalab di Viginum sono incollati agli schermi per identificare tutte le "inautenticità" dei social network, ovvero quelle attività che sono state moltiplicate da bote sempre più dall'intelligenza artificiale. Ad esempio, abbiamo un account che pubblica tutti i contenuti a mezzanotte o ogni ora, spiega Paul Antoine Chevalier, il capo del Datalab. Non è ciò che una persona farebbe naturalmente. Potrebbe essere un bot o un'intelligenza artificiale online. Molto probabilmente, è una macchina."

L’intelligenza artificiale al servizio della manipolazione e della disinformazione

Viginum è stato in grado di identificare una di queste operazioni automatizzate di disinformazione contro la Francia durante le Olimpiadi di Parigi 2024: il filo-russo Matrioska campagne hanno distribuito massicciamente contenuti falsi e risposte false per X tramite "bot farm". L'intelligenza artificiale sta ora aiutando a creare una narrazione più convincente. Paul-Antoine Chevalier conferma che è evidente che stiamo assistendo a manipolazioni dell'IA quando eseguiamo le nostre rilevazioni quotidiane. Il nostro sistema interno rileva massicciamente contenuti duplicati, anche quando vengono riformulati utilizzando grandi modelli linguistici. La distanza semantica tra i contenuti può essere vista. Dobbiamo sapere come identificare gli attacchi dell'IA, poiché offre nuove possibilità agli aggressori. "

Si sostiene che Cattivi bot hanno una quota significativa nel mondo digitale. La società americana Imperva (una sussidiaria della francese Thales) sostiene di misurare il traffico globale di bot sulle reti da diversi anni. Imperva sostiene che bot sono matematicamente sulla buona strada per superare l'attività umana. Esaminando l'intero traffico Internet a livello mondiale, si scopre che metà è costituito da attività umane, mentre i restanti 50% sono robot automatizzati. Florian Malecki è un manager di Imperva. Gli editori nel mondo della sicurezza informatica e i provider di social network devono fare di più per fermare questi badbot. Ma, come per ogni crimine, c'è sempre una corsa al traguardo tra "buoni giocatori" e "cattivi giocatori".

"Oggi, 32% di traffico bot è traffico bot dannoso. E questo continuerà ad aumentare."

Florian Malecki

a franceinfo

Il pubblico è inquinato da queste campagne, amplificate bot. Le elezioni presidenziali americane, la guerra in Ucraina e il conflitto israelo-palestinese, così come le elezioni legislative in Francia, sono tutti esempi. Molti specialisti hanno documentato l'automazione di campagne di disinformazione o di odio, tra cui il matematico del CNRS David Chavalarias.

Ha utilizzato un database di oltre 700.000.000 di messaggi dal 2016 al 2024 in un rapporto per identificare le comunità di badbot pro-Russia. I bot sono passati al mercato di fascia alta e ora sono in grado di produrre più interazione umana che mai. I bot sono diventati più sofisticati. ChatGPT o intelligenze conversazionali sono ormai note a tutti. Sappiamo di poter creare robot che contatteranno gli utenti e dialogheranno con loro. Analizzano anche gli output digitali e adattano il loro discorso. È un pericolo reale".

Il social network X è accusato negli Stati Uniti di aver aiutato Donald Trump a vincere. X rimuove costantemente account falsi per combattere i bot. La piattaforma di Elon Musk ha un interesse personale nel trattenere molti bot, poiché le loro attività portano traffico e molti soldi agli inserzionisti.

Soluzioni di automazione basate su OpenAI