Las granjas de robots, la inteligencia artificial y los badbots están en el centro de las campañas en línea para combatir la desinformación.

robots, son robots controlados por estados o intereses privados que se hacen pasar por seres humanos en Internet para intentar manipular a la gente durante elecciones o crisis políticas. En este caso estamos hablando de Robots malos. “Robots maliciosos” que pueden ser difíciles de detectar y que se esconden detrás de cuentas y correos electrónicos falsos. Difunden información falsa en Internet y se conectan con usuarios reales de Internet para desestabilizar países como Francia.

Franceinfo ha penetrado por primera vez en Viginum, el servicio del Estado francés que lucha contra la injerencia extranjera en las comunicaciones digitales. Las alertas de Viginum se envían directamente al primer ministro y a los servicios de inteligencia. Los analistas de Datalab de Viginum están pegados a las pantallas para identificar todas las «faltas de autenticidad» en las redes sociales, es decir, aquellas actividades que se han multiplicado por diez. robots, y cada vez más mediante inteligencia artificial. Por ejemplo, tenemos una cuenta que publica todo el contenido a medianoche o cada hora, “No es algo que haría una persona de forma natural. Podría ser un bot o una IA en línea. Lo más probable es que sea una máquina”, explica Paul Antoine Chevalier, responsable del Datalab.

La IA al servicio de la manipulación y la desinformación

Viginum ha podido identificar una de estas operaciones de desinformación automatizadas contra Francia durante los Juegos Olímpicos de París 2024: el grupo prorruso Matriochka Las campañas difundieron masivamente contenido falso y respuestas falsas para X a través de “granjas de bots”. La inteligencia artificial ahora está ayudando a crear una narrativa más convincente. Paul-Antoine Chevalier confirma que es evidente que estamos viendo manipulaciones de IA cuando realizamos nuestras detecciones diarias. Nuestro sistema interno detecta contenidos duplicados de forma masiva, incluso cuando se reformulan utilizando grandes modelos de lenguaje. La distancia semántica entre los contenidos es visible. Necesitamos saber cómo identificar los ataques de IA, ya que ofrece nuevas posibilidades a los atacantes.

Se afirma que Robots malos tienen una participación significativa en el mundo digital. La empresa estadounidense Imperva (filial de la francesa Thales) lleva varios años afirmando que mide el tráfico global de bots en las redes. Imperva afirma que robots Están matemáticamente en camino de superar la actividad humana. Si examinamos todo el tráfico de Internet a nivel mundial, la mitad está compuesta por actividad humana y el 50% restante son robots automatizados. Florian Malecki es uno de los directivos de Imperva. Los editores del mundo de la ciberseguridad y los proveedores de redes sociales deben hacer más para detener a estos bots maliciosos. Pero, como en cualquier delito, siempre hay una carrera hasta la meta entre los "buenos jugadores" y los "malos jugadores".

“Hoy en día, el 32% del tráfico de bots es tráfico de bots maliciosos y esta cifra seguirá aumentando”.

Florian Malecki

a franceinfo

El público está contaminado por estas campañas, amplificadas robotsLas elecciones presidenciales estadounidenses, la guerra en Ucrania y el conflicto entre Israel y Palestina, así como las elecciones legislativas en Francia, son ejemplos de ello. Numerosos especialistas han documentado la automatización de las campañas de desinformación o de odio, entre ellos el matemático del CNRS David Chavalarias.

En un informe, utilizó una base de datos de más de 700.000.000 de mensajes entre 2016 y 2024 para identificar comunidades de robots maliciosos prorrusos. Los robots han subido de categoría y ahora pueden generar más interacción humana que nunca. Los robots se han vuelto más sofisticados. ChatGPT o inteligencias conversacionales son ahora bien conocidas por todos. Sabemos que podemos crear robots que se pongan en contacto con los usuarios y dialoguen con ellos. También analizan los resultados digitales y adaptan su discurso. Es un peligro real”.

La red social X está acusada en Estados Unidos de haber ayudado a Donald Trump a ganar la presidencia. X elimina constantemente cuentas falsas para luchar contra los bots. La plataforma de Elon Musk tiene un interés personal en retener muchos bots, ya que sus actividades generan tráfico y mucho dinero para los anunciantes.

Soluciones de automatización impulsadas por OpenAI