Roboterfarmen, künstliche Intelligenz und Badbots stehen im Mittelpunkt von Online-Kampagnen zur Bekämpfung von Desinformation.

Botssind Roboter, die von Staaten oder privaten Interessen gesteuert werden und sich im Internet als Menschen ausgeben, um zu versuchen, Menschen bei Wahlen oder politischen Krisen zu manipulieren. In diesem Fall sprechen wir von Badbots. „böse Roboter“, die schwer zu erkennen sind und sich hinter falschen Konten und E-Mails verstecken. Sie verbreiten falsche Informationen im Internet und interagieren mit echten Internetnutzern, um Länder wie Frankreich zu destabilisieren.

Franceinfo ist zum ersten Mal in Viginum eingedrungen. Viginum ist der Dienst des französischen Staates, der gegen ausländische Einmischung in die digitale Kommunikation kämpft. Viginum-Warnmeldungen werden direkt an den Premierminister und die Geheimdienste übermittelt. Die Datalab-Analysten von Viginum sind an Bildschirme gefesselt, um alle „Unechtheiten“ in sozialen Netzwerken zu identifizieren – jene Aktivitäten, die sich vervielfacht haben durch Bots, und zunehmend durch künstliche Intelligenz. Wir haben beispielsweise einen Account, der alle Inhalte um Mitternacht oder stündlich veröffentlicht, erklärt Paul Antoine Chevalier, Leiter des Datalabs. „Das ist nicht das, was ein Mensch von Natur aus tun würde. Es könnte ein Bot oder eine Online-KI sein. Am wahrscheinlichsten ist es eine Maschine.“

KI im Dienste der Manipulation und Desinformation

Viginum konnte eine dieser automatisierten Desinformationsoperationen gegen Frankreich während der Olympischen Spiele 2024 in Paris identifizieren: Die pro-russische Matrjoschka Kampagnen verbreiteten massenhaft gefälschte Inhalte und falsche Antworten für X durch „Bot-Farmen“. Künstliche Intelligenz hilft nun dabei, eine überzeugendere Erzählung zu schaffen. Paul-Antoine Chevalier bestätigt, dass wir bei unseren täglichen Erkennungen offensichtlich KI-Manipulationen sehen. Unser internes System erkennt massenhaft duplizierte Inhalte, selbst wenn sie mithilfe großer Sprachmodelle umformuliert werden. Die semantische Distanz zwischen den Inhalten ist sichtbar. Wir müssen wissen, wie wir KI-Angriffe identifizieren können, da sie Angreifern neue Möglichkeiten bieten.“

Es wird behauptet, dass Badbots haben einen bedeutenden Anteil an der digitalen Welt. Das amerikanische Unternehmen Imperva (eine Tochtergesellschaft der französischen Thales) behauptet seit mehreren Jahren, den globalen Bot-Verkehr in Netzwerken zu messen. Imperva behauptet, dass Bots sind mathematisch gesehen auf dem Weg, die menschliche Aktivität zu überholen. Wenn Sie den gesamten Internetverkehr weltweit untersuchen, besteht die Hälfte davon aus menschlichen Aktivitäten und die restlichen 501 TP3T sind automatisierte Roboter. Florian Malecki ist einer der Imperva-Manager. Herausgeber in der Cybersicherheitswelt und Anbieter sozialer Netzwerke müssen mehr tun, um diese Badbots zu stoppen. Aber wie bei jedem Verbrechen gibt es bis zum Schluss immer einen Wettlauf zwischen ‚guten Spielern‘ und ‚schlechten Spielern‘.“

„Heute sind 321 TP3T des Bot-Verkehrs bösartiger Bot-Verkehr. Und dieser Wert wird weiter steigen.“

Florian Malecki

zu Franceinfo

Die Öffentlichkeit wird durch diese Kampagnen vergiftet, verstärkt Bots. Die amerikanischen Präsidentschaftswahlen, der Krieg in der Ukraine und der israelisch-palästinensische Konflikt sowie die Parlamentswahlen in Frankreich sind allesamt Beispiele dafür. Viele Experten haben die Automatisierung von Desinformations- oder Hasskampagnen dokumentiert, darunter auch der CNRS-Mathematiker David Chavalarias.

In einem Bericht verwendete er eine Datenbank mit über 700.000.000 Nachrichten aus den Jahren 2016 bis 2024, um Communities prorussischer Badbots zu identifizieren. Bots haben sich in die oberen Marktsegmente vorgewagt und können heute mehr menschliche Interaktion erzeugen als je zuvor. Die Bots sind ausgefeilter geworden. ChatGPT oder Konversationsintelligenzen sind heute jedem bekannt. Wir wissen, dass wir Roboter bauen können, die Benutzer kontaktieren und mit ihnen in Dialog treten. Sie analysieren auch digitale Ausgaben und passen ihren Diskurs an. Das ist eine echte Gefahr.“

Dem sozialen Netzwerk X wird in den USA vorgeworfen, Donald Trump zum Sieg verholfen zu haben. X löscht laufend Fake-Accounts, um Bots zu bekämpfen. Elon Musks Plattform hat ein Eigeninteresse daran, viele Bots zu behalten, denn deren Aktivitäten bringen den Werbetreibenden Traffic und viel Geld.

Automatisierungslösungen auf Basis von OpenAI