ロボット農場、人工知能、悪質なボットは、偽情報と戦うオンラインキャンペーンの中核をなしています。

ボットは、国家や民間の利益団体によって管理され、インターネット上で人間のふりをして選挙や政治危機の際に人々を操作しようとするロボットです。この場合、 悪いボット。 偽のアカウントやメールの背後に隠れており、検出が難しい「悪質なロボット」。インターネット上で偽の情報を拡散し、実際のインターネットユーザーと関わり、フランスなどの国を不安定化させようとしている。

franceinfoは初めてViginumに侵入した。Viginumはフランス政府のサービスで、デジタル通信への外国の干渉と戦う。Viginumの警告は首相と諜報機関に直接届けられる。ViginumのDatalabアナリストは、ソーシャルネットワークの「不正」を特定するために画面に釘付けになっている。 ボット、そして人工知能によってますます活用されるようになっています。 たとえば、すべてのコンテンツを深夜または1時間ごとに公開するアカウントがあるとします。 データラボの責任者、ポール・アントワーヌ・シュヴァリエ氏はこう説明する。「これは人間が自然に行う行為ではありません。ボットやオンライン AI の可能性があります。おそらく、機械です。」

情報操作と偽情報に利用されるAI

ヴィギナムは、2024年パリオリンピック中にフランスに対して行われた自動偽情報作戦の1つを特定することができた。親ロシア派の マトリョーシカ キャンペーンでは、「ボットファーム」によって偽のコンテンツと偽の回答が大量に配布されました。人工知能は現在、より説得力のある物語の作成に役立っています。ポールアントワーヌシュヴァリエは、私たちが日常的に検出を行っているときにAI操作が見られるのは明らかであることを認めています。当社の社内システムは、大規模な言語モデルを使用して再構成された場合でも、大量に重複したコンテンツを検出します。コンテンツ間の意味的な距離がわかります。AI攻撃は攻撃者に新しい可能性をもたらすため、AI攻撃を識別する方法を知る必要があります。」

主張されているのは バッドボット デジタル世界ではボットが大きなシェアを占めている。アメリカの企業Imperva（フランスのThalesの子会社）は数年前からネットワーク上のボットトラフィックを世界規模で測定していると主張している。Impervaは次のように主張している。 ボット 数学的には人間の活動を追い越す勢いにあります。 世界中のインターネット トラフィックをすべて調べると、半分は人間の活動で構成され、残りの 50% は自動化されたロボットです。 フロリアン・マレッキ氏は、Imperva のマネージャーの 1 人です。サイバー セキュリティ業界の出版社やソーシャル ネットワーキング プロバイダーは、こうした悪質なボットを阻止するために、さらに努力する必要があります。しかし、あらゆる犯罪と同様に、常に「善良なプレイヤー」と「悪質なプレイヤー」の間で競争が繰り広げられます。」

「現在、ボット トラフィックの 32% は悪意のあるボット トラフィックです。そして、この数は今後も増加し続けるでしょう。」

フロリアン・マレッキ

フランスインフォへ

こうしたキャンペーンによって大衆は汚染され、増幅され ボットアメリカ大統領選挙、ウクライナ戦争、イスラエル・パレスチナ紛争、フランスの議会選挙などがその例だ。CNRSの数学者デビッド・チャバラリアス氏を含む多くの専門家が、偽情報や憎悪キャンペーンの自動化を記録している。

彼は、2016年から2024年までの7億件以上のメッセージのデータベースをレポートに使用し、親ロシアの悪質ボットのコミュニティを特定しました。ボットは高級市場に移行し、これまで以上に人間とのやり取りを生み出せるようになりました。ボットはより洗練されています。ChatGPTまたは会話型インテリジェンスは、今や誰もが知っています。ユーザーに連絡して対話するロボットを作ることができることはわかっています。また、デジタル出力を分析し、会話を適応させます。これは実際の危険です。」

ソーシャル ネットワーク X は、米国でドナルド トランプ氏の勝利を支援したと非難されている。X はボットと戦うために偽アカウントを絶えず削除している。イーロン マスク氏のプラットフォームは、ボットの活動がトラフィックと広告主に多額の収益をもたらすため、多くのボットを維持することに利害関係がある。

OpenAI を活用した自動化ソリューション