تشكل مزارع الروبوتات والذكاء الاصطناعي والروبوتات السيئة جوهر الحملات عبر الإنترنت لمكافحة المعلومات المضللة.

الروبوتاتالروبوتات هي عبارة عن روبوتات تسيطر عليها دول أو مصالح خاصة تتظاهر على الإنترنت بأنها كائنات بشرية لمحاولة التلاعب بالناس أثناء الانتخابات أو الأزمات السياسية. في هذه الحالة نتحدث عن الروبوتات السيئة. "الروبوتات السيئة" التي قد يكون من الصعب اكتشافها، والتي تختبئ وراء حسابات ورسائل بريد إلكتروني مزيفة. وهي تنشر معلومات مزيفة على الإنترنت وتتواصل مع مستخدمي الإنترنت الفعليين من أجل زعزعة استقرار دول مثل فرنسا.

لقد تمكنت فرانس إنفو من اختراق فيجينوم لأول مرة على الإطلاق. فيجينوم هي خدمة الدولة الفرنسية التي تحارب التدخل الأجنبي في الاتصالات الرقمية. يتم تسليم تنبيهات فيجينوم مباشرة إلى رئيس الوزراء وأجهزة الاستخبارات. يلتصق محللو داتا لاب في فيجينوم بالشاشات لتحديد جميع "الشبكات الاجتماعية غير الموثوقة" - تلك الأنشطة التي تضاعفت بسبب الروبوتات، وبشكل متزايد عن طريق الذكاء الاصطناعي. على سبيل المثال، لدينا حساب ينشر كل المحتوى عند منتصف الليل أو كل ساعة، يوضح بول أنطوان شيفالييه، رئيس مختبر البيانات: "هذا ليس ما يفعله الشخص بشكل طبيعي. قد يكون روبوتًا أو ذكاء اصطناعيًا عبر الإنترنت. على الأرجح، إنها آلة".

الذكاء الاصطناعي في خدمة التلاعب والتضليل

تمكنت شركة Viginum من تحديد إحدى عمليات التضليل الآلية هذه ضد فرنسا خلال دورة الألعاب الأولمبية في باريس 2024: ماتريوتشكا "لقد وزعت الحملات على نطاق واسع محتوى مزيفًا وإجابات مزيفة لـ X بواسطة "مزارع الروبوتات". يساعد الذكاء الاصطناعي الآن في إنشاء سرد أكثر إقناعًا. يؤكد بول أنطوان شيفالييه أنه من الواضح أننا نشهد عمليات تلاعب بالذكاء الاصطناعي عندما نقوم بعمليات الكشف اليومية. يكتشف نظامنا الداخلي محتويات مكررة بشكل كبير، حتى عندما يتم إعادة صياغتها باستخدام نماذج لغوية كبيرة. يمكن رؤية المسافة الدلالية بين المحتويات. نحن بحاجة إلى معرفة كيفية تحديد هجمات الذكاء الاصطناعي، لأنها توفر إمكانيات جديدة للمهاجمين. "

ويزعم أن الروبوتات السيئة تتمتع الروبوتات بحصة كبيرة في العالم الرقمي. تزعم شركة Imperva الأمريكية (التابعة لشركة Thales الفرنسية) أنها قادرة على قياس حركة الروبوتات العالمية على الشبكات منذ عدة سنوات. تزعم Imperva أنها الروبوتات إنهم في طريقهم إلى تجاوز النشاط البشري رياضياً. عندما تقوم بفحص كل حركة المرور على الإنترنت في جميع أنحاء العالم، فإن نصفها يتكون من النشاط البشري والنصف الآخر عبارة عن روبوتات آلية. فلوريان ماليكي هو أحد مديري شركة إمبيرفا. ويتعين على الناشرين في عالم الأمن السيبراني ومقدمي خدمات الشبكات الاجتماعية بذل المزيد من الجهود لوقف هذه البرامج الخبيثة. ولكن كما هي الحال مع أي جريمة، هناك دائماً سباق نحو النهاية بين "اللاعبين الجيدين" و"اللاعبين السيئين".

"اليوم، 32% من حركة مرور الروبوتات هي حركة مرور روبوتية ضارة. وهذا سيستمر في الارتفاع."

فلوريان ماليكي

الى فرانس انفو

الجمهور ملوث بهذه الحملات، ومضخمها الروبوتاتإن الانتخابات الرئاسية الأميركية، والحرب في أوكرانيا، والصراع الإسرائيلي الفلسطيني، فضلاً عن الانتخابات التشريعية في فرنسا، كلها أمثلة على ذلك. وقد وثق العديد من المتخصصين أتمتة حملات التضليل أو الكراهية، بما في ذلك عالم الرياضيات في المركز الوطني الفرنسي للبحث العلمي ديفيد شافالارياس.

استخدم قاعدة بيانات تضم أكثر من 700 مليون رسالة من عام 2016 إلى عام 2024 في تقرير لتحديد مجتمعات الروبوتات السيئة المؤيدة لروسيا. لقد انتقلت الروبوتات إلى مستوى أعلى، وهي الآن قادرة على إنتاج تفاعل بشري أكثر من أي وقت مضى. أصبحت الروبوتات أكثر تطوراً. أصبح ChatGPT أو الذكاء التحادثي معروفًا للجميع الآن. نحن نعلم أنه يمكننا صنع روبوتات تتواصل مع المستخدمين وتتحاور معهم. كما تقوم بتحليل المخرجات الرقمية وتكييف خطابها. إنه خطر حقيقي ".

تُتهم شبكة التواصل الاجتماعي X في الولايات المتحدة بمساعدة دونالد ترامب على الفوز. وتعمل X باستمرار على إزالة الحسابات المزيفة لمحاربة الروبوتات. وتتمتع منصة إيلون ماسك بمصلحة خاصة في الاحتفاظ بالعديد من الروبوتات، حيث تجلب أنشطتها حركة المرور والكثير من الأموال للمعلنين.

حلول الأتمتة المدعومة بـ OpenAI