الباحثون يتكيفون مع الذكاء الاصطناعي بهدف تحديد الهوية المجهولة

نظرًا لأن المعلومات المضللة على وسائل التواصل الاجتماعي تمثل مشكلة كبيرة ، فإن القدرة على تحديد مؤلفي المقالات الخبيثة ومنشئي حملات التضليل يمكن أن تساعد في تقليل التهديد الناجم عن مثل هذه الهجمات الإعلامية.

في مؤتمر Black Hat Asia 2020 هذا الأسبوع ، قدم ثلاثة باحثين من Baidu Security ، قسم الأمن السيبراني في شركة التكنولوجيا الصينية العملاقة Baidu ، نهجهم لتحديد المؤلفين بناءً على تقنيات التعلم الآلي ، مثل الشبكات العصبية. استخدم الباحثون 130 ألف مقال لأكثر من 3600 مؤلف تم اقتلاعها من ثمانية مواقع لتدريب شبكة عصبية يمكنها تحديد مؤلف من مجموعة من خمسة كتاب محتملين 93٪ من الوقت وتحديد مؤلف من مجموعة من 2000 كاتب محتمل 27٪ الوقت.

قال لي ييبينغ ، الباحث في شركة بايدو سيكيوريتي ، أثناء عرضه التقديمي حول عمل فريقه ، على الرغم من أن النتائج ليست مثيرة للإعجاب ، إلا أنها تظهر أن تحديد الشخص الذي يقف وراء قطعة من الكتابة أمر ممكن.

وقال “يتم نشر معظم الأخبار الكاذبة دون الكشف عن هويتها وتفتقر إلى المعلومات الصحيحة للتعرف على المؤلف”. “يعد تتبع المقالات المجهولة مشكلة صعبة ، ولكن لحسن الحظ هذا ليس مستحيلًا. يختلف أسلوب الكتابة لدى الأشخاص المختلفين ، لذا فنحن قادرون على تحديد بعض الكتاب من خلال عاداتهم المميزة.”

أصبحت الأخبار الكاذبة وأشكال التضليل الأخرى وباءً على الإنترنت خلال العقد الماضي. بدافع من النجاح التجاري ، استخدم مجرمو الإنترنت الأخبار المزيفة لجذب مشاهدات الصفحة التي يتم بيع الإعلانات مقابلها. لكن الأكثر دهاءً هي حملات التضليل السياسي التي تقوم بها الدول الأجنبية والجماعات المحلية ذات الأجندات التي يمكن أن تؤثر على الرأي العام باستخدام معلومات غير صحيحة.

في أواخر سبتمبر ، أصدر مكتب التحقيقات الفيدرالي ووزارة الأمن الداخلي الأمريكية تحذيرًا من أن الجهات الفاعلة الأجنبية ومجرمي الإنترنت من المرجح أن يستخدموا معلومات مضللة في حملات مختلفة في موسم الانتخابات هذا.

“يمكن للجهات الفاعلة الأجنبية ومجرمي الإنترنت إنشاء مواقع ويب جديدة ، وتغيير مواقع الويب الحالية ، وإنشاء محتوى مطابق لوسائل التواصل الاجتماعي أو مشاركته لنشر معلومات كاذبة في محاولة لتشويه سمعة العملية الانتخابية وتقويض الثقة في المؤسسات الديمقراطية الأمريكية ،” ذكرت الوكالات.

هناك مجموعة متنوعة من الجهود البحثية جارية ، بهدف الكشف عن حملات التضليل. في مايو ، على سبيل المثال ، مجموعة من الباحثين في NortonLifelock أطلق BotSight، وهو مكون إضافي يصنف حسابات وسائل التواصل الاجتماعي على مقياس الروبوت مقابل الإنسان. تستخدم الأداة الاتصالات المعروفة بين حسابات وسائل التواصل الاجتماعي لحساب احتمالية إدارة حساب معين بواسطة روبوت آلي أو إنسان فعلي.

في مؤتمر بلاك هات بالولايات المتحدة الأمريكية ، قال مدير الأبحاث في مرصد ستانفورد للإنترنت أن روسيا تميل إلى التركيز أكثر على حملات التضليل التي تتضمن الميمات والمقالات المزيفة ، بينما تركز الجهود الصينية أكثر على إنشاء مصادر إخبارية تبدو مشروعة تتبنى تركيزًا معتمدًا من الحكومة.

ركزت جهود بحث Baidu Security إما على مطابقة مقال مع مؤلف معروف في قائمة المصادر ، تسمى مشكلة إسناد المؤلف ، أو تحديد احتمال أن يكون كاتب المقال قد كتب بواسطة مؤلف معين ، والمعروف باسم مشكلة التحقق من المؤلف. قام الباحث بتدريب شبكة عصبية باستخدام سلسلة من ثلاثة توائم من بيانات المقالة: مقالة أساسية كتبها مؤلف ، ومقال يطابق المؤلف بشكل إيجابي ، ومقال لم يكتبه المؤلف.

باستخدام طريقة ديناميكية لاختيار مثل هذه الحصة الصغيرة فقط من ثلاثة توائم محتملة ، أنشأ فريق البحث مجموعة بيانات تدريبية لإنشاء شبكة عصبية تحدد مؤلف المقال. في تجربة باستخدام سبع مجموعات بيانات تزداد تعقيدًا ، وجد الباحثون أن طريقتهم تعمل بشكل جيد ، مع دقة 93٪ ، في عزو أي من 600 مقالة كتبها خمسة مؤلفين مختلفين ، لكنهم نجحوا بنسبة 27٪ فقط في إسناد أكثر من 70000 وثيقة كتبها أي شخص 2000 مؤلف مختلف.

أشار الباحث لي إلى أنه حتى في مثل هذه الدقة المنخفضة مع وجود عدد كبير من المستندات ، فإن نهج فريق Baidu كان يتمتع بدقة أفضل من الطرق الأخرى.

قال “طريقتنا تفوقت في الأداء على خطوط الأساس الأخرى ، خاصة عندما تصبح مجموعات البيانات كبيرة”. “في المستقبل ، سنواصل اختبار نموذجنا وتحسين شبكة التعلم العميق واستراتيجية الاختيار الثلاثي.”