ريديت يطور أدوات جديدة لرصد المحتوى المزيف والحسابات المشبوهة

لمواجهة الزيادة في المحتوى الذي يتم إنشاؤه باستخدام الذكاء الاصطناعي على منصة ريديت، بدأت المنصة الاجتماعية استخدام أدواتها الخاصة المعتمدة على الذكاء الاصطناعي، وفقًا لما أعلنته في منشور على موقعها.

وقالت ريديت إن أنظمتها الآلية أسهمت في حجب 23 مليون مشاهدة يوميًا للرسائل المزعجة، ورصد نحو 25 ألف منشور وتعليق يوميًا، إلى جانب إلغاء ما يقرب من مليوني تصويت غير حقيقي كل يوم.

وأضافت الشركة أن استخدام أدواتها المعتمدة على الذكاء الاصطناعي أدى إلى تقليل تعرض المستخدمين للرسائل المزعجة بنسبة 20% خلال الفترة من يناير إلى مارس 2026 مقارنة بالأشهر الثلاثة السابقة.

ووفقًا لريديت، تستخدم الشركة النماذج اللغوية الكبيرة LLM لرصد النشاط المشبوه منذ اللحظة التي يتم فيها إنشاء الحساب، بما في ذلك "الأنماط المنسقة والدقيقة للغاية للسلوك المزيف والترويج المصطنع".

وأضافت المنصة أنها كانت قد أضافت سابقًا طبقة حماية أخرى تجبر "الحسابات الآلية المشبوهة" على إثبات أنها تدار بواسطة بشر.

ولا تقتصر الإجراءات الجديدة على مواجهة المحتوى المولد بالذكاء الاصطناعي، بل تهدف أيضًا إلى تعزيز إجراءات إنفاذ السياسات، خاصة فيما يتعلق بـ"خطاب الكراهية والعنف في جميع المحتويات النصية باللغة الإنجليزية" على المنصة، مع خطط لتوسيع التغطية إلى مزيد من اللغات قريبًا.

وأوضحت الشركة أن الفترة الزمنية بين اكتشاف المخالفة واتخاذ الإجراء انخفضت إلى أقل من خمس ثوانٍ، وهو ما ساهم أيضًا في تقليل تعرض المستخدمين للمحتوى الضار بأكثر من 40%.

وتعد هذه الخطوة مهمة بالنسبة إلى ريديت، التي تمتلك تاريخًا مثيرًا للجدل مع الذكاء الاصطناعي.

ففي العام الماضي، اكتشف باحثون من جامعة زيورخ أنهم أجروا تجارب داخل مجتمع r/changemyview باستخدام تعليقات مولدة بالذكاء الاصطناعي.

ولمواجهة عمليات جمع البيانات واسعة النطاق بواسطة شركات الذكاء الاصطناعي، اعتمدت ريديت أيضًا بروتوكول ترخيص جديدًا يهدف إلى ضمان حصولها على مقابل مادي إذا أرادت شركات الذكاء الاصطناعي الزحف إلى موقعها وجمع بياناته.

ورغم تاريخها مع الذكاء الاصطناعي، واصلت ريديت تبني التقنية وفقًا لشروطها الخاصة، كما ظهر مع إطلاق ميزة البحث Reddit Answers.