OpenAI تحظر حسابات صينية لاستخدامها ChatGPT في مراقبة وسائل التواصل

 أعلنت شركة OpenAI عن حظر حسابات تابعة لمستخدمين صينيين قاموا باستغلال ChatGPT لتحرير وتصحيح أخطاء في شفرة برمجية لأداة تعتمد على الذكاء الاصطناعي لمراقبة وسائل التواصل الاجتماعي. وأوضحت الشركة أن هذه الحسابات كانت تُستخدم لتوليد عروض مبيعات لبرنامج يهدف إلى رصد المشاعر المعادية للصين على منصات مثل X، Facebook، YouTube وInstagram.

تفاصيل الحملة وتحليل النشاط المشبوه:

 وفقًا لما كشفته OpenAI، فإن الحملة التي أطلقت عليها اسم Peer Review كانت موجهة نحو تتبع الدعوات إلى الاحتجاجات ضد انتهاكات حقوق الإنسان في الصين، مع نية واضحة لنقل هذه البيانات إلى السلطات الصينية. وأشارت الشركة إلى أن الحسابات التي تم إغلاقها كانت تعمل وفق جدول زمني متوافق مع ساعات العمل في الصين، مما يشير إلى وجود نشاط منظم وليس فرديًا.

وقالت OpenAI في بيان رسمي:
 "تتكون هذه الشبكة من حسابات ChatGPT التي تستخدم نماذجنا باللغة الصينية، وتعمل بحجم وتنوع يشيران إلى الحث اليدوي، بدلاً من الأتمتة الكاملة. كما استخدم المشغلون أدواتنا لمراجعة ادعاءات حول إرسال بيانات إلى السفارات الصينية وإلى أجهزة استخبارات تراقب الاحتجاجات في دول مثل الولايات المتحدة وألمانيا والمملكة المتحدة."

الذكاء الاصطناعي وأداة المراقبة المثيرة للجدل

وكشف بن نيمو، المحقق الرئيسي في OpenAI، أن هذه هي المرة الأولى التي يتم فيها اكتشاف أداة ذكاء اصطناعي من هذا النوع تعمل في مراقبة المحتوى الرقمي على نطاق واسع. وقال في تصريح لصحيفة نيويورك تايمز:
"توفر لنا هذه العمليات رؤية حول كيفية استخدام الفاعلين المهددين لنماذج الذكاء الاصطناعي، مما يساعدنا في فهم أساليبهم وأنشطتهم على الإنترنت."

 وكشفت التحقيقات أن جزءًا كبيرًا من الكود البرمجي لأداة المراقبة يعتمد على نسخة مفتوحة المصدر من نموذج Llama التابع لشركة Meta. كما استخدمت المجموعة ChatGPT لإنشاء مراجعات أداء سنوية تدّعي فيها كتابة رسائل تصيد احتيالي نيابة عن عملاء في الصين.

جهود OpenAI في مواجهة الاستغلال السيئ للذكاء الاصطناعي:

 أكدت OpenAI أن تقييم تأثير هذه الأنشطة يتطلب التعاون بين جهات متعددة، بما في ذلك مشغلو النماذج مفتوحة المصدر، الذين قد يكون لديهم بيانات إضافية عن هذا النشاط. وأوضحت الشركة أنها تواصل اتخاذ إجراءات صارمة ضد الاستخدام غير القانوني أو الأخلاقي لأدوات الذكاء الاصطناعي.

وفي خطوة منفصلة، أعلنت الشركة أيضًا عن حظر حساب آخر استُخدم لإنشاء منشورات على وسائل التواصل الاجتماعي تهاجم كاي شيا، عالم السياسة الصيني المعارض المقيم في الولايات المتحدة. كما استخدمت نفس المجموعة ChatGPT لإنشاء مقالات باللغة الإسبانية تنتقد الولايات المتحدة، وتم نشرها بواسطة مؤسسات إعلامية في أمريكا اللاتينية، غالبًا تحت أسماء مستعارة لأفراد أو شركات صينية.

مخاوف متزايدة بشأن توظيف الذكاء الاصطناعي في المراقبة والتضليل:

 يثير هذا الكشف تساؤلات حول كيفية استخدام الذكاء الاصطناعي في التجسس الرقمي ومراقبة الخطاب العام على الإنترنت، خاصة في ظل تصاعد الرقابة الإلكترونية في الصين. كما يُسلّط الضوء على أهمية تعزيز آليات الحماية لمنع استغلال تقنيات الذكاء الاصطناعي لأغراض سياسية أو استخباراتية.

 تأتي هذه الخطوة في سياق جهود متزايدة من شركات التكنولوجيا الكبرى للحد من إساءة استخدام الذكاء الاصطناعي، خصوصًا مع تزايد المخاوف بشأن تأثيره على حقوق الإنسان والحريات الرقمية حول العالم.