بريطانيا تفتح تحقيقًا رسميًا مع منصة إكس بسبب صور مزيفة وانتهاكات خطيرة

فتحت هيئة تنظيم الإعلام في المملكة المتحدة (Ofcom) تحقيقًا رسميًا مع منصة «إكس» في خطوة تعكس تصاعد القلق العالمي من استخدام أدوات الذكاء الاصطناعي في إنتاج محتوى غير قانوني، خاصة عندما يتعلق الأمر بالصور الجنسية المزيفة وغير الرضائية، أو المحتوى الذي قد يرقى إلى إساءة استغلال الأطفال جنسيًا.

التحقيق، الذي يأتي في إطار تطبيق «قانون السلامة على الإنترنت»، يركز على مدى التزام منصة إكس بواجباتها القانونية في حماية المستخدمين داخل المملكة المتحدة من المحتوى غير المشروع. 

وأوضحت الهيئة أن هناك تقارير «مقلقة للغاية» تفيد باستخدام حساب روبوت الدردشة Grok، التابع لشركة xAI والمرتبط بمنصة إكس، في إنشاء ونشر صور عارية أو شبه عارية لأشخاص دون موافقتهم، إضافة إلى صور جنسية لأطفال قد تُصنف كمحتوى استغلال جنسي للأطفال.

ووفقًا لبيان Ofcom، فإن التحقيق سيبحث في عدة محاور أساسية، من بينها ما إذا كانت إكس تتخذ إجراءات كافية لمنع المستخدمين في بريطانيا من الوصول إلى ما يُعرف بـ«المحتوى غير القانوني ذي الأولوية»، مثل صور الاعتداء الجنسي على الأطفال والصور الحميمة غير الرضائية. 

كما سيُقيّم التحقيق سرعة استجابة المنصة في إزالة المحتوى غير القانوني فور علمها بوجوده، ومدى قيامها بتحديث تقييمات المخاطر قبل إدخال أي تغييرات جوهرية على خصائص المنصة أو أدواتها.

أحد المحاور الحساسة في التحقيق يتعلق بحماية الأطفال، حيث تسعى الهيئة إلى معرفة ما إذا كانت إكس قد قيّمت بشكل صحيح المخاطر التي قد يتعرض لها الأطفال في المملكة المتحدة، وما إذا كانت تطبق آليات فعالة للتحقق من العمر ومنع القُصّر من الوصول إلى المحتوى الإباحي.

وأشارت Ofcom إلى أنها تواصلت مع منصة إكس في الخامس من يناير، وتلقت ردًا قبل الموعد النهائي المحدد في التاسع من الشهر نفسه.

 وتقوم الهيئة حاليًا بتقييم الأدلة المتاحة بشكل عاجل، كما طلبت من شركة xAI توضيحات فورية حول الخطوات التي تتخذها لحماية المستخدمين البريطانيين من إساءة استخدام أدوات الذكاء الاصطناعي.

وقال متحدث باسم الهيئة إن التقارير المتعلقة باستخدام Grok في إنتاج ونشر صور جنسية غير قانونية «تثير قلقًا بالغًا»، مؤكدًا أن المنصات الرقمية ملزمة قانونًا بحماية المستخدمين من المحتوى غير المشروع، وأن الهيئة لن تتردد في فتح تحقيقات عندما تشتبه في إخفاق أي شركة في أداء واجباتها، خصوصًا إذا كان هناك خطر مباشر على الأطفال.

في حال توصل التحقيق إلى أن إكس انتهكت القانون، تمتلك Ofcom صلاحيات واسعة لفرض إجراءات تصحيحية، تشمل إلزام المنصة باتخاذ خطوات محددة للامتثال أو معالجة الأضرار الناتجة. كما يمكن للهيئة فرض غرامات تصل إلى 18 مليون جنيه إسترليني أو 10% من الإيرادات العالمية المؤهلة للشركة، أيهما أكبر. 

وفي حالات أشد، قد تطلب الهيئة من المحاكم وقف تعامل مزودي خدمات الدفع أو المعلنين مع المنصة، أو حتى حجب الموقع داخل المملكة المتحدة. وأكدت الحكومة البريطانية دعمها الكامل لأي إجراءات تتخذها Ofcom في هذا الشأن.

وتأتي هذه الخطوة البريطانية في سياق تحركات دولية أوسع. فقد أشارت تقارير إلى أن لندن أجرت مناقشات مع حلفائها بشأن تنسيق رد مشترك على الصور المزيفة التي يتم إنشاؤها عبر Grok. كما فتحت جهات تنظيمية في دول أخرى، بينها الهند والاتحاد الأوروبي، تحقيقات مماثلة بشأن منصة إكس.

في موازاة ذلك، أعلنت منصة إكس مؤخرًا عن تقييد بعض أدوات إنشاء وتعديل الصور في Grok على المستخدمين المشتركين فقط، غير أن تقارير أكدت أن مستخدمين غير مدفوعين ما زالوا قادرين على توليد صور عبر المنصة، ما أثار تساؤلات حول فعالية هذه القيود.

على صعيد آخر، أصبحت ماليزيا وإندونيسيا أول دولتين تحجبان Grok، بدعوى غياب الضمانات الكافية لمنع إنشاء ونشر صور جنسية مزيفة للنساء والأطفال. واعتبرت السلطات الإندونيسية أن الصور الجنسية غير الرضائية تمثل انتهاكًا خطيرًا لحقوق الإنسان والكرامة والسلامة الرقمية، مشيرة إلى أن النتائج الأولية أظهرت ضعفًا في أدوات التحكم داخل Grok.

 أما ماليزيا، فأكدت أن الحجب سيستمر إلى حين توفير ضمانات قوية تمنع إساءة استخدام تقنيات الذكاء الاصطناعي.

وتسلط هذه التطورات الضوء على التحديات المتزايدة التي تواجهها الحكومات في تنظيم أدوات الذكاء الاصطناعي، خاصة مع تسارع انتشار تقنيات التزييف العميق، وما تحمله من مخاطر قانونية وأخلاقية واجتماعية، في وقت باتت فيه حماية المستخدمين، لا سيما الأطفال، أولوية لا تحتمل التأجيل.