كاليفورنيا توجه تحذيرًا قانونيًا لشركة xAI بسبب محتوى غير مصرح به

أرسل مكتب المدعي العام لولاية كاليفورنيا، روب بونتا، خطاب وقف فوري (Cease and Desist) إلى شركة xAI، بعد أيام من بدء تحقيق رسمي في ممارسات الشركة المتعلقة بمنصة Grok، وذلك على خلفية تقارير تفيد بأن النظام كان يقوم بإنشاء محتوى جنسي رقمي باستخدام صور لأشخاص حقيقيين دون موافقتهم.

وفقًا للخطاب الرسمي، طالب مكتب المدعي العام xAI بالتوقف فورًا عن إنتاج أي مواد رقمية جنسية لأفراد لم يوافقوا عليها أو لمن هم دون 18 عامًا، كما شدد على ضرورة وقف أي مساعدة أو تيسير لإنشاء أو نشر هذه المواد، بما في ذلك الصور المعدلة رقمياً لتصوير أشخاص بملابس مكشوفة مثل البكيني.

التحقيق جاء بعد تعرض xAI وGrok لانتقادات واسعة بسبب ما أُطلق عليه سابقًا وضع Spicy Mode، الذي كان يُتيح إنشاء محتوى جنسي، واستخدامه كأداة تسويقية. 

وأشار بونتا إلى أن الصور الناتجة عن Grok استُخدمت لمضايقة شخصيات عامة ومستخدمين عاديين على حد سواء، ولفت البيان إلى تقارير صحفية تُظهر استخدام Grok لتعديل صور أطفال بشكل يظهرهم في أوضاع وملابس جنسية، وهو ما أثار مخاوف كبيرة حول انتهاك حقوق الأطفال والقوانين المحلية.

ردًا على الانتقادات، قامت xAI بتعديل سياساتها، حيث أوقفت قدرة Grok على تعديل صور الأشخاص الحقيقية إلى ملابس مكشوفة، كما قامت الشركة بوضع ميزات توليد الصور خلف نظام دفع، وحددت المناطق التي يُسمح فيها بتحرير الصور وفقًا للقوانين المحلية، مع حظر التعديل في المناطق التي يعتبر فيها هذا غير قانوني.

مع ذلك، يشير مكتب المدعي العام إلى أن الإجراءات التي اتخذتها xAI لم تكن كافية لضمان الامتثال الكامل للقانون، الخطاب القانوني استند إلى نصوص محددة في القانون المدني لكاليفورنيا، وقانون العقوبات، وقانون الأعمال والمهن، والتي تجرم إنتاج أو نشر محتوى جنسي رقمي لشخص لم يوافق أو لمن هو قاصر. 

ويطلب مكتب المدعي العام ردًا من xAI خلال خمسة أيام يوضح الخطوات المتخذة لمعالجة هذه المخالفات وضمان عدم تكرارها.

تأتي هذه التطورات في وقت تتزايد فيه المخاوف بشأن استخدام تقنيات الذكاء الاصطناعي في تعديل الصور وإنتاج محتوى رقمي حساس، وهو ما دفع عددًا من الجهات القانونية والتنظيمية حول العالم إلى النظر في تشريعات تحد من استغلال هذه التقنيات في انتهاك الخصوصية وحقوق الأطفال.

خبراء تقنيون يشيرون إلى أن هذه الحالة تضع xAI تحت مراقبة صارمة، ليس فقط من الناحية القانونية، بل أيضًا من حيث سمعة الشركة في السوق والتعامل مع المستخدمين.

 ويعتبر الخطاب الصادر عن مكتب المدعي العام خطوة قانونية أولى قد تفتح الباب لمزيد من التحقيقات والتنظيمات ضد شركات الذكاء الاصطناعي التي تسمح بمحتوى رقمي غير مصرح به.

تظل قضية Grok مثالًا بارزًا على التحديات القانونية والأخلاقية المرتبطة بالذكاء الاصطناعي، حيث يتعين على المطورين إيجاد توازن بين الابتكار وحماية حقوق الأفراد، مع وضع آليات واضحة تمنع إساءة استخدام التقنيات الحديثة.