إندونيسيا تحظر Grok التابع لإيلون ماسك.. المحتوى فاضح
أصبحت إندونيسيا أول دولة تمنع مؤقتًا الوصول إلى روبوت المحادثة Grok التابع لشركة xAI المملوكة لإيلون ماسك، بعد مخاوف متعلقة بقدرته على توليد صور جنسية صريحة، بما في ذلك "ديب فيك" غير consensual، وفقًا لتقرير وكالة رويترز.
وأكدت وزارة الاتصال والشؤون الرقمية الإندونيسية أن الروبوت يفتقر إلى الضوابط الكافية لمنع إنتاج محتوى جنسي غير قانوني، وهو ما تُصنّفه الحكومة كخرق لحقوق الإنسان والأمن الرقمي للمواطنين.
الخطوة الإندونيسية تأتي بعد تحقيقات متزايدة من الجهات الرقابية في أوروبا وآسيا بشأن محتوى Grok، الذي رُصد استخدامه لتوليد صور جنسية، شملت حالات تتعلق بالقاصرين. وفي استجابة لهذه المخاوف، أعلنت xAI أنها ستقتصر ميزات توليد وتعديل الصور على المشتركين المدفوعين، مع تعزيز مرشحات السلامة لمنع إساءة الاستخدام.
وزيرة الاتصالات والشؤون الرقمية الإندونيسية، ميوتيا حافيد، قالت في تصريح لوكالة رويترز: "تنظر الحكومة إلى ممارسة إنشاء ديب فيك جنسي غير consensual على أنها انتهاك خطير لحقوق الإنسان وكرامة المواطنين وأمنهم في الفضاء الرقمي". وأضاف التقرير أن الوزارة طلبت من مسؤولي X مناقشة هذا الأمر بشكل عاجل، في ظل القوانين الصارمة التي تمنع نشر المحتوى الفاحش على الإنترنت في البلاد.
وفي وقت سابق من هذا الأسبوع، نشر ماسك تغريدة على منصة X، مؤكّدًا أن أي شخص يستخدم Grok لإنشاء محتوى غير قانوني سيواجه نفس العقوبات المطبقة على من يرفع مثل هذا المحتوى مباشرةً. يأتي ذلك وسط تهديدات محتملة بالغرامات وإجراءات تنظيمية وحتى حظر محتمل للمنصة في دول مثل المملكة المتحدة.
جدير بالذكر أن الروبوت استُخدم لتغيير صور النساء لإزالة ملابسهن ووضعهن في أوضاع جنسية، لكن هذه الخاصية أصبحت مقصورة الآن على المشتركين المدفوعين فقط.
المخاوف من Grok لم تقتصر على إندونيسيا، إذ أعرب رئيس الوزراء الأسترالي أنثوني ألبانيز عن استيائه من استخدام الروبوت لإنشاء محتوى جنسي استغلالي. وقال ألبانيز للصحفيين: "استخدام الذكاء الاصطناعي التوليدي لاستغلال أو ت sexualise الأشخاص بدون موافقتهم أمر مرفوض تمامًا. وأن يُستخدم هذا الروبوت لإنشاء صور من هذا النوع عبر Grok يعد مثالًا صارخًا على تجاهل وسائل التواصل الاجتماعي لمسؤوليتها الاجتماعية. يستحق المواطنون الأستراليون، وبقية العالم، مستوى أفضل من ذلك".
وأوضحت هيئة الأمان الرقمي الأسترالية أن عدد الشكاوى المستلمة لا يزال محدودًا، لكنها لاحظت ارتفاعًا أخيرًا في حالات استخدام Grok لإنشاء صور جنسية أو استغلالية. وذكرت الهيئة أنها ستستخدم صلاحياتها القانونية، بما في ذلك إصدار أوامر إزالة، عندما لا يفي المحتوى بالمعايير المحددة في قانون الأمان على الإنترنت.
وأضافت الهيئة، أن "X وGrok وغيرها من الخدمات تخضع لالتزامات نظامية للكشف عن وإزالة مواد استغلال الأطفال الجنسي والمواد غير القانونية الأخرى، ضمن إطار المعايير والصناعية الرائدة عالميًا التي تلتزم بها أستراليا".
تأتي هذه التحركات لتسلط الضوء على التحديات الكبيرة التي تواجه منصات الذكاء الاصطناعي في التوازن بين الابتكار وتوفير الأمان الرقمي، مع تصاعد الضغوط الدولية على الشركات لضمان منع إساءة استخدام تقنيات توليد الصور والنصوص.