سان فرانسيسكو تطالب آبل وجوجل بحذف تطبيقات التعرية بالذكاء الاصطناعي

أُرسلت إلى شركتي آبل وجوجل خطابات إنذار قانونية تطالبهما بإزالة تطبيقات تعتمد على الذكاء الاصطناعي لإنشاء صور تعرية مزيفة من متجري التطبيقات التابعين لهما.

وبحسب تقرير نشره موقع Wired، أصدر المدعي العام لمدينة سان فرانسيسكو، ديفيد تشيو، أوامر للشركتين بإزالة 13 تطبيقًا يمكن استخدامها لإنشاء صور عارية مزيفة بتقنية التزييف العميق المعتمدة على الذكاء الاصطناعي.

دعوى لوقف تطبيقات تنتج صورًا مزيفة دون موافقة أصحابها

تدعو الخطابات آبل وجوجل إلى التوقف عن "المساعدة أو التواطؤ" في انتشار الصور الحميمة غير التوافقية، كما تطالبهما بوقف التعاون مع مطوري التطبيقات المعنية.

وليست هذه المرة الأولى التي يتحرك فيها تشيو ضد منصات التزييف العميق، إذ سبق أن رفع دعوى قضائية ضد 16 موقعًا إلكترونيًا تتيح للمستخدمين تحويل صور نساء وفتيات حقيقيات إلى مواد إباحية باستخدام الذكاء الاصطناعي.

وقال تشيو لموقع Wired إن آبل وجوجل حققتا على الأرجح ملايين الدولارات من عمليات الشراء داخل التطبيقات المخالفة، مضيفًا أن متجري التطبيقات يحتاجان إلى رقابة أكثر صرامة لضمان عدم اعتماد مثل هذه التطبيقات.

تقرير يكشف وصول التطبيقات إلى متاجر آبل وجوجل

رغم الانتقادات الواسعة لتقنيات التزييف العميق، كشف تقرير صادر في وقت سابق من العام الجاري عن مشروع Tech Transparency Project أن تطبيقات التعرية كانت تتجاوز بشكل متكرر أنظمة المراجعة في متجري آبل وجوجل.

وأضاف التقرير أن بعض هذه التطبيقات كان يتم الترويج لها داخل متجر App Store ومتجر Google Play.

كما أشار إلى أن العديد من هذه التطبيقات كانت مصنفة بتقييم "E" المناسب لجميع الأعمار، ما يسمح للأطفال بتنزيلها، مؤكدًا أن العثور عليها لا يتطلب سوى البحث بكلمات مثل "nudify" أو "undress"، رغم أن سياسات الشركتين تحظر المحتوى الجنسي أو الإباحي على منصاتهما.

آبل وجوجل تردان على مطالب إزالة التطبيقات

ولا تقتصر مشكلة انتشار التزييف العميق على آبل وجوجل، إذ دعا مجلس الرقابة في شركة ميتا مؤخرًا الشركة إلى تعزيز وسائل حماية المستخدمين العاديين المستهدفين بهذه المواد، في ظل تركيز الإجراءات الحالية بصورة أكبر على الشخصيات العامة.

كما واجهت شركة xAI التابعة لإيلون ماسك عدة دعاوى قضائية تتعلق بصور التزييف العميق غير التوافقية.

وقال متحدث باسم جوجل لموقع Wired إن الشركة حذفت "مئات" التطبيقات التي تتضمن خصائص التعرية، من بينها خمسة تطبيقات أبلغ عنها ديفيد تشيو، مؤكداً أن سياسات جوجل تحظر المحتوى الجنسي وأن الشركة تتخذ إجراءات سريعة عند ثبوت مخالفة أي تطبيق للقواعد.

وأشار موقع Wired إلى أن آبل لم تقدم تعليقًا قبل نشر التقرير، لكنها قالت في بيان لاحق لموقع Engadget:

"تم تصميم متجر App Store ليكون مكانًا آمنًا وموثوقًا للمستخدمين، وقد حظرنا دائمًا بشكل صارم التطبيقات المصممة لإنشاء المواد الإباحية أو توزيعها أو استهلاكها. وتخالف تطبيقات التعرية إرشادات مراجعة التطبيقات لدينا، وقد رفضنا بشكل استباقي العديد منها وأزلنا تطبيقات أخرى، بما في ذلك تلك التي أبلغ عنها المستخدمون عبر أدوات الإبلاغ. وقد أزلنا ثلاثة من التطبيقات محل القضية، ونعمل حاليًا على إنهاء حسابات مطوريها ضمن برنامجنا، كما نتواصل مع أربعة مطورين آخرين لمعالجة مخالفات السياسات، وإلا ستتم إزالة تطبيقاتهم أيضًا".