كيف تخطط ميتا لكشف المحتوى المزيف بالذكاء الاصطناعي عبر أداة جديدة
تعمل شركة ميتا على تطوير أداة لتحديد الصور ومقاطع الفيديو التي تم إنشاؤها باستخدام نموذج توليد الصور الجديد الخاص بها، ميوز إيماج.
واستعرضت الشركة معاينة للأداة المستندة إلى الويب والتي يمكنها التحقق من العلامات المائية غير المرئية المستخدمة في النموذج الجديد.
نظام الختم الرقمي لميتا وقدرته على تحمل التعديلات
أوضحت ميتا في منشور مدونة أن نظام العلامات المائية هذا، والمسمى كونتننت سيل، يظل في مكانه حتى عند قص الصورة أو ضغطها أو تغيير حجمها أو التقاط لقطة شاشة لها.
وأضافت الشركة: نحن نقوم بمعاينة أداة كشف تتيح لك التحقق مما إذا كانت الصورة تحمل علامة كونتننت سيل المائية، مما يوفر طريقة أولية لمساعدتك على فهم أفضل لمسألة ما إذا كانت الصورة قد صُنعت باستخدام ميتا إيه آي.
يبدو أن كونتننت سيل يمثل نهجاً جديداً نوعاً ما بالنسبة لشركة ميتا، وصرحت الشركة لموقع إنجادجيت أن النسخة التي تعد جزءاً من ميوز إيماج هي نسخة ملكية خاصة، على الرغم من أن الشركة قد أصدرت سابقاً نسخاً مفتوحة المصدر من هذه التكنولوجيا، ولا تتضمن نماذج ميتا الجديدة أي علامات مائية مرئية، مثل بعض النسخ السابقة من ميتا إيه آي التي كانت تضيف شعاراً صغيراً في الزاوية اليمنى السفلية.
خطط التوسع المستقبلية وتوليد الفيديو
في الوقت الحالي، تقتصر قدرات الكشف في ميتا إيه آي على الصور التي يتم إنشاؤها أو تعديلها باستخدام ميوز إيماج، على الرغم من أن الشركة قالت إنها تخطط لتوسيع علامات كونتننت سيل المائية لتشمل أيضاً مقاطع الفيديو التي يتم إنشاؤها وتعديلها بواسطة الذكاء الاصطناعي، وتعمل ميتا أيضاً على نموذج منفصل لتوليد الفيديو يسمى ميوز فيديو والذي سيكون متاحاً قريباً.
أوضح موقع إنجادجيت أنه جرب ميزة الكشف الجديدة على صور قام بإنشائها باستخدام ميتا إيه آي، وتمكنت الأداة المستندة إلى الويب من اكتشاف علامة مائية للصور المعدلة والإبداعات المصنوعة بالكامل بواسطة الذكاء الاصطناعي مثل تلك الموضحة أعلاه، كما وجد العلامة المائية في لقطات الشاشة لجمبع صوره.
وأوضحت الشركة في الأسئلة الشائعة أن النتيجة الإيجابية تعني أن الصورة تم إنشاؤها أو تعديلها باستخدام تطبيق ميتا إيه آي أو موقع ميتا دوت إيه آي، والنتيجة السلبية تعني أنه من غير المرجح أن تكون الصورة قد تمت معالجتها باستخدام تطبيق ميتا إيه آي أو موقع ميتا دوت إيه آي.
غياب ميزة الكشف عن التطبيق الرسمي وانتقادات سابقة
ومن المثير للاهتمام أن قدرات الكشف الجديدة لـ ميتا إيه آي لا يبدو أنها جزء من تطبيق ميتا إيه آي حتى الآن، وعندما سألت المساعد الموجود داخل التطبيق عن صورة حددتها أداة الويب على أنها مصنوعة بالذكاء الاصطناعي، أجاب بأنه لا يملك القدرة على التحقق.
وقال: لا يمكنني إخبارك بشكل قاطع ما إذا كانت هذه الصورة المحددة قد صُنعت باستخدام ميتا إيه آي بمجرد النظر إليها، لا تضع ميتا إيه آي علامة مائية تلقائية على الصور، وليس لدي أداة يمكنها اكتشاف نموذج الذكاء الاصطناعي الذي صنع صورة موجودة.
وقد واجهت ميتا سابقاً بعض الانتقادات بشأن كيفية تصنيف وتحديد المواد المنتجة بواسطة الذكاء الاصطناعي في تطبيقاتها.
وأخبر مجلس الإشراف الشركة في وقت سابق من هذا العام أنه قلق من أن ميتا كانت تطبق العلامات المائية الرقمية بشكل غير متسق على محتوى الذكاء الاصطناعي الذي تم إنشاؤه بواسطة أدواتها الخاصة.
قيود الأداة والحد اليومي للاستخدام
ومع ذلك، يبدو أن الميزة الجديدة لا تزال تحتوي على بعض القيود الأخرى، لا يتوافق كونتننت سيل مع سينث آي دي أو معايير سي تو بي إيه، وهما طريقتان راسختان لوضع العلامات المائية تستخدمهما شركات أخرى.
ولم تتمكن الميزة المستندة إلى الويب من تحديد الصور التي تم إنشاؤها أو تعديلها باستخدام إصدارات سابقة من نماذج الذكاء الاصطناعي الخاصة بميتا في اختباراتي.
ويبدو أيضاً، لسبب ما، أن الميزة تخضع لحدود معدل الاستخدام الخاصة بميتا، فبعد تحميل عدد قليل من الأمثلة، سيتم تنبيهك بأنك قد وصلت إلى الحد اليومي لفحوصات التحديد.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
