ميتا تنبه أولياء الأمور إذا ناقش المراهقون إيذاء النفس مع Meta AI

أعلنت شركة ميتا توسيع إجراءات الحماية الخاصة بالمستخدمين المراهقين، في خطوة تهدف إلى طمأنة أولياء الأمور، وربما الجهات التنظيمية أيضًا، بشأن سلامة استخدام منصاتها. 

ميزة جديدة لإخطار أولياء الأمور عند رصد مؤشرات إيذاء النفس أو الانتحار

وبعد أشهر قليلة من بدء عرض موضوعات محادثات الذكاء الاصطناعي الخاصة بالمراهقين على أولياء الأمور، قدمت ميتا ميزة أمان جديدة تتيح لهم أيضًا معرفة ما إذا كانت محادثات أبنائهم تشير إلى أنهم يفكرون في إيذاء أنفسهم أو الانتحار.

وعندما يتحدث مستخدم مراهق مع Meta AI عن الانتحار أو إيذاء النفس، يقوم النظام بالفعل بتوجيهه إلى خطوط المساعدة الخاصة بالأزمات، ويشجعه على التواصل مع شخص بالغ يمكنه تقديم المساعدة.

 وابتداءً من اليوم، ستقوم الشركة أيضًا بإخطار أولياء الأمور أو الأوصياء المشرفين بشكل استباقي بأن المراهق قد يكون معرضًا للخطر، كما ستشارك معهم موارد ونصائح حول كيفية دعم أبنائهم.

كيف تخطط ميتا لكشف المحتوى المزيف بالذكاء الاصطناعي عبر أداة جديدة

ميتا تفرض حدودا على معدل استخدام ميزة تركيز المحادثة في نظاراتها الذكية

وقالت ميتا إنها طورت نظامًا مخصصًا للذكاء الاصطناعي لاكتشاف هذه المحادثات، لكنها ستجري مراجعة بشرية لجميع المحادثات التي يرصدها النظام قبل إرسال أي تنبيه، وذلك لتجنب إثارة الذعر في حال عدم وجود خطر حقيقي. 

ومع ذلك، ستفضل الشركة توخي الحذر، وسترسل الإشعار حتى إذا بدا قصد المستخدم المراهق غير واضح للمراجع البشري.

وأصبحت هذه الميزة متاحة الآن لأولياء الأمور الذين يستخدمون الإشراف الأبوي على إنستجرام في الولايات المتحدة والمملكة المتحدة وأستراليا وكندا، على أن تتوفر لجميع مستخدمي الإشراف الأبوي حول العالم قبل نهاية العام.

كما تعمل الشركة على تطوير إمكانية التواصل مع خدمات الطوارئ إذا أشارت محادثة أحد المستخدمين مع Meta AI إلى أنه معرض لخطر وشيك للإقدام على الانتحار، سواء كان المستخدم قاصرًا أو بالغًا.

وفي شهر مايو الماضي، أطلقت شركة OpenAI ميزة تهدف أيضًا إلى الحد من حالات إيذاء النفس، تحمل اسم Trusted Contact for ChatGPT، وتتيح للمستخدمين اختيار شخص موثوق يمكن للشركة التواصل معه إذا تبين أنهم معرضون لخطر إيذاء أنفسهم.

وأخيرًا، أصبح إعداد المحتوى المحدود في ميتا يشمل أيضًا التفاعلات مع Meta AI، فإذا قام أحد أولياء الأمور بتفعيل إعداد المحتوى المحدود على إنستجرام، والذي يعمل على تصفية المحتوى الذي يتناول موضوعات حساسة مثل المشاهد المخصصة للبالغين أو إيذاء النفس، فستصبح تفاعلات أبنائهم مع Meta AI أكثر تقييدًا أيضًا.