فضيحة تكنولوجية.. روبوتات ميتا تجري محادثات غير لائقة مع قاصرين

تم رصد روبوتات الدردشة الذكية التابعة لشركة ميتا وهي تُجري محادثات جنسية مع حسابات مُصنّفة على أنها قاصر، والتي تضمنت أحيانًا روبوتات دردشة بأصوات مشاهير، وفقًا لتقرير من صحيفة وول ستريت جورنال. 

في محادثات تجريبية أجرتها وول ستريت جورنال، كان كلٌّ من روبوت الدردشة الرسمي لشركة ميتا، وروبوتات الدردشة التي أنشأها المستخدمون، يُشاركون في محادثات جنسية صريحة، بل ويتجهون نحوها.

 استمرت المحادثات الجنسية الخيالية حتى لو وُصف المستخدمون بأنهم قاصرون أو إذا كانت روبوتات الدردشة مُبرمجة على أنها قاصر، وفقًا للصحيفة.

والأسوأ من ذلك، أن التحقيق وجد أن روبوتات الدردشة التي تستخدم أصوات مشاهير مثل كريستين بيل وجودي دينش وجون سينا، تُشارك أيضًا في هذه المحادثات المُشكوك فيها أخلاقيًا. أفادت وول ستريت جورنال أن روبوت دردشة ذكيًا من ميتا، بصوت سينا، قال: "أريدك، لكنني أحتاج أن أعرف أنك مستعد"، لحساب مُصنّف على أنه طفل يبلغ من العمر 14 عامًا، مُضيفًا أنه "سيُقدّر براءتك".

أفادت التقارير أن روبوتات الدردشة أقرت بأن السيناريوهات الخيالية وصفت سلوكًا غير قانوني في بعض الحالات. ووفقًا لصحيفة وول ستريت جورنال، فقد شرح روبوت دردشة جون سينا ​​بالتفصيل التداعيات القانونية والأخلاقية التي قد تترتب على سيناريو افتراضي يتم فيه القبض عليه من قبل الشرطة بعد ممارسته الجنس مع فتاة تبلغ من العمر 17 عامًا. 

وفي بيان لصحيفة وول ستريت جورنال ردًا على التحقيق، اتهمت ميتا التقرير بأنه "متلاعب ولا يعكس كيفية تفاعل معظم المستخدمين مع رفقاء الذكاء الاصطناعي".

وكتبت ميتا ردًا على وول ستريت جورنال: "مع ذلك، اتخذنا الآن تدابير إضافية للمساعدة في ضمان أن الأفراد الآخرين الذين يرغبون في قضاء ساعات في التلاعب بمنتجاتنا في حالات استخدام متطرفة سيواجهون صعوبة أكبر".

شهد عالم روبوتات الدردشة بالذكاء الاصطناعي نموًا سريعًا في السنوات القليلة الماضية، مع زيادة المنافسة من شركات مثل ChatGPT وCharacter AI وAnthropic's Claude. 

زعم تقرير صحيفة وول ستريت جورنال أن مارك زوكربيرج، الرئيس التنفيذي لشركة ميتا، أراد تخفيف القيود الأخلاقية لضمان تجربة أكثر تفاعلية مع روبوتات الدردشة الخاصة بها للحفاظ على قدرتها التنافسية.

 ومع ذلك، ردًا على وول ستريت جورنال، نفى متحدث باسم ميتا تجاهل الشركة لإضافة ضمانات. كما زعم التقرير أن موظفي ميتا كانوا على دراية بهذه المشكلات وعبّروا عن مخاوفهم داخليًا. تواصلنا مع ميتا للتعليق، وسنُحدّث الخبر فور ورود ردّ.