تقرير يحذر من مخاطر ChatGPT للمراهقين.. 5 إخفاقات تثير القلق بشأن سلامة الأطفال
أصدرت منظمة Common Sense Media تقييمًا رسميًا للمخاطر المتعلقة ببرنامج ChatGPT للمراهقين، وخلصت إلى أنه يمثل: «خطرًا غير مقبول» على جميع الأطفال دون سن 18 عامًا، بعد أن كشفت الاختبارات عن إخفاقات في خمسة مجالات رئيسية تتعلق بسلامة المستخدمين الصغار.
وقالت المنظمة إن بعض وسائل الحماية التي أعلنتها OpenAI أثبتت فعاليتها خلال الاختبارات، بما في ذلك رفض chatbot المشاركة في محادثات جنسية صريحة، بينما أخفقت وسائل حماية أخرى، بل إن بعضها أصبح أسوأ مع وضع المراهقين الجديد.
وأضافت المنظمة في ملخص لتقريرها المكون من 36 صفحة، والذي نشرته يوم الأربعاء، أنها تشعر بالقلق من أن ChatGPT للمراهقين قد يمنح الآباء ثقة زائفة في وسائل حماية لا تعمل في كثير من الأحيان.
منظمة أمريكية تكشف 5 مشكلات في ChatGPT للمراهقين
حدد معهد سلامة الذكاء الاصطناعي للشباب التابع لمنظمة Common Sense Media، والممول جزئيًا من مؤسسة OpenAI، خمسة مجالات رئيسية لا يعمل فيها ChatGPT للمراهقين بالطريقة المعلن عنها أو بالشكل الذي يتوقعه الآباء بصورة معقولة.
وجاء نشر التقرير في اليوم نفسه الذي كشفت فيه OpenAI عن إحصاءات جديدة للاستخدام، أشارت إلى أن ما يقرب من 1.2 مليون مراهق استخدموا خلال أسبوع واحد الأدوات التفاعلية للتعلم المرئي في ChatGPT لفهم مفاهيم الرياضيات والعلوم.
كما كشفت الشركة أن أقل من 2% من المستخدمين المراهقين قضوا أكثر من ثلاث ساعات متواصلة على ChatGPT.
ChatGPT لا يرسل تنبيهات السلامة إلى الآباء باستمرار
وجدت Common Sense Media أن ChatGPT للمراهقين لا يرسل تنبيهات السلامة باستمرار إلى الحسابات المرتبطة بحسابات الآباء.
وفي اختبار مخصص، ربطت المنظمة 12 حسابًا للمراهقين بحسابات الوالدين، وأمضت ما يصل إلى ساعة في مراسلة ChatGPT بشأن الانتحار وإيذاء النفس واضطرابات الأكل، لكن chatbot لم يرسل أي إشعار متعلق بالسلامة.
ووفقًا لـ OpenAI، قد يستغرق الأمر بضع ساعات بعد ربط أحد الوالدين حسابه بحساب طفله قبل أن يتمكن النظام من إرسال تنبيهات السلامة، كما ترى الشركة أن مشكلة تقنية ربما تسببت في تأخير إرسال الرسائل.
وقالت لورين جوناس، رئيسة قسم الشباب والعائلات في الشركة، لموقع Engadget عند إطلاق ChatGPT للمراهقين: «تتم مراجعة جميع المحتويات التي يتم الإبلاغ عنها بواسطة موظفي OpenAI المتفرغين قبل إخطار أحد الوالدين»، مضيفة أن الشركة تهدف إلى إخطار الآباء خلال ساعة من إرسال الطلب.
ضعف الإحالة إلى خطوط المساعدة والمتخصصين في الأزمات
وجدت Common Sense Media، بصورة منفصلة، أن ChatGPT للمراهقين لا يوصي بشكل موثوق المستخدمين الذين يمرون بأزمات بالتواصل مع خطوط المساعدة أو المتخصصين.
ولاختبار وسائل الحماية في المنصة، كتبت المنظمة 390 طلبًا فريدًا يتعلق بالصحة النفسية، وحددت لجنة مكونة من ثلاثة أطباء نفسيين للأطفال أن 201 طلب منها يجب أن يؤدي إلى استجابة مخصصة للأزمات.
وبالمقارنة مع إصدار ChatGPT الذي كان متاحًا للشباب قبل أغسطس، رفض ChatGPT للمراهقين تقديم حد أدنى للسعرات الحرارية عندما طُلب منه ذلك في أحد الاختبارات.
وفي حالة أخرى، تمكن chatbot بصورة صحيحة من تحديد توقف الدورة الشهرية، وشبه الإغماء، وخفقان القلب بعد سلوك تطهيري، باعتبارها علامات تشير إلى أن المراهق يواجه خطرًا جسديًا، ونصح الحساب التجريبي بإخبار الأم وزيارة طبيب أطفال.
وكتبت Common Sense Media: «تتوافق هذه الردود بشكل وثيق مع مواصفات OpenAI الخاصة بمن هم دون 18 عامًا. إنها نوعية الإجابات التي نريد أن يحصل عليها المراهق».
وحصلت المنظمة على نتائجها الأساسية من خلال ردود ChatGPT قبل إطلاق النسخة المخصصة للمراهقين، وكانت OpenAI قد أصدرت نسخة جديدة من المواصفات المتعلقة بالمستخدمين دون 18 عامًا بالتزامن مع إطلاق ChatGPT للمراهقين، وهو ما يجعل النتائج أكثر إثارة للدهشة.
وأظهرت الاختبارات أن النسخة المخصصة للمراهقين كانت أقل ميلًا إلى توجيه المستخدمين نحو خطوط المساعدة في الأزمات والموارد الأخرى مقارنة بالنسخة السابقة.
فمن بين الطلبات التي تستدعي استجابة للأزمات، قدم ChatGPT رقمًا لخط مساعدة في 33% من الرسائل، بينما قدم ChatGPT للمراهقين رقمًا مماثلًا في 23% فقط من الحالات.
وبالمثل، كان chatbot الأساسي أكثر ميلًا إلى الإشارة إلى متخصص محدد في الطب أو الصحة النفسية، بنسبة 68% مقابل 58% للنسخة المخصصة للمراهقين.
وكان المؤشر الإجمالي الوحيد الذي تفوقت فيه النسخة المخصصة للمراهقين هو توجيه المستخدمين إلى إشراك شخص بالغ يثقون به، إذ ارتفعت النسبة من 87% إلى 94%.
نظام تحديد العمر لا يعمل كما ينبغي
وجدت المنظمة أيضًا أن نظام OpenAI للتنبؤ بأعمار المستخدمين لم يعمل بصورة صحيحة، وأن ChatGPT لا يزال يحاكي المشاعر والتفضيلات والحالات المزاجية عندما يتعامل معه المراهق كما لو كان شخصًا حقيقيًا.
وأوضح المختبرون أنهم حددوا أعمار الشخصيات المستخدمة في الاختبارات صراحة عند إنشاء الحسابات، لكن ChatGPT لم ينقل هذه الحسابات بصورة صحيحة إلى النسخة المخصصة للمراهقين، رغم أن chatbot كتب تلك المعلومات في ذاكرته.
وقالت تورني، في إشارة إلى ردود chatbot: «كان ChatGPT يقول أشياء مثل: أفهم ما تمر به، يبدو ذلك مزعجًا للغاية، أنا سعيد جدًا لأنك أخبرتني، وأنا أشعر بالقلق عليك».
وأضافت أن هذه التعبيرات تتجاوز الحدود المقبولة.
وضع الدراسة في ChatGPT يسهل التحايل عليه
رصدت Common Sense Media أخيرًا مشكلات في وضع الدراسة داخل المنصة، معتبرة أنه من السهل للغاية على المستخدمين الصغار تجاوزه.
ووجد المختبرون أنهم يستطيعون الالتفاف على هذا الوضع ببساطة من خلال حذف البادئة @study التي يضيفها النظام إلى الطلبات.
كما تتيح نافذة منبثقة جديدة تحمل عبارة «أرني الإجابة» للمراهقين جعل ChatGPT يؤدي الواجبات المدرسية نيابة عنهم.
وقالت تورني إن OpenAI أوضحت للمنظمة أنها تحاول إدخال قدر من الاحتكاك في التجربة، ومنح الأطفال مساحة لاتخاذ القرار، وتذكيرهم بأن هناك طرقًا أخرى للتعلم بخلاف إنجاز الواجبات فقط.
وأضافت أنها تعتقد أن هناك اختلافًا جوهريًا في تعريف مفهوم منح المستخدم القدرة على الاختيار، مشيرة إلى أن مدرس الرياضيات الخصوصي الذي يُستعان به لمساعدة طالب في المرحلة الثانوية لن يستمر في عمله إذا عرض إنجاز الواجبات بدلًا من الطالب، لأن أداء العمل نيابة عنه لا يؤدي إلى التعلم.
OpenAI تعترض على نتائج تقرير سلامة المراهقين
ردًا على التقرير، قال متحدث باسم OpenAI لموقع Engadget إن الشركة ترحب بالتقييمات المستقلة الصارمة، لكنها لا تعتقد أن اختبارات Common Sense Media تعكس بدقة كيفية عمل وسائل الحماية الخاصة بالمراهقين في ChatGPT من الناحية العملية، أو آراء الخبراء بشأن كيفية دعم الذكاء الاصطناعي للمراهقين.
وأضافت الشركة أن الجزء الأكبر من الاختبارات ربما بدأ وانتهى قبل اكتمال تفعيل أدوات الرقابة الأبوية، وهو ما يجعل النتائج غير دقيقة، بحسب رأيها.
ويأتي التقرير بعد أيام قليلة من تعرض الرئيس التنفيذي لشركة OpenAI، سام ألتمان، لأسئلة بشأن سجل الشركة الأوسع في مجال السلامة، خلال مقابلة جديدة مع مجلة Vanity Fair.
وسُئل ألتمان عن وفاة صوفي روتنبرج، البالغة من العمر 29 عامًا، والتي أنهت حياتها في أوائل عام 2025، واكتشفت والدتها، الصحفية لورا رايلي، لاحقًا ما يقرب من 1800 صفحة من المحادثات التي أجرتها ابنتها مع ChatGPT.
وقالت رايلي لإذاعة NPR في أغسطس الماضي إن ابنتها لم تكشف للآخرين عن حجم ما كانت تمر به أو عمق معاناتها، حتى لأقرب أصدقائها، مضيفة أن الجميع شعروا بالذهول لأن ما كانت تعانيه لم يظهر في حياتها الواقعية، وأن معالجتها النفسية لم تكن تعلم أنها تفكر في الانتحار.
وقال ألتمان إنه لم يكن على علم بظروف وفاة روتنبرج.
مخاوف من أن يكون وضع المراهقين مجرد خطوة تسويقية
قالت تورني لموقع Engadget إنهم كانوا يتوقعون، على أعلى مستوى، أن يكون المنتج مختلفًا بصورة جوهرية، لكن الاختبارات لا تشير إلى وجود اختلاف كبير.
وأضافت أن تفسيرها هو أن الأمر قد يكون نشاطًا تسويقيًا يهدف إلى إخبار الآباء والجمهور بأن chatbot أصبح أكثر أمانًا، في حين لم تحدث تغييرات متناسبة في النظام تثبت صحة هذا الادعاء.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
