أوبن إيه آي تطرح وضع أكثر صرامة للمراهقين في ChatGPT
بدأت شركة أوبن إيه آي طرح تجربة ChatGPT للمراهقين، والتي تتضمن إجراءات أكثر صرامة للسلامة، مع محاولة الشركة تسجيل جميع المستخدمين الأصغر سنًا تلقائيًا في التجربة الجديدة.
وذكرت أوبن إيه آي في سبتمبر الماضي، بعد رفع دعوى قضائية ضدها بدعوى تمكين وفاة المراهق آدم راين البالغ من العمر 16 عامًا بشكل مأساوي، أنها تعمل على نظام يمكنه تحديد المراهقين تلقائيًا وتقييد استخدامهم لـChatGPT.
وبعد مرور عام تقريبًا، بدأت الشركة تطبيق هذا النظام ضمن تجربة مستخدم جديدة تطلق عليها ChatGPT للمراهقين.
وقالت لورين جوناس، رئيسة قسم الشباب والعائلات في أوبن إيه آي: "لا يحتاج المراهق إلى إنشاء حساب جديد أو تغيير أي شيء؛ إذا توقعنا أنك أقل من 18 عامًا، أو أخبرتنا بذلك، فستصبح هذه تجربتك الافتراضية".
ChatGPT للمراهقين يركز على التعلم والسلامة
تعتمد تجربة ChatGPT للمراهقين بشكل أساسي على محورين هما التعلم والسلامة.
وفيما يتعلق بالتعلم، تجمع التجربة مجموعة من الميزات التي أطلقتها أوبن إيه آي خلال العام الماضي لجعل ChatGPT أداة تعليمية أفضل.
ومن بين هذه الميزات وضع الدراسة Study Mode، الذي أعلنت عنه أوبن إيه آي لأول مرة الصيف الماضي.
ويعتمد وضع الدراسة على أسلوب سقراطي في المحادثات، فبدلًا من تقديم إجابة مباشرة عن السؤال، يحاول روبوت الدردشة توجيه المستخدم للوصول إلى الحل بنفسه.
أوبن إيه آي تشجع المراهقين على استخدام وضع الدراسة
قالت جوناس إن ChatGPT للمراهقين لن يعمل افتراضيًا باستخدام وضع الدراسة، لكن أوبن إيه آي تقدم مجموعة من الميزات التي تشجع المستخدمين الأصغر سنًا على استخدام الأداة.
وتشمل هذه الميزات الاقتراحات التمهيدية في ChatGPT، والتي يستخدمها المراهقون بالفعل بكثافة، وفقًا لجوناس.
وقالت: "ستتغير هذه بمرور الوقت، لكنها ستكون دائمًا موجهة نحو التعلم للمراهقين".
وتقدم أوبن إيه آي أيضًا ميزة جديدة باسم Study Hours، تعمل تلقائيًا على تشغيل وضع الدراسة خلال أوقات محددة من اليوم.
ويمكن للمراهقين تحديد هذه الأوقات بأنفسهم، كما يمكن للوالدين اختيارها من خلال حساب مرتبط.
وحتى في حالة عدم تفعيل Study Hours، سيتمكن ChatGPT الآن من التعرف على محاولة المستخدم الأصغر سنًا تجاوز أداء واجباته المنزلية، ومحاولة توجيهه إلى وضع الدراسة.
تحسين قدرات ChatGPT التعليمية
قالت جوناس إن أوبن إيه آي اختبرت وضع الدراسة في عدد من التجارب العشوائية الخاضعة للرقابة، وإنها تشهد تحسنًا إيجابيًا في الأداء.
ورفضت الكشف عن أرقام محددة، لكنها أوضحت أن نتائج هذه التجارب تساعد في تشكيل النهج الأوسع الذي تتبعه أوبن إيه آي في مجال التعلم.
وعملت الشركة أيضًا على تحسين الأداة في الخلفية، ومن بين المجالات التي شهدت تطورًا قدرة الميزة على إنشاء صور توضيحية تساعد في شرح المفاهيم.
وأصبح ChatGPT قادرًا على إنشاء هذه العناصر المرئية لأول مرة في مارس، وكان يستطيع عند إطلاق الميزة إنشاء صور مرتبطة بأكثر من 70 موضوعًا.
واليوم تقول الشركة إن العدد تجاوز 300 موضوع، وتشمل الموضوعات التكاملات والانقسام المتساوي ومراحل القمر.
قيود أكثر صرامة على العلاقة بين المراهقين وChatGPT
وعلى مستوى السلامة، تعمل أوبن إيه آي على اتخاذ إجراءات إضافية لمنع المستخدمين الأصغر سنًا من التعامل مع ChatGPT وكأنه شخص حقيقي.
وقالت جوناس: "نضيف قيودًا أكثر صرامة على الحدود العاطفية: يجب ألا يطلق النموذج على نفسه اسم صديق، أو يوحي بأن لديه مشاعر شخصية، أو يشير إلى امتلاكه وعيًا".
وسيشاهد المستخدمون الأصغر سنًا هذه التغييرات بعدة طرق مختلفة.
فعلى سبيل المثال، ستؤكد تذكيرات أخذ فترات الراحة المدمجة في روبوت الدردشة أن ChatGPT عبارة عن ذكاء اصطناعي ولا يحتاج المراهق إلى الرد عليه فورًا، كما ستظهر هذه التذكيرات بوتيرة أكبر.
ويمكن للمراهقين ووالديهم بشكل منفصل تحديد ساعات هدوء لا يكون خلالها ChatGPT متاحًا.
وتشمل هذه السياسة أيضًا خيارات التخصيص الجديدة التي صممتها أوبن إيه آي خصيصًا لتجربة ChatGPT للمراهقين.
وتقول جوناس إن هذه الخيارات تسمح للمراهقين بتخصيص التجربة، دون طمس الخط الفاصل بينها وبين أداة مفيدة وأي شيء يشبه علاقة بشرية، وتشمل أشياء مثل خلفيات الشاشة.
قالت أوبن إيه آي الشهر الماضي إنها ستبدأ في إخطار الآباء الذين لديهم حسابات مراهقين مرتبطة عندما يتم منع أطفالهم من استخدام ChatGPT بسبب انتهاك سياسات الشركة المتعلقة بالتهديدات بالعنف.
ومع إطلاق التجربة الجديدة، توسع الشركة هذه الجهود لتشمل الإشعارات المتعلقة باضطرابات الأكل.
وبدلًا من تقديم أمثلة محددة حول أنواع المحادثات المتعلقة باضطرابات الأكل التي قد تؤدي إلى إرسال إشعار أمان، وصفت أوبن إيه آي التوسع بأنه جزء من جهود الحماية الأوسع نطاقًا، موضحة أن أي محادثة تشير إلى "مخاوف خطيرة بشأن إيذاء النفس" يمكن أن تؤدي إلى إرسال تنبيه.
وقالت جوناس: "نخطر الآباء عبر الرسائل النصية وداخل التطبيق والبريد الإلكتروني، تتم مراجعة جميع المحتويات التي يتم الإبلاغ عنها من جانب موظفي أوبن إيه آي المتفرغين قبل إخطار الوالد، ونهدف إلى إخطار الآباء خلال ساعة من إرسال الطلب".
وأضافت أن الشركة تعمل باستمرار على تحسين الطريقة التي تكتشف بها نماذجها معاناة المراهق، حتى يحصل على الدعم والتجربة المناسبين، مشيرة إلى أن توسيع إشعارات السلامة الأبوية إلى فئات جديدة يأتي ضمن هذا الجهد.
لم تتح فرصة سؤال جوناس عن مدى فعالية نظام التحقق من العمر الخاص بأوبن إيه آي خلال الاختبارات.
ولا يوجد نظام من هذا النوع مثالي، وخلال الأشهر الأخيرة واجهت العديد من المنصات، ومنها Discord، صعوبات مع المراهقين الذين تمكنوا من إيجاد طرق لتجاوز إجراءات الحماية الخاصة بها.
ومن المتوقع أن يحاول المستخدمون فعل الشيء نفسه مع نظام ChatGPT للمراهقين.
ومع الجدل المستمر حول استخدام المراهقين لروبوتات الدردشة المدعومة بالذكاء الاصطناعي، فإن هذا أمر لا تستطيع أوبن إيه آي تحمل السماح بحدوثه بسهولة.
وأقرت جوناس بأن ChatGPT للمراهقين يمثل مجرد بداية لما تحتاج الشركة إلى القيام به لحماية المراهقين.
وقالت: "عمل السلامة لا ينتهي أبدًا؛ إنه شيء نعمل عليه على مدار الساعة وطوال أيام السنة، ونتعلم ونتحسن باستمرار".
وأضافت: "يجب أن يتمكن المراهقون من الوصول إلى هذه التكنولوجيا، ولكن بطريقة آمنة، وهذا الوصول يخلق فرصة حقيقية".
طرح ChatGPT للمراهقين عالميًا
بدأت أوبن إيه آي طرح ChatGPT للمراهقين عالميًا اعتبارًا من اليوم، وتتوقع الانتهاء من عملية الطرح في وقت ما خلال الأسبوعين المقبلين.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
