OpenAI تشدد قيود ChatGPT على أسئلة المراهقين عن الأسلحة
أعلنت شركة OpenAI تشديد القيود المفروضة على المعلومات المتعلقة بالأسلحة التي يمكن للمراهقين الحصول عليها من خلال روبوت الذكاء الاصطناعي ChatGPT، مؤكدة أن هذه القيود ستُطبق حتى إذا بدا السؤال المطروح غير ضار أو لا يحمل أي نية واضحة لاستخدام المعلومات في أعمال عنف.
وقالت الشركة، في أحدث منشوراتها، إن هذه الخطوة تأتي ضمن جهودها لتعزيز إجراءات السلامة والحد من احتمالات إساءة استخدام المعلومات التي يقدمها الذكاء الاصطناعي، خاصة بين المستخدمين من الفئات العمرية الصغيرة.
OpenAI تشدد ضوابط الأسلحة في ChatGPT
وأوضحت OpenAI أنها تمتلك بالفعل سياسات تمنع ChatGPT من مساعدة المستخدمين على تنفيذ أعمال عنف، أو تمكين المراهقين من الحصول على الأسلحة، لكنها قررت اتخاذ إجراءات إضافية للحد من هذه المخاطر.
وأضافت الشركة أنها ستعمل على تقييد المعلومات العملية المتعلقة بالأسلحة وأنظمة الأمن، والتي يمكن إساءة استخدامها لتسهيل ارتكاب أعمال عنف، حتى في الحالات التي لا تظهر فيها أي مؤشرات على وجود نية عدوانية لدى المستخدم.
وتستهدف هذه الإجراءات الحد من إمكانية وصول المراهقين إلى تفاصيل أو معلومات تقنية قد تساعد على استخدام الأسلحة بصورة غير آمنة، أو استغلال أنظمة الحماية والأمن في تنفيذ أعمال ضارة.
ChatGPT يواصل تقديم الدعم للمراهقين
وفي المقابل، أكدت OpenAI أن القيود الجديدة لن تمنع المراهقين من استخدام ChatGPT للحصول على المساعدة في منع العنف أو تهدئة المواقف التي قد تتطور إلى أعمال عنف.
كما سيظل بإمكانهم الاستعانة بالتطبيق للحصول على الدعم والتوجيه، والتواصل مع شخص بالغ موثوق به عند مواجهة مواقف صعبة أو تهديدات تتعلق بالسلامة الشخصية.
ولم تقتصر التغييرات على حسابات المراهقين فقط، إذ أشارت الشركة إلى أنها تعمل على تعزيز حدود السياسات الأمنية المطبقة على جميع المستخدمين، خصوصًا عند طرح أسئلة تتعلق بإعادة بناء تفاصيل الهجمات الجماعية التي وقعت في الماضي.
وتشمل هذه القيود طلبات الحصول على تفاصيل الأسلحة والمعدات التي استُخدمت في تلك الهجمات، والطرق التي جرى من خلالها الحصول عليها، إلى جانب المقارنات التفصيلية المتعلقة بحجم الأضرار التي قد تسهم في زيادة شهرة منفذي الهجمات أو تضخيم تأثير جرائمهم.
وتأتي الإجراءات الإضافية بالتزامن مع أدوات الرقابة الأبوية التي أطلقتها OpenAI العام الماضي، والتي تتيح إرسال إشعارات إلى أولياء الأمور في حال انتهاك الحسابات المرتبطة بالمراهقين لسياسات ChatGPT المتعلقة بالتهديدات العنيفة أو تنفيذ أعمال عنف.
وبموجب هذه الإجراءات، يمكن للآباء تلقي تنبيهات عندما يرصد النظام سلوكًا يخالف قواعد السلامة المرتبطة باستخدام التطبيق، بما يعزز قدرتهم على متابعة تفاعل أبنائهم مع أدوات الذكاء الاصطناعي.
وتأتي هذه الخطوات بعد تعرض OpenAI العام الماضي لدعوى قضائية تتعلق بالوفاة نتيجة الإهمال، وكذلك عقب اعتذار الرئيس التنفيذي للشركة، سام ألتمان، علنًا عن عدم إبلاغ الشرطة بسجلات محادثات مثيرة للقلق، ارتبطت بحادث إطلاق النار الذي وقع في منطقة تامبلر ريدج في وقت سابق من العام الجاري.
وفي إطار خططها لتعزيز الشفافية بشأن إجراءات الأمان، أعلنت OpenAI أنها ستنشر أول تقرير لها عن سلامة المجتمع في أوائل عام 2027.
ومن المقرر أن تتبع هذا التقرير تحديثات دورية تصدر كل ستة أشهر، بهدف تقديم معلومات حول جهود الشركة في التعامل مع المخاطر المرتبطة باستخدام تقنيات الذكاء الاصطناعي، والإجراءات التي تتخذها لحماية المستخدمين، خاصة المراهقين.
وتعكس القيود الجديدة توجه OpenAI نحو تشديد الرقابة على نوعية المعلومات التي يقدمها ChatGPT، مع التركيز على منع إساءة استخدام قدرات الذكاء الاصطناعي في المجالات التي قد تشكل تهديدًا لسلامة الأفراد والمجتمعات.