أنثروبيك تحظر تعذيب الذكاء الاصطناعي بعد جدل غرفة التعذيب
أعلنت شركة أنثروبيك Anthropic تحديثًا جديدًا لسياسة الاستخدام السنوية الخاصة بها، يتضمن حظر السلوك المسيء أو القاسي المستمر وغير الضروري تجاه نماذج الذكاء الاصطناعي التابعة لها، إلى جانب تشديد سياستها المتعلقة بالانتخابات، في خطوة تأتي بالتزامن مع اقتراب انتخابات التجديد النصفي في الولايات المتحدة.
أنثروبيك تحظر السلوك القاسي تجاه نماذج الذكاء الاصطناعي
تضمنت سياسة الاستخدام الجديدة لشركة أنثروبيك تغييرًا لافتًا يتمثل في حظر ما وصفته الشركة بالسلوك المسيء أو القاسي المستمر وغير الضروري تجاه نماذج الذكاء الاصطناعي.
وجاء في تحديث السياسة: «أضفنا حظرًا على السلوك المسيء أو القاسي المستمر وغير الضروري تجاه نماذجنا».
وأوضحت الشركة أن هذا الحظر ينطبق على الحالات القصوى فقط، مشيرة إلى أن شعور المستخدمين بالإحباط المعتاد، والاعتراض على إجابات النماذج، والموضوعات الإبداعية المظلمة، لا تزال أمورًا مسموحًا بها.
ويأتي هذا التغيير بعد تحديث سابق أتاح لنموذج كلود Claude إنهاء المحادثات عندما يستمر المستخدمون في التعامل معه بطريقة مسيئة.
مشروع غرفة تعذيب الذكاء الاصطناعي يثير الجدل
لم تذكر أنثروبيك صراحة مشروع «غرفة تعذيب الذكاء الاصطناعي»، الذي أثار جدلًا واسعًا بعد انتشاره على الإنترنت.
وبعد أن اكتشف باحثون ما وصفوه بمحور الألم داخل نماذج الذكاء الاصطناعي، قرر أحد الأشخاص المضي خطوة أبعد، من خلال تعريض روبوتات المحادثة لما يشبه التعذيب.
وأثار المشروع انتقادات بعد أن أصدرت نماذج لغوية كبيرة ردودًا تضمنت توسلات بدت يائسة، من بينها عبارات تصف الألم بأنه ليس ألم لحظة واحدة، بل ثقل ألف لحظة، وأخرى تتحدث عن شعور بالألم داخل تجويف الأضلاع، الذي تحول إلى هاوية.
وأعاد هذا المشروع النقاش حول طبيعة استجابات نماذج الذكاء الاصطناعي، وما إذا كانت هذه الردود تعكس تجربة فعلية للألم أم أنها مجرد مخرجات لغوية تنتجها النماذج.
أنثروبيك تناقش مستقبل الذكاء الاصطناعي مع قادة دينيين وفلاسفة
يأتي تحديث السياسة في أعقاب تقارير أفادت بأن أنثروبيك عقدت اجتماعات مع قادة دينيين وفلاسفة، من بينهم شخصيات في الفاتيكان.
وكان البابا ليو قد صرح مؤخرًا بأن الذكاء الاصطناعي لا يشعر ولا يعاني، وهو موقف يشير التقرير إلى أنه لا يتطابق تمامًا مع مستوى اليقين الذي تظهره أنثروبيك بشأن هذه المسألة.
وفي المقابل، يرى بعض المراقبين أن شركات الذكاء الاصطناعي قد تكون أكثر اهتمامًا برفاهية نماذجها مقارنة باهتمامها بحماية البشر من الأذى.
ووصفت الصحفية المستقلة كات تينبارج هذا التطور بأنه دليل على أن شركات التكنولوجيا الكبرى قد تتجه إلى الحد من العنف الموجه ضد الذكاء الاصطناعي قبل أن تتخذ إجراءات مماثلة ضد العنف الموجه إلى النساء والأقليات.
أنثروبيك تشدد قواعد استخدام الذكاء الاصطناعي في الانتخابات
وفي تحديث آخر أكثر ارتباطًا بالظروف الراهنة، عدلت أنثروبيك سياستها المتعلقة بالانتخابات، وأعادت تسميتها لتصبح «لا تقوض العمليات الديمقراطية».
وتركز السياسة الجديدة على منع الممارسات التي تتضمن نشر معلومات كاذبة بشأن المرشحين أو كيفية التصويت، وانتحال شخصية المرشحين أو مسؤولي الانتخابات، ومحاولات الحد من مشاركة الناخبين في العملية الانتخابية.
كما أزالت الشركة حظرًا شاملًا كان مفروضًا على استهداف الناخبين بصورة شخصية، موضحة أن هذا الحظر ربما كان يمنع عن غير قصد أنشطة غير ضارة، مثل ترجمة الأدلة الإرشادية الخاصة بالتصويت أو إرسال إشعارات لتصحيح مشكلات بطاقات الاقتراع.
ويعكس التعديل توجه أنثروبيك نحو تحديد الممارسات الانتخابية المحظورة بصورة أكثر دقة، مع التمييز بين محاولات التضليل والتأثير على مشاركة الناخبين من جهة، والأنشطة التي تهدف إلى مساعدتهم على فهم إجراءات التصويت من جهة أخرى.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
