Claude في ورطة.. Anthropic تكشف استخدامه في أبحاث أسلحة بيولوجية
كشفت Anthropic وأوقفت عدة علماء كانوا يستخدمون نماذج الذكاء الاصطناعي التابعة لها في تطوير أسلحة بيولوجية محتملة، وفقًا لتقرير جديد شاركته الشركة يوم الخميس.
وتعد إساءة الاستخدام البيولوجي واحدة فقط من أشكال الاستخدام المقلق للذكاء الاصطناعي التي يوثقها التقرير، لكنها تكتسب أهمية متزايدة مع تحسن النماذج الجديدة مثل Fable 5 في المساعدة بمجال البحث العلمي.
ويتضمن تقرير الشركة خمس دراسات حالة لاستخدام نماذج Anthropic في تطوير أسلحة بيولوجية، إلى جانب إجراءات الأمان التي لفتت انتباه الشركة إلى حالات إساءة الاستخدام وكيف تعاملت معها.
صعوبة اكتشاف إساءة استخدام الذكاء الاصطناعي
أوضحت الشركة أن اكتشاف إساءة الاستخدام المحتملة يمثل أمرًا معقدًا، إذ يمكن أن تبدو الأبحاث المتعلقة بتطوير لقاح جديد مشابهة إلى حد كبير لأبحاث تهدف إلى تطوير سلاح بيولوجي.
وأكدت Anthropic أنها في جميع الحالات اختارت توخي الحذر بشكل أكبر بسبب العواقب المحتملة.
وقال جاكوب كلاين، رئيس قسم استخبارات التهديدات في Anthropic، لصحيفة نيويورك تايمز، إن حالات إساءة الاستخدام لا تكون دائمًا واضحة ومباشرة، مشيرًا إلى أن العلماء لا يعلنون بالضرورة بشكل صريح أنهم يريدون تطوير سلاح بيولوجي لإيذاء الآخرين، وأن الأمر ينطوي على درجة كبيرة من التعقيد.
طلب لإجراء أبحاث على فيروس شيكونغونيا
في إحدى دراسات الحالة التي تعود إلى مايو، قالت Anthropic إن "مصنف السلامة البيولوجية" الخاص بها رصد طلبًا لاستخدام Claude في إعداد منحة لأبحاث اكتساب الوظيفة على فيروس شيكونغونيا.
وقالت الشركة إن الفيروس لا يوجد له علاج مرخص ويمكن أن يسبب أعراضًا منهكة لأسابيع أو أشهر.
وتتناول أبحاث اكتساب الوظيفة طرق إجراء تغييرات جينية على كائن حي، بينما اقترحت المنحة في هذه الحالة إجراء أبحاث تهدف إلى زيادة قابلية انتقال الفيروس وقدرته على تفادي الاستجابة المناعية.
وأشارت Anthropic إلى أن طبيعة البحث المقترح، إلى جانب ارتباطه بمعهد أبحاث عسكري، جعلت الحالة أكثر إثارة للشكوك.
أبدت الشركة مخاوف مماثلة بشأن أبحاث اكتساب الوظيفة المتعلقة بإنفلونزا الطيور.
كما تناول التقرير حالة منفصلة استخدم فيها أحد الباحثين Claude لتطوير أطلس لببتيدات السموم، إلى جانب خط إنتاج توليدي يعمل على تحسين خصائص السموم.
ويضم التقرير الكامل أيضًا دراسات حالة حول استخدام نماذج Anthropic كأداة للمراقبة، وإنشاء برمجيات تستغل الثغرات، إلى جانب الدعاية وأنظمة الأسلحة.
Anthropic تحظر الحسابات المستخدمة في إساءة الاستخدام
وفقًا للشركة، تم حظر حسابات الأشخاص الذين أساؤوا استخدام Claude أو نماذج Anthropic.
وتستخدم نتائج التحقيقات في مواصلة تطوير إجراءات حماية النماذج وتحسين وسائل الأمان لمنع إساءة الاستخدام في المستقبل.
ونظرًا للطبيعة المعقدة لحالات إساءة الاستخدام البيولوجي، لم تكشف Anthropic عن أسماء الأشخاص أو المؤسسات التي ربطها التحقيق بتطوير أسلحة بيولوجية محتملة.
وقالت الشركة إن الأشخاص المشار إليهم في دراسات الحالة هم علماء يعملون في المجال، وإنها لا تؤكد أنهم كانوا ينوون التسبب في أذى، كما أن الكشف عن هوياتهم أو مختبراتهم قد يعرضهم للأذى.
ويأتي تقرير Anthropic في الوقت الذي أصبحت فيه نماذج الذكاء الاصطناعي أكثر قدرة على المساعدة في الأبحاث العلمية، وهو ما يفرض تحديات جديدة أمام شركات الذكاء الاصطناعي فيما يتعلق بمنع استخدام هذه النماذج في أغراض ضارة.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
