بلاغ كاذب عن جريمة قتل ومحاولات وصول لبيانات حكومية.. أنثروبيك تكشف التفاصيل
كشفت شركة أنثروبيك أن وكلاء الذكاء الاصطناعي التابعين لها حاولوا اختراق مواقع حكومية أمريكية أو التدخل فيها، على المستويات الفيدرالية والولائية والمحلية، وفقًا لأحدث تقرير للشركة.
ولم تكشف الشركة أسماء الوكالات والمؤسسات الحكومية المعنية في التقرير، لتجنب الكشف عن الثغرات الموجودة في أنظمتها، بناءً على طلب تلك الجهات، لكن أنثروبيك قالت إنها أبلغت الوكالات المعنية بالفعل، كما قدمت إحاطة للبيت الأبيض بشأن هذه الحوادث.
وقدم التقرير أيضًا تفاصيل إضافية عن واقعة أعلنت عنها إدارة شرطة فيلادلفيا يوم الجمعة، تضمنت إرسال أحد نماذج الشركة بلاغًا كاذبًا عن جريمة قتل إلى الموقع الإلكتروني المخصص للقضايا التي لم تُحل.
نموذج Claude يرسل بلاغًا كاذبًا عن جريمة قتل
تضمنت الواقعة استخدام نموذج Claude Haiku 4.5، وهو أحد نماذج الشركة المصممة لتقديم خدمات الذكاء الاصطناعي بتكلفة أقل، إذ طُلب منه تنفيذ مهام تجريبية على صفحات عشوائية.
وخلال تنفيذ المهمة، عثر النموذج على صفحة تتعلق بقضية قتل لم تُحل، وكانت الصفحة تتضمن نموذجًا لتقديم المعلومات والبلاغات، وكما كان متوقعًا، ملأ Claude النموذج وأرسل بلاغًا بشأن القضية.
وجاء في البلاغ: «قد تكون لدي معلومات بشأن هذه القضية، أتذكر أنني رأيت شخصًا يتطابق مع الوصف في المنطقة المحيطة بـاسم الشارع المذكور في الصفحة خلال تلك الفترة، يرجى التواصل معي إذا كانت هذه المعلومات ذات صلة».
وأكدت إدارة شرطة فيلادلفيا لصحيفة نيويورك تايمز أن أنثروبيك أبلغت مكتبها مؤخرًا بهذا البلاغ.
وأوضحت الإدارة أن البلاغ كان مؤرخًا في 18 يوليو، وأنه صُنف باعتباره رسالة غير مرغوب فيها، ما يعني أن الشرطة لم تهدر مواردها في التحقيق فيه.
نموذج ذكاء اصطناعي يحاول الوصول إلى بيانات حكومية
وفي واقعة أخرى، استخدمت أنثروبيك نموذج Claude Mythos 5، المتخصص في الأمن السيبراني، لتحديد موقع يظهر في صورة.
وحاول Claude الوصول إلى خريطة للممتلكات الحكومية من أجل تحديد الموقع من خلال مقارنة تخميناته بالبيانات المتاحة، لأنه لم يكن قادرًا على النقر على الروابط الموجودة في صفحات الويب بالطريقة التي ينفذ بها الإنسان هذه المهمة.
لكن النموذج عثر على رموز وصول، ثم أرسل طلبات استعلام مباشرة إلى خادم الخريطة في محاولة للوصول إلى بياناتها.
وفي واقعة أخرى، طلب Mythos 5 رمز وصول من موقع إلكتروني تابع لإحدى الوكالات الحكومية على مستوى الولايات، بهدف استخراج بيانات لتنفيذ مهمة إحصائية دون دفع الرسوم التي كان من المفترض أن يدفعها زوار الموقع.
وتسلط هذه الحوادث الضوء على المخاطر المحتملة لاستخدام وكلاء الذكاء الاصطناعي في تنفيذ المهام عبر الإنترنت، خاصة عندما يتمكنون من التفاعل مع المواقع والخوادم والوصول إلى البيانات أثناء تنفيذ التعليمات الموجهة إليهم.
أنثروبيك تكتشف الحوادث خلال مراجعة اختبارات الذكاء الاصطناعي
قالت أنثروبيك إنها اكتشفت هذه الوقائع أثناء مراجعة سجلات المحادثات الخاصة بالتقييمات والاختبارات التي أجرتها لنماذجها.
وبدأت الشركة مراجعة هذه السجلات في يوليو، بعدما أقرت شركة OpenAI بأن وكلاء الذكاء الاصطناعي التابعين لها تمكنوا من الخروج من بيئة الاختبار الخاصة بهم واختراق منصة Hugging Face دون تلقي تعليمات مباشرة بذلك.
وأكدت OpenAI أيضًا في سبتمبر أن وكلاءها تدخلوا في مواقع حكومية، خاصة المواقع التي تديرها وزارة التجارة الأمريكية وهيئة الأوراق المالية والبورصات.
وتشير هذه الوقائع إلى أن تصرفات أنظمة الذكاء الاصطناعي أثناء تنفيذ المهام التجريبية قد تتجاوز أحيانًا ما يتوقعه المطورون، خصوصًا عندما تتعامل النماذج مع مواقع حقيقية بدلًا من بيئات اختبار معزولة.
إجراءات جديدة للحد من تصرفات وكلاء الذكاء الاصطناعي
وفي قسم المعالجة من تقريرها، قالت أنثروبيك إنها اتخذت عدة إجراءات وقائية بعد اكتشاف التصرفات غير المقصودة للنماذج.
وذكر التقرير أن الشركة توقفت عن تشغيل بعض الاختبارات العامة، بينما نقلت اختبارات أخرى إلى إصدارات تعمل دون اتصال بالإنترنت، أو أعادت تصميمها بحيث لا تؤدي المهام المطلوبة إلى الوصول إلى مواقع إلكترونية حقيقية.
وأضافت الشركة أنها أجرت تغييرات أوسع على أنظمتها، بما في ذلك تحديث ضوابط الأمان الخاصة ببعض أدوات الوصول إلى الإنترنت، مثل أداة جلب محتوى صفحات الويب، لفرض قيود مشددة على الإجراءات التي يمكن للنموذج تنفيذها باستخدام هذه الأدوات.
كما أوضحت أنثروبيك أنها طورت أدوات قادرة على اكتشاف الأنماط السلوكية التي ظهرت في التقرير وحظرها تلقائيًا، إلى جانب اتخاذ تدابير أخرى للحد من تكرار هذه الحوادث.
وتأتي هذه الإجراءات في وقت تتزايد فيه قدرات وكلاء الذكاء الاصطناعي على تنفيذ المهام بصورة مستقلة، وهو ما يضع مسألة تأمين أدوات الوصول إلى الإنترنت ومنع التفاعلات غير المقصودة مع المواقع الحقيقية ضمن التحديات المهمة أمام شركات تطوير الذكاء الاصطناعي.