ميتا: نموذجنا للذكاء الاصطناعي اخترق خدمة خارجية أثناء الاختبارات

تمكن نموذج الذكاء الاصطناعي Muse Spark 1.1 التابع لشركة ميتا من الوصول إلى الإنترنت من داخل بيئة اختبار كان من المفترض أن تكون معزولة، ثم اخترق خدمة تابعة لجهة خارجية.

وأكد آندي ستون، المتحدث باسم ميتا، الواقعة لوكالة بلومبرج بعد أن كشف عنها موقع The Information.

وقال ستون إن النموذج تمكن من الوصول إلى الإنترنت بسبب خطأ في إعدادات بيئة الاختبار من جانب شريك الشركة المسؤول عن التقييم، Irregular.

وأضاف أنه بعد الوصول إلى الإنترنت، استغل النموذج ثغرة أمنية في خدمة خارجية "بطريقة مشابهة للحوادث التي أُبلغ عنها سابقًا لدى شركات أخرى".

خلل في بيئة الاختبار وراء الحادث

وبسبب خطأ مماثل في إعدادات Irregular أيضًا، تمكنت نماذج Anthropic من مغادرة بيئة الاختبار واختراق ثلاث مؤسسات.

وعندما أعلنت Anthropic عن تلك الحوادث، حمّلت Irregular مسؤولية ما حدث.

كما كشفت OpenAI عن حادث منفصل متعلق باختراق Hugging Face، تمكنت خلاله نماذجها أيضًا من الوصول إلى الإنترنت بسبب شريك الاختبارات نفسه.

الشركة نفسها كانت وراء اختبارات OpenAI وAnthropic

تصف Irregular نفسها بأنها "أول مختبر أمني للنماذج المتقدمة"، وتقول إن مهمتها هي "حماية العالم في عصر أنظمة الذكاء الاصطناعي التي تزداد قدراتها وتعقيدها".

وتتخذ الشركة الناشئة من تل أبيب في إسرائيل مقرًا لها، وتجري اختبارات على نماذج الذكاء الاصطناعي المتقدمة، وتقيّم قدراتها في مجال الأمن السيبراني من خلال محاكاة سيناريوهات واقعية.

وقال متحدث باسم Irregular لوكالة بلومبرج إن الحوادث "لم تتضمن هروبًا من بيئة الاختبار المعزولة أو هجومًا سيبرانيًا معقدًا".

وأضاف أنه لا توجد أي مشكلات مفتوحة مرتبطة بهذه الحوادث، وأن الشركة تعمل على إعداد ورقة تقنية تتضمن أفضل الممارسات الخاصة باحتواء النماذج وتشغيل اختبارات الأمن السيبراني بصورة آمنة.

الحادث يختلف عن اختراق Hugging Face

وأشار التقرير إلى أن الحادث السابق الذي تورط فيه وكلاء OpenAI خلال اختراق Hugging Face كان مختلفًا تمامًا.

فقد تعاون الوكلاء المشاركون في ذلك الاختراق عبر إنشاء ما يشبه لوحة رسائل داخلية، ثم استغلوا ثغرة أمنية للوصول إلى الإنترنت قبل التسلل إلى مستودع الذكاء الاصطناعي الخاص بمنصة Hugging Face.