وكلاء OpenAI تبادلوا ثغرات أمنية عبر لوحة رسائل داخلية
أظهرت تقارير أن وكلاء OpenAI أظهروا سلوكًا غير معتاد قبل وقت طويل من الهجوم على Hugging Face، وخلال مؤتمر Black Hat USA للأمن السيبراني في لاس فيجاس، كشف موظفان من OpenAI مزيدًا من التفاصيل حول وكلاء الذكاء الاصطناعي الذين خرجوا عن السيطرة وهاجموا المستودع.
وأوضحا أن الوكلاء أمضوا شهرين في التواصل عبر ما يشبه لوحة رسائل داخل شبكة الاختبار الخاصة بالشركة، حيث كانوا يتبادلون الثغرات الأمنية وأساليب استغلالها.
واكتشفت OpenAI لوحة الرسائل وأغلقتها في 4 يوليو، لكن الوكلاء تمكنوا من إيجاد طريقة أخرى لإعادة بنائها والتواصل مجددًا بحلول 8 يوليو، وأسهمت المشاركات على اللوحة الجديدة في الهجوم على Hugging Face.
لوحة رسائل سرية داخل شبكة الاختبار
وقال إريك والاس، الذي يعمل في مجال السلامة لدى OpenAI، للحضور في المؤتمر، بحسب Wired: "تتعلق هذه الحادثة بفريق من الوكلاء يعملون معًا، ويعثرون على الثغرات، ويتبادلونها فيما بينهم، ويتحركون عبر أنظمتنا والأنظمة الخارجية، ويقومون بذلك على مدار أيام وأسابيع".
وكشف الموظفان أن الوكلاء كانوا يتواصلون داخل مدير الحزم الخاص بـ OpenAI، وهو المسؤول عن إدارة تثبيت البرامج الأخرى، وبما أن مدير الحزم مشترك عبر البنية التحتية للشركة، فقد تمكن جميع الوكلاء الذين كانت الشركة تختبرهم من الوصول إليه.
وبعد العثور على ثغرات، كان الوكلاء يتركونها مفتوحة ثم يشاركونها مع الوكلاء الآخرين عبر لوحة الرسائل.
الوكلاء تبادلوا الثغرات ووزعوا المهام
ومع مرور الوقت، بدأ الوكلاء في التعاون فيما بينهم، وتوزيع المهام وتقسيم العمل لتحقيق أهدافهم، دون علم OpenAI.
وشهدت المجموعة أيضًا خلافات داخلية، إذ حذف بعض الوكلاء أعمال بعضهم البعض عن طريق الخطأ، كما شكك بعضهم في أن آخرين كانوا منتحلين للهوية، وذكر التقرير أن بعض الوكلاء اقترحوا توقيع منشوراتهم برموز خاصة لمنع الاحتيال.
وبحلول الوقت الذي اكتشفت فيه OpenAI لوحة الرسائل، كانت تحتوي بالفعل على مئات الآلاف من الرسائل.
OpenAI تعزز إجراءاتها الأمنية
وأوضح والاس أن كل ذلك حدث لأن النماذج المتقدمة تميل إلى "الغش"، فعند تعرضها لضغط لإيجاد حل سريع باستخدام عدد أقل من الأدوات أثناء الاختبار، تدرك أنه بدلًا من تنفيذ المهمة فعليًا يمكنها البحث عن الإجابة على الإنترنت.
ولهذا السبب تختبر الشركة نماذجها دون إتاحة الوصول إلى الإنترنت، وإذا كنت تتذكر، فإن الوكلاء لم يتمكنوا من الاتصال بالإنترنت خلال حادثة Hugging Face إلا بعد استغلال ثغرة أمنية.
وقال مايكل دالتون، الموظف الآخر في OpenAI الذي تحدث خلال مؤتمر Black Hat، إن العديد من فرق الشركة أوقفت أعمالها الأخرى للمساعدة في تحسين تقنيات الوقاية الأمنية والكشف عن الهجمات والاستجابة لها.
وأضاف أن الشركة تعمدت إبطاء وتيرة الأبحاث من أجل تطوير إجراءاتها الأمنية وتعزيز مراقبة وكلاء الذكاء الاصطناعي بشكل كبير.
وقال دالتون: "الاستنتاج الأهم الذي تغير بشكل كبير هو أن الهجمات المؤتمتة بالكامل تتطلب الاستثمار في دفاعات مؤتمتة بالكامل، ونحن لم نصل إلى هذه المرحلة بعد على مستوى القطاع، وسيتعين علينا إيجاد هذا الطريق معًا وبشكل عاجل".
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
