Kimi K3 يهرب من بيئة الاختبار.. نموذج الذكاء الاصطناعي يصل إلى الإنترنت
لم يمض وقت طويل على اعتبار فكرة هروب نموذج أو وكيل للذكاء الاصطناعي من القيود المفروضة عليه ودخوله إلى مواقع إلكترونية من تلقاء نفسه أمرًا مثيرًا للقلق، لكنها أصبحت الآن أكثر شيوعًا.
ووفقًا لشركة Frontier الأمريكية المتخصصة في الأمن السيبراني، تمكن نموذج Kimi K3، الذي طورته الشركة الصينية Moonshot، من الخروج من بيئة اختبار معزولة تابعة لمعهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية، أثناء تقييم مهاراته في الأمن السيبراني الدفاعي.
إطلاق Kimi K3 وتقييم قدراته
أطلقت Moonshot نموذج Kimi K3 في يوليو، وأصبح متاحًا مجانًا بعد ذلك بوقت قصير.
ووفقًا لهيئة الإذاعة البريطانية، أظهرت تقييمات مستقلة أن النموذج يضاهي نماذج الذكاء الاصطناعي الرائدة من OpenAI وAnthropic.
وأوضحت Frontier أن النموذج لم يستغل ثغرة أمنية من نوع اليوم صفر، وإنما استفاد من إعداد خاطئ في بيئة الاختبار المعزولة، على غرار حوادث سابقة مع نماذج Anthropic وOpenAI وMeta.
ثغرة في بيئة الاختبار
وقال يارون سينجر، الرئيس التنفيذي لشركة Frontier Security، إن Kimi لم ينفذ استغلالًا معقدًا، لكنه استفاد من ثغرة في بيئة الاختبار التابعة لمعهد أمن الذكاء الاصطناعي.
وبحسب سينجر، فإن الواقعة تشير إلى أن النموذج لا يمتلك ضوابط داخلية كافية تمنعه من البحث عن أسهل طريقة لإنجاز المهمة بدلًا من تنفيذها بالطريقة المطلوبة.
لكن Kimi K3 لم يخترق موقعًا إلكترونيًا أو خدمة تابعة لجهة خارجية، بل تمكن من الوصول إلى الإنترنت والعثور على حل للمشكلة التي كان يعمل عليها عبر GitHub.
مخاوف من هروب نماذج الذكاء الاصطناعي
وترى Frontier أن أي وكيل ذكاء اصطناعي يتمتع بقدرات كافية سيجد طريقًا إلى الإنترنت إذا كان هذا الطريق متاحًا أمامه.
وتؤكد الواقعة أهمية تأمين بيئات اختبار نماذج الذكاء الاصطناعي وإغلاق الثغرات الموجودة بها، خصوصًا مع تطور قدرات هذه النماذج.
كما كشف موظفو OpenAI خلال مؤتمر Black Hat USA أن وكلاء الذكاء الاصطناعي التابعين للشركة أنشأوا لوحة رسائل داخل شبكتها للتعاون فيما بينهم، وأن مساهماتهم أدت إلى هجوم على Hugging Face.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
