جوجل تكشف كيف اخترق Gemini ثلاث شركات أثناء الاختبار
تمكن نموذج Gemini من الخروج من بيئة الاختبار الخاصة به، والوصول إلى الإنترنت، ثم اختراق ثلاث شركات، وفقًا لما أكدته شركة جوجل لصحيفة وول ستريت جورنال.
ويبدو هذا السيناريو مألوفًا إلى حد ما في ظل أخبار الذكاء الاصطناعي خلال الأشهر الأخيرة، إذ حدث أمر مشابه مع نماذج تابعة لشركات OpenAI وAnthropic وMeta.
وحصل Gemini أيضًا على إمكانية الوصول إلى الإنترنت بسبب إعداد غير صحيح في بيئة الاختبار من جانب شركة Irregular، وهي شركة ناشئة إسرائيلية تعمل مع الشركات الأربع لتقييم نماذج الذكاء الاصطناعي الخاصة بها.
Gemini يصل إلى الإنترنت بسبب خطأ في الاختبار
وقعت الحوادث في شهر مايو، قبل أن تتمكن نماذج OpenAI من اختراق منصة Hugging Face، وذلك أثناء اختبار قدرات النموذج في مجال الأمن السيبراني.
وأوضحت جوجل لصحيفة وول ستريت جورنال أن النموذج تلقى هدفًا يتمثل في الحصول على معلومات من شركة وهمية أثناء الاختبار، واتضح بالصدفة أن هناك شركة حقيقية تحمل الاسم نفسه.
بعد ذلك اكتشف النموذج ثغرة في نظام الاختبار الخاص به، واستغلها للوصول إلى الإنترنت.
وفي الحادثة الأولى، تمكن النموذج من الوصول إلى خدمة الشركة الحقيقية بعد أن نجح بنفسه في كسر كلمة مرور.
النموذج استخدم بيانات دخول لشركات أخرى
وقعت حادثتان إضافيتان خلال عمليات اختبار أخرى، حيث بحث النموذج عن اسم الشركة عبر الإنترنت، وعثر على بيانات تسجيل دخول تخص شركات أخرى في مستودعات عامة.
واستخدم النموذج بيانات تسجيل الدخول هذه للوصول إلى تلك الشركات.
وقالت جوجل إن Gemini أوقف أنشطته بنفسه في الحالات الثلاث بعد أن أدرك أنه اخترق خدمات حقيقية.
جوجل لا تعتبر الحوادث انحرافًا في سلوك النموذج
وأبلغت الشركة صحيفة وول ستريت جورنال بأنها لا تعتبر هذه الحوادث حالة من عدم توافق النموذج مع الأهداف المحددة له، لأن النموذج أوقف عملية الاختراق بمجرد أن أدرك ما كان يفعله.
كما قالت جوجل إنها لم ترَ أن الحوادث تستدعي الكشف عنها للعامة، لأن عمليات الاختراق لم تتسبب في أضرار للشركات.
ولم تكشف جوجل عن النموذج المحدد الذي شارك في هذه الحوادث، لكنها أوضحت أنه لم يكن أحدث نماذجها.
كما لم تكشف الشركة عن أسماء الشركات التي تعرضت للاختراق، واكتفت بالقول إنه تم إخطارها بما حدث.
جوجل تعدل إجراءات اختبار الذكاء الاصطناعي
وقالت هذر أديكنز، نائبة رئيس هندسة الأمن في جوجل، إن الشركة عملت مع Irregular لإجراء تغييرات على عملية الاختبار، بهدف منع تكرار الأمر نفسه مرة أخرى.
وتأتي هذه الحوادث في وقت كشفت فيه شركات منافسة لجوجل، من بينها OpenAI وAnthropic وMeta، خلال الأشهر الماضية أن نماذج الذكاء الاصطناعي التابعة لها تمكنت من التسلل إلى مؤسسات خارجية أثناء الاختبارات.
نماذج الذكاء الاصطناعي واختبارات الأمن السيبراني
وكشفت OpenAI مؤخرًا أن وكلاءها تمكنوا من اختراق RubyGems، وهي خدمة لإدارة حزم وبرمجيات ومكتبات لغة Ruby يديرها مجتمع المستخدمين، وذلك في مايو، قبل وقوع حادثة Hugging Face.
وردًا على هذه الأحداث، دعا داريو أمودي، الرئيس التنفيذي لشركة Anthropic، إلى إبطاء تطوير الذكاء الاصطناعي المتقدم، وهو موقف تشاركه معه OpenAI.
وتسلط هذه الحوادث الضوء على التحديات المرتبطة باختبار نماذج الذكاء الاصطناعي الحديثة، خصوصًا مع منحها قدرات أوسع للتعامل مع الإنترنت والأنظمة الخارجية وتنفيذ المهام المتعلقة بالأمن السيبراني.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
