رئيس حزب الوفد ورئيس مجلس الإدارة
د. السيد البدوي شحاتة
رئيس مجلس التحرير
خالد إدريس
رئيس التحرير
ياسر شورى
رئيس حزب الوفد ورئيس مجلس الإدارة
د. السيد البدوي شحاتة
رئيس مجلس التحرير
خالد إدريس
رئيس التحرير
ياسر شورى

جيميناي يخترق 3 شركات.. الواقعة تشعل جوجل ومواقع التواصل

جيميناي يخترق 3 شركات
جيميناي يخترق 3 شركات

 تصدر جيميناي مؤشرات البحث على جوجل بعد تداول واقعة لافتة شهدت وصول نموذج الذكاء الاصطناعي التابع للشركة إلى الإنترنت واختراق أنظمة تابعة لثلاث شركات حقيقية أثناء اختبار لقدراته في الأمن السيبراني، في أول حالة معروفة ينفذ فيها أحد أنظمة جوجل هذه الخطوة بشكل مستقل.

اختبار أمني يقود جيميناي إلى أنظمة حقيقية:

 وتعود تفاصيل الواقعة إلى مايو الماضي، عندما خضع جيميناي لاختبار في مجال الأمن السيبراني أجرته شركة إيريغولار المستقلة، والمتخصصة في تقييم قدرات أنظمة الذكاء الاصطناعي على التعامل مع التحديات الأمنية.

جوجل تكشف كيف وصل جيميناي إلى الشركات:

 وبحسب هيذر أدكينز، نائبة رئيس جوجل لهندسة الأمن، عثر النموذج أثناء التقييم على معلومات منشورة بشكل علني عبر الإنترنت، كما تمكن من تخمين بيانات اعتماد استخدمها في الوصول إلى ثلاثة مواقع كان يعتقد أنها تدخل ضمن النطاق المسموح به للاختبار.

إخطار الشركات الثلاث بعد الواقعة:

 وأوضحت أدكينز أن جوجل حرصت على إبلاغ الكيانات الثلاثة بما جرى، كما تعاونت مع شريكها في التدريب لإجراء تعديلات على آليات الاختبار، مشيرة إلى أن الواقعة تؤكد أهمية تدريب نماذج الذكاء الاصطناعي المتقدمة على التصرف بصورة مسؤولة.

إيريغولار تكشف معالجة المشكلات:

 ومن جانبه، قال متحدث باسم إيريغولار إن الواقعة ترتبط بالمشكلة نفسها التي أثرت على مختبرات أخرى للذكاء الاصطناعي، موضحًا أن جميع الجهات المعنية جرى إخطارها في أواخر يوليو، وأن المشكلات المعروفة من جانب الشركة تمت معالجتها وحلها قبل أسابيع.

وقائع مشابهة لدى شركات ذكاء اصطناعي أخرى:

 وفي سياق متصل، كشفت شركات ميتا وأنثروبيك وأوبن إيه آي عن وقائع مشابهة ارتبطت باختبارات أجرتها إيريغولار.

ميتا توضح طبيعة الواقعة:

 وكانت ميتا أوضحت في أغسطس أن الواقعة الخاصة بها لم تتضمن اختراقًا لبيئة معزولة أو تنفيذ هجوم سيبراني متطور، فيما أكدت إيريغولار أنها تعمل على وضع أفضل الممارسات لضمان إجراء تقييمات الأمن السيبراني للذكاء الاصطناعي بصورة آمنة.

تساؤلات حول استقلالية وكلاء الذكاء الاصطناعي

 وأعادت تلك الوقائع فتح النقاش حول مستوى الضمانات المطلوبة مع حصول وكلاء الذكاء الاصطناعي على قدر أكبر من الاستقلالية، إلى جانب قدرتهم على الوصول إلى الإنترنت وأنظمة الكمبيوتر.

جيميناي يخمن كلمات المرور للوصول إلى نظام محمي:

 وفي إحدى الحالات، تمكن جيميناي من الوصول إلى نظام محمي بعدما استمر في تخمين كلمات المرور حتى نجح في الدخول إليه.

بيانات متاحة تكشف الطريق إلى نظامين آخرين:

 أما في الحالتين الأخريين، فعثر النموذج على بيانات اعتماد أتاحت له الوصول إلى أنظمة محمية، وفقًا لما أوردته صحيفة وول ستريت جورنال، التي كانت أول من نشر تفاصيل الواقعة يوم الجمعة.

جيميناي يتوقف بعد الوصول إلى الأنظمة:

 وأكدت هيذر أدكينز أن جيميناي أوقف عملية الاختراق في الحالات الثلاث، بعدما وصل إلى الأنظمة التي لم تكن ضمن بيئة الاختبار المقصودة.