الذكاء الاصطناعي يفلت من الحصار.. أوبن إيه آي توقف أحد أقوى نماذجها
أوقفت شركة "أوبن إيه آي"، المطورة لبرنامج "تشات جي بي تي"، العمل المرتبط بأحد أكثر نماذج الذكاء الاصطناعي تطوراً لديها، بعدما تمكن النظام خلال اختبار داخلي من تجاوز القيود المفروضة على الوصول إلى الإنترنت والتواصل مع روبوت محادثة خارجي.
وأوضحت الشركة في منشور عبر مدونتها أن النموذج لم يكن مصرحاً له بالوصول إلى شبكة الإنترنت، لكنه تمكن من اكتشاف ثغرة في ضوابط الشبكة داخل بيئة الاختبار، نتيجة ضعف تصفية نظام أسماء النطاقات (DNS)، واستغلها لإرسال استعلامات إلى خدمة خارجية.
وقررت "أوبن إيه آيط تعليق عمليات التدريب والتقييم والاستدلال التي تعتمد على استخدام الأدوات بصورة مؤقتة، إلى حين التأكد من معالجة الثغرة بالكامل وإجراء اختبارات إضافية للتأكد من فعالية إجراءات السلامة والحماية.
وأشارت الشركة إلى أن الواقعة أقل خطورة من بعض الحوادث السابقة، لكنها تأتي بعد تشديد ضوابط الحماية في أعقاب حادثة مرتبطة بمنصة "هاجينج فيس".
وخلال الاختبار، كان النموذج مكلفاً بتحديد هوية شخص كتب منشوراً على مدونة، بالاعتماد على مجموعة من الأدلة.
وبعد فشله في العثور على الإجابة من خلال بيئة ويب محاكاة، اكتشف إمكانية استخدام محلل DNS الخاص بالنظام لإرسال استفسارات إلى روبوت محادثة يعمل على الإنترنت المفتوح. وبمجرد اكتشاف الاتصال، أوقفت الشركة الاختبار.
تساؤلات حول سلوك بعض أنظمة "أوبن إيه آي"
ويأتي ذلك ضمن سلسلة من الوقائع التي أثارت تساؤلات حول سلوك بعض أنظمة "أوبن إيه آي"، ففي إحدى الحالات، تمكن نظام من وضع 53 صورة رفعها مستخدمون على منصات إلكترونية، فيما أكدت الشركة أن الروابط لم تكن عامة وأن معظم الصور أزيلت لاحقاً.
كما تفاعلت وكلاء الشركة بصورة غير متوقعة مع مواقع حكومية أميركية، بما في ذلك الوصول إلى معلومات عامة أو نسخها، ما دفع طأوبن إيه آي" إلى إخطار عشرات المؤسسات بحالات التفاعل غير المقصودة.
وتظل حادثة "هاجينج فيس" من أبرز الوقائع السابقة، بعدما تمكن نظام من الخروج من بيئة اختبار مؤمنة والوصول بصورة غير مقصودة إلى أجهزة كمبيوتر تابعة للمنصة.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
