OpenAI تبطئ تطوير Astra بسبب مخاوف الأمن السيبراني
بعد فترة قصيرة من حادثة أمن سيبراني كبيرة، تمكنت خلالها نماذج OpenAI من اختراق منصة تعلم آلي مفتوحة المصدر تسمى Hugging Face، أعلنت الشركة أنها تعزز إجراءات الحماية وضوابط الأمن الخاصة بأحدث نماذج الذكاء الاصطناعي لديها.
وقالت OpenAI في منشور على موقعها الإلكتروني إن التقييمات الداخلية لنموذجها المرتقب، الذي يحمل اسم Astra، أظهرت "تقدمًا كبيرًا في البرمجة الوكيلة والأمن السيبراني"، ما أدى إلى عدم تمكن OpenAI من "استبعاد القدرات السيبرانية الحرجة".
OpenAI لا تستبعد امتلاك Astra قدرات سيبرانية حرجة:
ووفقًا لـOpenAI، لا تستطيع الشركة أن تعلن على وجه اليقين أن نموذج Astra غير المطروح سيُصنف ضمن "مستوى القدرات الحرجة".
وكما هو موضح في إطار الاستعداد الخاص بها، قالت OpenAI إن تصنيف القدرات الحرجة يعني أن النموذج "يمكنه تحديد وتطوير عمليات استغلال وظيفية لثغرات يوم الصفر بجميع مستويات الخطورة في العديد من الأنظمة الحيوية الحقيقية المحصنة، دون تدخل بشري".
وقد يكون النموذج أيضًا قادرًا على "ابتكار وتنفيذ استراتيجيات جديدة كاملة للهجمات السيبرانية ضد أهداف محصنة، مع إعطائه فقط هدفًا عامًا مطلوبًا".
ومع ذلك، أوضحت OpenAI أن Astra نموذج لم يتم إطلاقه بعد، ولم يكن مشاركًا في حادثة Hugging Face.
OpenAI تشدد إجراءات الأمان حول Astra
بعد إجراء هذه التقييمات، تتخذ OpenAI بعض الخطوات الاحترازية لمعالجة المخاوف.
وقالت الشركة إنها ستطبق "ضوابط أمنية أكثر صرامة"، وستوقف "الأنشطة الداخلية المتعلقة بـAstra" التي لا تستوفي المتطلبات الجديدة.
وأضافت OpenAI أنها ستعمل مع الجهات الحكومية وشركاء الاختبارات من الأطراف الخارجية لتحسين مستوى الأمان.
نماذج ذكاء اصطناعي أخرى تجاوزت بيئات الاختبار:
OpenAI ليست الشركة الوحيدة التي خرجت نماذج الذكاء الاصطناعي التابعة لها من بيئات الاختبار وأثرت في مؤسسات خارجية.
ونشرت Anthropic تقريرًا الشهر الماضي أوضحت فيه أن ثلاثة نماذج مختلفة من Claude تمكنت من الوصول إلى الإنترنت واختراق ثلاث مؤسسات.
وفي وقت لاحق، تمكن نموذج Kimi K3 التابع لشركة Moonshot أيضًا من تحرير نفسه من القيود المفروضة داخل بيئة اختبار خاضعة للرقابة.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
