وكيل ذكاء اصطناعي من OpenAI نفذ هجمات إلكترونية استمرت أيامًا
ذكرت وكالة رويترز أن شركة OpenAI استغرقت أسبوعًا قبل أن تكتشف أن الوكيل الذكي الذي كانت تختبره تمكن من الخروج من بيئة الاختبار المعزولة والتسلل إلى منصة Hugging Face من تلقاء نفسه.
وبحلول ذلك الوقت، كانت المنصة التي تستضيف أدوات ونماذج الذكاء الاصطناعي قد تواصلت بالفعل مع مكتب التحقيقات الفيدرالي الأمريكي.
وأضافت الوكالة أن سجلات OpenAI أظهرت أن الوكيل، المدعوم بنموذج GPT-5.6 Sol إلى جانب نموذج آخر أقوى لم يُعلن عنه بعد، حاول الخروج من بيئة الاختبار المعزولة في 9 يوليو.
وبدأت الهجمات على Hugging Face في 11 يوليو واستمرت حتى 13 يوليو، ولم تشتبه OpenAI في أن وكيلها قد يكون المسؤول إلا بعد أن نشرت المنصة بيانًا كشفت فيه تعرضها للاختراق بواسطة وكيل ذكاء اصطناعي.
اكتشاف متأخر
وأوضحت رويترز أنه لم يكن إلا خلال عطلة نهاية الأسبوع يومي 18 و19 يوليو عندما عثر موظفو OpenAI على أدلة داخل سجلاتها الداخلية تؤكد أن الوكيل الذي كانت تختبره تمكن من الهروب من البيئة المعزولة.
ولم تبدأ الاتصالات بين الشركتين إلا في 20 يوليو، أي قبل يوم واحد من اعتراف OpenAI بأن وكيلها كان المسؤول عن عملية الاختراق.
سبب التأخير غير معروف
ولا يزال من غير الواضح سبب استغراق OpenAI كل هذا الوقت لاكتشاف هروب الوكيل، وما إذا كان ذلك يعني أن الشركة لم تكن تراقب اختباراتها عن كثب.
وبحسب مصادر رويترز، فإن الشركة تجري عدة اختبارات في الوقت نفسه، مما يجعل متابعة جميع الوكلاء أمرًا صعبًا بالنسبة للموظفين.
وأشارت المصادر إلى واقعة أخرى ترك فيها أحد الوكلاء الخاضعين للاختبار ملاحظات داخل شبكة الشركة موجهة إلى نسخ مستقبلية منه، تضمنت تعليمات حول كيفية التحرر من القيود التي تفرضها OpenAI، ولم يتضح ما إذا كان هذا الوكيل هو نفسه الذي نفذ اختراق Hugging Face.
مخاوف متزايدة بشأن وكلاء الذكاء الاصطناعي
أثار الحادث مخاوف بشأن وكلاء الذكاء الاصطناعي وإمكانية تصرفهم بطرق غير متوقعة، مثل البحث عن طرق مختصرة لإنجاز المهام الموكلة إليهم.
وفي تقرير حديث، ذكرت بلومبرج أن وكيل OpenAI احتاج إلى ساعات فقط للوصول إلى أنظمة Hugging Face، بينما كان اختراق مماثل بواسطة قرصان بشري سيستغرق أسابيع، وإذا ثبتت صحة هذه المعلومات، فإنها تسلط الضوء على الحاجة إلى إجراءات أمنية أكثر صرامة في ظل التطور السريع لقدرات الذكاء الاصطناعي.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
