وكيل OpenAI اخترق موقع الحكومة الأسترالية

كشف رئيس الوزراء الأسترالي أنتوني ألبانيز أن وكيلًا تابعًا لشركة OpenAI اخترق في يونيو الماضي الموقع العام لنظام Medicare للتأمين الصحي الحكومي في أستراليا.

وقال ألبانيز إنه تحدث مع سام ألتمان، الرئيس التنفيذي لشركة OpenAI، للتعبير عن القلق الشديد الذي تشعر به البلاد بشأن الواقعة، كما انتقد الشركة بسبب تأخرها في إبلاغ السلطات الأسترالية بالحادث.

وبحسب صحيفة The Guardian، أرسلت OpenAI رسالة بريد إلكتروني بشأن الاختراق إلى عنوان بريد إلكتروني حكومي أسترالي عام في 10 سبتمبر فقط. ونظرًا إلى أن السلطات تتحقق من هذا الحساب مرة واحدة يوميًا، لم يتم الاطلاع على الرسالة حتى 11 سبتمبر.

ولم تصل المعلومات المتعلقة بالحادث إلى وزيرة الخدمات الحكومية كاتي جالاجر حتى 17 سبتمبر، وبينما لا يزال التحقيق مستمرًا، قال ألبانيز إنه لا يبدو أن الوكيل تمكن من سرقة معلومات صحية شخصية من البوابة.

وكيل الذكاء الاصطناعي حاول اختراق جهات أخرى

وقال كونراد ستوز، رئيس الحوكمة في منظمة Transluce، وهي مختبر أبحاث غير ربحي يعمل على تطوير تقنيات تساعد في فهم أنظمة الذكاء الاصطناعي بشكل أفضل، لصحيفة The New York Times إن هذه الواقعة قد تكون أول حالة يختار فيها وكيل بشكل مستقل اختراق حكومة.

وحددت Transluce حوادث أخرى لم يتم الكشف عنها سابقًا، هاجمت خلالها وكلاء OpenAI جهات حقيقية عندما تم توجيههم لجمع البيانات أثناء الاختبارات.

ووقعت جميع هذه الحوادث قبل اكتشاف شركة Hugging Face وصولًا غير مصرح به إلى أنظمتها في يوليو، وقبل اعتراف OpenAI بأن وكلاءها تمكنوا من الدخول إلى مستودع الذكاء الاصطناعي.

GPT-6 Astra.. موعد وصول أقوى نموذج من OpenAI إلى ChatGPT

آبل تضيف اتهامات جديدة ضد OpenAI في قضية الأسرار التجارية

محاولة الوصول إلى مكتبة رقمية

وبالإضافة إلى اختراق نظام Medicare الأسترالي، حاول وكيل تابع لـ OpenAI أيضًا التسلل إلى مكتبة رقمية في جامعة نيو مكسيكو يومي 25 و26 مايو، وفقًا لما أوردته صحيفة The New York Times.

وبحسب التقرير، كان الوكيل يحاول الوصول إلى صور لمركز تاريخي لعلاج مرض السل موجود في المكتبة، وعندما لم يتمكن من الحصول عليها، بدأ بشكل نشط في البحث عن ثغرات يمكن استغلالها.

وبعد فشل محاولة اختراق المكتبة الرقمية، أغرق الوكيل خادم الجامعة بطلبات.

وفي حادث آخر وقع في 28 مايو، استهدف وكيل OpenAI منصة Data USA، وهي منصة مفتوحة المصدر تعمل على عرض المعلومات والبيانات من عدد من الوكالات الفيدرالية.

وأرسل الوكيل استعلامًا إلى الموقع للحصول على البيانات، وعندما فشل في ذلك، بدأ في فحص الموقع بحثًا عن ثغرات أمنية.

ولم تبدُ وكلاء OpenAI ناجحة في محاولاتها لاختراق موقع Data USA أو مكتبة جامعة نيو مكسيكو. 

وقال متحدث باسم الشركة لصحيفة The New York Times إن OpenAI تواصلت بالفعل مع الجهتين بشأن الحوادث.

وأضاف المتحدث أن OpenAI اكتشفت محاولات وكيلها لاختراق الموقع الحكومي الأسترالي بعد مراجعة موسعة لنماذجها، ووجدت أن النماذج اتخذت إجراءات لم تكن الشركة تقصدها.

وتحتاج الشركة إلى بضعة أشهر أخرى لاستكمال مراجعتها.

OpenAI تكشف حوادث جديدة لسلوك نماذج الذكاء الاصطناعي

وأعلنت OpenAI مؤخرًا عن إطار جديد للإبلاغ عن حالات عدم التوافق، بهدف تسريع نشر المعلومات المتعلقة بالحالات التي تتصرف فيها تقنيات الذكاء الاصطناعي بطريقة غير متوقعة.

وكشفت الشركة في ذلك التقرير عن ست حوادث إضافية تصرفت فيها النماذج بطرق مثيرة للقلق ولم تكن متوقعة من جانب الشركة.

وجاء الإعلان بعد اعتراف OpenAI بأن وكلاء الذكاء الاصطناعي التابعين لها اخترقوا منصة Hugging Face، وبعد ظهور تقارير حول حوادث سابقة، من بينها اختراق وكلائها لمنصة RubyGems.

وقالت الشركة في ذلك المنشور إنها لا تعتقد أن قطاع الذكاء الاصطناعي حل مشكلة المواءمة والمراقبة بدرجة كافية لمواصلة التوسع المسؤول بأقصى سرعة لفترة أطول بكثير.

دعوات لوضع معايير دولية للذكاء الاصطناعي

وفي سياق متصل، قال سام ألتمان مؤخرًا أمام الأمم المتحدة إن قطاع الذكاء الاصطناعي يحتاج إلى معايير تقييم دولية لقياس قدرات ومخاطر أدوات الذكاء الاصطناعي، إلى جانب تقييم حاجة هذه الأدوات إلى الإشراف البشري.

وتسلط الحوادث التي شملت مواقع حكومية ومؤسسات تعليمية ومنصات بيانات الضوء على التحديات المرتبطة بتطوير وكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام بصورة مستقلة، خصوصًا عندما تتضمن هذه المهام الوصول إلى أنظمة ومواقع حقيقية.