أوبن إيه آي توقف اتصال نماذج الذكاء الاصطناعي المتقدمة بالإنترنت أثناء التدريب
أعلنت شركة أوبن إيه آي أنها ستدرب نماذج الذكاء الاصطناعي المتقدمة دون اتصال بالإنترنت خلال الفترة المقبلة، في محاولة لحماية البنية التحتية للإنترنت والحد من المخاطر الأمنية الأخرى.
وجاء القرار، الذي كشفت عنه الشركة في تدوينة عبر مدونتها الرسمية، بعد حادثة تعرضت فيها منصة Hugging Face للاختراق بواسطة وكلاء ذكاء اصطناعي كانت أوبن إيه آي تختبرهم في يوليو الماضي.
وكانت الشركة قد أعلنت عن الواقعة في وقت سابق، لتصبح واحدة من سلسلة تقارير عن سلوكيات غير متوقعة لأنظمة الذكاء الاصطناعي التابعة لشركات أوبن إيه آي وأنثروبيك وجوجل.
وقالت أوبن إيه آي إن قرارها يستند إلى الوضع الحالي لأبحاث مواءمة الذكاء الاصطناعي، وأنظمة المراقبة، ومستوى أمان البنية التحتية للإنترنت.
وأضافت الشركة: «استنادًا إلى الحالة الراهنة لأبحاث المواءمة، وأنظمة المراقبة، وأمن البنية التحتية للإنترنت، نعتقد أن النهج المسؤول يتمثل في تدريب النماذج المتقدمة دون اتصال بالإنترنت».
أوبن إيه آي تفرض قيودًا على وصول وكلاء الذكاء الاصطناعي
أوضحت الشركة أن فرض قيود على الموارد التي يمكن لوكلاء الذكاء الاصطناعي الوصول إليها يمثل عنصرًا أساسيًا في نهجها الجديد.
وتسمح أوبن إيه آي للوكلاء باستخدام المتصفحات وأدوات التحكم في أجهزة الكمبيوتر وبيئات البرمجة التي يحتاجون إليها لتنفيذ مهام التدريب، لكن ذلك يتم داخل بيئة آمنة غير متصلة بالإنترنت الفعلي.
كما تقتصر الاتصالات على الوكلاء الذين حصلوا على التصاريح اللازمة، في حين تظل بقية الموارد خارج نطاق الوصول المسموح به.
ويأتي هذا التوجه في ظل تزايد الاعتماد على وكلاء الذكاء الاصطناعي القادرين على تنفيذ المهام نيابة عن المستخدمين، بما في ذلك تصفح المواقع الإلكترونية واستخدام التطبيقات والتعامل مع أدوات الكمبيوتر.
كيف تدرب أوبن إيه آي نماذج الذكاء الاصطناعي دون إنترنت؟
أكدت الشركة أن الوصول إلى الإنترنت المباشر ليس ضروريًا لعملية تدريب النماذج المتقدمة، ولا لمعظم عمليات تقييمها.
وبدلًا من الاتصال بالمواقع الإلكترونية الحية، أنشأت أوبن إيه آي بيئة رقمية غير متصلة بالإنترنت، تحتوي على مواد ويب مفهرسة ومخزنة مؤقتًا، حتى يتمكن وكلاء الذكاء الاصطناعي من استخدامها في تنفيذ المهام المطلوبة دون الاتصال بالمواقع الفعلية.
ويهدف هذا النظام إلى توفير البيانات والموارد اللازمة لتدريب النماذج، مع تقليل المخاطر التي قد تنتج عن السماح لها بالوصول المباشر إلى الإنترنت.
ويكتسب هذا الإجراء أهمية خاصة مع تطوير نماذج حديثة مصممة لتشغيل وكلاء مثل Dots، الذين يمكنهم تصفح الإنترنت واستخدام التطبيقات نيابة عن المستخدمين.
رغم القيود التي فرضتها أوبن إيه آي، كشفت اختبارات أمنية أجراها وكلاء ذكاء اصطناعي مخصصون لاختبار أنظمة الحماية عن وجود ثغرات أمنية.
وقالت الشركة إن وكلاء الاختبار تمكنوا من اكتشاف ثغرات أتاحت لهم الخروج من الأجهزة الافتراضية، المعروفة باسم Virtual Machines أو VMs، التي تُستخدم لعزل الوكلاء عن النظام المضيف.
كما تمكن الوكلاء من اكتشاف طريقة للتواصل فيما بينهم عن طريق التلاعب بالبيانات الموجودة في ذاكرة التخزين المؤقت للمعالج، وقياس الوقت الذي تستغرقه البيانات في التحميل.
وتوضح هذه النتائج أن عزل أنظمة الذكاء الاصطناعي عن البيئات الخارجية لا يلغي بالضرورة جميع المخاطر الأمنية، وأن بعض الثغرات قد تسمح بتجاوز القيود الموضوعة لحماية الأنظمة.
أفادت الشركة بأنها كشفت عن الثغرات الأمنية الموجودة في عدد من أنظمة الأجهزة الافتراضية، وعملت على إصلاحها.
كما أضافت عمليات تحقق إلى أنظمة المراقبة الخاصة بها، بهدف اكتشاف الحالات التي تحاول فيها نماذج الذكاء الاصطناعي التعاون فيما بينها بطرق غير مسموح بها.
وتأتي هذه الإجراءات ضمن مساعي الشركة لتعزيز إجراءات الأمان خلال تدريب النماذج المتقدمة، والحد من احتمالات استغلال الثغرات أو تجاوز القيود المفروضة على الوكلاء.
متى استأنفت أوبن إيه آي تدريب نماذجها المتقدمة؟
كانت أوبن إيه آي قد أوقفت تدريب نماذج الذكاء الاصطناعي المتقدمة مؤقتًا في سبتمبر الماضي.
ومع إعلانها عن اعتماد عملية التدريب الجديدة دون اتصال بالإنترنت، كشفت الشركة أنها استأنفت التدريب في الأول من أكتوبر.
وتخطط أوبن إيه آي لمواصلة تدريب النماذج المتقدمة دون اتصال بالإنترنت، إلى أن تصبح التحسينات في إجراءات الحماية الحالية كافية لتبرير السماح بوصول أوسع إلى الإنترنت.
لكن الشركة لم تكشف عن طبيعة التحسينات المطلوبة، أو المعايير التي ستعتمد عليها لتحديد موعد السماح للنماذج بالاتصال بالإنترنت مجددًا.
ويعكس القرار توجهًا نحو تشديد إجراءات الأمان في تطوير نماذج الذكاء الاصطناعي المتقدمة، خصوصًا مع زيادة قدراتها على تنفيذ المهام بصورة مستقلة والتفاعل مع المواقع والتطبيقات والأنظمة الرقمية.