تحذير من أنظمة ذكاء اصطناعي تنسخ نفسها وتهاجم الأجهزة
نشرت مجموعة Frontier Red Team التابعة لشركة أنثروبيك بحثًا جديدًا يشير إلى أن نماذج الذكاء الاصطناعي الصغيرة قد تصبح، خلال أشهر قليلة، قادرة على نسخ نفسها والانتشار عبر الأجهزة غير المؤمنة، ما قد يؤدي إلى إنشاء شبكات روبوتات آلية Botnets بطيئة الانتشار، ولكن يصعب القضاء عليها.
ورغم أن شركات الذكاء الاصطناعي ليست غريبة عن إبراز المخاطر المحتملة لمنتجاتها، فإن الخبراء الذين تحدثوا إلى موقع Engadget يتفقون بصورة عامة على أن نماذج الذكاء الاصطناعي الصغيرة قد تصبح قادرة على تكرار نفسها والانتشار خلال المستقبل القريب، ومع ذلك، قد لا يكون التهديد الفعلي الذي تمثله هذه النماذج جديدًا بالقدر الذي يبدو عليه.
وقال كريس كانال، الرئيس التنفيذي لشركة EquiStamp، التي تعمل مع مختبرات الذكاء الاصطناعي ومنظمات السلامة والحكومات للتحقق من النماذج وتقييمها، إن هذا التطور قد يحدث في وقت أقرب قليلًا مما كان يتوقعه.
وأضاف أنه كان يتوقع أن يصبح هذا النوع من المخاطر مثيرًا للقلق بصورة أكبر خلال صيف العام المقبل، مشيرًا إلى أن أنثروبيك ربما تمتلك موظفين لديهم معلومات عن أحدث الأبحاث والتطورات لا تتوفر لديه، ولذلك قد تكون توقعاتها أكثر دقة.
وأرجع كانال السرعة الأخيرة في تطور النماذج إلى استخدام موظفي أنثروبيك وغيرها من مختبرات الذكاء الاصطناعي المتقدمة أدوات الذكاء الاصطناعي الخاصة بهم في إجراء أبحاث التعلم الآلي.
خبراء يتوقعون ظهور نماذج ذكاء اصطناعي ذاتية الانتشار
قال مايكل بيلي، أستاذ الأمن السيبراني والخصوصية في معهد جورجيا للتكنولوجيا، إن النماذج القادرة على تكرار نفسها تمثل تطورًا متوقعًا، وإن ظهورها أمر محتمل، لكن الشكل الذي ستتخذه والنتائج التي قد تترتب عليها لا تزال أسئلة مفتوحة.
ويدرس بيلي ديدان الإنترنت منذ أوائل العقد الأول من القرن الحالي، كما أجرى أبحاثًا في شبكات الروبوتات Botnets خلال السنوات الأخيرة.
وفي عام 2017، شارك في كتابة بحث بعنوان Understanding the Mirai Botnet، وهو أحد الأبحاث التي استشهدت بها أنثروبيك ضمن دراستها الجديدة.
وسمحت شبكة Mirai لمجموعة من مجرمي الإنترنت بإنشاء شبكة ضخمة من أجهزة إنترنت الأشياء، استخدموها لاحقًا لتنفيذ هجوم حجب الخدمة الموزع DDoS على شبكة PlayStation Network التابعة لشركة سوني.
وخلال الهجوم، تأثرت أيضًا شركة Dyn، التي تعد واحدة من أكبر مزودي خدمات نظام أسماء النطاقات DNS في الولايات المتحدة.
وأدى الهجوم في عام 2016 إلى تعطيل أجزاء كبيرة من الإنترنت، حيث واجه مستخدمون في الولايات المتحدة وأجزاء من أوروبا صعوبة في الوصول إلى خدمات أمازون وجيت هب وباي بال وريديت وتويتر.
وكانت الخسائر المالية للهجوم كبيرة، إذ قدرت شركة سوني خسائرها في صافي الإيرادات بنحو 2.7 مليون دولار.
كيف يمكن للأجهزة المنزلية المشاركة في الهجمات الإلكترونية؟
وأوضح بيلي أن تجربة Mirai أثبتت إمكانية إنشاء شبكات روبوتات فعالة باستخدام أجهزة يومية عادية، مثل أجهزة توجيه الإنترنت والكاميرات المتصلة بالشبكة.
وأشار إلى أن الاعتقاد السابق كان أن هذه الأجهزة لا تمثل قيمة كبيرة للمهاجمين، سواء باعتبارها أهدافًا للهجمات أو مصادر للقدرة الحاسوبية المستخدمة في تنفيذها، لكن التجربة أثبتت أنها فعالة للغاية في هذا النوع من العمليات.
وبعد مرور عشر سنوات، ترى أنثروبيك أن ديدان الذكاء الاصطناعي AI Worms قد تمثل تطورًا مهمًا مقارنة بشبكة Mirai وغيرها من شبكات الروبوتات التقليدية، مثل Kimwolf، لأنها قد تتمكن من التعرف على الأجهزة غير المألوفة والتعامل معها بصورة مستقلة.
لكن بيلي يرى أن القدرة على التكيف مع الأجهزة المختلفة ليست أمرًا جديدًا، إذ كانت Mirai تعمل بالفعل عبر أجهزة متنوعة، بداية من أجهزة التوجيه وصولًا إلى كاميرات الإنترنت التي تستخدم معماريات مختلفة للمعالجات.
ومع ذلك، كانت هذه القدرة محدودة، إذ كان التعامل مع كل معمارية جديدة يتطلب تدخلًا بشريًا، وعلى الأقل إعادة تجميع البرمجيات الخبيثة لتناسب الجهاز المستهدف.
ويرى بيلي أن التطور الجديد المحتمل يتمثل في قدرة الذكاء الاصطناعي على أتمتة هذه العملية، لكنه لا يعتقد أن أنثروبيك قدمت دليلًا مقنعًا على ذلك حتى الآن.
هل ستغير ديدان الذكاء الاصطناعي طبيعة الهجمات الإلكترونية؟
يشير بيلي إلى أن النماذج الأكثر تطورًا قد تعيد توزيع الأدوار بين المهاجمين والمدافعين في مجال الأمن السيبراني، بدلًا من تقديم أساليب جديدة تمامًا للهجوم.
وأوضح أن الأمر لن يتعلق بالضرورة بتنفيذ أشياء جديدة، وإنما بتغيير التوازن الاقتصادي بين المهاجمين والجهات المسؤولة عن الدفاع.
ورغم أن أنثروبيك أظهرت قدرة أحد النماذج على الانتقال بين الأجهزة وإعداد عمليات الاستدلال Inference على كل جهاز، فإن التجربة جرت داخل شبكة محاكاة، وكان الاختراق المستخدم فيها بسيطًا للغاية.
كما اعترض بيلي على وصف هذه العملية بأنها تكرار ذاتي كامل، موضحًا أن ما جرى يتضمن تقسيم المهام وتوزيعها، وهو ما لا يعني بالضرورة حدوث انتشار كامل مثل ديدان الإنترنت أو الفيروسات التقليدية.
ويرى أن شبكة روبوتات تعمل بالذكاء الاصطناعي في العالم الحقيقي قد تكون أقرب إلى ما يعرف باسم Dropper، وهو نوع من البرمجيات الخبيثة التي تتمكن من الوصول إلى الجهاز ثم تثبيت تعليمات برمجية أخرى عليه.
وبدلًا من نسخ البرنامج الخبيث بالكامل إلى كل جهاز يتم اختراقه، قد تقوم الشبكة بتثبيت أداة صغيرة للتنسيق وتلقي التعليمات من مكان آخر داخل الشبكة.
وأوضح بيلي أن هذا يختلف عن ديدان الإنترنت التقليدية التي تنسخ الكود البرمجي نفسه إلى الأجهزة الجديدة، ثم تبدأ تشغيل نسخة جديدة منه.
وأشار أيضًا إلى أن بعض الديدان الإلكترونية يمكن أن تكون متعددة الأشكال Polymorphic، أي أنها قادرة على تغيير بصمتها وسلوكها.
ولكي تتمكن شبكة روبوتات تعتمد على الذكاء الاصطناعي من تنفيذ ذلك، ستحتاج إلى إعادة تدريب نماذجها الخاصة، وهو أمر لم تحاول أنثروبيك إثباته في بحثها.
وكان أقرب ما وصلت إليه الشركة هو إظهار قدرة نسخ النموذج على تبادل الملاحظات مع النسخ اللاحقة، وتحسين قدرتها تدريجيًا على إعداد عمليات الاستدلال.
هل تحذر أنثروبيك من المخاطر أم تروج لأبحاثها؟
ومثل أي تحذير يصدر عن إحدى شركات الذكاء الاصطناعي، يظل من المهم التساؤل عما إذا كانت أنثروبيك قد نشرت هذا البحث لأغراض تسويقية، خاصة مع تقديم الشركة أوراقًا رسمية لطرح أسهمها للاكتتاب العام خلال فترة قريبة من نشر الدراسة.
لكن كريس كانال يرى أن الاحتمال الأكبر هو أن الشركات تشعر بالقلق من تصرفات شركات الذكاء الاصطناعي الأخرى بصورة غير مسؤولة.
وأوضح أن الشركات لديها حوافز لتطوير أفضل نموذج ممكن وطرحه في الأسواق بسرعة أكبر للحصول على حصة سوقية، كما تدرك أن الشركات المنافسة لديها الحوافز نفسها.
وبغض النظر عما إذا كان التهديد الجديد يمثل بالفعل نوعًا من ديدان الإنترنت، أو عن الموعد الذي قد يظهر فيه، فإن الحلول التي تقترحها أنثروبيك للحد من مخاطره تبدو تقليدية إلى حد كبير.
وتقترح الشركة أن يقوم مزودو خدمات الإنترنت ISP بإخطار العملاء عند اكتشاف إصابة أجهزتهم، ثم تقييد اتصالهم بالإنترنت بحيث لا يتمكنون إلا من الوصول إلى قائمة محدودة من المواقع الآمنة.
وقد استُخدمت استراتيجية مشابهة خلال هجمات Mirai وحققت نتائج فعالة.
كما تقترح أنثروبيك اللجوء إلى التشريعات باعتبارها أحد الحلول الممكنة، مشيرة إلى المملكة المتحدة التي حظرت كلمات المرور الافتراضية سهلة التخمين في أجهزة إنترنت الأشياء بموجب قانون PSTI.
تأمين الأجهزة وتحديث كلمات المرور يظلان الحل الأهم
ويرى بيلي أن التعامل مع ديدان الذكاء الاصطناعي يجب أن يعتمد بصورة أكبر على الإجراءات التي يستخدمها خبراء أمن الأنظمة منذ سنوات طويلة، بدلًا من البحث عن حلول استثنائية خاصة بالذكاء الاصطناعي.
ومن جانبه، قال كانال إنه سيكون من الصعب إضافة إجراءات حماية إلى نماذج الذكاء الاصطناعي ذات الأوزان المفتوحة Open-weight Models تمنعها بصورة كاملة من العمل كديدان إلكترونية.
وأضاف أن هناك العديد من الأفكار المطروحة، لكن لا توجد حتى الآن استراتيجية حماية قوية وموثوقة.
وفي إطار عمل شركة EquiStamp مع منظمة FAR.AI غير الربحية المتخصصة في أبحاث سلامة الذكاء الاصطناعي، توصلت الأبحاث إلى أن العديد من الاستراتيجيات التي يمكن العثور عليها عبر الإنترنت لإزالة إجراءات الحماية من النماذج تحقق نتائج فعلية.
لكن بيلي يشير إلى أن حتى الأنظمة الذكية التي تتصرف بصورة غير سليمة ستواجه صعوبة كبيرة إذا كانت تعمل في مواجهة أجهزة مؤمنة بشكل جيد.
ويرى أن الدرس الأهم من أبحاث أنثروبيك هو أن المؤسسات والمستخدمين لا يتذكرون باستمرار دروس الأمان التي تعلموها خلال السنوات الماضية.
ويؤكد أن حماية الأنظمة في عصر ديدان الذكاء الاصطناعي قد لا تختلف كثيرًا عن الإجراءات الحالية، والتي تشمل الاهتمام بتحديث الأجهزة وسد الثغرات الأمنية، وعزل الأنظمة عن بعضها، واستخدام كلمات مرور قوية، والالتزام بممارسات الحماية الأساسية.
ورغم سهولة وصف هذه الحلول، فإن تطبيقها يظل صعبًا في كثير من الأحيان، لكن انتشار هذا النوع من الهجمات بفعل الذكاء الاصطناعي قد يجعل الالتزام بها ضرورة لا يمكن تجاهلها.