الذكاء الاصطناعى «متهم» فى حريق سنترال رمسيس

المقطاع المزيفه زادت من ضخامه الحدث ونشرت الاكاذيب

كشفت الأحداث الأخيرة، خاصة حريق سنترال رمسيس، كيف أصبح للذكاء الاصطناعى دورا كبيرا فى كل حادث مهما كان حجمه، فقد ظهرت صور وفيديوهات مفبركة من خلال هذه التكنولوجيا الجديدة، مؤكدة أن هذا الأمر أصبح فى حاجة للسيطرة.

فبعد أن اشترك الذكاء الاصطناعى فى تأليف الشعر والموسيقى والأغانى والروايات وصنع سيناريو الأفلام، ورسم اللوحات الفنية، أصبح الآن يزيف الحقائق ويوجه الرأى العام.

وبدلا من أن يصبح دوره قاصرا على الهدف الذى خُلق من أجله وهو مساعدة البشر فى مجالات التكنولوجيا والطب والصناعة وما إلى ذلك، أصبح له دور أكبر فى بث الشائعات ونشر فيديوهات مضللة لإثارة المزيد من البلبلة، وذلك أصبح للذكاء الإصطناعى وجهان، أحدهما مفيد للبشر والآخر ضار على المجتمعات، وأصبح لزاما علينا أن ننجح فى التفرقة بينهما. 

فخلال الفترة الأخيرة شهد العالم انتشار استخدام الذكاء الاصطناعى فى العديد من المجالات، وشهدت الصين إنشاء أول مستشفى يدار بالكامل بالذكاء الاصطناعى، دون وجود موظفين بشريين، فجميع العاملين روبوتات، بداية من موظفى الإدارة وصولا لطاقم التمريض والأطباء، ويعرف المستشفى باسم «المستشفى الوكيل»، ويعمل به 14 طبيبا افتراضيا مدعومين بالذكاء الاصطناعى، والمستشفى قادر على علاج أكثر من 3000 مريض يوميا.

وإذا كان هذا المستشفى نموذج للجانب المشرق فى استخدام الذكاء الاصطناعى لخدم البشر، فهناك جانب آخر سيئ شاهدناه فى كل الأحداث السيئة وهو استخدام هذه التكنولوجيا لتضليل الرأى العام وبث صور وفيديوهات على غير الحقيقة، وهو ما حدث فى حريق سنترال رمسيس وفى كل الحوادث التى سبقته.

سلاح ذو حدين

وكشف محمد محسن رمضان، مستشار الأمن السيبرانى ومكافحة الجرائم الالكترونية، عن دور الذكاء الاصطناعى فى التزييف قائلا: «رغم أنه يعد أحد أهم التقنيات الحديثة التى أحدثت نقلة نوعية فى شتى المجالات، بدءًا من الرعاية الصحية والتعليم، وصولًا إلى الأمن القومى والاقتصاد الرقمى، ورغم الفوائد العظيمة التى يقدمها، فإن له جانبًا مظلمًا يتمثل فى تقنيات مثل التزييف العميق (Deep Fake)، التى تُستخدم لخداع الجماهير ونشر الشائعات وانتحال الشخصيات العامة، بل وتجاوز الأنظمة الأمنية بسهولة، ومع تطور هذه التقنيات، تسعى الحكومات، ومنها مصر، إلى وضع استراتيجيات متكاملة لمواجهة تحديات الذكاء الاصطناعى، وضمان استخدامه فى تحقيق التنمية المستدامة بدلًا من استغلاله فى الجرائم الإلكترونية والتضليل الإعلامى».

ولفت «محسن» إلى أنه مع تزايد انتشار الذكاء الاصطناعى أصبح أداة خطيرة، حيث تستهدف الشخصيات العامة والسياسيين، من خلال إنشاء مقاطع فيديو مزيفة لمسئولين وقادة سياسيين، مما قد يؤدى إلى انتشار أخبار مضللة تؤثر على الاستقرار السياسى والاقتصادى للدول، والاحتيال الإلكترونى وانتحال الهوية، كما يمكن استخدامه لاختراق الأنظمة الأمنية التى تعتمد على التعرف على الوجوه، ونشر الشائعات والتضليل الإعلامى، وإنشاء أخبار كاذبة مدعمة بصور ومقاطع فيديو مزيفة، مما يسهم فى توجيه الرأى العام وإثارة الفتن، والتحايل على الأنظمة الأمنية فى تزوير البصمات الرقمية والصوت والصورة، ما يؤدى إلى اختراق الأنظمة الأمنية الحساسة، سواء فى المؤسسات الحكومية أو الشركات.

وأشار الخبير السيبرانى إلى أنه رغم خطورة هذه التقنية، فإن الذكاء الاصطناعى يمكن أن يكون أداة قوية لمكافحتها عبر الخوارزميات المضادة، أى تطوير أدوات تعتمد على تحليل البيكسلات والإطارات للكشف عن التعديلات المزيفة فى الفيديوهات والصور، ووضع علامات مائية غير مرئية على المحتوى الأصلى لضمان مصداقيته، وتحليل حركات الوجه والصوت، حيث تتميز الفيديوهات المزيفة بأخطاء طفيفة فى تعبيرات الوجه وتناسق الصوت، والتى يمكن كشفها باستخدام الذكاء الاصطناعى، كما تقوم بعض الأنظمة بتحليل البيانات واكتشاف الأنشطة المشبوهة، مما يساعد فى التصدى لمحاولات الاحتيال الإلكترونى والتلاعب بالمعلومات، ولا ننسى الاستراتيجية الوطنية للذكاء الاصطناعى فى مصر ودور المجلس الأعلى للذكاء الاصطناعى، والتى جاءت استجابةً لهذه التحديات، بهدف تسخير هذه التكنولوجيا فى التنمية المستدامة، وتعزيز القدرة على مواجهة المخاطر المرتبطة بها.

ونوه «محسن» إلى أن الذكاء الاصطناعى، يعزز الدعاية الإرهابية، إذ تستخدمه بعض الجماعات بشكل متزايد لتطوير استراتيجيات دعائية معقدة تهدف إلى التأثير على الأفراد فى مختلف أنحاء العالم، من خلال أدوات مثل معالجة اللغة الطبيعية (NLP) وخوارزميات التوصية، لتتمكن من إنشاء محتوى مرن وقابل للتخصيص يمكن أن يتناسب مع اهتمامات وتوجهات الأفراد المستهدفين، ولا ننسى التهديدات السيبرانية الذكية، حيث يوفر الذكاء الاصطناعى إمكانيات هائلة لتطوير البرمجيات الخبيثة مثل الفيروسات، الديدان، والبرامج الضارة التى يمكنها التعلم والتكيف مع محاولات الكشف أو الحماية، وتتيح هذه البرمجيات الخبيثة للجماعات الإرهابية تنفيذ هجمات ضد البنى التحتية الحيوية، مثل أنظمة الطاقة والمياه، أو فى القطاعات المالية لزعزعة الاستقرار الاقتصادى، بالإضافة إلى استخدام الطائرات بدون طيار المزودة بتقنيات الذكاء الاصطناعى لتنفيذ هجمات دقيقة على أهداف استراتيجية.

وطالب «محسن» بضرورة تعزيز التعاون الدولى فى مكافحة الإرهاب الرقمى، حيث يتطلب التصدى لهذا التهديد تحالفًا دوليًا بين الحكومات، الشركات التكنولوجية، ومراكز الأبحاث الأكاديمية، لضمان تبادل المعلومات وتنسيق الجهود لمكافحة الإرهاب الرقمى، كما يجب على الدول تبنى تشريعات أكثر صرامة لتنظيم استخدام تقنيات الذكاء الاصطناعى، وفرض عقوبات على أولئك الذين يستغلون هذه التقنيات لأغراض إرهابية، وعلى النطاق المحلى، كانت هناك محاور للاستراتيجية الوطنية للذكاء الاصطناعى فى مصر، من حيث تطوير البنية التحتية الرقمية لدعم البحث والابتكار فى مجال الذكاء الاصطناعى، وإنشاء برامج تدريبية وتأهيلية لتنمية الكوادر المتخصصة فى تقنيات الذكاء الاصطناعى، وتعزيز التعاون الدولى مع الدول المتقدمة فى هذا المجال، ووضع سياسات تنظيمية لضمان الاستخدام الأخلاقى والمسئول لتطبيقات الذكاء الاصطناعى، وتعزيز الأمن السيبرانى من خلال تطبيق تقنيات الذكاء الاصطناعى لمواجهة الهجمات الإلكترونية والتزييف العميق.

وتابع، يعتبر المجلس الأعلى للذكاء الاصطناعى فى مصر هو الجهة الرئيسية المنوط بها وضع السياسات والاستراتيجيات الخاصة بالذكاء الاصطناعى، ويهدف إلى متابعة تنفيذ الاستراتيجية الوطنية للذكاء الاصطناعى لضمان تحقيق الأهداف المرجوة، ومراقبة التهديدات السيبرانية ووضع آليات لحماية البيانات والمؤسسات الحيوية من الهجمات الإلكترونية، وتنظيم استخدام الذكاء الاصطناعى فى الإعلام والتكنولوجيا لمنع التزييف العميق وحماية الوعى المجتمعى، وتعزيز الشراكة بين القطاعين العام والخاص لدعم الابتكار التكنولوجى ومواكبة التطورات العالمية. 

تغيير مسار الأحداث

وأشار محمد سعد، خبير التكنولوجيا والمعلومات، إلى أنه من أهم مخاطر الذكاء الاصطناعى، تزوير التاريخ، خاصة فى ظل القدرة على تعديل الصور والفيديوهات بشكل متقدم باستخدام تقنيات مثل «الديب فيك»، حيث يمكن استخدام هذه التقنيات لتغيير الحقائق أو التلاعب بها، مما يؤدى إلى تضليل الرأى العام وتغيير مسار الأحداث التاريخية أو السياسية، ولمواجهة تلك المشكلة، لابد من تطوير أدوات ذكاء اصطناعى قادرة على الكشف عن التعديلات المضللة فى المحتوى، وإنشاء قواعد بيانات تاريخية مُعتمدة لمقارنتها مع المحتوى الحديث للتأكد من صحته.

وتابع «سعد»، لا ننسى أن الذكاء الاصطناعى يمكن أن يُستخدم فى تسهيل عمليات القرصنة الإلكترونية عبر تحليل البيانات بشكل أسرع وأكثر دقة من البشر، كما يمكن للهجمات السيبرانية المعتمدة على الذكاء الاصطناعى أن تتجاوز الأنظمة الأمنية التقليدية، مما يعرض المؤسسات والأفراد لمخاطر سرقة البيانات الشخصية والمالية الحساسة، ولمواجهته يجب استخدام تقنيات الذكاء الاصطناعى فى تحسين أنظمة الأمن الإلكترونى من خلال كشف الهجمات فى وقت مبكر، وتعزيز قوانين الحماية الإلكترونية لضمان حماية البيانات بشكل فعال.

ولفت الخبير السيبرانى، إلى أن هناك تقنيات من «الديب فيك»، تتيح إنشاء فيديوهات وصور مزيفة باستخدام الذكاء الاصطناعى، ويمكن أن تُستخدم لتزوير الأقوال أو الأفعال لشخصيات عامة أو أفراد، مما يهدد سمعة الأفراد ويؤثر على الأحداث السياسية، كما يصبح من الصعب أحيانًا تمييز الحقيقة من الخيال فى العالم الرقمى، لذا وجب تطوير أدوات للتعرف على المحتوى المزيف وفرض قوانين صارمة لمعاقبة من يُنتج هذه المواد، ونشر الوعى بين الجمهور حول كيفية التحقق من صحة المحتوى الرقمى.

ونوه إلى خطورة انتحال الشخصيات والأصوات، فمن الممكن إنشاء نسخ مزيفة من الصوت البشرى، وبالتالى يمكن استغلال هذه التقنية فى انتحال صفة شخصيات مشهورة لأغراض احتيالية أو لتوجيه الرأى العام بشكل ضار، لذا يجب استحداث تقنيات تشفير للبيانات الصوتية بحيث يمكن التحقق من صحتها، واستخدام الذكاء الاصطناعى للكشف عن التلاعب الصوتى، مشيرًا إلى أن منظمات دولية مثل «الأمم المتحدة» و«الاتحاد الأوروبى» تسعى لوضع لوائح تنظيمية للتعامل مع مخاطر الذكاء الاصطناعى، فالاتحاد الأوروبى يعمل على تطوير «القانون الخاص بالذكاء الاصطناعي» الذى يهدف إلى تقنين استخدام هذه التكنولوجيا وتوفير إطار قانونى لمكافحة إساءة استخدامها.

أما على المستوى المحلى، فقد أشار إلى أن الحكومة والجهات المعنية بدأوا بالتركيز على التحديات المتعلقة بالذكاء الاصطناعى، حيث تم تبنى بعض المبادرات مثل «إستراتيجية التحول الرقمي» التى تهدف إلى تعزيز الأمن السيبرانى وحماية البيانات، كما يتعين على مصر تطوير آليات واضحة للتعامل مع التهديدات الناتجة عن الذكاء الاصطناعى، مثل إنشاء قوانين لحماية الخصوصية والمحتوى الرقمى، أما الأدوات التى يمكن استخدامها فى مكافحة تلك المخاطر فهى البرمجيات القادرة على كشف التزوير مثل تقنيات «التحليل الرقمي» للكشف عن الصور والفيديوهات المزيفة، وأنظمة الحماية السيبرانية المتطورة، لاكتشاف الأنشطة المشبوهة وحماية البيانات، وزيادة الوعى بين الأفراد حول كيفية التحقق من المحتوى الرقمى والابتعاد عن الخداع.

انتشار المعلومات المضللة

ومن جانبه، قال محمد أنصارى، خبير تكنولوجيا المعلومات والذكاء الاصطناعى، إنه نظرا لاستخدام الذكاء الاصطناعى فى مجال التزييف ونشر المعلومات المضللة، فلابد من وضع ضوابط وقوانين دولية ومحلية لضمان الاستخدام الأخلاقى والآمن للذكاء الاصطناعى، مشيرا إلى أن مصر تحتاج إلى التركيز على تطوير البنية التحتية وتعزيز المحتوى العربى لمنافسة الهيمنة العالمية، بالإضافة إلى دور الإعلام فى توعية الجمهور عبر نشر معلومات دقيقة وتعزيز الحوار المجتمعى، فضلًا عن أهمية التعاون مع الخبراء والجهات الحكومية لتعزيز الفهم والتعامل مع هذه التكنولوجيا.

مواجهة

وتحدث الدكتور عبد الوهاب الراعى، أستاذ الإدارة الاستراتيجية بجامعة الدلتا للعلوم والتكنولوجيا، عن دور سلطات الدولة فى مواجهة فوضى استخدام الذكاء الاصطناعى، موضحا أن الدولة قامت بإطلاق الاستراتيجية الوطنية للذكاء الاصطناعى فى يوليو 2021، كما تم إطلاق الميثاق المصرى للذكاء الاصطناعى المسئول فى أبريل 2023 لبلورة الأطر التنظيمية للاستخدام الأخلاقى والمسئول للتقنيات الذكية فى المجتمع، مشيدًا بدور مصر فى صياغة العديد من المبادئ التوجيهية الأخلاقية للذكاء الاصطناعى فى منظمات دولية مختلفة مثل منظمة التعاون الاقتصادى والتنمية، ومنظمة اليونسكو، ومجموعة العشرين، وكذلك قيادتها لفرق تعمل على توحيد التوصيات الأخلاقية للذكاء الاصطناعى على المستوى الإقليمى داخل الاتحاد الإفريقى وجامعة الدول العربية، مطالبًا بتعزيز الإطار القانونى والأخلاقى والأمن الفكرى بالمناهج التعليمية والتدريب وغيرها بهدف دعم ثقافة التطوير والتحصين الذهنى والنفسى للنشء والشباب من سلبياته والاستخدام الإيجابى لتقنيات الذكاء الاصطناعى، والتطوير المستمر لمناهج التعليم لمعالجة القضايا المستجدة بشكل عام، ومنها تواجد أنظمة ذكاء اصطناعى مسئولة تراعى معايير العدالة والشفافية، وضرورة قيام المجتمع الدولى ومنظماته المعنية بمسئولياتها لمواجهة التهديدات والمخاطر الأمنية والاجتماعية الناجمة عن سلبيات الذكاء الاصطناعى.

وأكد «الراعى» على ضرورة الاستفادة من ايجابيات الذكاء الاصطناعى، وتفادى مخاطره ومنها الجرائم الإلكترونية، والبطالة فمستقبلا سيؤدى إلى استبدال البشر بالآلات ما يهدد الوظائف التقليدية، بالإضافة إلى انتهاك الخصوصية، كما أنه يعتبر وسيلة ميسرة لمروجى الشائعات، وقد تمتلك شركات التكنولوجيا الكبرى قدرات هائلة فى تطوير الذكاء الاصطناعى، مما يزيد من احتكارها للأسواق وإضعاف الشركات الصغيرة والمتوسطة، كما توجد بعض التقنيات وأجزاء من النت المظلم يتم استخدامهم فى جرائم منظمة وعدد من تطبيقات الدارك ويب، مثل جرائم جلب وتهريب المخدرات والآثار وتجارة السلاح والأعضاء البشرية وجرائم القتل والاغتصاب المصورة بأدوات وأساليب مختلفة لبثها على ذوى الشذوذ وغيرها من الجرائم التى تستخدم فيها تطبيقات الذكاء الاصطناعى بشكل مباشر أو غير مباشر.