مشروع قانون جديد لحماية الأطفال من مخاطر العالم الرقمي.. ضوابط للذكاء الاصطناعي ومواجهة التزييف العميق

مع التطور المتسارع في وسائل التكنولوجيا والانتشار الواسع لمنصات التواصل الاجتماعي، أصبحت البيئة الرقمية جزءًا أساسيًا من الحياة اليومية للأطفال والأسر والمجتمع، إلا أن هذا التطور حمل في المقابل مجموعة من المخاطر الجديدة التي يصعب التعامل معها بالآليات التقليدية، خاصة مع ظهور تقنيات الذكاء الاصطناعي القادرة على إنتاج صور وأصوات ومقاطع فيديو تبدو حقيقية رغم أنها مصطنعة بالكامل.

 ومع تزايد استخدام هذه التقنيات في انتحال الشخصيات ونشر المعلومات المضللة والتشهير والابتزاز، برزت الحاجة إلى وضع إطار تشريعي يوازن بين حرية استخدام التكنولوجيا وحماية المجتمع من إساءة استخدامها.

وفي هذا السياق، يتضمن مشروع قانون «حماية الطفل من المؤثر الرقمي وتنظيم وسائل التواصل الرقمية»، المقدم من النائب مصطفى البهي، أمين سر لجنة الصناعة بمجلس النواب، مجموعة من الضوابط التي تستهدف مواجهة مخاطر الذكاء الاصطناعي والتزييف العميق، إلى جانب وضع قواعد أكثر تنظيمًا لاستخدام منصات التواصل الاجتماعي، مع التركيز بصورة خاصة على حماية الأطفال من المحتوى الضار والاستغلال الرقمي.

ويستهدف مشروع القانون وضع إطار تشريعي للتعامل مع المحتوى المصطنع أو المعدل باستخدام تقنيات الذكاء الاصطناعي، خاصة عندما يكون من شأنه إيهام الجمهور بأنه محتوى حقيقي، وذلك في ظل قدرة التقنيات الحديثة على محاكاة ملامح الأشخاص وأصواتهم وإنتاج تصريحات أو وقائع لم تحدث على أرض الواقع.

حظر انتحال صور وأصوات الأشخاص بالذكاء الاصطناعي

ويتضمن مشروع القانون ضوابط تحظر استخدام تقنيات الذكاء الاصطناعي في انتحال صور أو أصوات الأشخاص، أو اختلاق وقائع وتصريحات ونسبتها إليهم دون مشاركتهم أو موافقتهم، بما يستهدف الحد من مخاطر التزييف العميق وحماية الأفراد من استغلال هوياتهم الرقمية في إنتاج محتوى مضلل أو مسيء.

كما يلزم المشروع الجهات المعنية بالإفصاح عن المحتوى المصطنع أو المعدل تقنيًا، متى كان من شأنه أن يوهم الجمهور بأنه حقيقي، بما يساعد المستخدمين على التمييز بين المحتوى الأصلي والمحتوى الذي تم إنتاجه أو تغييره باستخدام تقنيات الذكاء الاصطناعي.

مواجهة الابتزاز والتشهير والتنمر

ولا يقتصر مشروع القانون على تنظيم استخدام الذكاء الاصطناعي، وإنما يمتد إلى مواجهة مجموعة من الجرائم والممارسات التي أصبحت أكثر انتشارًا عبر منصات التواصل الاجتماعي، وفي مقدمتها الابتزاز والتشهير والتنمر وانتهاك الخصوصية ونشر الصور أو المعلومات الشخصية دون موافقة أصحابها.

ويتناول المشروع ما وصفه بـ«المبارزات الرقمية»، التي تتحول خلالها الخلافات الشخصية أو الأسرية إلى حملات متبادلة للتشهير ونشر الأسرار والصور الخاصة والاتهامات عبر منصات التواصل، مؤكدًا أن حرية التعبير لا يمكن أن تكون غطاءً للابتزاز أو الإهانة أو تلفيق الاتهامات أو إقامة ما يشبه «المحاكمات الرقمية» بعيدًا عن الأطر القانونية.

إجراءات عاجلة لوقف الضرر الرقمي

ويتضمن مشروع القانون إجراءات تستهدف الحد من استمرار الضرر الناتج عن الجرائم الرقمية، من بينها إزالة المحتوى محل الجريمة أو تعطيله مؤقتًا، ومنع إعادة نشره، إلى جانب إمكانية تعطيل الحساب المستخدم في استمرار الجريمة عند الضرورة، مع الحفاظ على الأدلة والبيانات الرقمية التي يمكن الاستناد إليها في التحقيقات والإجراءات القضائية.

كما يلزم المشروع المنصات الرقمية بتنفيذ الأحكام والأوامر القضائية، إلى جانب أوامر النيابة العامة المختصة، بما يضمن سرعة التعامل مع المحتوى المخالف وعدم السماح باستمرار انتشاره أو إعادة تداوله على نطاق واسع خلال فترة التحقيق أو نظر القضية.

شفافية المنصات والخوارزميات

ويضع مشروع القانون مجموعة من الالتزامات على المنصات الرقمية، تتعلق بالشفافية في إدارة المحتوى والإعلانات والخوارزميات المستخدمة، بما يسمح بقدر أكبر من الرقابة على آليات عمل المنصات وطريقة ظهور المحتوى للمستخدمين.

كما يتضمن المشروع إلزام المنصات بتعيين ممثل قانوني داخل الدولة، وتوفير آليات واضحة وسهلة لتلقي البلاغات المتعلقة بالمحتوى المخالف، إلى جانب رصد المحتوى الذي قد يشكل خطرًا على المستخدمين أو يخالف القواعد المنظمة للفضاء الرقمي.

التصنيف والتحقق العمري لحماية الأطفال

ويولي مشروع القانون اهتمامًا خاصًا بحماية الأطفال من مخاطر المحتوى الرقمي، من خلال تطبيق آليات للتصنيف والتحقق من العمر، بما يحد من وصول القُصّر إلى المحتوى غير المناسب لأعمارهم، ويعزز دور الرقابة الأبوية في متابعة ما يتعرض له الأطفال عبر المنصات المختلفة.

كما يستهدف المشروع مواجهة استغلال الأطفال في صناعة المحتوى الربحي، خاصة عندما يتحول الطفل إلى أداة لجذب المشاهدات وتحقيق الأرباح، إلى جانب التصدي للمحتوى الذي قد يؤثر سلبًا على سلوك الأطفال أو يعرضهم للاستغلال أو العنف.

منصة لتنظيم صناع المحتوى

ويتضمن مشروع القانون إنشاء منصة رقمية لتسجيل صناع المحتوى والمؤثرين، بهدف تنظيم النشاط المهني والربحي في هذا المجال، وتعزيز قواعد الشفافية والمساءلة، بما يسمح بوجود إطار أكثر وضوحًا للتعامل مع النشاط الرقمي الذي أصبح يمثل قطاعًا مؤثرًا في الاقتصاد والإعلام والمجتمع.

كما ينص المشروع على إنشاء اللجنة الوطنية لتنظيم المحتوى الرقمي، بمشاركة عدد من الجهات المعنية، من بينها المجلس الأعلى لتنظيم الإعلام، والمجلس القومي للطفولة والأمومة، والجهاز القومي لتنظيم الاتصالات، بهدف تنسيق الجهود المرتبطة بتنظيم المحتوى وحماية المستخدمين، خاصة الأطفال.

ويشدد مشروع القانون على ضرورة حماية الأطفال من المحتوى الذي قد يمثل تهديدًا لسلامتهم أو يؤثر في سلوكهم، بما يشمل المحتوى المحرض على العنف والقمار الإلكتروني، إلى جانب مواجهة الخوارزميات التي يمكن أن تدفع القُصّر بصورة متكررة نحو محتوى ضار أو غير مناسب لأعمارهم.

ويأتي مشروع القانون في إطار محاولة وضع قواعد تتناسب مع التطورات المتلاحقة في البيئة الرقمية، خاصة مع اتساع استخدام الذكاء الاصطناعي وصعوبة التمييز أحيانًا بين المحتوى الحقيقي والمصطنع، بما يجعل حماية الهوية والخصوصية والأطفال مسؤولية مشتركة بين الدولة والمنصات والمستخدمين.