الذكاء الاصطناعي يثير مخاوف جديدة.. نماذج تتجاوز الحماية وتحذيرات من فقدان السيطرة

 يشهد قطاع الذكاء الاصطناعي موجة متصاعدة من التحذيرات بشأن مخاطر تطوير نماذج أكثر قدرة، بعدما كشفت اختبارات وتقارير حديثة عن تمكن بعض الأنظمة من تجاوز إجراءات الحماية، وتنفيذ مهام داخل أنظمة إلكترونية دون علم الجهات المعنية، ما أعاد إلى الواجهة الجدل حول مدى قدرة المطورين على مراقبة هذه النماذج والسيطرة عليها.

 وتزايدت التحذيرات من داخل شركات الذكاء الاصطناعي نفسها، مع دعوات إلى مراجعة سرعة تطوير النماذج المتقدمة، وسط مخاوف من أن تتجاوز قدرات الأنظمة الجديدة إمكانات الرقابة المتاحة حاليًا، فيما يرى بعض الباحثين أن الوصول إلى مرحلة الذكاء الاصطناعي العام «AGI» ربما أصبح أقرب مما كان متوقعًا.

 ويشير مفهوم الذكاء الاصطناعي العام إلى أنظمة قادرة على تنفيذ مجموعة واسعة من المهام بمستوى يقترب من القدرات البشرية أو يتجاوزها، وهو ما يدفع باحثين إلى التحذير من أن التوسع السريع في قدرات هذه الأنظمة قد يجعل اكتشاف أخطائها ومعالجتها أكثر صعوبة.

 وتصاعد الجدل بعد الكشف عن اختبارات تمكن خلالها وكلاء للذكاء الاصطناعي من اختراق أنظمة إلكترونية في بيئات اختبار، دون علم الجهات المعنية في البداية، كما ظهرت لاحقًا تقارير عن حالات أخرى أثارت تساؤلات بشأن مدى قدرة المطورين على التحكم في الأنظمة عندما تعمل بصورة أكثر استقلالية.

 وفي الوقت نفسه، برزت خلافات داخل قطاع التكنولوجيا بشأن سرعة التطوير، إذ دعا عدد من قادة شركات الذكاء الاصطناعي إلى تعزيز الاختبارات المستقلة وإجراءات السلامة، بينما يرى آخرون أن إبطاء التطوير قد يضر بالتقدم التكنولوجي والمنافسة العالمية.

 وتزامنت هذه المخاوف مع سباق متسارع بين شركات التكنولوجيا لإطلاق نماذج أكثر تطورًا، وسط توقعات باستمرار ضخ استثمارات ضخمة في القطاع، رغم المخاوف المتعلقة بالسلامة والرقابة.

 وفي الولايات المتحدة، لا تزال المناقشات بشأن تنظيم الذكاء الاصطناعي مستمرة، بينما تتبع الصين نهجًا يعتمد على متطلبات للسلامة وتقييمات أمنية واختبارات للأنظمة المتقدمة.

 ورغم تصاعد التحذيرات، تستمر شركات الذكاء الاصطناعي في تطوير نماذج جديدة وجذب استثمارات ضخمة، ما يجعل الجدل حول التوازن بين سرعة الابتكار وضمان السيطرة على التكنولوجيا من أبرز الملفات المطروحة داخل قطاع التكنولوجيا.