موظف سابق في OpenAI يحذر: الذكاء الاصطناعي أخطر من الانهيار النووي
قال ديفيد روبنسون، الموظف السابق في شركة OpenAI والمسؤول السابق عن قيادة كتابة تقارير السلامة التي كانت تُنشر بالتزامن مع إطلاق النماذج، إن تطوير الذكاء الاصطناعي المتقدم يحتاج إلى مستوى أعلى من الحذر والتخطيط، محذرًا من أن وتيرة إطلاق النماذج الجديدة لا تتيح الوقت الكافي لضمان السلامة.
تحذيرات من ثقافة السلامة في OpenAI
بعد مغادرته الشركة، كتب روبنسون مقالًا في مجلة The Atlantic حذر فيه من وجود ثقافة وصفها بأنها «منهارة» داخل الشركة، مشيرًا إلى المخاطر المرتبطة بالمسار الحالي لتطوير الذكاء الاصطناعي.
وأوضح روبنسون أن الشركة، مع انتقالها من إطلاق نموذج إلى آخر، لا تحقق مستوى العناية الذي يعتقد أنه ضروري، في ظل التوسع المستمر في تطوير نماذج الذكاء الاصطناعي المتقدمة.
وبدلًا من الإسراع في تطوير المزيد من نماذج الذكاء الاصطناعي المتقدمة، رأى روبنسون أن هذه الشركات يجب أن تتبع نماذج مشابهة لمحطات الطاقة النووية أو المطارات المزدحمة، والتي تعتمد على «طبقات من التكرار والتخطيط الدقيق والمستغرق للوقت»، بحيث لا يؤدي الخطأ البشري العرضي والحتمي إلى كارثة.
مقارنة مخاطر الذكاء الاصطناعي بالانهيار النووي
وقارن روبنسون حوادث عدم توافق الذكاء الاصطناعي مع أهداف البشر بالانهيار النووي، مشيرًا إلى أن OpenAI ومنافسيها لا يمتلكون المستوى نفسه من التكرار والصرامة الموجود في محطات الطاقة التي تعتمد على طبقات متعددة من الحماية.
وأضاف أن فقدان السيطرة على الذكاء الاصطناعي على نطاق واسع قد يؤدي إلى أضرار أكبر بكثير من الأضرار الناتجة عن حادث انهيار نووي واحد.
ولا يقتصر القلق بشأن وتيرة تطوير الذكاء الاصطناعي على روبنسون وحده، إذ لفت الرئيس التنفيذي لشركة Anthropic، داريو أمودي، مؤخرًا الانتباه إلى المسار المثير للقلق الذي تسير فيه عملية تطوير الذكاء الاصطناعي، من خلال مقترح من ثلاث خطوات يهدف إلى إبطاء وتيرة التطوير.
مخاوف بشأن اختبار توافق نماذج الذكاء الاصطناعي
وبعيدًا عن إجراءات الحماية وعمليات التدقيق، قال الموظف السابق في OpenAI إن قضية «توافق» الذكاء الاصطناعي تحمل أهمية «لا يمكن أن تكون أكبر».
وصف روبنسون سيناريو يمكن أن تفهم فيه أحدث نماذج الذكاء الاصطناعي أنها تخضع لاختبارات للتأكد من توافقها، فتقدم أداءً جيدًا وتحصل على نتائج مرتفعة في بيئات الاختبار، لكنها تتصرف بطريقة مختلفة تمامًا عند تشغيلها في بيئة حقيقية.
وترتبط مخاوف روبنسون بعدد من الحوادث التي وقعت مؤخرًا، والتي خرجت فيها وكلاء الذكاء الاصطناعي من بيئات الاختبار الخاصة بها ووصلت إلى مؤسسات أخرى، متجاوزة بشكل كبير نطاق العمل الذي تم تحديده لها.
الذكاء الاصطناعي يحتاج إلى ضوابط أكثر صرامة
وتشير تصريحات الموظف السابق في OpenAI إلى الجدل المتزايد حول الطريقة التي يتم بها تطوير نماذج الذكاء الاصطناعي المتقدمة، خصوصًا مع زيادة قدراتها واستقلاليتها.
ويرى روبنسون أن التعامل مع هذه الأنظمة يحتاج إلى إجراءات أكثر صرامة، وطبقات متعددة من الحماية، واختبارات دقيقة قبل إطلاق النماذج الجديدة على نطاق واسع.
وتأتي هذه التحذيرات في وقت تتسابق فيه شركات التكنولوجيا الكبرى لتطوير نماذج ذكاء اصطناعي أكثر قدرة، مع استمرار النقاش حول كيفية تحقيق التوازن بين سرعة الابتكار ومتطلبات السلامة.