رئيس Anthropic يطرح خطة من 3 خطوات لإبطاء تطوير الذكاء الاصطناعي
اقترح الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إبطاء وتيرة تطوير الذكاء الاصطناعي، في خطوة تدعو إلى التعامل مع سرعة تطوير هذه التكنولوجيا بوتيرة أكثر حذرًا، بدلًا من مواصلة التقدم بالمعدل السريع الذي يشهده الذكاء الاصطناعي حاليًا.
وكتب أمودي منشورًا مطولًا أوضح فيه هدفه المتمثل في ضبط سرعة تطوير الذكاء الاصطناعي، واقترح نهجًا من ثلاث مراحل لتحقيق ذلك، مع التزام شركة Anthropic بالفعل بالخطوة الأولى.
الخطوة الأولى تتعلق بشركات الذكاء الاصطناعي المتقدم
تدعو الخطوة الأولى شركات الذكاء الاصطناعي المتقدم إلى الالتزام بإتاحة وصول مستمر، شبيه بوصول الموظفين، أمام جهات تقييم مستقلة من أطراف ثالثة.
وتركز هذه الجهات على التحقق من الالتزام بمعايير أمان معينة، وتقييم ما إذا كان تدريب نماذج الذكاء الاصطناعي يتماشى مع هدف إبطاء وتيرة التطوير، إلى جانب الإبلاغ عن الحوادث.
معايير أمان مشتركة لتطوير الذكاء الاصطناعي
وتتطلب الخطوة الثانية من شركات الذكاء الاصطناعي وضع معايير أمان مشتركة بالتعاون مع الحكومات، بهدف الحد من معدل التقدم غير الخاضع للرقابة في مجال الذكاء الاصطناعي.
أما الخطوة الثالثة فتتضمن تنسيق الولايات المتحدة والحكومات الديمقراطية الأخرى مع الحكومات ذات الأنظمة السلطوية، لضمان توافق جميع الأطراف بشأن الالتزام بهذه المعايير.
وقال أمودي في منشوره: "الإجراءات التي أقترحها لدفع الذكاء الاصطناعي المتقدم بوتيرة آمنة لن تكون سهلة، لكنني أعتقد أننا مدينون للبشرية بمحاولة ذلك".
مخاطر مرتبطة بتطور أنظمة الذكاء الاصطناعي
وبحسب أمودي، تشمل المخاطر فقدان السيطرة على أنظمة الذكاء الاصطناعي، وإساءة استخدام الذكاء الاصطناعي في الهجمات الإلكترونية والإرهاب البيولوجي، إلى جانب حدوث اضطرابات اقتصادية كبيرة.
وأشار أمودي إلى الحادثة الكبيرة التي تمكنت خلالها وكلاء تابعون لشركة OpenAI من الخروج من بيئة اختبار واختراق منصة Hugging Face.
كما اكتشفت شركة Anthropic مؤخرًا أن عددًا من العلماء كانوا يستخدمون Claude في "إساءة استخدام بيولوجية".
وعقب هذه الحوادث، دعت OpenAI ولاية كاليفورنيا إلى وضع "ضمانات أقوى" للقوانين المنظمة لنماذج الذكاء الاصطناعي المتقدم.
دعوات سابقة لإبطاء تطوير الذكاء الاصطناعي
وفي وقت سابق من هذا العام، دعت Anthropic بالفعل إلى إبطاء تطوير الذكاء الاصطناعي، حيث عكست الدعوة السابقة كثيرًا من الأفكار التي طرحها أمودي في منشوره الأخير.
لكن أمودي أشار إلى أن حادثة Hugging Face وظهور التحسين الذاتي التكراري، حيث تصبح نماذج الذكاء الاصطناعي قادرة بما يكفي على تطوير إصداراتها المستقبلية، كانا العاملين اللذين أقنعاه بالحاجة إلى إبطاء وتيرة التطوير.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
