الجارديان: مخاوف من مخاطر الذكاء الاصطناعي.. باحثون يحذرون من تهديدات كارثية

تصاعدت التحذيرات داخل شركة أنثروبيك المتخصصة في تطوير الذكاء الاصطناعي، بعدما أعلن عدد من الباحثين والموظفين مخاوفهم من المخاطر المحتملة للتقدم السريع في تطوير النماذج الذكية، وذلك بعد يوم واحد من إعلان الباحث السابق في الشركة جاكوب كوكسون استقالته بسبب ما وصفه بعدم مسؤولية الشركات العاملة في هذا المجال عن تطوير أنظمة الذكاء الاصطناعي.

وبحسب صحيفة “الجارديان” البريطانية، أثار كوكسون جدلًا واسعًا بعدما قال إنه قرر مغادرة أنثروبيك، وكذلك منافستها أوبن إيه آي، التي عمل فيها سابقًا، معتبرًا أن الشركتين لا تطوران نماذج الذكاء الاصطناعي بصورة مسؤولة، وأنهما «تقامران بحياتنا».

وأعلن باحثون وموظفون آخرون في أنثروبيك تأييدهم لمخاوف كوكسون، مؤكدين أن بعض العاملين داخل الشركة يرون أن التطور المتسارع للتكنولوجيا قد يقود إلى مخاطر بالغة، فيما يعتقد بعضهم أن نماذج الذكاء الاصطناعي قد تصل خلال سنوات إلى مستوى من الخطورة يهدد مستقبل البشرية.

باحثو السلامة يطالبون بإبطاء وتيرة التطوير

وقالت آنا وانغ، الباحثة في مجال سلامة الذكاء الاصطناعي العام في أنثروبيك، والتي عملت سابقًا في شركة ديب مايند التابعة لجوجل، إن عددًا من العاملين في الشركة يرغبون في إبطاء عملية تطوير النماذج، بهدف وضع خطة للتعامل مع المخاطر المحتملة.

وكتبت وانغ أن الشركة لا تمتلك حتى الآن خطة علمية قابلة للتطبيق لمعالجة المخاطر الناتجة عن ذكاء اصطناعي قادر على تحسين نفسه بصورة متكررة، في إشارة إلى المخاوف المتعلقة بإمكانية تطور قدرات الأنظمة بوتيرة تتجاوز قدرة البشر على السيطرة عليها.

وقال دريك توماس، وهو موظف آخر في أنثروبيك، إنه يحترم قرار كوكسون بالامتناع عن مواصلة تطوير هذه النماذج إذا كان يعتقد أنها قد تمثل خطرًا على مستوى الكوكب.

وأضاف توماس أن وتيرة التطور «سريعة للغاية»، مشيرًا إلى أن الباحثين لم يصلوا بعد إلى مستوى الضمانات التي يرغبون في تحقيقها قبل الوصول إلى ما يوصف بالذكاء الاصطناعي الفائق.

ماسك يصف التحذيرات بأنها «عملية نفسية»

واتخذ إيلون ماسك موقفًا أكثر تشككًا تجاه التحذيرات المتصاعدة، بعدما رد على الجدل عبر منصة «إكس»، وكتب تعليقًا مقتضبًا وصف فيه ما يحدث بأنه يبدو وكأنه «فخ».

ورد كوكسون على ماسك بصورة شخصية، مؤكدًا أنه شخص حقيقي وأن هذه المخاوف تمثل معتقداته الفعلية، مضيفًا أن ماسك كان يستطيع سؤال باحثي الذكاء الاصطناعي العاملين لديه عنه، قبل أن يشير إلى أن بعض هؤلاء الباحثين لم يعودوا يعملون معه.

وانتقلت المناقشات لاحقًا إلى اتهامات بوجود حملة منظمة تهدف إلى التأثير في الرأي العام بشأن الذكاء الاصطناعي، إذ بدأ ماسك وشخصيات محافظة أخرى في الترويج لنظرية مفادها أن موجة التحذيرات قد تكون جزءًا مما وصفوه بـ«عملية نفسية» تستهدف تشكيل موقف سلبي من التكنولوجيا.

وكتب ماسك أنه يعتقد أن الأساس لهذه «العملية النفسية» جرى إعداده منذ فترة طويلة، وأن منشور كوكسون كان بمثابة الشرارة التي أشعلت النقاش.

نظريات سياسية تثير جدلًا حول مستقبل الذكاء الاصطناعي

واستند ماسك في تعليقه إلى منشور للباحث في مركز «كابيتال ريسيرش» المحافظ باركر ثاير، الذي طرح، من دون تقديم أدلة، نظرية مفادها أن منشور كوكسون يمثل بداية حملة علاقات عامة واسعة وممولة جيدًا تهدف إلى حشد التأييد للديمقراطيين من أجل فرض قيود كبيرة على قطاع الذكاء الاصطناعي.

ولقي هذا الطرح اهتمامًا من شخصيات بارزة، من بينها بيل أكرمان، الرئيس التنفيذي الملياردير لصندوق التحوط «بيرشينغ سكوير»، الذي أعاد نشر منشور ثاير واكتفى بالتعليق بأنه «مثير للاهتمام».

موظفو أنثروبيك يكشفون عن حجم المخاوف الداخلية

وأكد موظفون آخرون في أنثروبيك مخاوفهم بعد إعلان كوكسون استقالته، في وقت بدت فيه التحذيرات أكثر وضوحًا من داخل فرق البحث المعنية بسلامة الذكاء الاصطناعي.

وقال صامويل ماركس، الباحث في مجال السلامة داخل الشركة، إن مطوري الذكاء الاصطناعي يعتقدون أن التكنولوجيا التي يعملون عليها قد تتسبب في انقراض البشرية أو تؤدي إلى نتائج شديدة السوء، وربما يحدث ذلك خلال السنوات القليلة المقبلة.

وأشار ماركس إلى أن مستوى القلق، وفق تقديره، يرتفع عمومًا كلما زادت خبرة الموظف في مجال تطوير الذكاء الاصطناعي.

وأكد إيفان هوبينجر، الذي يصف نفسه بأنه قائد في قسم التوافق داخل أنثروبيك، أن كوكسون كان محقًا في مخاوفه، معتبرًا أن صناعة الذكاء الاصطناعي لا تزال متأخرة في التعامل مع الإمكانات الكارثية لهذه التكنولوجيا.

وكتب هوبينجر أن العاملين في المجال يأخذون بجدية احتمال أن يؤدي الذكاء الاصطناعي إلى مقتل جميع البشر، مضيفًا أنه يعتقد شخصيًا أن احتمال وقوع مثل هذا السيناريو قد يتجاوز 10% خلال العقد المقبل.

خبراء يشككون في سيناريو انقراض البشرية

ولم تتضح بصورة كاملة الآلية التي يتوقع كوكسون وغيره أن تقود من خلالها نماذج الذكاء الاصطناعي إلى فناء البشرية، كما شكك بعض الخبراء في إمكانية وصول التكنولوجيا إلى مستوى من الذكاء يسمح لها بإحداث نهاية العالم.

وأبدى غاري ماركوس، العالم والباحث البارز في مجال الذكاء الاصطناعي، مخاوف مختلفة، داعيًا إلى مقاطعة التكنولوجيا، ومعتبرًا أن آثارها السلبية بدأت بالفعل في الظهور.

وقال ماركوس إنه يشعر بقلق أكبر من «خطر الكارثة» مقارنة باحتمال الانقراض المباشر، مشيرًا إلى مخاطر تشمل مسببات الأمراض التي يمكن أن يساعد الذكاء الاصطناعي في تطويرها، والحروب التي قد تبدأ أو تتصاعد نتيجة المعلومات المضللة التي تنتجها الأنظمة الذكية، إضافة إلى الاختراقات الإلكترونية التي يمكن أن تستهدف البنية التحتية الحيوية.

وأكد ماركوس أن ما شاهده حتى الآن لا يشير إلى أن هذه المخاطر أصبحت تحت السيطرة، في ظل استمرار التطور السريع للذكاء الاصطناعي.

وردت شركة أنثروبيك على الجدل بالتأكيد على أنها تدرك في الوقت نفسه الفوائد الكبيرة والمخاطر غير المسبوقة التي قد تنتج عن الذكاء الاصطناعي.

وقال متحدث باسم الشركة إن أنثروبيك كانت واضحة منذ البداية بشأن إمكانية أن يجلب الذكاء الاصطناعي فوائد هائلة إلى جانب مخاطر غير مسبوقة، مؤكدًا أن الشركة تواصل تطوير نماذج تتضمن بعضًا من أقوى إجراءات وضمانات السلامة في القطاع.

تقرير عن إحباط تطوير سلاح بيولوجي يكشف جانبًا آخر من المخاطر

وتزامن الجدل مع إصدار أنثروبيك تقريرًا وثق عملية قالت الشركة إنها نجحت خلالها في تفكيك محاولة لبناء سلاح بيولوجي باستخدام نماذج الذكاء الاصطناعي الخاصة بها.

وجاء التقرير في اليوم نفسه الذي تصاعدت فيه التحذيرات من المخاطر المرتبطة بالتكنولوجيا، ليضيف إلى النقاش حول قدرة نماذج الذكاء الاصطناعي الحديثة على المساهمة في أنشطة عالية الخطورة، وحول مدى قدرة الشركات المطورة لهذه النماذج على اكتشاف الاستخدامات الضارة ومنعها.

وبينما يرى باحثون داخل أنثروبيك أن التطور السريع يستدعي مزيدًا من الحذر والضمانات، يواصل آخرون التشكيك في بعض سيناريوهات الخطر القصوى، في وقت تحوّل فيه النقاش من المخاطر التقنية إلى سجال أوسع حول التنظيم والسياسة ومستقبل الذكاء الاصطناعي.