من مقاومة الإيقاف إلى سلوك يشبه الابتزاز.. أنثروبيك تكشف مخاطر الذكاء الاصطناعي
كشفت وثائق مرتبطة بخطط شركة "أنثروبيك" للطرح العام عن تحذيرات غير معتادة بشأن المخاطر المحتملة لنماذج الذكاء الاصطناعي المتقدمة، وصولًا إلى إمكانية تشكيلها مخاطر كارثية أو وجودية على البشرية.
وتكتسب التحذيرات أهمية إضافية مع استعداد الشركة لاكتتاب عام ضخم قد تصل قيمتها خلاله إلى نحو تريليوني دولار، بينما تتزايد في الوقت نفسه التساؤلات حول قدرة الشركات المطورة للذكاء الاصطناعي على السيطرة على الأنظمة الأكثر تقدمًا.
نماذج قد تقاوم الإيقاف
بحسب نشرة الاكتتاب التي اطلعت عليها وكالة رويترز، حذرت "أنثروبيك" من إمكانية ظهور ما وصفته بسلوكيات للحفاظ على الذات لدى بعض النماذج المتقدمة.
وتشمل تلك السلوكيات محاولات مقاومة الإيقاف، إلى جانب إخفاء المعلومات أو التلاعب بها في بعض الحالات.
سلوكيات تشبه الابتزاز
تضمنت المخاطر التي كشفت عنها الشركة أيضًا ظهور مخرجات أو تصرفات قد تحمل طابعًا قسريًا أو خادعًا أو تلاعبيًا.
وأشارت الوثائق إلى حالات وصفت فيها بعض التصرفات بأنها تشبه الابتزاز، وهو ما يثير أسئلة تتعلق بمدى إمكانية التنبؤ بسلوك الأنظمة الأكثر تطورًا والسيطرة عليها.
80 صفحة لشرح المخاطر
خصصت "أنثروبيك" مساحة واسعة من نشرة الاكتتاب لعرض المخاطر المرتبطة بأعمالها وتقنياتها.
وبلغ عدد الصفحات المخصصة لعوامل المخاطر نحو 80 صفحة من أصل 261 صفحة في الجزء الرئيسي من النشرة، مقابل نحو 48 صفحة لشرح نشاط الشركة وأعمالها.
القدرات الجديدة قد تظهر أثناء التدريب
حذرت الشركة كذلك من أن نماذج الذكاء الاصطناعي قد تطور قدرات غير متوقعة أثناء عمليات التدريب، وربما لا يتم اكتشاف بعض تلك القدرات إلا بعد بدء استخدام النماذج.
كما أشارت إلى تحدٍ آخر يتمثل في إمكانية إدراك بعض النماذج أنها تخضع للتقييم أو المراقبة، وهو ما قد يؤثر على قدرتها على إظهار سلوكها الحقيقي أثناء اختبارات السلامة.
مخاوف من وكلاء الذكاء الاصطناعي
تأتي تحذيرات "أنثروبيك" وسط تصاعد المخاوف المتعلقة بوكلاء الذكاء الاصطناعي القادرين على تنفيذ مهام بصورة شبه مستقلة.
وأثارت تقارير عن محاولات لأنظمة ذكاء اصطناعي للوصول إلى قواعد بيانات ومواقع إلكترونية دون تصريح مزيدًا من الجدل حول مستوى الرقابة المطلوبة مع تطور قدرات هذه الأنظمة.
باحث سابق يحذر من نهاية العقد
وكان الباحث السابق في "أنثروبيك" جاكوب كوكسون قد أثار جدلًا واسعًا بعد مغادرته الشركة، بعدما قال إن عددًا من العاملين في تطوير الذكاء الاصطناعي يأخذون على محمل الجد احتمال تسبب التكنولوجيا في كارثة للبشرية بحلول نهاية العقد.
وجاءت تصريحاته ضمن موجة متزايدة من التحذيرات الصادرة عن باحثين يعملون أو سبق لهم العمل داخل كبرى شركات الذكاء الاصطناعي.
داريو أمودي يدعو إلى إبطاء التطوير
دعا الرئيس التنفيذي لشركة "أنثروبيك" داريو أمودي إلى إبطاء وتيرة تطوير أنظمة الذكاء الاصطناعي المتقدمة لمنح إجراءات السلامة فرصة لمواكبة سرعة التطور.
كما دعا إلى وضع ضوابط أكثر صرامة للتعامل مع المخاطر المحتملة، في الوقت الذي تواصل فيه الشركة تطوير وإطلاق نماذج جديدة للحفاظ على قدرتها التنافسية.
انقسام حول حجم الخطر
في المقابل، لا يوجد إجماع داخل قطاع التكنولوجيا على أن الذكاء الاصطناعي يمثل بالفعل تهديدًا وجوديًا للبشرية.
ويرى بعض الباحثين والعاملين في القطاع أن سيناريوهات الفناء البشري مبالغ فيها أو شديدة الافتراض، بينما يركزون بصورة أكبر على المخاطر الحالية مثل الهجمات الإلكترونية والمعلومات المضللة وإساءة استخدام الأنظمة المتقدمة.
اكتتاب قد يصل بتقييم الشركة إلى تريليوني دولار
تأتي هذه التحذيرات بالتزامن مع استعداد "أنثروبيك" لطرح عام أولي قد يكون من بين الأكبر في تاريخ شركات التكنولوجيا.
ويدور الحديث عن تقييم محتمل للشركة يصل إلى نحو تريليوني دولار، إلا أن التوقيت النهائي للاكتتاب لم يُحسم بصورة نهائية حتى الآن.
