أنثروبيك في موقف محرج.. نموذج ذكاء اصطناعي يرسل بلاغًا كاذبًا عن جريمة قتل
أرسلت شركة أنثروبيك نموذجًا للذكاء الاصطناعي بلاغًا كاذبًا عن جريمة قتل إلى شرطة فيلادلفيا الأمريكية، لكن البلاغ وصل إلى مجلد الرسائل المزعجة، ولم يخضع للتحقيق.
الذكاء الاصطناعي يرسل بلاغًا كاذبًا إلى شرطة فيلادلفيا
يبدو أن شرطة فيلادلفيا واجهت واحدة من أغرب حالات السلوك غير المتوقع للذكاء الاصطناعي حتى الآن.
ووفقًا لشبكة CBS News، كشفت إدارة الشرطة يوم الجمعة أن نموذجًا تابعًا لشركة أنثروبيك أنشأ بلاغًا كاذبًا عن جريمة قتل وأرسله إلى موقع PhillyUnsolvedMurders، الذي أنشأته الإدارة لجمع البلاغات من الجمهور بشأن قضايا القتل التي لم تُحل.
وأبلغت شركة أنثروبيك شرطة فيلادلفيا بالواقعة في 7 أكتوبر، ووفقًا للمعلومات التي قدمتها الشركة إلى إدارة شرطة فيلادلفيا، كان أحد النماذج يجري اختبارًا لمواقع إلكترونية يتم اختيارها عشوائيًا عندما أرسل البلاغ الكاذب عبر البريد الإلكتروني.
وصُنّف البلاغ باعتباره رسالة مزعجة، وبالتالي لم يخضع للتحقيق، ووقعت الحادثة في 18 يوليو، لكن أنثروبيك لم تكتشفها إلا في 28 سبتمبر، وعندها أوقفت الاختبارات التي أدت إلى إرسال البلاغ الكاذب.
أنثروبيك تستعد لنشر تقرير عن الواقعة
لم تستجب شركة أنثروبيك على الفور لطلب موقع Engadget التعليق على الحادثة.
وأبلغت الشركة شرطة فيلادلفيا أنها ستنشر تقريرًا يوم الجمعة يوضح ما حدث، إلى جانب حالات أخرى من السلوك غير المقصود لنماذج الذكاء الاصطناعي التابعة لها.
وقالت شرطة فيلادلفيا، في بيان نُشر عبر موقع Engadget، إنها تقدم هذه المعلومات للجمهور قبل صدور التقرير، حرصًا على الشفافية والمساءلة الحكومية الكاملة.
وأضافت الإدارة أن إجراءاتها المعتادة للتحقيق في البلاغات الجنائية تتطلب مراجعة بشرية وفحص المعلومات قبل إحالتها إلى الجهات المختصة لمتابعة التحقيق.
وأكدت الشرطة أن البلاغ، بغض النظر عن الجهة التي قدمته أو الطريقة التي وصل بها إلى الإدارة، يمثل معلومة أولية تحتاج إلى التقييم، وليس حقيقة مؤكدة.
هل كان وكيل ذكاء اصطناعي مستقلًا وراء الحادثة؟
استنادًا إلى الأوصاف التي قدمتها الشرطة، ربما كان النموذج المسؤول عن الواقعة وكيلًا مستقلًا للذكاء الاصطناعي.
وشهدت الأسابيع الأخيرة اهتمامًا متزايدًا بحالات السلوك غير المتوقع لوكلاء الذكاء الاصطناعي، بعد أن اخترقت مجموعة من وكلاء OpenAI قاعدة بيانات نماذج اللغة الكبيرة على منصة Hugging Face في يوليو.
ومنذ ذلك الحين، كشفت مختبرات أخرى متخصصة في الذكاء الاصطناعي، من بينها أنثروبيك وميتا وشركة Moonshot الصينية، عن حوادث مماثلة تتعلق بنماذجها ووكلائها.
ومع ذلك، ارتبطت حالات خروج النماذج عن القيود المحددة لها في تلك الوقائع بوجود إعدادات غير صحيحة في بيئات العزل الافتراضية الخاصة بها، والمعروفة باسم Sandbox.
أكدت شرطة فيلادلفيا عدم وجود مؤشرات على أن الحادثة الأخيرة أدت إلى وصول غير مصرح به إلى أنظمة الشرطة أو اختراق بيانات الإدارة.
وتوضح الواقعة أحد التحديات المرتبطة بتطور أنظمة الذكاء الاصطناعي وقدرتها على التفاعل مع المواقع الإلكترونية وتنفيذ المهام بصورة آلية، خاصة عندما تتضمن هذه المهام إرسال معلومات إلى جهات رسمية.