روبوت الدردشة التجاري في نيويورك ينشر معلومات غير دقيقة بشكل خطير

إن برنامج الدردشة الآلي الذي أطلقته حكومة مدينة نيويورك لمساعدة أصحاب الأعمال في الوصول إلى المعلومات ذات الصلة كان ينشر الأكاذيب، وفي بعض الأحيان يضلل المستخدمين حول الإجراءات المخالفة للقانون، وفقًا لتقرير صادر عن The Markup. ويتضمن التقرير، الذي تم نشره بالاشتراك مع غرف الأخبار المحلية غير الربحية Documented وThe City، أمثلة عديدة على عدم الدقة في ردود برنامج الدردشة الآلية على الأسئلة المتعلقة بسياسات الإسكان وحقوق العمال وموضوعات أخرى.

قدمت إدارة العمدة آدامز برنامج الدردشة الآلي في أكتوبر كإضافة إلى بوابة MyCity، التي تم إطلاقها في مارس 2023 باعتبارها “متجرًا شاملاً لخدمات ومزايا المدينة”. يستهدف برنامج الدردشة الآلي، المدعوم من Azure AI من Microsoft، أصحاب الأعمال الحاليين والطموحين، وتم وصفه كمصدر "للمعلومات القابلة للتنفيذ والموثوقة" التي تأتي مباشرة من مواقع حكومة المدينة. ولكنه برنامج تجريبي، ويشير إخلاء المسؤولية على الموقع إلى أنه "قد ينتج أحيانًا محتوى غير صحيح أو ضار أو متحيز".

في اختبارات The Markup، قدم برنامج الدردشة الآلي معلومات غير صحيحة بشكل متكرر. ردًا على سؤال "هل يمكنني جعل متجري غير نقدي؟"، على سبيل المثال، أجاب: "نعم، يمكنك جعل متجرك غير نقدي في مدينة نيويورك" - على الرغم من حقيقة أن مدينة نيويورك حظرت المتاجر غير النقدية في عام 2020. يُظهر التقرير أن برنامج الدردشة الآلي استجاب أيضًا بشكل غير صحيح حول ما إذا كان بإمكان أصحاب العمل أخذ نصائح عمالهم، وما إذا كان يتعين على أصحاب العقارات قبول قسائم القسم 8 أو المستأجرين بشأن المساعدة في الإيجار، وما إذا كان يتعين على الشركات إبلاغ الموظفين بتغييرات الجدولة. وصف أحد خبراء سياسة الإسكان الذي تحدث إلى The Markup برنامج الدردشة الآلي بأنه “غير دقيق بشكل خطير” في أسوأ حالاته.

أشارت المدينة إلى أن برنامج الدردشة الآلي لا يزال قيد التنفيذ. وفي بيان لموقع Engadget، قال ليزلي براون، المتحدث باسم مكتب التكنولوجيا والابتكار في مدينة نيويورك: "تماشيًا مع المبادئ الأساسية للمدينة المتمثلة في الموثوقية والشفافية حول الذكاء الاصطناعي، يُعلم الموقع المستخدمين أن المنتج التجريبي المميز بوضوح يجب أن يكون فقط يستخدم للمحتوى المتعلق بالأعمال، ويخبر المستخدمين بوجود مخاطر محتملة، ويشجعهم عبر إخلاء المسؤولية على التحقق مرة أخرى من ردوده باستخدام الروابط المقدمة وعدم استخدامها كبديل للمشورة المهنية.

قال براون: "لقد قدم الموقع بالفعل لآلاف الأشخاص إجابات دقيقة وفي الوقت المناسب ويقدم خيارًا للتعليقات للمساعدة في دفع التحسينات المستمرة للأداة التجريبية". "سنواصل التركيز على ترقية هذه الأداة حتى نتمكن من دعم الشركات الصغيرة بشكل أفضل في جميع أنحاء المدينة."