أزمة ثقة في FDA.. أداة الذكاء الاصطناعي "إلسا" تنتج دراسات وهمية

أخبر أعضاء حاليون وسابقون في إدارة الغذاء والدواء الأمريكية شبكة CNN عن مشاكل في أداة الذكاء الاصطناعي التوليدي "إلسا" التي كشفت عنها الوكالة الفيدرالية الشهر الماضي. وقال ثلاثة موظفين إن إلسا، في الواقع العملي، قد خدعت دراسات غير موجودة أو حرّفت أبحاثًا حقيقية. وقال أحد المصادر للصحيفة: "أي شيء لا يتوفر لديك الوقت الكافي للتحقق منه لا يُعتمد عليه. إنه يهلوس بثقة". وهذا ليس مثاليًا تمامًا لأداة يُفترض أن تُسرّع عملية المراجعة السريرية وتُساعد في اتخاذ قرارات فعّالة ومدروسة لصالح المرضى.

بدا أن قيادة إدارة الغذاء والدواء الأمريكية غير منزعجة من المشاكل المحتملة التي تُشكّلها إلسا. وقال مارتي ماكاري، مفوض إدارة الغذاء والدواء الأمريكية، لشبكة CNN: "لم أسمع هذه المخاوف تحديدًا". كما أكد أن استخدام إلسا والمشاركة في التدريب على استخدامها أمر طوعي حاليًا في الوكالة.

صرح متحدث باسم وزارة الصحة والخدمات الإنسانية لموقع إنغادجيت أن "المعلومات التي قدمتها إدارة الغذاء والدواء الأمريكية لشبكة CNN قد تم تحريفها وإخراجها عن سياقها". كما زعم المتحدث الرسمي أن CNN استهلت تقريرها بـ"موظفين سابقين ساخطين ومصادر لم يستخدموا حتى الإصدار الحالي من Elsa". وتزعم الوكالة أن لديها حواجز وإرشادات حول كيفية استخدام موظفيها للأداة، لكن بيانها لا يتطرق إلى أن Elsa، كأي منصة ذكاء اصطناعي، قد تقدم معلومات غير صحيحة أو ناقصة في بعض الأحيان. ولم نتلقَّ ردًا على طلبنا لمزيد من التفاصيل.

جاء تحقيق CNN الذي يُسلّط الضوء على هذه العيوب في الذكاء الاصطناعي لإدارة الغذاء والدواء الأمريكية في نفس اليوم الذي أعلن فيه البيت الأبيض عن "خطة عمل الذكاء الاصطناعي". وقد صوّر البرنامج تطوير الذكاء الاصطناعي على أنه سباق تسلح تكنولوجي يجب على الولايات المتحدة الفوز به بأي ثمن، ووضع خططًا لإزالة "البيروقراطية واللوائح التنظيمية المرهقة" في هذا القطاع. كما طالب بأن يكون الذكاء الاصطناعي خاليًا من "التحيز الأيديولوجي"، أو بعبارة أخرى، أن يتبع فقط تحيزات الإدارة الحالية من خلال حذف أي إشارة إلى تغير المناخ، والمعلومات المضللة، وجهود التنوع والمساواة والشمول. ونظراً لأن كلاً من هذه المواضيع الثلاثة له تأثير موثق على الصحة العامة، فإن قدرة أدوات مثل إلسا على توفير فوائد حقيقية لكل من إدارة الغذاء والدواء والمرضى في الولايات المتحدة تبدو موضع شك على نحو متزايد.