الذكاء الاصطناعي سبب كارثة.. نهاية بشعة لطفلة على يد أمها

الاعتماد على الذكاء الاصطناعي، كان سببًا في واقعة هي الأولى من نوعها، مع الإعلان عن وفاة طفلة يابانية، والذي قرر أن هذه الطفلة آمنة ولا تحتاج إلى نقلها بعيدا عن والدتها العنيفة، بعد تجربة نظام قائم على الذكاء الاصطناعي من مهمته المساعدة في التوصل إلى قرار بشأن الأطفال وتعامل والديهم معهم.

نظام الذكاء الاصطناعي وكارثة كبرى

وكان نظام الذكاء الاصطناعي هو من يقرر ويفحص الأطفال الذين يحتاجون إلى نقلهم لمؤسسات وقائية موقتة بعيداً من عنف الوالدين، وكانت السلطات المحلية في محافظة ميه اليابانية، بدأت منذ العام 2019 تجريب نظام قائم على الذكاء الاصطناعي. 

واعتمد البرنامج على إدخال كل بيانات الطفل المهدد بالعنف من والديه، مثل العمر وحالة الأبوين وطبيعة ظروف الوالدين، وبيانات أخرى لتقييم المخاطر، من خلال الكدمات الذي يعاني منه الطفل.

ويحتسب نظام الذكاء الاصطناعي معدل التكرار المحتمل للتعنيف، عقب إدخال البيانات التي تم ذكرها سابقًا ويقرر عدد الأيام المطلوبة لإجراء الاستشارات، وما إذا كانت الحالة تستدعي الحضانة الوقائية الموقتة، إلا أن هذا النظام كتب النهاية البشعة لحياة طفلة في الرابعة من عمرها لمجرد أن مسؤولين قرروا الاحتكام إلى رأي هذه التكنولوجيا.