ChatGPT يتهم رجلاً بريئًا بالتخلص من أطفاله

 مرّ أكثر من عامين منذ ظهور ChatGPT عالميًا، ورغم أن OpenAI قد طوّرته في جوانب عدة، إلا أنه لا يزال يواجه بعض العقبات. ومن أبرز هذه المشاكل: الهلوسة، أو تقديم معلومات كاذبة على أنها حقائق. والآن، رفعت منظمة Noyb النمساوية للمناصرة شكواها الثانية ضد OpenAI بسبب هذه الهلوسة، مشيرةً إلى حالة محددة ذُكر فيها أن ChatGPT - زورًا - أن رجلاً نرويجيًا كان قاتلًا.

 ومما زاد الطين بلة، أنه عندما سأل هذا الرجل ChatGPT عما تعرفه عنه، أفادت التقارير أنه حُكم عليه بالسجن 21 عامًا لقتله اثنين من أطفاله ومحاولة قتل الثالث. كما تضمنت الهلوسة معلومات حقيقية، بما في ذلك عدد أطفاله وجنسهم واسم مدينته.

 تزعم Noyb أن هذا الرد يُخالف OpenAI لقانون حماية البيانات العامة (GDPR). صرح يواكيم سودربيرغ، محامي حماية البيانات في شركة نويب، قائلاً: "إن اللائحة العامة لحماية البيانات واضحة. يجب أن تكون البيانات الشخصية دقيقة. وإذا لم تكن كذلك، يحق للمستخدمين تعديلها لتعكس الحقيقة". وأضاف: "إن إظهار تنويه بسيط لمستخدمي ChatGPT بأن روبوت الدردشة قد يرتكب أخطاءً واضحة لا يكفي. لا يمكنك نشر معلومات كاذبة ثم إضافة تنويه بسيط في النهاية يفيد بأن كل ما قلته قد لا يكون صحيحًا".

 ومن الأمثلة البارزة الأخرى على هلوسات ChatGPT، اتهام رجل بالاحتيال والاختلاس، ومحضر محكمة بإساءة معاملة الأطفال، وأستاذ قانون بالتحرش الجنسي، وفقًا لما أوردته العديد من المنشورات.

 ركزت أول شكوى قدمتها نويب لشركة OpenAI بشأن الهلوسة، في أبريل 2024، على تاريخ ميلاد غير دقيق لشخصية عامة (إذن ليس جريمة قتل، ولكنه لا يزال غير دقيق). رفضت OpenAI طلب المشتكي بحذف أو تحديث تاريخ ميلاده، مدّعيةً عدم قدرتها على تغيير المعلومات الموجودة في النظام، بل حظر استخدامه في بعض المطالبات. يردّ ChatGPT في إخلاء مسؤولية بأنه "قد يخطئ".

 نعم، هناك مقولة مأثورة: "الجميع يخطئ، ولهذا السبب نضع ممحاة على أقلام الرصاص". ولكن، عندما يتعلق الأمر بروبوت دردشة يعمل بالذكاء الاصطناعي ويحظى بشعبية كبيرة، هل ينطبق هذا المنطق حقًا؟ سنرى ما إذا كانت OpenAI سترد على شكوى Noyb الأخيرة وكيف ستفعل ذلك.