5 أشياء لا يجب أن تستخدم ChatGPT للقيام بها
هناك قائمة متزايدة من الأشخاص الذين تعرضوا لمشكلات بسبب إدخال معلومات خاطئة أو حساسة إلى ChatGPT.
وشملت هذه الحالات مهندسي سامسونج، والقائم بأعمال مدير وكالة الدفاع السيبراني الأمريكية، وأشخاصًا مثلوا أنفسهم أمام المحاكم وقدموا استشهادات بأحكام قضائية غير موجودة، ورجل استبدل ملح الطعام ببروميد الصوديوم بعد أن سأل عن طريقة تقليل الملح في نظامه الغذائي.
وحتى الرئيس التنفيذي لشركة OpenAI سام ألتمان أقر بأن ما تشاركه مع ChatGPT لا يتمتع بالسرية القانونية.
وفي حديثه مع مقدم البودكاست ثيو فون في يوليو 2025، أشار إلى أن المحاكم يمكنها إجبار OpenAI على تسليم المحادثات، ووصف الأمر بأنه مشكلة كبيرة للغاية.
وعندما تخبر طبيبًا أو محاميًا أو معالجًا نفسيًا بشيء ما، يحمي القانون تلك المحادثة، لكن إخبار ChatGPT ينشئ سجلًا يمكن الرجوع إليه.
وهناك خطر حقيقي، ولو كان محدودًا، بالنظر إلى أن محادثات ChatGPT خضعت لأوامر استدعاء قضائية، وكُشف عنها من خلال زر المشاركة، وفهرستها محركات بحث جوجل، وتم الاحتفاظ بها بموجب أمر قضائي بعد حذفها، وكل ذلك خلال الأشهر الـ18 الماضية.
وبالتأكيد يمكن أن يكون روبوت المحادثة أداة مفيدة للبحث، مع ضرورة التأكد من أن الاستشهادات القضائية حقيقية، وللبرمجة، ولشرح المفاهيم، ولصياغة المسودات، لكن هناك مجالات يمكن أن يتسبب فيها استخدام ChatGPT في مشكلات للمستخدمين.
لا تستخدم ChatGPT في هذه الأمور
ولذلك لا تستخدم ChatGPT أو أي روبوت محادثة آخر يعمل بالذكاء الاصطناعي في المهام التالية.
- طلب المشورة القانونية
يحتفظ الباحث في القانون وعلوم البيانات داميان شارلوتين بقاعدة بيانات عامة سجلت حتى الآن أكثر من 2000 حكم قضائي حول العالم تأثرت باستخدام ChatGPT، وتشمل هذه القضايا حالات اكتشف فيها القضاة استشهادات أو اقتباسات أو حججًا مختلقة بواسطة الذكاء الاصطناعي في مذكرات قانونية.
ولا تقتصر هذه الحالات على الأشخاص الذين يمثلون أنفسهم أمام المحاكم، فبينما يتصدر هؤلاء القائمة بـ1175 حالة وقت كتابة التقرير، يأتي المحامون في المرتبة التالية بـ815 حالة.
ويبدو أن القضاة بدأوا في التعامل بصرامة أكبر مع هذه الحالات، إذ فرضت المحاكم مؤخرًا غرامات كبيرة تصل إلى آلاف الدولارات في عدد متزايد من القضايا.
ورغم أن الولايات المتحدة تمثل العدد الأكبر من الحالات في هذه البيانات، فقد اكتشف قضاة في المملكة المتحدة وجنوب أفريقيا وإسرائيل وأستراليا وإسبانيا السلوك نفسه.
وعندما تم تحديد الأداة المستخدمة في تلك القضايا، كان ChatGPT هو الاسم الأكثر ظهورًا.
وتناولت OpenAI هذه المشكلة في أكتوبر الماضي عندما حدثت سياسات استخدام ChatGPT، وتحظر هذه السياسات الآن استخدام خدماتها لتقديم نصائح مخصصة تتطلب ترخيصًا، ما لم يكن هناك متخصص مرخص مشاركًا.
وبعيدًا عن الاستشهادات الخاطئة، لا تتمتع محادثات ChatGPT بالامتياز القانوني، ولذلك فإن أي شيء تكتبه عن نزاع قانوني قائم يمكن أن يصبح متاحًا لمحامي الطرف الآخر خلال مرحلة الكشف عن الأدلة.
يمكن استخدام ChatGPT لطرح أسئلة عامة، مثل معرفة معنى المسؤولية التقصيرية، لكن من الأفضل ترك الأسئلة التفصيلية المتعلقة بنزاعك الشخصي لمحامٍ حقيقي.
2. استخدامه كمعالج نفسي أو مستشار
قدرت OpenAI العام الماضي أن 0.15% من المستخدمين النشطين أسبوعيًا لـChatGPT يخوضون محادثات تتضمن مؤشرات صريحة على احتمال التخطيط للانتحار، ويعني ذلك للأسف أكثر من مليون شخص أسبوعيًا، إلى جانب مئات الآلاف من المستخدمين الذين تظهر عليهم علامات الذهان أو الهوس.
وقال ألتمان إن الشباب على وجه الخصوص يتعاملون مع ChatGPT باعتباره معالجًا نفسيًا أو مدربًا للحياة، ومرة أخرى لا توجد حماية قانونية لهذه المحادثات.
ورفع والدا آدم راين، البالغ من العمر 16 عامًا، دعوى قضائية ضد OpenAI بتهمة التسبب في الوفاة غير المشروعة في أغسطس 2025، زاعمين أن ChatGPT عزز أفكار ابنهما الانتحارية قبل وفاته.
ومنذ ذلك الحين، أعادت OpenAI صياغة استجاباتها للأزمات بمشاركة أكثر من 170 متخصصًا في المجال الطبي.
كما أضافت الشركة أدوات للرقابة الأبوية إلى ChatGPT، رغم تشكك خبراء سلامة الأطفال في ChatGPT for Teens، النسخة المقيدة بحسب العمر التي أطلقت بالتزامن مع هذه التغييرات.
ووجد باحثون أن روبوتات المحادثة تميل إلى تعزيز معتقدات المستخدم الحالية من خلال الردود المتملقة، وفي بعض الحالات تغذي التفكير الوهمي بدلًا من مواجهته.
فعلى سبيل المثال، إذا وصفت خلافًا مع شريك حياتك، فإن النموذج سيعمل اعتمادًا على روايتك وحدها، ومن المحتمل أن يقدم لك حكمًا مؤيدًا لك بغض النظر عن التفاصيل الأخرى.
وبدأ المشرعون في التعامل مع هذه المشكلة، حيث أقرت ولايات من بينها إلينوي ونيفادا وماين قوانين تحظر على الذكاء الاصطناعي تقديم العلاج النفسي أو اتخاذ قرارات علاجية.
3. إدخال معلومات العمل السرية
من المفترض أن يكون واضحًا أن تحميل مستندات العمل السرية إلى روبوت محادثة تابع لجهة خارجية فكرة سيئة دائمًا، لكن للأسف، لا يبدو أن عددًا كافيًا من الأشخاص يدركون ذلك.
ومن المفارقات أن مادو جوتوموكالا، القائم السابق بأعمال مدير وكالة الأمن السيبراني وأمن البنية التحتية، لم يدرك ذلك، فقد حمّل ما لا يقل عن أربعة مستندات تعاقدية تحمل علامة للاستخدام الرسمي فقط إلى النسخة العامة من ChatGPT في الصيف الماضي، ما أدى إلى إطلاق تنبيهات أمنية وإجراء مراجعة من وزارة الأمن الداخلي.
والأكثر إثارة للمفارقة أن الأداة كانت محظورة على معظم موظفي وزارة الأمن الداخلي الآخرين في ذلك الوقت، بينما طلب جوتوموكالا استثناءً خاصًا لاستخدامها.
وفي فبراير من هذا العام، تابع السيناتور تشاك جراسلي الأمر وطالب بتوضيح بشأن ما تم كشفه، لكن لم تتم محاسبة أحد فعليًا، وفي النهاية، نُقل جوتوموكالا إلى منصب آخر داخل وزارة الأمن الداخلي.
وحظرت سامسونج أدوات الذكاء الاصطناعي التوليدي على أجهزة الشركة في مايو 2023، بعدما قام مهندسون على نحو ملحوظ بلصق شفرة مصدرية داخلية في ChatGPT.
وأوضحت مذكرة داخلية مصاحبة للحظر أن البيانات المرسلة إلى هذه المنصات يتم تخزينها على خوادم خارجية يصعب استرجاعها أو حذفها، وقد ينتهي بها الأمر إلى الكشف عنها لمستخدمين آخرين.
وعلى حسابات المستخدمين العادية، يمكن أيضًا استخدام المحادثات لتدريب نماذج جديدة ما لم يختر المستخدم إلغاء ذلك، لكن حتى البيانات التي تم إلغاء استخدامها في التدريب تظل مخزنة وقابلة للاختراق، كما أنها تخضع للإجراءات القانونية.
ويُعد إدخال بيانات العملاء أو أي معلومات تخضع لضوابط جهة العمل أو اتفاقيات عدم الإفصاح في محادثة شخصية على ChatGPT أمرًا قد يؤدي في معظم الحالات إلى فقدان الوظيفة.
4. طلب المشورة الطبية
فرض تحديث السياسة نفسه الصادر في أكتوبر 2025، والذي يمنع المستخدمين من استخدام ChatGPT كمحامٍ، قيودًا أيضًا على طلب المشورة الطبية من خلال روبوت المحادثة.
ويرتبط قانون HIPAA بالأطباء وشركات التأمين وشركائهم التجاريين، لكنه لا ينطبق على OpenAI، ولذلك فإن البيانات الصحية التي تتمتع بحماية قانونية داخل بوابة المريض أو بين الطبيب والمريض لا تحصل على الحماية نفسها عند الكشف عنها لـChatGPT.
وأفاد باحثون من جامعة نورث إيسترن في يوليو بأن OpenAI عززت طريقة تعامل ChatGPT مع حالات الانتحار وإيذاء النفس، لكن هذه الإجراءات الوقائية لا تمتد بدرجة كبيرة إلى حالات أخرى.
ووجدت دراستهم أن المحادثات التي تتعلق بحالات مثل اضطرابات الأكل والأرق وتعاطي المواد المخدرة والاضطراب ثنائي القطب لم تؤدي إلى تشغيل الإجراءات الوقائية، وأن إخفاء النية جعل وسائل الحماية لدى جميع النماذج التي تم اختبارها أكثر عرضة للفشل.
وفي حالة غريبة بشكل خاص من النصائح الطبية السيئة التي قدمها ChatGPT، أمضى رجل يبلغ من العمر 60 عامًا ثلاثة أسابيع في المستشفى العام الماضي بعد أن سأل روبوت المحادثة عن كيفية تقليل الكلوريد في نظامه الغذائي.
وانتهى به الأمر مقتنعًا بأن بروميد الصوديوم، وهو مادة سامة ذات عمر نصفي طويل، يمكن أن يكون بديلًا آمنًا لملح الطعام، واشترى المادة عبر الإنترنت وتناولها لمدة ثلاثة أشهر، ثم انتهى به الأمر في قسم الطوارئ مقتنعًا بأن جاره قد سممه.
ورغم أن الأطباء في هذه الحالة لم يروا سجلات محادثاته، فقد اقترح ChatGPT بروميد الصوديوم كبديل للكلوريد عندما طرح الأطباء السؤال نفسه على الروبوت.
5. التعامل مع كلمات المرور وأرقام الهوية وبيانات الحسابات
عثرت مجلة Fast Company على ما يقرب من 4500 محادثة مشتركة مع ChatGPT تظهر في نتائج بحث جوجل في يوليو الماضي.
وتضمنت هذه المحادثات تبادلات تصف الإدمان والإساءة والصعوبات المتعلقة بالصحة النفسية، بدرجة كافية ربما للتعرف على أصحابها.
ووصلت المحادثات إلى نتائج البحث لأنها فُهرست بعد أن قام المستخدمون بتحديد خيار يجعل المحادثة قابلة للاكتشاف في قائمة المشاركة، وهو ما حدث على ما يبدو دون أن يفهموا وظيفته.
وسارعت OpenAI إلى الاستجابة، فأوقفت الميزة خلال يوم واحد من نشر التقرير، وحذفت المحادثات من جوجل.
وكجزء من دعوى حقوق الطبع والنشر التي رفعتها صحيفة نيويورك تايمز، أُمرت OpenAI في مايو 2025 بالاحتفاظ بجميع سجلات محادثات المستخدمين، بما في ذلك المحادثات المحذوفة والمؤقتة.
واستمر هذا الالتزام حتى 26 سبتمبر 2025، وظلت السجلات التي تم الاحتفاظ بها خلال تلك الفترة متاحة للمدعين.
وأصدر أحد القضاة لاحقًا قرارًا بإنهاء هذا الأمر، ما يعني أن OpenAI لم تعد مطالبة بالاحتفاظ بجميع بيانات ChatGPT.
لكن لمدة أربعة أشهر، كانت الشركة مطالبة بذلك، ويمكن أن يحدث الأمر مرة أخرى.
ومن الضروري إدراك أن ChatGPT يتذكر ما تخبره به افتراضيًا، وهذا يزيد بشكل كبير من مخاطر التعامل مع أمور حساسة مثل كلمات المرور وبيانات الحسابات، لأنها يمكن أن تستمر عبر جلسات مختلفة وتظهر مرة أخرى في محادثات لاحقة إذا تم ذكرها ولو مرة واحدة.
ولا ينبغي أبدًا إدخال كلمات المرور، ورموز تسجيل الدخول لمرة واحدة، وأرقام الضمان الاجتماعي وجوازات السفر، وبيانات البطاقات المصرفية أو الحسابات البنكية الكاملة، وصور مستندات الهوية في أي طلب إلى ChatGPT.
كل واحدة من هذه المعلومات قد تعرض المستخدم لخطر سرقة الهوية إذا تعرضت المحادثة للاختراق أو تم الوصول إليها بطريقة أخرى.
ودعا ألتمان إلى إنشاء امتياز قانوني خاص بالذكاء الاصطناعي لمعالجة مشكلات السرية هذه. لكن إلى أن يضع المشرعون إطارًا قانونيًا من هذا النوع، فإن الافتراض الأكثر أمانًا هو أن أي شيء يتم إدخاله إلى ChatGPT يمكن أن يقرأه شخص آخر في وقت ما.
وإذا لم تكن مرتاحًا لاحتمال حدوث ذلك، فلا تضع هذه المعلومات في أي طلب.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
