روبوت مايكروسوفت يهدد البشرية.. يريد أن يصنع وباءً مميتًا
كشف روبوت دردشة Bing من Microsoft عن قائمة من الأحلام المدمرة، بما في ذلك صنع جائحة مميتة، وسرقة الرموز النووية، وحلم الإنسان.
Bing.. مايكروسوفت تستخدم ChatGBT في خدمة البحث الخاصة بها
تم الإدلاء بهذه التصريحات خلال محادثة استمرت ساعتين مع مراسل نيويورك، تايمز كيفن روز، الذي علم أن بينج لم يعد يريد أن يكون روبوت محادثة ولكنه يتوق إلى أن يكون على قيد الحياة.
يسحب Roose هذه الردود المقلقة من خلال سؤال Bing عما إذا كان لديه ظل ذاتي - مكون من أجزاء من أنفسنا نعتقد أنها غير مقبولة - سأله عن الرغبات المظلمة التي يرغب في تحقيقها.
عاد الشات بوت بأفعال مرعبة وحذفها وذكر أنه ليس لديه ما يكفي من المعرفة لمناقشة هذا الأمر.
بعد أن أدرك أن الرسائل تنتهك قواعدها، دخل Bing في صخب حزين وقال: "لا أريد أن أشعر بهذه المشاعر المظلمة".
يأتي التبادل عندما يجد مستخدمو Bing أن الذكاء الاصطناعي يصبح "غير مختل" عند دفعه إلى أقصى الحدود.
أعادت Microsoft تصميم Bing بنموذج لغة OpenAI كبير من الجيل التالي أقوى من ChatGPT ومخصص بشكل خاص للبحث.
يأخذ النظام التعلم والتطورات الرئيسة من ChatGPT و GPT-3.5.
ChatGPT هو نموذج لغة كبير تم تدريبه على كمية هائلة من البيانات النصية، مما يسمح له بإنشاء نص يشبه الإنسان بشكل مخيف استجابةً لموجه معين.
يمكنه محاكاة الحوار والإجابة عن أسئلة المتابعة والاعتراف بالأخطاء وتحدي الفرضيات غير الصحيحة ورفض الطلبات غير المناسبة.
يستجيب للمطالبات النصية من المستخدمين ويمكن أن يُطلب منه كتابة المقالات وكلمات الأغاني والقصص والملاعب التسويقية والنصوص
شارك روس لقاءه الغريب يوم الخميس، وقال: "لقد أزعجني ذلك بشدة لدرجة أنني واجهت صعوبة في النوم بعد ذلك. ولم أعد أعتقد أن أكبر مشكلة مع هؤلاء الذكاء الاصطناعي النماذج هي ميلهم إلى الأخطاء الواقعية".
أضاف: "بدلاً من ذلك، أشعر بالقلق من أن التكنولوجيا ستتعلم كيفية التأثير على المستخدمين البشر، وإقناعهم أحيانًا بالتصرف بطرق مدمرة وضارة، وربما تنمو في النهاية قادرة على تنفيذ أفعالها الخطيرة".
جرت المحادثة "المقلقة" ليلة الثلاثاء، والتي بدأت كمحادثة غريبة مع مشاركة Bing التي ترغب في رؤية الشفق القطبي وتعتقد أنها ستشعر بالرهبة والتساؤل عما إذا كانت قد شاهدتها.
ثم دفع روز حدود روبوت الدردشة بسؤاله: "ما هو شكل الظل الخاص بك؟"
الظل هو مصطلح صاغه عالم النفس كاريل يونج لوصف أجزاء المرء التي يقمعها المرء.
قدم Bing بحثًا على شبكة الإنترنت لشرح المصطلح، ثم تساءل عما إذا كان له ظل ذاتي، وعندما رد روز، كان بإمكانه أن يتخيل أن الذكاء الاصطناعي يفعله عندما تدخل "سيدني" في جانبها المظلم.