ChatGPT ينشأ فريقًا للتحكم في مخاطر الذكاء الاصطناعي

لقد مرت أكثر من ستة أشهر حتى الآن منذ ظهور ChatGPT على الساحة. منذ ذلك الحين ، كانت تمطر الذكاء الاصطناعي بشكل أو بآخر. يبحث منشئ OpenAI ChatGPT الآن في الجيل التالي من الذكاء الاصطناعي والتحكم في المخاطر المصاحبة له.

في منشور مدونة ، أوجزت الشركة أفكارها الخاصة بالذكاء الاصطناعي الخارق. "الذكاء الخارق سيكون أكثر التقنيات التي اخترعتها البشرية تأثيرًا على الإطلاق ويمكن أن تساعدنا في حل العديد من المشكلات الأكثر أهمية في العالم. لكن القوة الهائلة للذكاء الخارق يمكن أن تكون خطيرة للغاية ، ويمكن أن تؤدي إلى إضعاف البشرية أو حتى انقراض البشر "، قالت الشركة.
تعتقد شركة أوبن إيه آي أنه لا يوجد حاليًا حل لتوجيه أو التحكم في ذكاء اصطناعي فائق الذكاء ومنعه من أن يصبح شريرًا. إنه أحد الأسباب التي تجعله يؤسس فريقًا جديدًا تمامًا.
على ماذا سيعمل الفريق الجديد؟
وفقًا للشركة ، سيتألف الفريق من كبار الباحثين والمهندسين في التعلم الآلي للعمل على هذه المشكلة.

نحن نخصص 20٪ من الحسابات التي قمنا بتأمينها حتى الآن على مدى السنوات الأربع المقبلة لحل مشكلة محاذاة الذكاء الخارق "، قال أوبن إيه آي. وأضافت أيضًا: "إن رهاننا الرئيسي على البحث الأساسي هو فريق Superalignment الجديد لدينا ، ولكن الحصول على هذا الأمر بالشكل الصحيح أمر بالغ الأهمية لتحقيق مهمتنا ونتوقع أن تساهم العديد من الفرق ، من تطوير أساليب جديدة إلى توسيع نطاقها إلى النشر."
تعتقد شركة OpenAI أن هذه ستكون مشكلة تتعلق بالتعلم الآلي. وهذا هو السبب في أن OpenAI تبحث أيضًا عن باحثين ومهندسين جدد متميزين للانضمام إلى هذا الجهد. أشارت الشركة إلى أن "محاذاة الذكاء الخارق هي في الأساس مشكلة تعلم آلي ، ونعتقد أن خبراء التعلم الآلي العظماء - حتى لو لم يكونوا يعملون بالفعل على المحاذاة - سيكونون مهمين لحلها"