رائد الذكاء الاصطناعي جيفري هينتون يحذر من خطورة ChatGPT و Bing Chat
رائد الذكاء الاصطناعي جيفري هينتون غير مقتنع بأن الذكاء الاصطناعي الجيد سينتصر على الذكاء الاصطناعي السيئ،
لا يشارك "الأب الروحي للذكاء الاصطناعي تفاؤله لهذه الصناعة.
أصبح البروفيسور في جامعة تورنتو جيفري هينتون ، الذي يُطلق عليه غالبًا "عراب الذكاء الاصطناعي" لأبحاثه الرائدة حول الشبكات العصبية، مراقبًا غير رسمي للصناعة. لقد توقف عن العمل في Google هذا الربيع لينتقد بحرية المجال الذي ساعد في ريادته. لقد رأى الارتفاع الأخير في أنظمة الذكاء الاصطناعي التوليدية مثل ChatGPT و Bing Chat كعلامات على تسارع غير محكوم وخطير في التطوير. في هذه الأثناء، يبدو أن Google كانت تتخلى عن ضبط النفس السابق حيث كانت تطارد المنافسين بمنتجات مثل روبوت الدردشة Bard الخاص بها.
في مؤتمر الاصطدام هذا الأسبوع في تورونتو ، وسع هينتون مخاوفه. بينما كانت الشركات تروج للذكاء الاصطناعي كحل لكل شيء من إبرام عقد إيجار إلى شحن البضائع، كان هينتون يدق ناقوس الخطر. إنه غير مقتنع بأن الذكاء الاصطناعي الجيد سيخرج منتصرًا على التنوع السيئ، ويعتقد أن التبني الأخلاقي للذكاء الاصطناعي قد يكون له تكلفة باهظة.
الذكاء الاصطناعي.. تهديد للبشرية
أكد هينتون أن الذكاء الاصطناعي جيد مثل الأشخاص الذين صنعوه، وأن التكنولوجيا السيئة لا يزال بإمكانها الفوز. وأوضح: "لست مقتنعًا بأن الذكاء الاصطناعي الجيد الذي يحاول إيقاف الأمور السيئة يمكنني التحكم فيه". قد يكون من الصعب إيقاف المجمع الصناعي العسكري عن إنتاج روبوتات حربية، على سبيل المثال، كما يقول - فقد "تحب" الشركات والجيوش الحروب حيث يكون الضحايا عبارة عن آلات يمكن استبدالها بسهولة. وبينما يعتقد هينتون أن النماذج اللغوية الكبيرة (الذكاء الاصطناعي المدربة التي تنتج نصًا شبيهًا بالبشر، مثل OpenAI's GPT-4) يمكن أن تؤدي إلى زيادات هائلة في الإنتاجية، إلا أنه يشعر بالقلق من أن الطبقة الحاكمة قد تستغل هذا ببساطة لإثراء نفسها، مما يؤدي إلى توسيع نطاق فجوة ثروة كبيرة. قال هينتون إن ذلك "سيجعل الأغنياء أكثر ثراءً والفقير أكثر فقراً".
كرر هينتون أيضًا وجهة نظره التي حظيت بتغطية إعلامية كبيرة بأن الذكاء الاصطناعي يمكن أن يشكل خطرًا وجوديًا على البشرية. إذا أصبح الذكاء الاصطناعي أكثر ذكاءً من البشر، فليس هناك ما يضمن بقاء الناس في موقع المسؤولية.
قال هينتون: "نحن في ورطة" إذا قررت منظمة العفو الدولية أن السيطرة ضرورية لتحقيق أهدافها. بالنسبة له، التهديدات "ليست مجرد خيال علمي". يجب أن تؤخذ على محمل الجد. إنه قلق من أن المجتمع لن يكبح جماح الروبوتات القاتلة إلا بعد أن تتاح له الفرصة لمعرفة "مدى فظاعتها".
وأضاف هينتون أن هناك الكثير من المشاكل القائمة. يجادل بأن التحيز والتمييز لا يزالان يمثلان مشكلة، حيث يمكن أن تؤدي بيانات تدريب الذكاء الاصطناعي المنحرفة إلى نتائج غير عادلة. الخوارزميات بالمثل تخلق غرف صدى تعزز المعلومات الخاطئة وقضايا الصحة العقلية. يقلق هينتون أيضًا من نشر الذكاء الاصطناعي للمعلومات الخاطئة خارج تلك الغرف. إنه غير متأكد مما إذا كان من الممكن اكتشاف كل ادعاء كاذب، على الرغم من أنه "من المهم وضع علامة على كل شيء مزيف على أنه مزيف".
هذا لا يعني أن هينتون يشعر باليأس من تأثير الذكاء الاصطناعي، على الرغم من أنه يحذر من أن الاستخدامات الصحية للتكنولوجيا قد تأتي بسعر مرتفع. قد يضطر البشر إلى إجراء "عمل تجريبي" لفهم كيف يمكن للذكاء الاصطناعي أن يخطئ، ولمنعه من انتزاع السيطرة. وأضاف أنه "ممكن" بالفعل لتصحيح التحيزات. قد يضع الذكاء الاصطناعي للنموذج اللغوي الكبير حداً لغرف الصدى، لكن هينتون يرى أن التغييرات في سياسات الشركة مهمة بشكل خاص.
لم يجيب الأستاذ على الأسئلة المتعلقة بفقدان الأشخاص لوظائفهم من خلال الأتمتة. إنه يشعر أن هناك حاجة إلى "الاشتراكية" لمعالجة عدم المساواة، وأن بإمكان الناس التحوط ضد البطالة من خلال تولي وظائف يمكن أن تتغير مع الزمن ، مثل السباكة (ولا، فهو لا يمزح). على نحو فعال ، قد يتعين على المجتمع إجراء تغييرات واسعة للتكيف مع الذكاء الاصطناعي.
صناعة الذكاء الاصطناعي لا تزال متفائلة
كانت المحادثات السابقة في Collision أكثر تفاؤلاً. قال كولين مردوخ رئيس الأعمال في Google DeepMind في مناقشة مختلفة إن الذكاء الاصطناعي كان يحل بعض أصعب التحديات في العالم. لا يوجد الكثير من الخلاف على هذه الجبهة - تقوم DeepMind بفهرسة كل بروتين معروف ، ومحاربة البكتيريا المقاومة للمضادات الحيوية وحتى تسريع العمل على لقاحات الملاريا. لقد تصور "ذكاءً عامًا اصطناعيًا" يمكنه حل مشكلات متعددة ، وأشار إلى منتجات Google كمثال. يعد Lookout مفيدًا لوصف الصور ، ولكن التقنية الأساسية تجعل YouTube Short قابلة للبحث أيضًا. ذهب مردوخ إلى حد وصف الأشهر الستة إلى الاثني عشر الماضية بأنها "لحظة مضيئة" للذكاء الاصطناعي والتي أطلقت العنان لإمكانياتها.