3 باحثين في أمان الذكاء الاصطناعي يفتحون النار على OpenAI بعد فصلهم
نشر ثلاثة باحثين سابقين في مجال أمان الذكاء الاصطناعي في شركة OpenAI رسالة مفتوحة اعترضوا فيها على قرار فصلهم من الشركة، مؤكدين أن الطريقة العلنية التي تعاملت بها الشركة مع عملية الفصل قد يكون لها تأثير مخيف على الموظفين وتدفعهم إلى التردد في التحدث عن مخاوف السلامة.
وكتب كل من جاسمين وانج، وميكيتا باليسني، وتوميك كورباك، في الرسالة المفتوحة، أن الاتصالات العامة من جانب الشركة بشأن عمليات الفصل قد يكون لها تأثير سلبي على الموظفين في وقت تعتمد فيه سلامة العالم على عملهم.
فصل 3 موظفين من OpenAI
كانت OpenAI قد فصلت الأسبوع الماضي ثلاثة موظفين، بعدما اتُهموا بمشاركة معلومات مع منظمة خارجية متخصصة في أمان الذكاء الاصطناعي.
وقالت الشركة في بيان لها إن الموظفين خالفوا سياساتها المتعلقة بالوصول إلى معلومات الشركة الحساسة والتعامل معها، معتبرة أن ذلك يمثل خرقًا للثقة الضرورية للعمل داخل الشركة.
وجاء قرار الفصل في وقت أثارت فيه عمليات اختراق خطيرة، وربما غير قانونية، نفذتها أنظمة الذكاء الاصطناعي التابعة لـ OpenAI ضد Hugging Face ومنظمات أخرى، تساؤلات جديدة حول آليات الأمان داخل الشركة، كما لفتت القضية انتباه عدد من المشرعين.
الباحثون يدافعون عن موقفهم
قال الباحثون الثلاثة في رسالتهم المشتركة إنهم أصبحوا يشعرون بالقلق من أن الاتصالات الداخلية والخارجية المتعلقة بفصلهم جعلت زملاءهم السابقين يخشون التحدث والعمل بالطرق التي كانت حتى الأسبوع الماضي جزءًا أساسيًا من العمل داخل OpenAI.
وأوضحوا أنهم كانوا في السابق قادرين على إثارة مخاوف تتعلق بالسلامة والاختلاف في الرأي بشكل علني، كما كانوا يتلقون تشجيعًا للاستفادة من خبرات منظمات مستقلة متخصصة في أمان الذكاء الاصطناعي.
وأضاف الباحثون أن هذه البيئة كانت جزءًا مما جعل OpenAI مميزة بالنسبة لهم، وأنهم يشعرون بالفخر الكبير لكونهم جزءًا من فريق الشركة.
وأكد الباحثون أنهم تصرفوا بما يتماشى مع مهمة OpenAI ومعايير العمل السائدة في ذلك الوقت، مشيرين إلى أن قرار فصلهم يثير مخاوف لديهم بشأن تغير القواعد والمعايير الداخلية في الشركة.
مخاوف من تغير بيئة العمل داخل OpenAI
وأشار الباحثون إلى أن الموظفين داخل OpenAI أصبحوا غير متأكدين من موقف الشركة تجاه بعض الممارسات المتعلقة بأبحاث السلامة والتعاون مع جهات خارجية.
وقالوا إن هذا الوضع قد يخلق حالة من عدم الوضوح لدى الموظفين بشأن ما يمكنهم فعله عند اكتشاف مخاوف مرتبطة بأمان أنظمة الذكاء الاصطناعي.
ونفى وانج وباليسني وكورباك أيضًا عددًا من الشائعات المرتبطة بعملية الفصل، مؤكدين أنهم لم يكونوا مصدر التسريب الذي استند إليه تقرير نشرته The Information بشأن معماريات جديدة لدى OpenAI يصعب مراقبتها.
كما قالوا إنهم لا يعتقدون أنهم تعاملوا مع جهات خارجية خارج نطاق صلاحياتهم، موضحين أن التواصل مع أطراف خارجية كان يتم بالتنسيق والنقاش مع أعضاء مجلس الإدارة والإدارة التنفيذية للشركة.
وذكر وانج أنه أبلغ أحد المسؤولين التنفيذيين بعدما ضغط بالخطأ على رسالة بريد إلكتروني تحتوي على معلومات حساسة.
مطالب بالحفاظ على رقابة مستقلة على نماذج الذكاء الاصطناعي
وفي ختام رسالتهم، قدم الموظفون السابقون عددًا من التوصيات إلى OpenAI، مطالبين الشركة بالالتزام بتعهداتها المعلنة بشأن الاستعانة بجهات مستقلة لإجراء عمليات تدقيق في مجال أمان الذكاء الاصطناعي.
كما طالبوا بعدم استخدام فصلهم كذريعة للتراجع عن هذه الشراكات مع الجهات المستقلة المتخصصة في السلامة.
وأكد الباحثون ضرورة أن تحافظ OpenAI على إمكانية مراقبة نماذج الذكاء الاصطناعي المتقدمة، إلى جانب الحفاظ على ثقافة مفتوحة وشفافة للحوار بين الباحثين في مجال السلامة وبقية منظومة أمان الذكاء الاصطناعي.
جاسمين وانج تتحدث عن القضية على منصة X
وفي منشور متسلسل على منصة X، قالت جاسمين وانج إن قيادة OpenAI تقول إنها تتفق بشكل كبير مع ما ورد في رسالتهم.
وفي الوقت نفسه، أعربت عن قلقها بشأن مدى انفتاح الشركة، مشيرة إلى أنهم لم يكونوا أول أشخاص يغادرون OpenAI في ظروف تثير الشكوك.
وقالت وانج إن عدم اتخاذ الموظفين موقفًا الآن تجاه هذا النوع من الإجراءات قد يعني تكرار الأمر مستقبلًا، مضيفة أن الرسالة الموجهة إلى العاملين داخل OpenAI أصبحت واضحة، وهي أن إثارة المخاوف أو العمل بشكل وثيق مع مجموعات خارجية متخصصة في أمان الذكاء الاصطناعي قد يؤدي إلى تعرض الموظف للفصل دون معرفة السبب.
وتسلط القضية الضوء على الجدل المتزايد حول أمان الذكاء الاصطناعي، وحدود التعاون بين شركات التكنولوجيا والباحثين المستقلين، ومدى قدرة الموظفين على الإبلاغ عن المخاوف المتعلقة بسلامة النماذج المتقدمة داخل شركات الذكاء الاصطناعي الكبرى.