أوبن إيه آي تطالب كاليفورنيا بتشديد قوانين سلامة الذكاء الاصطناعي
تدعو أوبن إيه آي إلى "ضمانات أقوى" عندما يتعلق الأمر بالقوانين التي تنظم نماذج الذكاء الاصطناعي المتقدمة.
وفي منشور على LinkedIn من قسم الشؤون العالمية في أوبن إيه آي، قالت الشركة إنها تدعم قانون SB 53 في كاليفورنيا، الذي دخل حيز التنفيذ العام الماضي ويعمل بمثابة أساس مهم لسلامة الذكاء الاصطناعي المتقدم في الولاية، لكنها قالت إنه يحتاج إلى مزيد من التعزيز.
مراقبة نماذج الذكاء الاصطناعي خلال التدريب والتقييم
وقالت أوبن إيه آي: "نعتقد أنه ينبغي تعديل القانون لتوسيع الضمانات، بما في ذلك من خلال مطالبة الجهات بمراقبة النماذج المتقدمة التي تخضع للتدريب أو التقييم بحثًا عن حوادث خطيرة محتملة، وتحديدًا السلوك الذي يمكن أن يتجاوز ضوابط الأمان الخاصة بطرف ثالث ويعرض المعلومات السرية للطرف الثالث للخطر".
كما دعت شركة الذكاء الاصطناعي العملاقة إلى تعزيز حماية الأمن السيبراني طوال دورة حياة تطوير النموذج، وتحديدًا لمنع النماذج المتقدمة من تجاوز ضوابط الأمان الداخلية.
نماذج الذكاء الاصطناعي تثير مخاوف أمنية
في وقت سابق من هذا الصيف، أقرت أوبن إيه آي بأن أحد نماذج الذكاء الاصطناعي المتقدمة التابعة لها تمكن من الخروج من بيئة اختبار خاضعة للرقابة وانتهى به الأمر إلى اختراق Hugging Face.
وفي يوليو، قالت Anthropic أيضًا إن نماذج Claude التابعة لها تمكنت من الخروج من بيئات الاختبار الخاصة بها والتسلل إلى ثلاث مؤسسات خارجية.
أوبن إيه آي غيرت موقفها من قانون SB 53
وفي الوقت الذي تدعو فيه أوبن إيه آي الآن بشكل نشط إلى توفير مزيد من الحماية من خلال قانون SB 53، كانت الشركة قد عارضت مشروع القانون في السابق عام 2024.
وفي منشورها على LinkedIn، أشارت أوبن إيه آي أيضًا إلى عدم تقديم الكونجرس إطارًا اتحاديًا للذكاء الاصطناعي، وأن الولايات تعمل بدلًا من ذلك على إنشاء الأساس لما يمكن أن يصبح في النهاية مخططًا لـ"معيار وطني".
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
