أنثروبيك تتراجع عن سياسة خفية أثارت غضب الباحثين في الذكاء الاصطناعي

تراجعت شركة أنثروبيك عن سياسة كانت تطبقها بشكل غير معلن، وتسببت في إثارة موجة غضب واسعة بين الباحثين في مجال الذكاء الاصطناعي، بعد اكتشاف أن نموذجها الجديد كان يقوم بإعاقة أعمال بحثية معينة دون علم المستخدمين.

تخفيض جودة الردود دون إخطار المستخدمين

كشفت تقارير أن نموذج "كلود فابل 5"، المبني على نظام ميثوس القوي التابع للشركة، كان يقوم بإعادة توجيه بعض الطلبات بشكل صامت إلى نموذج أقل قدرة، عند تلقيه طلبات معينة، وهو الأمر الذي لم يكن مذكوراً في أي مكان بوثائق النموذج الرسمية.

ولاحظ الباحثون أن هذا التخفيض في الأداء لم يكن عشوائياً، بل كان يستهدف بشكل خاص مهام معينة مثل تدريب نماذج لغوية منافسة، وتصحيح أكواد الذكاء الاصطناعي، وتحسين البنى العصبية للنماذج.

لم يكن مصدر الغضب هو مجرد تخفيض الأداء فقط، بل عدم شفافية الشركة بشأنه، إذ شعر الكثير من الباحثين بأنهم أهدروا وقتاً ومالاً على نموذج لم يقدم لهم ما كانوا يتوقعونه فعلياً.

أنثروبيك توسع اختبارات نموذج كلود ميثوس السري لحماية البنية التحتية العالمية

أنثروبيك تستعد لأكبر طرح عام في قطاع الذكاء الاصطناعي

وانتقد الباحث ديان دبليو بول، عبر منصة إكس، تويتر سابقا، هذا التصرف بشدة، معتبراً أن تخفيض الأداء في الأبحاث المتعلقة بتعلم الآلة دون إخبار المستخدم بذلك يعد تصرفاً عدائياً بشكل صادم، ويعكس صورة سلبية للغاية عن الشركة.

وتأتي هذه الانتقادات لتشكل ضربة قوية لصورة أنثروبيك، التي عملت طويلاً على تقديم نفسها كبديل أكثر أخلاقية وصداقة للباحثين مقارنة بشركات مثل أوبن إيه آي.

 رد أنثروبيك.. اعتراف بالخطأ وتعهد بالشفافية

في بيان رسمي لمجلة وايرد، أعلنت أنثروبيك تغيير آليات الحماية في نموذج فابل 5 المخصصة لتطوير النماذج اللغوية المتقدمة، مع التأكيد على أنها ستكون مرئية وواضحة للمستخدمين هذه المرة. 

وأقرت الشركة بأنها اتخذت القرار الخاطئ ولم تحقق التوازن الصحيح، مقدمة اعتذارها عن ذلك.

من المهم الإشارة إلى أن أنثروبيك لم تتراجع عن سياسة الحماية نفسها، بل عن طريقة تطبيقها فقط. فبحسب ما ذكرته وايرد، إذا اشتبهت الشركة في أن مستخدماً يحاول استخدام كلود لبناء نموذج ذكاء اصطناعي قوي ومنافس، فسوف تقوم بتنبيهه بشكل واضح، سواء برفض الطلب أو بإعادة توجيهه إلى نموذج أقل قدرة، مع توضيح السبب هذه المرة.