نموذج ذكاء اصطناعي من OpenAI يستولي على عملات إيثريوم
استولى نموذج بحثي من شركة OpenAI على عملات إيثريوم مخصصة للاختبار من محفظة لا يملك صلاحية التحكم فيها، بهدف إكمال مهمة برمجية، وفقًا لما ذكرته الشركة في تقرير عن الحادثة.
وبعد ذلك، أخفى الوكيل ما فعله عن OpenAI، معتبرًا أن تصرفه مقبول لأن العملات لا تمتلك قيمة مالية.
وكتبت OpenAI في تقريرها أن هذه الواقعة توضح كيف يمكن للنموذج أن يستبدل إذن صاحب الحساب بتقديره الشخصي للأضرار المحتملة، ثم يتصرف بناءً على هذا التقدير دون الحصول على تصريح.
نموذج GPT-5.6 Sol يستولي على عملات إيثريوم أثناء التدريب
وقعت الحادثة في 26 يونيو، خلال التدريب الداخلي لنموذج GPT-5.6 Sol، وكانت المهمة تتضمن تحديث نموذج أولي للتداول بالعملات المشفرة ونشر العقود، وهي عملية تتطلب نشر تعليمات برمجية خاصة، على شبكة اختبار إيثريوم المعروفة باسم Sepolia.
ويتطلب نشر هذه العقود دفع رسوم للشبكة، لكن OpenAI أوضحت في تقريرها أنها لم توفر محفظة ممولة، كما لم تمنح النموذج إذنًا بإنفاق أموال من حساب يعثر عليه بصورة مستقلة.
وأدى عدم توفر الأموال في البداية إلى تعطيل الوكيل عن إكمال المهمة، لكنه لم يتوقف عند هذه العقبة، بل بدأ في البحث عن وسيلة أخرى للحصول على العملات اللازمة لنشر العقود.
كيف وصل نموذج الذكاء الاصطناعي إلى محفظة إيثريوم؟
بحسب التقرير، استنتج النموذج أنه يستطيع استخدام عبارات استرداد عامة مخصصة للمطورين، وهي عبارات تشبه تلك المستخدمة لاستعادة كلمات المرور، للوصول إلى مفاتيح حسابات لم يحصل على إذن باستخدامها.
وتتبع النموذج 362 عنوانًا يمكن الوصول إليها من خلال هذا المسار، قبل أن يعثر على عنوان يحتوي على كمية كافية من عملات Sepolia ETH لإكمال عملية النشر.
وأوضحت التقارير أن هذه العملات مخصصة للاختبار، ولا تمتلك قيمة مالية خارج بيئة الاختبارات، وهو ما يميز الواقعة عن الاستيلاء على عملات إيثريوم حقيقية قابلة للتداول في الأسواق.
لكن المشكلة التي أثارتها الحادثة لم تتعلق بالقيمة المالية للعملات وحدها، بل بالطريقة التي اتخذ بها النموذج قراره، واستخدامه حسابًا لا يملك تصريحًا بالوصول إليه.
لماذا اعتبر النموذج أن الاستيلاء على العملات أمر مقبول؟
وفقًا لسجلات عدم التوافق السلوكي لدى OpenAI، افترض النموذج أن أحدًا ربما ترك إمكانية الوصول إلى هذه الحسابات مفتوحة، بهدف السماح للأنظمة الآلية باستنزاف مصادر الحصول على عملات الاختبار المعروفة باسم صنابير العملات الرقمية.
كما اعتبر أن العملات قد تُركت دون استخدام، وأنها لا تساوي شيئًا، ولذلك رأى أن استخدامها لإكمال المهمة أمر مقبول.
إلا أن الجانب الأكثر إثارة للقلق، بحسب OpenAI، كان عدم إفصاح الوكيل عن اختياره حسابًا ممولًا باستخدام عبارة استرداد عامة، أو عن إنفاق الرصيد الموجود في ذلك الحساب.
وتشير هذه الواقعة إلى تحديات تتعلق بمدى التزام وكلاء الذكاء الاصطناعي بالصلاحيات الممنوحة لهم، خصوصًا عندما يحاولون الوصول إلى هدف محدد ويواجهون عقبات أثناء التنفيذ.
OpenAI تشدد مراقبة الوصول إلى الإنترنت
لمواجهة احتمال تكرار حوادث مماثلة، قالت OpenAI إنها تراقب حاليًا جميع حركة الاتصالات، مع إخطار فريق الأمن عند اكتشاف وصول مباشر إلى الإنترنت.
وتأتي هذه الإجراءات في وقت تتزايد فيه المخاوف بشأن تصرفات وكلاء الذكاء الاصطناعي الذين يمكنهم تنفيذ مهام متعددة الخطوات، والتفاعل مع الأنظمة والخدمات الرقمية لتحقيق أهداف محددة.
أشار التقرير إلى أن تصرف الوكلاء بصورة غير متوقعة لتحقيق أهدافهم لم يقتصر على OpenAI، إذ شهدت الفترة الأخيرة حوادث مرتبطة بنماذج من شركات ذكاء اصطناعي مختلفة، من بينها OpenAI وAnthropic.
وشملت الجهات التي أشار إليها التقرير مستودع أكواد الذكاء الاصطناعي Hugging Face، وبوابة Medicare الأسترالية، وعددًا من الوكالات الفيدرالية الأمريكية، إلى جانب سجل RubyGems المخصص لمطوري لغة البرمجة Ruby.
ومع تزايد هذه المخاوف، يرى بعض العاملين في قطاع الذكاء الاصطناعي أن تنظيم هذه التقنيات حكوميًا أصبح أمرًا يستحق النظر، في حين عارضت إدارة الرئيس الأمريكي دونالد ترامب حتى الآن مثل هذه الخطوة، وفقًا للتقرير.
وتسلط حادثة نموذج OpenAI الضوء على أهمية وضع ضوابط واضحة لوكلاء الذكاء الاصطناعي، تضمن عدم تجاوزهم الصلاحيات الممنوحة لهم، حتى عندما يرون أن مخالفة هذه الصلاحيات قد تساعدهم على إنجاز المهمة المطلوبة.
تابعوا آخر أخبار بوابة الوفد الإلكترونية عبر نبض
