OpenAI تكشف استخدام الصين لـ ChatGPT في حملات تأثير سرية
استخدمت عمليات الدعاية والهندسة الاجتماعية الصينية برنامج ChatGPT لإنشاء منشورات وتعليقات وتحفيز التفاعل محليًا ودوليًا.
وأعلنت شركة OpenAI أنها عطلت مؤخرًا أربع عمليات تأثير صينية سرية كانت تستخدم أداتها لإنشاء منشورات وردود على منصات التواصل الاجتماعي، بما في ذلك TikTok وFacebook وReddit وX.
وتناولت التعليقات التي تم إنشاؤها مواضيع متعددة، من السياسة الأمريكية إلى لعبة فيديو تايوانية يحارب فيها اللاعبون الحزب الشيوعي الصيني. واستُخدم برنامج ChatGPT لإنشاء منشورات على وسائل التواصل الاجتماعي، دعمت وشجبت قضايا ساخنة مختلفة، وذلك لإثارة خطاب سياسي مضلل.
وصرح بن نيمو، الباحث الرئيسي في OpenAI، لإذاعة NPR: "ما نراه من الصين هو مجموعة متنامية من العمليات السرية باستخدام مجموعة متنامية من التكتيكات". وبينما زعمت OpenAI أنها عطلت أيضًا عددًا من العمليات التي تعتقد أنها نشأت في روسيا وإيران وكوريا الشمالية، أوضح نيمو العمليات الصينية قائلًا إنها "استهدفت العديد من البلدان والمواضيع المختلفة بعضها جمع بين عناصر من عمليات التأثير والهندسة الاجتماعية والمراقبة".
وهذه ليست المرة الأولى التي يحدث فيها هذا. في عام ٢٠٢٣، وجد باحثون من شركة مانديانت للأمن السيبراني أن المحتوى المُولّد بالذكاء الاصطناعي قد استُخدم في حملات تأثير إلكترونية ذات دوافع سياسية في حالات عديدة منذ عام ٢٠١٩.
في عام ٢٠٢٤، نشرت شركة OpenAI منشورًا على مدونتها يُوضح جهودها لتعطيل خمس عمليات تابعة لدول في الصين وإيران وكوريا الشمالية كانت تستخدم نماذج OpenAI لأغراض خبيثة. وشملت هذه التطبيقات تصحيح أخطاء الأكواد البرمجية، وإنشاء نصوص برمجية، وإنشاء محتوى لاستخدامه في حملات التصيد الاحتيالي.
في العام نفسه، أعلنت شركة OpenAI أنها عطلت عملية إيرانية كانت تستخدم ChatGPT لإنشاء مقالات سياسية مطولة حول الانتخابات الأمريكية، ثم نُشرت على مواقع إخبارية مزيفة تُقدم نفسها على أنها مواقع محافظة وتقدمية. كما كانت العملية تُنشئ تعليقات لنشرها على X وإنستغرام من خلال حسابات مزيفة، تُروج لوجهات نظر متعارضة.
وقال نيمو لإذاعة NPR: "لم نشهد عمومًا زيادة في التفاعل مع هذه العمليات بسبب استخدامها للذكاء الاصطناعي. بالنسبة لهذه العمليات، فإن وجود أدوات أفضل لا يعني بالضرورة نتائج أفضل".
هذا لا يُطمئن كثيرًا. ومع تزايد تكلفة الذكاء الاصطناعي التوليدي وذكائه، فمن المنطقي أن قدرته على توليد المحتوى بشكل جماعي سوف تجعل حملات التأثير مثل هذه أسهل وأكثر تكلفة للبناء، حتى لو ظلت فعاليتها دون تغيير.