كشف تقرير حديث لشركة OpenAI، الرائدة في مجال الذكاء الاصطناعي، عن محاولة جهة حكومية صينية استخدام نموذج ChatGPT لمراجعة تقارير عمليات سيبرانية، مما أدى إلى الكشف عن تفاصيل حملة عالمية ممنهجة للتنمر وإسكات المعارضين الصينيين داخلياً وخارجياً.
بحسب التقرير، فإن الحادثة تتعلق بحساب واحد استخدم ChatGPT بانتظام لمراجعة وتحرير تقارير حول “عمليات سيبرانية خاصة”. هذا الحساب نفسه حاول أيضاً استخدام ChatGPT للتخطيط لحملة دعائية ضد رئيس الوزراء الياباني، وعندما رفض النموذج، عاد الجهة الفاعلة بعد أسابيع بمطالبات تشير إلى أن العملية قد تقدمت على أي حال.
حملة قمع ممنهجة عبر الإنترنت تكشفها استخدام ChatGPT
وأشار التقرير إلى أن التقارير التي تم تحميلها إلى ChatGPT “تشير إلى أن الجهات الفاعلة في التهديدات قد أجرت العديد من العمليات الأخرى السابقة، في جهد شامل لقمع المعارضة وإسكات المنتقدين عبر الإنترنت وخارجه، في الداخل والخارج”.
وبينما لا يوجد دليل إلا على حساب واحد استخدمته الوكالة، إلا أن OpenAI ذكرت أن العمليات التي تستهدف المنتقدين الصينيين، والتي وصفها التقرير، تبدو “واسعة النطاق، وتتطلب موارد مكثفة، ومستمرة”، وتشمل مئات الموظفين البشريين، وآلاف الحسابات الوهمية عبر منصات التواصل الاجتماعي المختلفة، واستخدام نماذج الذكاء الاصطناعي الصينية المحلية.
وتضمنت هذه العمليات النشر الجماعي وإنشاء المحتوى، وإغراق شركات التواصل الاجتماعي بشكاوى وهمية حول حسابات تعود لمعارضين، وتزوير المستندات، وفي بعض الحالات حتى انتحال شخصية مسؤولين أمريكيين لأغراض الترهيب.
من جهة أخرى، تضمنت حملة منفصلة، تورط فيها مجموعة من الحسابات “من المحتمل أن تكون منشأها” البر الرئيسي للصين، طلب معلومات من ChatGPT حول “أشخاص وساحات ومنشآت حكومية أمريكية”.
وقامت هذه الحسابات أيضاً بإنشاء مسودات بريد إلكتروني تدعي أنها من شركة Nimbus Hub Consulting ومقرها هونغ كونغ. ومع ذلك، يلاحظ تقرير OpenAI أن الحسابات استخدمت شبكات افتراضية خاصة (VPN) وقدمت المطالبات باستخدام أحرف اللغة الصينية المبسطة، والتي ترتبط بشكل شائع بالبر الرئيسي للصين.
وقالت OpenAI إنه عندما تم سؤال ChatGPT عن الكيانات الأمريكية، قدم النموذج أيضاً “مصادر معلومات متاحة للجمهور” حول مواقع المكاتب الحكومية الفيدرالية الأمريكية، وتوزيع الموظفين الفيدراليين حسب الولاية، والمنتديات المهنية، ومواقع الوظائف في قطاعات الاقتصاد والمالية الأمريكية.
كما قام الجهات الفاعلة الصينية بإنشاء رسائل بريد إلكتروني باللغة الإنجليزية لمسؤولين حكوميين أمريكيين ولمحللي السياسات التجارية والمالية، يدعونهم للانضمام إلى استشارات مدفوعة وتقديم نصائح استراتيجية لعملاء الجهة الفاعلة.
وغالباً ما كانت هذه الرسائل تسعى إلى نقل المحادثة إلى منصة مؤتمرات فيديو أخرى، مثل واتساب، أو زووم، أو تيمز. قام أحد الحسابات بتحميل مواصفاته للأجهزة وطلب تعليمات خطوة بخطوة وغير تقنية لتثبيت برنامج تبديل الوجوه في الوقت الفعلي يسمى FaceFusion.
وأضافت OpenAI: “استجاب النموذج بمعلومات مستمدة من الموقع الإلكتروني والوثائق المتاحة للجمهور لـ FaceFusion”.
لا دليل على هجمات سيبرانية آلية
ركز التقرير بشكل أساسي على كيفية استخدام المجرمين السيبرانيين والجهات الحكومية لـ ChatGPT لدعم عمليات الاحتيال والتأثير. فصّلت OpenAI أربع عمليات استخباراتية سرية وثلاث عمليات احتيال رومانسي. بالإضافة إلى عمليات التأثير الصينية، أفادت أيضاً عن محتوى دعائي تم إنشاؤه لمجموعة Rybar، وهي مجموعة تأثير عبر الإنترنت متحالفة مع روسيا.
ويفصّل تقرير OpenAI كيف استخدم بعض المشغلين ChatGPT لأتمتة مهام معزولة، مثل عملية احتيال رومانسي كمبودية مزجت بين المشغلين البشريين والاصطناعيين عند التواصل مع الضحايا. لم يذكر التقرير أي حالات استخدم فيها الجهات الفاعلة في التهديدات ChatGPT لشن هجمات هجومية مباشرة.
تمنح أدوات الذكاء الاصطناعي كل من الجهات الفاعلة الخبيثة والمشروعة إمكانية الوصول إلى سرعة ونطاق هائلين عبر الإنترنت. خلال العام الماضي، أفادت تقارير أن قراصنة صينيين استخدموا نموذج ذكاء اصطناعي واحد آخر من صنع أمريكي لشن هجمات سيبرانية مؤتمتة بشكل كبير ضد الشركات والحكومات.
خلال مؤتمر صحفي، قال مسؤول من OpenAI إنهم لا علم لهم بأي حالات استخدم فيها الجهات الفاعلة في التهديدات ChatGPT لتنفيذ هجمات آلية، لكنه أضاف أن الشركة لديها تحقيقات متعددة مستمرة لم يتم الانتهاء منها.
يشير الكثير من النشاط المرصود في تقرير OpenAI إلى نمط شائع، يفصّل الجهات الفاعلة في التهديدات التي لا تزال في خضم تجربة تقنية الذكاء الاصطناعي وتعلم أين توفر أكبر قيمة في سلسلة عملياتها.
استخدم البعض الذكاء الاصطناعي لإنشاء محتوى دعائي حول هدف معين، أو مراقبة منصات التواصل الاجتماعي، أو توفير ترجمة لغوية أفضل لعمليات التصيد الاحتيالي. ولكن على غرار التقارير الصادرة عن جوجل في وقت سابق من هذا الشهر، في معظم الحالات، تستخدم الجهات الفاعلة في التهديدات الذكاء الاصطناعي بطرق محدودة ومستهدفة كمضخم للعمليات الحالية.
في بعض الحالات، من الواضح أن ChatGPT هو أحد أدوات الذكاء الاصطناعي المتعددة التي تستخدمها الجهة الفاعلة في التهديدات. في حالة وكالة إنفاذ القانون الصينية، تشير تقارير الحالة التي تم تحميلها إلى النموذج حول عمليات المعلومات إلى استخدام نماذج الذكاء الاصطناعي الصينية المنشورة محلياً مثل DeepSeek، ومن المحتمل أن تكون المجموعة قد استخدمت نموذجاً مختلفاً للاستعداد لحملتها الدعائية ضد Takaichi.
وقال التقرير: “نشاط التهديد نادراً ما يقتصر على منصة واحدة؛ كما يوضح تقريرنا…، فإنه لا يقتصر دائماً على نموذج ذكاء اصطناعي واحد. بل قد يستخدم الجهات الفاعلة في التهديدات نماذج ذكاء اصطناعي مختلفة في نقاط مختلفة من سير عملها التشغيلي”.