باحثون: “كوبايلوت” و”جروك” يمكن استغلالهما كخوادم وسيطة لبرمجيات خبيثة

كشف باحثون في مجال الأمن السيبراني عن تقنية جديدة تسمح بتحويل مساعدي الذكاء الاصطناعي الذين يدعمون تصفح الويب إلى قنوات قيادة وتحكم (C2) خفية، مما يتيح للمهاجمين التخفي ضمن الاتصالات المؤسسية المشروعة وتجنب الكشف. هذه الثغرة تستغل قدرات الذكاء الاصطناعي في جلب الروابط وتلخيص المحتوى.

وتُعرف هذه الطريقة، التي تم إثباتها ضد مساعدي Microsoft Copilot و xAI Grok، باسم “الذكاء الاصطناعي كوكيل قيادة وتحكم”. تهدف هذه التقنية إلى تسهيل عمليات البرمجيات الخبيثة المدعومة بالذكاء الاصطناعي، بما في ذلك إنشاء سير عمل استطلاعي، وبرمجة إجراءات المهاجم، واتخاذ قرارات ديناميكية أثناء الاختراق.

الذكاء الاصطناعي كوكيل قيادة وتحكم: تقنية تهديد جديدة

يشكل هذا التطور تطورًا جديدًا في كيفية إساءة استخدام أنظمة الذكاء الاصطناعي. فبالإضافة إلى تسريع مراحل الهجوم السيبراني، يمكن للمهاجمين استغلال واجهات برمجة التطبيقات (APIs) لتوليد أكواد ديناميكيًا في وقت التشغيل، والتي يمكنها تكييف سلوكها بناءً على معلومات مجمعة من النظام المخترق، وبالتالي التهرب من إجراءات الكشف.

تُعد أدوات الذكاء الاصطناعي بالفعل عامل قوة للمهاجمين، حيث تسمح لهم بتفويض خطوات رئيسية في حملاتهم، سواء كان ذلك للاستطلاع، أو فحص الثغرات، أو صياغة رسائل تصيد احتيالي مقنعة، أو إنشاء هويات اصطناعية، أو تصحيح الأكواد، أو تطوير البرمجيات الخبيثة.

كيف تعمل تقنية الذكاء الاصطناعي كوكيل قيادة وتحكم؟

تستغل التقنية قدرات التصفح وجلب الروابط في Grok و Microsoft Copilot لجلب عناوين URL التي يتحكم بها المهاجم، وإعادة الردود عبر واجهات الويب الخاصة بها. يؤدي هذا فعليًا إلى تحويل الأداة إلى قناة اتصال ثنائية الاتجاه لاستقبال الأوامر من المشغل ونقل بيانات الضحية إلى الخارج.

والجدير بالذكر أن كل هذا يعمل دون الحاجة إلى مفتاح API أو حساب مسجل، مما يجعل الأساليب التقليدية مثل إلغاء المفاتيح أو تعليق الحسابات غير مجدية.

يمكن النظر إلى هذا النهج على أنه لا يختلف عن حملات الهجوم التي سبق لها استغلال الخدمات الموثوقة لتوزيع البرمجيات الخبيثة والتحكم بها، وهي تقنية تعرف أيضًا باسم “العيش على مواقع موثوقة” (Living Off Trusted Sites – LOTS).

المتطلبات والآثار المترتبة

لحدوث هذا الهجوم، هناك شرط أساسي؛ يجب أن يكون المهاجم قد اخترق جهازًا بالفعل بوسائل أخرى وقام بتثبيت برمجيات خبيثة. ثم تستخدم هذه البرمجيات Copilot أو Grok كقناة قيادة وتحكم باستخدام أوامر مصممة خصيصًا، مما يدفع وكيل الذكاء الاصطناعي إلى الاتصال بالبنية التحتية التي يتحكم بها المهاجم وإعادة الاستجابة التي تحتوي على الأمر ليتم تنفيذه على الجهاز.

أشارت Check Point أيضًا إلى أن المهاجم يمكن أن يتجاوز مجرد توليد الأوامر، وأن يستفيد من وكيل الذكاء الاصطناعي لتطوير استراتيجية تهرب وتحديد مسار العمل التالي، وذلك عن طريق تمرير تفاصيل حول النظام والتحقق مما إذا كان يستحق الاستغلال.

“بمجرد أن يمكن استخدام خدمات الذكاء الاصطناعي كطبقة نقل خفية، يمكن أن تحمل نفس الواجهة أيضًا أوامر ونواتج النماذج التي تعمل كمحرك قرار خارجي، وخطوة نحو زرع خبيث مدفوع بالذكاء الاصطناعي C2 بأسلوب AIOps الذي يؤتمت الفرز وال
استهداف والخيارات التشغيلية في الوقت الفعلي”، حسبما ذكرت Check Point.

يأتي هذا الكشف بعد أسابيع قليلة من عرض Palo Alto Networks Unit 42 لتقنية هجوم جديدة يمكن فيها تحويل صفحة ويب تبدو غير ضارة إلى موقع تصيد باستخدام استدعاءات API من جانب العميل لخدمات نماذج اللغة الكبيرة (LLM) الموثوقة لتوليد JavaScript ضارة ديناميكيًا في الوقت الفعلي.

تتشابه هذه الطريقة مع هجمات “إعادة التجميع في آخر ميل” (Last Mile Reassembly – LMR)، والتي تتضمن تهريب البرمجيات الخبيثة عبر الشبكة من خلال قنوات غير مراقبة مثل WebRTC و WebSocket وتجميعها مباشرة في متصفح الضحية، متجاوزة بذلك الضوابط الأمنية.

“يمكن للمهاجمين استخدام أوامر مصممة بعناية لتجاوز حواجز الأمان الخاصة بالذكاء الاصطناعي، مما يخدع LLM لإعادة مقتطفات من الكود الضار”، حسبما قال باحثو Unit 42. “يتم إعادة هذه المقتطفات عبر API لخدمة LLM، ثم يتم تجميعها وتنفيذها في متصفح الضحية وقت التشغيل، مما يؤدي إلى صفحة تصيد احتيالي تعمل بالكامل.”