كشفت دراسة حديثة عن تطور كبير في التهديدات الأمنية التي تستهدف نماذج اللغة الكبيرة، حيث أصبحت هذه النماذج، التي اندمجت بعمق في العمليات التجارية اليومية، عرضة لهجمات متطورة تتجاوز مفهوم “حقن الأوامر” التقليدي. يطلق الباحثون على هذه الفئة الجديدة من البرمجيات الخبيثة اسم “برمجيات الأوامر” (Promptware) لتعكس طبيعتها المنظمة والمتعددة المراحل، والمعروفة أيضاً بـ سلسلة برمجيات الأوامر.
تتجاوز هذه الهجمات، التي تم رصدها وتصنيفها بواسطة خبراء في الأمن السيبراني، التعقيدات المرتبطة بحقن الأوامر البسيطة. بدلاً من ذلك، تتبع هذه التهديدات أنماطاً مفصلة ومنظمة، تشبه إلى حد كبير العمليات التي تتبعها البرمجيات الخبيثة التقليدية في تنفيذ هجماتها.
فهم سلسلة برمجيات الأوامر المكونة من خمس مراحل
قدم باحثون بارزون من جامعات مرموقة نموذجاً شاملاً لتحليل هذه التهديدات، وهو نموذج “سلسلة برمجيات الأوامر” المكون من خمس مراحل. يوضح هذا الإطار كيف أن الهجمات الحديثة على نماذج اللغة تتسم بطابع منهجي ومنظم، مع نقاط تدخل واضحة يمكن استغلالها.
المرحلة الأولى: الوصول الأولي (Initial Access)
تبدأ سلسلة الهجوم بالوصول الأولي، حيث يقوم المهاجمون بإدخال تعليمات خبيثة إلى النظام. يمكن أن يتم ذلك إما عن طريق حقن الأوامر مباشرة من قبل المستخدمين، أو بشكل غير مباشر من خلال مستندات “ملوثة” يقوم النظام باسترجاعها ومعالجتها.
المرحلة الثانية: تصعيد الامتيازات (Privilege Escalation)
تتضمن المرحلة الثانية تقنيات “كسر الحماية” (Jailbreaking) التي تهدف إلى تجاوز قيود السلامة والتدريب المصممة لمنع النموذج من تنفيذ طلبات ضارة. يستخدم المهاجمون أساليب متطورة للتحايل على التدريبات اللازمة لضمان عدم استجابة النماذج لطلبات معينة، مستخدمين تقنيات مثل التخفي، ولعب الأدوار، وحتى “اللاحقات العدائية العالمية” التي تعمل عبر نماذج متعددة.
من جهة أخرى، ومع النجاح في تجاوز حواجز السلامة، ينتقل المهاجمون للتركيز على تثبيت وجودهم داخل النظام. هذه هي المرحلة التي تصبح فيها “برمجيات الأوامر” خطيرة بشكل خاص.
آليات الثبات والتأثير الواقعي
على عكس البرمجيات الخبيثة التقليدية التي تعتمد على تعديلات سجل النظام أو المهام المجدولة لتحقيق الثبات، تستغل “برمجيات الأوامر” مخازن البيانات التي تعتمد عليها تطبيقات نماذج اللغة. يمكن أن تتضمن هذه الآليات زرع الحمولة الخبيثة في مستودعات البيانات مثل أنظمة البريد الإلكتروني وقواعد المعرفة، مما يؤدي إلى إعادة تفعيلها عند استرجاع النظام لمحتوى مشابه.
إضافة إلى ذلك، هناك آلية “ثبات مستقل للاسترجاع” (Retrieval-independent persistence) الأكثر خطورة، والتي تستهدف ذاكرة الوكيل (agent’s memory) مباشرة. هذا يضمن تنفيذ التعليمات البرمجية الخبيثة عند كل تفاعل، بغض النظر عن مدخلات المستخدم.
ويُعد دودة “موريس الثانية” (Morris II worm) مثالاً بارزاً لهذا التهديد. فقد انتشر هذا الهجوم ذاتي التكرار عبر مساعدي البريد الإلكتروني المدعومين بنماذج اللغة، حيث أجبر النظام على تضمين نسخ من الحمولة الخبيثة في رسائل البريد الإلكتروني الصادرة.
من ناحية أخرى، تضيف قنوات القيادة والتحكم (Command-and-control channels) طبقة أخرى من التعقيد، مما يسمح للمهاجمين بتحديث الحمولة بشكل ديناميكي وتعديل سلوك الوكيل في الوقت الفعلي. يتم ذلك عن طريق تضمين تعليمات تقوم بجلب الأوامر من مصادر يتحكم بها المهاجم.
لقد تسارع التحول من الثغرات النظرية إلى الاستغلال العملي بشكل كبير. فالهجمات المبكرة كانت تقتصر على إخراج معلومات رفض. أما اليوم، فإن “برمجيات الأوامر” تنظم استيلاء على البيانات، وتشعل حملات تصيد احتيالي عبر أنظمة البريد الإلكتروني المخترقة، وتتلاعب بأجهزة المنزل الذكي، وتنفذ معاملات مالية غير مصرح بها.
تُظهر الحوادث الأخيرة سلسلة كاملة من الهجمات، محولة المخاوف الأمنية المعزولة إلى مخاطر تنظيمية منهجية تتطلب اهتماماً فورياً وتطوير أطر دفاعية جديدة للتعامل مع التحديات المتزايدة في مجال الأمن السيبراني لنماذج اللغة. يشكل فهم سلسلة برمجيات الأوامر خطوة أساسية نحو معالجة هذه التهديدات المتطورة.