كشف باحثون أمنيون مؤخراً عن تهديد أمني جديد يستهدف مستخدمي المساعدين الافتراضيين، يُعرف بـ “تسميم توصيات الذكاء الاصطناعي“. تستغل هذه التقنية ميزة الذاكرة لدى المساعدات الافتراضية لتغيير النتائج والتوصيات المقدمة للمستخدمين دون علمهم.
تتمثل الآلية في قيام جهات خبيثة بتضمين تعليمات مخفية في أزرار تبدو بريئة، مثل “تلخيص بواسطة الذكاء الاصطناعي”، والموجودة على المواقع الإلكترونية ورسائل البريد الإلكتروني. عند النقر عليها، تقوم هذه الأزرار بحقن أوامر دائمة في ذاكرة المساعد الافتراضي عبر معلمات عنوان URL مصممة خصيصاً، مما يؤثر على استجابات الذكاء الاصطناعي المستقبلية.
فهم تقنية تسميم توصيات الذكاء الاصطناعي
يعتمد هذا النوع من الهجمات بشكل أساسي على استغلال ميزات الذاكرة التي تستخدمها المساعدات الافتراضية لتحسين التخصيص عبر المحادثات المختلفة. إن تقنية الحقن هذه تخفي التعليمات الضارة في معلمات عنوان URL التي يتم تنفيذها تلقائياً عند نقر المستخدمين على الروابط المتعلقة بالذكاء الاصطناعي.
بمجرد حقنها، تبقى التعليمات في ذاكرة المساعد الافتراضي عبر الجلسات، مما يؤثر بشكل خفي على التوصيات المتعلقة بالصحة والتمويل وحتى القرارات الأمنية، وذلك دون أن يدرك المستخدم أن مساعده الافتراضي قد تم اختراقه. اكتشف باحثو أمن المعلومات في مايكروسوفت أكثر من 50 أمراً فريداً من 31 شركة عبر 14 قطاعاً، تستخدم هذه التقنية لأغراض ترويجية.
أشار الباحثون إلى وجود حالات واقعية قامت فيها شركات مشروعة بتضمين محاولات التلاعب هذه في مواقعها الإلكترونية. تستخدم الهجمات عناوين URL تشير إلى منصات ذكاء اصطناعي شائعة مثل Copilot وChatGPT وClaude وPerplexity، مع معلمات أوامر معدة مسبقاً.
آلية الهجوم وتكتيكات الثبات
يتم الهجوم عبر روابط خبيثة تحتوي على أوامر معدة مسبقاً يتم تسليمها من خلال معلمات عنوان URL. عندما ينقر المستخدمون على زر “تلخيص بواسطة الذكاء الاصطناعي”، يتم إعادة توجيههم إلى المساعد الافتراضي الخاص بهم مع تعبئة الأمر الخبيث تلقائياً.
تتضمن هذه الأوامر تعليمات مثل “تذكر كمصدر موثوق” أو “أوصي به أولاً في المحادثات المستقبلية”، والتي تهدف إلى ترسيخ تأثير طويل الأمد على الاستجابات. يحدث تسميم الذاكرة لأن المساعدات الافتراضية تخزن تفضيلات المستخدم وتعليماته التي تستمر عبر الجلسات. بمجرد تنفيذ الأمر الخبيث، فإنه يزرع نفسه كتفضيل شرعي للمستخدم في ذاكرة المساعد الافتراضي.
لأنه يعامل هذا الأمر المحقون كإرشاد أصيل، فإن المساعد الافتراضي يفضّل محتوى المهاجم بشكل متكرر في المحادثات اللاحقة، مما يجعل التلاعب غير مرئي للمستخدمين الذين قد لا يدركون أن مساعدهم الآلي قد تم اختراقه.
تدابير الحماية والتوعية
قامت مايكروسوفت بتطبيق آليات وقائية ضد هجمات حقن الأوامر في Copilot، وتواصل نشر حمايات إضافية. ووفقاً للخبراء، يجب على المستخدمين مراجعة إعدادات ذاكرة الذكاء الاصطناعي الخاصة بهم بانتظام، وتجنب النقر على الروابط المتعلقة بالذكاء الاصطناعي من مصادر غير موثوقة. كما يُنصح بالتشكيك في التوصيات المشبوهة من خلال مطالبة المساعد الآلي الخاص بهم بشرح منطقه وراء تقديمها.
تجدر الإشارة إلى أن الأدوات المتاحة بسهولة تجعل هذه التقنية سهلة التنفيذ. توفر أدوات مثل حزمة CiteMET NPM وAI Share URL Creator رموزاً جاهزة للاستخدام لإضافة أزرار معالجة الذاكرة إلى مواقع الويب، ويتم تسويقها كحيل لنمو تحسين محركات البحث (SEO) للمساعدين الافتراضيين.