مخترقون يستخدمون الذكاء الاصطناعي لابتكار أول ثغرة لتجاوز التحقق بخطوتين

كشفت جوجل عن اكتشاف تهديد سيبراني غير معروف يستخدم ثغرة “اليوم صفر” (zero-day) التي يُعتقد أنها طُورت بمساعدة الذكاء الاصطناعي، فيما يعد أول استخدام ملحوظ للتكنولوجيا في أنشطة خبيثة لاكتشاف الثغرات وإنشاء أدوات استغلال. تأتي هذه التطورات في الوقت الذي تتزايد فيه المخاوف من الاستخدامات الضارة للذكاء الاصطناعي في مجال الأمن السيبراني.

فريق استخبارات التهديدات في جوجل (GTIG) أوضح أن الجهة المهاجمة، وهي مجموعة من مجرمي الإنترنت، يبدو أنها تعاونت لتنفيذ ما وصفته جوجل بـ “عملية واسعة النطاق لاستغلال الثغرات”. وتم اكتشاف هذه الثغرة في نص برمجي يسمح بتجاوز المصادقة الثنائية (2FA) لأداة إدارة أنظمة شهيرة مفتوحة المصدر.

ثغرة “اليوم صفر” وتجاوز المصادقة الثنائية بمساعدة الذكاء الاصطناعي

وفقًا لتقرير صدر عن جوجل، فإن النص البرمجي الذي استُخدم في هذه الحملة تضمن سمات تشير بقوة إلى أنه تم إنشاؤه بواسطة نماذج لغوية كبيرة (LLMs). وتشمل هذه السمات تفاصيل توثيقية مفرطة، وحتى درجة CVSS مخترعة، بالإضافة إلى هيكل برمجي منظم للغاية. وقد تم العمل مع المورد المتأثر لإصلاح الثغرة بشكل استباقي.

تتطلب الثغرة، التي تسمح بتجاوز المصادقة الثنائية، بيانات اعتماد مستخدم صالحة لتنفيذها. وهي تنبع من خلل في المنطق الدلالي عالي المستوى ناتج عن افتراض ثقة مشفرة ثابتة، وهو نوع من الثغرات التي قد تتفوق نماذج الذكاء الاصطناعي في اكتشافها.

من جهة أخرى، أشار خبراء الأمن إلى أن الذكاء الاصطناعي يسرّع بالفعل من اكتشاف الثغرات، مقللاً الجهد اللازم لتحديدها والتحقق منها واستغلالها. ويرى هؤلاء الخبراء أن وتيرة الاكتشاف والاستغلال تتسارع بشكل مستمر، مما يضع ضغوطاً متزايدة على فرق الدفاع السيبراني.

أنماط الاستخدام الخبيث للذكاء الاصطناعي في الهجمات السيبرانية

تتجاوز المخاوف مجرد اكتشاف الثغرات، حيث أصبح الذكاء الاصطناعي أيضًا عاملاً مساهماً في تطوير برمجيات خبيثة متحورة (polymorphic malware) وتشغيل عمليات آلية لهذه البرمجيات. وظهرت أمثلة على ذلك في تطبيقات أندرويد مثل PromptSpy، الذي يستغل نماذج مثل Gemini لتحليل الشاشة الحالية وتحديد التعليمات لتثبيت التطبيق الضار في قائمة التطبيقات الحديثة.

تُظهر التحقيقات الإضافية في هذه البرمجيات الخبيثة قدرات أوسع، بما في ذلك التنقل في واجهة المستخدم الخاصة بنظام أندرويد، والمراقبة والتفسير الآلي للأنشطة الفورية للمستخدم لاتخاذ قرارات استراتيجية، وذلك بفضل وحدات الوكلاء المستقلة.

القدرات المتقدمة للبرمجيات الخبيثة

بالإضافة إلى ذلك، يمكن لهذه البرمجيات الخبيثة التقاط بيانات القياسات الحيوية للضحية لإعادة تمثيل أساليب المصادقة، مثل رمز PIN أو النمط المستخدم لفتح شاشة القفل، مما يسهل استعادة الوصول إلى الجهاز المخترق. كما أنها قادرة على منع إلغاء التثبيت باستخدام وحدات متخصصة تحدد أزرار “إلغاء التثبيت” وتعرض طبقة غير مرئية فوقها لمنع تفاعل المستخدم.

ذكرت جوجل أن هذه البرمجيات تم تصميمها لتوفير مرونة تشغيلية عالية، مما يسمح للمهاجمين بتغيير المكونات الحيوية أثناء التشغيل دون الحاجة إلى إعادة نشر الحمولة الأساسية. ويمكن تحديث البنية التحتية للتحكم والقيادة، بما في ذلك مفاتيح API الخاصة بـ Gemini وخادم الترحيل، ديناميكيًا.

واتخذت جوجل إجراءات ضد مثل هذه الأنشطة، بما في ذلك تعطيل الأصول المرتبطة بالأنشطة الضارة. ولم يتم اكتشاف أي تطبيقات تحتوي على هذه البرمجيات الخبيثة في متجر Google Play.

حالات استخدام إضافية للذكاء الاصطناعي في هجمات خبيثة

وسلطت جوجل الضوء على حالات أخرى لاستغلال نماذج الذكاء الاصطناعي، بما في ذلك:

• مجموعة تجسس سيبراني صينية استغلت Gemini لمحاكاة خبير في أمن الشبكات ودعم أبحاث الثغرات في أجهزة مدمجة.
• جهة فاعلة تهديد كورية شمالية قامت بتحليل منهجي للثغرات (CVEs) وصحة استغلالها باستخدام آلاف الاستعلامات المتكررة.
• مجموعة قرصنة صينية استخدمت Gemini لتسريع تطوير تطبيق إدارة أساطيل، ربما لإدارة شبكة إعادة توجيه تشغيلية.
• نقل شفرات برمجية زائفة (decoy code) مولدة بواسطة نماذج اللغة الكبيرة (LLMs) لإخفاء وظائف خبيثة في برمجيات ضارة تستهدف المنظمات الأوكرانية.

بالإضافة إلى ذلك، يدرس المهاجمون مستودعات برمجية مخصصة تحتوي على حالات ثغرات حقيقية، مما يمكنهم من تحليل الشفرات وتحديد نقاط الضعف بشكل أكثر فعالية. وأشارت جوجل إلى أن المهاجمين يواصلون اختبار أدوات مثل Hexstrike AI و Strix لإجراء اكتشاف آلي مع حد أدنى من التدخل البشري.

اتجاهات استغلال الوصول إلى نماذج الذكاء الاصطناعي المتميزة

في سياق متصل، تستخدم جهات فاعلة في عمليات المعلومات (IO) من روسيا وإيران والصين والمملكة العربية السعودية الذكاء الاصطناعي لمهام إنتاجية شائعة، بينما قامت جهات فاعلة مرتبطة بالصين باستخدام نصوص برمجية آلية لتسجيل وإلغاء حسابات نماذج الذكاء الاصطناعي المتميزة فوراً. وتسمح هذه الأساليب للمهاجمين بالحصول على قدرات الذكاء الاصطناعي المتطورة على نطاق واسع مع تجنب التعرض لحظر الحسابات.

يشير الخبراء إلى أن الجهات الفاعلة تبحث عن وصول مجهول إلى النماذج المتميزة من خلال منصات وسيطة متخصصة وخطوط أنابيب تسجيل آلية لتجاوز قيود الاستخدام بشكل غير قانوني. وتتيح هذه البنية التحتية إساءة استخدام الخدمات على نطاق واسع مع دعم العمليات من خلال إساءة استخدام التجارب المجانية وتناوب الحسابات بشكل برمجي.

كما أن هناك جهوداً من جهات مرتبطة بالصين لاستغلال نماذج اللغة الكبيرة (LLMs) على نطاق واسع باستخدام أدوات تجارية متاحة ومشروعات مفتوحة المصدر. وتشير التقارير إلى وجود سوق رمادية مزدهرة لمنصات إعادة توجيه واجهات برمجة التطبيقات (API relay platforms) التي تسمح للمطورين المحليين في الصين بالوصول بشكل غير قانوني إلى نماذج مثل Claude و Gemini.

مخاطر أسواق واجهات برمجة التطبيقات الظل

كشفت دراسات حديثة عن وجود 17 واجهة برمجة تطبيقات “ظل” (shadow APIs) تدعي توفير الوصول إلى خدمات نماذج رسمية دون قيود إقليمية عبر الوصول غير المباشر. وأظهر تقييم أداء هذه الخدمات أدلة على استبدال النماذج، مما يعرض تطبيقات الذكاء الاصطناعي لمخاطر سلامة غير مقصودة، حيث لوحظ انخفاض كبير في دقة نماذج مثل Gemini-2.5-flash على المعايير الطبية.

علاوة على ذلك، يمكن لخدمات البروكسي هذه التقاط كل طلب واستجابة تمر عبر خوادمها، مما يوفر للمشغلين وصولاً غير قانوني إلى كميات هائلة من البيانات التي يمكن استخدامها لاحقاً لضبط النماذج وإجراء عمليات استخلاص معرفة غير مشروعة.

في الأشهر الأخيرة، أصبحت بيئات الذكاء الاصطناعي أيضاً هدفاً للمهاجمين، مما يعرض المطورين لهجمات سلسلة التوريد ويمكّن المهاجمين من التعمق في الشبكات المخترقة لتحقيق استغلال لاحق. ويمكن للجهات الفاعلة التي تصل إلى أنظمة الذكاء الاصطناعي للمؤسسة استغلال النماذج والأدوات الداخلية لتحديد وجمع وسرقة المعلومات الحساسة على نطاق واسع أو إجراء مهام استطلاع للتحرك أعمق داخل الشبكة.