كشفت تقارير أمنية حديثة عن تزايد هائل في تسريب الأسرار والبيانات الحساسة عبر أنظمة الذكاء الاصطناعي، حيث بلغ عدد هذه الأسرار المسربة 23.77 مليون سر خلال عام 2024، بزيادة قدرها 25% مقارنة بالعام السابق. وتسلط هذه الحوادث الضوء على فجوة عميقة في أطر الأمان التقليدية أمام التهديدات المتطورة للذكاء الاصطناعي، حتى بالنسبة للمؤسسات التي تطبق برامج أمنية شاملة وتتوافق مع المعايير المطلوبة.
قصور الأطر الأمنية التقليدية أمام تهديدات الذكاء الاصطناعي
شهد عام 2024 سلسلة من الحوادث الأمنية البارزة المتعلقة بالذكاء الاصطناعي. ففي ديسمبر 2024، تم اختراق مكتبة Ultralytics AI الشهيرة، حيث تم زرع برمجيات خبيثة استغلت موارد النظام لتعدين العملات المشفرة. وفي أغسطس 2025، أدت حزم Nx الخبيثة إلى تسريب 2,349 بيانات اعتماد خاصة بمنصات GitHub، والسحابة، والذكاء الاصطناعي. وعلى مدار عام 2024، سمحت الثغرات في ChatGPT باستخراج غير مصرح به لبيانات المستخدمين من ذاكرة نماذج الذكاء الاصطناعي.
الملفت في هذه الاختراقات هو أن المؤسسات المنكوبة كانت تمتلك برامج أمنية شاملة، وأجرت عمليات تدقيق ناجحة، والتزمت بمتطلبات الامتثال. ومع ذلك، فإن أطر الأمان لديها لم تكن مصممة لمواجهة التهديدات الناشئة عن أنظمة الذكاء الاصطناعي، والتي تختلف جوهرياً عن التطبيقات التقليدية.
تطور التهديدات خارج نطاق الأطر الأمنية
لقد خدمت أطر الأمان التقليدية، مثل إطار عمل الأمن السيبراني الوطني (NIST CSF)، وISO 27001، ووحدات التحكم CIS Controls، المؤسسات لعقود من الزمن. ولكن أنظمة الذكاء الاصطناعي تعمل بطرق مختلفة جذرياً، والهجمات عليها لا تندرج ضمن فئات الضوابط الأمنية الحالية. على سبيل المثال، تم تصميم ضوابط الوصول للتحكم فيمن يمكنه الوصول إلى الأنظمة وما يمكنه فعله، لكنها لا تعالج هجمات “حقن الأوامر” (Prompt Injection) التي تتلاعب بسلوك الذكاء الاصطناعي عبر مدخلات لغوية طبيعية.
من جهة أخرى، تركز ضوابط سلامة النظام والمعلومات على اكتشاف البرمجيات الخبيثة ومنع تنفيذ التعليمات البرمجية غير المصرح بها. ولكن في سياق الذكاء الاصطناعي، يمكن أن يحدث تسميم النماذج (Model Poisoning) أثناء عملية التدريب المصرّح بها، حيث يقوم المهاجم بتسميم بيانات التدريب، مما يؤدي إلى تعلم النظام سلوكيات خبيثة كجزء من التشغيل العادي. كما أن ضوابط إدارة التكوين، رغم أهميتها، لا تستطيع منع الهجمات العدائية التي تستغل الخصائص الرياضية لنماذج تعلم الآلة.
فجوات رئيسية في الأطر الأمنية الحالية
- حقن الأوامر (Prompt Injection): تستغل هذه الهجمات اللغة الطبيعية، متجاوزة ضوابط التحقق التقليدية للمدخلات المصممة للكشف عن أنماط بناء الجملة أو الأحرف الخاصة.
- تسميم النماذج (Model Poisoning): يحدث هذا الهجوم ضمن سير عمل شرعي للتدريب، حيث يتم إدخال بيانات تدريب ملوثة، ولا يكتشفه عادةً ضوابط سلامة النظام التي تركز على التعديلات غير المصرح بها.
- سلسلة توريد الذكاء الاصطناعي (AI Supply Chain): تتضمن سلاسل توريد الذكاء الاصطناعي نماذج مدربة مسبقاً ومجموعات بيانات، مما يطرح مخاطر فريدة لا تغطيها ضوابط إدارة مخاطر سلسلة التوريد التقليدية.
تأثير الفجوة على الأمن السيبراني
تؤدي هذه الفجوة إلى وضع تعمل فيه المؤسسات بامتثال كامل للمعايير، بينما تظل عرضة للخطر. وقد جسدت الحوادث الأخيرة هذا الأمر بشكل واضح. ففي اختراق Ultralytics AI، لم يستغل المهاجمون ثغرة برمجية أو كلمة مرور ضعيفة، بل استهدفوا بيئة بناء المكتبة نفسها. وبالمثل، سمحت ثغرات ChatGPT باستخراج معلومات حساسة من سجلات المحادثات، الأمر الذي لم تعالجه ضوابط الأمن الشبكي التقليدية.
ويشير تقرير تكلفة اختراق البيانات لعام 2025 الصادر عن IBM إلى أن المؤسسات تستغرق في المتوسط 276 يوماً لتحديد الاختراق، و73 يوماً إضافياً لاحتوائه. وبالنسبة لهجمات الذكاء الاصطناعي، قد تكون أوقات الكشف أطول بسبب نقص مؤشرات الاختراق المعروفة. يمثل تزايد الاعتماد على حزم الذكاء الاصطناعي تحدياً إضافياً، مع توسع سطح الهجوم بوتيرة أسرع من قدرات الدفاع.
الحلول المطلوبة وتعزيز القدرات
تتطلب معالجة هذه الفجوة تجاوز الامتثال التقليدي. تحتاج المؤسسات إلى قدرات تقنية جديدة، مثل التحقق من الأوامر ومراقبتها للكشف عن المحتوى الدلالي الضار، والتحقق من سلامة النماذج للكشف عن التسميم. كما يجب تطوير أدوات قادرة على اكتشاف المعلومات الحساسة المضمنة في المحادثات غير المهيكلة، ووضع ضوابط لأمن سلسلة توريد الذكاء الاصطناعي تتجاوز تقييمات الموردين التقليدية.
ويكمن التحدي الأكبر في المعرفة، حيث تحتاج فرق الأمن إلى فهم هذه التهديدات الجديدة. لم تعد المهارات الأمنية التقليدية كافية، ويتعين توسيعها لتشمل السطوح الهجومية الجديدة لأنظمة الذكاء الاصطناعي. وعلى الرغم من أن الأطر التنظيمية مثل قانون الذكاء الاصطناعي للاتحاد الأوروبي بدأت تتطور، فإن الاعتماد على هذه الأطر وحدها قد يكون متأخراً.
خطوات استباقية للمؤسسات
- إجراء تقييمات مخاطر خاصة بالذكاء الاصطناعي.
- جرد أنظمة الذكاء الاصطناعي المستخدمة حالياً.
- تطبيق ضوابط أمنية خاصة بالذكاء الاصطناعي.
- بناء خبرات أمنية متخصصة داخل فرق الأمن القائمة.
- تحديث خطط الاستجابة للحوادث لتشمل سيناريوهات الذكاء الاصطناعي.
في الختام، لم تعد الأطر الأمنية التقليدية كافية لحماية المؤسسات في عصر الذكاء الاصطناعي. إن الامتثال للمعايير القديمة لا يضمن الأمان، ويتعين على المؤسسات تبني نهج استباقي، وتطوير قدرات جديدة، وتعزيز معرفة فرقها الأمنية لمواجهة التحديات المتطورة لضمان بقائها آمنة في بيئة تهديدات متغيرة باستمرار.