كشفت مايكروسوفت مؤخراً عن منظومة شاملة لضمان أمن نماذج الذكاء الاصطناعي المولدة ضمن منصة Azure AI Foundry. يهدف هذا الإجراء إلى معالجة المخاوف الأمنية المتزايدة التي باتت ترافق التطور السريع لهذه التقنيات، خاصة فيما يتعلق بمخاطر سلسلة التوريد البرمجية.
تأتي هذه الخطوات في وقت تتزايد فيه المخاطر الأمنية المرتبطة بنماذج الذكاء الاصطناعي، حيث يبحث المهاجمون عن طرق لدمج أكواد خبيثة ضمن هذه النماذج. وتُشبه هذه المخاطر التهديدات التي تواجهها المؤسسات حالياً مع المصادر المفتوحة أو البرمجيات الخارجية، حيث قد يؤدي نموذج مخترق إلى إدخال تعليمات برمجية ضارة بنية تحتية بطريقة غير مكتشفة.
تعتبر النماذج المولدة، في جوهرها، تطبيقات برمجية تعمل داخل بيئات Azure الافتراضية ويمكن الوصول إليها عبر واجهات برمجة التطبيقات (APIs). هذا يعني أنها تخضع لنفس الضوابط الأمنية التي تطبقها Azure على كافة الأحمال التشغيلية داخل بيئتها.
تتبنى المنصة بنية “انعدام الثقة” (Zero Trust)، مما يعني أن لا برنامج يتم تشغيله على Azure يُعتبر موثوقاً بشكل افتراضي، بغض النظر عن مصدره أو الجهة المقدمة له.
إلى جانب القاعدة المعمارية، تؤكد مايكروسوفت أن بيانات العملاء لا تُستخدم أبداً لتدريب نماذج الذكاء الاصطناعي المشتركة، كما أن السجلات والمحتوى لا تتم مشاركتهما مع موفري النماذج الخارجيين. تعمل كل من Azure AI Foundry و Azure OpenAI Service بالكامل على خوادم مايكروسوفت الخاصة، دون وجود اتصالات حية مع مبتكري النماذج الأصلية أثناء التشغيل.
النماذج المعدلة التي يتم إنشاؤها باستخدام بيانات العملاء تبقى حصرياً ضمن نطاق العميل الخاص ولا تغادر هذا الحد الأمني تحت أي ظرف.
فحص النماذج: معالجة التهديدات المدمجة
عندما يصل النموذج إلى مستوى عالٍ من الانتشار، تخضعه مايكروسوفت لعملية فحص متعددة المراحل قبل إصداره. تبدأ هذه العملية بتحليل البرمجيات الخبيثة، حيث يتم فحص نماذج الذكاء الاصطناعي بحثاً عن أكواد مدمجة قد تكون ناقلاً للعدوى وتوفر موطئ قدم لمزيد من الاختراق داخل البيئة المستهدفة.
بالتوازي مع ذلك، تجري تقييمات للثغرات الأمنية، حيث تبحث عن نقاط الضعف المعروفة (CVEs) والثغرات اليوم صفر التي تستهدف أنظمة الذكاء الاصطناعي بشكل خاص.
يُعد اكتشاف الأبواب الخلفية طبقة حاسمة أخرى في هذه العملية، حيث يتم فحص وظائف النموذج بحثاً عن علامات تلاعب في سلسلة التوريد، أو اتصالات شبكة غير مصرح بها، أو آثار لتنفيذ أكواد عشوائية مدمجة في سلوك النموذج.
بعد ذلك، تقوم فحوصات سلامة النموذج بتحليل الطبقات والمكونات والموترات الفردية للكشف عن أي دليل على تلف أو تعديل غير مصرح به قبل وصول النموذج إلى بيئة العميل.
بالنسبة للنماذج التي تخضع لفحص دقيق، مثل DeepSeek R1، فإن مايكروسوفت تتجاوز ذلك بتعيين فرق من خبراء الأمن لفحص الكود المصدري مباشرة وإجراء تدريبات “فريق أحمر” مصممة لاختبار النظام على نطاق واسع ضد التكتيكات العدائية.
تحمل النماذج التي تكمل عملية الفحص مؤشراً مرئياً في بطاقة النموذج الخاصة بها، مما يعني عدم الحاجة إلى اتخاذ إجراء إضافي من قبل العميل للاستفادة من هذه الطبقة من الحماية.
يجب على المؤسسات التي تنشر نماذج الذكاء الاصطناعي عبر Azure AI Foundry التحقق دائماً من أن بطاقة النموذج تحمل مؤشر “فحص مكتمل” قبل دمج أي نموذج في سير العمل الإنتاجي.
ينبغي لفرق الأمن تطبيق ضوابط حوكمة مناسبة لسلوك كل نموذج وملف المخاطر الخاص به. لا ينبغي أن تعتمد الثقة في نماذج الذكاء الاصطناعي من طرف ثالث على ضمانات بائع واحد فقط؛ تظل تقييمات المخاطر الداخلية ضرورية، خاصة بالنسبة للنماذج المصدرة من مقدمي خدمات يتمتعون بمساءلة عامة محدودة.
يجب أن تمتد مبادئ انعدام الثقة أيضاً لتشمل جميع خطوط أنابيب الذكاء الاصطناعي المتكاملة، مما يضمن عدم اعتبار أي نموذج أو نقطة نهاية لواجهة برمجة تطبيقات آمنة بطبيعتها دون التحقق المناسب والمستمر.