تتصاعد المخاوف بشأن استخدام أدوات الذكاء الاصطناعي المتقدمة في الهجمات السيبرانية. كشفت تقارير بحثية حديثة من شركة DTEX عن ثغرات محتملة في كيفية دمج أدوات الذكاء الاصطناعي في بيئات العمل، مما قد يفتح الباب أمام مخاطر أمنية جديدة، بما في ذلك تسريب البيانات عبر موظفين غير متعمدين.
وقد أبرزت الأبحاث، التي تم نشرها حصرياً لـ CyberScoop، أن أدوات الذكاء الاصطناعي التشاركية مثل Claude Cowork، عند استخدامها في بيئات الشركات، تقدم مستوى عالٍ من المرونة ولكنها في الوقت نفسه تمنح وصولاً واسعاً للنظام. وهذا يثير تساؤلات جادة حول مخاطر الذكاء الاصطناعي كتهديد داخلي.
مخاطر الذكاء الاصطناعي في بيئات العمل
تتضمن بيئة Claude Cowork أدوات تسمح للمستخدمين بالتحكم عن بعد في وكلاء الذكاء الاصطناعي الخاص بهم، ومن أبرز هذه الأدوات أداة “Dispatch” التي تنقل الأوامر من هاتف المستخدم إلى وكيل Claude على سطح المكتب. كما تشمل هذه البيئة إضافة خاصة للتواصل مع وكلاء Salesforce للذكاء الاصطناعي، والتي تتيح الوصول إلى البيانات ونقلها.
وقد اختبر باحثو DTEX سيناريوهين. السيناريو الأول قام بتكليفClaude بتلخيص معلومات من Salesforce ولصقها في مسودة بريد إلكتروني بمنصة Outlook. أما السيناريو الثاني، فقد كلف الوكيل بأرشفة ملفات مختارة ونقلها عبر تطبيق Cowork.
في كلا الحالتين، استخدم الباحثون أوامر استجابة بسيطة، واستغرق الأمر ما بين 10 إلى 30 دقيقة فقط لاستخراج البيانات.
تسارع وتيرة الهجمات السيبرانية
صرح أليكس ديزموند، مدير استخبارات التهديدات الداخلية والابتكار في DTEX، بأن التحسينات المستمرة في نماذج الذكاء الاصطناعي المتقدمة، والدمج المتزايد لأدوات الذكاء الاصطناعي في عمليات شبكات تكنولوجيا المعلومات، قلل بشكل كبير من الوقت المتاح للمدافعين للرد على الاختراقات.
وقال ديزموند: “في الهجمات السيبرانية، نتحدث عن سرعة تنفيذ المهاجمين عند إطلاق برامج الفدية، والآن نرى سلسلة تنفيذ الاختراق تنخفض إلى 30 و 10 دقائق حسب طبيعة الهجوم. قبل ستة أشهر، كان هذا الوقت يقاس بساعات”.
إلا أن هذه السرعة، عند اقترانها بالوصول المباشر لشبكات الأعمال أو الخدمات السحابية، قد تؤدي إلى كابوس التهديدات الداخلية للمؤسسات التي يتعين عليها مراقبة كل من الجهات الفاعلة الخبيثة والأخطاء المحتملة من قبل الموظفين الشرعيين الذين يستخدمون هذه التقنية.
التهديدات الداخلية ووكلاء الذكاء الاصطناعي
تزايدت خلال السنوات القليلة الماضية، أعداد المتقدمين لوظائف في شركات تكنولوجيا المعلومات والأمن السيبراني الغربية ممن يعملون سراً لصالح الحكومة الكورية الشمالية. تُستخدم رواتب هؤلاء الأفراد للتهرب من العقوبات الدولية وتمويل برامج بيونغ يانغ النووية، كما أنهم في مواقع تسمح لهم بالوصول إلى بيانات أو أصول حساسة لتلك الشركات أو سرقتها.
ويضيف ديزموند: “لديك جهة فاعلة تمثل دولة تدخل إلى بيئة العمل بشكل شرعي. الآن، إذا أتحت لها الوصول إلى أدوات الذكاء الاصطناعي فوق ذلك، فإنك كأنك تقول لها ‘تفضلي، هذه مفاتيح كل شيء، وهذه أداة رائعة ستجعل مهمتك – سرقة بياناتنا – أسهل'”.
فجوات الحوكمة والرؤية في إدارة الذكاء الاصطناعي
أكدت اختبارات DTEX أن وكلاء الذكاء الاصطناعي لديهم بالفعل وصول إلى أنظمة وتطبيقات وبيانات حساسة، بما في ذلك القدرة على تنزيل بيانات SharePoint الخاصة بالشركة، ووثائق الإنتاج على OneDrive، والوصول إلى رسائل Outlook، وبيانات Salesforce (وكل البيانات التي يمكن لـ Salesforce الوصول إليها)، وأي ملفات أخرى على جهاز المستخدم. لكل من هذه التطبيقات، يمتلك Claude Cowork إضافة مخصصة أو واجهة برمجة تطبيقات (API) لمشاركة البيانات خارجيًا عند الضرورة.
من المهم التأكيد على أن بحث DTEX لا يتضمن استغلال ثغرة برمجية أو خطأ في التكوين، ولا يصدر له رقم CVE (معرف الثغرة الأمنية). بل تتعلق المشكلة بشكل أساسي بحوكمة تكنولوجيا المعلومات والرؤية. تتسابق الشركات لدمج أدوات الذكاء الاصطناعي في سير عملها وتشجع الموظفين على استخدام هذه التقنية، لكنها في الوقت نفسه تفشل في تطبيق ضوابط الأمان وسياسات الوصول والمراقبة اللازمة لرصد المشاكل.
على سبيل المثال، قد يكون من الصعب تحديد كيفية حدوث خرق أو تسرب للبيانات يتضمن وكيل ذكاء اصطناعي إذا كانت المؤسسة لا تقوم بتسجيل وتدقيق الأوامر التي يتم إدخالها، أو ما إذا كان الحادث ناتجاً عن وكيل يعمل بشكل غير منضبط أو يستجيب لتعليمات خبيثة محتملة.
وبينما يمكن لمراقبة الشبكات والخدمات السحابية تحديد وقت الوصول إلى البيانات أو تنزيلها من SharePoint، إلا أن هذا قد لا يكون مؤشراً قوياً بما يكفي ليلفت انتباه فرق الأمن.
ويوضح ديزموند: “إذا كان سير العمل الطبيعي للمستخدم يتضمن سحب ملفات حساسة للعمل عليها محلياً بشكل دائم، ولم تكن هناك مراقبة لنقاط النهاية، ثم أدخلت وكيل ذكاء اصطناعي، فإن هذا الوكيل سيحصل على وصول إلى كل هذه البيانات” بالإضافة إلى القدرة على تسريبها.