تسعى منصة “هاكر ون” إلى تأسيس إطار عمل يمنح الباحثين الأمنيين المستقلين، الذين يدرسون ثغرات أنظمة الذكاء الاصطناعي، حماية قانونية مماثلة لتلك التي توفرها وزارة العدل الأمريكية لأنظمة البرمجيات التقليدية. يأتي هذا التوجه بعد مرور أربع سنوات على إعلان الوزارة للكف عن الملاحقات الجنائية ضد باحثي الأمن نظير أبحاثهم ذات “النوايا الحسنة”.
تهدف مبادرة “الملاذ الآمن لأبحاث الذكاء الاصطناعي ذات النوايا الحسنة” إلى البناء على جهود سابقة، بما في ذلك تغيير سياسة وزارة العدل الأمريكية وإطار عمل “الملاذ الذهبي” الخاص بمنصة “هاكر ون”. تهدف هذه الخطوات إلى توسيع نطاق الحرية القانونية لتمكين الباحثين الخارجيين من فحص واختبار المنتجات والأنظمة التجارية، بما في ذلك مجالات متعلقة بسلامة الذكاء الاصطناعي والسلوكيات والنتائج غير المقصودة التي قد تؤثر على الأمن.
حماية باحثي الذكاء الاصطناعي: خطوة نحو أمن أوسع
أوضحت إيلونا كوهين، المسؤولة القانونية والسياسية الأولى في “هاكر ون”، أن هذه المبادرة تسعى لتقديم دعم قانوني مباشر للباحثين الذين يتعاملون مع أنظمة الذكاء الاصطناعي. وأشارت إلى أن لغة وزارة العدل الأمريكية ساهمت في توضيح الأمور، مما منح الباحثين شعوراً بالراحة للقيام بالاختبارات الضرورية لدعم الأمن السيبراني. ومع ذلك، فإن نطاق هذه السياسات لا ينطبق بالضرورة على جميع أنواع أبحاث الذكاء الاصطناعي.
جاء تغيير سياسة وزارة العدل الأمريكية في عام 2022 كثمرة لسنوات من المناصرة من قبل مجتمع الأمن السيبراني. ورأت كوهين أنه من المهم للصناعة أن تقوم بعمل تأسيسي مماثل فيما يتعلق بحوكمة واختبار الذكاء الاصطناعي، على غرار ما حدث في السابق لإقناع الوكالات بأن الباحثين المستقلين يمثلون قيمة مضافة للنظام البيئي الأمني الأوسع.
يمكن للشركات المشاركة في هذا البرنامج أن تضع “شارة” على ملفها الشخصي في “هاكر ون” لإعلان تبنيها لهذه الحماية. وتلتزم هذه الشركات، من بين أمور أخرى، بالامتناع عن اتخاذ إجراءات قانونية ضد الباحثين ودعمهم إذا رفعت أطراف ثالثة دعاوى قضائية تتعلق بأبحاثهم المصرح بها.
في الوقت الذي تبدي فيه بعض الجهات اهتماماً محدوداً بقضايا السلامة والأمن المتعلقة بأنظمة الذكاء الاصطناعي، يرى سياسيون آخرون أن توفير حمايات قوية وآليات رقابة فعالة يمكن أن يكون عاملاً حاسماً في إقناع الدول الأخرى بتبني أنظمة الذكاء الاصطناعي والنماذج المطورة في الولايات المتحدة، بدلاً من المنافسين الاستبداديين مثل الصين. وأكدت كوهين أن فتح المجال أمام اختبارات أنظمة الذكاء الاصطناعي يصبح أكثر أهمية مع تزايد انتشارها عبر المجتمع.
أضافت كوهين أن الانتشار السريع لأنظمة الذكاء الاصطناعي يفوق بكثير قدرة الأطر القانونية والتنظيمية على مواكبته، مما يخلق مخاطر على الجميع في ظل تردد البعض في إجراء اختبارات على هذه الأنظمة.
مقاربات مطوري الذكاء الاصطناعي الرائدين
عادة ما تحتفظ الشركات الرائدة في مجال الذكاء الاصطناعي، مثل OpenAI و Anthropic، بسيطرة أكبر على برامج البحث الأمني الخاصة بها. وتقوم OpenAI، على سبيل المثال، بتشغيل شبكتها الخاصة من باحثي فرق “Red teaming” من طرف ثالث، حيث يتم اختيارهم عبر عملية تقديم طلبات. يتم تكليف هؤلاء الباحثين بمهام محددة من قبل OpenAI، وقد تختلف مدة مشاركتهم من خمس إلى عشر ساعات سنوياً.
من جانبها، تعرف Anthropic في سياستها للإفصاح المسؤول الأبحاث الأمنية “ذات النوايا الحسنة” بأنها تتضمن فحص نظم المعلومات “لغرض وحيد” هو تحديد ثغرة قابلة للإبلاغ عنها. وينبغي على الباحثين أن يقتصروا على الإجراءات “الحد الأدنى اللازم لإثبات وجود هذه الثغرة المحتملة بشكل معقول”، مع تجنب الأفعال الضارة مثل سحب البيانات أو حذفها.
تتطلب سياسة Anthropic أيضاً من الباحث “تجنب الكشف عن وجود الثغرة المكتشفة أو أي تفاصيل تتعلق بها لطرف ثالث أو للعامة” دون “إشعار” من الشركة. وتشير الشروط إلى أن الشركة “تدعم بالكامل حق الباحثين في الكشف العلني عن الثغرات التي يكتشفونها”، لكنها تطلب فقط التنسيق بشأن توقيت مثل هذه الإفصاحات لمنع الأضرار المحتملة لخدماتها وعملائها.
تسعى شروط Anthropic أيضاً إلى إخلاء مسؤوليتها بشكل واسع عن أي نتائج سلبية مرتبطة باستخدام أو دمج منتجاتها، حيث تؤكد على “التنازل الصريح” عن جميع ضمانات ملاءمة منتجاتها في مجالات مثل “الدقة، التوفر، الموثوقية، الأمان، الخصوصية، التوافق، وعدم الانتهاك”.
لم ترد شركتا OpenAI و Anthropic على طلبات التعليق بحلول وقت النشر.