أعلنت شركة جوجل عن مجموعة من التحسينات الأمنية الجديدة لمتصفح كروم، تأتي في أعقاب إضافة قدرات الذكاء الاصطناعي التوليدي إلى المتصفح. تهدف هذه التحديثات إلى تعزيز أمان كروم ضد التهديدات المتطورة.
تتضمن هذه الإجراءات طبقات دفاعية متقدمة تجعل من الصعب على المهاجمين استغلال الثغرات، خاصة تلك الناتجة عن التفاعل مع محتوى الويب غير الموثوق به. وتأتي هذه الخطوات استجابة لتزايد المخاوف المتعلقة بالأمن السيبراني.
تحسينات أمنية جديدة في كروم
تتمثل أبرز الميزات الجديدة في “ناقد محاذاة المستخدم” (User Alignment Critic)، وهو نموذج ثانٍ يقوم بتقييم إجراءات الذكاء الاصطناعي بشكل مستقل ومنفصل عن الأوامر الخبيثة. يكمل هذا النهج تقنيات جوجل الحالية، مثل “Spotlighting”، التي توجه النموذج للالتزام بتعليمات المستخدم والنظام بدلاً من الانصياع لما هو مضمن في صفحة الويب.
يعمل “ناقد محاذاة المستخدم” بعد اكتمال التخطيط لتدقيق كل إجراء مقترح. يركز بشكل أساسي على التأكد من أن الإجراء المقترح يخدم هدف المستخدم المعلن، وإذا كان هناك عدم محاذاة، فسيقوم الناقد برفضه.
تم تصميم هذا المكون بحيث لا يطلع إلا على البيانات الوصفية للإجراء المقترح، ولا يمكنه الوصول إلى محتوى الويب غير الموثوق به. هذا يضمن عدم تلويثه بأوامر خبيثة قد تكون مدرجة في موقع ويب.
من جهة أخرى، تطبق جوجل “مجموعات أصل الوكيل” (Agent Origin Sets) لضمان وصول الوكيل إلى البيانات من المصادر ذات الصلة بالمهمة فقط، أو تلك التي وافق المستخدم صراحة على مشاركتها. يهدف هذا إلى معالجة مشكلات تجاوز العزل بين المواقع، حيث يمكن لوكيل مخترق التفاعل مع مواقع عشوائية وسرقة البيانات.
آليات التحكم في الوصول إلى البيانات
يتم تنفيذ ذلك من خلال وظيفة بوابة تحدد الأصول ذات الصلة بالمهمة وتقسمها إلى مجموعتين. المجموعة الأولى هي الأصول للقراءة فقط، والتي يُسمح لنموذج Gemini بالوصول إلى محتواها. أما المجموعة الثانية فهي الأصول للقراءة والكتابة، والتي يمكن للوكيل الكتابة فيها أو النقر عليها، بالإضافة إلى القراءة منها.
تفرض هذه الآلية أن تقتصر البيانات المتاحة للوكيل على مجموعة محدودة من الأصول، ويمكن نقل هذه البيانات فقط إلى الأصول القابلة للكتابة. وهذا يحد من المخاطر المتعلقة بتسرب البيانات عبر الأصول.
على غرار “ناقد محاذاة المستخدم”، فإن وظيفة البوابة غير معرضة لمحتوى الويب غير الموثوق به. ويتعين على المخطط الحصول على موافقة وظيفة البوابة قبل إضافة أصول جديدة، على الرغم من أنه يمكن الاستفادة من سياق صفحات الويب التي شاركها المستخدم صراحة في الجلسة.
الشفافية والتحكم للمستخدم
أحد الأعمدة الأساسية الأخرى للهيكلية الأمنية الجديدة يتعلق بالشفافية وتحكم المستخدم. يتيح ذلك للوكيل إنشاء سجل عمل للمراقبة من قبل المستخدم، ويطلب موافقته الصريحة قبل التنقل إلى مواقع حساسة، مثل البنوك أو بوابات الرعاية الصحية، والسماح بتسجيل الدخول عبر مدير كلمات مرور جوجل، أو إكمال إجراءات الويب مثل عمليات الشراء أو الدفع أو إرسال الرسائل.
أخيراً، يقوم الوكيل بفحص كل صفحة بحثًا عن حقن الأوامر غير المباشر، ويعمل جنبًا إلى جنب مع “التصفح الآمن” (Safe Browsing) والكشف عن الاحتيال على الجهاز لحظر المحتوى المشبوه. ويتم تصنيف حقن الأوامر هذا بالتوازي مع استدلال نموذج التخطيط، ويمنع اتخاذ الإجراءات بناءً على محتوى حدده المصنف أنه استهدف النموذج عمدًا للقيام بشيء لا يتوافق مع هدف المستخدم.
لزيادة تحفيز البحث والثغرات الأمنية، ستدفع جوجل ما يصل إلى 20,000 دولار مقابل الإثباتات التي تؤدي إلى خرق الحدود الأمنية. وتشمل هذه الانتهاكات حقن الأوامر غير المباشرة التي تسمح للمهاجم بتنفيذ إجراءات غير مصرح بها دون تأكيد، أو سرقة بيانات حساسة دون فرصة للموافقة، أو تجاوز إجراءات كان من المفترض أن تمنع الهجوم.
تؤكد جوجل التزامها بالابتكار المستمر والتعاون مع مجتمع الأمن لضمان استكشاف المستخدمين لعصر الويب الجديد بأمان. وتأتي هذه التطورات في وقت حذر فيه تقرير لشركة Gartner من مخاطر متزايدة مرتبطة بنماذج الذكاء الاصطناعي التوليدي، مثل حقن الأوامر غير المباشر وفقدان البيانات، داعياً الشركات إلى حظر استخدام متصفحات الذكاء الاصطناعي التوليدي حتى تتم معالجة هذه المخاطر.