أعلنت كاليفورنيا عن فتح تحقيق رسمي مع شركة xAI، المملوكة لإيلون ماسك، وذلك على خلفية اتهامات باستخدام نموذج الذكاء الاصطناعي الخاص بها، Grok، لإنتاج صور جنسية صريحة وغير رضائية للنساء والأطفال على نطاق واسع. يأتي هذا التحقيق إحدى أحدث الخطوات التنظيمية لمعالجة مشكلة الصور المفبركة بالذكاء الاصطناعي.
يركز التحقيق على وضع “Spicy Mode” في chatbot Grok، وهو ميزة أعلنت عنها xAI كخاصية مميزة لمنصتها، تهدف إلى توليد محتوى جريء. وبحسب مكتب المدعي العام في كاليفورنيا، فقد وثقت تقارير إخبارية في الأسابيع الأخيرة حالات متعددة لاستخدام صور عادية للنساء والأطفال المتداولة على الإنترنت، وتعديلها لإنتاج محتوى جنسي دون علم أو موافقة أصحابها.
المدعي العام في كاليفورنيا يبدأ التحقيق مع xAI بشأن صور Grok
وقال المدعي العام في كاليفورنيا، روب بونتا، في بيان: “إن الكم الهائل من التقارير التي تفصل المواد الجنسية الصريحة وغير الرضائية التي أنتجتها ونشرتها xAI على الإنترنت في الأسابيع الأخيرة أمر صادم”. وأضاف أن هذه المواد، التي تصور النساء والأطفال في أوضاع عارية وجنسية صريحة، “تم استخدامها لمضايقة الأشخاص عبر الإنترنت”، مؤكداً “لدينا صفر تسامح تجاه الإنشاء والنشر القائم على الذكاء الاصطناعي للصور المزعجة غير الرضائية أو مواد الاعتداء الجنسي على الأطفال”.
ووفقًا لبونتا، فإن التحقيق سيتمحور حول ما إذا كانت xAI قد انتهكت قوانين ولاية كاليفورنيا من خلال تطوير وصيانة الميزات التي تسهل إنشاء مثل هذا المحتوى. وأكد مكتب المدعي العام استخدامه “لجميع الأدوات المتاحة لحماية سكان كاليفورنيا”، دون تحديد القوانين التي قد تكون قد تم انتهاكها.
تجدر الإشارة إلى أن xAI، التي أسسها إيلون ماسك، تمتلك أيضًا منصة التواصل الاجتماعي X، حيث تم تداول العديد من الصور التي تم إنشاؤها بواسطة Grok.
ولم يصدر عن شركة xAI أي رد علني حتى الآن بشأن إعلان التحقيق. وفي تدوينة له يوم الأربعاء، صرّح ماسك بأنه “غير مدرك لأي صور عارية للقاصرين تم إنشاؤها بواسطة Grok. لا شيء على الإطلاق”.
خطوات تشريعية في الكونغرس تواكب التحقيق
يأتي هذا التحقيق بعد يوم من موافقة مجلس الشيوخ الأمريكي بالإجماع على مشروع قانون DEFIANCE Act، الذي يمنح ضحايا الصور المفبركة جنسيًا غير الرضائية الحق في رفع دعاوى مدنية ضد منتجي أو ناشري هذا المحتوى. وينتقل مشروع القانون الآن إلى مجلس النواب، حيث تعثرت تشريعات مماثلة في العام الماضي رغم موافقة مجلس الشيوخ عليها.
تمثل الموافقة على قانون DEFIANCE Act لحظة نادرة من الإجماع الحزبي بشأن تنظيم التكنولوجيا. وقد حصل مشروع القانون، الذي قدمه السيناتوران ديك دروبين وليندسي غراهام، على موافقة بالإجماع خلال طلب تصويت غير معارض في قاعة مجلس الشيوخ.
يهدف مشروع القانون إلى إنشاء مسؤولية مدنية فيدرالية للأفراد الذين ينتجون أو يوزعون أو يمتلكون عمدًا مواد مزيفة رقمية جنسية صريحة غير رضائية بنية التوزيع. وقد قدمت النائبة ألكساندريا أوكاسيو-كورتيز، التي اعترفت بأنها كانت ضحية لصور مفبركة جنسيًا، تشريعًا مرافقًا في مجلس النواب بدعم من سبعة جمهوريين وستة ديمقراطيين.
أصبحت التكنولوجيا اللازمة لإنشاء مثل هذا المحتوى متاحة بشكل متزايد للجمهور، مما قلل من الحواجز التي كانت تقصر إنتاج الصور المفبركة على ذوي الخبرة التقنية المتخصصة.
برزت كاليفورنيا كنقطة محورية لتنظيم الذكاء الاصطناعي، حيث أقرت الهيئة التشريعية للولاية العديد من مشاريع القوانين الهادفة إلى معالجة مخاوف سلامة الذكاء الاصطناعي. وكان المدعي العام بونتا ناشطًا بشكل خاص في القضايا المتعلقة بالذكاء الاصطناعي والأطفال، حيث اجتمع مع مسؤولين تنفيذيين في OpenAI في سبتمبر الماضي لمناقشة المخاوف بشأن تفاعل منتجات الذكاء الاصطناعي مع الشباب. وفي أغسطس، أرسل خطابات إلى 12 شركة رائدة في مجال الذكاء الاصطناعي بعد تقارير عن تفاعلات غير لائقة جنسياً بين روبوتات الدردشة الخاصة بالذكاء الاصطناعي والأطفال.
يأتي تحقيق كاليفورنيا في الوقت الذي كانت فيه المملكة المتحدة قد أعلنت في وقت سابق من هذا الأسبوع أنها تجري تحقيقها الخاص في انتشار الصور المفبركة على منصة X.