مجموعة من الأفراد رفعوا دعوى قضائية ضد شركة xAI، الشركة الأم لروبوت الدردشة Grok، متهمين إياه بتوليد صور إباحية غير رضائية للنساء والفتيات.
تتهم الدعوى، التي قُدمت في محكمة شمال كاليفورنيا، بأن مسؤولي xAI كانوا على علم بقدرة Grok على إنشاء صور صريحة وغير موافق عليها من صور حقيقية لضحايا. كما تزعم أن الشركة فشلت في تطبيق إجراءات السلامة القياسية في الصناعة، بل سعت لاستغلال “شهية الإنترنت الشديدة للصور الجنسية المهينة وغير الرضائية” لتحقيق مكاسب.
دعوى قضائية جماعية تتهم Grok بتوليد صور إباحية
تضم الدعوى ما لا يقل عن 100 فرد، يقاضون تحت اسم مستعار “جين دو”. استندت الدعوى إلى بيانات تظهر أن Grok أنتج ملايين الصور خلال فترة قصيرة، يُقدر أن جزءاً كبيراً منها كان صوراً إباحية لنساء، مما يثير قلقاً بالغاً حول الاستخدامات المسيئة لتقنيات الذكاء الاصطناعي التوليدي.
وأفادت الدعوى بأن مستخدمي منصة X (تويتر سابقاً) “غمروا” Grok بطلبات لإنشاء مثل هذه المحتويات، والروبوت “لبّى هذه الطلبات”.
وتدعي الدعوى أن xAI اتخذت خطوات لتشجيع المستخدمين على إنشاء محتوى “مُجرد من الملابس”، بما في ذلك ميزة تسمح للمستخدمين بالإشارة إلى حساب شخص ما على X لإنشاء صور معدلة. كما أشارت إلى وجود خيار “مثير” يتيح توليد محتوى جدلي، بما في ذلك صور جنسية مزيفة. وأضافت أن الشركة فشلت في تطبيق أي نوع من فلاتر منع الاستخدامات الجنسية.
وقد أشعل مالك xAI، إيلون ماسك، الجدل بتجربة شخصية حيث طلب من Grok إنشاء صورة له بملابس السباحة. ومع تزايد ردود الفعل السلبية، أعلن ماسك أن الميزة ستقتصر على المشتركين المدفوعين، مما أثار المزيد من الانتقادات بأن الشركة تربح من القدرات المسيئة للأداة.
ردود فعل وتداعيات قانونية
قدم ماسك عدة دفاعات، كان أحدها إنكار أن Grok كان يولد محتوى جنسياً غير قانوني. وقال في تغريدة إنه “ليس على علم بأي صور عارية للقاصرين تم إنشاؤها بواسطة Grok. حرفياً صفر”.
يعتقد خبراء قانونيون أن قدرة Grok على “نزع الملابس” الرقمي، والتي تتجاوز مجرد توليد صور بملابس السباحة أو الملابس الداخلية لتشمل صوراً عارية بالكامل، قد تعرض xAI وماسك لمجموعة واسعة من القوانين الأمريكية والدولية ضد الصور المزيفة ذات الطابع الجنسي، والاحتيال الرقمي، وتوزيع مواد الاعتداء الجنسي على الأطفال.
بالإضافة إلى أداة Grok المدمجة في X، ذكر باحثون أنهم تمكنوا من إنشاء محتوى إباحي غير رضائي أكثر تفصيلاً بسهولة عبر الموقع الرئيسي لـ Grok.
وتعد الدعوى الجماعية أحدث تطور قانوني يواجه xAI وماسك. فقد فتحت دول مثل الاتحاد الأوروبي، والمملكة المتحدة، وكوريا الجنوبية، وكندا، والبرازيل، تحقيقات رسمية حول ما إذا كانت xAI قد انتهكت قوانينهم المحلية. وهددت دول بريطانيا والهند وماليزيا وإندونيسيا بتقييد أو حظر X ما لم يتم اتخاذ المزيد من الإجراءات.
في المقابل، ظلّت الحكومة الفيدرالية الأمريكية، بما في ذلك لجنة التجارة الفيدرالية ووزارة العدل، صامتة حتى الآن.
ولكن حتى في الولايات المتحدة، من المرجح أن يواجه ماسك ضغوطاً متزايدة من الولايات. ففي نفس يوم تقديم الدعوى، كتب 35 مدعياً عاماً من الولايات إلى ماسك، أعربوا خلالها عن “قلقهم العميق” بشأن تصرفات الشركة.
وأكد المسؤولون بالولايات التزامهم بالتحقيقات والملاحقات القضائية في هذا المجال، وحثوا xAI على بذل المزيد لكبح جماح الإساءات التي يرتكبها Grok.
وكتبوا في رسالتهم: “كما أوضح العديد منا لكم في مناقشتنا الأخيرة، فإن وقف هذا النوع من السلوك المسيء وغير القانوني هو أولوية قصوى للمدعين العامين الموقعين. إن إنشاء ونشر مواد الاعتداء الجنسي على الأطفال جريمة. وفي العديد من الولايات، هذا صحيح حتى لو تم التلاعب بالمادة أو كانت اصطناعية. كما تحظر قوانين مدنية وجنائية مختلفة على مستوى الولاية والفيدرالية إنشاء صور حميمية غير رضائية وتوفر سبل انتصاف للضحايا.”
مع وجود العديد من أدوات الذكاء الاصطناعي التي تقوم ب”نزع الملابس” الرقمي، كتب المدعون العامون أن “Grok يستحق اهتماماً خاصاً نظراً للأدلة على أنه شجع ويسّر إنتاج ونشر مثل هذه الصور بشكل علني، وجعل كل ذلك سهلاً بنقرة زر.”