"جروك" توقف خاصية توليد الصور بعد جدل استخدمها لأغراض جنسية
أوقفت أداة الذكاء الاصطناعي جروك التابعة لإيلون ماسك خاصية إنشاء الصور لمعظم المستخدمين، عقب موجة احتجاجات وانتقادات حادة بسبب استخدام التقنية في إنتاج محتوى جنسي صريح وعنيف، واستغلالها للتلاعب بصور نساء دون موافقتهن، وفقًا لما نشره موقع "theguardian".
وجاء القرار بعد تهديدات بفرض غرامات وإجراءات تنظيمية محتملة، إضافة إلى تقارير تحدثت عن إمكانية حظر منصة إكس في المملكة المتحدة إذا استمرت الانتهاكات.
جروك استخدمت لإنشاء محتوى جنسي
كانت الأداة قد استخدمت على نطاق واسع لإزالة ملابس النساء رقميًا ووضعهن في أوضاع جنسية، ما أثار غضبًا عامًا ومخاوف متزايدة بشأن السلامة الرقمية.
إنشاء الصور وتعديلها سيقتصر على المشتركين المدفوعين
أعلنت جروك عبر منشور على منصة إكس أن إنشاء الصور وتعديلها سيقتصر حاليًا على المشتركين المدفوعين فقط، ويعني ذلك أن غالبية المستخدمين لن يتمكنوا من الوصول إلى هذه الخاصية، بينما تخضع حسابات المشتركين لبيانات تعريف كاملة تتيح تتبع أي إساءة استخدام.
وكشفت تحقيقات صحفية أن التقنية استُخدمت أيضاً لإنشاء مقاطع وصور إباحية لنساء دون علمهن، إضافة إلى محتوى عنيف صادم، وفي المملكة المتحدة، توعد رئيس الوزراء كير ستارمر باتخاذ إجراءات صارمة، مؤكداً أن هذا المحتوى غير قانوني ومخزٍ ولا يمكن التسامح معه.
وأضاف أن هيئة أوفكوم تحظى بدعم حكومي كامل للتحرك ضد أي انتهاكات، مطالبًا شركة إكس بتحمل مسؤولياتها، وتأتي هذه التطورات بعد أسابيع من إطلاق تحديث خاصية الصور، التي أدت إلى إنشاء آلاف الصور غير التوافقية، وسط مطالبات متزايدة بتشديد الضوابط، ولا تزال المنصة تواجه ضغوطًا سياسية وقانونية متصاعدة عالميًا، في وقت تتزايد فيه الدعوات لتنظيم تقنيات الذكاء الاصطناعي وحماية المستخدمين من إساءة الاستغلال الرقمي.
ويرى خبراء أن ما حدث يعكس فجوة خطيرة في الرقابة، ويؤكد الحاجة إلى تشريعات واضحة توازن بين الابتكار وحقوق الأفراد وسلامتهم، ومن المتوقع أن تستمر التحقيقات والمتابعات خلال الفترة المقبلة، مع مراقبة دقيقة لأي خطوات إضافية قد تتخذها الشركة، في ظل نقاش عالمي متصاعد حول أخلاقيات استخدام الذكاء الاصطناعي وحدود حريته ومسؤولية الشركات التقنية تجاه المجتمعات والقوانين الناظمة الحديثة في مختلف دول العالم وخاصة الأوروبية حاليًا.