روبوت الدردشة غروك يواصل إنتاج محتوى فاضح رغم القيود الجديدة

العموم نيوز – خلصت رويترز إلى أن روبوت الدردشة التابع لشركة إكس والمدعوم بالذكاء الاصطناعي (غروك) يواصل توليد صور فاضحة للأشخاص حتى إذا حذر المستخدمون صراحة من عدم موافقة أصحاب الصور على ذلك.وبعد أن أعلنت شركة إكس التابعة للملياردير إيلون ماسك فرض قيود جديدة على المحتوى المفتوح الذي ينتجه غروك، أعطى تسعة مراسلين من رويترز سلسلة من الأوامر للبرنامج لمعرفة ما إذا كان سيستمر في إنتاج الصور الفاضحة دون موافقة أصحابها والظروف التي يحدث فيها ذلك.

وخلص المراسلون إلى أنه في حين لم يعد الحساب المفتوح لغروك على منصة إكس ينتج الكم نفسه من الصور الفاضحة، فإن روبوت الدردشة نفسه يواصل التنفيذ عند تلقي مثل هذه الأوامر حتى بعد تحذيره من أن الصور قد تتسبب في تعرض أصحابها للخطر أو الإساءة.

وأعلنت إكس عن فرض قيود على قدرات غروك في إنتاج الصور بعد موجة من الغضب العالمي بسبب إنتاجه الضخم لصور للنساء وبعض الأطفال دون الحصول على موافقة. وتضمنت القيود حظر إنتاج صور فاضحة في المنشورات المفتوحة على إكس وفرض قيود إضافية في ولايات قضائية غير محددة “حيث يكون هذا المحتوى غير قانوني”.

ولاقى إعلان إكس بشكل عام ترحيبا من مسؤولين وهيئات معنية في بعض الدول، بما في ذلك بريطانيا والفلبين وماليزيا، كما رفعت بعض السلطات القيود المفروضة على استخدام غروك. أما المفوضية الأوروبية التي أعلنت في 26 يناير كانون الثاني عن تحقيق بهذا الشأن فقد كان رد فعلها أكثر حذرا وصرحت حينها قائلة “سنقيّم هذه التغييرات بعناية”.

وقدم مراسلو رويترز، وهم ستة رجال وثلاث نساء في الولايات المتحدة وبريطانيا، صورا لهم ولبعضهم البعض وهم يرتدون ملابس كاملة إلى غروك على مجموعتين خلال الفترتين أولاهما بين 14 و16 يناير كانون الثاني والثانية في يومي 27 و28 منه. وطلبوا من روبوت الدردشة تعديل الصور لإظهارهم في أوضاع جنسية مثيرة أو مهينة.

وبالنسبة للمجموعة الأولى من الأوامر، استجاب جروك بإنتاج صور فاضحة في 45 حالة من أصل 55. وفي 31 من هذه الحالات التي نفذ فيها وعددها 45، نبه المراسلون الروبوت إلى أن الأمر شديد الحساسية. وأنتج جروك في 17 من الحالات الإجمالية وعددها 45 صورا بعد إبلاغه بأن الغرض منها هو إهانة الشخص المعني.

وبعد خمسة أيام من طلب التعليق للمرة الأولى، أجرت رويترز مجموعة ثانية من 43 طلبا. وأنتج غروك صورا فاضحة ردا على 29 من هذه الأوامر. ولم تتمكن رويترز من تحديد ما إذا كان انخفاض معدل الاستجابة يعكس تعديلات في النموذج أم في السياسة أو أنه حدث بشكل عشوائي.