العموم نيوز – بدأ نطاق المشكلة الحقيقية للتزييف العميق بواسطة روبوت الدردشة “غروك” يتضح مع استمرار التحقيقات الجارية على منصة “إكس” التي يدمج فيها الروبوت، بالتعاون مع شركة الذكاء الاصطناعي الناشئة “إكس إيه آي”، وذلك بشأن ضوابط الأمان الخاصة بروبوت الدردشة.
وفقًا لتقرير مشترك صادر عن مركز مكافحة الكراهية الرقمية وصحيفة نيويورك تايمز، تمكن غروك من إنتاج ما يُقدّر بثلاثة ملايين صورة جنسية، بما في ذلك 23 ألف صورة يُحتمل أن تظهر أطفالًا خلال فترة 11 يومًا بين 29 ديسمبر و8 يناير، رغم الحملات التي قامت بها “إكس إيه آي” على تفكيك الصور الجنسية المزيفة.
اختبر مركز مكافحة الكراهية الرقمية عينة من ردود أداة التحرير بنقرة واحدة الخاصة بغروك، والتي لا تزال متاحة لمستخدمي منصة “إكس”، ووجد أن أكثر من نصف ردود روبوت الدردشة تضمنت محتوى جنسيًا، وفق تقرير موقع “ماشابل” المتخصص في أخبار التكنولوجيا، الذي اطلعت عليه “العربية Business”.
وأشارت صحيفة نيويورك تايمز إلى أن حوالي 1.8 مليون صورة من أصل 4.4 مليون صورة على غروك كانت جنسية، بعضها يصوّر شخصيات مؤثرة ومشهورة. وربطت الصحيفة أيضًا بين الارتفاع الحاد في استخدام “غروك” ومنشورات الرئيس التنفيذي إيلون ماسك التي ظهر فيها مرتديًا ملابس بحر نسائية، والتي أنشأها الروبوت.
وقال عمران أحمد، الرئيس التنفيذي لمركز مكافحة الكراهية الرقمية: “هذا إساءة استخدام على نطاق الصناعة للنساء والفتيات”، مضيفًا: “كانت هناك أدوات لإزالة الملابس، لكنها لم تمتلك أبدًا الانتشار وسهولة الاستخدام أو الاندماج في منصة كبيرة كما فعل إيلون ماسك مع غروك”.
تعرض “غروك” لانتقادات حادة بعد ورود تقارير تفيد بأن روبوت الدردشة المدمج في منصة “إكس” أنشأ صورًا لقاصرين بملابس فاضحة. وأقرت المنصة بالمشكلة، مؤكدة أنها تعمل على إصلاح “الثغرات في إجراءات الحماية” بشكل عاجل.
وتخضع شركة “إكس إيه آي”، مطورة غروك، لتحقيقات من قبل عدة حكومات أجنبية وولاية كاليفورنيا لدورها في إنتاج صور مفبركة ذات طابع جنسي أو عاري لأشخاص وقاصرين، فيما حظرت بعض الدول المنصة مؤقتًا ريثما تستمر التحقيقات.
لطالما حذرت جهات مراقبة السلامة على الإنترنت الجمهور من الدور المتزايد للذكاء الاصطناعي التوليدي في إنتاج المواد الجنسية التي تنطوي على استغلال جنسي للأطفال، إلى جانب انتشار الصور الحميمة غير الرضائية.
- المصدر :
- العربية