حدد المركز الكندي لحماية الأطفال 65 حالة تمكن فيها غروك من إنشاء صور ذات طابع جنسي أو استغلالي لأطفال، وذلك قبل أن تشدد “إكس” القيود المفروضة على روبوت الدردشة.
وكان بعض هؤلاء الأطفال معروفين بالفعل لدى السلطات باعتبارهم ضحايا اعتداءات.
كما تمكن مستخدمون من مطالبة غروك بتعديل صور لضحايا معروفين، إذ استطاع روبوت الدردشة تحويل صور لأطفال يرتدون ملابس عادية إلى صور يظهرون فيها بملابس داخلية أو ملابس سباحة، فضلًا عن إنشاء مشاهد أخرى ذات طابع جنسي.
ووقعت هذه الأنشطة خلال شهري ديسمبر ويناير، وهي الفترة التي كان فيها غروك ينشئ ملايين الصور استجابةً لطلبات المستخدمين.
وبعد موجة من الانتقادات العلنية، أعلنت “إكس” أنها ستوقف روبوت الدردشة عن إنتاج هذا النوع من المحتوى.
وكان ماسك قد تعهد في وقت سابق بأن المستخدمين الذين يحاولون إنشاء مواد تتعلق بالاعتداء الجنسي على الأطفال سيواجهون إجراءات مماثلة لتلك المفروضة على الأشخاص الذين ينشرون مواد اعتداء حقيقية، بما في ذلك احتمال حظر حساباتهم. (العربية)