وستطلق روبلوكس، منصة الألعاب الإلكترونية الشهيرة بين الأطفال والمراهقين، نسخة مفتوحة المصدر من نظام ذكاء اصطناعي، تقول إنه يمكّنها من الكشف المسبق عن اللغة المخادعة في محادثات الألعاب.
وتأتي هذه الخطوة في الوقت الذي تواجه فيه الشركة دعاوى قضائية وانتقادات تتهمها بالتقصير في حماية الأطفال من المتحرشين.
وتزعم أغلب الدعاوى المرفوعة، أن ميزات تصميم روبلوكس تجعل الأطفال الذين يستخدمونه فرائس سهلة للمتحرشين بالأطفال.
وصرحت روبلوكس بأنها تسعى جاهدةً لجعل أنظمتها آمنة قدر الإمكان افتراضياً، لكنها تشير إلى أنه لا يوجد نظام مثالي، وأن أحد أكبر التحديات في هذا المجال هو الكشف عن الأضرار الجسيمة، مثل احتمال تعريض الأطفال للخطر.
وفي هذا السياق، يساعد نظام الذكاء الاصطناعي المسمى Sentinel، على الكشف المبكر عن احتمال تعرض الأطفال للخطر، مثل استخدام لغة استغلالية.
وتقول روبلوكس إن النظام الجديد مكن الشركة من تقديم 1200 بلاغ عن محاولات محتملة لاستغلال الأطفال إلى المراكز المختصة في النصف الأول من عام 2025.