Roblox mejoró el sistema que censura las groserías en los chats: ¿cómo funciona?

Roblox lanzó mejoras en el sistema que censura las malas palabras en los chats dentro de la plataforma. La nueva función potenciada con inteligencia artificial detecta groserías y las reemplaza en tiempo real por otras más apropiadas.

Anteriormente, el servicio de videojuegos popular entre el público infantil reemplazaba las malas palabras por signos numeral (#). Según los responsables de Roblox, esa modalidad era útil para bloquear groserías, pero en muchos casos dificultaba seguir las conversaciones.

Roblox: ¿cómo funciona el nuevo sistema que censura malas palabras en los chats?

La característica mejorada funciona en tiempo real. En lugar de tachar las malas palabras que detecta —incluso variantes que intentan eludir los filtros empleando signos o números en lugar de letras—, se reformula automáticamente la oración completa, según vemos en el video de demostración.

“A medida que estos sistemas escalan, crean un motor de civismo, donde la retroalimentación en tiempo real ayuda a los usuarios a aprender y adoptar nuestras normas comunitarias”, dijo Rajiv Bhatia, director de Seguridad de Roblox.

Detalles de la nueva modalidad para censurar groserías en Roblox

- Todos en el chat ven cuando el mensaje es reformulado y solo el remitente verá qué mala palabra se eliminó.

- El hecho de que este sistema cambie los términos inapropiados no implica que el usuario que los use no sea penalizado.

- La reformulación de frases en Roblox implementa en los chats entre usuarios con verificación de edad en grupos de edad similares y en todos los idiomas compatibles con la herramienta de traducción de la plataforma.

Respecto al último punto, cabe recordar que en enero se introdujo un sistema de verificación de edad obligatorio en Roblox, plataforma que fue apuntada por la supuesta actividad de pedófilos que usan este entorno para captar a menores.

El requisito se activó a nivel global y reemplaza el simple ingreso de la fecha de nacimiento por controles más estrictos, como el reconocimiento facial o la validación con documentos.

Tal como explicamos anteriormente, una vez que se completa la verificación se habilita el llamado chat basado en edad que divide a los usuarios en seis grupos: menores de 9, de 9 a 12, de 13 a 15, de 16 a 17, de 18 a 20 y mayores de 21. Por defecto, solo es posible comunicarse con personas del mismo rango y con los de la categoría inmediatamente anterior y posterior.

En el caso de los chicos menores de 9 años, el chat permanece desactivado mientras que un adulto responsable no otorgue un consentimiento explícito. Para adolescentes de 13 años en adelante, Roblox mantiene la opción de conexiones de confianza, que permite chatear con personas conocidas fuera del rango inmediato de edad.