Serie sobre el estado de los sistemas de VALORANT: Toxicidad en el chat de voz y texto
Este artículo forma parte de una serie de profundizaciones sobre temas relacionados con las dinámicas del jugador y el espacio competitivo/social de VALORANT. Conoce más sobre esta serie aquí.
¡Hola de nuevo! Los miembros del equipo de dinámica de jugadores y redes sociales de VALORANT, Sara y Brian, volvemos para charlar sobre algunos trabajos a realizarse a futuro. Este va a ser complicado, vayamos al grano. Hoy hablaremos sobre el abuso de las comunicaciones en VALORANT, y cómo pensamos abordar este tema.
INTRODUCCIÓN: EL CAMINO HACIA EL PROBLEMA
La toxicidad en las comunicaciones es parte de lo que consideramos un comportamiento no deseado dentro de las comunicaciones de voz y chat del juego. Si bien no podemos remover la mala conducta del individuo en sí, podemos trabajar para desalentar comportamientos como insultos, acoso, o lenguaje ofensivo a través de los sistemas de juego. También hay lugar para fomentar las conductas prosociales.
Como ya hemos mencionado antes, nos esforzamos por contribuir a la creación de un futuro mejor para todos en lo que respecta a la toxicidad dentro de las comunicaciones en los juegos. Y, si bien creemos que hubo un progreso saludable en esta área, sabemos que hay mucho más por hacer.
Aunque sabemos que no hay una solución infalible, queremos contar algunas de las decisiones que tomamos (y los resultados obtenidos), junto a las decisiones que planeamos tomar en el futuro para mejorar la experiencia del chat y las comunicaciones de voz en VALORANT.
¿QUÉ HEMOS HECHO HASTA AHORA?
Primero, hablemos sobre el trabajo que hicimos hasta el momento. Cuando hablamos sobre comunicaciones no deseadas dentro de nuestro juego, hay dos formas de detección principales en las que nos basamos.
Comentarios de los jugadores
La primera forma de detección son los comentarios de los jugadores, ¡los reportes en específico! Una de las razones por las que incentivamos fervientemente a reportar el mal comportamiento (así sea alguien abusando del chat, estando AFK, o perdiendo a propósito), es porque hacemos un seguimiento activo de la información y la utilizamos para administrar los castigos.
Para ser más claros, esto no significa que todas las personas reportadas van a ser castigadas. Generalmente, buscamos infractores frecuentes y administramos sanciones que van en escala, desde una advertencia hasta una suspensión permanente (siempre que el comportamiento lo amerite).
En su momento hablamos sobre crear una “calificación” de conducta de jugadores cuando hablábamos sobre las ausencias en las partidas de VALORANT. De la misma forma, hemos creado una “calificación de comunicaciones” para cada jugador en VALORANT, para así poder encargarnos rápidamente de los infractores frecuentes.
Por otro lado, hay algunas cosas que la gente dice y escribe en el juego que consideramos ofensas de “tolerancia cero”. Estas son algunas cosas que dejan en claro que, con base en lo que se dijo, simplemente no nos interesa tener a alguien que cometa este tipo de ofensas en VALORANT. Cuando vemos los reportes con este tipo de lenguaje, escalamos inmediatamente la gravedad de la sanción. (Hoy en día, estas sanciones ocurren luego de terminada la partida, más adelante lo explicamos mejor).
Lista de palabras silenciadas
Como ya deben haber notado, la detección automática de texto no es perfecta (y los jugadores encuentran formas muy “creativas” para eludir nuestros sistemas), por lo que habrá ocasiones en las que algunas palabras con “tolerancia cero” escapan de nuestra detección. Por este motivo, recientemente implementamos una “Lista de palabras silenciadas” que te permite filtrar manualmente algunas palabras y frases que no quieres leer en tu partida.
Esto funciona de dos maneras:
Primero, sabiendo que nuestro sistema automático de detección no es perfecto, queremos que tengan algo de autoridad para filtrar la comunicación no deseada dentro del juego. Y segundo, planeamos incorporar las palabras filtradas con la Lista de palabras silenciadas a nuestra detección automática en futuros procesos del sistema (así que, en cierta forma, ¡el uso de la Lista de palabras silenciadas nos ayudará a mejorar nuestro sistema de detección en el futuro!).
¿QUÉ RESULTADOS SE OBTUVIERON?
Hasta ahora, explicamos algunas de las cosas que hicimos para detectar, castigar y mitigar la toxicidad en VALORANT. Esto solo es la punta del iceberg. Aún nos queda un largo camino por recorrer, pero echemos un vistazo a algunos de los resultados de nuestras acciones.
Chats silenciados
Primero, están los chats silenciados, la forma más común de sanción inicial que administramos por comunicaciones alarmantes de voz o texto. Solo en enero, administramos más de 400 000 restricciones de voz y chat. Estos silencios se activan automáticamente cuando alguien escribe algo en el chat que reconocemos como abusivo, o cuando se acumulan tantos reportes a lo largo del tiempo (de jugadores diferentes en partidas diferentes) como para estar seguros de que ese jugador abusa del chat de voz y texto.
¡El camino no termina aquí! Ten en cuenta que estamos trabajando para mejorar este modelo que nos ayudará a detectar con más precisión una mayor cantidad de palabras que están evadiendo nuestro sistema actualmente. Continuaremos buscando mejoras en este aspecto.
Restricciones de juego
A continuación, hablemos sobre las restricciones de juego. Estas son suspensiones que aplicamos en cuentas que cometen numerosas y repetidas infracciones de toxicidad en las comunicaciones. Las suspensiones van desde un par de días (para infracciones menores o infractores nuevos) hasta dos años (para infractores crónicos). Las suspensiones permanentes se reservan para comportamiento especialmente grave o reiterativo.
Estas suspensiones no incrementaron en VALORANT hasta mediados del año pasado (queríamos asegurarnos de que las suspensiones estuviesen completamente justificadas). En enero, aplicamos unas 40 000 suspensiones.
Un último dato que nos gustaría compartir: las cifras anteriores son indicativos de los comportamientos que detectamos y castigamos, pero no son necesariamente un indicativo de que la toxicidad en VALORANT haya bajado como resultado. De hecho, cuando encuestamos a los jugadores, nos dimos cuenta de que la frecuencia con la que se encuentran en situaciones de acoso en una partida no disminuyó significativamente. En resumen, sabemos que el trabajo que hicimos hasta ahora es (como mucho) fundacional, pero tenemos mucho más para hacer en el 2022 y más adelante.
Este año estaremos probando diferentes formas de interactuar con la base de jugadores para entender mejor dónde podemos mejorar y nos aseguraremos de ser transparentes respecto a la tecnología que estamos haciendo o cuál es/será nuestra dirección, para que podamos tener una retroalimentación activa con todos los jugadores.
¿CUÁLES SON LOS PLANES A PARTIR DE AHORA?
Una cosa es cierta: sabemos que hay mucho más por hacer. Así que ahora nos gustaría compartir un poco del trabajo que estamos realizando actualmente:
- Castigos más duros para los sistemas existentes: En algunos de los sistemas existentes que se encargan de detectar y moderar la toxicidad, pasamos tiempo en niveles más “conservadores” mientras juntábamos información suficiente (para asegurarnos de no estar detectando cosas incorrectas). Pero ahora nos sentimos más confiados con estos sistemas, por lo que comenzaremos a escalar y aumentar gradualmente las sanciones. Esto debería resultar en un tratamiento más rápido de los infractores.
- Moderación de textos más inmediata y en tiempo real: Si bien actualmente contamos con una detección automática de palabras con “tolerancia cero” cuando se escriben en el chat, la sanción consecuente no ocurre hasta luego de terminada la partida. Estamos buscando una manera de administrar la sanción inmediatamente en el momento en que pasa.
- Mejoras a la moderación de voz existente: Actualmente, nos basamos en los reportes repetidos de los jugadores a un infractor para determinar si se produjo un abuso de chat de voz. El abuso de chat de voz es mucho más difícil de detectar que el de texto (y generalmente implica un proceso manual), pero hemos estado tomando medidas graduales para su mejora. En lugar de mantener todo en secreto hasta sentir que la moderación de voz es “perfecta” (cosa que nunca va a pasar), publicaremos actualizaciones periódicas sobre los cambios y mejoras que implementemos en el sistema. No se pierdan las próximas actualizaciones sobre esto a mediados de año.
- Programa piloto de pruebas regionales: Nuestro equipo turco puso en marcha recientemente un programa piloto para intentar combatir mejor la toxicidad en su región. En resumen, se trata de crear una línea de reportes con agentes de asistencia al jugador (que supervisarán los reportes entrantes dedicados estrictamente al comportamiento de los jugadores) y tomarán medidas en función de las guías establecidas. Se trata de algo en etapa experimental, pero si resulta lo suficientemente prometedor, podría extenderse a otras regiones.
Por último, ya mencionamos esto cuando hablamos sobre las ausencias, pero nos comprometemos a comunicar tanto los cambios que hagamos, como los resultados de los mismos, con mayor frecuencia. Esto nos ayuda a seguir el tema de cerca, ¡y esperamos que te ayude a mantenerte al día!
INFORMACIÓN ADICIONAL SOBRE EL CHAT DE VOZ
Cuando un jugador experimenta toxicidad, especialmente en las comunicaciones de voz, sabemos lo frustrante que puede ser y la impotencia que nos hace sentir tanto durante la partida como después. No solo arruina todo lo bueno que tiene VALORANT, sino que puede causar un daño duradero a nuestros jugadores y a la comunidad. Desalentar y castigar el comportamiento tóxico en el chat de voz es un esfuerzo en conjunto que incluye a todo Riot, y estamos comprometidos a hacer de esta una experiencia más agradable para todos.
Evaluación de las comunicaciones por voz
El año pasado, Riot actualizó su Aviso de privacidad y sus Términos de servicio para permitirnos grabar y evaluar las comunicaciones por voz cuando se reporta un mal comportamiento, empezando con VALORANT. Como complemento a nuestros sistemas de juego, también necesitamos evidencia clara para verificar las infracciones a las políticas de comportamiento antes de tomar medidas y para que nos ayude a mostrarles a los jugadores información de por qué un comportamiento particular pudo haber resultado en una penalización.
Por el momento, nuestro objetivo es lanzar una versión beta del sistema de evaluación por voz en Norteamérica (solo en inglés) a finales de año para empezar, y luego pasar a una solución global cuando creamos que tenemos la tecnología correcta para ampliar esos horizontes. Ten en cuenta que esto será un intento inicial de poner a prueba una idea nueva aprovechando la tecnología nueva que se está desarrollando, así que puede que nos tome un tiempo preparar la función para que sea una herramienta efectiva en nuestro arsenal. Informaremos de los planes más concretos sobre su funcionamiento apenas comencemos a recolectar datos de voz de cualquier manera.
¿CÓMO PUEDES AYUDAR?
Lo único que pedimos es que mantengas tu compromiso con los sistemas existentes. Continúa reportando el comportamiento tóxico en las partidas, no dudes en utilizar la Lista de palabras silenciadas si te encuentras con cosas que no quieres leer, y no dejes de darnos comentarios respecto a tu experiencia dentro del juego y sobre lo que te gustaría ver. Con esto, nos ayudas a hacer de VALORANT un lugar seguro en el que jugar, y por eso, estamos muy agradecidos.
¡Nos vemos en la próxima actualización! Mientras tanto, no dudes en enviar cualquier comentario o pregunta a los integrantes del equipo de DSyJ:
