Série Integridade dos Sistemas do VALORANT – Comportamento tóxico no chat de voz/texto

Este artigo faz parte de uma série de análises detalhadas relacionadas às questões competitivas/sociais e às dinâmicas entre jogadores no VALORANT. Saiba mais sobre esses artigos aqui.

Oi de novo! Somos Brian e Sara, da equipe de Dinâmicas Sociais e de Jogadores do VALORANT, de volta com mais uma atualização sobre nossos futuros projetos. Esse assunto é complicado, então vamos começar! Hoje, falaremos sobre abusos de comunicação no VALORANT e sobre nossa estratégia para lidar com isso.

APRESENTAÇÃO – ADENTRANDO O PROBLEMA

Comunicação tóxica é tudo o que consideramos como comportamentos indesejados no chat de voz e de texto dentro do jogo. Apesar de ser impossível eliminar o comportamento ruim de cada pessoa, nós podemos trabalhar para impedir que insultos, ameaças, assédio e linguagem ofensiva ocorram em nossos sistemas de jogo. E, claro, também podemos encorajar comportamentos "pró-sociais".

Como dito anteriormente, nosso compromisso é o de abrir o caminho para um futuro melhor para todos quando o assunto é comunicação tóxica nos jogos. Temos visto progresso na área, mas entendemos que ainda há muito a ser feito.

Embora não exista solução mágica, queremos mostrar cada passo do que temos feito (e os resultados calculados), além das medidas adicionais que planejamos tomar para melhorar a experiência envolvendo chat de texto e de voz no VALORANT.

O QUE FIZEMOS ATÉ AGORA?

Primeiro, vamos falar sobre o que fizemos até o momento. Quando se trata de comunicação indesejada no jogo, usamos duas formas primárias de detecção.

Feedback dos jogadores

A primeira forma de detecção é o feedback dos jogadores, ou seja, denúncias! Nós encorajamos vocês a denunciarem comportamentos ruins (seja comportamento abusivo no chat, ausência durante a partida ou derrota proposital) porque monitoramos ativamente esses dados e os usamos para aplicar punições.

Mas isso não significa que qualquer pessoa denunciada será punida! Ficamos de olho em transgressores reincidentes e aplicamos penalidades crescentes, começando por avisos e indo até banimentos permanentes (quando a situação for ruim o suficiente).

Quando falamos sobre AFKs no VALORANT, mencionamos a criação de uma "classificação" de comportamentos dos jogadores. Da mesma forma, criamos uma "classificação de comunicação" interna para cada pessoa no VALORANT. Assim, podemos lidar rapidamente com quem continua cometendo infrações.

Por outro lado, existem coisas que as pessoas digitam/falam que consideramos infrações de "tolerância zero". Tais coisas deixam claro que, com base no que foi escrito/dito, simplesmente não queremos a pessoa que cometeu essa infração dentro do VALORANT. Quando vemos denúncias desse tipo de linguagem sendo usada, partimos para as punições mais severas imediatamente (no momento, essas punições acontecem depois que a partida termina, mas falaremos mais sobre isso depois).

Lista de palavras silenciadas

Temos certeza de que vocês já notaram, mas a detecção automática de texto não é perfeita (as pessoas são bem "criativas" na hora de burlar nossos sistemas), então algumas vezes as palavras de "tolerância zero" passam pela nossa detecção. Por esse motivo, implementamos recentemente uma "lista de palavras silenciadas" que permite que vocês filtrem manualmente as palavras e frases que não desejam ver no jogo.

Ela tem duas funções:

Primeiro, sabendo que nossos sistemas de detecção automática não são perfeitos, queríamos dar um pouco de controle para vocês filtrarem comunicações indesejadas no jogo. Segundo, planejamos incorporar as palavras adicionadas à lista de palavras silenciadas em versões futuras do sistema de detecção automática (então, de certa maneira, usar a lista melhorará nossas detecções automáticas no futuro).

QUAIS FORAM OS RESULTADOS?

Até agora, explicamos o que fizemos para detectar, punir e mitigar comportamentos tóxicos no VALORANT. Essa é só a ponta do iceberg, e ainda temos muito chão pela frente. Mas, por enquanto, vamos dar uma olhada nos resultados dessas nossas ações.

Silenciamento de chat

Primeiro, temos o silenciamento de chat, a forma mais comum de punição inicial que aplicamos depois de detectar comunicações alarmantes de voz ou de texto. Só em janeiro, aplicamos mais de 400.000 restrições de chat de voz/texto na forma de silenciamento. Essa punição é automaticamente acionada quando uma pessoa digita algo que consideramos abusivo no chat ou quando denúncias suficientes são acumuladas ao longo do tempo (de pessoas diferentes em partidas diferentes). São necessárias denúncias suficientes para acreditarmos fielmente que uma pessoa está infringindo as regras.

E não para por aqui! Estamos melhorando esse modelo para que possamos detectar mais palavras que estejam atualmente fora do radar do sistema. De agora em diante, continuaremos nos esforçando para aprimorar mais essa questão.

Restrições de jogo

Em seguida, temos as restrições de jogo. Esses são os banimentos que implementamos em contas com várias ocorrências de comunicação tóxica. A duração dos banimentos pode variar de dias (para violações menores realizadas por novos transgressores) a um ano (para infratores crônicos). Banimentos permanentes são reservados para comportamentos absurdos e/ou reincidências.

No VALORANT, esses banimentos não acumularam até o fim do ano passado (estávamos tentando nos certificar de que todos os banimentos eram totalmente justificados). Em janeiro, aplicamos mais de 40.000 banimentos.

E aqui vai um último dado que gostaríamos de compartilhar: os números acima mostram os comportamentos que detectamos e punimos, mas não são necessariamente indicadores de que tais comportamentos diminuíram no VALORANT. Na verdade, por meio das pesquisas realizadas com a comunidade, notamos que a frequência com que as pessoas se deparam com tais comportamentos no jogo não diminuiu muito. Resumindo: sabemos que o trabalho realizado até agora é, no máximo, de base — e ainda temos que trabalhar muito em 2022 e além!

Durante este ano, tentaremos nos comunicar com o público de várias maneiras para entender onde podemos melhorar. Além disso, seremos transparentes sobre nosso sistema e nossos planos para o futuro, assim vocês também poderão manter o fluxo de feedbacks vivo.

QUAIS SÃO OS PLANOS?

Sabemos que ainda há muito a ser feito. Então, queremos compartilhar um pouco do nosso foco no momento:

1. Punições mais severas nos sistemas existentes: no caso de alguns dos sistemas de detecção e moderação de comportamentos tóxicos que temos hoje, passamos algum tempo em um nível de ação mais "conservador" enquanto coletávamos dados (para garantir que a detecção estava correta). Como estamos muito mais confiantes nessas detecções, começaremos a aumentar gradualmente a severidade das penalidades. Isso deve resultar em punições mais rápidas para os infratores.
2. Moderação de texto imediata e em tempo real: mesmo com a detecção automática das palavras de "tolerância zero" digitadas no chat, a punição não ocorre até que a partida termine. Então, estamos analisando maneiras de aplicar punições assim que o comportamento acontece.
3. Melhorias na moderação existente de chat de voz: no momento, contamos com as repetidas denúncias feitas ao transgressor para determinar a ocorrência de abuso por chat de voz. Os casos de chat de voz são muito mais difíceis de detectar que os abusos por texto (e frequentemente envolvem um processo mais manual), mas estamos preparando melhorias nesse quesito. Em vez de manter tudo por debaixo dos panos até que a moderação de voz esteja "perfeita" (o que nunca vai acontecer), publicaremos atualizações regulares apontando as mudanças e melhorias realizadas. Não percam a próxima atualização sobre o assunto lá pelo meio do ano!
4. Programa de teste regional (experimental): nossa equipe da Turquia recentemente implementou um programa piloto local para tentar combater melhor o comportamento tóxico na região. O plano é criar uma linha de denúncia com agentes do Suporte ao Jogador, que supervisionarão apenas denúncias de comportamentos de jogadores e tomarão medidas com base nas diretrizes estabelecidas. Isso ainda é apenas um teste, mas não deixa de ser uma iniciativa muito promissora! Se tudo der certo, uma versão dela pode chegar a outras regiões futuramente.

Por fim, como mencionamos na discussão sobre AFKs, estamos determinados a nos comunicar com mais frequência sobre as mudanças realizadas e seus resultados. Isso vai ajudar no nosso comprometimento e também manterá vocês a par das novidades!

TÓPICO EXTRA SOBRE O CHAT DE VOZ

Sabemos que quando alguém é vítima de comportamento tóxico, principalmente pelo chat de voz, uma situação incrivelmente frustrante é criada, fazendo com que nos sintamos vulneráveis durante a partida e depois dela. Isso não só prejudica tudo de bom que o VALORANT tem a oferecer, mas também pode causar dano irreparável à nossa comunidade. Impedir e punir comportamentos tóxicos por voz é um esforço conjunto que inclui a Riot como um todo, e estamos comprometidíssimos a proporcionar uma experiência mais agradável para todo mundo.

Avaliação de voz

Ano passado, a Riot atualizou o Aviso de Privacidade e os Termos de Serviço para que possamos gravar e avaliar a comunicação por voz quando uma denúncia de comportamento inadequado é feita, começando pelo VALORANT. Complementando os sistemas já existentes, também precisamos de evidências claras para verificar as violações das nossas políticas de comportamento (antes de agir) e para poder comunicar aos jogadores por que um comportamento específico gerou uma punição.

Por enquanto, planejamos fazer o lançamento Beta do sistema de avaliação de voz na América do Norte (apenas em inglês) ainda este ano. Depois, implementaremos uma solução mais global quando nossa tecnologia estiver bem ajustada para expandir esses horizontes. Lembrem-se: esse será o primeiro teste de uma nova tecnologia que está sendo desenvolvida, então talvez demore um pouco até ela se tornar uma ferramenta útil no nosso arsenal. Apresentaremos planos mais concretos sobre como isso vai funcionar bem antes de os dados de voz serem coletados.

COMO VOCÊS PODEM AJUDAR!

Pedimos apenas que continuem usando os sistemas que já implementamos! Continuem denunciando comportamentos tóxicos no jogo, usem a lista de palavras silenciadas quando encontrarem coisas que não desejam ver e continuem nos enviando feedbacks sobre suas experiências e sobre o que gostariam de ver no jogo. Fazendo isso, vocês estarão ajudando a tornar o VALORANT um lugar mais seguro e, por esse motivo, só temos a agradecer.

Nos vemos na próxima atualização! Enquanto isso, sintam-se à vontade para enviar qualquer pergunta ou feedback aos integrantes da Equipe de DSJ:

• Sara “Riot necrotix”
• Brian “Riot South Korea”
• Lydia “Riot Lydia”
• Grace “RiotGyudon”
• Ou ao responsável de Comunicação