Série Santé des systèmes VALORANT : toxicité en vocal et messagerie

Sara « Riot necrotix » Dadafshar, Brian “Riot South Korea” Chang

10/02/2022

Cet article fait partie d'une série de fond sur la compétition, la communication et les échanges entre les joueurs dans VALORANT. Pour en savoir plus, lisez notre introduction.

Bonjour à tous et à toutes ! Ici Sara et Brian, de l'équipe Communications et échanges entre les joueurs pour VALORANT. Nous revenons vous tenir au courant du travail que nous nous apprêtons à réaliser. Ce n'est pas facile, alors entrons dans le vif du sujet. Aujourd'hui, nous allons parler des abus de communication dans VALORANT et de notre stratégie pour les éliminer.

INTRODUCTION : COMMENT ABORDER LE PROBLÈME

La toxicité dans les communications couvre ce que nous considérons comme un comportement répréhensible dans les communications textuelles et vocales du jeu. Nous ne pourrons jamais empêcher les individus eux-mêmes de mal se comporter, mais nous pouvons travailler pour décourager les comportements comme les insultes, menaces, harcèlements ou propos offensants grâce aux systèmes de jeu. Nous pouvons aussi encourager un comportement « pro-social ».

Comme nous l'avons déjà dit, nous sommes déterminés à agir pour mettre en place un avenir meilleur pour chacun en matière de toxicité des communications dans le jeu vidéo en général. Les progrès dans ce domaine nous semblent encourageants, mais nous sentons qu'il reste beaucoup à faire.

Il n'y a pas de solution magique, mais nous voulons vous présenter certaines mesures que nous avons prises (et leurs résultats mesurés), et annoncer les mesures supplémentaires que nous prendrons pour améliorer l'expérience textuelle et vocale dans VALORANT.

OÙ EN SOMMES-NOUS ?

Pour commencer, parlons du travail que nous avons accompli jusqu'à maintenant. En matière de communications répréhensibles dans notre jeu, nous nous appuyons sur deux formes principales de détection.

Les commentaires des joueurs

La première forme de détection nous est amenée par les commentaires des joueurs, et notamment les signalements ! L'une des raisons pour lesquelles nous vous encourageons fortement à signaler tous les mauvais comportements (que ce soit un abus de communication, une absence ou un sabotage volontaire de la partie), c'est que nous suivons et utilisons activement ces données pour administrer les punitions.

Soyons clair : cela ne signifie pas que toute personne signalée est punie. Nous nous intéressons aux récidivistes, et administrons des sanctions croissantes, qui vont de la mise en garde jusqu'à des suspensions définitives (pour les cas les plus graves).

Nous avons déjà parlé de la création de « scores » de comportement des joueurs en parlant des AFK dans VALORANT. De la même manière, nous avons créé un « score de communication » interne pour chaque joueur dans VALORANT, pour que ceux qui récidivent soient rapidement sanctionnés.

D'un autre côté, il y a des choses que les gens disent ou écrivent dans notre jeu qui sont des infractions pour lesquelles nous n'avons aucune tolérance. Celles-ci rendent la décision facile à prendre : nous ne voulons pas d'un joueur qui commet ces infractions dans VALORANT. Lorsque nous voyons des signalements de ce genre de langage, nous passons immédiatement aux sanctions sévères. (Pour l'instant, ces sanctions ont lieu après la fin d'une partie - nous y reviendrons.)

Liste des mots masqués

Comme vous avez dû vous en rendre compte, la détection automatique des textes n'est pas parfaite (les joueurs ont trouvé des moyens assez « créatifs » de la contourner). Il y aura parfois des moments où des mots de notre « tolérance zéro » échapperont à notre détection. Voilà pourquoi nous avons récemment mis en place une « liste des mots masqués » qui vous permet de filtrer manuellement des mots ou phrases que vous ne voulez pas voir dans le jeu.

Cela remplit deux rôles :

D'abord, conscients que notre système de détection automatique n'est pas parfait, nous voulons vous donner les moyens de filtrer les communications répréhensibles dans le jeu. Ensuite, nous comptons incorporer les mots que vous filtrez grâce à cette liste des mots masqués dans notre détection automatique, pour les itérations futures du système (utiliser cette liste améliorera donc notre détection automatique à l'avenir !).

QUELS SONT LES RÉSULTATS ?

Pour le moment, nous vous avons expliqué certains des éléments mis en place pour détecter, punir et diminuer la toxicité dans VALORANT. Ce n'est que la partie émergée de l'iceberg, et il nous reste un long chemin à parcourir, mais penchons-nous sur le résultat de nos actions.

Coupures de micro

D'abord, les coupures de communication, notre forme de punition initiale la plus courante, administrée pour les communications vocales ou textuelles alarmantes. Rien qu'en janvier, nous avons imposé plus de 400 000 restrictions de communication textuelle ou vocale sous cette forme. Elles sont déclenchées de manière automatique lorsqu'un joueur tape un mot que nous détectons comme abusif ou lorsque les signalements s'accumulent au fil du temps (de différents joueurs dans différentes parties), ce qui nous donne une certitude que ce joueur se comporte de manière abusive.

Ce n'est pas terminé ! Veuillez remarquer que nous travaillons à l'amélioration de ce modèle, pour qu'il puisse détecter de manière fiable des mots qui échappent actuellement au système. Nous continuerons de rechercher des améliorations dans ce domaine.

Restrictions de jeu

Ensuite arrivent les restrictions de jeu. Ce sont des suspensions que nous plaçons sur les comptes qui commettent des infractions de communication nombreuses et répétées. Les suspensions vont de quelques jours (pour les petites infractions par des fautifs relativement nouveaux) à un an (pour les fautifs récurrents). Les suspensions permanentes sont réservées aux comportements particulièrement scandaleux et/ou répétés.

Ces suspensions ne se sont pas généralisées dans VALORANT avant le milieu de l'année dernière (nous voulions vérifier que les suspensions étaient entièrement justifiées). En janvier, nous avons mis en place plus de 40 000 suspensions.

Un dernier point de données que nous voulons partager : ces chiffres sont des indicateurs des comportements que nous avons constatés et punis, mais pas nécessairement une indication que la toxicité dans VALORANT a diminué. En fait, lorsque nous avons mené un sondage auprès des joueurs, nous avons constaté que la fréquence à laquelle les joueurs rencontrent des harcèlements dans notre jeu n'a pas diminué de manière significative. Pour résumer, nous savons que le travail accompli jusqu'à maintenant est, au mieux, une base. Il reste des tonnes de choses à faire en 2022 et après.

Nous cherchons différentes façons d'interagir avec nos joueurs pour l'année à venir, afin de mieux comprendre les domaines à améliorer, et nous communiquerons de manière transparente sur l'état de la technologie et notre manière d'aborder le problème, afin de toujours vous tenir informés.

QUELS SONT LES CHANGEMENTS PRÉVUS ?

Nous savons qu'il y a encore du chemin à parcourir. Nous voulons donc vous montrer ce sur quoi nous travaillons :

Punitions aggravées pour les systèmes existants : pour que certains des systèmes actuels détectent et modèrent la toxicité, nous avons passé un certain temps à un niveau plus « conservateur », le temps de rassembler des données (pour vérifier que la détection était pertinente). Nous avons de plus en plus confiance dans ces détections, et nous allons commencer à augmenter la sévérité et la progression de ces pénalités. Cela devrait permettre un traitement plus rapide des mauvais acteurs.
Modération textuelle en temps réel plus immédiate : nous possédons actuellement une détection automatique des mots à « tolérance zéro » dans la conversation textuelle, les punitions n'apparaissent qu'après la fin d'une partie. Nous cherchons un moyen d'administrer des punitions au moment où ces termes apparaissent.
Améliorations à la modération vocale existante : pour le moment, nous comptons sur les signalements répétés des joueurs contre un fautif pour déterminer s'il y a eu abus de la communication vocale. L'abus des communications vocales est plus difficile à détecter que celui des communications textuelles (et passe souvent par un processus plus manuel), mais nous commençons à améliorer cela. Au lieu de ne rien dire jusqu'au moment où nous obtiendrions une modération vocale « parfaite » (ce qu'elle ne sera jamais), nous allons vous donner des mises à jour régulières sur les changements et améliorations apportés au système. Guettez la prochaine mise à jour à ce sujet, vers le milieu de l'année.
Programme pilote de test régional : notre équipe turque a récemment déployé un programme pilote local pour améliorer la lutte contre la toxicité dans sa région. En l'essence, il s'agit de créer une ligne de signalement où les agents du Support, qui superviseront les rapports strictement liés au comportement des joueurs, pourront agir selon des directives établies. Il s'agit d'un processus tout à fait à améliorer, mais s'il se montre prometteur, une version de ce système pourrait s'étendre aux autres régions.

Enfin, nous en avons parlé en même temps que des AFK, mais nous communiquerons sur les changements que nous apportons et sur leurs résultats de manière plus régulière. Cela nous aide à rester transparents, et vous permet de rester informés !

PUISQU'ON PARLE DU VOCAL

Lorsqu'un joueur est victime de toxicité, surtout dans les communications vocales, nous savons que cela peut s'avérer très frustrant et donner un sentiment d'impuissance, pendant la partie et ensuite. Non seulement cela sape tout ce qu'il y a de bien dans VALORANT, mais cela peut aussi avoir des effets délétères durables sur nos joueurs et la communauté dans son ensemble. Décourager et punir le comportement toxique dans les communications vocales est un effort combiné qui inclut Riot dans son ensemble, et nous sommes tout à fait décidés à en faire une expérience plus agréable pour tout le monde.

Analyse des données vocales

L'an dernier, Riot a mis à jour sa Politique de confidentialité et ses Conditions d'utilisation afin de pouvoir enregistrer et analyser les communications vocales quand nous recevons un signalement pour comportement abusif, en commençant par VALORANT. Pour compléter nos systèmes actuels en jeu, nous avons aussi besoin de preuves irréfutables pour confirmer une transgression de notre charte de conduite avant de la sanctionner et nous voulons les transmettre aux joueurs concernés afin qu'ils comprennent pourquoi un comportement en particulier leur a valu une pénalité.

Nous ciblons un déploiement de la bêta du système d'analyse des données vocales en Amérique du Nord/anglais uniquement cette année, puis nous nous tournerons vers une solution plus mondiale une fois que nous aurons la technlogie adaptée à cet élargissement. Comprenez bien qu'il s'agira d'une première tentative de déploiement d'une nouvelle idée appuyée sur une technologie nouvelle, et que cette fonctionnalité mettra donc du temps à se transformer en outil utile de notre arsenal. Nous vous communiquerons des plans concrets sur son fonctionnement avant de commencer à collecter la moindre donnée vocale.

COMMENT VOUS POUVEZ AIDER

Notre seule demande, c'est de continuer d'utiliser les systèmes en place. Continuez de signaler les comportements toxiques en jeu, utilisez la liste des mots masqués si vous rencontrez des choses que vous ne voulez pas voir, et continuez de nous laisser des commentaires sur vos expériences en jeu et ce que vous voulez voir. Ce faisant, vous nous aiderez à faire de VALORANT un endroit plus sûr. Et pour cela, nous serons reconnaissants.

À bientôt dans la prochaine mise à jour ! En attendant, vous pouvez envoyer tout commentaire ou toute question aux membres de l'équipe DS&J :