Улучшение игровых систем в VALORANT: токсичность в голосовом и текстовом чатах

Эта статья входит в цикл подробных статей о соревновательной системе и социальном взаимодействии игроков в VALORANT. Подробности можно узнать здесь.

Привет! Это снова мы, Сара и Брайан из команды социального взаимодействия игроков VALORANT. На этот раз нам бы хотелось обсудить еще одну актуальную проблему. Она довольно сложная, так что давайте сразу к делу: сегодня речь пойдет о злоупотреблении средствами общения в VALORANT и о том, как мы собираемся с этим бороться.

ВВЕДЕНИЕ: НАШ ПОДХОД К ПРОБЛЕМЕ

Токсичность – это одно из проявлений нежелательного поведения в голосовом и текстовом чатах. Конечно, нам не под силу кого-либо перевоспитать, но мы можем отслеживать случаи оскорблений, угроз, притеснения и использования ненормативной лексики с помощью своих игровых систем и поощрять игроков за хорошее поведение.

Как уже было сказано, мы стремимся бороться с токсичностью и создать все условия для улучшения социального климата в игре. На наш взгляд, мы уже здорово продвинулись в этом направлении, но совершенству нет предела.

По мановению волшебной палочки проблему токсичности не решить, так что мы расскажем вам об уже принятых мерах, результатах и планах по улучшению голосового и текстового чатов в VALORANT.

ЧТО МЫ УЖЕ СДЕЛАЛИ?

Сначала вспомним, чего мы уже достигли на данный момент. Для обнаружения случаев неприемлемого общения в нашей игре применяются два основных метода.

Отзывы игроков

Первый метод обнаружения – это ваши отзывы, а если точнее – жалобы! Одна из причин, по которой мы всегда просим вас сообщать о нежелательном поведении (например, о злоупотреблении общением в чате, AFK или намеренном выходе из матча), заключается в том, что мы постоянно используем эти данные, чтобы определить, какими должны быть наказания.

Сразу оговоримся, что наказание получают не все игроки, на которых подана жалоба. Мы учитываем количество нарушений и принимаем самые разные меры – от предупреждения до бессрочного бана в особенно тяжелых случаях.

В статье об AFK мы уже говорили о "рейтинге" поведения игроков в VALORANT. Аналогичным образом мы создали "рейтинг общения", так что злостных нарушителей ждет быстрое и неизбежное возмездие.

С другой стороны, употребление определенной лексики в нашей игре считается абсолютно неприемлемым. Как нам кажется, игрокам, которые пишут или говорят такое в чатах, нет места в VALORANT. Когда нам поступают жалобы на оскорбительную лексику, мы не ограничиваемся предупреждениями, а сразу же принимаем строгие меры. В данный момент такие игроки получают наказание после завершения матча, но об этом чуть позже.

Список запрещенных слов

Некоторые из вас уже заметили, что система автоматического распознавания текста несовершенна (игроки находят новые, более изобретательные способы ее обойти), поэтому иногда "абсолютно неприемлемая" лексика все же попадает в чат. Поэтому недавно мы добавили в игру список запрещенных слов, благодаря которому можно вручную фильтровать нежелательные слова и фразы в VALORANT.

Этот список выполняет две функции.

Во-первых, учитывая несовершенство систем обнаружения, мы хотим дать вам возможность самостоятельно блокировать нежелательную лексику в игре. Во-вторых, в будущем мы планируем использовать добавленные вами слова и фразы для обновления автоматических систем. Так что, пополняя список запрещенных слов, вы в какой-то мере помогаете нам улучшить системы обнаружения!

ЧЕГО МЫ ДОСТИГЛИ?

Итак, мы немного рассказали о своих способах обнаружения нежелательной лексики, наказания нарушителей и предотвращения токсичности в VALORANT. Это только вершина айсберга, и впереди еще много работы, но давайте посмотрим, чего мы уже добились.

Отключение чата

Начнем с отключения – самой распространенной первоочередной меры по предотвращению нарушений в текстовом и голосовом чатах. Только в январе мы более 400 000 раз лишали игроков возможности пользоваться средствами общения. Это наказание применяется автоматически, если пользователь пишет в чате что-то оскорбительное или за определенный период времени на него подано достаточно жалоб от разных игроков и в разных матчах – в общем, когда мы уверены, что игрок нарушает правила общения в игре.

Обращаем ваше внимание, что это не окончательная версия системы обнаружения. Мы еще работаем над ней и стремимся к тому, чтобы она лучше фиксировала неприемлемые слова, которые иногда все равно проникают в чат.

Запреты на игру

Далее идут запреты на игру: их можно получить за неоднократные, повторяющиеся случаи токсичного общения. Временный бан может длиться от нескольких дней (если нарушения незначительные и довольно редкие) до года (если игрок постоянно нарушает правила). Постоянный бан получают особенно агрессивные игроки, которые не хотят исправляться.

До середины прошлого года количество таких банов было небольшим (мы хотели убедиться, что их применение справедливо). А в январе мы забанили более 40 000 нарушителей.

Еще отметим вот что: данные выше – это число выявленных случаев нежелательного поведения, на основании которых были приняты меры, но это не обязательно означает, что токсичности в VALORANT впоследствии стало меньше. На самом деле по результатам опроса мы выяснили, что игроки сталкиваются с притеснением почти так же часто, как и раньше. Подводя итоги, можно сказать, что благодаря проделанной работе нам удалось заложить основы, но в 2022 году и в дальнейшем нам предстоит сделать еще очень и очень многое.

В этом году мы постараемся активнее общаться с игроками, чтобы понимать, что нужно доработать. Мы планируем делиться с вами подробностями о текущем положении дел, применяемых технологиях, а также о своих дальнейших планах, и будем ждать от вас обратной связи.

ЧТО МЫ ПЛАНИРУЕМ ДЕЛАТЬ?

Конечно, нам известно, что системы можно и нужно улучшать, поэтому далее мы расскажем, над чем работаем прямо сейчас.

1. Более строгие меры в рамках существующих систем: для некоторых методов обнаружения и фильтрации токсичности мы до сих пор придерживались более "осторожного" подхода, поскольку собирали данные и хотели убедиться, что у нас не было ложноположительных срабатываний. Теперь мы гораздо более уверены в работе этих систем, и пришло время постепенно увеличивать серьезность наказаний за такие нарушения. Надеемся, в результате нарушители будут быстрее исправляться.
2. Более своевременная модерация текста в режиме реального времени: сейчас у нас есть система автоматического обнаружения "абсолютно неприемлемой" лексики в текстовом чате, но все наказания вступают в силу только после окончания матча. В настоящее время мы рассматриваем способы применять наказание сразу же после фиксации нарушения.
3. Улучшение нынешней модерации голосового чата: пока что мы выявляем нарушения в голосовом чате преимущественно с помощью жалоб игроков. Такое поведение гораздо сложнее вычислить (зачастую автоматическое обнаружение тут работает хуже), но мы стараемся постепенно улучшать эту систему. Мы не собираемся держать все в тайне, пока не разработаем "идеальную" модерацию голосового чата (а такое попросту недостижимо). Вместо этого вас ждут регулярные публикации об изменениях и улучшениях системы, а где-то в середине 2022 года мы планируем выпустить обновление.
4. Региональная экспериментальная программа: недавно наша турецкая команда запустила в тестовом режиме локальную программу для более успешной борьбы с токсичностью в пределах региона. Суть программы в том, что с пользователями будут напрямую работать специальные агенты поддержки. Задача таких агентов – рассматривать исключительно жалобы на поведение игроков и принимать меры в соответствии с установленными правилами. Программа пока на очень ранней стадии тестирования, но если она даст хорошие результаты, ее можно будет применять и в других регионах в том или ином виде.

Мы уже писали об этом в статье про AFK, но в дальнейшем постараемся чаще рассказывать вам об изменениях и о достигнутых результатах. Так вам будет понятнее, что мы делаем для улучшения игры, и вы будете в курсе всего происходящего!

ЕЩЕ НЕМНОГО О ГОЛОСОВОМ ЧАТЕ

Мы знаем, насколько неприятно сталкиваться с токсичностью, особенно в голосовом чате. Такое поведение сильно обескураживает как во время матча, так и после него. Оно не только умаляет все хорошее в VALORANT, но и способно причинить длительный вред игрокам и всему сообществу. Выявление токсичности и борьба с ней – это комплексная задача компании Riot. Мы прилагаем очень много усилий, чтобы вам всем было комфортнее играть.

Обработка голосовых данных

В прошлом году уведомление об использовании конфиденциальных данных и условия оказания услуг Riot были обновлены: мы решили записывать и обрабатывать данные голосового чата в случае подачи жалобы на неприемлемое поведение и начали именно с VALORANT. Прежде чем применить меры, нам нужно получить не только данные от существующих игровых систем, но и явные доказательства нарушения наших правил поведения. Кроме того, так мы сможем объяснить игрокам, почему тот или иной пример поведения влечет за собой наказание.

В этом году мы планируем запустить обработку голосовых данных в Северной Америке (только на английском языке), а убедившись, что все работает как надо и что систему можно расширять, начнем применять ее и в других регионах. Обратите внимание, что это будет лишь первая попытка протестировать новую технологию, поэтому нам может понадобиться некоторое время, чтобы наладить ее работу. Мы сообщим вам о своих планах и особенностях обработки голосовых данных до того, как начнем собирать эти данные в каком-либо виде.

ВЫ МОЖЕТЕ ПОМОЧЬ!

Мы хотим попросить вас продолжать пользоваться нашими системами. Пожалуйста, отправляйте жалобы на токсичное поведение в игре, пополняйте список запрещенных слов, если увидели что-то неприятное в чате, оставляйте отзывы и делитесь с нами своими предложениями. Так вы помогаете сделать VALORANT безопаснее и комфортнее, и за это мы вам очень благодарны.

До встречи в следующем выпуске! А пока не стесняйтесь оставлять отзывы и задавать вопросы команде социального взаимодействия игроков:

• Саре Riot necrotix,
• Брайану Riot South Korea,
• Лидии Riot Lydia,
• Грейс Riot Gyudon
• или нашему стратегу отдела коммуникаций.