VALORANT 連載「システムの健全性」 - 悪質なチャット（テキスト＆ボイス）

Sara “Riot necrotix” Dadafshar, Brian “Riot South Korea” Chang

2022/2/10

この記事はVALORANTのコンペティティブとソーシャル＆プレイヤーダイナミクスの領域での問題を深く掘り下げていく連載企画の一部となっています。連載の趣旨についてはこちらをご一読ください。

皆さん、こんにちは。VALORANTのソーシャル＆プレイヤーダイナミクスチームのBrian ChangとSara Dadafsharです。前回に引き続き、私たちの今後の取り組みについての最新情報をお届けします。今回の記事は難しい問題を取り上げていますので、さっそく本題に入りましょう。内容は、悪質なコミュニケーションと、それに私たちがどう対処するのかについてです。

はじめに - 悪質なコミュニケーションとは何か

ここで言う「悪質なコミュニケーション」とは、ゲーム内でのテキスト＆ボイスチャットにおける好ましくないと考えられる行為のことです。不適切な行為そのものを個々人から完全に取り除くことはできませんが、少なくともゲームシステムを通じて、侮辱や脅迫、ハラスメント、攻撃的な言葉遣いなどの抑止に努めることはできます。また反対に、“思いやりのある”行動を推奨していくことも、まだまだ可能です。

以前述べたように、ゲーム内でのコミュニケーションにおける悪質な行為に対して私たちは断固たる措置を取り、皆さんにとって明るい未来を築いていこうと思っています。これについては着実な進歩も見られていますが、まだやるべきことが残されています。

VALORANTのテキスト＆ボイスチャットを改善するにあたり、特効薬というものは存在しません。ですが、私たちのこれまでの取り組みとその結果、および今後の計画について、皆さんにお話ししたいと思います。

これまでの取り組み

初めに、現在までの取り組みについてお話しします。ゲーム内の不適切なコミュニケーションについては、主に2つの方法を用いて検出を行っています。

プレイヤーフィードバック

1つ目はプレイヤーの皆さんからのフィードバック、特に報告システムによるものです。悪質な発言やAFK、意図的な試合放棄など、どんな不適切な行為であっても報告してもらうように皆さんに強くお願いしている理由のひとつは、私たちがこのような情報を積極的に記録し活用して、罰則を管理しているからです。

明確にしておきたいのは、これは報告された人物が必ず罰せられるというわけではないことです。私たちは繰り返し悪質な行為を行っている人物を特定し、最初は警告し、それでも改善されなかった場合はより厳しい罰則を科し、最終的にアカウントの永久停止処分を行います。

AFKについて、「レーティング」を設けたことを以前お話ししました。それと同じように、プレイヤーごとに「コミュニケーションレーティング」を内部的に設定しました。これにより、不適切な行為を繰り返す人物に対する迅速な対応が可能になります。

一方で、ゲーム内での発言の中には、それがテキストであれ音声であれ、私たちが問答無用（ゼロ・トレランス）で対処すべきと考える違反内容もあります。こういった対応を取る理由は、私たちはそのような悪質な発言をするプレイヤーにはVALORANTをプレイしてほしくないことを明確に示したいからです。そのような発言の報告を受けた場合、私たちは直ちに非常に厳しい対応を行います（現在こういった罰則は対戦の終了後に科せられています。詳しくは後述します）。

単語のミュート機能

実際にお感じの方もいらっしゃるかと思いますが、自動テキスト検出システムは完璧なものではありません（システムの裏をかく“クリエイティブ”な方法が発見されてしまうからです）。そのため、許容できない言葉が見逃されてしまうこともあると思います。これに対処するため、最近、単語のミュート機能（設定、コミュケーション内の「ミュートした単語」）を実装し、皆さんがゲーム内で目にしたくない単語やフレーズをリスト化して非表示にすることができるようになりました。

これには2つの目的があります。

1つは、自動検出システムは完璧ではないので、皆さん自身で不適切な言葉をフィルタリングしてもらえるようにするためです。2つ目は、自動検出システムを今後開発していく際、皆さんがリストに追加してくれた言葉をシステムに取り込むためです。ある意味、「ミュートした単語」を使用していただくことは、自動検出システムの将来的な改善に繋がるのです。

これまでの結果について

ここまでは、悪質なコミュニケーションを検出して罰則を科し、抑制するためのこれまでの取り組みについて説明してきました。これはやるべきことのほんの一部であり、残された課題は山積みですが、まずは上記の対応を行った結果を見ていきましょう。

コミュニケーション制限

まずはチャットミュートについてです。チャットミュートは、注意を促すべきテキスト＆ボイスチャットに対する第一の罰則システムとして最も一般的なものです。1月だけで、40万件以上のテキスト＆ボイスチャットをミュートしました。これは、悪質な言葉を検出した際に自動的にミュートされる場合と、（異なるゲームの異なるプレイヤーから）長期間にわたって十分な数の報告が寄せられ、そのプレイヤーが悪質な行動をしていることが確認された段階でミュートされる場合があります。

しかし、それで終わりではありません。以上に述べたチャットミュートの適用ケースについては改善に向けて作業を続けており、システムの網の目をかいくぐる言葉を、今後さらに多く検出できるようになると確信しています。これについては引き続き最優先で取り組んでいこうと思います。

アカウント利用制限

次はゲームの制限についてです。これは、悪質なコミュニケーションを再三にわたり繰り返したアカウントに対して科せられる、アカウントの利用停止処分です。停止処分の期間は、比較的新しい違反者による軽微な違反に対しては数日、常習的違反者に対しては一年を通して科せられるなどの幅があります。永久停止処分は、悪質性や常習性が極めて著しいと思われる行為に対して科せられます。

停止処分に正当性が完全に担保されるように心がけていたため、VALORANTにおけるこういった停止処分は、去年の中頃までは多くありませんでした。しかし1月においては、停止処分数は4万以上にのぼりました。

最後にお伝えしたいのは、以上の数字は私たちが把握し、処分を科した違反者を示す指標であり、結果としてVALORANTでの悪質なコミュニケーションが減少したことを意味するわけでは必ずしもないことです。事実、プレイヤーの皆さんにアンケートを取ったところ、ハラスメントに遭遇する頻度は目に見えて減ってはいないようです。つまり手短に言えば、私たちのこれまでの取り組みは基本的なものに過ぎず、2022年からはそこへ積み上げていく作業が山ほど残っているということです。

私たちは改善が必要な箇所をより適切に把握するために、プレイヤーの皆さんへの関わり方について今後はこれまでとは異なるアプローチを試みるつもりです。そして、導入するシステムや私たちの方向性についての情報を余すところなく公開することで、皆さんからフィードバックをいただくというサイクルを開かれたものにしたいと考えています。

今後の取り組みについて

前述のとおり、確かにやるべきことはたくさんあります。そこで、現在私たちが取り組んでいる内容について少しだけお伝えしようと思います。

現在のシステムにおける罰則を全体的により厳しく：悪質なコミュニケーションを検出し、改善するための現在のシステムの一部について、これまでは誤検出を避けるために比較的穏やかなレベルで運用しつつ、データの収集を行ってきました。検出システムの信頼性は以前より大幅に上がっているので、今後は罰則を徐々に強化しはじめようと思います。これにより、違反者に対してより迅速に対応できるようになるはずです。
より迅速なリアルタイムのテキストモデレーション：現在、私たちが「断固許容できない（ゼロ・トレランス）」と考える言葉をチャットに入力すると自動的にそれを検出できるようになっていますが、それに対する罰則は対戦が終了するまで科せられません。これについては、即時に罰則を科すことが可能となる方法について模索を続けています。
ボイスモデレーションの改善：悪質なボイスチャットが行われたか否かについては、その行為者に対するプレイヤーの皆さんからの複数の報告をもとに判断しています。悪質なボイスチャットの検出は、テキストチャットに比べて非常に難しく、たいていの場合は人力による評価プロセスが必要になります。しかし、これを改善するべく、様々な手段をいくつも講じました。これについては、“完璧な”ボイスチャットモデレーションが出来上がるまで公開しないという方式ではなく（そもそも完璧なものを作ることはできないでしょう）、システムに施す変更や改善について最新情報を定期的にお伝えしていく方法を取りたいと思います。今年の中頃には続報をお届けできると思いますので、いましばらくお待ちください。
トルコでのテストパイロットプログラム：近頃トルコのチームがパイロットプログラムを導入しました。このプログラムは、その地域における悪質なコミュニケーションへの対応を改善するためのものです。これは、一言で言えば、プレイヤーサポートのエージェントへと繋がる報告ラインを設けるものです。このエージェントは、プレイヤーの振る舞いに対応する専門のエージェントであり、送られてくる報告を監視し、確立されたガイドラインに従って対応します。まだテスト段階ですが、もし十分なポテンシャルが認められた場合には、他の地域でもリリースする可能性があります。

AFKについての記事でもお話ししたことですが、行った変更とその変更による結果の両方を、より頻度を高めたうえで定期的にお伝えしようと思っています。こうすることで私たちは説明責任を果たすことができますし、皆さんにも十分な情報をお伝えできることになると思います。

ボイスチャットについて、さらにお伝えしたいこと

悪質なコミュニケーションに遭遇した際、特にそれがボイスチャットの場合は、非常に苛立たしいものですし、ゲーム中もゲーム後も無力感に苛まれるものです。これはVALORANTの良い部分すべてを台無しにするだけでなく、プレイヤーとコミュニティー全体にも大きな悪影響を及ぼし続ける可能性があります。ボイスチャットでの悪質な振る舞いを抑制し罰するのは、ライアット全体としての取り組みです。今後も皆さんのゲーム体験がより楽しいものになるよう全力を注ぎたいと思います。

音声の評価・分析

昨年、プライバシーノーティス及びサービス規約を改定し、悪質な行為が報告された際にボイスチャットを記録し、検証することができるようになりました。この試みは、VALORANTからスタートすることになりました。現在稼働中のゲームシステムを円滑に運用するためにも、明確な証拠が必要です。取るべき対応を決定する前に、確たる証拠をもって該当するポリシーに違反しているかどうかを検証する必要があるからです。また、これにより、なぜある特定の行動が罰せられる可能性があるのかを皆さんに説明することもできます。

現在のところ、地域は北米、対象言語は英語のみですが、音声の評価・分析システムのベータ版を年内にリリースしようと考えています。その後、他の地域でもうまく運用できそうな見込みが立ち次第、グローバルに展開しようと考えています。これは、開発段階のまったく新しい技術を活用した新しいアイデアを運用する初めての試みとなります。そのため、実用に耐えられる効果的なシステムになるまでは、少し時間がかかるかもしれません。いかなる方法で音声データの収集を開始する場合であっても、その前にこのシステムがどのように運用されるのかを、具体的な計画をもって説明しようと思いますので、続報をお待ちください。

皆さんのご協力があってこそ

私たちの導入するシステムを皆さんに引き続き活用していただくことが、何よりの願いです。これまで通り、ゲーム内で悪質な振る舞いをしている人物がいたら報告をお願いします。表示させたくない言葉を見かけたら「ミュートした単語」に登録してください。皆さんのゲーム内での体験や今後のVALORANTに望むことについて、ご意見ご感想をぜひお寄せください。皆さんのご協力があってこそ、VALORANTが安心してプレイを楽しめる場所になります。そのような皆さんの努力にいつも感謝しています。

それでは、次の記事でお会いしましょう！それまでの間、もしご意見やご質問等がありましたら、お気軽にソーシャル＆プレイヤーダイナミクスチームのメンバーへお問い合わせください：