발로란트 시스템 상태 진단 시리즈 – 음성 채팅 및 채팅창 유해행위

사라 “Riot necrotix” 다다프샤, 브라이언 “Riot South Korea” 창

2022. 2. 10.

이 글은 발로란트의 경쟁전/소셜 & 플레이어 관계분석 측면을 심도 있게 다루는 시리즈의 일부입니다. 해당 시리즈에 대한 추가 내용은 이 글 에서 확인하세요.

안녕하세요! 소셜 및 플레이어 관계분석 팀의 사라와 브라이언이 돌아왔습니다. 이번 글에서는 저희가 현재 진행 중인 작업에 대한 새로운 소식을 말씀드리려고 합니다. 전해드릴 내용이 많으니 바로 살펴보시죠. 오늘은 발로란트 내 소통 오남용과 저희의 대응 전략을 다뤄보겠습니다.

도입 – 문제에 대처하는 방법

소통 유해행위에는 게임 내 음성 채팅 및 채팅창 소통과 관련하여 저희가 바람직하지 않다고 생각하는 행동이 포함됩니다. 저희가 플레이어 각각의 부정적 행위를 완벽하게 막을 수는 없겠지만 욕설, 위협, 괴롭힘, 공격적 언행과 같은 행위를 게임 시스템에서 억제하기 위해 노력할 수는 있을 겁니다. 또한 “친사교적” 행위를 권장할 여지도 있겠죠.

전에 말씀드린 바와 같이, 저희는 게임 내 소통관련 유해행위에 관해 추후 모든 플레이어 여러분께 더 나은 환경을 마련하기 위해 전력으로 최선을 다하고 있습니다. 이 점에 있어 그간 바람직한 진전이 있었다고 생각하지만 더욱 개선할 여지가 남아있다는 사실도 확인할 수 있었습니다.

완벽한 해결책이란 없겠지만 발로란트의 채팅창 및 음성 채팅 경험을 개선하기 위하여 그동안 저희가 취했던 몇 가지 조치와 그에 따라 측정된 결과를 비롯해 앞으로 계획하고 있는 추가 조치에 대해 말씀드리겠습니다.

지금까지의 작업

먼저 현재까지 진행된 작업에 대해 살펴보겠습니다. 발로란트 내의 바람직하지 않은 소통과 관련하여 저희는 주로 두 가지 감지 유형에 의존합니다.

플레이어 피드백

첫 번째 감지 유형은 플레이어 피드백, 특히 신고입니다! 저희가 모든 플레이어 여러분께 채팅 기능 오남용, 자리 비움, 고의로 게임을 망치는 행위 등 부정적 행위를 신고할 것을 강력히 권장하는 이유 중 하나는 저희가 신고된 데이터를 적극적으로 추적하고 이용해서 제재를 가하기 때문입니다.

분명히 말씀드리자면, 신고된 플레이어가 반드시 처벌을 받는다는 뜻은 아닙니다. 저희는 반복적 위반행위자를 확인하여 경고부터 시작해 심각한 위반일 경우 영구 정지까지 점차 강한 수위의 제재를 가합니다.

발로란트 내 자리 비움에 대해 다룬 글에서 저희가 플레이어 행위를 추적하는 “점수”를 만들었다고 전에 말씀드린 바 있습니다. 이와 유사하게 저희는 플레이어의 반복적 위반행위에 대응하기 위해 발로란트의 각 플레이어에 대해 내부적인 “소통 점수”를 만들었습니다.

한편, 플레이어가 발로란트 내에서 입력하거나 발언하는 내용 중에는 저희가 “무관용” 위반행위로 간주하는 언행도 있습니다. 과거에 말씀드린 바와 같이 저희는 이러한 언행을 플레이어가 발로란트에서 저질러서는 안 되는 위반행위라고 생각한다는 점을 분명히 알려드립니다. 저희는 이러한 유형의 표현이 사용되었다는 신고를 확인하면 제재 수위를 엄중한 수준으로 즉시 강화합니다. 현재 이러한 제재는 대전이 종료된 후 부과됩니다. 이에 대한 자세한 내용은 추후 말씀드리겠습니다.

금지어 목록

경험해보신 플레이어도 있겠지만 텍스트 자동 감지 기능은 완벽하지 않습니다. 상당히 “창의적인” 방법으로 저희의 시스템을 회피하는 플레이어들이 있죠. 따라서 “무관용” 금지어가 저희의 감지 시스템에 포착되지 않는 경우도 있습니다. 이 때문에 저희는 게임 내에서 보고 싶지 않은 단어나 표현을 수동으로 걸러낼 수 있도록 최근 “금지어 목록”을 설정에 추가했습니다.

금지어 목록에는 두 가지 기능이 있습니다.

첫째, 자동 감지 시스템이 완벽하지 않다는 것을 알기에 저희는 게임 내에서 원하지 않는 소통을 걸러낼 수 있는 방법을 마련해드리고 싶었습니다. 둘째, 저희는 금지어 목록을 사용해 표시되지 않도록 한 단어를 추후 자동 감지 시스템에 포함시킬 계획입니다. 그러니 금지어 목록을 사용하면 추후 발로란트의 자동 감지 기능이 개선된다고 볼 수 있습니다!

작업 결과

지금까지 저희가 발로란트 내에서 유해행위를 감지, 제재, 완화하기 위해 취한 몇 가지 조치를 설명해 드렸습니다. 지금까지의 조치는 빙산의 일각에 불과하며 앞으로도 지속적인 노력을 기울이겠습니다. 아래에서는 저희가 취한 조치의 결과를 몇 가지 살펴보겠습니다.

채팅 금지

먼저 채팅 금지는 채팅창이나 음성 채팅 소통에 대한 경고를 위해 저희가 최초로 부과하는 가장 일반적인 방식의 제재입니다. 지난 1월 한달 동안에만 채팅 금지 방식으로 400,000여 건의 채팅창 사용 및 음성 채팅 제한을 집행했습니다. 채팅 금지는 플레이어가 채팅에서 폭력적인 것으로 감지된 언행을 입력한 경우나 여러 게임에서 여러 플레이어로부터 여러 차례 충분히 신고가 누적되어 채팅창 및/또는 음성 채팅을 오남용했다는 확신이 생긴 경우 자동으로 적용됩니다.

건전한 소통을 위한 노력은 앞으로도 계속됩니다! 저희는 현재 감지 시스템을 회피하고 있는 단어를 더 많이, 더 확실하게 감지할 수 있도록 시스템을 개선하기 위해 노력할 것임을 말씀드립니다.

게임 제한

다음으로 게임 제한이 있습니다. 게임 제한은 수 차례에 걸쳐 반복적으로 유해한 소통행위를 저지른 경우 적용되는 제재입니다. 게임 제한은 비교적 새로운 위반행위자가 경미한 위반행위를 저지른 경우 며칠 동안 적용되며 상습 위반행위자의 경우 1년 내내 지속될 수도 있습니다. 위반행위가 특히 중대한 경우 및/또는 반복적인 경우 영구 정지가 부과됩니다.

발로란트에서 이러한 제한 조치 사례는 지난 해 중순 경까지 증가하지 않았습니다. (저희는 제한 조치에 충분한 당위성을 기하기 위해 노력하고 있습니다) 지난 1월, 저희는 40,000여 건의 제한 조치를 실시했습니다.

마지막으로 데이터와 관련한 사항을 하나 말씀드리고자 합니다. 위에서 말씀드린 수치는 저희가 적발하여 처벌한 위반행위를 나타낼 뿐, 그 결과로 발로란트 내 유해행위 사례가 감소했다는 지표는 아닐 수 있습니다. 실제로 플레이어 설문조사에서 저희는 발로란트 내에서 플레이어가 괴롭힘을 경험하는 빈도가 유의미하게 감소하지 않았음을 확인했습니다. 간단히 말씀드리면, 저희는 현재까지 진행된 작업이 기본적인 수준에 불과하며 2022년부터 추가적으로 엄청나게 많은 노력이 필요하다는 사실을 알고 있습니다.

올해에는 다양한 방식으로 플레이어 여러분과 소통하며 개선할 수 있는 부분을 더 잘 이해하기 위해 노력하는 한편, 기술적 개선 노력에 관한 현황과 목표를 투명하게 공개하여 모든 플레이어 여러분의 목소리를 들을 수 있는 열린 피드백 순환구조를 유지하겠습니다.

향후 계획

저희는 더 많은 노력이 필요하다는 사실을 확실히 알고 있습니다. 그럼 이제 현재 진행 중인 작업에 대해 조금 더 말씀드리겠습니다.

기존 시스템에서 전반적으로 더 강한 제재 적용: 유해행위를 감지하고 관리하기 위해 현재 존재하는 일부 시스템의 경우, 저희는 지금까지 데이터를 수집할 때 정확하지 않은 감지를 방지하기 위해 비교적 “보수적인” 수준으로 시간을 투자했습니다. 현재 저희는 감지 시스템에 대해 더 강한 자신이 생겼으며, 따라서 제재의 강도와 강화 속도를 점차 증가시킬 예정입니다. 이로써 불건전한 플레이어에 대해 더 빠른 조치가 실시될 것입니다.
더욱 즉각적인 실시간 텍스트 관리: 현재 채팅창에 입력되는 “무관용” 금지어 자동 감지 기능이 마련되어 있지만 그에 따른 제재는 게임이 끝날 때까지 적용되지 않습니다. 저희는 이러한 금지어가 감지된 직후 제재를 부과하는 방식을 검토 중입니다.
기존 음성 채팅 관리 개선: 현재 저희는 위반행위자에 대한 반복적 플레이어 신고에 의존하여 음성 채팅 오남용이 발생했는지 판단하고 있습니다. 음성 채팅 오남용은 텍스트에 비해 감지하기가 훨씬 어렵고 수작업 과정이 필요한 경우가 많지만 개선을 위한 점진적인 조치를 취하고 있습니다. 음성 채팅 관리가 “완벽”해질 때까지 모든 것을 숨기는 대신 시스템에 대한 변경사항과 개선사항을 정기적으로 알려드릴 예정입니다. (완벽한 관리는 불가능할 테니까요) 이와 관련한 다음 정기 안내는 올해 중순에 공개되니 많은 기대 부탁드립니다.
지역 테스트 파일럿 프로그램: 최근 발로란트 터키 팀은 지역 파일럿 프로그램을 실시해 현지의 유해행위 방지 및 퇴치 방식을 개선하고 있습니다. 이번 프로그램의 핵심은 신고 접수 건을 감독하고 플레이어 행동을 전담하는 플레이어 지원 요원과의 직통 신고 수단을 마련해 규정된 지침에 따른 조치를 취하는 것입니다. 이 프로그램은 베타 테스트 단계이지만 가능성이 충분히 있는 것으로 확인된다면 유사한 프로그램이 다른 지역으로 확대될 가능성도 있습니다.

끝으로, 자리 비움에 대해 다루는 글에서도 말씀드렸지만 저희는 변경사항만이 아니라 변경사항으로 인한 결과까지도 정기적으로 소통하기 위해 노력하겠습니다. 이를 통해 저희는 책임감 있는 자세를 유지하려고 하며 플레이어 여러분도 계속해서 소식을 확인해주시기 바랍니다!

음성 채팅에 관한 첨언

저희는 플레이어가 유해행위를 경험할 때, 특히 음성 채팅을 통해 유해행위가 발생하는 경우 불쾌함이 얼마나 심각한지, 그리고 게임할 때만이 아니라 게임이 끝난 후에도 얼마나 심한 무력감을 느끼는지 알고 있습니다. 이는 발로란트의 건전성을 해칠 뿐 아니라 전체적인 발로란트 플레이어 및 커뮤니티에 지속적인 피해를 줄 수 있죠. 음성 채팅을 통한 유해행위를 방지하고 제재하기 위해 라이엇 게임즈 일동은 전력을 다하고 있으며 이를 위해 아주 많은 투자를 함으로써 모든 플레이어 여러분께 더 즐거운 경험을 선사하기 위해 노력하고 있습니다.

음성 채팅 평가

작년, 발로란트를 시작으로 불건전한 행위 신고가 접수된 경우 음성 채팅을 기록하고 평가하기 위해 라이엇은 개인정보 처리방침과 서비스 약관을 개정했습니다. 또한 발로란트의 현재 게임 시스템을 보완하려면 저희는 조치를 취하는 것뿐 아니라 특정 행위가 제재로 이어질 수 있는 이유에 대해 플레이어 여러분께 알려드리기 위해 행동 정책 위반사실을 확인할 수 있는 명확한 증거가 필요합니다.

현재 북미/영어에 한하여 음성 채팅 평가 시스템 베타 테스트를 올해 중으로 먼저 시작할 계획이며, 이후 기술적으로 바람직한 상황이 되어 적용 영역을 확대할 수 있다고 판단되면 세계 각지에 적용 가능한 솔루션으로 진행시키려고 합니다. 이 기능은 아직 개발 중인 신기술을 활용해 최초로 시도하는 작업이기 때문에 발로란트에서 실제로 이용할 수 있는 효과적인 도구로 발전시켜 완성하기 위해서는 시간이 걸릴 수 있습니다. 어떠한 형식으로든 음성 채팅 데이터 수집을 시작한다면 어떻게 시스템을 제대로 작동시킬지에 대한 확실한 계획을 사전에 알려드리겠습니다.

여러분의 도움이 필요합니다!

한 가지 저희가 부탁드리고 싶은 점은 저희가 마련하는 시스템을 계속해서 활용해주시기 바란다는 것입니다. 게임 내 유해행위를 계속해서 신고하고, 보고 싶지 않은 표현을 접했을 때 금지어 목록을 활용하고, 게임 내 경험과 여러분이 원하는 점에 대해 계속해서 피드백을 남겨주시기를 부탁드립니다. 여러분의 도움은 발로란트를 더 안전하게 플레이할 수 있는 게임으로 만드는 데에 큰 힘이 됩니다. 도움을 주시는 플레이어 여러분께 감사드립니다.

다음 소식에서 뵙겠습니다! 전하고 싶은 피드백이나 질문이 있다면 언제든 아래 트위터 링크를 통해 소셜&플레이어 관계분석 팀원들에게 보내주세요.