On le sait depuis longtemps maintenant, les comportements toxiques ou agressifs dans Call of Duty ne manquent pas au sein de la communauté et malgré le fait que certains échanges soient amicaux et se situent dans le contexte du jeu, d’autres peuvent parfois être assez violents et excessifs. Pour contrer cela, Activision a décidé de passer à la vitesse supérieure et d’exploiter les dernières technologies.
L’IA pour contrer les comportements toxiques dans les chats vocaux
En effet, Activision a introduit un nouvel outil de modération vocale alimenté par l’intelligence artificielle. Le but est de protéger les joueurs des comportements « toxiques ou perturbateurs » en aidant Activision à « identifier et sanctionner les mauvais comportements qui n’ont pas été signalés. »
Concrètement, l’IA sera capable de détecter les comportements toxiques et nuisibles en se concentrant sur la détection de préjudices plutôt que sur des mots clés spécifiques. L’outil ToxMod (c’est son nom) ne tolérera pas les discours haineux, sexistes et toute autre forme de discrimination.
Les joueurs pourront être sanctionnés après coup et des rapports concernant les comportements toxiques catégoriseront les joueurs par type de comportement et niveau de gravité. Activision choisira ensuite quelle sanction appliquer.
L’IA devrait être capable de détecter les échanges amicaux, les taquineries et autres discussions normales, mais il faudra maintenant voir comment fonctionne l’IA en situation et quel retour les joueurs en feront.
ToxMod va être déployé en Amérique du Nord pour Call of Duty : Modern Warfare II et Call of Duty : Warzone dès aujourd’hui et il sera déployé à l’échelle mondiale le 10 novembre, le jour de la sortie de Call of Duty : Modern Warfare III.
