Call of Duty : pesez vos mots, une IA vous surveille

Quand il s’agit de faire de Call of Duty, Activision se veut toujours intransigeant. On se souvient toujours des bans à vie massifs des comptes qui trichent. Plusieurs vagues de dizaines de milliers de gamers se faisaient bannir des serveurs du jeu vidéo. Cette fois, l’éditeur s’attaque à ceux qui manifestent un peu trop d’ardeur sur le chat vocal. Une IA se chargera de modérer les discussions vocales dès la sortie Call of Duty Morden Warfare III.

ToxMod, le nouveau modérateur de Call of Duty

Dans un communiqué, Activision a annoncé sa collaboration en cours avec Modulate. Il ne s’agit pas d’un énième partenariat qui passe sous les radars de l’actualité gaming. Celui-ci est bien plus important et pourrait même révolutionner le monde des jeux vidéo dans les années à venir. L’activité principale de Modulate donne le ton. L’entreprise est spécialisée dans les outils de modération de discours. Elle est chargée de déployer ToxMod sur Call of Duty.

Vous l’auriez compris, ToxMod est le tout nouvel outil de modération du chat vocal de la série de jeux vidéo. Il s’agit d’une IA dont le rôle est de détecter en temps réel les propos toxiques, dénigrants et haineux, proférés par les joueurs sur le chat vocal. Pour y parvenir, la technologie agit en trois étapes. Dans un premier temps, elle détecte les propos potentiellement toxiques. Elle analyse les données et, si besoin est, procède dans un troisième temps à une alerte. Tout cela se fait en temps réel. Une partie de l’IA sera intégré au moteur du jeu vidéo. D’autres données seront traitées dans les serveurs de Modulate.

ToxMod serait d’une efficacité redoutable. En effet, le modérateur ne se limitera pas à la détection de propos haineux sur la base de mots clés. La technologie prend en compte d’autres facteurs clés comme le contexte, le timbre et le ton de la voix ou encore l’émotion véhiculée par le joueur. La considération de ces facteurs aboutira à une différenciation entre les joutes verbales lancées amicalement entre les joueurs et les véritables comportements toxiques.

Faire de CoD un jeu "amusant et équitable"

La présence de ToxMod peut, à juste titre, être contestée. Le respect de la confidentialité des données ou encore la mise sur écoute pose de grandes questions d’ordre éthique. Pourtant, Activision avance une raison valable pour justifier le déploiement de l’IA sur ses serveurs. ToxMod aura pour rôle de faire de Call of Duty un jeu vidéo "amusant, équitable et accueillant pour tous les joueurs." L’argument se tient lorsqu’on sait que les discours de haine, d’incitation au suicide ou de radicalisation fusent sur les chats vocaux.

De son côté, Modulate garantit que ToxMod est programmé pour rester neutre en évitant toute stigmatisation d’un groupe démographique. Elle précise aussi que toutes les données collectées sont rendues anonymes lors du stockage. On saura, le moment venu si l’IA parvient à tenir ses promesses. Elle sera déployée sur les serveurs de Call of Duty le même jour que la sortie de l’opus Modern Warfare III, c’est-à-dire le 10 novembre prochain. Affaire à suivre !!!