Comment Riot utilise une intelligence artificielle pour bannir les mauvais comportements de League of Legends
« Se débarrasser de l’environnement toxique dans un jeu n’est pas seulement bénéfique aux joueurs ou au jeu en lui même, mais cela a le potentiel de rendre internet, meilleur. »
Jeffrey Lin, à la tête de l’équipe de recherche analytique chez Riot, a prononcé ces mots lors de la GDC (Game Developers Conference) de San Francisco, la semaine dernière. Il également émis ces mots pour viser directement les développeurs, “vous avez cette responsabilité”.
« Mais pour se faire, les designers ne peuvent plus attendre des jours ou des semaines pour bannir ces joueurs ou leur envoyer de simples avertissements. Ils ont besoin d’être immédiatement et extrêmement clairs, sinon les joueurs avec un mauvais comportement vont juste continuer à demeurer ainsi.»
« Je crois qu’il y aura dans un futur proche, un moment où la toxicité sera uniquement du passé, que ce soit dans les jeux, les plates-formes en ligne ou les réseaux sociaux », a déclaré Lin.
Il continue son argumentation en parlant des bases de la culture interne.
« A la création de la communication sur internet, il n’y avait pas de règle et ces comportements étaient autorisés, et tout naturellement, ils se sont transvasés sur les jeux en ligne. Donner la possibilité aux joueurs de pouvoir se “mute” n’est pas suffisant. […]
Il y a un autre phénomène, quand un joueur est en présence de joueur toxique, il va finir par reproduire ce type de comportement. »
Lin a montré au public, pendant son argumentation, une étude réalisée dans les années 1970.
« Un enfant est plus enclin à voler un bonbon si il peut le faire anonymement, et si quelqu’un d’autre en a volé un avant lui. »
Il a dit ceci, en anglais : « When a society is silent, deviant behaviours emerge, and they become the norm » ce qui signifie que si la société ne proteste pas, les comportements déviants émergent et deviennent la norme.
« Mais si nous pouvons intervenir et arrêter ce comportement, si nous pouvons identifier ce patient zéro, alors nous pouvons arrêter la propagation. »
Lin continue sa démonstration en montrant un graphique des joueurs de League of Legends, qui prouve « que si un joueur a un comportement toxique, ce joueur peut impacter négativement des dizaines d’autres et ainsi les encourager à agir de la même manière. »
Le ban hammer frappe plus vite
Lin met également en avant les erreurs de Riot.
« Quand les joueurs utilisaient le système de report contre un autre joueur pour son mauvais comportement, les bans ou avertissements venaient trop tard, même parfois des semaines et des semaines après. Après autant de temps, les joueurs avaient même oublié ce qu’ils avaient fait de mal. Le message qui annonçait au joueur son ban, n’indiquait même pas les raisons ou les détails du pourquoi du comment. »
« Si vous voulez faire une différence, vous avez besoin d’adapter les sanctions au type de comportement. Il n’y a pas de solution unique. »
Le changement intéressant est dans la modification du système de ban.
« Les joueurs sont bannis quelques minutes ou heures après leur mauvais comportement, et sont prévenus et notifiés exactement des raisons pour lesquelles ils le sont. »
« Le résultat est que dans 50% des cas, le joueur change de comportement, et le pourcentage monte à 70% si vous lui montrez exactement la preuve et la raison de son ban. »
La grosse machine de Riot
Ce système n’est pas manuel, Riot a utilisé cette machine pour apprendre à son jeu une façon de différencier quel langage est abusif ou non.
La compagnie a utilisé cette méthode pour son jeu, les contextes de langue et les terme spécifiques au jeu. Par exemple en anglais “your mom” a été jugé comme un échange neutre alors qu’en Coréen il est toujours utilisé comme insulte.
« Maintenant que ces mauvais comportement sont identifiés (sous entendu plus facilement), les joueurs ne sont plus bannis des semaines après. Mais cela se compte en minutes ou en heures. Et ils obtiennent des rapports détaillés sur ce qu’ils ont dit et pourquoi leur comportement n’est pas acceptable. »
Le résultat ? Selon Lin, 2% des parties jouées dans League of Legends contiennent un accident raciste, sexiste ou autre langage abusif. Et durant les premiers mois de l’utilisation de cette nouvelle machine, la toxicité dans les parties a baissé de 40%.
Lin a également souligné que « de nombreux joueurs n’arrivent pas à distinguer leur comportement en ligne de leur comportement hors ligne. »
« En leur montrant et en pointant du doigt leurs mauvaises habitudes, on les aide à comprendre qu’internet n’est pas séparé du monde réel. »
« Les joueurs savaient qu’avoir ce comportement dans le monde réel était évidemment mauvais, mais en ligne, c’était une autre histoire. »
« Et maintenant que nous avons été en mesure de le faire, les autres joueurs peuvent le voir et ressentir les changements, et essayer d’établir de nouvelles normes. »
Conclusion
Les premiers propos de Lin sont très utopistes. A l’écouter, on a l’impression d’être en présence d’un visionnaire illuminé. Riot peut-il à lui tout seul influencer toute la communauté gamer, ou toute la communauté de développeurs ? Sentez-vous la différence dans vos parties ? L’internet sera-t-il meilleur avec papa Riot ? Mais nous pouvons également remercier Riot de signaler à nos joueurs perdus, que internet n’est pas séparé du monde réel ! Riot, possède un des jeux les plus populaires de la planète, se sentirait-il pousser des ailes et vouloir éduquer nos masses ?
Je sens comme une pointe d’ironie dans cette conclusion :’)
Ouaip c’est toujours mieux que rien et ça ne fera une différence que si le ban est définitif ou à défaut d’un bon 15 jours-1 mois minimum :)
Plus le problème est ancien plus il est dur de le résoudre.
Pour des nombreux de joueurs, notamment de MOBA, l’insulte est devenu la norme.
Les joueurs sont tous sur la défensive, la moindre remarque, même constructive, est tout de suite vue comme une agression. Il devient urgent de sanctionner les joueurs toxiques pour montrer que, même en ligne, on peut avoir des échanges civilisés sans avoir le droit à un " Get cancer " à la moindre remarque.
Si les propos de Riot se confirme par des actes ça serait une très bonne chose, mais je ne comprend pas pourquoi le problème n’a pas été pris au sérieux bien plus tôt (la remarque vaut également pour Blizzard sur HOTS).
Klaxx je suis tout à fait d’accord avec toi, League of Legends est sorti en 2009 et on est en 2015
bonne réaction qui aurait du être mis plus tôt :D :D
bonne réaction et bon article^^
wait&see hein..