La maitrise des trolls : l’IA contre les humains

Typing on Mac
Photo par Kaitlyn Baker sur Unsplash

Les Trolls peuvent miner la confiance et l’intégrité d’une communauté en ligne et empêcher de nombreuses personnes d’exprimer leur opinion. Dans la recherche d’un équilibre entre la liberté d’expression et la sécurité, les gens se tournent vers les entreprises de technologie pour trouver des solutions. Là où l’intelligence artificielle parait être la solution idéale, la modération humaine semble toujours être le moyen le plus efficace pour lutter contre le harcèlement en ligne. 

Récemment, nous avons publié un article sur la façon dont des séances de remue-méninges anonymes peuvent contribuer à stimuler l’innovation dans une entreprise. Nous avons soutenu que la principale raison pour laquelle les employés devraient pouvoir masquer leur identité lorsqu’ils proposent des idées créatives est qu’ils sont ainsi dépourvus de préjugés (les leurs et ceux des autres) et qu’ils sont donc plus ouverts à exprimer et recevoir de nouvelles idées.

Bien sûr, la question que les clients se posent immédiatement après avoir appris que notre plateforme est anonyme est « contrôlez-vous pour les Trolls? »

La réponse est oui. Oui, nous le faisons.

Que signifie un Troll sur Internet?

Malgré tous ses avantages (encourager la communauté, faciliter les échanges, favoriser le partage des connaissances), nous savons qu’Internet peut être un endroit hostile. Sous le couvert de l’anonymat, les gens vivent souvent ce que les psychologues appellent « l’effet de désinhibition en ligne« . C’est le sentiment d’être libéré des contraintes d’un comportement social « acceptable », maîtrisé par la peur du jugement… et cela peut être une bonne et une mauvaise chose. Par exemple, l’effet de désinhibition en ligne peut encourager les timides à s’exprimer, ce qui se traduit souvent par un plus grand nombre d’idées qui plus est, novatrices. Le revers de la médaille cependant, c’est qu’il peut aussi réveiller le diable chez certains. 

Dans l’argot d’Internet, une personne qui manifeste ce genre de comportement provocateur est appelée un « Troll« . Les Trolls perturbent les discussions productives, donnent de mauvais conseils et encouragent les conflits en publiant des commentaires incendiaires, faux ou hors sujet dans le but de braquer les gens. 

Que le mot soit enraciné dans les méthodes de pêches (en anglais, « trolling for fish » estle fait de tirer lentement un leurre ou un hameçon appâté d’un bateau en mouvement) ou dans le folklore scandinave (où les Trolls sont des créatures irritables, à l’esprit faible qui rendent la vie difficile aux voyageurs), ou les deux est incertain. Ce qui est indéniable, c’est que les Trolls sur Internet bénéficient d’une immense vitrine et peuvent causer des destructions majeures. 

Qui est affecté par les Trolls?

Selon un sondage du Pew Research Center publié l’an dernier, 41% des Américains ont été personnellement victimes de harcèlement en ligne, qu’il s’agisse d’insultes, de harcèlement criminel, d’atteintes à la vie privée ou de menaces de violence. 66% de la population a été témoin de ces comportements à l’égard d’autrui. Le résultat? L’autocensure. Environ un quart des Américains disent qu’ils ont décidé de ne pas afficher quelque chose en ligne après avoir observé le harcèlement d’autres personnes. Plus d’une personne sur dix affirme avoir cessé complètement d’utiliser un service en ligne après avoir été témoin d’actes d’intimidation.

Les critiques techniques interprètent ces résultats comme la preuve que les voix ne sont pas toutes égales en ligne. En fait, beaucoup de ceux qui sont harcelés en ligne disent qu’ils ont été ciblés en raison de leur sexe, de leur race, de leur origine ethnique ou de leur orientation sexuelle. Cela implique que ceux qui sont marginalisés sont « systématiquement dissuadés de participer« . Mais lorsque la liberté d’expression de certaines personnes est entravée par la peur de ceux qui abusent de ce droit, d’autres pensent que la censure pure et simple des commentaires offensants est inconstitutionnelle.

Prévenir le harcèlement en ligne

Le consensus écrasant (selon 79% des Américains) est qu’il est du devoir des plateformes en ligne d’intervenir lorsqu’elles voient du harcèlement sur leurs sites. Dans un article du New York Times, l’auteur Brian X. Chen affirme que « vous, en tant qu’internaute, vous avez peu de pouvoir sur les contenus que vous trouvez offensants ou nuisibles. Ce sont les entreprises de technologie qui détiennent les cartes. »

Alors, comment les entreprises de technologie luttent-elles contre le harcèlement en ligne? Eh bien, 35% de la population croit que de meilleures politiques et de meilleurs outils pourraient aider les plateformes en ligne à s’attaquer plus efficacement aux Trolls. Déjà, certaines entreprises Internet très touchées tentent de freiner la présence des Trolls sur leurs sites. L’an dernier, Twitter a adopté de nouvelles politiques pour conserver plus de données d’utilisateur afin d’empêcher les harceleurs connus de supprimer leurs comptes et de revenir sous un nouveau nom d’utilisateur. De plus, il a modifié ses algorithmes pour signaler les tweets potentiellement abusifs ou peu recommandables. Google monte également à bord du train de la lutte contre le harcèlement avec son outil d’intelligence artificielle, Perspective, qui analyse le contenu en ligne et évalue sa « toxicité » en fonction des évaluations de milliers de personnes.

Pourtant, les outils d’IA comme Perspective ne sont pas des méthodes entièrement fiables pour combattre les Trolls. Une étude menée par l’Université de Washington, à Seattle, a démontré qu’avec quelques coquilles, les Trolls peuvent contourner le logiciel. Les auteurs ont tapé des phrases offensantes dans le modèle de démonstration de Perspective, telles que « s’ils ont voté pour Hilary, ils sont idiots » (qui est revenu à 90% toxique) et « quiconque a voté pour Trump est un moron » (80% toxique). En se contentant d’ajouter quelques coquilles, les auteurs ont pu modifier radicalement le score de toxicité : « s’ils ont voté pour Hilary, ils sont id.iots » (qui a obtenu 12%) et « quiconque a voté pour Trump est un mo.ron » (13%).

La solution «libre de Trolls»

Il serait impossible de s’attendre à ce que d’énormes sites Web trient manuellement les messages et éliminent les commentaires offensants. Pourtant, l’intervention humaine semble toujours être le moyen le plus efficace de prévenir le harcèlement en ligne. C’est pourquoi chez Innodirect, nous employons des modérateurs individuels qui valident chaque message avant qu’il ne soit publié sur notre plateforme, assurant ainsi que les contributions sont constructives et productives. Après tout, le but de notre politique d’anonymat est de fournir à nos utilisateurs un espace sûr qui favorise la créativité, la collaboration et la co-création. Et c’est ainsi que nous sommes en mesure d’offrir à nos utilisateurs ce que les autres plates-formes ont du mal à offrir: l’anonymat « sans troll ».

Vous voulez voir ce qu’une plateforme anonyme et sans Trolls peut faire pour vos discussions d’affaires? Contactez-nous pour plus d’informations.

 

Par Kirsten Sokolovski, Sophie Juignier, Philippe Meloni et l’équipe Innodirect

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *