Internet est un espace de connaissances et d’échanges, seulement tout comme le monde non virtuel, les échanges peuvent tourner mal et devenir même violents. S’intéresser donc à cette question est d’une grande importance vu son impact et son omniprésence dans de nombreuses communautés en ligne.
Un sondage du Pew Research Center, datant de 2014 , montrait que 73 % des internautes ont été témoins de harcèlement en ligne et 40 % d’entre eux l’ont personnellement vécu. Des chiffres qui poussent donc à plancher sur cette problématique, chose que Google et Wikimedia ont fait en 2015. En effet, la Fondation Wikimedia a lancé une collaboration de recherche avec Jigsaw, incubateur technologique de la société mère de Google, Alphabet, afin de mieux comprendre la nature et l’impact du harcèlement sur Wikimedia et d’explorer des solutions techniques.
Pour ce faire, des modèles informatiques ont été conçus de manière à détecter automatiquement les commentaires toxiques sur les pages de discussion des utilisateurs par l’application des méthodes d’apprentissage automatique. L’outil aura pour but de quantifier ces dépassements et déterminer leur prévalence mais aussi leur nature. Ainsi ce moyen de détection permettra de rendre ce type de commentaires plus apparents afin que les administrateurs puissent les détecter et y répondre.
Inspirés de Yahoo, les concepteurs de l’outil ont eu l’idée de regrouper des fragments de commentaires et de les intégrer dans un outil muni d’un algorithme d’apprentissage automatique. Ainsi, par le biais de cette technologie, il sera dorénavant possible de savoir si un commentaire constitue une attaque personnelle, les résultats sont tels qu’ils ont prouvé leur supériorité par rapport aux estimations de trois personnes.
Les concepteurs sont allés plus loin en cherchant les tenants et aboutissants du harcèlement en ligne. Des questions ont été donc posées de manière à déterminer le profil des auteurs de commentaires haineux. L’enquête a montré que seulement 18% des attaques ont été suivies d’un avertissement ou d’un bannissement de l’utilisateur fautif. Même pour les utilisateurs qui ont contribué à quatre attaques ou plus, la modération ne se produit que pour 60% d’entre eux.
De même que les utilisateurs enregistrés sont les auteurs des deux tiers (67%) des commentaires haineux sur Wikimedia dans sa version anglaise, ce qui contredit l’ hypothèse selon laquelle les commentaires haineux sont l’œuvre d’anonymes ou de contributeurs non-inscrits.
Quant à la fréquence des contributions, l’enquête a montré que si la moitié de toutes les attaques proviennent d’internautes qui font moins de 5 contributions par an, un tiers proviennent d’utilisateurs enregistrés avec plus de 100 contributions par an.
Avec les intox, les appels à la haine et le harcèlement en ligne il est temps de mettre un peu d’ordre dans les contenus et les échanges virtuels. En attendant que l’outil soit mis au point, l’utilisateur doit compter sur sa propre vigilance pour ne pas être happé par les dangers de l’internet.