Twitter a commencé aujourd’hui à déployer une nouvelle fonctionnalité qui, espère-t-elle, permettra de prévenir l’hostilité sur la plateforme sociale en avertissant les utilisateurs de reconsidérer leur décision lorsqu’ils sont sur le point de publier une réponse contenant un langage « potentiellement dangereux ou offensant ».
Cette fonctionnalité a été testée il y a environ un an, mais un article de blog de l’entreprise a révélé qu’elle sera déployée à partir d’aujourd’hui pour les utilisateurs des applications iOS et Android, en commençant par les comptes dont les paramètres sont en anglais.
Si un utilisateur de Twitter tape une réponse contenant l’un des termes jugés nuisibles par l’entreprise, il verra apparaître un message d’avertissement lui demandant de revoir cette réponse avant de tweeter, puisqu’elle contient des termes potentiellement dangereux ou offensants. En dessous du message, les utilisateurs auront la possibilité de supprimer, de modifier ou de continuer à tweeter leur réponse.
Tout au long du processus de test, Twitter a affiné son algorithme de détection afin de « saisir la nuance dans de nombreuses conversations et […] faire la différence entre un langage potentiellement offensant, un sarcasme et une discussion amicale ».
Le système prend également en considération la fréquence des interactions entre les deux personnes, reconnaissant qu’ils peuvent « avoir une meilleure compréhension du ton de communication préféré ». Il devrait également être capable de détecter quand « le langage peut être récupéré par des communautés sous-représentées et utilisé de manière non préjudiciable ».
Twitter s’attaque vraiment au problème de fond
C’est loin d’être la première fois que le site de micro-blogging tente d’endiguer l’hostilité sur sa plateforme, avec des efforts visant à interdire le racisme et d’autres formes de discours haineux, et à introduire des méthodes de protection (comme un « mode de sécurité ») pour les utilisateurs qui sont ciblés.
Comme pour toutes les plateformes sociales, il y a souvent un débat sur la responsabilité de la censure, du contrôle et de la modération des millions d’utilisateurs qui la fréquentent — après tout, le site lui-même n’est pas responsable de l’hostilité, mais plutôt les personnes qui l’utilisent. Cela dit, les deux gouvernements s’accordent à dire que les entreprises technologiques qui gèrent ces plateformes doivent avoir un certain degré de responsabilité dans la modération des interactions de leurs utilisateurs en raison de l’omniprésence des réseaux sociaux. Parmi les grandes entreprises, Twitter semble être l’une des plus conscientes de cette responsabilité.
