Modération d'informations

La modération a priori est souvent exploitée pour la publication d'articles sensibles (actualités, critiques ou analyses par exemple). Elle permet à n'importe quel internaute de proposer une information ou un commentaire à publier. C'est lors de la modération que sera effectué le contrôle en vérifiant que l'information ou le commentaire reste légal (pas de discrimination raciale, pas d'atteinte à l'ordre public, pas de pédophilie…) . De plus, il faut s'assurer que l'article est en adéquation avec la ligne éditoriale du site et s'assurer que les images n'entachent pas le droit à l'image d'une personne sur le site.

La modération a posteriori est plutôt employée pour les commentaires que peuvent laisser les visiteurs au sujet d'un article. Dans ce cas, il est parfois prévu qu'une alerte soit envoyée par courrier électronique à l'auteur de l'article, afin qu'il puisse intervenir en cas d'abus (exemple : spams dans les commentaires).

Avec le développement du Web 2.0, la modération des contenus est plutôt de type a posteriori, laissant les internautes alerter le modérateur du non-respect de la charte du site web. Le modérateur traite alors ces alertes de façon réactive. En complément, le modérateur effectue des contrôles par échantillon.

Ce processus de modération étant devenu essentiel pour plusieurs grands portails communautaires. Plusieurs prestataires, tels que Netino, Conciléo ou Atchik en France, se sont positionnés sur ce créneau et proposent un service de modération. La multiplication des espaces de réactions en ligne et des médias sociaux conduit les opérateurs du secteur à développer leurs propres outils de modération[7] pour centraliser les contenus.

Lorsque des messages sont postés par un troll ou constituent des spams, la modération s'effectue de façon spécifique[8]. Dans le cas de publications inappropriées, non conformes à la charte de publication du site, le message peut être supprimé. Sinon, la meilleure façon de traiter avec un troll est de répondre au premier message en offrant son aide. Puis, si la personne persiste avec des messages inappropriés, de les ignorer et/ou de les bloquer[8]. La charte de publication est importante pour répondre aux trolls. Les réponses doivent être factuelles et il ne faut pas hésiter à corriger ses erreurs si besoin[9].

En 2019, Sarah T. Roberts, professeure et universitaire américaine, publie Behind the Screen : The Hidden Digital Labour of Commercial Content Moderation[10]. Dans cet ouvrage, la chercheuse décrit le mécanisme de « surveillance et de contrôle du contenu généré par les utilisateurs pour les plateformes de médias sociaux de tous types, afin de s'assurer que le contenu est conforme aux exigences légales et réglementaires, aux directives du site ou de la communauté, aux accords d'utilisation, et qu'il s'inscrit dans les normes de goût et d'acceptabilité pour ce site et son contexte culturel »[11]. Si, au début des premières communautés en ligne, ce travail était essentiellement réalisé par des bénévoles, ce modèle de modération n’est aujourd’hui plus viable pour les grandes plateformes. Elles vont, dans la majorité des cas, faire appel à des sous-traitants pour assurer cette tâche[12] - [13] - [14].

Ce ne sont pas uniquement les algorithmes de Facebook ou YouTube qui décident des contenus douteux à éliminer, mais des personnes en chair et en os, dans des pays à bas coût du travail. L'utilisateur de ces plateformes ne voit pas de « têtes coupées, [...] de poussins déchiquetés [ou] de chiens écorchés », car des travailleurs de l'ombre dans les pays du sud (en particulier dans le pays anglophone que sont les Philippines) font ce travail de modération. Les troubles psychologiques de ces derniers, qui pratiquent le Commercial Content Moderation, préoccupent peu les entreprises de l'Internet, puisque, s'ils ne démissionnent pas d'eux-mêmes, ils sont licenciés au bout de deux ans[15] - [16].

Il existe une multitude d’outils automatisés utilisés pour filtrer, classifier ou encore organiser les informations que nous voyons en ligne. La plupart fonctionnent sur la base d’intelligence artificielle ou de procédés d'apprentissage automatique et sont déployés pour participer à la modération des contenus publiés sur certains sites[17]. Ces algorithmes, utilisés par la modération de contenu, sont limités à plusieurs égards[18] et leur compréhension est nécessaire aujourd’hui, puisqu'ils sont de plus en plus adoptés par les plateformes en lignes[19].

Dans le cas de Facebook, ces algorithmes sont souvent présentés comme une solution miracle pour décharger les modérateurs humains d’une partie de leur travail. Dans les faits, ces algorithmes sont limités. Ils ont un taux d’erreur non négligeable et ne peuvent pas agir indépendamment, sans que des modérateurs humains n'aient besoin de les assister pour corriger les erreurs inévitablement commises[20] - [21] - [22].

Chaque seconde de consultation générant du revenu pour l'éditeur, celui-ci tente de fidéliser l'utilisateur du service. Rapidement, une forme de concurrence déloyale se mettra en place : le détournement de clientèle, aussi appelé racolage. Des animateurs de services de messagerie se connectent à des services minitel concurrents sous des pseudonymes féminins et invitent leurs correspondants à les rejoindre sur le service de leur employeur. La nuisance est double : la perte de clients excédés par ces messages de publicité s'ajoute à celle des clients détournés vers les services concurrents. Pour se protéger de ce fléau, les principaux éditeurs de messagerie tels AGL ou Telestore vont alors mettre en place des logiciels de filtrage des messages de plus en plus élaborés en accompagnement d'une équipe de surveillants appelés modérateurs.

La création d'un espace virtuel de dialogue anonyme est une innovation majeure qui comporte aussi des risques. Diverses formes de trafic vont tenter de se développer sur ces messageries, au premier rang desquels le proxénétisme et la prostitution. Or, la loi définit le proxénétisme comme « le fait, par quiconque, de quelque manière que ce soit, d'aider, d'assister ou de protéger la prostitution d'autrui ; de tirer profit de la prostitution d'autrui, d'en partager les produits ou de recevoir des subsides d'une personne se livrant habituellement à la prostitution ». Les éditeurs de service doivent prendre des mesures préventives pour éviter toute condamnation. Le « 3615 ALINE » a ainsi été condamné en 1997 pour proxénétisme aggravé[23] - [24].

Du reste, les obligations de l'éditeur de service seront listées dans la convention kiosque Télétel, rédigées sous l'égide de Conseil Supérieur de la Télématique et contrôlées par France Télécom et le Comité de la Télématique Anonyme. Ces instances réunissent des représentants des opérateurs, d'associations familiales et de l'opérateur de télécommunications. Les manquements à ces obligations peuvent être sanctionnés de lourdes amendes et de coupures du service. La modération se généralise[25].

Certaines de ces sociétés issues du minitel ont su développer une expertise de modération qu'elle proposent encore aujourd'hui à leurs clients, telles qu'Idixit, spin off de Neocom-Telestore, Concileo, Atchik, ou encore Netino dont le fondateur a été un pionnier du minitel.