Protéger le bien-être des modérateurs de contenu

Les modérateurs de contenu sont souvent confrontés à des situations traumatisantes dans le cadre professionnel, similaires à celles que peuvent subir les secouristes.

Chaque jour, ils sont exposés à de graves atteintes à leur bien-être lorsqu’ils œuvrent à la protection des expériences digitales comportant du contenu généré par les utilisateurs (contenu UGC).

Heureusement, les employeurs peuvent prendre des mesures efficaces pour protéger la santé mentale et le bien-être des modérateurs web, qu’il s’agisse de l’utilisation d’outils alimentés par l’IA pour brouiller les images violentes ou d’un soutien plus traditionnel au bien-être dans le cadre professionnel.

Découvrez les risques auxquels les modérateurs sont confrontés et les mesures prises par les leaders du secteur pour garantir leur protection et leur soutien.

Risques pour le bien-être des modérateurs de contenu en ligne

Bien que la majorité du contenu signalé ne soit pas à caractère choquant, ni ne représente une violation de vos normes, les modérateurs peuvent être exposés quotidiennement à différentes formes de cyberviolence : discours haineux, trolling et contenu graphique représentant des abus sexuels, de la maltraitance envers les enfants et d’autres actes violents ou dérangeants.

Une exposition prolongée et répétée peut être dommageable. Les modérateurs web peuvent développer un traumatisme indirect, dont les symptômes comprennent l’insomnie, l’anxiété, la dépression, les crises de panique et le syndrome de stress post-traumatique (SSPT). Ceux-ci peuvent entraîner d’autres troubles, comme la toxicomanie et des problèmes familiaux.

Des études ont montré que ces symptômes sont persistants avec des lieux de travail extrêmement stressants comme les services de santé et de conseil de première ligne.

Modérateurs de contenu en première ligne

Les modérateurs Internet n’ont pas la possibilité d’éviter les contenus traumatisants. Ils doivent se familiariser avec la matière pour pouvoir prendre des décisions efficaces.

De plus, ils sont souvent tenus de respecter des objectifs de précision et de rapidité. Par conséquent, ils doivent traiter à la fois des détails et de grandes quantités de données.

Les modérateurs de contenu ont besoin de différents types de soutien de la part de leur employeur pour atténuer les répercussions sur leur santé mentale. Pour simplifier, décomposons ce soutien en deux domaines : technologique et organisationnel.

Protéger les gardiens : la modération automatique

Ces dernières années, des technologies très intelligentes ont été mises au point pour faciliter le travail des modérateurs de contenu.

Les outils d’IA sont de plus en plus souvent utilisés pour exclure la majeure partie des contenus les plus choquants, avant même qu’ils ne parviennent à un modérateur humain.

Grâce à une combinaison de traitement automatique du langage naturel (NLP), d’analyse de mots-clés, d’analyse de sentiments, de détection d’objets et d’algorithmes d’apprentissage profond, les solutions peuvent détecter et supprimer automatiquement une grande partie du contenu en ligne le plus choquant, quel qu’en soit le format.

Lorsque ces systèmes doivent envoyer le contenu à un modérateur humain, vous pouvez employer certains moyens pour en diminuer les effets. Par exemple, il a été établi que le fait de couper le son, de flouter les images ou de visualiser les images en noir et blanc atténuait l’impact psychologique et émotionnel sur les modérateurs humains.

En outre, les systèmes de modération pilotés par l’IA peuvent avertir leurs homologues humains du caractère et de la gravité du contenu en le catégorisant, en le classant par ordre de priorité et en le triant. Certains systèmes automatisés proposent même un système de réponse visuelle aux questions (VQA), qui permet au modérateur de poser des questions à l’IA sur le contenu sans avoir à le voir. Par exemple : « L’enfant est-il vêtu ? » C’est vraiment bien pensé.

Programmes de bien-être pour les modérateurs de contenu

Aussi avancée que soit l’IA, même Mark Zuckerberg reconnaît que la modération nuancée du contenu repose essentiellement sur l’humain. Et nous avons besoin de bien plus que ce que la technologie de modération peut nous offrir. Plus précisément, nous avons besoin de programmes de soutien au bien-être bien planifiés et structurés.

Au-delà de la question de l’éthique des programmes de bien-être, il est intéressant de noter que des programmes de bien-être efficaces réduisent l’attrition et permettent aux modérateurs de contenu de mieux faire leur travail.

La résilience mentale favorise une meilleure concentration et un meilleur jugement et améliore la résistance face aux tâches répétitives.

Les programmes Gold Standard incluent souvent :

  • Des conseils 24/7 (Webhelp gère cela par l’intermédiaire d’un PAE externe)
  • Des psychologues sur place
  • Des outils d’analyse alimentés par l’IA qui croisent différents types de données pour détecter les signaux faibles indiquant des problèmes de santé mentale
  • Un bot qui propose différents contenus sur la santé mentale en fonction des outils utilisés par le modérateur
  • Une structure de gestion dédiée avec des superviseurs d’équipe formés pour repérer les signes avant-coureurs parmi d’autres membres du personnel de soutien.

Mesures innovantes pour le recrutement, l’intégration et la gestion des modérateurs de contenu

Que vous externalisiez du contenu ou que vous le créiez en interne, ces stratégies peuvent protéger la santé mentale de vos modérateurs.

Recrutement des modérateurs

Embaucher les bonnes personnes est essentiel. Votre description des tâches doit être claire sur les défis auxquels les modérateurs seront confrontés afin d’encourager les candidats qui ne conviennent pas à ne pas postuler.

Vous devez évaluer la résistance mentale, éventuellement en utilisant des tests psychologiques pour renforcer la perception des recruteurs, et affecter les personnes les plus résistantes aux listes de contenus les plus délicates.

Cherchez également à embaucher des personnes enthousiastes à l’idée de rendre Internet plus sûr pour leurs prochains. Trouver un sens à son travail peut rendre les défis plus faciles à relever.

Intégration et formation des modérateurs

Normalisez la prise en charge du bien-être dès l’intégration des nouveaux arrivants.

Chaque modérateur de contenu doit recevoir une formation initiale pour favoriser la résilience. Cela favorise l’acquisition de compétences psychologiques plus saines et plus solides pour aider à protéger les individus contre l’impact des contenus dérangeants.

Offrir des services de bien-être sur le lieu de travail

Au-delà de la mise en place d’une équipe chargée du bien-être, vous devez permettre aux modérateurs d’accéder facilement à un soutien psychologique sur le lieu de travail et en dehors, par exemple par le biais d’un programme d’aide aux employés. Les employeurs doivent permettre aux modérateurs de contenu d’accéder à des services de santé mentale au moins 6 à 12 mois après leur embauche.

Fixer des limites

Chaque modérateur web a besoin de pauses pour se ressourcer sur le plan psychologique et pour décompresser. Cela peut être réalisé en fixant une limite définie du temps qu’une personne consacre à l’examen des catégories de contenu les plus dérangeantes.

De même, offrez aux modérateurs des pauses bien-être régulières pour décompresser, consulter un psychologue ou simplement recharger leurs batteries. Dans la mesure du possible, prévoyez un espace réservé à ces pauses, loin de la zone de travail, ainsi que des espaces privés pour les consultations.

Lorsque les modérateurs passent une mauvaise journée ou sont exposés à quelque chose de dérangeant, ils peuvent être assignés à une file d’attente au contenu moins problématique afin de minimiser le risque de voir d’autres choses perturbantes.

Le stress peut réduire les performances des membres de l’équipe, en particulier dans les files de contenu les plus difficiles. Réfléchissez aux éléments stressants que vous pourriez supprimer, tels que les notifications du tableau de bord affichant les contenus qui s’accumulent.

Vérifier et évaluer

Les managers jouent un rôle clé : le lien entre les membres de l’équipe de modération de contenu et leur superviseur est essentiel à la gestion de la santé mentale.

La plupart des gens hésitent à faire part de leurs sentiments, même lorsqu’ils sont bouleversés, et préfèrent ne pas se manifester s’ils ne se sentent pas vraiment soutenus par leur supérieur hiérarchique. Les superviseurs doivent également être formés à l’identification des signes précoces de traumatisme et au soutien du bien-être de leurs employés.

Des interactions régulières sont essentielles pour vérifier l’état de santé des modérateurs et les aider à résoudre leurs problèmes.

Il est également important de lier la fréquence de ces conversations aux besoins de l’individu, et les échanges peuvent prendre différentes formes : des séances hebdomadaires de thérapie de groupe à des séances individuelles et ponctuelles. Si certains signes indiquent qu’un individu semble particulièrement affecté par le contenu qu’il a examiné, augmentez la fréquence des séances de suivi afin qu’il se sente soutenu.

Environnement, statut et salaire des modérateurs

En raison de la nature stressante du travail de modération, le lieu de travail physique doit être un espace accueillant et apaisant.

Privilégiez les trois caractéristiques suivantes : bien aménagé, bien éclairé, bien équipé. Par ailleurs, les environnements professionnels peuvent être influencés par l’ambiance et la convivialité qui y sont présentes. Il est important d’organiser des activités pour les collaborateurs favorisant le travail d’équipe et le divertissement. Ne les rendez pas obligatoires : personne n’aime se sentir forcé, même à passer de bons moments.

Pensez également à valoriser ce rôle. De nombreux modérateurs de contenu entrent dans la profession parce qu’ils veulent changer les choses et protéger les gens, et vous devriez leur faire honneur.

Jusqu’à récemment, la modération de contenu était un travail en grande partie invisible. Dans de nombreux cas, ni le salaire ni le statut de l’emploi ne reflétaient sa valeur et ses exigences. Réfléchissez à la manière dont vous rémunérez la fonction, dont vous offrez des possibilités de développement et dont vous montrez à vos employés que vous respectez leur travail.

L’option de la modération externalisée

Toutes les entreprises ne disposent pas de spécialistes du comportement capables de gérer les aspects humains de la modération de contenu. Il s’agit d’un travail subtil, et de nombreuses entreprises, y compris les plus grandes plateformes de médias sociaux au monde, externalisent la modération de leur contenu.

Si vous envisagez cette option, n’oubliez pas que vous avez toujours la responsabilité de veiller au bien-être de chaque modérateur de contenu. Au-delà des obligations morales, c’est la réputation de votre entreprise et de votre marque qui est en jeu. Vous devez au minimum faire preuve de sérieux en sélectionnant un prestataire de service de modération de bonne réputation.

Choisir le bon fournisseur de modération

À l’approche de l’ère du métavers, votre choix en matière de modération de contenu devient une décision à prendre de plus en plus importante. Voici quelques conseils :

  • Recherchez un partenaire qui investit des ressources importantes dans la formation et le soutien de ses modérateurs de contenu, en accordant la priorité à leur santé mentale
  • Recherchez des éléments attestant de l’existence de politiques en matière de bien-être claires, structurées et documentées, ainsi que d’une équipe dédiée à leur mise en œuvre
  • Renseignez-vous sur la technologie utilisée pour aider les modérateurs
  • Insistez pour obtenir des rapports clairs et des indicateurs clés de performance sur l’efficacité des initiatives en matière de bien-être et des performances de modération

Ces critères simples vous permettront de prendre la bonne décision pour votre entreprise et votre communauté en ligne. Et vous pourrez ainsi vous féliciter de la manière dont vous traitez les personnes qui se chargent de supprimer ce qu’il y a de pire sur Internet et de garantir la sécurité de tous.

Si vous souhaitez en savoir plus sur la façon dont Webhelp peut fournir des services de modération de contenu qui ont un impact positif sur l’expérience de vos clients, jetez un coup d’œil à nos services de contenu digital.