Équilibrer liberté d’expression et sécurité
Tous les jours, un flot incessant de contenus est diffusé sur les réseaux sociaux, forums et autres plateformes numériques. Parmi eux, on trouve des messages de haine, des escroqueries, des contenus violents et des images prohibées. Les entreprises du secteur numérique sont donc en première ligne pour s’assurer du respect des règles en vigueur.
Moderering, une start-up créée par Alexandre Sossou, s’inscrit précisément dans ce contexte. Elle développe des technologies d’intelligence artificielle qui aident les plateformes à repérer et à filtrer les contenus illicites. « Nous avons développé nos propres systèmes d’IA conçus spécifiquement pour détecter et empêcher la diffusion de contenus illégaux », indique l’entrepreneur.
L’objectif de Moderering n’est pas de remplacer les choix éditoriaux des plateformes, mais de leur fournir les outils nécessaires pour appliquer efficacement leurs politiques de modération, tout en respectant les lois en place.
Entre liberté et protection : trouver la juste mesure
La modération des contenus reste un sujet délicat. Jusqu’à quel point les plateformes peuvent-elles intervenir sans entraver la liberté d’expression ?
Alexandre Sossou rappelle que chaque plateforme a la liberté de définir des règles plus strictes que celles imposées par la loi, surtout lorsqu’elles ciblent des publics sensibles comme les enfants ou les adolescents, qui nécessitent souvent une modération plus rigoureuse pour éviter les contenus inappropriés.
À l’inverse, certaines entreprises peuvent choisir d’assouplir leurs règles pour augmenter l’engagement des utilisateurs ou attirer plus de visiteurs. « Certaines plateformes tentent de repousser les limites de l’acceptable pour augmenter leur audience ou créer un buzz », note-t-il. Cette tension constante entre croissance, liberté d’expression et responsabilité représente aujourd’hui l’un des principaux défis du domaine.
L’IA au service de la protection des modérateurs
Un autre aspect important pour Moderering est la protection de la santé mentale des modérateurs. Ces derniers, qui travaillent souvent pour de grandes plateformes, sont exposés quotidiennement à des contenus choquants pour décider de leur admissibilité en ligne. « Il s’agit toujours de personnes réelles qui doivent visionner des scènes de violence extrême ou des actes criminels pour prendre ces décisions », souligne Alexandre Sossou.
Une exposition répétée à de tels contenus peut avoir des effets néfastes sur la santé psychologique. L’ambition de la start-up est donc de confier de plus en plus cette tâche à l’intelligence artificielle, afin de réduire l’exposition des équipes humaines à ces images traumatisantes.
Responsabilité partagée dans la lutte contre les contenus illicites
Cependant, la responsabilité de lutter contre les contenus illicites ne repose pas uniquement sur les épaules des acteurs numériques.
Les créateurs de contenus, les utilisateurs qui les partagent, les plateformes qui les hébergent et les autorités publiques ont tous un rôle à jouer dans cet écosystème. Selon Alexandre Sossou, les autorités publiques ont encore du mal à suivre le rythme des géants du numérique. « Les sanctions ne sont pas toujours efficaces et les organismes publics manquent souvent des outils technologiques nécessaires pour réaliser leurs contrôles », dit-il.
Malgré l’existence de règlementations de plus en plus strictes, leur mise en œuvre reste complexe.
Le Digital Services Act, un tournant réglementaire
L’adoption du Digital Services Act (DSA) en Europe marque un tournant dans la régulation des plateformes numériques. Cette législation impose de nouvelles obligations en matière de transparence et de gestion des risques, tout en renforçant la lutte contre les contenus illicites.
Pour Alexandre Sossou, ce changement réglementaire est une avancée significative. Toutefois, il affirme que l’efficacité de cette réglementation dépendra de la capacité des autorités à disposer des outils techniques nécessaires pour en vérifier l’application.
Dans cette optique, Moderering envisage de développer de nouvelles collaborations avec des entités publiques à partir de 2026 pour mettre sa technologie au service de la régulation numérique.
Un secteur en pleine croissance
La demande pour des solutions de modération est en hausse et devrait continuer de croître dans les années à venir. Entreprises, administrations, établissements scolaires et collectivités intensifient leur transformation numérique, multipliant ainsi les espaces d’échange et les risques associés aux contenus problématiques.
Selon Alexandre Sossou, les besoins actuels en matière de modération sont largement sous-estimés. « Nous devrions être trois à quatre fois plus nombreux à travailler sur ces enjeux, tant ils sont cruciaux », affirme-t-il.
À mesure que les pratiques numériques se généralisent, la modération devient un élément clé de la confiance en ligne, un enjeu qui dépasse largement le secteur technologique seul pour concerner toutes les organisations confrontées à la circulation de contenus sur Internet.
Cet article a été initialement publié sur Beaboss.fr, le site des dirigeants de petites et moyennes entreprises.
