Moderering offre sa technologie de détection aux agences publiques

Moderering offre sa technologie de détection aux agences publiques

La startup européenne Moderering mettra gratuitement sa technologie de détection de contenus illicites à disposition des agences publiques françaises et européennes entre le 15 juillet et le 30 septembre 2026. Objectif : aider les services chargés de la surveillance du web à repérer plus vite les contenus liés au cyberharcèlement, aux violences sexuelles, aux deepfakes, à la pédocriminalité ou encore aux vidéos violentes.

Pourquoi c’est important

Les autorités font face à une explosion des signalements en ligne, avec des moyens humains limités. Pour les startups de la cybersécurité et de l’IA, cette initiative illustre un enjeu central : mettre la technologie au service de la régulation et de la protection des utilisateurs. Elle intervient aussi dans un contexte européen où le Digital Services Act pousse plateformes et acteurs publics à renforcer leurs capacités de contrôle.

Fondée en 2024 par Alexandre Sossou, Moderering développe une IA capable d’analyser à grande échelle des contenus et des signaux publics afin d’identifier des risques ou des infractions potentielles. La jeune pousse, incubée par Agoranov et soutenue par l’écosystème French Tech, Empow’Her, Diversidays et Bpifrance, veut se positionner comme un acteur européen de référence de la modération automatisée.

Selon l’entreprise, sa solution peut scanner des sites web, qualifier des contenus suspects, générer des signalements en temps réel et produire des éléments exploitables dans un cadre judiciaire. Moderering affirme que son moteur de détection équivaut, en capacité de traitement, au travail de 2 000 policiers mobilisés pendant 24 heures.

Une réponse à la saturation des dispositifs publics

L’annonce intervient alors que les atteintes numériques progressent fortement. En France, 125 000 victimes ont été recensées en 2024, d’après l’Insee. Les violences en ligne représenteraient désormais 12 % des atteintes à la personne. Autre indicateur préoccupant : les signalements de sextorsion auraient augmenté de 1 955 % entre 2022 et 2024, selon l’OFMIN et l’IRJS.

Pour Moderering, les moyens actuels ne permettent plus de traiter efficacement le volume de contenus signalés. La startup cite notamment PHAROS, la plateforme française de signalement des contenus illicites, qui doit gérer plus de 100 000 signalements par semestre avec environ 50 agents. Elle mentionne également la section J3 du tribunal judiciaire de Paris, confrontée à des milliers de dossiers nationaux avec cinq magistrats.

Plusieurs affaires récentes sont mises en avant pour illustrer le rôle croissant des espaces numériques dans la préparation, la diffusion ou la facilitation de crimes : les viols de Mazan, les viols de Gironde diffusés en direct sur Wyylde, la condamnation d’un vice-président de tribunal judiciaire pour des faits liés à des sollicitations en ligne, ou encore l’assassinat de Lyhanna, 11 ans, dans le Gers en juin 2026, après de nombreux signalements restés sans suite.

Alexandre Sossou, fondateur et CEO de Moderering, résume ainsi la position de l’entreprise : « Internet sert de terrain de chasse. » Selon lui, si la technologie développée par la startup peut aider enquêteurs, magistrats et régulateurs à intervenir plus tôt, elle doit être rendue disponible sans attendre.

Une critique directe des grandes plateformes

Moderering inscrit aussi son initiative dans un contexte de défiance à l’égard des grandes plateformes numériques. L’entreprise souligne que TikTok a supprimé plus de 4 000 postes de modérateurs humains sur 2025-2026, au profit de systèmes automatisés. La plateforme revendique désormais 85 % de retraits effectués par l’IA.

La startup estime que cette évolution ne se traduit pas nécessairement par une meilleure coopération avec les autorités. Elle cite également une enquête de la BBC selon laquelle Meta aurait laissé diffuser sur Instagram des publicités payantes vendant des contenus pédopornographiques en Inde. Après signalement, le système automatisé de Meta aurait considéré que ces contenus ne contrevenaient pas à ses règles. En mars 2026, un jury américain a condamné l’entreprise à 375 millions de dollars.

Pour Moderering, ces exemples montrent les limites d’une modération laissée aux seules plateformes. La startup défend une approche indépendante, combinant intelligence artificielle, apprentissage automatique et supervision humaine, afin de réduire l’exposition des agents à des contenus traumatisants tout en améliorant la rapidité de détection.

Qui peut accéder gratuitement à la solution ?

L’offre vise les opérateurs publics et agences gouvernementales en France et en Europe dont les missions concernent la détection, le signalement ou la poursuite de contenus illicites en ligne.

Parmi les structures concernées figurent notamment l’Arcom, l’OFAC de la Police nationale, PHAROS, le C3N de la Gendarmerie nationale, le ComCyber du ministère des Armées, la section J3 / JUNALCO du tribunal judiciaire de Paris, ainsi qu’Europol et son centre européen de lutte contre la cybercriminalité, l’EC3.

La procédure annoncée se veut rapide : les agences intéressées doivent adresser une demande à [email protected] en précisant leur identité et le périmètre d’usage envisagé. Moderering indique que l’accréditation et le paramétrage de l’accès seront réalisés sous 48 heures ouvrées. L’utilisation restera gratuite jusqu’au 30 septembre 2026, sans engagement.

La startup propose également des démonstrations à destination des journalistes souhaitant observer le fonctionnement de son outil en conditions réelles, notamment la détection de contenus, les typologies de violations identifiées et la comparaison avec les systèmes de modération des plateformes.

À plus long terme, cette initiative pourrait renforcer le débat sur la place des technologies européennes dans la lutte contre les contenus illicites. Entre impératif de sécurité, respect des libertés publiques et souveraineté numérique, l’enjeu sera désormais de savoir comment intégrer ces outils dans des cadres de contrôle transparents et juridiquement robustes.