Chez Thorn, nous nous consacrons à la conception de technologies permettant de protéger les enfants contre les abus sexuels. La clé de cette mission est notre solution de détection de contenus CSAM, Plus sûrqui permet aux plateformes d’hébergement de contenu de trouver et de signaler les contenus pédopornographiques (CSAM) sur leurs plateformes. En 2023, plus d’entreprises que jamais ont déployé Safer. Cet engagement commun en faveur de la sécurité des enfants est extraordinaire et a contribué à faire progresser notre objectif de construire un Internet véritablement plus sûr.
La communauté de clients de Safer couvre un large éventail de secteurs. Pourtant, ils hébergent tous du contenu mis en ligne par leurs utilisateurs.
Safer permet à leurs équipes de détecter, examiner et signaler les CSAM à grande échelle. Le faire à grande échelle est crucial. Il Cela signifie que leurs modérateurs de contenu et leurs équipes de confiance et de sécurité peuvent trouver du CSAM parmi les millions de contenus téléchargés chaque jour sur leurs plateformes. Cette efficacité fait gagner du temps et accélère leurs efforts. Tout aussi important, Safer permet aux équipes de signaler les abus sexuels aux agences centrales de signalement, comme le Centre national pour les enfants disparus et exploités (NCMEC), ce qui est essentiel pour l’identification des enfants victimes.
Les clients de Safer s’appuient sur nos modèles d’intelligence artificielle prédictive et d’apprentissage automatique ainsi que sur une base de données de hachage complète pour les aider à trouver du CSAM. Avec leur aide, nous progressons vers l’élimination des contenus CSAM sur Internet.
Plus de dossiers ont été traités via Safer au cours de chacun des trois derniers mois de 2023 qu’en 2019 et 2020 réunis. Ces chiffres inspirants indiquent un changement de priorités pour de nombreuses entreprises alors qu’elles renforcent leurs efforts pour se concentrer sur la sécurité des enfants et de leurs utilisateurs.
Au total, Safer a traité 71,4 milliards de fichiers saisis par nos clients. Cette augmentation de 70 % par rapport à 2022 a été propulsée en partie par l’ajout de 10 nouveaux clients Safer. Aujourd’hui, 50 plateformes, avec des millions d’utilisateurs et de vastes quantités de contenu, composent la communauté Safer, créant une force importante et toujours croissante contre le CSAM en ligne.
Avec 57+ millions hachages actuellement, Safer fournit une base de données complète de hachages pour détecter CSAM. Grâce à SaferList, les clients peuvent contribuer aux valeurs de hachage, contribuant ainsi à réduire la propagation virale du CSAM sur les plateformes de la communauté Safer.
Nos clients ont détecté plus de 2 000 000 d’images et de vidéos de CSAM connus en 2023. Cela signifie que Safer a fait correspondre les hachages des fichiers à ceux d’une base de données de CSAM vérifiés, les identifiant ainsi. Les hachages sont comme des empreintes digitales et leur utilisation permet à Safer de déterminer par programme si ce fichier a déjà été vérifié comme CSAM par le NCMEC ou d’autres ONG.
En plus de détecter les contenus d’abus sexuels sur mineurs connus, nos classificateurs ont détecté plus de 1 500 000 fichiers potentiellement inconnus d’abus sexuels sur mineurs. Les classificateurs d’images et de vidéos de Safer utilisent l’intelligence artificielle pour prédire si un nouveau contenu est susceptible d’être du contenu d’abus sexuels sur mineurs et le signaler pour un examen plus approfondi.
Au total, Safer a détecté plus de 3 800 000 fichiers CSAM connus ou potentiels, soit une augmentation de 365 % en un an seulement, démontrant à la fois l’ampleur croissante du problème et la puissance d’une lutte unifiée contre celui-ci.
L’année dernière a continué de mettre en évidence l’impact profond d’une approche coordonnée pour éliminer les contenus pédopornographiques en ligne. Depuis 2019, Safer a traité 129,4 milliards de fichiers provenant de plateformes d’hébergement de contenu, et parmi ceux-ci, a détecté 5 millions de fichiers CSAM. Chaque année où nous restons concentrés sur cette mission contribue à façonner un Internet plus sûr pour les enfants, les plateformes numériques et leurs utilisateurs.
Lutter contre la propagation des contenus pédopornographiques nécessite un front uni. Malheureusement, les efforts déployés dans le secteur technologique restent incohérents et les entreprises proactives s’appuient sur des données cloisonnées. La solution Safer de Thorn est là pour changer cela.
Initialement publié en juin 2024 sur safer.io
