Un an après que Reddit a mis à jour sa politique sur le partage d’images intimes non consensuelles (NCII) – une catégorie qui comprend tout, du porno de vengeance au voyeurisme et aux pincements accidentels – la plate-forme de médias sociaux a annoncé qu’elle s’était beaucoup améliorée pour détecter et supprimer ce genre de contenu. Reddit a également lancé un centre de transparence où les utilisateurs peuvent plus facilement évaluer les efforts continus de Reddit pour rendre la plate-forme plus sûre.

Selon le rapport de transparence 2022 de Reddit, qui suit divers « efforts en cours pour assurer la sécurité, la santé et la réalité de Reddit », l’année dernière, Reddit a supprimé beaucoup plus de NCII qu’en 2021. Le dernier rapport montre que Reddit a supprimé 473 % de sous-reddits supplémentaires et de façon permanente. suspendu 244 % de comptes d’utilisateurs supplémentaires qui enfreignaient les directives de la communauté en partageant des médias intimes non consensuels. Auparavant, Reddit qualifiait NCII de « pornographie involontaire », et le rapport de 2022 utilise toujours cette étiquette, indiquant que le nombre total de publications supprimées était de 187 258. Cela inclut les deepfakes non consensuels générés par l’IA, également connus sous le nom de pornographie « sosie ».

« Il est probable que cette augmentation reflète principalement nos politiques mises à jour et une efficacité accrue dans la détection et la suppression des médias intimes non consensuels de Reddit », indique le rapport sur la transparence.

Malgré l’interdiction de la pornographie de vengeance et d’autres formes de NCII, Reddit a été critiqué ces dernières années pour NCII trouvé sur sa plate-forme. Un exemple frappant de pornographie vengeresse qui a échappé à la modération comprenait les publications contrefaites d’un maire du Maryland, Andrew Bradshaw, en 2021. Bradshaw a plaidé coupable d’avoir utilisé plusieurs comptes Reddit pour publier des photos d’une ex-petite amie pendant deux mois avant d’être finalement accusé de 50 chefs d’accusation. de distribution de pornographie de vengeance, a rapporté AP.

En mars 2022, Reddit avait mis à jour sa politique, annonçant aux utilisateurs que la plate-forme avait apporté « des modifications et des ajouts à la page de détail de la politique pour fournir des exemples et clarifier les limites lors du partage d’images intimes ou sexuellement explicites sur Reddit ».

Cela semblait être un pas dans la bonne direction pour Reddit, mais une enquête de la BBC a révélé qu’il restait apparemment encore du travail à faire. En août 2022, la BBC a trouvé des « milliers » d’images et de vidéos, dont certaines étaient des médias intimes non consensuels, rapportant que des femmes « faisaient face à des menaces et au chantage de la part d’une foule d’étrangers anonymes ». Les utilisateurs de Reddit ont déclaré à la BBC à l’époque que parfois Reddit supprimait rapidement les images, mais d’autres fois, il fallait des mois avant que des mesures ne soient prises.

Reddit a répondu au rapport de la BBC en citant 88 000 images sexuelles non consensuelles supprimées en 2021. Un porte-parole de Reddit a noté que le rapport de la BBC ne fournissait « aucune indication sur les images qui violent » et « n’a trouvé que 150 images sexuellement explicites ».

Au fur et à mesure que l’examen s’intensifiait, Reddit a continué à bloquer les contenus les plus violents cette année. Plus tôt ce mois-ci, Reddit a rejoint StopNCII.org, une base de données de hachage d’images qui bloque automatiquement la propagation du NCII signalé. Cette base de données est gérée par Revenge Porn Hotline, une organisation caritative internationale à but non lucratif SWGfL. Meta a aidé à lancer l’initiative en 2021, et l’adhésion de Reddit cette année signale son effort apparemment plus agressif pour rejoindre d’autres plateformes majeures afin de faciliter les rapports et d’empêcher la propagation du NCII.

« Nous avons déjà vu des résultats prometteurs de cet outil et pensons qu’il nous aidera à supprimer ce contenu encore plus rapidement et avec précision », a déclaré un porte-parole de Reddit à Ars.

SWGfL n’a pas immédiatement répondu à la demande de commentaires d’Ars sur le récent partenariat de Reddit avec l’organisation ou son rapport de transparence 2022.

En plus de supprimer plus de NCII, Reddit a rapporté qu’au cours du second semestre 2022, la plate-forme a également supprimé et signalé beaucoup plus de matériel d’abus sexuel d’enfants (CSAM) qu’auparavant. Par rapport à 2021, Reddit a supprimé 874 % de CSAM en plus entre juillet et décembre 2022.

Reddit attribue ce pic de suppression de contenu à l’embauche de « plus de personnel dédié à la lutte contre l’exploitation sexuelle des enfants », à l’investissement dans des outils et des « méthodes de détection proactives » et à la modération de plus de contenu après avoir ajouté « de nouvelles façons de partager des médias (comme des images dans le chat et les commentaires ) Sur la plateforme. »

« Nous prenons également les mesures requises par la loi américaine pour signaler les utilisateurs/contenus pertinents au National Center for Missing and Exploited Children (NCMEC) et conserver les données de compte pertinentes », a déclaré un porte-parole de Reddit à Ars.

Semblable à StopNCII.org, NCMEC s’est associé à Meta et a lancé l’année dernière une base de données de hachage d’images pour empêcher la sextorsion chez les adolescents, appelée TakeItDown. Contrairement à Pornhub, OnlyFans, TikTok, Facebook et Instagram, Reddit ne s’est pas encore associé à cette initiative. Le porte-parole de Reddit a déclaré à Ars qu’ils fourniraient une mise à jour si cela changeait à l’avenir. Un fil Reddit voté par plus de 17 000 utilisateurs suggère que certains membres de la communauté de Reddit tiennent à faire prendre conscience que TakeItDown peut aider les mineurs à bloquer la pornographie de vengeance sur d’autres plateformes.

Certains utilisateurs de Reddit se sont demandé s’il était sûr ou efficace de signaler des images intimes non consensuelles à StopNCII.org. Pour aider les utilisateurs à naviguer dans ce problème sensible, Reddit s’associe à des conseillers en cas de crise et fournit des ressources supplémentaires. Reddit fournit également des ressources aux survivants signalant des abus sexuels sexuels sur l’homme sur la plate-forme.

Reddit appartient en partie à Advance Publications, qui possède également la société mère d’Ars Technica, Condé Nast.