Apple retardera ses plans pour commencer à analyser les images des utilisateurs à la recherche de matériel pédopornographique (CSAM) avant de les télécharger sur le cloud, a déclaré la société, après une réaction des groupes de protection de la vie privée.

La proposition de la société, révélée pour la première fois en août, impliquait une nouvelle technique qu’elle avait développée appelée « hachage perceptuel » pour comparer des photos avec des images connues de maltraitance d’enfants lorsque les utilisateurs ont choisi de les télécharger sur le cloud. Si l’entreprise détectait suffisamment de correspondances, elle examinerait manuellement les images avant de signaler le compte d’utilisateur aux forces de l’ordre.

Maintenant, Apple dit qu’il suspend la mise en œuvre du projet. « Le mois dernier, nous avons annoncé des plans pour des fonctionnalités destinées à aider à protéger les enfants contre les prédateurs qui utilisent des outils de communication pour les recruter et les exploiter, et à limiter la diffusion de matériel pédopornographique », a déclaré la société dans un communiqué.

« Sur la base des commentaires des clients, des groupes de défense des droits, des chercheurs et d’autres, nous avons décidé de prendre plus de temps au cours des prochains mois pour recueillir des commentaires et apporter des améliorations avant de publier ces fonctionnalités de sécurité des enfants d’une importance cruciale. »

En plus de l’analyse CSAM, Apple a annoncé et a maintenant suspendu une deuxième série de mises à jour, qui l’auraient vu utiliser un système d’IA pour identifier les images explicites envoyées et reçues par les utilisateurs de moins de 18 ans via l’application Messages de l’entreprise et, où ces utilisateurs étaient moins de 13 ans et dont les téléphones étaient gérés par des membres de la famille, avertissez un parent ou un tuteur.

Les deux politiques ont été annoncées d’une manière inhabituelle pour l’entreprise, divulguées par les canaux universitaires avant d’être confirmées dans un communiqué de presse sec publié directement sur le site Web d’Apple. En interne, certains membres de l’entreprise blâment le lancement d’une partie de l’hostilité envers les plans, affirmant que les deux propositions étaient amalgamées à tort et arguant qu’Apple a raté son meilleur coup pour vendre correctement les avantages des changements.

D’autres, cependant, étaient plus critiques. « Le contrecoup ne devrait pas être une surprise », a déclaré Jason Kelley du groupe américain de droits numériques EFF. Ce que Apple a l’intention de faire créera un énorme danger pour notre vie privée et notre sécurité.

« Cela donnera des munitions aux gouvernements autoritaires souhaitant étendre la surveillance, et parce que l’entreprise a compromis la sécurité et la confidentialité à la demande des gouvernements dans le passé, il n’est pas exagéré de penser qu’ils peuvent le faire à nouveau. »