LLa semaine dernière, le Bureau du commissaire à l’information du Royaume-Uni (ICO) a infligé une amende de 7,5 millions de livres sterling à une petite entreprise de technologie appelée Clearview AI pour « avoir utilisé des images de personnes au Royaume-Uni et ailleurs, qui ont été collectées sur le Web et les médias sociaux pour créer un base de données mondiale en ligne qui pourrait être utilisée pour la reconnaissance faciale ». L’ICO a également émis un avis d’exécution, ordonnant à la société de cesser d’obtenir et d’utiliser les données personnelles des résidents britanniques qui sont accessibles au public sur Internet et de supprimer les données des résidents britanniques de ses systèmes.

Étant donné que Clearview AI n’est pas exactement un nom familier, un arrière-plan pourrait être utile. C’est une entreprise américaine qui a « gratté » (c’est-à-dire collectée numériquement) plus de 20 milliards d’images de visages de personnes à partir d’informations accessibles au public sur Internet et les plateformes de médias sociaux du monde entier pour créer une base de données en ligne. L’entreprise utilise cette base de données pour fournir un service qui permet aux clients de télécharger une image d’une personne sur son application, qui est ensuite vérifiée pour une correspondance avec toutes les images de la base de données. L’application produit une liste d’images qui ont des caractéristiques similaires à celles de la photo fournie par le client, ainsi qu’un lien vers les sites Web d’où proviennent ces images. Clearview décrit son activité comme « la construction d’un monde sécurisé, un visage à la fois ».

Le hic de cette pommade apaisante est que les personnes dont les images composent la base de données n’ont pas été informées que leurs photographies étaient collectées ou utilisées de cette manière et elles n’ont certainement jamais consenti à leur utilisation de cette manière. D’où l’action de l’ICO.

La plupart d’entre nous n’avaient jamais entendu parler de Clearview avant janvier 2021, lorsque Kashmir Hill, un journaliste spécialisé dans les technologies fines, a révélé son existence dans le New York Times. Il a été fondé par un entrepreneur technologique nommé Hoan Ton-That et Richard Schwartz, qui avait été un assistant de Rudy Giuliani lorsqu’il était maire de New York et toujours, euh, respectable. L’idée était que Ton-That superviserait la création d’une puissante application de reconnaissance faciale tandis que Schwartz utiliserait son Rolodex bombé pour susciter l’intérêt commercial.

Il n’a pas fallu longtemps à Schwartz pour réaliser que les forces de l’ordre américaines s’y mettraient comme des loups voraces. Selon le rapport de Hill, le service de police de l’Indiana a été le premier client de l’entreprise. En février 2019, il a résolu une affaire en 20 minutes. Deux hommes s’étaient battus dans un parc, ce qui s’était terminé par une balle dans l’estomac de l’autre. Un spectateur a enregistré le crime sur un smartphone, de sorte que la police avait une photo du visage du tireur pour parcourir l’application de Clearview. Ils ont immédiatement obtenu un match. L’homme est apparu dans une vidéo que quelqu’un avait publiée sur les réseaux sociaux et son nom figurait dans une légende du clip vidéo. Bingo !

Le discours marketing de Clearview a été présenté à la galerie des forces de l’ordre : une diffusion de deux pages, la page de gauche étant dominée par le slogan « Arrêtez de chercher. Commencez à résoudre » dans ce qui ressemble à 95 points Helvetica Bold. En dessous se trouverait une liste d’options d’abonnement annuel – allant de 10 000 $ pour cinq utilisateurs à 250 000 $ pour 500. Mais le coup de poing était qu’il y avait toujours quelque part une option d’abonnement d’essai qu’un officier individuel pouvait utiliser pour voir si la chose fonctionnait.

La stratégie sous-jacente était astucieuse. Vendre à des sociétés passant par entreprises de l’extérieur est difficile. Mais si vous pouvez demander à un initié, même relativement junior, d’essayer vos trucs et de les trouver utiles, alors vous êtes à mi-chemin d’une vente. C’est ainsi que Peter Thiel a fait acheter par le Pentagone le logiciel d’analyse de données de sa société Palantir. Il a d’abord persuadé des officiers militaires de rang intermédiaire de l’essayer, sachant qu’ils finiraient par en parler à leurs supérieurs. de l’Intérieur. Et devine quoi? Thiel a été l’un des premiers investisseurs dans Clearview.

Le nombre de clients de l’entreprise n’est pas clair. Des documents internes de l’entreprise divulgués à BuzzFeed en 2020 suggéraient que jusqu’à cette époque, des personnes associées à 2 228 organismes, entreprises et institutions chargés de l’application de la loi avaient créé des comptes et effectué collectivement près de 500 000 recherches – toutes suivies et enregistrées par l’entreprise. Aux États-Unis, la majeure partie des achats institutionnels provenait des services de police locaux et d’État. À l’étranger, les documents divulgués suggéraient que Clearview s’était étendu à au moins 26 pays en dehors des États-Unis, y compris le Royaume-Uni, où des recherches (peut-être non autorisées) par des personnes du Met, de la National Crime Agency et des forces de police du Northamptonshire, du North Yorkshire, du Suffolk, Le Surrey et le Hampshire ont été enregistrés par les serveurs Clearview.

Réagissant à l’amende de l’ICO, le cabinet d’avocats représentant Clearview a déclaré que l’amende était « incorrecte en droit », car la société ne fait plus affaire au Royaume-Uni et n’est « pas soumise à la juridiction de l’ICO ». On verra. Mais ce qui n’est pas contesté, c’est que de nombreuses images de la base de données de l’entreprise sont des utilisateurs de médias sociaux qui sont très certainement au Royaume-Uni et qui n’ont pas donné leur consentement. Alors bravo pour l’ICO.

Ce que j’ai lu

Un gros coup d’arrêt
À propos de ces tracteurs ukrainiens kill-switched est un article de blog acerbe sur Medium par Cory Doctorow sur le pouvoir dont dispose John Deere pour désactiver à distance non seulement les tracteurs volés par les Russes à l’Ukraine, mais aussi ceux achetés par les agriculteurs américains.

Hors de contrôle
Pandémie permanente est un essai qui donne à réfléchir sur Harper’s par Justin EH Smith demandant si les contrôles légitimés par la lutte contre Covid seront un jour assouplis.

Droit de porter des armes ?
Dans le bulletin Substack de Heather Cox Richardson sur le « droit de porter des armes », l’historienne réfléchit à la façon dont le deuxième amendement a été déformé pour répondre aux besoins du lobby des armes à feu.