Le directeur du renseignement des services de police métropolitains (MPS) a défendu l’utilisation par la force de la technologie de reconnaissance faciale devant une commission parlementaire, dans le cadre de son enquête sur la gouvernance britannique de la technologie de l’intelligence artificielle (IA).
La session fait suite à des informations selon lesquelles le ministre de la police Chris Philp, lors de réunions à huis clos avec le commissaire à la biométrie d’Angleterre et du Pays de Galles, a fait pression pour que la technologie soit déployée à l’échelle nationale et poussera probablement également à intégrer la technologie à la vidéo portée par la police. appareils photo.
Comparaissant devant le comité des sciences et de la technologie – qui a lancé son enquête sur la gouvernance de l’IA en octobre 2022 – le directeur du renseignement du MPS, Lindsey Chiswick, a déclaré que bien qu’il existe une «préoccupation publique» compréhensible concernant la reconnaissance faciale et l’IA, la force a tenté de la déployer «en tant que manière prudente, proportionnée et transparente possible ».
Soulignant une étude récente menée par le National Physical Laboratory (NPL) – qui n’a trouvé «aucune signification statistique entre les performances démographiques» si certains paramètres sont utilisés dans le système de reconnaissance faciale en direct (LFR) du Met – Chiswick a déclaré que cela avait été commandé par la force pour mieux comprendre “les niveaux de biais dans l’algorithme” et “comment nous pouvons utiliser l’IA de manière proportionnée, juste et égale”.
Elle a ajouté que la force doit également évaluer la nécessité et la proportionnalité de chaque déploiement individuel de reconnaissance faciale par rapport à l’objectif pour lequel il est utilisé.
« Pour le moment, il doit y avoir un cas d’utilisation solide pour expliquer pourquoi nous déployons la technologie… Ce n’est pas une expédition de pêche ; nous ciblons les zones où le public s’inquiète des niveaux élevés de criminalité – qu’il s’agisse de vols à l’aide d’un couteau sur Oxford Street, où ils opéraient auparavant, ou d’une partie de la violence liée aux gangs et des vols à l’aide d’un couteau qui se déroulent dans Camden », a-t-elle déclaré.
“En partant de la raison pour laquelle nous sommes là en premier lieu, il y a ensuite la proportionnalité de la liste de surveillance, conformément à notre politique quant à qui y va et pourquoi.”
Interrogé par le député Stephen Metcalfe sur la raison pour laquelle tout le monde ne figure pas sur les listes de surveillance de la reconnaissance faciale de la police, Chiswick a souligné que ce type d’inclusion aveugle serait illégal et a réitéré la nécessité de la nécessité et de la proportionnalité.
Ailleurs, elle a ajouté que chaque liste de surveillance sur mesure est supprimée après utilisation car il n’y a aucune raison légale pour que les données soient conservées : “Techniquement, nous pourrions conserver la liste de surveillance, mais légalement, nous ne pouvons pas.”
Quant à savoir si les réseaux de vidéosurveillance de villes ou de régions entières du Royaume-Uni pourraient être reliés à un logiciel de reconnaissance faciale, Chiswick a de nouveau déclaré que bien que ce soit “techniquement… faisable”, elle remettrait en question la proportionnalité de relier toutes les caméras en un seul système unifié.
Cependant, il n’y a eu aucune discussion sur les problèmes en cours concernant la conservation illégale des images de garde et d’autres éléments biométriques utilisés pour remplir les listes de surveillance, qui ont été mis en évidence par les commissaires à la biométrie Fraser Sampson devant la Commission mixte des droits de l’homme du Parlement (JCHR) en février 2023.
Ces mêmes préoccupations ont été soulevées auprès du comité des sciences et de la technologie par le prédécesseur de Sampson, Paul Wiles, en mars 2019, qui a déclaré qu’il y avait une “très mauvaise compréhension” de la période de conservation entourant les images de garde à vue dans les forces de police en Angleterre et au Pays de Galles, malgré un 2012 High Décision du tribunal qui a conclu que leur conservation était illégale.
S’adressant à Computer Weekly à propos des déploiements précédents du Met, Caroline Russell, membre de l’Assemblée de Green London (qui a été élue à la présidence du comité de la police et de la criminalité de l’Assemblée début mai 2023), a déclaré que des pratiques policières disproportionnées signifient que des personnes de certains groupes démographiques ou de certains milieux sont celles qui finissent par remplir les listes de surveillance de la police.
“Si vous pensez à la disproportion dans les interpellations et les fouilles, le nombre de personnes noires et brunes, de jeunes, qui sont arrêtés, fouillés et arrêtés, commence à être vraiment inquiétant parce que la disproportion est intégrée dans vos listes de surveillance”, a-t-elle déclaré.
Avantages et résultats des services de police
En décrivant les avantages opérationnels de la technologie, Chiswick a déclaré aux députés que son utilisation avait déjà conduit à “un certain nombre d’arrestations importantes”, notamment pour complot en vue de fournir des médicaments de classe A, voies de fait contre des secouristes, possession avec l’intention de fournir des médicaments de classe A. , lésions corporelles graves et être illégalement en liberté après s’être évadé de prison.
«Ce sont quelques-uns des exemples que j’ai apportés ici aujourd’hui, mais il y a plus d’avantages que le simple nombre d’arrestations que la technologie alerte les policiers à effectuer, il y a un avantage beaucoup plus large. Le couronnement est un exemple où la dissuasion a été un avantage. Vous aurez remarqué que nous avons annoncé assez largement à l’avance que nous allions être là dans le cadre de cet effet de dissuasion », a-t-elle déclaré.
«Si je me souviens de mon séjour à Camden lorsque je suis allé voir l’un des déploiements de reconnaissance faciale, il y avait un avantage plus large pour la communauté dans cette région à l’époque. En fait, nous avons eu beaucoup de réactions très positives de la part des commerçants et de la population locale en raison de l’impact que cela avait sur la criminalité dans cette région. »
Selon le «document d’enregistrement de déploiement» de reconnaissance faciale du Met sur son site Web, deux arrestations ont été effectuées jusqu’à présent en 2023 sur six déploiements, avec des estimations selon lesquelles les informations biométriques d’environ 84 600 personnes ont été scannées.
Au cours des six premiers déploiements du MPS en 2022, la force a procédé à huit arrestations après avoir scanné les informations biométriques d’environ 144366 personnes, pour des infractions telles que celles décrites par Chiswick, ainsi qu’un défaut de comparution devant le tribunal et une infraction routière non précisée.
Lorsqu’on lui a demandé si le Met pouvait montrer une augmentation des arrestations et des condamnations grâce à la technologie, Chiswick a déclaré que l’outil ne consiste pas simplement à augmenter le nombre d’arrestations : « Il s’agit d’un outil communautaire de lutte contre la criminalité basé sur la précision. Pour utiliser la terrible analogie d’une aiguille dans une botte de foin, la technologie nous permet de repérer une personne potentiellement compatible avec quelqu’un qui est recherché, généralement pour des crimes très graves, et d’avoir la possibilité d’aller parler à cette personne.
“Les résultats que je viens de vous lire sont des personnes qui seraient toujours en liberté si nous n’avions pas utilisé cette technologie. Ce n’est pas un outil pour les arrestations massives, ce n’est pas un outil qui va vous donner un grand nombre d’arrestations, c’est un outil qui va se concentrer très précisément sur les individus que nous essayons d’identifier.
Malgré la nature des arrestations effectuées à l’aide de la reconnaissance faciale jusqu’à présent, le ministère de l’Intérieur et les ministres de la police ont justifié à plusieurs reprises l’utilisation de la technologie au motif qu’elle “joue un rôle crucial pour aider la police à lutter contre les infractions graves, notamment les meurtres, les crimes au couteau, les viols, les l’exploitation sexuelle et le terrorisme ».
Computer Weekly a demandé à plusieurs reprises des preuves pour étayer cette affirmation, mais n’a jamais reçu de réponse du Home Office. Le Met, cependant, a confirmé à Computer Weekly en janvier 2023 qu’aucune arrestation n’avait été effectuée pour ces raisons à la suite de l’utilisation du LFR.
Surveillance biométrique
Le comité a également interrogé Chiswick sur le projet de loi du gouvernement sur la protection des données et les informations numériques (DPDI), et en particulier sur ce qu’elle pensait des mesures visant à abolir le rôle de commissaire à la biométrie et à abroger l’obligation du gouvernement de publier un code de pratique des caméras de surveillance, qui supervise le utilisation de systèmes de surveillance par les autorités dans les espaces publics.
Bien qu’il y ait eu un débat sur les régulateurs existants qui pourraient assumer les responsabilités et les fonctions du commissaire à la biométrie – avec des suggestions, par exemple, que le bureau du commissaire à l’information (ICO) ou le commissaire aux pouvoirs d’enquête (IPCO) pourrait s’occuper de différents aspects de le rôle – il est ouvert et continu.
“Je ne pense pas que plus de surveillance ajoutée et renforcée soit nécessairement la meilleure surveillance. Nous courons le risque d’avoir une surveillance cloisonnée – surveillance de la surveillance, surveillance de la biométrie, surveillance des données – alors qu’en fait, cela recoupe tout cela. Actuellement, il existe des orientations qui se croisent et se chevauchent un peu », a déclaré Chiswick aux députés.
“Ainsi, plutôt que de créer des couches supplémentaires de surveillance, à un niveau plus superficiel, je pense qu’il serait formidable d’avoir une surveillance simplifiée, mais avec les bonnes questions. C’est la clé – avoir la bonne plongée profonde dans la façon dont nous utilisons cette technologie pour nous assurer que nous nous comportons comme nous le devrions et la façon dont nous nous engageons dans la politique.
Elle a ajouté: “De mon point de vue, moins d’organismes de surveillance différents et une approche plus simpliste pour arriver au point de poser les bonnes questions sont probablement utiles.”
S’adressant au même comité lors de la prochaine session, le directeur associé de l’IA, du droit et de la politique des données à l’Institut Ada Lovelace, Michael Birtwistle, a déclaré: «L’affirmation selon laquelle il [the DPDI Bill] simplifie le paysage réglementaire est peut-être vrai, dans le sens où il y aura moins d’acteurs, mais cela ne signifie pas qu’il y aura plus de clarté réglementaire pour les utilisateurs de cette technologie… la suppression du code des caméras de surveillance en est une.
«Notre proposition sur une réglementation complète de la biométrie centraliserait un grand nombre de ces fonctions au sein d’une fonction de réglementation spécifique au sein de l’ICO qui aurait une responsabilité spécifique pour… des choses comme la publication d’un registre d’utilisation du secteur public, exigeant que les technologies biométriques répondent à des normes scientifiquement fondées, et ayant un rôle dans l’évaluation de la proportionnalité de leur utilisation. Faire en sorte que toutes ces choses se produisent au même endroit serait une simplification et fournirait une surveillance appropriée. »
Marion Oswald, associée de recherche principale sur l’IA sûre et éthique et professeure agrégée de droit à l’Institut Alan Turing et à l’Université de Northumbria, a convenu que la simplification ne signifie pas nécessairement la clarté : la responsabilité réside vraiment. Nous avons beaucoup de corps avec les doigts dans la tarte, mais pas nécessairement quelqu’un responsable de la cuisson globale de la tarte.
« La structure réglementaire doit être très axée sur la manière dont la police utilise les données et les différentes manières dont l’IA peut être déployée. Parfois, il est déployé dans le cadre de pouvoirs coercitifs – interpellation, perquisition et arrestation – mais parfois, il est déployé au stade de l’enquête et du renseignement, ce qui fait intervenir toutes sortes de considérations différentes. Un régulateur doit comprendre cela et doit être en mesure d’établir des règles autour de ces différents processus et étapes.
Le Parlement et la société civile ont demandé à plusieurs reprises de nouveaux cadres juridiques pour régir l’utilisation de la biométrie par les forces de l’ordre – y compris une enquête de la Chambre des Lords sur l’utilisation par la police de technologies algorithmiques avancées ; un examen juridique indépendant par Matthew Ryder QC ; la Commission des égalités et des droits de l’homme du Royaume-Uni ; et le Comité des sciences et de la technologie de la Chambre des communes lui-même, qui a appelé à un moratoire sur la reconnaissance faciale en direct dès juillet 2019.
En février 2023, dans son premier rapport annuel, Sampson a également appelé à des cadres clairs, complets et cohérents pour réglementer l’utilisation de l’IA et de la biométrie par la police au Royaume-Uni.
Cependant, le gouvernement a soutenu qu’il existe « déjà un cadre global » en place.
Read more Tech News in French
Source
