L’Assemblée nationale française doit adopter mardi une loi avant les Jeux olympiques de 2024 à Paris. L’article 7 est l’aspect le plus controversé de cette loi, car il permettra d’utiliser la vidéosurveillance par IA pour détecter les comportements anormaux. Les organisations de défense des droits de l’homme et la gauche française ont condamné la mesure.
La loi globale que l’Assemblée nationale française doit adopter le 28 mars, en prévision des Jeux Olympiques de Paris 2024, permettra l’ouverture des magasins le dimanche, établira un centre de santé dans le département de la Seine-Saint-Denis (situé au nord-est de Paris) et permettre à l’État français d’enquêter sur les futurs accrédités. Cependant, l’article 7 de cette loi est particulièrement controversé, car il stipule que la vidéosurveillance par IA peut être utilisée, à titre expérimental, pour assurer la sécurité des Jeux Olympiques. Les groupes de défense des droits de l’homme affirment que l’utilisation de cette technologie créera un dangereux précédent.
Au cours de la phase préliminaire, l’article 7 a été adopté par la majorité présidentielle, le parti de droite français Les Républicains et le Rassemblement national d’extrême droite. La Nouvelle Union populaire écologique et sociale (NUPES), une coalition de partis de gauche, s’y est opposée. Il permettra d’utiliser la technologie de vidéosurveillance basée sur des algorithmes pour assurer la sécurité des “événements sportifs, récréatifs ou culturels” à grande échelle à titre d’essai.
“Une attaque totale contre le droit à la vie privée”
« La vidéosurveillance algorithmique est une nouvelle forme de technologie qui utilise un logiciel informatique pour analyser en temps réel les images captées par les caméras de surveillance », explique Arnaud Touati, avocat spécialisé en droit du numérique. “Les algorithmes utilisés dans le logiciel sont notamment basés sur la technologie d’apprentissage automatique, qui permet à la vidéosurveillance IA, au fil du temps, de continuer à s’améliorer et à s’adapter aux nouvelles situations.”
Les partisans de cette technologie prétendent pouvoir anticiper les mouvements de foule et repérer les bagages abandonnés ou les incidents potentiellement dangereux. Par rapport à la vidéosurveillance traditionnelle, tout est automatisé avec des algorithmes en charge de l’analyse – ce qui, selon les partisans de cette technologie, limite les erreurs humaines.
“Alors que la France se présente comme un champion des droits de l’homme dans le monde, sa décision de légaliser la surveillance de masse alimentée par l’IA pendant les Jeux olympiques conduira à une attaque totale contre les droits à la vie privée, à la manifestation et à la liberté de réunion et d’expression”, Amnesty International a déclaré dans un communiqué après l’adoption de l’article.
Un héraut de la future vidéosurveillance à travers l’Europe ?
Katia Roux, spécialiste de la technologie et des droits humains de l’ONG, explique que cette technologie peut susciter de nombreuses peurs. “En vertu du droit international, la législation doit respecter les principes stricts de nécessité et de proportionnalité. Dans ce cas, cependant, le législateur ne l’a pas démontré”, dit-elle. “Nous parlons de technologie d’évaluation, qui doit évaluer les comportements et les catégoriser comme à risque afin que des mesures puissent être prises par la suite.”
“Cette technologie n’est pas légale aujourd’hui. En France, des expérimentations ont été faites mais pas dans le cadre légal que cette loi se propose de créer”, a-t-elle déclaré. “Ce n’est pas non plus légal au niveau européen. Il est même évoqué lors des discussions au Parlement européen sur la technologie et la réglementation des systèmes d’intelligence artificielle. La législation pourrait donc également violer le règlement européen en cours d’élaboration.”
“En adoptant cette loi, la France deviendrait la championne de la vidéosurveillance dans l’UE et créerait un précédent extrêmement dangereux. Elle enverrait un signal extrêmement inquiétant aux pays qui pourraient être tentés d’utiliser cette technologie contre leur propre population”, a-t-elle poursuivi.
Discriminatoire?
Une crainte est que l’algorithme apparemment froid et infaillible puisse en fait contenir des biais discriminatoires. “Ces algorithmes vont être entraînés à partir d’un ensemble de données décidées et conçues par des êtres humains. Ils pourront donc intégrer les biais discriminatoires des personnes qui les ont conçus et conçus”, précise Roux.
“La vidéosurveillance par IA a déjà été utilisée à des fins racistes, notamment par la Chine, dans la surveillance exclusive des Ouïghours, une minorité musulmane présente dans le pays”, explique Touati. “Parce que les minorités ethniques sont sous-représentées dans les données fournies aux algorithmes à des fins d’apprentissage, il existe d’importants biais discriminatoires et racistes. Selon une étude du MIT, alors que l’erreur de reconnaissance faciale est de 1% pour les hommes blancs, elle est de 34% pour les femmes noires.”
Touati veut cependant voir le verre à moitié plein. “L’utilisation de la vidéosurveillance par IA lors d’événements de cette ampleur pourrait également mettre en évidence la algorithme préjugés discriminatoires, misogynes et racistes en identifiant, à une fréquence trop élevée pour être exacte, des personnes issues de groupes ethniques minoritaires comme suspects potentiels », explique-t-il.
Interrogé par des membres de la coalition d’opposition de gauche NUPES sur le type de personnes visées par la vidéosurveillance par IA, le ministre français de l’Intérieur, Gérald Darmanin, a répondu : “Pas [ones wearing] hoodies.” Le gouvernement français estime que les limites fixées par la loi – absence de reconnaissance faciale, protection des données – suffiront à prévenir les pratiques discriminatoires.
“Nous avons mis en place des garde-fous pour que les appels d’offres ne soient réservés qu’aux entreprises qui respectent un certain nombre de règles, dont l’hébergement des données sur le territoire national, le respect de la CNIL [National Commission on Informatics and Liberty; an independent French administrative regulatory body responsible for ensuring that data privacy law is applied to the collection, storage and use of personal data] et le RGPD [General Data Protection Regulation ; a data protection law introduced by the EU]», déclare le député Philippe Latombe, membre du parti politique pro-Europe et de centre-droit Rassemblement démocratique. Il a cosigné un amendement avec le Rassemblement national pour que l’appel d’offres donne la priorité aux entreprises européennes. Je ne veux pas que ce soit une entreprise chinoise qui traite des données en Chine et utilise les données pour faire autre chose.”
“Nous ne sommes pas rassurés par les garanties du gouvernement. En réalité, aucun véritable amendement n’est possible, et cette technologie est, en soi, problématique et dangereuse pour les droits de l’homme”, explique Roux. “Il le restera tant qu’une évaluation sérieuse n’aura pas été menée, que la nécessité et la proportionnalité de son utilisation n’auront pas été démontrées et qu’un véritable débat n’aura pas eu lieu avec les différents acteurs de la société civile sur cette question.”
Événements sportifs et expériences technologiques
Bien que les Jeux Olympiques soient clairement l’événement visé, cette expérimentation technologique peut commencer dès la mise en place de la loi et se terminera le 31 décembre 2024, quatre mois après la fin des Jeux Paralympiques. Elle pourrait donc s’appliquer à un large éventail d’événements, à commencer par la Coupe du monde de rugby du 8 septembre au 28 octobre.
Les opposants à la vidéosurveillance IA craignent que son usage initialement exceptionnel ne finisse par se banaliser. Après tout, les événements sportifs sont souvent utilisés comme terrain d’essai pour le maintien de l’ordre, la sécurité et les nouvelles technologies. Les Jeux olympiques de Londres en 2012, par exemple, ont conduit à la généralisation de la vidéosurveillance dans la capitale britannique.
“Nous avons peur que cette période exceptionnelle ne devienne la norme”, explique Roux, qui ajoute que la technologie de reconnaissance vocale, déployée à titre expérimental lors de la Coupe du monde 2018 en Russie, est depuis utilisée pour réprimer l’opposition.
Enfin, Amnesty International craint que la vidéosurveillance ne débouche à terme sur la surveillance biométrique ou vocale. “La reconnaissance faciale n’est qu’une fonctionnalité qui attend d’être activée”, explique Roux.
La loi sur les Jeux olympiques de 2024 n’a pas encore achevé son parcours législatif. Suite au vote formel de mardi à l’Assemblée nationale, le texte subira plusieurs modifications et fera de multiples allers-retours entre l’Assemblée et le Sénat, qui l’avaient auparavant amendé, jusqu’à ce que les deux chambres s’accordent pour l’adopter.
Peter O’Brien de Tech 24 a contribué à cet article.
Cet article a été traduit de l’original en français.
Read more Sports News in French
Source
