Un groupe de 51 organisations vient d’adresser une lettre ouverte aux commissaires européens pour demander l’interdiction de tout déploiement d’outils de reconnaissance faciale permettant d’espionner les citoyens.
Un groupe de 51 organisations de défense des droits numériques vient d’exhorter la Commission européenne à interdire totalement l’utilisation des technologies de reconnaissance faciale pour la surveillance de masse – et cela sans aucune exception.
Composé de groupes venus de plusieurs pays européens, tels que Big Brother Watch UK, AlgorithmWatch et la Société numérique européenne, l’appel a été chaperonné par le réseau de défense des droits numériques européens (EDRi) sous la forme d’une lettre ouverte adressée au commissaire européen à la Justice, Didier Reynders. Il intervient quelques semaines avant que la Commission ne publie, le 21 avril, de nouvelles règles très attendues sur l’utilisation éthique de l’intelligence artificielle sur le continent.
La lettre de ces ONG exhorte Bruxelles à soutenir une protection accrue des droits humains fondamentaux dans les lois à venir, en particulier en ce qui concerne la reconnaissance faciale et d’autres technologies biométriques, lorsque ces outils sont utilisés dans les espaces publics pour effectuer une surveillance de masse.
Une technologie controversée
Selon cette coalition d’ONG, il n’existe pas d’exemples où l’utilisation de la reconnaissance faciale à des fins de surveillance de masse justifie le préjudice qu’elle pourrait causer aux droits des personnes, comme le droit à la vie privée, à la protection des données, à la non-discrimination ou à la libre expression.
Les promoteurs de ces technologies affirment souvent qu’elles sont un outil raisonnable à déployer dans certaines circonstances, par exemple pour surveiller le public dans le cadre de l’application de la loi. A contrario, les signataires de la lettre soutiennent qu’une interdiction générale devrait plutôt être imposée à tous les cas d’utilisation potentiels.
« Partout où une technologie biométrique implique une surveillance de masse, nous demandons une interdiction de toutes les utilisations et applications sans exception », explique ainsi Ella Jakubowska, responsable des politiques et des campagnes chez EDRi, interrogée par ZDNet. « Nous pensons que toute utilisation qui cible indistinctement ou arbitrairement des personnes dans un espace public va toujours, et sans aucun doute, enfreindre les droits fondamentaux. Elle n’atteindra jamais le seuil de nécessité et de proportionnalité. »
J’irai filmer chez vous
Exemple en Chine, où le régime utilise la reconnaissance faciale pour effectuer une surveillance de masse de la population musulmane ouïghoure vivant dans le Xinjiang, par le biais de systèmes de balayage de type portail qui enregistrent les caractéristiques biométriques, ainsi que les empreintes digitales des smartphones pour suivre les mouvements des résidents.
Plus près de chez nous, une recherche récente coordonnée par EDRi a trouvé des exemples de déploiements controversés de technologies biométriques pour la surveillance de masse dans une grande majorité des pays de l’UE.
Ces exemples vont de l’utilisation de la reconnaissance faciale pour la gestion des files d’attente dans les aéroports de Rome et de Bruxelles à l’utilisation de cette technologie par les autorités allemandes pour surveiller les manifestants du G20 à Hambourg. La Commission européenne a accordé une subvention de 4,5 millions d’euros (5,3 millions de dollars) pour le déploiement d’une technologie baptisée iBorderCtrl dans certains postes-frontières européens, qui capte les gestes des voyageurs pour détecter ceux qui pourraient mentir en essayant d’entrer illégalement dans un pays de l’UE.
L’UE se saisit du dossier
Ces derniers mois, cependant, certains hauts responsables de l’Union européenne se sont montrés favorables à une législation qui limiterait la portée des technologies de reconnaissance faciale. Dans un livre blanc publié l’année dernière, Bruxelles affirmait même envisager d’interdire complètement cette technologie.
La vice-présidente de l’UE chargée du numérique, Margrethe Vestager, ajoute que l’utilisation d’outils de reconnaissance faciale pour identifier automatiquement les citoyens est en contradiction avec le régime de protection des données de l’Union, étant donné qu’elle ne répond pas à l’une des principales exigences du RGPD, à savoir l’obtention du consentement de la personne avant le traitement de ses données biométriques.
Selon l’EDRi, cela ne suffira pas à empêcher la technologie d’interférer avec les droits de l’Homme. Le RGPD laisse un espace pour des exemptions en cas de « stricte nécessité ». Ce qui, couplé à une mauvaise application de la règle du consentement, a conduit à des exemples d’utilisation de la reconnaissance faciale au détriment des citoyens de l’UE, comme ceux découverts par l’EDRi.
Bruxelles doit faire plus pour les ONG
« Nous avons la preuve que le cadre juridique existant est mal appliqué et présente des problèmes de mise en œuvre. Ainsi, bien que les commissaires semblent convenir qu’en principe, ces technologies devraient être interdites par le RGPD, cette interdiction n’existe pas dans la réalité », explique Ella Jakubowska. « C’est pourquoi nous souhaitons que la Commission publie une interdiction plus spécifique et plus claire, qui s’appuie sur les interdictions existantes dans le droit général de la protection des données », relève cette dernière.
L’EDRi et les 51 organisations qui ont signé la lettre ouverte rejoignent un chœur de voix militantes qui exigeaient une action similaire au cours des dernières années. Pour rappel, plus de 43 500 citoyens européens ont signé une pétition « Reclaim Your Face », demandant l’interdiction des pratiques biométriques de surveillance de masse dans l’UE. Il y a quelques mois, le conseil de l’Europe a également demandé l’interdiction de certaines applications de la reconnaissance faciale, lorsqu’elles sont susceptibles d’entraîner des discriminations.
La pression monte donc sur la Commission européenne, à l’approche de la publication par l’institution de nouvelles règles sur l’IA, qui devraient déterminer la place et la pertinence de l’UE dans ce qui est souvent décrit comme une course contre les superpuissances chinoise et américaine.
La pression monte
Pour Ella Jakubowska, il s’agit toutefois d’une opportunité à saisir. « Ces technologies ne sont pas inévitables », dit-elle. « Nous sommes à un point de basculement important où nous pourrions en fait prévenir un grand nombre de préjudices futurs et de pratiques technologiques autoritaires avant qu’ils n’aillent plus loin. Nous n’avons pas besoin d’attendre des impacts énormes et perturbateurs sur la vie des gens pour les arrêter. C’est une occasion incroyable pour la société civile d’intervenir, à un moment où nous pouvons encore changer les choses. »
Dans le cadre de la lettre ouverte publiée ce mardi, l’EDRi a également exhorté la Commission à examiner attentivement les autres applications potentiellement dangereuses de l’IA, et à tracer quelques lignes rouges si nécessaire.
Parmi les cas d’utilisation qui pourraient être problématiques, les signataires ont signalé les technologies susceptibles d’entraver l’accès aux soins de santé, à la sécurité sociale ou à la justice, ainsi que les systèmes qui font des prédictions sur les comportements et les pensées des citoyens ; et les algorithmes capables de manipuler les individus, et présentant une menace pour la dignité humaine, l’agencement et la démocratie collective.
Source : ZDNet.com
