Technologie de reconnaissance faciale et biométrie : Analyse de l’ANPD
Le 24 juin 2024, l’Autorité brésilienne de protection des données (ANPD) a publié la deuxième édition du Radar Technologique. Cette édition porte sur « la biométrie et la reconnaissance faciale ». L’ANPD analyse les impacts de cette technologie, en mettant notamment en lumière les risques et les défis en matière de protection des données personnelles, en particulier au regard de la Loi générale brésilienne sur la protection des données (LGPD).
Définitions
La reconnaissance biométrique est d’abord définie comme une analyse technique, par un système automatisé, identifiant les caractéristiques physiologiques (empreinte digitale, visage, iris, etc.) ou comportementales (voix, expression faciale, démarche, etc.) d’un individu. L’article définit ensuite un modèle biométrique comme base pour vérifier l’identité de quelqu’un à travers la reconnaissance faciale, stocké sous forme de code de hachage dans la base de données du système de reconnaissance.
Utilisations
L’article se concentre sur la reconnaissance faciale, qui a trois objectifs principaux dans la reconnaissance biométrique : (i) détecter simplement la présence de personnes, (ii) identifier de manière indéniable un individu et (iii) classer un individu en fonction de ses expressions émotionnelles. L’article mentionne également l’utilisation de la reconnaissance faciale dans la neurotechnologie, notamment dans les technologies d’interface cerveau-ordinateur (BCI), largement utilisées dans le domaine de la santé et ayant fait des progrès significatifs ces dernières années.
Risques liés à l’IA et autres
L’ANPD met en avant l’utilisation de l’intelligence artificielle (IA) qui, par l’entraînement avec de grandes quantités de données, a contribué à l’amélioration de la précision des systèmes d’identification biométrique. Cependant, il est essentiel de souligner que le Règlement de l’Union européenne sur l’intelligence artificielle interdit, par exemple, l’utilisation de systèmes d’IA biométriques visant à déduire les émotions d’un individu dans le cadre professionnel ou scolaire. Ce règlement interdit également l’utilisation de systèmes d’IA biométriques à d’autres fins, telles que catégoriser les individus en fonction de leur race.
En outre, l’identification biométrique et les systèmes d’authentification pour reconnaître les émotions sont considérés comme présentant des risques élevés – mais ne sont pas interdits – dans l’article 14, XI de la version du 18 juin 2024 du projet de loi brésilien sur l’intelligence artificielle. L’article souligne que les données biométriques sont considérées comme des données sensibles en vertu de la LGPD, ce qui accroît le risque de toute activité de traitement. L’identification et la classification possibles des individus à l’aide de la neurotechnologie, par exemple, soulèvent des risques notables en matière de protection des données et de confidentialité, ainsi que d’autres préoccupations.
Controverses sur l’espace public
Alors que l’article décrit les nombreuses utilisations de la technologie de reconnaissance faciale pour identifier des individus – contrôle des frontières, sécurité publique, prévention de la fraude, entre autres – l’accent principal est mis sur l’utilisation de la reconnaissance faciale dans la sécurité publique, c’est-à-dire la surveillance de masse. L’ANPD analyse plusieurs cas, identifiant les risques et impacts potentiels pour les individus de cette utilisation particulière.
Le règlement sur l’intelligence artificielle de l’UE interdit l’utilisation de systèmes d’IA d’identification biométrique en temps réel dans les espaces publics, avec quelques exceptions, comme identifier une personne soupçonnée d’avoir commis une infraction pénale, ou mener une enquête criminelle. De même, l’article 13, § VII de la version de juin 2024 du projet brésilien sur l’intelligence artificielle interdit l’utilisation de systèmes de reconnaissance biométrique en temps réel dans des espaces accessibles au public, sauf pour rechercher des victimes de crimes ou de disparitions ou dans d’autres circonstances impliquant une menace grave et imminente pour la vie ou l’intégrité physique des personnes naturelles.
La FTC américaine a enquêté sur la technologie de reconnaissance faciale. La FTC a ordonné une interdiction de cinq ans de l’utilisation de la technologie de reconnaissance faciale pour surveiller des magasins d’une chaîne de pharmacies, car la technologie produisait des faux positifs de personnes présumées voler ou commettre d’autres actes répréhensibles dans les magasins. Cette technologie a conduit à la discrimination contre certaines personnes, en particulier en raison de leur couleur, ce qui a motivé la décision de la FTC.
L’utilisation de la technologie de surveillance basée sur la biométrie faciale est également controversée au niveau mondial ; Amnesty International, Human Rights Watch et 180 autres organisations et experts appellent à l’interdiction de ces systèmes.
Des orientations à venir
L’article ne donne pas d’indications claires sur les mesures que les entreprises utilisant la technologie de reconnaissance faciale pourraient mettre en œuvre. Cependant, l’ANPD a déclaré que cet article n’est qu’un bref aperçu du sujet et que nous devrions nous attendre à des orientations plus spécifiques prochainement.
Source : www.mayerbrown.com