La reconnaissance faciale : Comment ça marche et comment l'arrêter.
La reconnaissance faciale est une menace pour la vie privée et la liberté, mais nous pouvons l'arrêter !
La reconnaissance des visages
Depuis le scandale de Clearview, tout le monde connaît les dangers de la reconnaissance faciale. Mais les systèmes de reconnaissance faciale peuvent faire bien plus qu’identifier des individus via des caméras de surveillance. Ces systèmes d’IA sont aujourd’hui utilisés dans de nombreuses applications, certaines à des fins de surveillance, mais d’autres pour sécuriser des smartphones ou des serrures de porte. Jetons donc un coup d’œil à
- Qu’est-ce que la reconnaissance faciale ?
- Comment fonctionne la reconnaissance faciale ?
- Quelle est la précision de la reconnaissance faciale ?
- La reconnaissance faciale est-elle un outil de surveillance ?
- Comment arrêter la reconnaissance faciale ?
1. Qu’est-ce que la reconnaissance faciale ?
La reconnaissance faciale est une technologie qui permet d’identifier une personne à partir de son visage. La reconnaissance faciale peut se faire en comparant la personne à une seule photo de cette personne ou à une base de données de photos d’un certain nombre de personnes.
Techniquement, le système de reconnaissance faciale repère et compare les caractéristiques du visage pour identifier une personne à partir d’une image. Étant donné que la reconnaissance faciale informatisée implique la mesure des caractéristiques physiologiques d’une personne, les systèmes de reconnaissance faciale sont classés dans la catégorie des systèmes biométriques, comme la reconnaissance de l’iris ou des empreintes digitales. Bien que la précision des systèmes de reconnaissance faciale en tant que technologie biométrique soit inférieure aux deux autres, elle est largement adoptée en raison de sa facilité d’utilisation, notamment par le biais de la surveillance par caméra.
Les systèmes de reconnaissance faciale sont devenus habituels en très peu de temps, par exemple pour déverrouiller des smartphones, des applications ou même des portes. Les systèmes de reconnaissance faciale sont également utilisés par les forces de l’ordre pour traquer les personnes figurant sur une liste de surveillance. En Chine, la reconnaissance faciale est déjà utilisée pour la surveillance et aux États-Unis, elle a été utilisée pour traquer les personnes actives dans les discours protégés.
2. Comment fonctionne la reconnaissance faciale ?
La reconnaissance automatique des visages est traitée par un ordinateur qui compare les caractéristiques d’un visage avec une ou plusieurs images de visages stockées dans une base de données.
Le système utilise des algorithmes informatiques pour repérer les détails distinctifs du visage d’une personne, tels que la distance entre les yeux ou la forme du menton. Ces détails sont ensuite convertis en une représentation mathématique et comparés aux données relatives à d’autres visages recueillies dans une base de données de reconnaissance des visages. Les données relatives à un visage particulier sont appelées “modèle de visage” et se distinguent d’une photographie car elles sont conçues pour n’inclure que certains détails permettant de distinguer un visage d’un autre.
Pour trouver une correspondance, le système
- détecte le visage dans une photo,
- analyse le visage détecté,
- convertit l’image en une représentation mathématique,
- et, enfin, fait correspondre cette représentation à d’autres dans une base de données.
Ainsi, le système de reconnaissance faciale peut vous identifier comme le véritable propriétaire de votre iPhone ou déverrouiller pour vous la porte d’entrée de votre maison. Pour ces cas d’utilisation, la reconnaissance faciale ne repose pas sur une base de données massive de photos - elle identifie et reconnaît simplement une personne comme étant le propriétaire de l’appareil, tout en limitant l’accès aux autres.
Sinon, et c’est ainsi que le scandale Clearview montre les dangers potentiels de la reconnaissance faciale, le système de reconnaissance faciale peut utiliser une base de données d’images, même d’images téléchargées sur les médias sociaux, pour la comparer aux images prises par une caméra de surveillance spéciale afin de trouver des personnes sur une liste de surveillance. Ces personnes ne doivent pas nécessairement être des criminels, les autorités ou les entreprises qui gèrent les listes de surveillance peuvent définir qui doit figurer sur cette liste et qui doit être ciblé.
Au lieu d’identifier une personne, certains systèmes de reconnaissance faciale sont conçus pour calculer un score de probabilité, qui indique la probabilité qu’une personne inconnue corresponde à un visage spécifique stocké dans la base de données. Ces systèmes énumèrent généralement plusieurs correspondances potentielles, classées par ordre de probabilité.
3. Quelle est la précision de la reconnaissance faciale ?
Les partisans de la reconnaissance faciale affirment souvent que cette technologie d’IA est nécessaire pour se protéger contre les plus grands risques, tels que les attaques terroristes et le trafic d’êtres humains. Indépendamment de ces affirmations, la reconnaissance faciale est aujourd’hui principalement utilisée pour des délits mineurs tels que le vol à l’étalage ou la vente de drogues d’une valeur de 50 dollars.
L’utilisation de la reconnaissance faciale - en particulier pour les poursuites pénales - a été fortement critiquée car la méthode est sujette à des erreurs.
Les erreurs de reconnaissance faciale peuvent être des “faux négatifs” ou des “faux positifs”, comme l’explique l’EFF.
”On parle de “faux négatif” lorsque le système de reconnaissance des visages ne parvient pas à faire correspondre le visage d’une personne à une image qui est, en fait, contenue dans une base de données. En d’autres termes, le système renvoie par erreur zéro résultat en réponse à une requête."
"On parle de ‘faux positif’ lorsque le système de reconnaissance faciale fait correspondre le visage d’une personne à une image contenue dans une base de données, mais que cette correspondance est en fait incorrecte. C’est le cas lorsqu’un policier soumet une image de ‘Joe’, mais que le système lui indique à tort que la photo est celle de ‘Jack’.”
Par exemple, en 2018, alors qu’il testait le logiciel de reconnaissance faciale d’Amazon, l’outil a identifié à tort 28 membres du Congrès comme des personnes ayant été arrêtées pour avoir commis un crime.
Si les systèmes d’IA s’améliorent avec le temps, l’utilisation de la reconnaissance faciale reste problématique en tant que telle.
4. La reconnaissance faciale est-elle un outil de surveillance ?
La reconnaissance faciale n’est pas seulement un outil de surveillance, elle permet une surveillance totale et complète de n’importe qui, n’importe où.
Si les partisans de cette technologie affirment que tout dépend de la manière dont les entreprises et les autorités l’utilisent, les formes potentielles d’abus sont illimitées.
Il n’est pas nécessaire de faire preuve de beaucoup d’imagination pour imaginer un monde où des caméras sont installées à chaque coin de rue, suivant chacun de nos mouvements, et comparant nos visages à une base de données en temps réel pour savoir qui est où à tout moment. Dans un tel monde, le droit à la vie privée a disparu et la surveillance de masse dans la sphère publique est totale.
La Chine est l’un des meilleurs - ou devrais-je dire des pires - exemples en matière de reconnaissance faciale et de surveillance de masse. Une fuite de la base de données d’une entreprise chinoise spécialisée dans la reconnaissance faciale montre l’ampleur de la surveillance : “Rien qu’au cours des dernières 24 heures, plus de 6,8 millions de lieux ont été enregistrés” pour suivre les mouvements des personnes sur la base de la reconnaissance faciale en temps réel.
En Chine, la photo de chacun des 1,4 milliard de citoyens s’est retrouvée dans la base de données de reconnaissance faciale . Il y a des centaines de millions de caméras de surveillance en Chine, et leur nombre ne cesse d’augmenter - pour réaliser le rêve dytopique de la Chine.
5. Comment arrêter la reconnaissance faciale
La reconnaissance faciale est l’une des technologies de surveillance les plus dangereuses. Par conséquent, nous devons interdire la reconnaissance faciale pour défendre la vie privée.
Heureusement, vous disposez aujourd’hui de plusieurs options pour vous défendre contre la reconnaissance faciale.
Vous pouvez vous assurer de ne pas télécharger de photos personnelles sur le web. S’il n’y a pas de photos de vous qui peuvent être extraites, il n’existe aucune base de données à laquelle les caméras de surveillance peuvent associer votre visage. Le problème, cependant, que le scandale de Clearview nous a montré est le suivant : Les photos de milliards de personnes sont déjà mises en ligne sur les sites de médias sociaux, et les entreprises peuvent gratter ces photos ainsi que les étiquettes de noms pour créer une base de données.
En outre, certaines personnes voudront télécharger des photos sur des sites web ou des médias sociaux parce que cela fait partie de leur vie sociale. Les chercheurs ont maintenant trouvé un excellent moyen de le faire tout en trompant les algorithmes de reconnaissance faciale.
Fawkes
Fawkes est un outil qui entraîne un système de reconnaissance faciale à apprendre quelque chose de faux sur vous en modifiant légèrement vos photos avant de les télécharger sur le web. De cette façon, l’IA ne peut plus faire correspondre les photos téléchargées à votre vrai visage. Toutefois, en testant à nouveau le logiciel de Fawkes, les chercheurs ont constaté que le service de reconnaissance faciale de Microsoft Azure n’était plus trompé par certaines de leurs images. Garder une longueur d’avance sur les logiciels de reconnaissance faciale est un jeu du chat et de la souris et le restera, car les deux technologies s’améliorent.
Vous pouvez télécharger Fawkes ici
LowKey
LowKey est un autre projet de recherche prometteur. Ce logiciel transforme les images en exemples inapprenables. Ainsi, lorsqu’une IA effectue une recherche de reconnaissance faciale, LowKey fait en sorte que le logiciel de reconnaissance faciale ignore complètement vos photos ou selfies. L’outil fait en sorte que le logiciel d’IA n’apprenne rien sur vous, de sorte qu’il ne dispose pas d’une base de données à laquelle il peut faire correspondre votre visage.
Vous pouvez télécharger LowKey ici.
Passez à l’action
Lutter contre la technologie est un bon moyen de protéger notre vie privée. Par exemple, chez Tutanota, nous luttons contre la surveillance de masse avec un cryptage de bout en bout, et avec succès.
Cependant, en tant que citoyens de pays démocratiques, nous devons toujours veiller à ce que notre droit à la vie privée soit également défendu en politique.
Vous pouvez rejoindre le combat politique pour récupérer votre visage et signer cette pétition de l’UE.