Reconocimiento facial: Cómo funciona y cómo detenerlo.
El reconocimiento facial es una amenaza para la privacidad y la libertad, ¡pero podemos detenerlo!
Reconocimiento facial
Desde el escándalo de Clearview, todo el mundo conoce los peligros del reconocimiento facial. Pero los sistemas de reconocimiento facial pueden hacer mucho más que identificar a las personas a través de las cámaras de vigilancia. Estos sistemas de IA se utilizan hoy en día en muchas aplicaciones, algunas con fines de vigilancia, pero otras para asegurar los teléfonos inteligentes o las cerraduras de las puertas. Así que echemos un vistazo a
- ¿Qué es el reconocimiento facial?
- ¿Cómo funciona el reconocimiento facial?
- ¿Cuál es la precisión del reconocimiento facial?
- ¿Es el reconocimiento facial una herramienta de vigilancia?
- ¿Cómo detener el reconocimiento facial?
1. ¿Qué es el reconocimiento facial?
El reconocimiento facial es una tecnología que permite identificar a un individuo mediante su rostro. El reconocimiento facial puede tener lugar comparando a la persona con una sola foto de ésta o con una base de datos de fotos de varias personas.
Técnicamente, el sistema de reconocimiento facial señala y compara los rasgos faciales para identificar a una persona basándose en una imagen. Dado que el reconocimiento facial informatizado implica la medición de las características fisiológicas de un ser humano, los sistemas de reconocimiento facial se clasifican como biométricos, de forma similar al reconocimiento del iris o de las huellas dactilares. Aunque la precisión de los sistemas de reconocimiento facial como tecnología biométrica es menor que las otras dos, su adopción está muy extendida debido a su facilidad de uso, sobre todo a través de cámaras de vigilancia.
Los sistemas de reconocimiento facial se han convertido en muy poco tiempo en algo habitual, por ejemplo para desbloquear smartphones, aplicaciones o incluso puertas. Los sistemas de reconocimiento facial también son utilizados por las fuerzas del orden para localizar a las personas que figuran en una lista de vigilancia. En China el reconocimiento facial ya se utiliza para la vigilancia y también en Estados Unidos se ha utilizado para rastrear a personas activas en el discurso protegido.
2. ¿Cómo funciona el reconocimiento facial?
El reconocimiento facial automático es procesado por un ordenador que compara las características de un rostro con una o varias imágenes de caras almacenadas en una base de datos.
El sistema utiliza algoritmos informáticos para detectar detalles distintivos del rostro de una persona, como la distancia entre los ojos o la forma de la barbilla. A continuación, se convierten en una representación matemática y se comparan con los datos de otros rostros recogidos en una base de datos de reconocimiento facial. Los datos sobre un rostro concreto se denominan plantilla facial y son distintos a los de una fotografía porque están diseñados para incluir sólo ciertos detalles que pueden utilizarse para distinguir un rostro de otro.
Para encontrar una coincidencia, el sistema
- detecta el rostro en una fotografía
- analiza el rostro detectado,
- convierte la imagen en una representación matemática,
- y, por último, compara esta representación con otras de una base de datos.
De este modo, el sistema de reconocimiento facial puede identificarte como el verdadero propietario de tu iPhone o desbloquear la puerta de tu casa por ti. Para estos casos de uso, el reconocimiento facial no depende de una base de datos masiva de fotos: simplemente identifica y reconoce a una persona como propietaria del dispositivo, mientras limita el acceso a otras.
Alternativamente, y así es como el escándalo de Clearview muestra los peligros potenciales del reconocimiento facial, el sistema de reconocimiento facial puede utilizar una base de datos de imágenes, incluso de imágenes subidas a las redes sociales, para compararla con imágenes tomadas desde una cámara de vigilancia especial para encontrar a personas en una lista de vigilancia. Dichas personas no tienen por qué ser delincuentes, las autoridades o las empresas que gestionan las listas de vigilancia pueden definir quién debe estar en esta lista y quién debe ser el objetivo.
En lugar de identificar a una persona, algunos sistemas de reconocimiento facial están diseñados para calcular una puntuación de probabilidad, que significa la probabilidad de que una persona desconocida coincida con un rostro específico almacenado en la base de datos. Estos sistemas suelen enumerar varias coincidencias potenciales, clasificadas por orden de probabilidad.
3. ¿Cuál es la precisión del reconocimiento facial?
Los partidarios del reconocimiento facial suelen argumentar que esta tecnología de IA es necesaria para protegerse de los mayores riesgos, como los ataques terroristas y el tráfico de personas. Independientemente de estas afirmaciones, el reconocimiento facial se utiliza hoy en día sobre todo para delitos menores como el robo en tiendas o la venta de drogas por valor de 50 dólares.
El uso del reconocimiento facial -sobre todo para la persecución penal- ha sido muy criticado, ya que el método es propenso a los errores.
Los errores en el reconocimiento facial pueden ser “falsos negativos” o “falsos positivos”, como explica la EFF
”Un ‘falso negativo’ es cuando el sistema de reconocimiento de rostros no logra hacer coincidir el rostro de una persona con una imagen que, de hecho, está contenida en una base de datos. En otras palabras, el sistema devolverá erróneamente cero resultados en respuesta a una consulta”.
”Un ‘falso positivo’ es cuando el sistema de reconocimiento facial sí coincide con el rostro de una persona con una imagen en una base de datos, pero esa coincidencia es realmente incorrecta. Esto es cuando un oficial de policía presenta una imagen de ‘Joe’, pero el sistema le dice erróneamente que la foto es de ‘Jack’.”
Por ejemplo, en 2018 mientras se probaba el software de reconocimiento facial de Amazon, la herramienta identificó incorrectamente a 28 miembros del Congreso como personas que habían sido arrestadas por cometer un delito.
Aunque los sistemas de IA mejoran con el tiempo, el uso del reconocimiento facial sigue siendo problemático como tal.
4. ¿Es el reconocimiento facial una herramienta de vigilancia?
El reconocimiento facial no sólo es una herramienta de vigilancia, sino que permite la vigilancia total y completa de cualquier persona en cualquier lugar.
Aunque los partidarios de esta tecnología argumentan que depende de cómo la utilicen las empresas y las autoridades, las posibles formas de abuso son ilimitadas.
No hace falta mucha imaginación para imaginarse un mundo en el que las cámaras estén colocadas en cada esquina, siguiendo todos nuestros movimientos y cotejando nuestros rostros con una base de datos en tiempo real para saber quién está en cada momento. En un mundo así, el derecho a la privacidad desaparece y la vigilancia masiva en la esfera pública es total.
China es uno de los mejores -o debería decir peores- ejemplos en lo que respecta al reconocimiento facial y la vigilancia masiva. Una filtración de la base de datos de una empresa china de reconocimiento facial muestra la magnitud de la vigilancia: “Sólo en las últimas 24 horas, se registraron más de 6,8 millones de localizaciones” para seguir los movimientos de las personas a partir del reconocimiento facial en tiempo real.
En China, la foto de todos los 1.400 millones de ciudadanos ha acabado en la base de datos de reconocimiento facial. Hay cientos de millones de cámaras de vigilancia en China, y el número sigue creciendo, para hacer realidad el sueño distópico de China.
5. Cómo detener el reconocimiento facial
El reconocimiento facial es una de las tecnologías de vigilancia más peligrosas. En consecuencia, debemos prohibir el reconocimiento facial para defender la privacidad.
Afortunadamente, hoy en día tienes múltiples opciones para defenderte del reconocimiento facial.
Puedes asegurarte de no subir fotos personales a la web. Si no hay fotos tuyas que puedan ser escarbadas, no existe ninguna base de datos con la que las cámaras de vigilancia puedan cotejar tu rostro. Sin embargo, el problema que nos ha mostrado el escándalo de Clearview es: Las fotos de miles de millones de personas ya están publicadas en línea en las redes sociales, y las empresas pueden raspar estas fotos junto con las etiquetas de los nombres para crear una base de datos.
Además, algunas personas querrán subir fotos a los sitios web o a las redes sociales porque forma parte de su vida social. Los investigadores han encontrado una forma estupenda de hacerlo y seguir engañando a los algoritmos de reconocimiento facial.
Fawkes
Fawkes es una herramienta que entrena a un sistema de reconocimiento facial para que aprenda algo incorrecto sobre ti alterando ligeramente tus fotos antes de subirlas a la web. De este modo, la IA ya no puede comparar las fotos subidas con tu cara real. Sin embargo, al volver a probar el software de Fawkes, los investigadores reconocieron que el servicio de reconocimiento facial de Microsoft Azure ya no era falsificado por algunas de sus imágenes. Adelantarse al software de reconocimiento facial es un juego del gato y el ratón, y lo seguirá siendo a medida que ambas tecnologías vayan mejorando.
Puedes descargar Fawkes aquí
LowKey
Otro proyecto de investigación prometedor es LowKey. Este software convierte las imágenes en ejemplos no aprendibles. Así, cuando una IA realiza una búsqueda de reconocimiento facial, LowKey hace que el software de reconocimiento facial ignore por completo tus fotos o selfies. La herramienta se asegura de que el software de IA no aprenda nada sobre ti para que no tenga una base de datos con la que pueda comparar tu cara.
Puedes descargar LowKey aquí.
Pasar a la acción
Luchar contra la tecnología es una buena forma de proteger nuestra privacidad. Por ejemplo, en Tutanota luchamos contra la vigilancia masiva con el cifrado de extremo a extremo, y con éxito.
Sin embargo, como ciudadanos de países democráticos debemos asegurarnos siempre de que nuestro derecho a la privacidad se defienda también en la política.
Puedes unirte a la lucha política para reclamar tu rostro y firmar esta petición de la UE.