Riconoscimento dei volti: Come funziona e come fermarlo.
Il riconoscimento facciale è una minaccia alla privacy e alla libertà, ma noi possiamo fermarlo!
Riconoscimento facciale
Dallo scandalo Clearview, tutti conoscono i pericoli del riconoscimento facciale. Ma i sistemi di riconoscimento facciale possono fare molto di più che identificare individui tramite telecamere di sorveglianza. Questi sistemi di IA sono utilizzati in molte applicazioni oggi, alcune per scopi di sorveglianza, ma altre per proteggere gli smartphone o le serrature delle porte. Quindi diamo un’occhiata a
- Cos’è il riconoscimento facciale?
- Come funziona il riconoscimento facciale?
- Quanto è accurato il riconoscimento facciale?
- Il riconoscimento facciale è uno strumento di sorveglianza?
- Come fermare il riconoscimento facciale?
1. Cos’è il riconoscimento facciale?
Il riconoscimento facciale è una tecnologia che può identificare un individuo utilizzando il suo volto. Il riconoscimento facciale può avvenire confrontando la persona con una singola immagine di questa persona o con un database di immagini di un certo numero di persone.
Tecnicamente, il sistema di riconoscimento facciale individua e confronta le caratteristiche facciali per identificare una persona sulla base di un’immagine. Poiché il riconoscimento facciale computerizzato implica la misurazione delle caratteristiche fisiologiche di un essere umano, i sistemi di riconoscimento facciale sono classificati come biometrici, simili al riconoscimento dell’iride o delle impronte digitali. Anche se la precisione dei sistemi di riconoscimento facciale come tecnologia biometrica è inferiore alle altre due, è ampiamente adottata a causa della sua facilità d’uso, in particolare attraverso la sorveglianza con telecamera.
I sistemi di riconoscimento facciale sono diventati abituali in un periodo di tempo molto breve, per esempio per sbloccare smartphone, app o anche porte. I sistemi di riconoscimento facciale sono anche utilizzati dalle forze dell’ordine per rintracciare persone su una lista di controllo. In Cina il riconoscimento facciale è già usato per la sorveglianza e anche negli Stati Uniti è stato usato per rintracciare persone attive in discorsi protetti.
2. Come funziona il riconoscimento facciale?
Il riconoscimento facciale automatizzato viene elaborato da un computer che confronta le caratteristiche di un volto con una o molte immagini di volti memorizzate in un database.
Il sistema utilizza algoritmi informatici per individuare dettagli distintivi del volto di una persona, come la distanza tra gli occhi o la forma del mento. Questi vengono poi convertiti in una rappresentazione matematica e confrontati con i dati su altri volti raccolti in un database di riconoscimento facciale. I dati su un volto particolare sono chiamati template di un volto e si distinguono da una fotografia perché sono progettati per includere solo alcuni dettagli che possono essere usati per distinguere un volto da un altro.
Per trovare una corrispondenza, il sistema
- rileva il volto in una foto,
- analizza il volto rilevato,
- converte l’immagine in una rappresentazione matematica,
- e, infine, abbina questa rappresentazione ad altre in un database.
In questo modo il sistema di riconoscimento facciale può identificarvi come il vero proprietario del vostro iPhone o sbloccare la porta di casa vostra. Per questi casi d’uso, il riconoscimento facciale non si basa su un enorme database di foto - semplicemente identifica e riconosce una persona come proprietario del dispositivo, limitando l’accesso agli altri.
In alternativa, ed è così che lo scandalo Clearview mostra i potenziali pericoli del riconoscimento facciale, il sistema di riconoscimento facciale può utilizzare un database di immagini, anche di immagini caricate sui social media, per confrontarlo con le immagini prese da una speciale telecamera di sorveglianza per trovare le persone su una watchlist. Queste persone non devono essere necessariamente dei criminali, le autorità o le aziende che gestiscono le watchlist possono definire chi deve essere su questa lista e chi deve essere preso di mira.
Invece di identificare una persona, alcuni sistemi di riconoscimento facciale sono progettati per calcolare un punteggio di probabilità, che indica la probabilità che una persona sconosciuta corrisponda a un volto specifico memorizzato nel database. Tali sistemi di solito elencano diverse potenziali corrispondenze, classificate in ordine di probabilità.
3. Quanto è accurato il riconoscimento facciale?
I sostenitori del riconoscimento facciale spesso sostengono che questa tecnologia AI è necessaria per proteggersi dai rischi più grandi, come gli attacchi terroristici e il traffico di esseri umani. Indipendentemente da tali affermazioni, il riconoscimento facciale oggi è per lo più utilizzato per reati minori come il taccheggio o la vendita di droghe del valore di 50 dollari.
L’uso del riconoscimento facciale - in particolare per la persecuzione penale - è stato molto criticato perché il metodo è soggetto a errori.
Gli errori nel riconoscimento dei volti possono essere “falsi negativi” o “falsi positivi” come spiegato dalla EFF
”Un ‘falso negativo’ è quando il sistema di riconoscimento facciale non riesce a far corrispondere il volto di una persona a un’immagine che è, infatti, contenuta in un database. In altre parole, il sistema restituisce erroneamente zero risultati in risposta a una query”.
”Un ‘falso positivo’ è quando il sistema di riconoscimento facciale fa corrispondere il volto di una persona a un’immagine in un database, ma tale corrispondenza è effettivamente errata. Questo è quando un agente di polizia presenta un’immagine di ‘Joe’, ma il sistema dice erroneamente all’agente che la foto è di ‘Jack’“.
Per esempio, nel 2018, durante i test del software di riconoscimento facciale di Amazon, lo strumento ha erroneamente identificato 28 membri del Congresso come persone che erano state arrestate per aver commesso un crimine.
Mentre i sistemi AI migliorano nel tempo, l’uso del riconoscimento facciale rimane problematico in quanto tale.
4. Il riconoscimento facciale è uno strumento di sorveglianza?
Il riconoscimento facciale non è solo uno strumento di sorveglianza, ma permette una sorveglianza totale e completa di chiunque, ovunque.
Mentre i sostenitori della tecnologia sostengono che dipende da come le aziende e le autorità usano la tecnologia, le potenziali forme di abuso sono illimitate.
Non ci vuole molta immaginazione per immaginare un mondo in cui le telecamere sono messe ad ogni angolo, tracciando ogni nostra mossa, e abbinando i nostri volti ad un database in tempo reale per sapere chi è dove in ogni momento. In un tale mondo, il diritto alla privacy è scomparso e la sorveglianza di massa nella sfera pubblica è totale.
La Cina è uno dei migliori - o dovrei dire peggiori - esempi quando si tratta di riconoscimento facciale e sorveglianza di massa. Una fuga di dati da una società cinese di riconoscimento facciale mostra la pura estensione della sorveglianza: “Solo nelle ultime 24 ore, ci sono state più di 6,8 milioni di posizioni registrate” per tracciare i movimenti delle persone in base al riconoscimento facciale in tempo reale.
In Cina, la foto di tutti gli 1,4 miliardi di cittadini è finita nel database di riconoscimento facciale. Ci sono centinaia di milioni di telecamere di sorveglianza in Cina, e il numero continua a crescere - per realizzare il sogno ditopico della Cina.
5. Come fermare il riconoscimento facciale
Il riconoscimento facciale è una delle tecnologie di sorveglianza più pericolose. Di conseguenza, dobbiamo vietare il riconoscimento facciale per difendere la privacy.
Fortunatamente, oggi hai diverse opzioni per difenderti dal riconoscimento facciale.
Puoi assicurarti di non caricare foto personali sul web. Se non ci sono foto che ti riguardano che possono essere scrause, non esiste alcun database a cui le telecamere di sorveglianza possano abbinare il tuo volto. Il problema, però, che lo scandalo Clearview ci ha mostrato è: Le foto di miliardi di persone sono già pubblicate online sui siti di social media, e le aziende possono raschiare queste foto insieme alle etichette dei nomi per creare un database.
Oltre a questo, alcune persone vorranno caricare foto su siti web o social media perché è parte della loro vita sociale. I ricercatori hanno ora trovato un ottimo modo per fare questo e ancora ingannare gli algoritmi di riconoscimento facciale.
Fawkes
Fawkes è uno strumento che addestra un sistema di riconoscimento facciale a imparare qualcosa di sbagliato su di te, alterando leggermente le tue foto prima di caricarle sul web. In questo modo l’IA non può più abbinare le foto caricate al tuo vero volto. Tuttavia, quando hanno ritestato il software Fawkes, i ricercatori hanno riconosciuto che il servizio di riconoscimento facciale di Microsoft Azure non è stato più spoofato da alcune delle loro immagini. Stare davanti al software di riconoscimento facciale è un gioco di gatto e topo e rimarrà tale in quanto entrambe le tecnologie miglioreranno.
Potete scaricare Fawkes qui
LowKey
Un altro promettente progetto di ricerca è LowKey. Questo software trasforma le immagini in esempi non imparabili. Così, quando un’IA esegue una ricerca di riconoscimento facciale, LowKey effettivamente fa sì che il software di riconoscimento facciale ignori completamente le vostre foto o i vostri selfie. Lo strumento fa in modo che il software AI non impari nulla su di voi, in modo da non avere un database a cui abbinare il vostro volto.
Potete scaricare LowKey qui.
Passare all’azione
Lottare contro la tecnologia è un buon modo per proteggere la nostra privacy. Per esempio, noi di Tutanota lottiamo contro la sorveglianza di massa con la crittografia Ende-zu-Ende, e con successo.
Tuttavia, come cittadini di paesi democratici dobbiamo sempre assicurarci che il nostro diritto alla privacy sia difeso anche in politica.
Puoi unirti alla lotta politica per reclamare il tuo volto e firmare questa petizione dell’UE.