Papà invia foto di suo figlio nudo via Gmail e il suo account Google viene bloccato per sempre.

L’incidente descritto sopra è avvenuto durante la pandemia di COVID, con la chiusura di molti studi medici. IlNew York Times ne ha parlato per primo.

Il padre ha notato delle anomalie nell’area genitale di suo figlio e ha inviato delle foto per una diagnosi a distanza su richiesta dello studio del pediatra, come riportato dal “New York Times”. Poiché le foto sono state inviate tramite Gmail, Google ha avuto accesso ad esse e le ha analizzate alla ricerca di potenziali attività criminali.

Gli algoritmi di Google hanno rilevato le immagini di nudo, bloccando immediatamente l’account. Il caso è stato quindi trasmesso alle autorità che hanno avviato un’indagine, ma l’hanno presto chiusa poiché il padre non aveva commesso alcun reato. La polizia ha avuto accesso a tutte le informazioni che Google aveva su di lui e ha deciso che non si trattava di abuso o sfruttamento di minori.

A prescindere da questa decisione, l’account Google del padre è rimasto bloccato a causa della condivisione di queste foto di nudo.

Anche quando il padre si è appellato nuovamente a Google, fornendo il rapporto della polizia che lo dichiarava innocente, Google ha rifiutato. Quindi il suo account è stato cancellato in modo permanente a causa dell’inattività.

L’account Google è stato eliminato per sempre.

Cosa significa questo per tutti gli utenti di Gmail?

Attenzione: se si inviano foto di nudo tramite Gmail, l’intero account può essere bloccato.

Google dispone di uno strumento automatico per individuare le immagini abusive di bambini: L’intelligenza artificiale analizza ogni messaggio Gmail alla ricerca di materiale abusivo, come immagini di bambini nudi. Il sistema è molto ampio, quindi anche se condividete foto di bambini nudi in spiaggia o nella vasca da bagno con un membro della famiglia, il sistema potrebbe segnalare il vostro account Google per la condivisione di materiale pedopornografico.

Ma quando il sistema sbaglia, le conseguenze sono gravi.

Il vostro account può essere bloccato per sempre, il che significa che non sarà possibile sbloccarlo di nuovo.

Dato che il vostro account Google, e in particolare il vostro account di posta elettronica, è molto prezioso, questo è un rischio grave. Dopo tutto, l’account di posta elettronica è la porta della vostra identità online: Al vostro account e-mail sono collegati molti servizi per la reimpostazione della password, come Amazon, Twitter, PayPal e altri ancora.

Ecco perché è fondamentale scegliere un provider di posta elettronica sicuro, che protegga i vostri dati e la vostra privacy. Noi di Tutanota lavoriamo duramente per assicurarci che nessuno possa spiarvi, crittografando tutti i vostri dati per impostazione predefinita. Scoprite i vantaggi che si ottengono con le e-mail crittografate.

Come fa Gmail a individuare le foto di bambini nudi

Google gestisce un sistema automatico per analizzare ogni messaggio inviato alla ricerca di potenziale materiale pedopornografico (CSAM).

Ad oggi, questo sistema è volontario, ma l’UE vuole rendere obbligatoria la scansione lato client per la ricerca di materiale CSAM, il che rappresenterebbe una devastante intrusione nella privacy di tutti.

Questo processo di scansione consente a Google di segnalare potenziali attività criminali sulla sua piattaforma. Tuttavia, il sistema è piuttosto ampio, per cui qualsiasi immagine di un bambino nudo può essere segnalata.

Cosa succede se Google vi segnala come criminali

Quando Google rileva un’attività criminale nel vostro account (come la condivisione di una foto di un bambino nudo), blocca immediatamente il vostro intero account Google. Questo include tutto ciò che è presente in Google: Gmail, Google Drive, contatti Google, tutto.

Perderete immediatamente l’accesso a tutti i vostri dati, ai vostri contatti, alle vostre foto e altro ancora, senza la possibilità di riaccedervi.

Google segnalerà il vostro profilo alle autorità e, in caso di mandato di perquisizione, vi consegnerà tutti i dati richiesti.

Questo può accadere anche se siete completamente innocenti, come dimostra il caso riportato dal New York Times.

Google vi sbloccherà dopo avervi segnalato?

No. Mentre le autorità sono giunte rapidamente alla conclusione che il padre era innocente, Google si è rifiutato di sbloccare il suo account. Il suo account è stato eliminato per sempre.

Mentre il padre è riuscito a chiarire il malinteso con la polizia che ha interrotto le indagini, Google non ha fatto nulla.

Poiché il processo ha richiesto molto tempo, l’account disabilitato del padre è stato nel frattempo cancellato perché inattivo da troppo tempo. Di conseguenza, il padre ha perso molti dati importanti, tra cui anni di foto di famiglia.

Il problema principale è evidente: a causa della pratica di scansione guidata dall’intelligenza artificiale per i comportamenti criminali, che segnala e disabilita automaticamente gli account abusivi, gli account degli innocenti vengono bloccati. E non c’è alcuna possibilità per loro di riavere accesso ai propri account Google.

Nell’articolo del New York Times la professoressa di diritto Hessick ipotizza: “Dal punto di vista di Google, è più facile negare a queste persone l’uso dei propri servizi. Altrimenti, l’azienda dovrebbe risolvere questioni più difficili su “quale sia il comportamento appropriato con i bambini e quindi cosa sia appropriato fotografare o meno”.

Mantenere i dati a livello locale e pagare per i servizi

Molti utenti di Google riferiscono quanto sia difficile - o impossibile - sbloccare nuovamente un account bloccato(1, 2, 3.). A quanto pare, l’assistenza clienti non è facile da raggiungere, soprattutto perché può solo informare e non fornire comunque assistenza attiva.

Anche se il padre era effettivamente nel giusto in questo caso, il suo esempio dimostra quanto sia “facile” perdere il proprio accesso a Google. È quindi consigliabile non utilizzare Google come unico back-up o archivio originale.