Un père envoie une photo nue de son enfant via Gmail et son compte Google est bloqué pour de bon.

L’incident décrit ci-dessus s’est produit pendant la pandémie de COVID et a entraîné la fermeture de nombreux cabinets médicaux. LeNew York Times a été le premier à en faire état.

Le père a remarqué des anomalies dans la zone génitale de son enfant, il a envoyé des photos pour un diagnostic à distance à la demande du cabinet du pédiatre, comme le rapporte le “New York Times”. Comme il a envoyé ces photos via Gmail, Google y a eu accès et les a analysées pour détecter une éventuelle activité criminelle.

Les algorithmes de Google ont détecté les images de nudité, ce qui a immédiatement verrouillé le compte. L’affaire a ensuite été transmise aux autorités qui ont ouvert une enquête, mais l’ont rapidement classée car le père n’avait commis aucun crime. La police a eu accès à toutes les informations que Google possédait sur lui et a décidé qu’il ne s’agissait pas d’abus ou d’exploitation d’enfants.

Malgré cette décision, le compte Google du père est resté bloqué pour avoir partagé ces photos dénudées.

Même lorsque le père a fait à nouveau appel de son cas auprès de Google, en fournissant le rapport de police qui le déclarait innocent, Google a refusé. Ensuite, son compte a été définitivement supprimé pour cause d’inactivité.

Le compte Google a disparu pour de bon.

Qu’est-ce que cela signifie pour chaque utilisateur de Gmail ?

TL;DR : Attention : si vous envoyez des photos de nu via Gmail, votre compte entier peut être bloqué.

Google dispose d’un outil automatisé pour détecter les images abusives d’enfants : L’IA analyse chaque message Gmail à la recherche de matériel abusif, comme des photos d’enfants nus. Le système est très large. Ainsi, même si vous partagez des photos de vos enfants nus à la plage ou dans la baignoire avec un membre de votre famille, le système peut signaler votre compte Google comme partageant de la pédopornographie.

Mais lorsque le système se trompe, les conséquences sont graves.

Votre compte peut être verrouillé pour de bon, ce qui signifie qu’il ne sera plus possible de le déverrouiller.

Étant donné que votre compte Google, et en particulier votre compte de messagerie, est très précieux, il s’agit d’un risque grave. Après tout, votre compte de messagerie est la porte d’entrée de votre identité en ligne: Vous connectez de nombreux services de réinitialisation de mot de passe à votre compte de messagerie, comme Amazon, Twitter, PayPal, etc.

C’est pourquoi il est essentiel de choisir un fournisseur de messagerie sécurisé, qui protège vos données et votre vie privée. Chez Tutanota, nous nous efforçons de faire en sorte que personne ne puisse vous espionner en cryptant toutes vos données par défaut. Découvrez les avantages que vous procure l’e-mail crypté.

Comment Gmail détecte-t-il les photos d’enfants nus ?

Google utilise un système automatisé pour analyser chaque message que vous envoyez afin d’y détecter d’éventuels contenus pédopornographiques.

À ce jour, ce système est volontaire, mais l’Union européenne souhaite rendre obligatoire la recherche de matériel pédopornographique côté client, ce qui constituerait une intrusion dévastatrice dans la vie privée de chacun.

Ce processus de balayage permet à Google de signaler toute activité criminelle potentielle sur sa plateforme. Toutefois, le système est assez large, de sorte que toute photo d’un enfant nu peut être signalée.

Que se passe-t-il si Google vous signale comme un criminel ?

Lorsque Google détecte une activité criminelle sur votre compte (comme le partage d’une photo d’un enfant nu), il verrouille immédiatement l’ensemble de votre compte Google. Cela inclut tout ce qui se trouve dans Google : Gmail, Google Drive, les contacts Google, tout.

Vous perdrez immédiatement l’accès à toutes vos données, à vos contacts, à vos photos et à bien d’autres choses encore, sans possibilité d’y revenir.

Google signalera ensuite votre profil aux autorités et, si un mandat de perquisition lui est présenté, il communiquera toutes les données demandées à votre sujet.

Cela peut même vous arriver si vous êtes totalement innocent, comme le montre le cas rapporté par le New York Times.

Google vous débloquera-t-il après avoir été signalé ?

Non. Alors que les autorités sont rapidement arrivées à la conclusion que le père était innocent, Google a refusé de débloquer son compte. Il a été supprimé pour de bon.

Alors que le père a pu dissiper le malentendu avec la police qui a mis fin à son enquête, Google n’a rien fait.

Comme la procédure a pris beaucoup de temps, le compte désactivé du père a été supprimé entre-temps parce qu’il était inactif depuis trop longtemps. En conséquence, le père a perdu beaucoup de données importantes, y compris des années de photos de famille.

Le problème principal est évident : en raison de la pratique de l’analyse des comportements criminels par l’IA, qui signale et désactive automatiquement les comptes abusifs, les comptes des innocents sont bloqués. Et il n’y a aucune possibilité pour eux de retrouver l’accès à leurs comptes Google.

Dans l’article du New York Times, Mme Hessick, professeur de droit, avance l’hypothèse suivante : “Du point de vue de Google, il est plus facile de refuser à ces personnes l’utilisation de ses services. Sinon, l’entreprise devrait résoudre des questions plus difficiles sur “ce qui est un comportement approprié avec les enfants et ensuite ce qui est approprié de photographier ou non”.”

Gardez vos données localement et payez pour les services

De nombreux utilisateurs de Google rapportent combien il est difficile - voire impossible - de faire débloquer un compte verrouillé(1, 2, 3. Apparemment, le support client n’est pas facile à joindre, d’autant plus qu’il ne peut de toute façon qu’informer et non apporter une aide active.

Même si le père était en fait dans son bon droit dans ce cas, son exemple montre à quel point il est “facile” de perdre son accès à Google. Il est donc conseillé de ne pas utiliser Google comme seule sauvegarde ou comme stockage original.