Un padre envía una foto de su hijo desnudo a través de Gmail y su cuenta de Google se bloquea para siempre.

El incidente descrito anteriormente ocurrió durante la pandemia de COVID, con el cierre de muchas consultas médicas. ElNew York Times informó por primera vez sobre ello.

El padre notó anomalías en la zona genital de su hijo, envió fotos para un diagnóstico a distancia a petición de la consulta del pediatra, según informó el “New York Times”. Como envió estas fotos a través de Gmail, Google tuvo acceso a ellas y las analizó en busca de posibles actividades delictivas.

Los algoritmos de Google detectaron las imágenes de desnudos, lo que bloqueó inmediatamente la cuenta. El caso se remitió a las autoridades, que iniciaron una investigación, pero pronto la cerraron porque el padre no había cometido ningún delito. La policía tuvo acceso a toda la información que Google tenía sobre él y decidió que no constituía abuso o explotación infantil.

A pesar de esta decisión, la cuenta de Google del padre permaneció bloqueada por haber compartido estas fotos de desnudos.

Incluso cuando el padre volvió a apelar su caso a Google, aportando el informe policial que lo declaraba inocente, Google se negó. Entonces su cuenta fue eliminada permanentemente debido a la inactividad.

La cuenta de Google desapareció para siempre.

¿Qué significa esto para todos los usuarios de Gmail?

TL;DR: Cuidado: Si envías fotos de desnudos a través de Gmail, toda tu cuenta puede ser bloqueada.

Google tiene una herramienta automatizada para detectar imágenes abusivas de niños: La IA escanea cada mensaje de Gmail en busca de material abusivo, como fotos de niños desnudos. El sistema es muy amplio, por lo que incluso si compartes fotos de tus hijos desnudos en la playa o en la bañera con un familiar, el sistema podría marcar tu cuenta de Google por compartir pornografía infantil.

Pero cuando el sistema se equivoca, las consecuencias son graves.

Tu cuenta puede quedar bloqueada para siempre; es decir, no habrá posibilidad de volver a desbloquearla.

Dado que tu cuenta de Google, y en particular tu cuenta de correo electrónico, es muy valiosa, esto es un riesgo grave. Al fin y al cabo, tu cuenta de correo electrónico es la puerta de entrada a tu identidad online: Conectas muchos servicios para restablecer la contraseña a tu cuenta de correo electrónico, como Amazon, Twitter, PayPal y otros.

Por eso es crucial elegir un proveedor de correo electrónico seguro, que proteja tus datos y tu privacidad. En Tutanota nos esforzamos para que nadie pueda espiarte encriptando todos tus datos por defecto. Comprueba las ventajas que obtienes con el correo electrónico cifrado.

Cómo detecta Gmail las fotos de niños desnudos

Google ejecuta un sistema automatizado para escanear cada mensaje que envías en busca de posible material de abuso sexual infantil (CSAM).

Hasta la fecha, este sistema es voluntario, pero la UE quiere hacer obligatorio el escaneo del lado del cliente en busca de material de abuso sexual infantil, lo que supondría una intrusión devastadora en la privacidad de todos.

Este proceso de escaneo permite a Google señalar posibles actividades delictivas en su plataforma. Sin embargo, el sistema es bastante amplio, por lo que cualquier foto de un niño desnudo puede ser marcada.

¿Qué ocurre si Google te señala como delincuente?

Cuando Google detecta una actividad delictiva en tu cuenta (como compartir una foto de un niño desnudo), bloquea inmediatamente toda tu cuenta de Google. Esto incluye todo en Google: Gmail, Google Drive, los contactos de Google, todo.

Perderás inmediatamente el acceso a todos tus datos, tus contactos, tus fotos y mucho más, sin posibilidad de recuperar el acceso.

Google informará entonces de tu perfil a las autoridades y, si se le presenta una orden de registro, entregará todos los datos solicitados sobre ti.

Esto puede ocurrirte incluso si eres completamente inocente, como demuestra el caso que recoge el New York Times.

¿Te desbloqueará Google después de ser señalado?

No. Aunque las autoridades llegaron rápidamente a la conclusión de que el padre era inocente, Google se negó a desbloquear su cuenta. La cuenta desapareció para siempre.

Mientras que el padre pudo aclarar el malentendido con la policía, que detuvo su investigación, Google no hizo nada.

Como el proceso llevó mucho tiempo, la cuenta inhabilitada del padre fue eliminada mientras tanto porque había estado inactiva durante demasiado tiempo. Como resultado, el padre perdió muchos datos importantes, incluyendo años de fotos familiares.

El principal problema es obvio: debido a la práctica de escaneo de comportamientos delictivos impulsada por la IA, que marca y desactiva automáticamente las cuentas abusivas, las cuentas de inocentes se bloquean. Y no hay ninguna opción para que recuperen el acceso a sus cuentas de Google.

En el artículo del New York Times, la profesora de derecho Hessick especula: “Desde la perspectiva de Google, es más fácil negar a estas personas el uso de sus servicios. De lo contrario, la empresa tendría que resolver cuestiones más difíciles sobre “qué es un comportamiento apropiado con los niños y luego qué es apropiado fotografiar o no”.

Mantener los datos locales y pagar por los servicios

Muchos usuarios de Google informan de lo difícil -o imposible- que es volver a desbloquear una cuenta bloqueada(1, 2, 3. Aparentemente, no es fácil contactar con el servicio de atención al cliente, sobre todo porque, de todos modos, sólo pueden informar y no prestar asistencia activa.

Incluso si el padre tenía razón en este caso, su ejemplo muestra lo “fácil” que es perder el acceso a Google. Por lo tanto, es aconsejable no utilizar Google como única copia de seguridad o almacenamiento original.