Отец отправляет обнаженную фотографию своего ребенка через Gmail, и его аккаунт в Google блокируется навсегда.
Машинное сканирование в Gmail отметило аккаунт после отправки обнаженных фотографий ребенка врачу. Теперь аккаунт заблокирован навсегда.
Описанный выше случай произошел во время пандемии COVID, когда многие врачебные практики были закрыты. Впервые об этом сообщила газетаNew York Times.
Отец заметил отклонения в области гениталий своего ребенка, он отправил фотографии для дистанционной диагностики по просьбе педиатра, как сообщает “Нью-Йорк Таймс”. Поскольку он отправил эти фотографии через Gmail, Google имел к ним доступ и просканировал их на предмет потенциальной преступной деятельности.
Алгоритмы Google обнаружили изображения обнаженной натуры, в результате чего аккаунт был немедленно заблокирован. Дело было передано властям, которые начали расследование, но вскоре закрыли его, так как отец не совершил никакого преступления. Полиция имела доступ ко всей информации Google о нем и решила, что это не является жестоким обращением или эксплуатацией ребенка.
Несмотря на это решение, аккаунт отца в Google остался заблокированным из-за того, что он поделился этими обнаженными фотографиями.
Даже когда отец снова обжаловал свое дело в Google, предоставив полицейский отчет, который объявил его невиновным, Google отказался. Тогда его аккаунт был окончательно удален из-за бездействия.
Аккаунт Google был удален навсегда.
Что это значит для каждого пользователя Gmail?
TL;DR: Осторожно: если вы отправляете обнаженные фотографии через Gmail, весь ваш аккаунт может быть заблокирован.
У Google есть автоматизированный инструмент для обнаружения оскорбительных изображений детей: ИИ сканирует каждое сообщение Gmail на наличие оскорбительных материалов, таких как фотографии обнаженных детей. Система очень широка, поэтому даже если вы поделитесь с членом семьи обнаженными фотографиями своих детей на пляже или в ванной, система может отметить ваш аккаунт Google за распространение детской порнографии.
Но если система ошибается, последствия могут быть очень серьезными.
Ваш аккаунт может быть заблокирован навсегда; это означает, что разблокировать его снова не удастся.
Учитывая, что ваш аккаунт Google, и в частности аккаунт электронной почты, является очень ценным, это серьезный риск. В конце концов, ваш электронный почтовый ящик - это ворота к вашей личности в Интернете: К своему аккаунту электронной почты вы подключаете множество сервисов для сброса пароля, например, Amazon, Twitter, PayPal и другие.
Вот почему очень важно выбрать надежного поставщика услуг электронной почты, который защищает ваши данные и вашу конфиденциальность. В Tutanota мы прилагаем все усилия, чтобы никто не мог шпионить за вами, шифруя все ваши данные по умолчанию. Ознакомьтесь с преимуществами, которые дает вам шифрованная электронная почта.
Как Gmail обнаруживает фотографии обнаженных детей
Google использует автоматизированную систему для проверки каждого отправляемого вами сообщения на наличие потенциальных материалов о сексуальном насилии над детьми (CSAM).
На сегодняшний день эта система является добровольной, но ЕС хочет сделать сканирование на стороне клиента на наличие материалов CSA обязательным, что стало бы разрушительным вторжением в частную жизнь каждого человека.
Этот процесс сканирования позволяет Google отмечать потенциальную преступную деятельность на своей платформе. Однако система довольно широка, так что любая фотография обнаженного ребенка может быть отмечена.
Что происходит, если Google отмечает вас как преступника
Когда Google обнаруживает преступную деятельность в вашем аккаунте (например, обмен фотографией обнаженного ребенка), он немедленно блокирует весь ваш аккаунт Google. Сюда входит все, что есть в Google: Gmail, Google Drive, контакты Google, все.
Вы немедленно потеряете доступ ко всем своим данным, контактам, фотографиям и прочему - без возможности восстановления доступа.
Затем Google сообщит о вашем профиле властям и в случае предъявления ордера на обыск выдаст все запрашиваемые данные о вас.
Это может произойти даже с вами, если вы совершенно невиновны, как показывает случай, о котором сообщила газета New York Times.
Разблокирует ли Google вас после того, как вы попали под подозрение?
Нет. Хотя власти быстро пришли к выводу, что отец невиновен, Google отказался разблокировать его аккаунт. Он был удален навсегда.
В то время как отец смог прояснить недоразумение с полицией, которая прекратила расследование, Google ничего не предпринял.
Поскольку процесс занял много времени, отключенный аккаунт отца был удален, так как он слишком долго был неактивным. В результате отец потерял множество важных данных, включая многолетние семейные фотографии.
Основная проблема здесь очевидна: из-за практики сканирования преступного поведения с помощью искусственного интеллекта, который автоматически отмечает и отключает оскорбительные аккаунты, аккаунты невиновных оказываются заблокированными. И у них нет возможности восстановить доступ к своим аккаунтам Google.
В статье в New York Times профессор права г-жа Хессик рассуждает: “С точки зрения Google, проще просто отказать этим людям в использовании своих услуг. В противном случае компании пришлось бы решать более сложные вопросы о том, “как правильно вести себя с детьми и что уместно фотографировать или нет”.
Храните свои данные локально и платите за услуги
Многие пользователи Google сообщают о том, как трудно - или невозможно - снова разблокировать заблокированный аккаунт(1, 2, 3. Судя по всему, до службы поддержки клиентов не так-то просто добраться, тем более что они могут только информировать, но никак не оказывать активную помощь.
Даже если отец в данном случае был прав, его пример показывает, насколько “легко” потерять доступ к Google. Поэтому рекомендуется не использовать Google в качестве единственного резервного или оригинального хранилища.