Комиссия ЕС планирует автоматическое CSAM-сканирование ваших частных коммуникаций - или тотальную слежку во имя защиты детей.

Предложение ЕС по наблюдению

В своем предложении Комиссия ЕС планирует полностью отменить приватность в Интернете. Она предлагает новую систему массового наблюдения, которая будет читать личные текстовые сообщения не только для обнаружения CSAM, но и для обнаружения “обхаживания”.

Чтобы обнаружить “груминг”, ИИ должен будет читать все наши личные сообщения, всегда.

Это будет худший механизм слежки, когда-либо созданный за пределами Китая, и все это под предлогом защиты детей.

Профессор криптографии Мэтью Грин сказал, что предложение ЕС “описывает самый сложный механизм массовой слежки, когда-либо развернутый за пределами Китая и СССР. И это не преувеличение”.

Что может пойти не так?

Мы должны очень внимательно рассмотреть вопрос о том, что может пойти не так с такими масштабными мерами слежки, которые только что предложила Комиссия ЕС.

Мы все должны знать, что, согласно планам Комиссии, за всеми нами будет вестись тайное наблюдение - постоянно. Список изображений и контента, которые будут подвергаться поиску, может быть изменен.

Как только закон заставит операторов связи внедрить сканирование на стороне клиента, инструмент, который это сделает, теоретически сможет искать все и вся.

Поэтому список может быть расширен по требованию. Вначале в законе будет сказано, что провайдеры должны проверять детскую порнографию - именно это всегда заявляют политики, когда им нужен максимально широкий консенсус для новых возможностей наблюдения. Но на следующем этапе власти будут искать и другие вещи: террористов, торговцев людьми, наркоторговцев, преступные группировки.

Этот список можно продолжать до бесконечности.

”Чтобы защитить детей”?

Комиссия ЕС утверждает, что такое сканирование на основе ИИ - это сбалансированный подход между защитой частной жизни людей и защитой детей. В немецкой газетеSpiegel комиссар ЕС Дубравка Шуйца заявила: Каждый пятый ребенок становится жертвой сексуального насилия и страдает “от травмирующего опыта часто всю жизнь”.

Однако общедоступные данные показывают, что большинство приказов о наблюдении выдаются в связи с преступлениями, связанными с наркотиками, а не для защиты детей.

Эти данные заставляют усомниться в том, что план Комиссии ЕС направлен только на защиту детей или на внедрение возможностей наблюдения, которые затем, после создания, могут быть использованы и для других расследований.

Преступления, связанные с наркотиками, на первом месте

В Германии в 2019 году более 47,3% мер по наблюдению за телекоммуникациями в соответствии с § 100a StPO были назначены для поиска подозреваемых в преступлениях, связанных с наркотиками. Только 0,1% распоряжений - или 21(!) в целом - были выданы в связи с детской порнографией.

Сравнение доли ордеров на прослушку в связи с детской порнографией и наркопреступлениями в Германии, 2009-2019 гг. Источник

В большинстве случаев наблюдение за телекоммуникациями предписывалось для преследования преступлений, связанных с наркотиками. Ни в одной другой области не было заказано столько мер слежения. В последние годы в Германии чуть менее половины всех мер по надзору за телекоммуникациями проводились в связи с преступлениями, связанными с наркотиками. Об этом свидетельствуют ежегодные статистические данные Федерального ведомства юстиции (BfJ).

Черный ход только для “хороших парней

Важный вопрос - и тот, который полностью игнорируется Европейской комиссией. Кибербезопасность.

Будут найдены способы взломать процесс сканирования на стороне клиента. Злоумышленники могут, например, внедрить изображения или документы на устройства людей, которых они хотят дискредитировать. Или злоумышленники могут найти способ перехватывать данные, которые сканируются на наших устройствах, и использовать их для кибератак.

В конце концов, всем нам должно быть ясно, что “черный ход только для хороших парней” невозможен.