Пренебрежение приватностью идет рука об руку с технологическим вооружением.

Когда технология предназначена для разоблачения и дискредитации пользователей, последствия могут быть жестокими. Вот почему конфиденциальность имеет первостепенное значение, и компания Big Tech должна нести за это ответственность.

Почему конфиденциальность имеет значение

Эта история - важнейшее напоминание о том, почему конфиденциальность имеет значение: Даже если вам нечего скрывать. Мы не данные или бизнес-метрики, мы - люди, и когда компании этого не понимают, это приводит к реальным последствиям.

Ответственность больших технологий

В марте приложение для создания видеороликов “DeepFake FaceSwap” разместило более 230 объявлений на сервисах Meta, включая Facebook, Instagram и Messenger, согласно обзору библиотеки объявлений Meta. Некоторые из объявлений показывали то, что выглядело как начало порнографических видеороликов с вступительным звуком порноплатформы Pornhub. Через несколько секунд лица женщин менялись местами с лицами известных актеров. Надписи на десятках этих объявлений гласили: “Замените лицо на любое” и “Получайте удовольствие с технологией замены лица с помощью ИИ”.

После того, как NBC News обратился в Meta за комментариями, все объявления этого приложения были удалены из сервисов Meta. Хотя в видеороликах не было показано никаких сексуальных действий, их наводящий характер иллюстрирует, как приложение может потенциально использоваться для создания фальшивого сексуального контента, причем не только с известными женщинами, оно работает с одной фотографией чьего-либо лица, загруженной пользователем приложения. Такая же реклама была замечена в бесплатных приложениях для редактирования фотографий и игр, загружаемых из App Store компании Apple, где приложение впервые появилось в 2022 году в бесплатном доступе для пользователей в возрасте от 9 лет, а также была доступна для бесплатной загрузки в Google Play, где оно имело рейтинг “Teen” за “наводящие на размышления темы”. И Apple, и Google заявили, что позже удалили приложение из своих магазинов после того, как с ними связался NBC News.

Входит ли в обязанности журналистов проверять магазины приложений на наличие недобросовестных приложений?

Такая же история произошла с другим приложением в декабре 2021 года после расследования Reuters.

В магазинах приложений Google и Apple до сих пор доступны десятки приложений deepfake, большинство из которых используется для создания порнографии без согласия и “обнажения” людей. Хотя Google и Apple утверждают, что они запрещают приложения, которые генерируют контент клеветнического, дискриминационного характера или способный запугать, унизить или навредить кому-либо, именно это и происходит у них под носом. Google добавил в свой список запретов “непроизвольные синтетические порнографические изображения”, позволяя любому человеку потребовать от поисковой системы блокировать результаты, которые ложно изображают его “обнаженным или в сексуально откровенной ситуации” - но должны ли жертвы нести ответственность за исправление ситуации или Google должен лучше работать над предотвращением такого рода злоупотреблений в первую очередь?

По мере того как технология deepfake совершенствовалась и становилась все более распространенной, рынок неконсенсуальных сексуальных изображений разросся. Некоторые сайты позволяют пользователям продавать неконсенсуальное глубоко подделанное порно из-за платной стены. Исследование компании DeepTrace, проведенное в 2019 году, показало, что 96% материалов deepfake в сети носят порнографический характер, а другое исследование, проведенное Женевьевой О, показало, что количество порнографических видеороликов deepfake почти удваивается каждый год с 2018 года.

Поскольку технология обнаружения deepfake существует, хотя и находится за стенами платной системы, почему бы всем платформам, позволяющим пользователям загружать фотографии и видео, не проводить их автоматическую проверку и не помечать deepfake как таковые? Они уже не справляются с выявлением и удалением оскорбительного контента, но, по крайней мере, эта часть должна быть достаточно простой, если бы они действительно заботились об этом.

Ничего нового

Недавно в статье Кэти Джглн была опубликована обширная история гендерного насилия с использованием технологий. Некоторые из примеров “старой школы”, такие как камеры, спрятанные в ванных комнатах, все еще используются: всего несколько дней назад Министерство юстиции США выдвинуло обвинения против мужчины, который якобы установил камеру в ванной комнате на борту круизного лайнера Royal Caribbean и снимал 150 человек, включая 40 несовершеннолетних.

TechSafety имеет ряд полезных руководств, а Клиника Корнельского университета по борьбе с техническим насилием (CETA) также располагает ресурсами, помогающими людям защитить свою частную жизнь и оставаться в безопасности в Интернете. Их обширные исследования, проведенные в партнерстве с Нью-Йоркским университетом, показывают, насколько системными являются злоупотребления в Интернете и злоупотребления с помощью технологий, особенно когда они вызваны женоненавистничеством и трансфобией.

В дополнение к своим рецензируемым научным публикациям, они также ссылаются на несколько материалов СМИ, более доступных для неспециалистов, например:

Интересное сопоставление между стремлением организации поставить голоса жертв насилия, преследования и других видов жестокого обращения в центр разработки технологий и тем фактом, что их исследования частично спонсируются Google и Meta. Это здорово, что эти технологические гиганты тратят часть своей прибыли на то, чтобы пролить свет на проблемы, которые они же и создают, но было бы еще лучше, если бы они действительно учитывали результаты исследований, которые они спонсируют, и соответствующим образом улучшали свои продукты.

Другие широко распространенные примеры использования технологий в качестве оружия включают в себя:

Издевательства и преследования, включая физические угрозы. Злоумышленники стирают границы между онлайн и офлайн насилием, как подробно описано в обширном глобальном отчете Economist Intelligence Unit, который также измеряет, как онлайн-насилие в отношении женщин влияет на экономику и общество в целом. Многие массовые расстрелы были случаями насилия в Интернете, переходящего в реальные действия. Последний пример - стрелок из торгового центра в Аллене, штат Техас, профиль которого в социальных сетях был полон разглагольствований против чернокожих, азиатских и еврейских людей и женщин в целом. Связь между расовым и гендерным насилием была задокументирована уже давно
Доксинг - особенно часто используется против транссексуалов, часто сопровождается попытками добиться увольнения с работы, выселения из дома и подтолкнуть жертву к членовредительству.
Apple AirTags и другие подобные устройства
Умные домашние устройства, включая термостаты, замки и светильники.

По словам Кэти Джглн, часто “современные технологии - и созданный ими онлайн-мир - являются продолжением патриархата. […]Она закрывает глаза, а часто даже позволяет, на те же самые злоупотребления, домогательства, насилие, женоненавистничество, сексизм, нежелательную гиперсексуальность и объективизацию, с которыми мы сталкиваемся в реальном мире. И как многие другие инструменты патриархата - например, культура чистоты или “традиционные” гендерные роли - он слишком часто служит способом поставить нас на место, заставить замолчать или дискредитировать наши голоса и, самое главное, защитить статус-кво”.

Размытые границы между программами для преследования и “обычными приложениями”

Коалиция против сталкерского ПО отмечает, что “хотя термин “сталкерское ПО” также иногда используется в разговорной речи для обозначения любого приложения или программы, которые нарушают или воспринимаются как нарушающие частную жизнь человека, мы считаем, что четкое и узкое определение важно, учитывая использование сталкерского ПО в ситуациях насилия над сексуальным партнером”. Тот факт, что существуют серьезные основания для путаницы в этом вопросе, не является хорошей перспективой для таких компаний, как Google, Meta и многих других компаний, создающих приложения для обмена сообщениями, электронной почты, социальных сетей и других сервисов, которые требуют специальных разрешений на вашем телефоне и собирают ваши данные. Они также признают, “что законные приложения и другие виды технологий могут играть и часто играют роль в таких ситуациях”. На той же странице одним из рекомендуемых критериев для обнаружения программ-сталкеров является “приложения, способные собирать и изымать конфиденциальные данные пользователей устройств (например, данные о местоположении, контакты, журналы звонков/текстов, пароли, историю браузера и т.д.) без их постоянного согласия и/или ведома”. Сколько самых скачиваемых приложений в мире НЕ соответствуют этим критериям?

Это не обязательно должно быть так. Приложения для родителей никогда не нужно прятать в телефоне, если это так, то это преследовательские программы, а не приложения для родителей. Телефоны не должны иметь GPS, включенный по умолчанию. Приложениям не нужно иметь разрешения на определение местоположения (и многие другие) по умолчанию (или вообще когда-либо, во многих случаях), вместо этого пользователи должны выбирать, включать ли эти разрешения по мере необходимости только для тех приложений, которым они действительно нужны. Все телефоны должны автоматически снимать разрешения с приложений, которые вы не используете. AirTags, Tiles и другие подобные продукты должны всегда иметь громкие звуковые уведомления о том, что они активированы/используются, а регулирующие органы должны пресекать продажу “модифицированных” версий на ebay и т.п.

Мы не можем ожидать, что технологические компании пожертвуют прибылью, которую они получают в нынешней капиталистической системе слежки, из сострадания и уважения к человечности каждого человека. Мы должны постоянно усиливать давление на них, чтобы они это делали. До тех пор мы не в безопасности. Мы должны продолжать бороться за наше право на неприкосновенность частной жизни.