Распознавание лиц: Как оно работает и как его остановить.
Распознавание лиц - это угроза частной жизни и свободе, но мы можем остановить это!
Распознавание лиц
После скандала с Clearview все знают об опасности распознавания лиц. Но системы распознавания лиц могут делать гораздо больше, чем просто идентифицировать людей через камеры наблюдения. Сегодня эти системы искусственного интеллекта используются во многих приложениях, некоторые из них - для наблюдения, а другие - для защиты смартфонов или дверных замков. Итак, давайте рассмотрим
- Что такое распознавание лиц?
- Как работает система распознавания лиц?
- Насколько точным является распознавание лиц?
- Является ли распознавание лиц инструментом наблюдения?
- Как остановить распознавание лиц?
1. Что такое распознавание лиц?
Распознавание лиц - это технология, которая позволяет идентифицировать человека по его лицу. Распознавание лица может происходить путем сравнения лица с одной единственной фотографией этого человека или с базой данных фотографий нескольких людей.
Технически система распознавания лиц определяет и сравнивает черты лица, чтобы идентифицировать человека по изображению. Поскольку компьютерное распознавание лиц включает в себя измерение физиологических характеристик человека, системы распознавания лиц относятся к категории биометрических, подобно распознаванию радужной оболочки глаза или отпечатков пальцев. Хотя точность систем распознавания лиц как биометрических технологий ниже, чем у двух других, они получили широкое распространение благодаря простоте использования, в частности, при видеонаблюдении.
Системы распознавания лиц стали привычными за очень короткий период времени, например, для разблокировки смартфонов, приложений и даже дверей. Системы распознавания лиц также используются правоохранительными органами для отслеживания людей, внесенных в списки наблюдения. В Китае система распознавания лиц уже используется для слежки, а также в США она применяется для отслеживания людей, занимающихся защитой слова.
2. Как работает распознавание лиц?
Автоматическое распознавание лиц обрабатывается компьютером, который сравнивает черты лица с одним или многими изображениями лиц, хранящимися в базе данных.
Система использует компьютерные алгоритмы для выделения характерных деталей лица человека, таких как расстояние между глазами или форма подбородка. Затем они преобразуются в математическое представление и сравниваются с данными о других лицах, собранными в базе данных распознавания лиц. Данные о конкретном лице называются шаблоном лица и отличаются от фотографии тем, что включают в себя только определенные детали, которые могут быть использованы для отличия одного лица от другого.
Чтобы найти совпадение, система
- обнаруживает лицо на фотографии,
- анализирует обнаруженное лицо,
- преобразует изображение в математическое представление,
- и, наконец, сопоставляет это представление с другими в базе данных.
Таким образом, система распознавания лиц может идентифицировать вас как истинного владельца вашего iPhone или отпереть для вас входную дверь вашего дома. В этих случаях распознавание лиц не опирается на массивную базу данных фотографий - оно просто идентифицирует и признает одного человека владельцем устройства, ограничивая при этом доступ для других.
В качестве альтернативы, и именно так скандал с Clearview показывает потенциальную опасность распознавания лиц, система распознавания лиц может использовать базу данных изображений, даже загруженных в социальные сети, чтобы сравнить их с изображениями, полученными со специальной камеры наблюдения, для поиска людей в списке наблюдения. Эти люди не обязательно должны быть преступниками, власти или компании, управляющие списками наблюдения, могут определить, кто должен быть в этом списке и на кого следует направить внимание.
Вместо того чтобы идентифицировать человека, некоторые системы распознавания лиц предназначены для расчета вероятностной оценки, которая показывает, насколько вероятно совпадение неизвестного лица с конкретным лицом, хранящимся в базе данных. Такие системы обычно перечисляют несколько потенциальных совпадений, упорядоченных по степени вероятности.
3. Насколько точным является распознавание лиц?
Сторонники распознавания лиц часто утверждают, что эта технология искусственного интеллекта необходима для защиты от самых серьезных рисков, таких как террористические атаки и торговля людьми. Независимо от таких утверждений, сегодня распознавание лиц используется в основном для мелких преступлений, таких как кража в магазине или продажа наркотиков на сумму 50 долларов.
Использование распознавания лиц - особенно для уголовного преследования - подвергается серьезной критике, поскольку этот метод склонен к ошибкам.
Ошибки при распознавании лиц могут быть “ложноотрицательными” или “ложноположительными”, как объясняет EFF
”Ложноотрицательный результат” - это когда системе распознавания лиц не удается сопоставить лицо человека с изображением, которое на самом деле содержится в базе данных. Другими словами, система ошибочно возвращает нулевые результаты в ответ на запрос”.
”Ложное срабатывание” - это когда система распознавания лиц действительно сопоставляет лицо человека с изображением в базе данных, но на самом деле это совпадение неверно. Это когда офицер полиции предоставляет изображение “Джо”, но система ошибочно сообщает офицеру, что на фотографии “Джек"".
Например, в 2018 году во время тестирования программного обеспечения Amazon для распознавания лиц, инструмент неправильно идентифицировал 28 членов Конгресса как людей, которые были арестованы за совершение преступления.
Хотя системы ИИ со временем становятся лучше, использование распознавания лиц остается проблематичным как таковое.
4. Является ли распознавание лиц инструментом слежки?
Распознавание лиц - это не только инструмент слежки, оно позволяет осуществлять тотальную и полную слежку за любым человеком в любом месте.
Хотя сторонники этой технологии утверждают, что все зависит от того, как компании и власти используют эту технологию, потенциальные формы злоупотреблений безграничны.
Не нужно большого воображения, чтобы представить себе мир, где камеры установлены на каждом углу, отслеживают каждый наш шаг и сопоставляют наши лица с базой данных в режиме реального времени, чтобы знать, кто где находится в любое время. В таком мире право на частную жизнь исчезло, а массовая слежка в общественной сфере стала тотальной.
Китай является одним из лучших - или, лучше сказать, худших - примеров, когда речь идет о распознавании лиц и массовом наблюдении. Утечка базы данных китайской компании, занимающейся распознаванием лиц, демонстрирует масштабы слежки: “Только за последние 24 часа было зарегистрировано более 6,8 миллиона местоположений”, чтобы отслеживать перемещения людей на основе распознавания лиц в режиме реального времени.
В Китае фотография каждого из 1,4 миллиарда граждан попала в базу данных распознавания лиц . В Китае сотни миллионов камер наблюдения, и их число продолжает расти - для осуществления дитопической мечты Китая.
5. Как остановить распознавание лиц
Распознавание лиц - одна из самых опасных технологий наблюдения. Следовательно, мы должны запретить распознавание лиц, чтобы защитить частную жизнь.
К счастью, сегодня у вас есть несколько вариантов защиты от распознавания лиц.
Вы можете следить за тем, чтобы не загружать личные фотографии в Интернет. Если о вас нет никаких фотографий, которые можно соскоблить, то не существует и базы данных, с которой камеры наблюдения могли бы сопоставить ваше лицо. Однако проблема, которую показал скандал с Clearview, заключается в следующем: Фотографии миллиардов людей уже размещены в Интернете на сайтах социальных сетей, и компании могут соскоблить эти фотографии вместе с именами, чтобы создать базу данных.
Кроме того, некоторые люди захотят загрузить фотографии на сайты или в социальные сети, потому что это часть их социальной жизни. Исследователи нашли отличный способ сделать это и при этом обмануть алгоритмы распознавания лиц.
Fawkes
Fawkes - это инструмент, который обучает систему распознавания лиц узнавать о вас что-то не то, слегка изменяя ваши фотографии перед их загрузкой в сеть. Таким образом, ИИ больше не может сопоставить загруженные фотографии с вашим настоящим лицом. Однако при повторном тестировании программы Fawkes исследователи обнаружили, что служба распознавания лиц Microsoft Azure больше не подделывает некоторые из их изображений. Опережать программы распознавания лиц - это игра в кошки-мышки, и так будет продолжаться, поскольку обе технологии будут совершенствоваться.
Вы можете скачать Fawkes здесь
LowKey
Еще один многообещающий исследовательский проект - LowKey. Это программное обеспечение превращает изображения в необучаемые примеры. Таким образом, когда ИИ выполняет поиск по распознаванию лиц, LowKey фактически заставляет программу распознавания лиц полностью игнорировать ваши фотографии или селфи. Этот инструмент делает так, чтобы ИИ ничего не узнал о вас, чтобы у него не было базы данных, с которой он мог бы сопоставить ваше лицо.
Вы можете скачать LowKey здесь.
Примите меры
Борьба с технологиями - хороший способ защитить нашу частную жизнь. Например, мы в Tutanota боремся против массовой слежки с помощью сквозного шифрования, и успешно.
Однако, как граждане демократических стран, мы всегда должны следить за тем, чтобы наше право на частную жизнь отстаивалось и в политике.
Вы можете присоединиться к политической борьбе за возвращение своего лица и подписать эту петицию ЕС.