Система социального кредита в Китае: Почему это так страшно.

Современная форма массового наблюдения - онлайн-наблюдение - проста, дешева и мгновенна. Результаты наблюдения, собранные в Интернете, можно легко агрегировать и просчитать для получения реальных последствий, например, для создания системы социальных кредитов.

Авторитарное правительство Китая под руководством Си Цзиньпина дает прекрасный пример современной системы социального кредита. Это очень гибкий инструмент, который можно быстро применить для решения новых политических приоритетов. И это влияет на свободу слова, приводя к цензуре и самоцензуре, в конечном итоге заставляя замолчать любую форму оппозиции.

В этом посте мы объясняем, почему система социальных кредитов плоха - и дело не только в Китае.

Система социального кредитования

Когда люди слышат о системе социального кредитования, все думают о Китае и его системе, заставляющей людей жить по правилам, установленным правительством. Однако системы социального кредитования уже действуют во многих других странах, даже здесь, в Европе и Америке.

Насколько это плохо?

Конечно, никто не называет это системой социального кредитования, но если задуматься, то это уже здесь: Страховая компания, которая рассчитывает вашу премию за риск на основе информации, полученной из социальных сетей. Банк, который рассчитывает вашу финансовую надежность и, соответственно, процентные ставки, основываясь на информации, предоставленной Schufa(немецкая система). AirBnB и Uber, отключающие аккаунты, например, если владелец жилья или водитель сообщил о вас за “плохое поведение”, не давая вам никакого выбора для обжалования.

Это лишь некоторые примеры, которые ясно показывают, что система социальных кредитов в той или иной форме уже создана не только в Китае, но и в Европе и США.

Существуют компании, которые собирают информацию о вас, что приводит к последствиям, основанным на этой информации.

Единственное отличие от надвигающейся китайской версии в том, что она пока не взаимосвязана. Если Uber заблокирует вас, вы все равно сможете воспользоваться такси. Если одна страховка просит высокую премию, вы можете попробовать получить другую. Но что, если все изменится?

Интернет - это машина для слежки

Сегодня вы - это то, на что вы нажимаете. Как только вы заходите в Интернет, все, что вы делаете, отслеживается вашим браузером, третьими лицами, куки-файлами, почти всеми сайтами, на которых вы постоянно регистрируетесь (Google, Facebook и т.д.).

Весь интернет - это машина слежения. Данные, которые вы свободно предоставляете, агрегируются, и создается профиль о вас. До сих пор этот профиль “только” используется для целевой рекламы. Но он вполне может быть использован для создания так называемой “системы социального кредита”.

Последствия уже сейчас не слишком приятны, но и не слишком плохи: показываемая вам реклама может привести к завышенным ценам на товары и услуги, поскольку ваш профиль предполагает, что вы готовы платить за них слишком много. Потому ли, что вы фанат, или потому, что вам нравится удобство быстрой покупки, или просто потому, что у вас слишком много денег и, следовательно, вам все равно.

В настоящее время последствия такой формы онлайн-наблюдения легко устранить, просто установив блокировщик рекламы.

Однако огромный объем данных в сочетании с искусственным интеллектом открывает возможности для беспрецедентной слежки и злоупотребления данными: Скандал с Clearview демонстрирует это самым худшим образом.

Взаимосвязанное наблюдение

В настоящее время каждая компания и каждое государственное учреждение располагают лишь некоторым набором данных. Однако этот набор данных постоянно растет, и брокеры данных используют эти данные и злоупотребляют ими. Кроме того, вполне вероятно, что в будущем все данные, доступные в Интернете, будут связаны между собой.

Если вы пользуетесь несколькими сервисами Google, это уже происходит. С улучшением технологии отслеживания технологические компании найдут способ соединить ваши данные, собранные в разных сервисах: Ваш профиль пользователя Google будет объединен с вашим профилем Facebook, который будет объединен с вашим профилем страховой компании и так далее.

И именно это так пугает в китайской системе социального кредитования: Западные СМИ предполагают, что такое объединение информации уже происходит в Китае. Соединение большого количества информации об отдельных людях приводит к получению индивидуального балла, который либо помогает им достичь желаемого в жизни, либо препятствует этому.

Как только это произойдет, как только все данные будут соединены и будет создан профиль о вас, изменить этот профиль будет очень сложно.

Слежка имеет последствия в реальной жизни

Этот ваш виртуальный профиль приведет к реальным последствиям: Вы можете не получить кредит на покупку жилья из-за плохой социальной кредитной истории. Вы можете не получить страховку на автомобиль и, таким образом, застрять в общественном транспорте.

Большинство людей считают, что эти последствия их не коснутся, потому что они ведут правильный образ жизни. В конце концов, в этом и заключается цель любой подобной системы: заставить людей вести правильный образ жизни. И что же в этом плохого?

Определение понятия “хорошо

Проблема заключается в определении понятия “хорошо”: Для компаний “хороший” может означать людей, которые являются постоянными клиентами, которые покупают слишком много и тратят слишком много.

Для правительств “хорошие” могут означать людей, которые следуют правилам и не высказываются. Никогда. Независимо от того, что решит правительство.

Антиутопическая научная фантастика

Хотя все это звучит как антиутопическая научная фантастика, как книга “1984” или как эпизод из британского телешоу “Черное зеркало”, то, как сейчас работает интернет, делает такой сценарий гораздо более вероятным, чем два десятилетия назад.

Большие данные - со всеми их достижениями, которые они сулят обществу, - также несут в себе очень большую угрозу: в будущем правительства и компании будут иметь возможность знать о нас все.

Почему система социальных кредитов - это плохо?

Система социальных кредитов будет

• Определять жизнь людей, ограничивая их жизненный выбор
• Приведет к неравенству
• Влиять на поведение людей и самоцензуру
• Наносить ущерб свободе слова

Система социальных кредитов использует все имеющиеся данные о человеке для выставления оценок. На основании этих оценок люди могут получить кредит или нет, могут быть допущены к учебе в университете или нет. Самое плохое в системе социальных кредитов то, что люди не могут обжаловать оценку. Она определяет их жизнь, ограничивает их жизненный выбор и ведет к неравенству.

Поскольку все знают, как оценка влияет на них, система социальных кредитов будет влиять и на поведение людей. Хотите ли вы угодить компании в надежде получить лучшую сделку или правительству, любая форма системы социальных кредитов приведет к самоцензуре.

Вы больше не будете выкладывать в социальные сети фотографии со вчерашней вечеринки, опасаясь, что ваша медицинская страховка может подорожать. Или вы больше не будете выкладывать фотографии с демонстрации, на которую вы ходили, из страха, что правительство не позволит вам поступить в университет.

Еще хуже: вы можете вообще перестать ходить на вечеринки и демонстрации.

В конце концов, это приведет к самоцензуре в таких масштабах, каких мы еще никогда не видели. Подпитываемое всесторонним наблюдением в Интернете, большинство людей будет стараться представить себя в лучшем виде всегда и везде, даже в частных разговорах.

Свобода слова подорвана

Свобода слова защищена большинством конституций, и на это есть очень веская причина. Только благодаря свободе слова мы можем свободно обсуждать любые вопросы, разрабатывать новые идеи и развивать наши демократии, делая их лучше для всех.

Любая система социальных кредитов - будь то частная или государственная - вредна для свободы слова.

Даже если в наших западных демократиях нет государственных субъектов, пытающихся внедрить такую систему, угроза все равно нависает.

Если китайская система социальных кредитов воспринимается нами как “плохая” - потому что недемократическое правительство использует ее, чтобы заставить своих граждан следовать правилам, то частные системы, которые сейчас появляются в наших обществах, не лучше.

Свобода слова нуждается в конфиденциальности

Вот почему свобода слова и неприкосновенность частной жизни взаимосвязаны. Только если вы можете сохранить свои частные данные в тайне, государственные субъекты или компании не смогут собрать ваши данные и составить о вас профиль.

К сожалению, технологические компании гораздо быстрее разрабатывают приложения и сервисы для слежки, чем государственные структуры принимают законы о защите нашего права на неприкосновенность частной жизни, такие как, например, европейский GDPR.

На данный момент единственная возможность защитить себя от обширной добычи данных - это выбирать сервисы, которые защищают нашу конфиденциальность. Для начала, вот наши рекомендации о том, как оставить позади такие сервисы по добыче данных, как Google и Facebook.

Боритесь вместе с нами за наше право на конфиденциальность!

---

Что такое китайская система социального кредита?

Китайская система социального кредита основана на обширном государственном наблюдении, которое используется для “оценки” граждан. Она включает в себя:

1. обширное наблюдение за всем населением
2. Социальный балл, рассчитываемый на основе данных наблюдения.
3. Социальный балл определяет жизнь людей.

В Китае правительство отслеживает людей по многим направлениям, что позволяет ему рассчитывать социальный рейтинг людей на основе их поведения. Несколько факторов, таких как “заплатили ли они налоги”, “проехали ли они на красный свет”, “разместили ли они негативные комментарии о правительстве в социальных сетях”, влияют на эту оценку. На основании этой оценки люди могут даже попасть в черный список правительства. В результате они не смогут заказать билеты на поезд, поступить в университет или получить кредит.

Таким образом, китайская система социального кредита напрямую решает, как люди могут вести свою жизнь. Давление, оказываемое системой, заставляет людей действовать в соответствии с ожиданиями правительства, а любая форма оппозиции замалчивается.

То, как китайская система напрямую судит людей, уникально. У людей нет возможности обжаловать процесс, по сути, их приговаривают без суда - и именно это делает систему такой ужасающе страшной.

История

В 2020 году Китайская система социального кредита, которая разрабатывается и тестируется с 2009 года, призвана стандартизировать оценку экономической и социальной репутации граждан и предприятий, или “социального кредита”.

С помощью этой системы можно отслеживать людей и компании и оценивать их благонадежность. Китайская кредитная система тесно связана с китайской системой наблюдения с помощью распознавания лиц, анализа больших данных и искусственного интеллекта.

Узнайте здесь, как работает система распознавания лиц и как ее остановить.

Система социального кредитования рекламируется Коммунистической партией Китая Си Цзиньпина своему народу как великое улучшение общества в целом. Цель состоит в том, чтобы люди и компании стали более честными, чтобы бороться с коррупцией, чтобы общество в целом функционировало лучше и было более стабильным.

Идея, лежащая в основе этого, понятна: По мере того, как социальные сети сокращаются, а анонимность в городах растет, социальное давление, заставляющее вести себя приемлемым образом, также снижается. Теперь Китай заменяет это социальное давление системой социального кредита, чтобы люди, даже живя анонимно в любом городе, вели себя приемлемым образом.

Власть над людьми

Китай, однако, является автократической страной. Здесь власть принадлежит не народу, а правительство хочет иметь максимальную власть над народом. Выступать против китайской коммунистической партии запрещено. Активисты и журналисты-расследователи занимают очень трудное положение в китайском обществе, а система социального кредита еще больше усугубит это положение.

Система социального кредита имеет большой потенциал для улучшения общества на поверхности, в то время как под ней разрушается доверие людей к правительству и обществу в целом. В конце концов, эта система подрывает верховенство закона.

Люди могут легко попасть в черный список, что имеет серьезные последствия в реальной жизни. Любой человек, попавший в черный список, мгновенно заносится в этот список. Нет никакого разбирательства в суде. Люди и компании могут обжаловать попадание в черный список или получение плохого кредита.

Но концепция “невиновен, пока не доказана вина” меняется на противоположную: они должны доказать, что невиновны.

Поскольку система социального кредитования работает рука об руку с одним из худших аппаратов слежки, она нарушает такие законные права, как право на репутацию, право на частную жизнь и право на свободу слова.

Миллионы людей в черном списке

Негативные факторы для кредитного рейтинга в прошлом были разными, в зависимости от места проживания, но в будущем их планируется упорядочить по всему Китаю. К негативным факторам относятся:

• Нечестное и мошенническое финансовое поведение
• Громкая музыка
• Нарушение правил дорожного движения
• бронирование столиков в ресторанах и неявка туда
• Неправильная сортировка отходов
• мошенничество с чужими удостоверениями личности в общественном транспорте.

Положительные факторы, с другой стороны, включают:

• сдача крови
• пожертвование на благотворительность
• волонтерство в общественных службах

Согласно Википедии, людям, попавшим в черный список, уже запрещено пользоваться общественным транспортом: Например, 26,82 млн. авиабилетов, а также 5,96 млн. билетов на скоростные железные дороги было отказано людям, которые считались “не заслуживающими доверия (失信)“.

Кроме того, некоторые личные данные людей из “черного списка” намеренно делаются доступными для всех и вывешиваются в Интернете, а также в различных общественных местах, таких как кинотеатры и автобусы. В некоторых городах детям “неблагонадежных” жителей также запрещено посещать частные школы и даже университеты.

Современный способ выставить людей на всеобщее обозрение.

Кто попадает в черный список?

Каждый гражданин и каждая компания в Китае теперь должны беспокоиться о том, что они могут попасть в черный список системы социального кредитования. Поскольку верховенство закона в этой системе не действует, люди могут даже случайно попасть в черный список. Тогда они обязаны доказать свою невиновность, а не наоборот. Это может сильно осложнить жизнь многим людям.

Последствия для людей, попавших в черный список, могут быть очень похожи на последствия для людей, которым предъявлены невиновные обвинения на основании данных отслеживания местоположения, о чем свидетельствуют эти два примера из США.

Кроме того, Китай также использует эту систему для внесения в черный список людей, выступающих против правительства. По данным The Globe and Mail, одним из первых в черный список попал Лю Ху, журналист в Китае, пишущий о цензуре и коррупции в правительстве.

Лю был внесен в Список недобросовестных лиц, подлежащих принудительному взысканию Верховным народным судом, как “не имеющий права” покупать билет на самолет, ему было запрещено ездить на некоторых железнодорожных линиях, покупать недвижимость или брать кредит.

”Не было ни досье, ни полицейского ордера, ни официального предварительного уведомления. Они просто отрезали меня от того, на что я когда-то имел право”, - сказал он газете The Globe and Mail.

”Что действительно страшно, так это то, что вы ничего не можете с этим поделать. Вы не можете ни перед кем отчитаться. Вы застряли в глуши”.