Sistema de Crédito Social na China: Porque é que é tão assustador.

A forma moderna de vigilância em massa, vigilância em linha, é fácil, barata e instantânea. Os resultados da vigilância em linha podem ser facilmente agregados e calculados para consequências da vida real, por exemplo para estabelecer um sistema de crédito social.

O governo autoritário da China sob Xi Jinping dá um exemplo perfeito de um sistema moderno de crédito social. É uma ferramenta altamente flexível que pode ser rapidamente aplicada para abordar novas prioridades políticas. E isto afecta a liberdade de expressão, resultando em censura e auto-censura, acabando por silenciar qualquer forma de oposição.

Neste post, explicamos porque é que um sistema de crédito social é mau - e não se trata apenas da China.

Sistema de crédito social

Quando as pessoas ouvem o sistema de crédito social, todos pensam na China e no seu sistema para fazer as pessoas viverem de acordo com as regras do governo. Contudo, os sistemas de crédito social já existem em muitos mais países, mesmo aqui na Europa e na América.

Qual é a gravidade da situação?

Claro que ninguém lhe chama sistema de crédito social, mas se pensarmos bem, ele já está aqui: A companhia de seguros que calcula o seu prémio de risco com base em informações recolhidas nos meios de comunicação social. O banco que calcula a sua credibilidade financeira e, portanto, as suas taxas de juro, com base em informações fornecidas pela Schufa(sistema alemão). AirBnB e Uber desactivam contas, por exemplo, se um proprietário de casa ou um condutor o denunciou por “mau comportamento”, sem lhe dar qualquer opção de recurso.

Estes são apenas alguns exemplos que mostram claramente que alguma forma de sistema de crédito social já está estabelecida, não apenas na China, mas também na Europa e nos EUA.

Há empresas que recolhem informação sobre si que conduzem a consequências com base nesta informação.

A única diferença em relação à próxima versão chinesa é que esta ainda não está interligada. Se Uber o bloquear, ainda poderá utilizar um táxi. Se um seguro lhe pedir um prémio elevado, pode tentar obter outro. Mas e se isto mudar?

A web é uma máquina de vigilância

Tal como está hoje, você é aquilo em que clica. Assim que acede à Internet, tudo o que faz é acompanhado pelo seu navegador, por terceiros, por cookies, por quase todos os sites em que continua a estar ligado (Google, Facebook, etc.).

A Internet inteira é uma máquina de vigilância. Os dados que dá livremente são agregados e está a ser criado um perfil sobre si. Até agora, este perfil está ‘apenas’ a ser utilizado para anúncios direccionados. Mas pode muito bem ser utilizado para criar um chamado ‘sistema de crédito social’.

As consequências neste momento não são agradáveis, mas também não são muito más: os anúncios que lhe são mostrados podem levar a produtos e serviços com preços excessivos, porque o seu perfil sugere que está disposto a pagar demasiado por estas coisas. Seja porque é fã, ou porque gosta da conveniência de uma compra rápida, ou simplesmente porque tem demasiado dinheiro e, portanto, não se importa.

Neste momento é fácil filtrar as consequências desta forma de vigilância em linha, bastando para isso instalar um bloqueador de ad-bloqueador.

No entanto, a vasta quantidade de dados combinada com inteligência artificial abre a porta a um rastreio e abuso de dados sem precedentes: O escândalo Clearview demonstra-o da pior forma possível.

Vigilância interconectada

Neste momento, cada empresa e cada agência pública tem apenas um subconjunto de dados. No entanto, este conjunto de dados está em constante crescimento e os corretores de dados utilizam e abusam destes dados. Além disso, é muito provável que, no futuro, todos os dados disponíveis em linha estejam ligados.

Se utilizar vários serviços Google, isto já está a acontecer. No entanto, com uma melhor tecnologia de localização, as empresas tecnológicas encontrarão uma forma de ligar os seus dados recolhidos através dos serviços: O seu perfil de utilizador Google será fundido com o seu perfil no Facebook, que será fundido com o seu perfil de seguro e assim por diante.

E é exactamente isso que é tão assustador sobre o Sistema de Crédito Social Chinês: Os meios de comunicação ocidentais sugerem que esta fusão de informação já está a ser feita na China. A ligação de muita informação sobre pessoas individuais leva a uma pontuação individual que ou as ajuda a alcançar o que querem na vida ou as impede de alcançar o mesmo.

Assim que isto acontecer, assim que todos os dados estiverem ligados e for estabelecido um perfil sobre si, será muito difícil alterar este perfil.

A vigilância tem consequências na vida real

Este seu perfil virtual levará a consequências na vida real: Poderá não obter o empréstimo de que necessita para comprar uma casa devido a uma má pontuação de crédito social. Poderá não obter um seguro automóvel, e assim, ficar preso aos transportes públicos.

A maioria das pessoas pensa que estas consequências não as afectarão, porque levam uma boa vida. Afinal, esse é o objectivo de qualquer sistema deste tipo: forçar as pessoas a levarem uma boa vida. E o que há de tão mau nisto?

Definição de ‘bom’.

O problema é a definição de ‘bom’: Para as empresas ‘boas’ pode implicar pessoas que são clientes recorrentes, que compram demasiado e gastam demasiado.

Para os governos ‘bons’ pode significar pessoas que seguem as regras e não falam alto. Nunca. Não importa o que o governo decida.

Ficção científica distópica

Embora tudo isto pareça ficção científica distópica, como o livro “1984” ou como um episódio do programa televisivo britânico “Black Mirror”, a forma como a Internet está actualmente a funcionar faz com que tal cenário pareça muito mais provável do que há duas décadas atrás.

Big Data - com todos os seus avanços promete à sociedade - também vem com uma ameaça muito grande: no futuro, governos e empresas têm o poder de saber tudo sobre nós.

Porque é que um sistema de crédito social é mau?

Um sistema de crédito social irá

• Definir as vidas das pessoas, limitando as suas escolhas de vida
• Conduzir à desigualdade
• Influenciar o comportamento das pessoas e a auto-censura
• Prejudicar a liberdade de expressão

Um sistema de crédito social utiliza todos os dados disponíveis sobre indivíduos para aplicar pontuações. Com base nestas pontuações, as pessoas podem ou não obter um empréstimo, podem ser autorizadas a ir para a universidade ou não. O que é tão mau no sistema de crédito social é que as pessoas não podem recorrer contra a pontuação. Este sistema define a sua vida, limita as suas escolhas de vida e conduz à desigualdade.

Porque todos sabem como a pontuação os afecta, um sistema de crédito social também influenciará o comportamento das pessoas. Quer se queira agradar a uma empresa na esperança de conseguir um melhor negócio ou um governo, qualquer forma de sistema de crédito social conduzirá à auto-censura.

Deixará de publicar as suas fotografias da festa de ontem à noite nos meios de comunicação social por medo que o seu seguro de saúde suba. Ou deixará de publicar fotografias da manifestação a que foi por medo de que o seu governo não o deixe ir para a universidade.

Pior ainda: poderá deixar de festejar ou ir a manifestações por completo.

No final, isto conduzirá à auto-censura, numa extensão nunca antes vista. Alimentada por uma vigilância online generalizada, a maioria das pessoas tentará apresentar-se da melhor maneira possível, sempre e em todo o lado, mesmo nas suas conversas privadas.

A liberdade de expressão é minada

A liberdade de expressão é protegida pela maioria das constituições, e isto por uma razão muito boa. Só com a liberdade de expressão podemos discutir livremente qualquer questão, desenvolver novas ideias e fazer evoluir as nossas democracias para lugares melhores para todos.

Qualquer sistema de crédito social - seja ele privado ou público - é mau para a liberdade de expressão.

Embora nas nossas democracias ocidentais não exista um actor estatal a tentar implementar tal sistema, a ameaça ainda paira sobre nós.

Embora consideremos o Sistema de Crédito Social Chinês como ‘mau’ - porque um governo não democrático o utiliza para obrigar os seus cidadãos a seguir as regras, os sistemas privados que estão actualmente a surgir nas nossas sociedades não são melhores.

A liberdade de expressão precisa de privacidade

É por isso que a liberdade de expressão e a privacidade estão interligadas. Apenas se conseguir manter os seus dados privados privados, é impossível aos actores ou empresas estatais recolher os seus dados e criar um perfil sobre si.

Infelizmente, as empresas de tecnologia são muito mais rápidas no desenvolvimento de aplicações e serviços de vigilância do que os actores estatais estão a fazer leis para proteger o nosso direito à privacidade, tais como o GDPR europeu, por exemplo.

Neste momento, a única opção que temos para nos proteger da extensa exploração de dados é escolher serviços que protejam a nossa privacidade. Para começar, aqui estão as nossas recomendações sobre como deixar para trás serviços de prospecção de dados como o Google e o Facebook.

Lute connosco pelo nosso direito à privacidade!

---

O que é o Sistema de Crédito Social da China?

O Sistema de Crédito Social da China baseia-se numa extensa vigilância governamental que está a ser utilizada para “classificar” os cidadãos. Compreende:

1. Vigilância extensiva de toda a população
2. Uma pontuação social calculada com base nestes dados de vigilância
3. A pontuação social define a vida das pessoas

Na China, as pessoas são seguidas de muitas maneiras pelo governo, o que permite ao governo calcular uma pontuação de indivíduos com base no seu comportamento. Vários factores como “pagaram os seus impostos”, “passaram por um semáforo vermelho”, “fizeram comentários negativos sobre o governo nos meios de comunicação social” influenciam esta pontuação. Com base nesta pontuação, as pessoas podem até ser colocadas na lista negra pelo governo. Como resultado, podem não ser capazes de reservar bilhetes de comboio, ir para a universidade ou obter um empréstimo.

Assim, o sistema de crédito social chinês decide directamente sobre como as pessoas podem levar as suas vidas. A pressão criada pelo sistema faz com que as pessoas ajam de acordo com as expectativas dos governos e qualquer forma de oposição é silenciada.

A forma como o sistema chinês julga directamente as pessoas é única. As pessoas não têm opção de recorrer ao processo, basicamente são condenadas sem julgamento - e é isto que torna o sistema tão terrivelmente assustador.

História

Em 2020, o Sistema de Crédito Social Chinês, que tem vindo a ser desenvolvido e testado desde 2009, destina-se a uniformizar a avaliação da reputação económica e social dos cidadãos e das empresas, ou “Crédito Social”.

Com este sistema, as pessoas e empresas podem ser rastreadas e avaliadas pela sua fiabilidade. O sistema de crédito chinês está estreitamente ligado ao sistema de vigilância da China com reconhecimento facial, grande análise de dados, e IA.

Aprenda aqui como funciona o reconhecimento facial e como pará-lo.

O Sistema de Crédito Social é comercializado pelo Partido Comunista da China de Xi Jinping ao seu povo como uma grande melhoria para a sociedade como um todo. O objectivo é que pessoas e empresas se tornem mais honestas, para combater a corrupção, e para ter um melhor funcionamento e uma sociedade mais estável em geral.

A ideia por detrás disto é compreensível: medida que as redes sociais diminuem e o anonimato nas cidades aumenta, a pressão social para se comportar de uma forma aceitável também diminui. A China substitui agora esta pressão social pelo Sistema de Crédito Social, para que as pessoas, mesmo quando vivem anonimamente em qualquer cidade, se comportem de uma forma aceitável.

Poder sobre as pessoas

A China, no entanto, é um país autocrático. Aqui o poder não reside no povo, mas o governo quer ter o máximo poder sobre o povo. A oposição ao Partido Comunista Chinês não é permitida. Os activistas e jornalistas investigativos têm uma posição muito difícil na sociedade chinesa, e o Sistema de Crédito Social irá piorar ainda mais esta situação.

O Sistema de Crédito Social tem um grande potencial para melhorar a sociedade à superfície, destruindo ao mesmo tempo a confiança das pessoas no governo e na sociedade como um todo por baixo dele. Afinal de contas, o sistema mina o Estado de direito.

As pessoas podem facilmente ser colocadas na lista negra, o que tem graves consequências na vida real. Qualquer pessoa que seja inscrita na lista negra, é imediatamente inscrita numa tal lista. Não há julgamento em tribunal. As pessoas e as empresas podem recorrer contra a colocação na lista negra ou contra o recebimento de maus créditos.

Mas o conceito de “inocente até prova em contrário” é invertido: eles têm de provar que estão inocentes.

Como o Sistema de Crédito Social anda de mãos dadas com um dos piores aparelhos de vigilância, viola direitos legais tais como o direito à reputação, o direito à privacidade, e o direito à liberdade de expressão.

Milhões de pessoas inscritas na lista negra

Os factores negativos para as notações de crédito foram diferentes no passado, dependendo do local onde se vive, mas devem ser racionalizados em toda a China no futuro. Os factores negativos incluem:

• Comportamento financeiro desonesto e fraudulento
• Tocar música alta
• Violação das regras de trânsito
• Fazer reservas em restaurantes e não aparecer
• Falha na classificação correcta dos seus resíduos
• Utilização fraudulenta de cartões de identificação de transportes públicos de outras pessoas

Os factores positivos, por outro lado, incluem:

• Doação de sangue
• Doação para caridade
• Voluntariado para serviços comunitários

De acordo com a Wikipédia, as pessoas que constam da lista negra já estão a ser proibidas de utilizar transportes públicos: Por exemplo, 26,82 milhões de bilhetes de avião, bem como 5,96 milhões de bilhetes de comboio de alta velocidade tinham sido negados a pessoas consideradas “não fiáveis” (失信).

Além disso, algumas informações pessoais das pessoas inscritas na lista negra são deliberadamente tornadas acessíveis a todos e são exibidas online, bem como em vários locais públicos, tais como cinemas e autocarros. Algumas cidades proibiram também as crianças de residentes “não confiáveis” de frequentar escolas privadas e mesmo universidades.

Uma forma moderna de colocar as pessoas no pelourinho.

Quem está a ser incluído na lista negra?

Todos os cidadãos e todas as empresas na China têm agora de se preocupar em ser colocados na lista negra pelo Sistema de Crédito Social. Uma vez que o Estado de direito não se aplica ao sistema, as pessoas podem até ser colocadas na lista negra por acidente. Então, é seu dever provar a sua inocência - e não o contrário. Isto pode tornar a vida de muitas pessoas muito difícil.

Para as pessoas que são colocadas na lista negra, as consequências podem ser muito semelhantes às de pessoas que estão a ser inocentemente acusadas com base em dados de localização, o que estes dois exemplos dos EUA demonstram.

Além disso, a China também utiliza o sistema para colocar na lista negra pessoas que se opõem ao governo. De acordo com The Globe and Mail, uma das primeiras pessoas a serem colocadas na lista negra foi Liu Hu, jornalista na China, escrevendo sobre censura e corrupção governamental.

Liu foi incluído numa lista de pessoas desonestas sujeitas à execução pelo Supremo Tribunal Popular como “não qualificado” para comprar um bilhete de avião, e proibido de viajar em algumas linhas de comboio, comprar propriedade, ou contrair um empréstimo.

”Não houve nenhum processo, nenhum mandado policial, nenhuma notificação oficial antecipada”. Eles apenas me cortaram as coisas a que em tempos tive direito”, disse ele ao The Globe and Mail.

”O que é realmente assustador é que não há nada que se possa fazer quanto a isso. Não se pode reportar a ninguém”. Estás preso no meio do nada”.