La Commission européenne prévoit ce qu'Apple a arrêté après le retour de bâton des groupes de défense de la vie privée : L'analyse automatique de vos communications privées par le CSAM.
Agissez maintenant pour mettre fin à la surveillance !
La surveillance CSAM à la Apple en Europe
Quels sont les projets de la Commission européenne ?
Le plan présenté par la Commission européenne prévoit un balayage basé sur l’IA de tous les messages et images directement sur les appareils des citoyens. Ce balayage dit “côté client” constituerait une attaque contre toute communication confidentielle.
Les plans de balayage CSAM d’Apple
Le plan de l’UE est très similaire à ce qu’Apple voulait introduire en 2021 : Le balayage CSAM côté client directement sur votre appareil Apple, par exemple votre iPhone.
”C’est une idée absolument épouvantable, car elle va conduire à une surveillance en masse distribuée de nos téléphones et ordinateurs portables”, a déclaré Ross Anderson, professeur d’ingénierie de sécurité à l’Université de Cambridge auFinancial Times en 2021. Matthew Green, professeur de cryptographie, déclare : “Cela va briser le barrage - les gouvernements vont l’exiger de tout le monde.”
**L’immense tollé suscité**par les militants de la protection de la vie privée dans le monde entier a poussé Apple à mettre fin à son projet de scanner les téléphones des particuliers.
Nouveaux plans de surveillance
Aujourd’hui, la Commission européenne présente exactement les mêmes plans, en essayant de transformer les fournisseurs de communications en shérifs adjoints des autorités et en permettant une surveillance générale de masse de tous nos courriels et messages de discussion.
La recherche de pornographie enfantine sur les appareils des utilisateurs n’est rien d’autre que des bogues - ou des faiblesses de sécurité - intégrés dans le système qui recherchent en permanence des contenus spécifiques. Ce qu’ils recherchent exactement n’est pas encore défini. Mais qu’est-ce qui pourrait bien se passer ?
Explorons cette idée un peu plus en détail !
Qu’est-ce qui pourrait mal tourner ?
- Tout d’abord, nous sommes tous surveillés secrètement, en permanence. La liste des images et des contenus recherchés peut être adaptée. Dès lors qu’une loi oblige les fournisseurs de communications à mettre en œuvre un balayage côté client, l’outil utilisé à cette fin pourrait théoriquement rechercher n’importe quoi. La liste peut donc être étendue sur demande. Dans un premier temps, il s’agit de pédopornographie - comme toujours lorsqu’on a besoin du consensus le plus large possible pour de nouvelles capacités de surveillance. Ensuite, on cherche des terroristes, des trafiquants d’êtres humains, des trafiquants de drogue, et ainsi de suite.
- Sur la base du projet de la Commission européenne, on ne sait pas exactement qui définit la liste et a accès au contenu recherché. Cependant, nous pouvons estimer qu’il s’agira au moins de tous les gouvernements européens, ce qui inclut également des pays comme la Pologne (qui vient de rendre l’avortement illégal) et la Hongrie (qui est connue pour sa suppression des médias).
- Une question majeure qui est complètement négligée par la Commission européenne : La cybersécurité. Des moyens seront trouvés pour pirater le processus d’analyse côté client. Par exemple, des attaquants malveillants pourraient injecter des images ou des documents sur les appareils des personnes afin de les discréditer. Ou encore, des attaquants malveillants pourraient trouver un moyen de siphonner les données qui sont scannées sur nos appareils et les utiliser pour des cyberattaques.
Après tout, nous savons tous qu’une “porte dérobée réservée aux bons” n’est pas possible.
CSAM nuit à la cybersécurité
Équiper toutes nos communications d’une fonction de surveillance permanente qui signale au fournisseur tout écart de conduite, quel qu’il soit, est une idée terrible. C’est une brèche dans le barrage qui conduira à une surveillance totale sans précédent. Quiconque envisage même une telle chose doit faire face à un vent contraire massif.
Et l’opposition se forme déjà.
La “Digitale Gesellschaft” allemande a organisé une manifestation dans un délai très court qui a coïncidé avec la publication par la Commission européenne du projet de loi prévoyant le balayage des téléphones et des ordinateurs par le CSAM, comme Apple l’avait proposé sans succès.
Selon l’organisation européenne de défense des droits numériques EDRi, “la proposition de la Commission européenne concernant le CSAM en ligne ne permet pas de trouver les bonnes solutions pour lutter contre les abus sexuels sur les enfants”.
Ella Jakubowska, conseillère politique à EDRi, déclare :
“La Commission européenne ouvre la porte à un large éventail de tactiques de surveillance autoritaires. Aujourd’hui, les entreprises vont scanner nos messages privés à la recherche de contenu CSAM. Mais une fois que ces méthodes seront connues, qu’est-ce qui empêchera les gouvernements d’obliger demain les entreprises à scanner les preuves de dissidence ou d’opposition politique ?”
Même l’association allemande de protection de l’enfance considère que “l’intervention dans les communications cryptées dans le cadre de la lutte contre la pédopornographie est inutile.” M. Türk, membre du conseil d’administration, a qualifié de “disproportionnée et inefficace” l’analyse des communications privées par messagerie ou par courrier électronique prévue par la Commission européenne sans aucune raison.”
L’enjeu est clair : la vie privée de chacun sur l’internet ainsi que de bonnes protections en matière de cybersécurité.
Comparaison avec les plans CSAM d’Apple
On peut s’attendre à ce que le tollé international qui s’annonce reflète ce qui a été dit lorsqu’Apple a annoncé qu’elle rechercherait les images CSAM sur les iPhones des utilisateurs l’année dernière (et qu’elle n’a pas donné suite à ce projet).
Voyons donc comment les experts en sécurité ont évalué le scan CSAM côté client après qu’Apple ait annoncé ses plans :
Par exemple, l’expert en sécurité Bruce Schneier a qualifié le projet d’analyse de chaque iMessage de “porte dérobée d’Apple pour l’iPhone” ; Edward Snowden a déclaré qu’Apple avait déclaré la guerre à votre vie privée et a ajouté: “Quelles que soient ses bonnes intentions, Apple déploie ainsi une surveillance de masse dans le monde entier. Ne vous y trompez pas : s’ils peuvent aujourd’hui scanner du porno enfantin, ils pourront demain scanner n’importe quoi.”
En ce qui concerne la proposition de la Commission européenne, le professeur de cryptographie Matthew Green ajoute:
“En parlant de véritables problèmes de liberté d’expression, l’UE propose une réglementation qui pourrait rendre obligatoire le balayage des messages cryptés à la recherche de matériel CSAM. C’est du Apple tout craché”.
La surveillance de masse ne résoudra pas le problème
L’accent mis par la Commission européenne sur une solution technique à un problème social complexe qu’est la maltraitance des enfants est une approche erronée.
Déplacer la responsabilité vers les fournisseurs de communications, placer tous les citoyens sous une suspicion générale et porter atteinte au secret de nos communications ne peut être l’alternative à un travail policier responsable et ciblé dans un État de droit.
Le club allemand Chaos Computer Club met en garde dans une déclaration :
“Jusqu’à présent, il n’est pas clair qui doit définir et contrôler les algorithmes de détection et les bases de données. Un tel système non transparent peut être et sera facilement étendu après son introduction. Il est déjà prévisible que l’industrie de l’exploitation des droits sera tout aussi intéressée par le système que les gouvernements antidémocratiques. Il est donc d’autant plus effrayant de voir l’impudence avec laquelle il va maintenant être introduit.”
Agissez maintenant pour stopper la loi
Les experts en sécurité s’accordent à dire que les mesures de surveillance proposées dans le projet actuel de la Commission européenne détruiraient la vie privée en ligne et porteraient atteinte à notre droit au secret des communications.
La surveillance générale de masse - même si elle est effectuée par une IA - est contraire à la Charte des droits fondamentaux de l’Union européenne et doit être arrêtée.
Nous devons agir maintenant pour empêcher que ce projet ne devienne une loi !
- **Si vous vivez en Allemagne, signez la pétition de Camapct**pour combattre le projet de la Commission européenne qui conduirait à une surveillance de masse sans précédent en Europe.
- **Si vous vivez en Autriche, signez la pétition #aufstehn**pour lutter contre le projet de la Commission européenne qui conduirait à une surveillance de masse sans précédent en Europe.
- **Faites part de vos réactions à**la Commission européenne et partagez vos préoccupations concernant ce projet de loi.
- **Vérifiez ici**comment vous pouvez rejoindre la manifestation ainsi qu’appeler et envoyer des emails à vos représentants.
Ensemble, nous devons lutter contre la surveillance de masse !
Qu’y a-t-il de nouveau dans la proposition de l’UE sur le CSAM par rapport à l’approche d’Apple ?
La proposition de la Commission européenne est nouvelle car elle rendrait le balayage CSAM obligatoire, inclurait le balayage pour le “grooming” (qui ne peut être fait qu’en balayant les messages de chat privés), et inclurait les communications cryptées de bout en bout. Les fournisseurs de services cryptés de bout en bout ne peuvent pas rechercher les messages CSAM, car cela compromettrait le cryptage de bout en bout.