Kritik an Chatkontrolle: Warum die CSAM-Scanning-Pläne der EU scheitern müssen.

Der Streit um die Chatkontrolle geht unter den EU-Mitgliedsstaaten weiter, wobei eine kleine Gruppe von Ländern - nämlich Deutschland, Österreich, die Niederlande, Polen, Schweden, Estland und Slowenien - gegen den aktuellen Entwurf der EU-CSA-Verordnung sind. Deutsche Politiker haben bereits gesagt, dass es keine Strafverfolgung um jeden Preis gibt, ein klares Statement gegen die EU-Pläne für client-seitiges Scannen, das die Verschlüsselung untergraben würde.

Dies kommt zu einem sehr wichtigen Zeitpunkt, da das Vereinigte Königreich gerade das Online Safety Bill verabschiedet hat, das so genannte “Playbook for Dictators”. Während es für das Vereinigte Königreich nun theoretisch möglich ist, die Verschlüsselung zu untergraben, hat die EU immer noch die Chance, einen datenschutzfreundlicheren Ansatz zu verfolgen, wenn es um den Schutz des Internets geht.

Deutschland lehnt Chatkontrolle ab

Deutschland forderte, wie schon in der letzten Sitzung, eine Vertagung der Abstimmung, unterstützt von Österreich. Die Arbeit sei noch nicht beendet, die Maßnahmen im aktuellen Text seien unverhältnismäßig und illegal und müssten geändert werden.

Anfang des Jahres kamen die Rechtsexperten des Wissenschaftlichen Dienstes des EU-Parlaments in einer Studie über die Rechtmäßigkeit der Chatkontrolle zu dem Schluss:

“Bei der Abwägung der von den Maßnahmen des CSA-Vorschlags betroffenen Grundrechte kann festgestellt werden, dass der CSA-Vorschlag gegen die Artikel 7 und 8 der Charta der Grundrechte in Bezug auf die Nutzer verstoßen würde.”

Nach Ansicht des Juristischen Dienstes der EU sind die Teile des CSA-Vorschlags, die sich auf die Chat-Kontrolle durch client-seitiges Scannen beziehen, unverhältnismäßig und verstoßen gegen die Grundrechte. Die EU-CSA-Verordnung ist nach EU-Recht rechtswidrig.

Rat ist gespalten

Außerdem wollten Polen, die Niederlande und Schweden Änderungen am Gesetzestext. Neun weitere Staaten forderten eine baldige Verabschiedung des gemeinsamen Standpunkts. Ihre Argumentation: In den Trilog-Verhandlungen mit der Kommission und dem EU-Parlament werden die Staaten ohnehin weitere Kompromisse eingehen müssen.

Doch seit Beginn der Debatten vor 18 Monaten sind vor allem die Überwachungspflichten wie Client-Side-Scanning, Chatkontrolle und Verschlüsselungsaspekte - Kernpunkte des Gesetzentwurfs - unter den EU-Mitgliedsstaaten umstritten.

Schweden sieht “Probleme mit der Integrität und Rechtssicherheit des Vorschlags”, Polen nannte alles “sehr kompliziert” und sagte, die CSA-Verordnung habe es noch nicht geschafft, “die richtige Balance zwischen Kinderschutz und Datenschutz zu finden”.

Polen forderte, dass nur Chats von “Personen unter konkretem Verdacht” gescannt werden sollten, nicht die von unbescholtenen Bürgern.

Mehrere Staaten kritisieren andere Bestimmungen als unverhältnismäßig. Die Niederlande und Deutschland wollen die Sprachtelefonie ausnehmen, während Schweden die Kommunikation über Mobilfunknetze ausnehmen will. Schweden und die Niederlande wollen das Scannen auf bekanntes missbräuchliches Material beschränken und unbekanntes Material und Grooming ausnehmen.

Dies zeigt, wie gespalten die EU-Mitgliedstaaten noch immer sind - und wie umstritten die Chat-Kontrolle ist, eines der am meisten kritisierten EU-Gesetze aller Zeiten.

Widersprüchliche Aussagen der EU-Kommission

Die EU-Kommission hingegen weist die Argumente der Gegner zurück und behauptet, man könne Chats gleichzeitig schützen und scannen - allerdings ohne zu sagen, wie das gehen soll.

Gleichzeitig macht eine andere Formulierung im Gesetzesentwurf deutlich, dass die Chatkontrolle ein Überwachungsinstrument ist: Nicht-öffentliche Kommunikationsdienste sollen ausgenommen werden, etwa wenn sie “für Zwecke der nationalen Sicherheit” genutzt werden, um “vertrauliche Informationen, einschließlich Verschlusssachen” zu schützen - Staaten wollen keine Chat-Kontrolle für ihre eigene Kommunikation, um Überwachung zu vermeiden.

Entscheidung vertagt

Während die EU-Kommission Druck auf die Staaten ausübt, um zu einer endgültigen Entscheidung zu kommen, hat sich gezeigt, dass es keine qualifizierte Mehrheit für den aktuellen Vorschlag gibt. Daher wurde die Abstimmung über CSAR im Rat vertagt.

Dies ist nicht verwunderlich, denn kein anderes EU-Gesetz wurde so sehr kritisiert wie CSAR (durchgesickerter Entwurf der spanischen Präsidentschaft).

Kritik an der Chatkontrolle

1. Chat-Kontrolle kann illegal sein

Das Kernproblem von CSAR ist folgendes: Das massenhafte Durchsuchen der Kommunikation von unverdächtigen Personen ohne Anlass ist unverhältnismäßig und verstößt gegen die Grundrechte.

Im Mai letzten Jahres schlug die Europäische Kommission vor, alle Chat-, Messaging- und E-Mail-Dienste, selbst wenn sie eine Ende-zu-Ende-Verschlüsselung anbieten, zu verpflichten, Nachrichten auf illegales Material über sexuellen Kindesmissbrauch zu scannen (CSAM). Seit ihrer Veröffentlichung werden die vorgeschlagenen Maßnahmen jedoch in ganz Europa kritisiert, da sie de facto zu einer “permanenten Überwachung der gesamten zwischenmenschlichen Kommunikation” führen könnten.

Die EU-Grundrechtecharta garantiert das Recht auf Privatsphäre für alle in der Europäischen Union lebenden Menschen. Folglich sind die Rechtsberater der EU zu dem Schluss gekommen, dass die europäischen Vorschläge zur Chatkontrolle, die Technologieunternehmen dazu verpflichten würden, private und verschlüsselte Nachrichten nach Material über Kindesmissbrauch zu durchsuchen, gegen das EU-Recht verstoßen.

Das umstrittene EU-Gesetz ermöglicht es den Regierungen, Technologieunternehmen “Erkennungsanordnungen” zu erteilen und sie zu verpflichten, private Nachrichten und E-Mails auf “Anzeichen von Kindesmissbrauch” zu überprüfen. Dies könnte die verschlüsselte Kommunikation untergraben, was von Sicherheitsexperten und Datenschützern als allgemeine und wahllose Massenüberwachung kritisiert wird. Außerdem ist zu bedenken, dass das deutsche Bundesverfassungsgericht selbst die Vorratsdatenspeicherung in Deutschland für rechtswidrig erklärt hat, weil sie “unverhältnismäßig” ist.

Es ist sehr wahrscheinlich, dass die CSA-Verordnung - sollte sie Gesetz werden - ebenfalls vom Europäischen Gerichtshof (EuGH) für illegal erklärt werden würde. Die Verpflichtung für Unternehmen wie WhatsApp, Signal und andere, jede Nachricht - auch wenn sie verschlüsselt ist - auf Material über Kindesmissbrauch zu überprüfen, verletzt das Recht der Menschen auf Privatsphäre, was im Widerspruch zur EU-Charta der Grundrechte steht.

Während sich Technologieunternehmen erfolglos gegen ähnliche Vorschläge im britischen Online Safety Bill gewehrt haben, das gerade verabschiedet wurde (einschließlich der umstrittenen Vorschrift, nach Material über sexuellen Kindesmissbrauch zu suchen), sobald eine “machbare Technologie” existiert, scheint es eher unwahrscheinlich, dass etwas Ähnliches in der EU verabschiedet wird. Auf dem Kontinent gibt es großen Widerstand, sogar unter den EU-Mitgliedstaaten, aber noch mehr unter den europäischen Abgeordneten.

2. Lobbyarbeit von KI-Unternehmen

Im September 2023 wurde eine neue Studie veröffentlicht, die ein ganz anderes Licht auf die Chat-Kontrolle wirft - und darauf, wer wirklich davon profitieren würde, wenn alle Europäer rund um die Uhr im Internet überwacht würden.

Neben Ashton Kutcher und seiner Organisation Thorn gibt es eine lange Liste von Organisationen, KI-Firmen und Strafverfolgungsbehörden, die sich in Brüssel für Chatkontrolle einsetzen. Die Recherche entlarvt zum Beispiel die WeProtect Global Alliance als regierungsnahe Institution, die eng mit dem Ex-Diplomaten Douglas Griffiths und seiner Oak Foundation verbunden ist. Letztere hat seit 2019 mehr als 24 Millionen US-Dollar in die Lobbyarbeit für die Chat-Kontrolle investiert, zum Beispiel über das Ecpat-Netzwerk, die Organisation Brave und die PR-Agentur Purpose.

Die Untersuchung “bestätigt unsere schlimmsten Befürchtungen”, sagte Diego Naranjo, Leiter der Abteilung Politik bei der Bürgerrechtsorganisation European Digital Rights (EDRi): “Das am meisten kritisierte europäische Technologiegesetz des letzten Jahrzehnts ist das Produkt der Lobbyarbeit von Privatunternehmen und Strafverfolgungsbehörden.” EU-Kommissarin Ylva Johansson habe “Wissenschaft und Zivilgesellschaft” ignoriert und ein Gesetz vorgeschlagen, “das Massenüberwachung legalisiert und Verschlüsselung aufbricht”, so Narjo. “Der Kinderschutz wird hier als Türöffner für eine Infrastruktur zur Massenüberwachung ohne jeden Grund missbraucht”, beklagt Konstantin Macher vom Datenschutzverein Digitalcourage.

3. Deutschland gegen den Vorschlag

Deutschland ist der stärkste Gegner des aktuellen CSAR-Entwurfs - und das zu Recht. Deutschland ist bekannt dafür, das Recht auf Privatsphäre zu verteidigen, nicht zuletzt wegen seiner Geschichte der Massenüberwachung während des deutschen repressiven Systeme der Deutschen Demokratischen Republik (DDR) und während des Zweiten Weltkriegs.

Heute sagen deutsche Politiker: “Es gibt keine Strafverfolgung um jeden Preis”, und das bedeutet: Das Recht auf Privatsphäre ist ein wichtiges Menschenrecht, das wir nicht aufgeben dürfen.

4. Am meisten kritisiertes EU-Gesetz aller Zeiten

Laut der Non-Profit-Organisation EDRi hat ein “beispiellos breites Spektrum von Interessengruppen Bedenken geäußert, dass die im Entwurf der EU-Verordnung zum sexuellen Kindesmissbrauch vorgeschlagenen Maßnahmen trotz ihrer grundsätzlich wichtigen Ziele nicht mit den Menschenrechten vereinbar sind”.

EDRi hat eine beeindruckende Sammlung von 69 Gegenstimmen von EU-Politikern, EU-Mitgliedstaaten, Technologieunternehmen und sogar Kinderschutzexperten veröffentlicht, die erklären, warum die Chatkontrolle scheitern muss.

Außerdem wurde ein offener Brief veröffentlicht, der von über 80 Nichtregierungsorganisationen unterzeichnet wurde und es erklären fast 500 Wissenschaftler, warum wir für die Privatsphäre in Europa kämpfen müssen.

Ganz gleich, wie Politiker versuchen, die Öffentlichkeit zu überzeugen: Das Durchsuchen unserer privaten Nachrichten nach Material über sexuellen Kindesmissbrauch ist Massenüberwachung. Das dürfen wir niemals zulassen.

Tutanota akzeptiert Chatkontrolle nicht

Bei Tutanota sind wir Freiheitskämpfer: Wir stehen an der Spitze der Revolution für Privatsphäre, indem wir jedem auf der Welt ein privates E-Mail-Konto anbieten.

Sollte die CSA-Verordnung in ihrer jetzigen Form verabschiedet werden, wären wir bereit, das Recht der Menschen auf Privatsphäre vor Gericht zu verteidigen, wie wir es bereits in Deutschland getan haben.

Wir stellen Ihre Privatsphäre und Sicherheit an erste Stelle, unser Code für Tutanotas automatische Ende-zu-Ende-Verschlüsselung ist als Open Source öffentlich zugänglich. Wir würden niemals unser Datenschutzversprechen oder unsere Verschlüsselung untergraben.

Wir werden alles tun, was nötig ist, um Ihr Recht auf Privatsphäre zu schützen.