Die Chatkontrolle wurde erstmals 2022 vorgeschlagen, aber trotz mehrerer Anläufe von Ungarn, Schweden und anderen ist der Entwurf immer noch nicht Gesetz geworden. Jetzt schlägt die dänische EU-Ratspräsidentschaft eine neue Version der Chatkontrolle vor - und zwar eine, die schlimmer ist als die vorherigen:

Wenn der ungarische Vorschlag schon schlecht war, ist die dänische Version noch extremer und drängt auf die Schaffung einer Orwellschen Welt.

Stoppt Chat Control: Der Kampf um die Privatsphäre ist noch nicht vorbei!

Der neue dänische Vorschlag zur Chatkontrolle würde das obligatorische Scannen aller privaten Kommunikationen - einschließlich sicherer, verschlüsselter Chats - erzwingen.

Es ist sehr bezeichnend, dass die Konten von Regierungen und Militärs von diesem Eingriff in die Privatsphäre ausgenommen sind, während die Daten von Bürgern und Unternehmen abgehört werden sollen.

Noch schlimmer ist jedoch, dass diese Version von 2025 nicht nur frühere Vorschläge der EU zum clientseitigen Scannen wieder aufgreift - sie geht noch weiter. Wenn sie verabschiedet wird, können die Strafverfolgungsbehörden in ganz Europa die Anbieter von Online-Kommunikation dazu zwingen, mit unzuverlässiger KI nach “unbekannten” Inhalten zu suchen, nicht nur nach bekannten illegalen Inhalten. Dies birgt das Risiko, dass Ihre intimsten privaten Gespräche und Fotos offengelegt werden.

Bei all den Datenschutzproblemen, die wir bereits im Zusammenhang mit KI-Tools sehen, ist dies der denkbar schlechteste Vorschlag. Denken Sie nur daran, wie Google seine KI mit all Ihren Daten trainieren könnte, wie LinkedIn Nutzerdaten ohne deren ausdrückliche Zustimmung für KI-Training benutzt. Daher suchen die Menschen jetzt aktiv nach Möglichkeiten, Gemini auf Android zu deaktivieren oder Meta-KI auf WhatsApp abzuschalten. Und ja, als datenschutzfreundlicher E-Mail-Anbieter können wir auch sagen, dass die Verwendung von KI in E-Mails keine gute Idee ist.

Trotz dieses Trends - die eigenen Daten vor aggressivem KI-Missbrauch zu schützen - wollen EU-Politiker der KI noch mehr und tieferen Zugriff auf alles geben, was wir online tun, einschließlich des Scannens verschlüsselter Nachrichten. Anstatt die Daten der Nutzer zu schützen, wollen die Politiker eine Hintertür zur Verschlüsselung schaffen, die die Sicherheit und Privatsphäre aller bedroht.

Wenn die Chatkontrolle verabschiedet wird, werden undurchsichtige KI-Algorithmen darüber entscheiden, ob Ihre persönlichen Nachrichten und Ihre privaten Bilder markiert und überprüft werden. Dies untergräbt die Online-Privatsphäre von über 400 Millionen EU-Bürgern, was wir nicht hinnehmen dürfen. Darüber hinaus bestätigt ein durchgesickertes Memo der deutschen Regierung, dass die eigenen Juristen des Rates der Meinung sind, dass dieser Gesetzesentwurf gegen die Grundrechte verstößt, die Verschlüsselung schwächt und vor Gericht wahrscheinlich keinen Bestand haben wird - so wird nichts für den Kinderschutz erreicht, während die Privatsphäre aller zerstört wird.

Werden Sie jetzt aktiv

Das durchgesickerte Memo offenbart auch eine gefährliche Entwicklung: Viele Länder im EU-Rat, die dazu beigetragen haben, Chatkontrolle im Jahr 2024 zu blockieren, sind nun unentschlossen.

Die folgenden Länder sind noch unentschlossen: Belgien, Tschechische Republik, Estland, Finnland, Deutschland, Griechenland, Slowenien, Luxemburg, Rumänien; die schwedische Regierung ist zwar dafür, braucht aber die Zustimmung des Parlaments.

Dies ist - oder war - die Sperrminorität. Wir müssen dafür sorgen, dass sich diese Länder weiterhin gegen Chat Control aussprechen, um zu verhindern, dass sie Gesetz wird.

Eine Tatsache, die Chat Control in Deutschland so umstritten macht - was in der gesamten EU so sein sollte - ist, dass wir in Deutschland dieses Gesetz tatsächlich “Chatkontrolle” nennen - und nicht “Upload Moderation”, “ProtectEU” oder welchen Namen sich der EU-Rat auch immer ausdenkt. Folgen Sie also diesem Aufruf auf YouTube und nennen Sie dieses Gesetz bei seinem richtigen Namen: Chat Control.

Die Uhr tickt und die Zeit, die Chatkontrolle zu stoppen, ist jetzt!

• 12. September: Die Regierungen werden ihre Positionen festlegen.

• 14. Oktober: Endgültige Abstimmung im EU-Rat.

Rufen Sie vor dem 12. September die Entscheidungsträger in Ihren lokalen Regierungen sowie die EU-Vertreter an und fordern Sie sie auf, die Verschlüsselung zu schützen und Chat Control abzulehnen.

Machen Sie Deutschland wieder zu einem Gegner der Chatkontrolle!

Deutsche Flagge vor dem Bundestag.

Deutschland, seit Mai 2025 unter einer neuen Regierung, ist nicht mehr eindeutig gegen Chat Control. Dies ist eine Warnung an alle, die sich für den Schutz der Privatsphäre einsetzen, und muss jeden dazu bringen, jetzt zu handeln, um das Blatt in diesem großen EU-Land zu wenden. Besonders besorgniserregend ist der Standpunkt der Politiker, die sich anscheinend nicht mehr gegen die Chatkontrolle aussprechen, obwohl es klare Anzeichen dafür gibt, dass der Gesetzentwurf gegen die Menschenrechte verstößt und sehr wahrscheinlich vom deutschen Verfassungsgericht wegen unverhältnismäßiger Massenüberwachung für rechtswidrig erklärt werden wird. Dies sieht nach einem ähnlichen Ansatz aus wie die Geschichte der Gesetzgebung zur Vorratsdatenspeicherung in Deutschland - die mehrfach für illegal erklärt wurde. Aber die Politiker versuchten es immer wieder, bis sie sich schließlich darauf einigten, dass persönliche Kommunikation wie E-Mails von jeglicher Verpflichtung zur Vorratsdatenspeicherung ausgenommen sind.

Aber zurück zu Chat Control: Im Jahr 2024 kamen die Rechtsexperten des Wissenschaftlichen Dienstes des EU-Parlaments in einer Studie über die Rechtmäßigkeit der Chatkontrolle zu dem Schluss:

“Bei der Abwägung der von den Maßnahmen des CSA-Vorschlags betroffenen Grundrechte ist festzustellen, dass der CSA-Vorschlag gegen die Artikel 7 und 8 der Charta der Grundrechte in Bezug auf die Nutzer verstoßen würde.”

Nach Ansicht des Juristischen Dienstes der EU sind die Teile des CSAR-Vorschlags, die das clientseitige Scannen betreffen, unverhältnismäßig und grundrechtswidrig.

Dies führt zu der größten Kritik an der Chatkontrolle: Die EU-CSA-Verordnung ist nach EU-Recht rechtswidrig.

Widersprüchliche Aussagen der EU-Kommission

Die EU-Kommission weist die Argumente der Gegner jedoch zurück und behauptet, man könne Chats gleichzeitig schützen und scannen - allerdings ohne zu sagen, wie das geschehen soll.

Gleichzeitig macht eine andere Formulierung im Gesetzesentwurf deutlich, dass die Chatkontrolle ein Überwachungsinstrument ist: Nicht-öffentliche Kommunikationsdienste, zum Beispiel die Militärdienste, sollen ausgenommen werden. Damit sollen “vertrauliche Informationen, einschließlich Verschlusssachen”, geschützt werden.

Staaten wollen keine Chatkontrolle für ihre eigene Kommunikation, um Überwachung zu vermeiden.

Kritik an der Chatkontrolle

1. Chatkontrolle kann illegal sein

Das Kernproblem von CSAR ist folgendes: Das massenhafte Scannen der Kommunikation von unverdächtigen Personen ohne Anlass ist unverhältnismäßig und verstößt gegen die Grundrechte.

Im Mai 2022 schlug die Europäische Kommission vor, alle Chat-, Messaging- und E-Mail-Dienste, auch wenn sie eine Ende-zu-Ende-Verschlüsselung anbieten, zu verpflichten, Nachrichten auf illegales Material über sexuellen Kindesmissbrauch (CSAM) zu überprüfen. Seit ihrer Veröffentlichung werden die vorgeschlagenen Maßnahmen jedoch in ganz Europa kritisiert, da sie de facto zu einer “permanenten Überwachung der gesamten zwischenmenschlichen Kommunikation” führen könnten.

Die EU-Grundrechtecharta garantiert das Recht auf Privatsphäre für alle in der Europäischen Union lebenden Menschen. Folglich sind die Rechtsberater der EU zu dem Schluss gekommen, dass die europäischen Chat-Kontrollvorschläge, die Technologieunternehmen dazu verpflichten würden, private und verschlüsselte Nachrichten nach Material über Kindesmissbrauch zu durchsuchen, gegen EU-Recht verstoßen.

Das umstrittene EU-Gesetz ermöglicht es den Regierungen, Technologieunternehmen “Erkennungsanordnungen” zu erteilen und sie zu verpflichten, private Nachrichten und E-Mails auf “Anzeichen von Kindesmissbrauch” zu überprüfen. Dies könnte die verschlüsselte Kommunikation untergraben, was von Sicherheitsexperten und Datenschützern als allgemeine und wahllose Massenüberwachung kritisiert wird. Außerdem ist zu bedenken, dass das deutsche Bundesverfassungsgericht die Vorratsdatenspeicherung in Deutschland sogar für rechtswidrig erklärt hat, weil sie “unverhältnismäßig” sei.

Es ist sehr wahrscheinlich, dass die CSA-Verordnung - sollte sie Gesetz werden - auch vom Europäischen Gerichtshof (EuGH) für illegal erklärt werden würde. Die Verpflichtung für Unternehmen wie WhatsApp, Signal und andere, jede Nachricht - auch wenn sie verschlüsselt ist - auf Material über Kindesmissbrauch zu überprüfen, verletzt das Recht der Menschen auf Privatsphäre, was im Widerspruch zur EU-Grundrechtecharta steht.

2. Lobbyarbeit von KI-Unternehmen

Im September 2023 wurde eine neue Studie veröffentlicht, die ein ganz anderes Licht auf die Chatkontrolle wirft - und darauf, wer wirklich davon profitieren würde, wenn alle Europäer rund um die Uhr im Internet überwacht würden.

Neben Ashton Kutcher und seiner Organisation Thorn gibt es eine lange Liste von Organisationen, KI-Firmen und Strafverfolgungsbehörden, die sich in Brüssel für Chatkontrolle einsetzen. Die Recherche entlarvt zum Beispiel die WeProtect Global Alliance als regierungsnahe Institution, die eng mit dem Ex-Diplomaten Douglas Griffiths und seiner Oak Foundation verbunden ist. Letztere hat seit 2019 mehr als 24 Millionen US-Dollar in die Lobbyarbeit für die Chat-Kontrolle investiert, zum Beispiel über das Ecpat-Netzwerk, die Organisation Brave und die PR-Agentur Purpose.

Die Untersuchung “bestätigt unsere schlimmsten Befürchtungen”, sagte Diego Naranjo, Leiter der Abteilung Politik bei der Bürgerrechtsorganisation European Digital Rights (EDRi): “Das am meisten kritisierte europäische Technologiegesetz des letzten Jahrzehnts ist das Produkt der Lobbyarbeit von Privatunternehmen und Strafverfolgungsbehörden.” EU-Kommissarin Ylva Johansson habe “Wissenschaft und Zivilgesellschaft” ignoriert und ein Gesetz vorgeschlagen, “das Massenüberwachung legalisiert und Verschlüsselung aufbricht”, so Narjo. “Der Kinderschutz wird hier als Türöffner für eine Infrastruktur zur Massenüberwachung ohne jeden Grund missbraucht”, beklagt Konstantin Macher vom Datenschutzverein Digitalcourage.

3. Am meisten kritisiertes EU-Gesetz überhaupt

Laut der Non-Profit-Organisation EDRi hat ein “beispiellos breites Spektrum von Interessengruppen Bedenken geäußert, dass die im Entwurf der EU-Verordnung zum sexuellen Kindesmissbrauch vorgeschlagenen Maßnahmen trotz ihrer wichtigen Ziele grundsätzlich nicht mit den Menschenrechten vereinbar sind”.

EDRi hat eine beeindruckende Sammlung von 69 Gegenstimmen von EU-Politikern, EU-Mitgliedstaaten, Technologieunternehmen und sogar Kinderschutzexperten veröffentlicht, die erklären, warum die Chatkontrolle scheitern muss.

Außerdem wurde ein offener Brief veröffentlicht, der von mehr als 80 Nichtregierungsorganisationen unterzeichnet wurde und durch die Stimmen von fast 500 Wissenschaftlern und ~90 Organisationen ergänzt, die erklären, warum wir für die Privatsphäre in Europa kämpfen müssen.

Ganz gleich, wie Politiker versuchen, die Öffentlichkeit zu überzeugen: Das Durchsuchen unserer privaten Nachrichten nach Material über sexuellen Kindesmissbrauch ist Massenüberwachung. Das dürfen wir niemals zulassen.

Wir von Tuta werden die Chatkontrolle nicht akzeptieren

Bei Tuta sind wir Freiheitskämpfer: Wir stehen an der Spitze der Datenschutzrevolution, indem wir jedem auf der Welt ein privates E-Mail-Konto anbieten.

Sollte die CSA-Verordnung in ihrer jetzigen Form weiter vorangetrieben werden, wären wir bereit, das Recht der Menschen auf Privatsphäre vor Gericht zu verteidigen, wie wir es bereits in Deutschland getan haben.

Wir stellen Ihre Privatsphäre und Sicherheit an die erste Stelle, unser Code für die automatische Ende-zu-Ende-Verschlüsselung von Tuta ist für jeden zugänglich und als Open Source veröffentlicht. Wir würden niemals unser Datenschutzversprechen oder unsere Verschlüsselung untergraben.

Unser Standpunkt bleibt: Wir werden alles tun, was nötig ist, um Ihr Recht auf Privatsphäre zu gewährleisten.