Die Chatkontrolle wurde erstmals 2022 vorgeschlagen, aber trotz mehrerer Anläufe von Ungarn, Schweden und anderen ist der Entwurf immer noch nicht Gesetz geworden. Jetzt schlägt die dänische EU-Ratspräsidentschaft eine neue Version der Chatkontrolle vor - und zwar eine, die schlimmer ist als die vorherigen:

Wenn der ungarische Vorschlag schon schlecht war, ist die dänische Version noch extremer und drängt auf die Schaffung einer Orwellschen Welt.

Stoppt Chat Control: Der Kampf um die Privatsphäre ist noch nicht vorbei!

Der neue dänische Vorschlag zur Chatkontrolle würde das obligatorische Scannen aller privaten Kommunikationen - einschließlich sicherer, verschlüsselter Chats - erzwingen.

Es ist sehr bezeichnend, dass die Konten von Regierungen und Militärs von diesem Eingriff in die Privatsphäre ausgenommen sind, während die Daten von Bürgern und Unternehmen abgehört werden sollen.

Noch schlimmer ist jedoch, dass diese Version von 2025 nicht nur frühere Vorschläge der EU zum clientseitigen Scannen wieder aufgreift - sie geht noch weiter. Wenn dieses Gesetz verabschiedet wird, können die Strafverfolgungsbehörden in ganz Europa die Anbieter von Online-Kommunikation dazu zwingen, mit unzuverlässiger KI nach “unbekannten” Inhalten zu suchen, nicht nur nach bekannten illegalen Inhalten. Dies birgt das Risiko, dass Ihre intimsten privaten Gespräche und Fotos offengelegt werden.

Bei all den Datenschutzproblemen, die wir bereits im Zusammenhang mit KI-Tools sehen, ist dies der denkbar schlechteste Vorschlag. Denken Sie nur daran, wie Google seine KI mit all Ihren Daten trainieren kann, oder wie LinkedIn Daten der Nutzer ohne ihre Zustimmung für KI-Training benutzt. Daher suchen die Menschen jetzt aktiv nach Möglichkeiten, Gemini auf Android zu deaktivieren oder Meta-KI auf WhatsApp abzuschalten. Und ja, als datenschutzfreundlicher E-Mail-Anbieter können wir auch sagen, dass die Verwendung von KI in E-Mails keine gute Idee ist.

Trotz dieses Trends - die eigenen Daten vor aggressivem KI-Missbrauch zu schützen - wollen EU-Politiker der KI jetzt noch mehr und noch tieferen Zugriff auf alles geben, was wir online tun, einschließlich des Scannens verschlüsselter Nachrichten. Anstatt die Daten der Nutzer zu schützen, wollen die Politiker eine Hintertür zur Verschlüsselung schaffen, die die Sicherheit und Privatsphäre aller bedroht.

Wenn die Chatkontrolle verabschiedet wird, werden undurchsichtige KI-Algorithmen darüber entscheiden, ob Ihre persönlichen Nachrichten und Ihre privaten Bilder markiert und überprüft werden. Dies untergräbt die Online-Privatsphäre von über 450 Millionen EU-Bürgern, was wir nicht hinnehmen dürfen. Darüber hinaus bestätigt ein durchgesickertes Memo der deutschen Regierung, dass die eigenen Juristen des Rates der Meinung sind, dass dieser Gesetzesentwurf gegen die Grundrechte verstößt, die Verschlüsselung schwächt und vor Gericht wahrscheinlich keinen Bestand haben wird - so wird nichts für den Kinderschutz erreicht, während die Privatsphäre aller zerstört wird.

Werden Sie jetzt aktiv

Das durchgesickerte Memo offenbart auch eine gefährliche Entwicklung: Viele Länder im EU-Rat, die dazu beigetragen haben, Chatkontrolle im Jahr 2024 zu blockieren, sind nun unentschlossen.

Die folgenden Länder sind noch unentschlossen: Estland, Deutschland, Griechenland, Slowenien, Luxemburg, Rumänien; die schwedische Regierung ist zwar dafür, braucht aber die Zustimmung des Parlaments.

Dies ist - oder war - die Sperrminorität. Wir müssen dafür sorgen, dass sich diese Länder weiterhin gegen Chat Control aussprechen, um zu verhindern, dass sie Gesetz wird.

Eine Tatsache, die Chat Control in Deutschland so umstritten macht - was in der gesamten EU so sein sollte - ist, dass wir in Deutschland dieses Gesetz tatsächlich “Chatkontrolle” nennen - und nicht “Upload Moderation”, “ProtectEU” oder welchen Namen sich der EU-Rat auch immer ausdenkt. Folgen Sie also diesem Aufruf auf YouTube und nennen Sie dieses Gesetz bei seinem richtigen Namen: Chat Control.

Die Uhr tickt und die Zeit, die Chatkontrolle zu stoppen, ist jetzt!

• 12. September: Der Eu-Rat tagt, Chatkontrolle wird Thema sein.

• 14. Oktober: Dänische Präsidentschaft möchte endgültige Abstimmung im EU-Rat herbeiführen.

Rufen Sie vor dem 12. September die Entscheidungsträger in Ihren lokalen Regierungen an und fordern Sie sie auf, die Verschlüsselung zu schützen und Chat Control abzulehnen.

Machen Sie Deutschland wieder zu einem Gegner der Chatkontrolle!

Karte der EU-Länder, die anzeigt, welche Länder für, welche neutral und welche gegen Chatkontrolle sind.

Deutschland, das seit Mai 2025 eine neue Regierung hat, lehnt Chat Control nicht mehr eindeutig ab. Dies ist eine Warnung an alle, die sich für den Datenschutz einsetzen, und muss alle dazu veranlassen, jetzt zu handeln, um das Blatt in diesem großen EU-Land zu wenden. Die Haltung der Politiker ist besonders besorgniserregend, da sie offenbar nicht mehr gegen Chat Control sind, obwohl es klare Anzeichen dafür gibt, dass der Gesetzentwurf gegen die Menschenrechte verstößt und vom Bundesverfassungsgericht wegen unverhältnismäßiger Massenüberwachung sehr wahrscheinlich für rechtswidrig erklärt werden wird. Der Ansatz von Chat Control ähnelt stark der Geschichte der Vorratsdatenspeicherung in Deutschland – die mehrfach für rechtswidrig erklärt wurde. Aber die Politiker versuchten es weiter, bis sie sich schließlich auf eine Vorratsdatenspeicherung einigten, die E-Mails als Mittel der persönlichen Kommunikation, das Privatsphäre verdient, ausdrücklich ausschloss.

Dieser Ansatz ist höchst fragwürdig, und wir dürfen nicht zulassen, dass die Politiker damit erneut durchkommen.

Also zurück zur Chatkontrolle: Im Jahr 2024 kamen die Rechtsexperten des Wissenschaftlichen Dienstes des EU-Parlaments in einer Studie über die Rechtmäßigkeit der Chatkontrolle zu dem Schluss:

“Bei der Abwägung der von den Maßnahmen des CSA-Vorschlags betroffenen Grundrechte ist festzustellen, dass der CSA-Vorschlag gegen die Artikel 7 und 8 der Charta der Grundrechte in Bezug auf die Nutzer verstoßen würde.”

Nach Ansicht des Juristischen Dienstes der EU sind die Teile des CSAR-Vorschlags, die das clientseitige Scannen betreffen, unverhältnismäßig und grundrechtswidrig.

Dies führt zu der größten Kritik an der Chatkontrolle: Die EU-CSA-Verordnung ist nach EU-Recht rechtswidrig.

”Für uns ist es ein Paradox, dass die deutsche Regierung uns 1,5 Millionen Euro für die Entwicklung einer Frive-Lösung mit Post-Quanten-Verschlüsselung gewährt hat und nun EU-Politiker dieses hohe Sicherheitsniveau mit Chat Control wieder zerstören wollen. Wenn Chat Control verabschiedet wird, haben wir als verschlüsselter Anbieter zwei Möglichkeiten: entweder zu klagen, um für die Privatsphäre der Menschen zu kämpfen, oder die EU zu verlassen. Eine dritte Möglichkeit – die Ende-zu-Ende-Verschlüsselung von Tuta Mail zu untergraben – kommt für uns nicht in Frage. Wir würden uns also für die erste Option entscheiden, denn jeder hat ein Recht auf Privatsphäre. Wir werden nicht tatenlos zusehen, wie die EU die Verschlüsselung zerstört.”

Widersprüchliche Aussagen der EU-Kommission

Die EU-Kommission weist die Argumente der Gegner jedoch zurück und behauptet, man könne Chats gleichzeitig schützen und scannen - allerdings ohne zu sagen, wie das geschehen soll.

Gleichzeitig macht eine andere Formulierung im Gesetzesentwurf deutlich, dass die Chatkontrolle ein Überwachungsinstrument ist: Nicht-öffentliche Kommunikationsdienste, zum Beispiel die Militärdienste, sollen ausgenommen werden. Damit sollen “vertrauliche Informationen, einschließlich Verschlusssachen”, geschützt werden.

Staaten wollen keine Chatkontrolle für ihre eigene Kommunikation, aber die der anderen soll überwacht werden.

Kritik an der Chatkontrolle

1. Chatkontrolle kann illegal sein

Das Kernproblem von CSAR ist folgendes: Das massenhafte Scannen der Kommunikation von unverdächtigen Personen ohne Anlass ist unverhältnismäßig und verstößt gegen die Grundrechte.

Im Mai 2022 schlug die Europäische Kommission vor, alle Chat-, Messaging- und E-Mail-Dienste, auch wenn sie eine Ende-zu-Ende-Verschlüsselung anbieten, zu verpflichten, Nachrichten auf illegales Material über sexuellen Kindesmissbrauch (CSAM) zu überprüfen. Seit dieser Veröffentlichung werden die vorgeschlagenen Maßnahmen jedoch in ganz Europa kritisiert, da sie de facto zu einer “permanenten Überwachung der gesamten zwischenmenschlichen Kommunikation” führen könnten.

Die EU-Grundrechtecharta garantiert das Recht auf Privatsphäre für alle in der Europäischen Union lebenden Menschen. Folglich sind die Rechtsberater der EU zu dem Schluss gekommen, dass die europäischen Vorschläge zur Chatkontrolle, die Technologieunternehmen dazu verpflichten würden, private und verschlüsselte Nachrichten nach Material über Kindesmissbrauch zu durchsuchen, gegen EU-Recht verstoßen.

Das umstrittene EU-Gesetz ermöglicht es den Regierungen, Technologieunternehmen “Erkennungsanordnungen” zu erteilen und sie zu verpflichten, private Nachrichten und E-Mails auf “Anzeichen von Kindesmissbrauch” zu überprüfen. Dies könnte die verschlüsselte Kommunikation untergraben, was von Sicherheitsexperten und Datenschützern als allgemeine und wahllose Massenüberwachung kritisiert wird. Außerdem ist zu bedenken, dass das deutsche Bundesverfassungsgericht die Vorratsdatenspeicherung in Deutschland sogar für rechtswidrig erklärt hat, weil sie “unverhältnismäßig” sei.

Es ist sehr wahrscheinlich, dass die CSA-Verordnung - sollte sie Gesetz werden - auch vom Europäischen Gerichtshof (EuGH) für illegal erklärt werden würde. Die Verpflichtung für Unternehmen wie WhatsApp, Signal und andere, jede Nachricht - auch wenn sie verschlüsselt ist - auf Material über Kindesmissbrauch zu überprüfen, verletzt das Recht der Menschen auf Privatsphäre, was im Widerspruch zur EU-Grundrechtecharta steht.

2. Lobbyarbeit von KI-Unternehmen

Im September 2023 wurde eine neue Studie veröffentlicht, die ein ganz anderes Licht auf die Chatkontrolle wirft - und darauf, wer wirklich davon profitieren würde, wenn alle Europäer rund um die Uhr im Internet überwacht würden.

Neben Ashton Kutcher und seiner Organisation Thorn gibt es eine lange Liste von Organisationen, KI-Firmen und Strafverfolgungsbehörden, die sich in Brüssel für Chatkontrolle einsetzen. Die Recherche entlarvt zum Beispiel die WeProtect Global Alliance als regierungsnahe Institution, die eng mit dem Ex-Diplomaten Douglas Griffiths und seiner Oak Foundation verbunden ist. Letztere hat seit 2019 mehr als 24 Millionen US-Dollar in die Lobbyarbeit für die Chat-Kontrolle investiert, zum Beispiel über das Ecpat-Netzwerk, die Organisation Brave und die PR-Agentur Purpose.

Die Untersuchung “bestätigt unsere schlimmsten Befürchtungen”, sagte Diego Naranjo, Leiter der Abteilung Politik bei der Bürgerrechtsorganisation European Digital Rights (EDRi): “Das am meisten kritisierte europäische Technologiegesetz des letzten Jahrzehnts ist das Produkt der Lobbyarbeit von Privatunternehmen und Strafverfolgungsbehörden.” EU-Kommissarin Ylva Johansson habe “Wissenschaft und Zivilgesellschaft” ignoriert und ein Gesetz vorgeschlagen, “das Massenüberwachung legalisiert und Verschlüsselung aufbricht”, so Narjo. “Der Kinderschutz wird hier als Türöffner für eine Infrastruktur zur Massenüberwachung ohne jeden Grund missbraucht”, beklagt Konstantin Macher vom Datenschutzverein Digitalcourage.

3. Am meisten kritisiertes EU-Gesetz überhaupt

Laut der Non-Profit-Organisation EDRi hat ein “beispiellos breites Spektrum von Interessengruppen Bedenken geäußert, dass die im Entwurf der EU-Verordnung zum sexuellen Kindesmissbrauch vorgeschlagenen Maßnahmen trotz ihrer wichtigen Ziele grundsätzlich nicht mit den Menschenrechten vereinbar sind”.

EDRi hat eine beeindruckende Sammlung von 69 Gegenstimmen von EU-Politikern, EU-Mitgliedstaaten, Technologieunternehmen und sogar Kinderschutzexperten veröffentlicht, die erklären, warum die Chatkontrolle scheitern muss.

Außerdem wurde ein offener Brief veröffentlicht, der von mehr als 80 Nichtregierungsorganisationen unterzeichnet wurde und durch die Stimmen von fast 500 Wissenschaftlern und ~90 Organisationen ergänzt, die erklären, warum wir für die Privatsphäre in Europa kämpfen müssen.

Ganz gleich, wie Politiker versuchen, die Öffentlichkeit zu überzeugen: Das Durchsuchen unserer privaten Nachrichten nach Material über sexuellen Kindesmissbrauch ist Massenüberwachung. Das dürfen wir niemals zulassen.

Wir von Tuta werden die Chatkontrolle nicht akzeptieren

Bei Tuta sind wir Freiheitskämpfer: Wir stehen an der Spitze der Datenschutzrevolution, indem wir jedem auf der Welt ein privates E-Mail-Konto anbieten.

Sollte die CSA-Verordnung in ihrer jetzigen Form weiter vorangetrieben werden, wären wir bereit, das Recht der Menschen auf Privatsphäre vor Gericht zu verteidigen, wie wir es bereits in Deutschland getan haben.

Wir stellen Ihre Privatsphäre und Sicherheit an die erste Stelle, unser Code für die automatische Ende-zu-Ende-Verschlüsselung von Tuta ist für jeden zugänglich und als Open Source veröffentlicht. Wir würden niemals unser Datenschutzversprechen oder unsere Verschlüsselung untergraben.

Unser Standpunkt bleibt: Wir werden alles tun, was nötig ist, um Ihr Recht auf Privatsphäre zu verteidigen.