Die Missachtung der Privatsphäre geht Hand in Hand mit dem Missbrauch von Technik.

Warum die Privatsphäre wichtig ist

Dieser Blog-Beitrag ist eine wichtige Erinnerung daran, warum die Privatsphäre wichtig ist: Auch wenn Sie nichts zu verbergen haben. Wir sind keine Daten oder Geschäftskennzahlen, wir sind Menschen, und wenn Unternehmen dies nicht erkennen, hat das reale Konsequenzen.

Verantwortung von Big Tech

Im März schaltete eine App zur Erstellung von “DeepFake FaceSwap”-Videos mehr als 230 Anzeigen auf Metas Diensten, darunter Facebook, Instagram und Messenger, wie eine Überprüfung der Anzeigenbibliothek von Meta ergab. Einige der Anzeigen zeigten etwas, das wie der Anfang von pornografischen Videos aussah, wobei der Intro-Sound der Porno-Plattform Pornhub abgespielt wurde. Sekunden später wurden die Gesichter der Frauen mit denen berühmter Schauspieler ausgetauscht. Die Bildunterschriften auf Dutzenden dieser Anzeigen lauteten “Replace face with anyone” und “Enjoy yourself with AI swap face technology”.

Nachdem NBC News Meta um eine Stellungnahme gebeten hatte, wurden alle Anzeigen der App aus den Diensten von Meta entfernt. In den Videos wurden zwar keine sexuellen Handlungen gezeigt, aber ihr suggestiver Charakter verdeutlicht, wie die Anwendung zur Erzeugung gefälschter sexueller Inhalte genutzt werden kann . Dieselbe Werbung wurde auch in kostenlosen Fotobearbeitungs- und Spiele-Apps entdeckt, die im App Store von Apple heruntergeladen werden konnten, wo die App erstmals 2022 kostenlos für Kinder ab 9 Jahren erschien, und sie konnte auch kostenlos bei Google Play heruntergeladen werden, wo sie wegen “anzüglicher Themen” mit “Teen” bewertet wurde.

Ist es die Aufgabe von Journalisten, App-Stores auf missbräuchliche Apps zu überprüfen?

Die gleiche Geschichte spielte sich im Dezember 2021 nach einer Reuters-Recherche mit einer anderen App ab.

Dutzende von Deepfake-Apps sind immer noch in den App-Stores von Google und Apple verfügbar, die meisten von ihnen werden verwendet, um nicht-einvernehmliche Pornos zu erstellen und Menschen zu “entblößen”. Google und Apple behaupten zwar, dass sie Apps verbieten, die Inhalte generieren, die diffamierend, diskriminierend oder geeignet sind, jemanden einzuschüchtern, zu demütigen oder zu verletzen, aber genau das ist vor ihrer Nase passiert. Google hat “unfreiwillige synthetische pornografische Bilder” in seine Verbotsliste aufgenommen, so dass jeder bei der Suchmaschine die Sperrung von Ergebnissen beantragen kann, die ihn fälschlicherweise als “nackt oder in einer sexuell eindeutigen Situation” darstellen - aber sollten die Opfer dafür verantwortlich sein, dies zu beheben, oder sollte Google besser daran arbeiten, diese Art von Missbrauch von vornherein zu verhindern?

Mit der Verbesserung und Verbreitung der Deepfake-Technologie hat sich der Markt für nicht einvernehmliche sexuelle Bilder explosionsartig entwickelt. Einige Websites ermöglichen es Nutzern, nicht einvernehmliche Deepfake-Pornos hinter einer Bezahlschranke zu verkaufen. Eine Studie von DeepTrace aus dem Jahr 2019 ergab, dass 96 % des Deepfake-Materials im Internet pornografischer Natur ist, während eine andere Studie von Genevieve Oh ergab, dass sich die Zahl der pornografischen Deepfake-Videos seit 2018 jedes Jahr fast verdoppelt hat.

Da es Technologie zur Erkennung von Deepfakes gibt, wenn auch hinter Bezahlschranken, warum überprüfen nicht alle Plattformen, die es Nutzern ermöglichen, Fotos und Videos hochzuladen, diese automatisch und kennzeichnen Deepfakes automatisch als solche? Sie versagen bereits bei der Erkennung und Entfernung missbräuchlicher Inhalte, aber zumindest dieser Teil sollte einfach genug sein, wenn sie sich wirklich darum kümmern würden.

Nichts Neues

Kürzlich erschien ein Artikel von Katie Jgln, in dem sie sich mit der umfangreichen Geschichte der technisch unterstützten geschlechtsspezifischen Gewalt auseinandersetzte. Einige der eher “altmodischen” Beispiele wie in Toiletten versteckte Kameras werden immer noch verwendet: Erst vor wenigen Tagen hat das US-Justizministerium die Anklage gegen einen Mann eröffnet, der angeblich eine Kamera in einer Toilette an Bord eines Kreuzfahrtschiffs der Royal Caribbean angebracht und 150 Personen, darunter 40 Minderjährige, gefilmt hat.

TechSafety bietet eine Reihe nützlicher Leitfäden an, und auch die Clinic to End Tech Abuse (CETA) der Cornell University verfügt über Ressourcen, die Menschen dabei helfen sollen, ihre Privatsphäre zu schützen und online sicher zu bleiben. Die umfangreichen Forschungsarbeiten der CETA in Zusammenarbeit mit der NYU zeigen, wie systemisch Online-Missbrauch und technologiegestützter Missbrauch sind, insbesondere wenn sie von Frauenfeindlichkeit und Transphobie angetrieben werden.

Neben ihren von Fachleuten begutachteten akademischen Veröffentlichungen verweisen sie auch auf einige Medienartikel, die für Laien leichter zugänglich sind, wie z. B.:

• Wireless-Lobby verwirrt Zukunft des Gesetzes über häusliche Gewalt - Axios

• Unerwünschte Verbindung: Wer hat die Kontrolle über Ihr Smart Home? - Die New York Times

• Wie Sie die Software erkennen, die Sie ausspionieren könnte - The BBC

• Hunderte von Apps können Stalkern ermöglichen, ihre Opfer zu verfolgen - The New York Times

• Die einfache Art und Weise, wie Apple und Google häusliche Gewalttäter ihre Opfer stalken lassen - WIRED

• Wie “Stalkerware”-Apps es missbrauchenden Partnern ermöglichen, ihre Opfer auszuspionieren - MIT Technology Review

• Wie häusliche Gewalttäter Smartphones benutzen, um ihre Partner auszuspionieren - Vox

• Kein sicherer Hafen für Opfer von digitalem Missbrauch - Slate

• Neue Tools helfen, digitale häusliche Gewalt zu erkennen - Cornell Chronicle

• Apps erleichtern häuslichen Tätern das Ausspionieren - Cornell Chronicle

• Wie die Technik die Opfer von Gewalt in der Partnerschaft im Stich lässt - Freedom to Tinker (Princeton CITP)

• Apps zur elterlichen Überwachung: Wie unterscheiden sie sich von Stalkerware? - Malwarebytes Labs

Es besteht ein interessanter Widerspruch zwischen der Vision der Organisation, die Stimmen von Überlebenden von Missbrauch, Stalking und anderen Misshandlungen in den Mittelpunkt des Technologiedesigns zu stellen, und der Tatsache, dass ihre Forschung zum Teil von Google und Meta gesponsert wird. Es ist großartig, dass diese Tech-Giganten einen Teil ihrer Gewinne dafür ausgeben, die Probleme zu beleuchten, die sie mitverursachen, aber es wäre noch besser, wenn sie die Ergebnisse der von ihnen gesponserten Forschung tatsächlich berücksichtigen und ihre Produkte entsprechend verbessern würden.

Andere weit verbreitete Beispiele dafür, dass die Technologie auf diese Weise als Waffe eingesetzt wird, sind:

• Mobbing und Belästigung, einschließlich physischer Drohungen. Angreifer lassen die Grenzen zwischen Online- und Offline-Gewalt verschwimmen, wie in einem ausführlichen globalen Bericht der Economist Intelligence Unit dargelegt wird, in dem auch untersucht wird, wie sich Online-Gewalt gegen Frauen auf die Wirtschaft und die Gesellschaft insgesamt auswirkt. Bei vielen Massenerschießungen handelt es sich um Fälle von Online-Gewalt, die sich in realen Handlungen niederschlagen. Jüngstes Beispiel ist der Schütze des Einkaufszentrums in Allen, Texas, der in den sozialen Medien gegen Schwarze, Asiaten, Juden und Frauen im Allgemeinen hetzte. Die Verbindungen zwischen rassistisch motivierter und geschlechtsspezifischer Gewalt sind seit langem dokumentiert
• Doxing - besonders gegen Trans-Personen eingesetzt, oft begleitet von Bemühungen, die Zielperson aus ihrem Job zu entlassen und aus ihrer Wohnung zu vertreiben und sie zur Selbstverletzung zu drängen
• Apple AirTags und andere ähnliche Geräte
• Intelligente Haushaltsgeräte wie Thermostate, Schlösser und Lampen

Wie Katie Jgln es ausdrückt, ist “die moderne Technologie - und die von ihr geschaffene Online-Welt - oft nur eine Erweiterung des Patriarchats. […] Sie verschließt die Augen vor genau demselben Missbrauch, der Belästigung, der Gewalt, der Frauenfeindlichkeit, dem Sexismus, der unerwünschten Hypersexualisierung und der Objektivierung, die wir in der realen Welt erleben, und ermöglicht dies oft sogar. Und wie viele andere Instrumente des Patriarchats - z. B. die Reinheitskultur oder ‘traditionelle’ Geschlechterrollen - dient es allzu oft dazu, uns in die Schranken zu weisen, unsere Stimmen zum Schweigen zu bringen oder zu diskreditieren und vor allem einen Status quo zu schützen.

Die verschwommenen Grenzen zwischen Stalkerware und “normalen Apps”

Die Coalition Against Stalkerware weist darauf hin, dass “der Begriff Stalkerware manchmal auch umgangssprachlich verwendet wird, um jede App oder jedes Programm zu bezeichnen, das in die Privatsphäre einer Person eindringt oder als solches wahrgenommen wird; wir glauben, dass eine klare und enge Definition angesichts der Verwendung von Stalkerware in Situationen des Missbrauchs von Intimpartnern wichtig ist.” Die Tatsache, dass es in dieser Angelegenheit ernsthafte Gründe für Verwirrung gibt, ist kein gutes Zeichen für Unternehmen wie Google, Meta und viele andere Unternehmen, deren Apps für Messaging, E-Mail, soziale Medien und andere Dienste sensible Berechtigungen auf Ihrem Telefon erfordern und Ihre Daten sammeln. Sie räumen auch ein, “dass legitime Apps und andere Arten von Technologie in solchen Situationen eine Rolle spielen können und oft auch spielen”. Auf derselben Seite wird als eines der empfohlenen Kriterien für die Erkennung von Stalkerware angegeben: “Apps, die in der Lage sind, sensible Daten von Gerätenutzern (z. B. Standortdaten, Kontakte, Anruf- und Textprotokolle, Passwörter, Browserverlauf usw.) ohne deren ständige Zustimmung und/oder Wissen zu sammeln und zu exfiltrieren”. Wie viele der weltweit am häufigsten heruntergeladenen Apps erfüllen dieses Kriterium NICHT?

Es muss nicht so sein. Erziehungs-Apps müssen nie auf dem Telefon versteckt werden, und wenn doch, dann sind sie Stalkerware und keine Erziehungs-Apps. Telefone müssen nicht standardmäßig über GPS verfügen. Apps müssen nicht standardmäßig (oder in vielen Fällen überhaupt) über Standort- (und viele andere) Berechtigungen verfügen; stattdessen sollten die Benutzer diese Berechtigungen bei Bedarf nur für die Apps aktivieren, die sie wirklich benötigen. Alle Telefone sollten automatisch die Berechtigungen von Anwendungen entziehen, die Sie nicht verwenden. AirTags, Kacheln und ähnliche Produkte sollten immer mit lauten Signaltönen auf ihre Aktivierung bzw. Verwendung hinweisen, und die Aufsichtsbehörden sollten gegen “modifizierte” Versionen vorgehen, die auf Ebay usw. verkauft werden.

Wir können nicht erwarten, dass Technologieunternehmen aus Mitgefühl und Respekt vor der Menschlichkeit eines jeden Menschen die Gewinne opfern, die sie im derzeitigen kapitalistischen Überwachungssystem machen. Wir müssen den Druck auf sie ständig erhöhen, dies zu tun. Bis dahin sind wir nicht sicher. Wir müssen weiter für unser Recht auf Privatsphäre kämpfen.