Privacy News

Meta wird mithilfe einer KI-basierten Bildanalyse minderjährige Nutzer auf Instagram und Facebook identifizieren.

Meta wird KI-gestützte Technologien wie das Scannen von Fotos einsetzen, um minderjährige Nutzer durch die Analyse visueller Merkmale wie der Knochenstruktur zu erkennen. Obwohl der Einsatz von KI-Scans und -Techniken zur Altersbestimmung von Nutzern Datenschutzbedenken aufwirft, betont Meta, dass es sich hierbei „nicht um Gesichtserkennung“ handele.

To ensure underage users are blocked from using Facebook and Instagram, Meta will use advanced AI systems including visual analysis of users’ images and videos.

Angesichts der weltweiten Bemühungen um Altersüberprüfungen und der Maßnahmen von Regierungen, die Tech-Giganten dazu zu zwingen, minderjährige Nutzer von ihren Plattformen fernzuhalten, hat sich Meta zum Ziel gesetzt, seine Maßnahmen zur Durchsetzung der Altersbeschränkungen zu verschärfen. Nun kündigte das Big-Tech-Unternehmen an, mithilfe von KI-basierter Bildanalyse zu erkennen, ob Kinder und Jugendliche auf seinen Plattformen bei der Angabe ihres Alters gelogen haben oder jünger als 13 Jahre sind. Metas Vorhaben, Nutzerinhalte mit KI zu scannen, wird von Datenschutzaktivisten weltweit heftig kritisiert. Finden wir heraus, warum!

Meta wird fortschrittliche KI-Systeme einsetzen, um Konten von Minderjährigen zu erkennen. Die KI wird ganze Nutzerprofile auf kontextbezogene Hinweise analysieren, um das Alter anhand des Kontexts zu schätzen. Dazu gehören beispielsweise Kommentare, Bildunterschriften, Biografien und Beiträge. Mithilfe visueller Analysen werden Fotos und Videos auf „visuelle Hinweise“ wie Knochenstruktur und Körpergröße gescannt, um das Alter zu schätzen.

Screenshot of Meta's blog post, "We’re also adding visual analysis as a new technique to aid our detection efforts. This technology allows our AI to scan photos and videos for visual clues about a person’s age that text might miss. We want to be clear: this is not facial recognition. Our AI looks at general themes and visual cues, for example height or bone structure, to estimate someone’s general age; it does not identify the specific person in the image. By combining these visual insights with our analysis of text and interactions, we can significantly increase the number of underage accounts we identify and remove." Screenshot of Meta's blog post, "We’re also adding visual analysis as a new technique to aid our detection efforts. This technology allows our AI to scan photos and videos for visual clues about a person’s age that text might miss. We want to be clear: this is not facial recognition. Our AI looks at general themes and visual cues, for example height or bone structure, to estimate someone’s general age; it does not identify the specific person in the image. By combining these visual insights with our analysis of text and interactions, we can significantly increase the number of underage accounts we identify and remove."

Zwar wird Meta visuelle KI-Analysen zum Scannen von Bildern und Videos einsetzen, möchte jedoch klarstellen, dass es sich hierbei nicht um Gesichtserkennung handelt. Screenshot: Meta

Meta wird KI einsetzen, um alles zu analysieren (nur um minderjährige Nutzer zu erkennen)

Am 5. Mai veröffentlichte Meta einen Artikel, in dem das Unternehmen Pläne bekannt gab, KI einzusetzen, um Bilder und Videos nach visuellen Hinweisen wie Körpergröße oder Knochenstruktur zu durchsuchen, um festzustellen, ob ein Nutzer jünger als dreizehn Jahre ist. Der Einsatz der Technologie zielt darauf ab, minderjährige Nutzer von den Plattformen zu entfernen und Teenager in geeignetere Kontotypen wie Meta-Teens-Konten zu verlagern. Dies ist Teil von Metas Investitionen in die eigene Technologie zur Altersüberprüfung. Das Big-Tech-Unternehmen betont: „Dies ist keine Gesichtserkennung“:

„Wir möchten klarstellen: Dies ist keine Gesichtserkennung. Unsere KI betrachtet allgemeine Merkmale und visuelle Hinweise, zum Beispiel Körpergröße oder Knochenstruktur, um das ungefähre Alter einer Person zu schätzen; sie identifiziert nicht die konkrete Person auf dem Bild“, erklärte Meta in seinem Blogbeitrag.

Wenn Meta feststellt, dass ein Konto möglicherweise einem Minderjährigen gehört, wird es deaktiviert und der Nutzer muss im Rahmen des Altersüberprüfungsprozesses einen Altersnachweis erbringen; andernfalls wird das Konto gelöscht. Derzeit werden viele der KI-Verbesserungen von Meta bereits weltweit eingesetzt, doch einige der fortschrittlichen KI-Systeme, wie die visuelle Analyse, kommen derzeit nur in bestimmten Ländern zum Einsatz, während Meta auf eine breitere Einführung hinarbeitet.

Schalte die Privatsphäre ein.

Meta will automatische Teen-Konten ausweiten

Im Jahr 2024 führte Meta seine Teen-Konten auf Instagram ein, und der Tech-Riese aus dem Silicon Valley hat diese Konten schrittweise auf Facebook und Messenger sowie für seine Nutzer im Alter zwischen 13 und 17 Jahren in verschiedenen Regionen ausgeweitet. Das Ziel dieser Konten, die speziell für ein jugendgerechtes Erlebnis entwickelt wurden, ist es, den Datenschutz, die Sicherheit und das Wohlbefinden von Meta-Nutzern unter 18 Jahren zu verbessern. In dem Blogbeitrag kündigte Meta außerdem an, seine Technologie auszuweiten, die Nutzer, die als Teenager identifiziert werden, automatisch in den Schutzbereich der Teen-Accounts auf Instagram in der EU und Brasilien sowie auf Facebook in den USA überführt.

Kann man Meta vertrauen?

Der Tech-Riese hat erklärt, dass diese Art der visuellen KI-Analyse keine Gesichtserkennung sei, doch die Vorstellung, dass jeder Klick, jeder Kommentar, jeder Beitrag und jede Interaktion eines Nutzers – ganz zu schweigen von Bildern und Videos – von Metas KI-Systemen gescannt und analysiert werden kann, dürfte bei vielen Menschen auf Ablehnung stoßen. Dies ist verständlich, da Meta bereits mehrfach wegen verschiedener Skandale, Verletzungen der Privatsphäre von Nutzern und unethischer Praktiken in die Schlagzeilen geraten ist.

Angefangen bei der Einwilligung der Nutzer, dass ihre Facebook- und Instagram-Daten zum Trainieren der KI-Modelle verwendet werden, über die Klage von 30 US-Bundesstaaten wegen der angeblichen bewussten und gezielten Entwicklung von Funktionen auf Facebook und Instagram, die süchtig machen und der psychischen Gesundheit junger Menschen schaden, bis hin zum berüchtigten Cambridge-Analytica-Skandal, bei dem die Daten von Millionen von Facebook-Nutzern gesammelt und für gezielte politische Werbung genutzt wurden.

Zu allem Überfluss wurde Meta im März dieses Jahres dazu verurteilt, 375 Millionen Dollar zu zahlen, weil das Unternehmen Nutzer über die Sicherheit seiner Plattformen getäuscht und es versäumt hatte, Kinder online zu schützen, was einen Verstoß gegen das Gesetz des US-Bundesstaates New Mexico darstellt.

Wenn man sich also die Geschichte von Meta ansieht, insbesondere jetzt, da bekannt ist, dass alle Big-Tech-Unternehmen darum wetteifern, mit Hilfe riesiger Mengen an Nutzerdaten die fortschrittlichsten KI-Modelle zu entwickeln, ist es verständlich, dass Nutzer skeptisch sein könnten, wenn Meta visuelle KI-Analysen auf Nutzerdaten anwendet. Betrachtet man andere aktuelle Skandale rund um den Missbrauch von KI-Daten – wie beispielsweise LinkedIn, das Ihre Daten ohne Einwilligung zum Trainieren seiner KI verwendet, oder Google, das Sie dazu drängt, seine Gemini-KI auf Android zu nutzen –, ist es keine Überraschung, dass es bei der jüngsten Entscheidung von Meta möglicherweise nicht nur um den Schutz von Kindern und Jugendlichen geht.

Das Zeitalter der Altersüberprüfung

In diesem Jahr gibt es weltweit einen noch stärkeren Druck zur Altersüberprüfung, und in mehreren Ländern werden derzeit Verbote für Teenager in sozialen Medien eingeführt. Nun müssen Tech-Giganten wie Meta und Google die Vorschriften einhalten oder mit Konsequenzen rechnen. Infolgedessen werden verschiedene Arten von Altersüberprüfungs- und Altersverifizierungssystemen eingeführt; so verlangt beispielsweise YouTube nun von den Nutzern eine Altersüberprüfung, und auch Discord plant die Einführung eines Altersverifizierungssystems.

Zwar ist es verständlich, dass Big-Tech-Unternehmen wie Meta diese Systeme einführen müssen, um die gesetzlichen Vorschriften einzuhalten, doch sollten Nutzer dieser Plattformen vorsichtig sein und sich fragen, ob sie darauf vertrauen können, dass die Unternehmen ihre persönlichen Daten – wie amtliche Ausweise – bei der Identitätsprüfung wirklich respektieren und schützen.

Im Zeitalter der Altersüberprüfung müssen wir uns fragen: Brauchen wir wirklich eine Altersüberprüfung, um Jugendliche vor den negativen Folgen sozialer Medien zu schützen, oder müssen wir vielmehr die Algorithmen ändern, die soziale Medien steuern und die die eigentliche Ursache für die negativen Auswirkungen sozialer Medien auf die psychische Gesundheit der Menschen sind?

Illustration eines Telefons mit Tuta-Logo auf dem Bildschirm, daneben ein vergrößertes Schild mit einem Häkchen, das die hohe Sicherheit der Tuta-Verschlüsselung symbolisiert.