Nouvels de cryptographie

Meta va recourir à l'analyse visuelle par IA pour identifier les utilisateurs mineurs sur Instagram et Facebook.

Meta utilisera des technologies basées sur l'IA, telles que la numérisation de photos, pour détecter les utilisateurs mineurs en analysant des indices visuels comme la structure osseuse. Bien que le recours à la numérisation et aux techniques d'IA pour déterminer l'âge d'un utilisateur soulève des questions relatives à la vie privée, Meta affirme qu'il ne s'agit « pas de reconnaissance faciale ».

To ensure underage users are blocked from using Facebook and Instagram, Meta will use advanced AI systems including visual analysis of users’ images and videos.

Face à la tendance mondiale en faveur de la vérification de l'âge et aux mesures prises par les gouvernements pour contraindre les géants de la tech à empêcher les mineurs d'accéder à leurs plateformes, Meta s'est donné pour mission de renforcer ses mesures de contrôle visant les mineurs. L'entreprise a désormais annoncé son intention d'utiliser l'analyse visuelle par IA pour détecter si les enfants et les adolescents présents sur ses plateformes ont menti sur leur âge ou s'ils ont moins de 13 ans. La décision de Meta d'analyser les contenus des utilisateurs à l'aide de l'IA est vivement critiquée par les défenseurs de la vie privée à travers le monde. Découvrons pourquoi !

Meta utilisera des systèmes d’IA avancés pour détecter les comptes de mineurs. L’IA analysera l’intégralité des profils d’utilisateurs à la recherche d’indices contextuels afin d’estimer l’âge en fonction du contexte. Par exemple, les commentaires, les légendes, les biographies et les publications. Une analyse visuelle sera utilisée pour examiner les photos et les vidéos à la recherche d’« indices visuels », tels que la structure osseuse et la taille, afin d’estimer l’âge.

Screenshot of Meta's blog post, "We’re also adding visual analysis as a new technique to aid our detection efforts. This technology allows our AI to scan photos and videos for visual clues about a person’s age that text might miss. We want to be clear: this is not facial recognition. Our AI looks at general themes and visual cues, for example height or bone structure, to estimate someone’s general age; it does not identify the specific person in the image. By combining these visual insights with our analysis of text and interactions, we can significantly increase the number of underage accounts we identify and remove." Screenshot of Meta's blog post, "We’re also adding visual analysis as a new technique to aid our detection efforts. This technology allows our AI to scan photos and videos for visual clues about a person’s age that text might miss. We want to be clear: this is not facial recognition. Our AI looks at general themes and visual cues, for example height or bone structure, to estimate someone’s general age; it does not identify the specific person in the image. By combining these visual insights with our analysis of text and interactions, we can significantly increase the number of underage accounts we identify and remove."

Bien que Meta utilise l’analyse visuelle par IA pour scanner les images et les vidéos, l’entreprise tient à préciser qu’il ne s’agit pas de reconnaissance faciale. Capture d’écran : Meta

Meta utilisera l’IA pour tout analyser (uniquement afin de détecter les utilisateurs mineurs)

Le 5 mai, Meta a publié un article dans lequel elle a fait part de son intention d’utiliser l’IA pour analyser des photos et des vidéos à la recherche d’indices visuels, tels que la taille ou la structure osseuse, afin de déterminer si un utilisateur a moins de treize ans. L’utilisation de cette technologie vise à retirer les utilisateurs mineurs de ses plateformes et à orienter les adolescents vers des types de comptes plus adaptés, comme les comptes Meta Teens. Cela s’inscrit dans le cadre des investissements de Meta dans sa propre technologie de vérification de l’âge. Le géant de la tech affirme qu’« il ne s’agit pas de reconnaissance faciale » :

« Nous tenons à être clairs : il ne s’agit pas de reconnaissance faciale. Notre IA examine des thèmes généraux et des indices visuels, par exemple la taille ou la structure osseuse, pour estimer l’âge approximatif d’une personne ; elle n’identifie pas la personne spécifique figurant sur l’image », a déclaré Meta dans son article de blog.

Si Meta détecte qu’un compte pourrait appartenir à un mineur, celui-ci sera désactivé et l’utilisateur devra fournir une preuve d’âge via son processus de vérification, faute de quoi le compte sera supprimé. Pour l’instant, bon nombre des améliorations apportées à l’IA de Meta sont déjà utilisées dans le monde entier, mais certains de ses systèmes d’IA avancés, comme l’analyse visuelle, ne sont actuellement déployés que dans certains pays, tandis que Meta travaille à un déploiement à plus grande échelle.

Activez la confidentialité en un clic.

Meta va étendre les comptes adolescents automatiques

En 2024, Meta a lancé ses comptes pour adolescents sur Instagram, et le géant technologique de la Silicon Valley a progressivement étendu ces comptes à Facebook et Messenger, pour ses utilisateurs âgés de 13 à 17 ans dans différentes régions. L’objectif de ces comptes spécialement conçus pour offrir une expérience plus adaptée aux adolescents est d’améliorer la confidentialité, la sécurité et le bien-être des utilisateurs de Meta âgés de moins de 18 ans. Dans son article de blog, Meta a également annoncé son intention d’étendre sa technologie qui transfère automatiquement les utilisateurs identifiés comme adolescents vers les protections des comptes adolescents sur Instagram dans l’UE et au Brésil, et sur Facebook aux États-Unis.

Peut-on faire confiance à Meta ?

Le géant de la tech a déclaré que ce type d’analyse visuelle par IA n’était pas de la reconnaissance faciale, mais l’idée que chaque clic, commentaire, publication et interaction d’un utilisateur – sans parler des images et des vidéos – puisse être scanné et analysé par les systèmes d’IA de Meta pourrait ne pas plaire à beaucoup de gens. Cela est compréhensible, car Meta s’est retrouvé à plusieurs reprises sous les feux de la rampe pour divers scandales, violations de la vie privée des utilisateurs et pratiques contraires à l’éthique.

Qu’il s’agisse de l’inscription des utilisateurs à l’utilisation de leurs données Facebook et Instagram pour entraîner ses modèles d’IA, d’une action en justice intentée par 30 États américains pour avoir prétendument créé de manière consciente et délibérée des fonctionnalités sur Facebook et Instagram qui étaient addictives et néfastes pour la santé mentale des jeunes en 2023, ou encore de son tristement célèbre scandale Cambridge Analytica, au cours duquel les données de millions d’utilisateurs de Facebook ont été collectées et utilisées pour de la publicité politique ciblée.

Pour couronner le tout, en mars de cette année, Meta a été condamnée à payer 375 millions de dollars pour avoir induit les utilisateurs en erreur quant à la sécurité de ses plateformes et pour avoir manqué à son devoir de protection des enfants en ligne, en violation de la loi de l’État du Nouveau-Mexique, aux États-Unis.

Ainsi, quand on examine l’histoire de Meta, surtout maintenant que l’on sait que toutes les grandes entreprises technologiques se livrent à une course effrénée pour développer les modèles d’IA les plus avancés à l’aide de vastes quantités de données utilisateur, on comprend que les utilisateurs puissent se montrer sceptiques quant à l’utilisation par Meta de l’analyse visuelle par IA sur leurs données. Au vu d’autres scandales récents liés à l’utilisation abusive des données par l’IA – comme LinkedIn utilisant vos données pour entraîner son IA sans demander votre consentement ou Google vous poussant à utiliser son IA Gemini sur Android –, il n’est pas surprenant que la dernière décision de Meta ne vise pas uniquement à protéger les enfants et les adolescents.

L’ère de la vérification de l’âge

Cette année, on observe une pression encore plus forte à l’échelle mondiale en faveur de la vérification de l’âge, et l’introduction d’interdictions d’accès aux réseaux sociaux pour les adolescents est en cours dans plusieurs pays. Désormais, les géants de la tech comme Meta et Google doivent se conformer à ces exigences sous peine de subir les conséquences. En conséquence, différents types de systèmes de confirmation et de vérification de l’âge sont mis en place : par exemple, YouTube exige désormais que les utilisateurs vérifient leur âge, et Discord prévoit également de déployer un système de vérification de l’âge.

S’il est compréhensible que les géants de la tech comme Meta doivent mettre en place ces systèmes pour se conformer à la législation, les utilisateurs de ces plateformes doivent rester prudents et se demander s’ils peuvent faire confiance aux entreprises pour respecter et protéger véritablement leurs données personnelles, telles que leurs pièces d’identité officielles, lors de la vérification de leur âge.

À l’ère de la vérification de l’âge, nous devons nous poser la question suivante : avons-nous vraiment besoin de la vérification de l’âge pour protéger les adolescents des conséquences néfastes des réseaux sociaux, ou devons-nous plutôt modifier les algorithmes qui régissent ces réseaux et qui sont la cause profonde de l’impact négatif qu’ils ont sur la santé mentale des individus ?

Illustration d'un téléphone avec le logo Tuta sur son écran, à côté du téléphone se trouve un bouclier agrandi avec une coche symbolisant le haut niveau de sécurité grâce au chiffrement de Tuta.