Metaは、高度なAIシステムを活用して未成年者のアカウントを検知する予定です。AIはユーザープロファイル全体を分析し、文脈から得られる手がかりをもとに年齢を推定します。例えば、コメント、キャプション、プロフィール、投稿などが対象となります。また、視覚分析を用いて写真や動画をスキャンし、骨格や身長といった「視覚的な手がかり」から年齢を推定します。

Metaは画像や動画をスキャンするためにAIによる視覚分析を活用しますが、これは顔認識ではないことを明確にしています。スクリーンショット:Meta

MetaはAIを用いてあらゆる情報を分析する（未成年ユーザーを検出するためだけに）

5月5日、Metaは記事を公開し、ユーザーが13歳未満かどうかを判断するために、AIを用いて写真や動画をスキャンし、身長や骨格などの視覚的手がかりを分析する計画を明らかにした。この技術の導入は、プラットフォームから未成年のユーザーを排除し、10代のユーザーを「Meta Teens」アカウントのようなより適切なアカウントタイプに移行させることを目的としている。これは、Metaが独自の年齢確認技術に投資している一環である。 同社は「これは顔認識ではない」と主張している:

「明確にしておきたいのは、これは顔認識ではないということです。当社のAIは、身長や骨格といった一般的な特徴や視覚的ヒントを分析して、その人物のおおよその年齢を推定するものであり、画像内の特定の人物を識別するものではありません」と、Metaはブログ記事で述べた。

Metaがアカウントが未成年である可能性があると判断した場合、そのアカウントは無効化され、ユーザーは年齢確認プロセスを通じて年齢を証明するよう求められる。これに応じない場合、アカウントは削除される。現時点では、MetaのAI機能の改良点の多くはすでに世界中で利用されているが、視覚分析のような高度なAIシステムの一部は、より大規模な展開に向けて準備を進める中で、現在は特定の国でのみ利用されている。

ワンクリックでプライバシーをON

Get

Meta、自動作成の「ティーンアカウント」を拡大へ

2024年、MetaはInstagramで「ティーンアカウント」を導入し、このシリコンバレーのテック大手は、FacebookやMessenger、および各地域の13歳から17歳のユーザー向けに、これらのアカウントを段階的に展開してきました。 10代のユーザーにより適した体験を提供するために特別に設計されたこれらのアカウントの目的は、18歳未満のMetaユーザーのプライバシー、安全性、およびウェルビーイングを向上させることです。ブログ記事の中で、Metaはまた、10代と識別されたユーザーを自動的に「ティーンアカウント」の保護対象に移行させる技術を、EUおよびブラジルのInstagram、ならびに米国のFacebookで拡大する計画も発表しました。

Metaを信頼できるか？

このテック大手は、この種のAIによる視覚分析は顔認識ではないと説明していますが、画像や動画は言うまでもなく、ユーザーのあらゆるクリック、コメント、投稿、インタラクションがMetaのAIシステムによってスキャンされ分析される可能性があるという考えは、多くの人々にとって快く思われないかもしれません。これは理解できることです。なぜなら、Metaはこれまで様々なスキャンダル、ユーザーのプライバシー侵害、非倫理的な慣行により、何度も注目を集めてきたからです。

FacebookやInstagramのデータをAIモデルの学習に利用することをユーザーに同意させる仕組みから、2023年にはFacebookやInstagramに、若者のメンタルヘルスに悪影響を及ぼす中毒性のある機能を意図的かつ計画的に実装したとして米国30州から提訴された件、さらには数百万人のFacebookユーザーのデータが収集され、ターゲットを絞った政治広告に利用された悪名高いケンブリッジ・アナリティカ事件に至るまで、その問題は多岐にわたる。

さらに追い打ちをかけるように、今年3月には、プラットフォームの安全性についてユーザーを誤解させ、オンライン上の子供たちを保護しなかったとして、米国ニューメキシコ州法に違反したとして、Metaは3億7500万ドルの支払いを命じられた。

このようにMetaの過去を振り返ると、特に現在、あらゆるビッグテック企業が膨大なユーザーデータを活用して最先端のAIモデル開発を競い合っていることを踏まえると、Metaがユーザーデータに対してAIによる視覚分析を行うことに対し、ユーザーが懐疑的になるのも無理はない。 最近の他のAIデータ乱用スキャンダル――例えば、LinkedInが同意を得ずにユーザーのデータをAIの学習に利用した件や、GoogleがAndroidユーザーにGemini AIの使用を強要した件など――を見れば、Metaの今回の決定が、単に子供やティーンエイジャーの保護だけを目的としたものではない可能性があっても、驚くことではない。

年齢確認の時代

今年に入り、世界的に年齢確認への動きがさらに強まっており、多くの国で10代のソーシャルメディア利用禁止措置の導入が進められている。今や、MetaやGoogleのようなテック大手は、規制に準拠しなければ、その代償を払うことになる。その結果、様々な種類の年齢確認システムが導入されつつある。例えば、YouTubeでは現在、ユーザーに年齢確認が義務付けられており、Discordも年齢確認システムの導入を計画している。

Metaのような大手テック企業が法令遵守のためにこうしたシステムを導入しなければならないのは理解できるものの、これらのプラットフォームのユーザーは慎重になるべきであり、本人確認の際に身分証明書などの個人データを企業が真に尊重し保護してくれるかどうか、自問する必要がある。

この「年齢確認」の時代において、私たちは自問しなければなりません。ソーシャルメディアがもたらす悪影響から10代の若者を守るために、本当に年齢確認が必要なのでしょうか。それとも、ソーシャルメディアを動かすアルゴリズムそのものを変えるべきなのでしょうか。そのアルゴリズムこそが、ソーシャルメディアが人々のメンタルヘルスに及ぼす悪影響の根本原因なのですから。