父親がGmailで子供の裸の写真を送信＆Googleアカウントが永久にブロックされる。

上記の事件は、COVIDのパンデミックの際、多くの医師の診療所が閉鎖される中で起こった。ニューヨーク・タイムズ紙が最初に報じた。

ニューヨーク・タイムズ」が報じたように、子供の性器に異常があることに気づいた父親が、小児科医院の依頼で遠隔診断のための写真を送ったのである。この写真をGmailで送信したため、Googleはその写真にアクセスでき、犯罪の可能性がないかスキャンしたのです。

Googleのアルゴリズムがヌード画像を検出したため、直ちにアカウントがロックされました。この事件は当局に転送され、捜査が開始されましたが、父親が犯罪を犯していなかったため、すぐに捜査は打ち切られました。警察は、Googleが持っていた父親の情報をすべて入手することができ、児童虐待や搾取には当たらないと判断したのです。

しかし、この裸の写真を共有したために、父親のGoogleアカウントはロックされたままでした。

父親が再びGoogleに訴え、無実を宣言した警察の報告書を提出しても、Googleは拒否しました。そして、彼のアカウントは、不活性化のために永久に削除されることになりました。

Googleのアカウントは永久に消えてしまったのです。

このことは、すべてのGmailユーザーにとって何を意味するのでしょうか？

TL;DR: ご注意：Gmailで裸の写真を送ると、アカウント全体がブロックされる可能性があります。

Googleは、子供の虐待画像を検出する自動ツールを用意しています。AIがすべてのGmailメッセージをスキャンして、子供の裸の写真などの虐待的な素材を検出します。このシステムは非常に広範囲に及ぶため、たとえあなたがビーチやバスタブにいる子どもの裸の写真を家族と共有したとしても、システムはあなたのGoogleアカウントに児童ポルノを共有しているとのフラグを立てるかもしれません。

しかし、システムが誤作動を起こした場合、その結果は深刻です。

あなたのアカウントは永久にロックされ、二度とロックを解除することができなくなります。

Googleアカウント、特にメールアカウントは非常に貴重であるため、これは深刻なリスクです。結局のところ、メールアカウントはあなたのオンラインアイデンティティの入り口なのです。Amazon、Twitter、PayPalなど、パスワードリセットを目的とした多くのサービスがメールアカウントに接続されています。

そのため、あなたのデータとプライバシーを保護する安全なメールプロバイダを選択することが重要です。Tutanotaでは、デフォルトですべてのデータを暗号化することにより、誰にもスパイされないように努力しています。暗号化されたメールの利点をご確認ください。

Gmailはどのように子供の裸の写真を検出するのですか？

Google は、送信されたすべてのメッセージに児童性的虐待の可能性（CSAM）がないかどうかをスキャンする自動システムを実行しています。

現在、このシステムは任意ですが、EUはCSA資料のクライアント側スキャンを義務化しようとしており、これはすべての人のプライバシーに対する破壊的な侵入となるでしょう。

このスキャンプロセスにより、Googleはプラットフォーム上での潜在的な犯罪行為に警告を発することができる。しかし、このシステムはかなり広範囲に及んでおり、子供の裸の写真であればフラグが立てられる可能性があります。

Googleがあなたを犯罪者としてマークした場合、どうなりますか？

Googleは、あなたのアカウントで犯罪行為（子供の裸の写真の共有など）を検出すると、直ちにあなたのGoogleアカウント全体をロックします。これには、Googleにあるすべてのものが含まれます。Gmail、Googleドライブ、Googleの連絡先など、すべてです。

Gmail、Google Drive、Googleの連絡先など、Googleに登録されているものすべてが対象となり、連絡先や写真など、すべてのデータにアクセスできなくなります。

Googleは、あなたのプロフィールを当局に報告し、捜査令状があれば、あなたについて要求されたすべてのデータを引き渡します。

これは、ニューヨークタイムズで報じられたケースが示すように、あなたが全く無実である場合にも起こり得ることです。

フラグを立てられた後、Googleはブロックを解除するのでしょうか？

いいえ。当局はすぐにこの父親が無実であるという結論に達しましたが、Googleは彼のアカウントのロックを解除することを拒否しました。アカウントは永久に削除されました。

父親は、捜査をやめた警察と誤解を解くことができたが、グーグルは何もしなかった。

この手続きに時間がかかったため、無効になった父親のアカウントはその間に削除されてしまった。その結果、父親は何年にもわたる家族の写真を含む多くの重要なデータを失ってしまったのです。

AIが犯罪行為をスキャンし、悪用されたアカウントに自動的にフラグを付けて無効化するため、無実の人々のアカウントはブロックされてしまうのです。そして、Googleアカウントへのアクセスを回復するための選択肢はない。

New York Timesの記事の中で、法学者のヘシック女史は、「グーグルの立場からすれば、こうした人々のサービス利用を拒否する方が簡単だ」と推測している。そうでなければ、同社は “子供との適切な行動とは何か、そして写真を撮るのが適切かどうか “という、より難しい問題を解決しなければならないからです。

データはローカルに保管＆サービスには対価を支払う

多くのGoogleユーザーが、ロックされたアカウントを再びロック解除するのがいかに難しいか、あるいは不可能であるかを報告している（1、2、3. 特に、カスタマーサポートは、情報を提供するだけで、積極的な支援はしてくれないので、簡単にはたどり着けないようです。

このケースでは、たとえ父親が正しかったとしても、彼の例は、Googleへのアクセスを失うことがいかに「簡単」であるかを示しています。したがって、Googleを唯一のバックアップやオリジナルのストレージとして使用しないことをお勧めします。