なぜプライバシーが重要なのか
この話は、なぜプライバシーが重要なのか、その重要性を再認識させるものです：たとえ隠すことがなくても、です。私たちはデータでもビジネス指標でもなく、人間なのです。
ビッグテックの責任
3月、「DeepFake FaceSwap」動画を作成するアプリが、Facebook、Instagram、Messengerを含むMetaのサービス上で230以上の広告を展開したことが、Metaの広告ライブラリーのレビューで明らかになりました。広告の中には、ポルノプラットフォーム「Pornhub」のイントロ音が流れる、ポルノ動画の冒頭のようなものもありました。数秒後には、女性の顔が有名俳優の顔と入れ替わっていました。これら数十の広告のキャプションには、“Replace face with anyone “や “Enjoy yourself with AI swap face technology “と書かれていました。
NBC NewsがMetaにコメントを求めた後、Metaのサービスからこのアプリの広告がすべて削除されました。動画には性行為は映っていませんでしたが、その示唆的な性質は、このアプリケーションが偽造された性的コンテンツを生成するために使用される可能性があることを物語っています。同じ広告は、2022年にこのアプリが初めて登場したAppleのApp Storeからダウンロードした無料の写真編集アプリやゲームアプリでも発見され、9歳以上であれば無料でダウンロードできました。また、Google Playでも無料でダウンロードでき、「示唆的なテーマ」ということで「ティーン」と評価されていました。AppleとGoogleはともに、NBC Newsからの連絡を受けて後にストアからこのアプリを削除したといいます。
アプリストアに悪質なアプリがないか審査するのがジャーナリストの仕事なのでしょうか？
ロイターの調査後、2021年12月に別のアプリで同じ話が展開された。
GoogleとAppleのアプリストアでは、現在も数十種類のディープフェイクアプリが販売されており、そのほとんどが、非合意のポルノを生成したり、人を「ヌード化」するために利用されています。GoogleとAppleは、中傷的、差別的、あるいは誰かを威嚇、屈辱、傷つける可能性のあるコンテンツを生成するアプリを禁止していると主張していますが、これはまさに彼らの目の前で起きていることなのです。Googleは「不随意の合成ポルノ画像」を禁止リストに追加し、誰でも検索エンジンに「ヌードや性的に露骨な状況にある」と偽って描写された結果をブロックするよう要求できるようにした。しかし、被害者がこれを修正する責任を負うべきなのか、それともGoogleがこの種の乱用を最初に防ぐためにもっとうまくやるべきなのか。
ディープフェイク技術が向上し、普及するにつれて、非合意の性的イメージの市場は膨れ上がっています。一部のウェブサイトでは、ユーザーがペイウォールの後ろから非合意のディープフェイクポルノを販売できるようになっています。DeepTraceの2019年の調査では、オンライン上のdeepfake素材の96％がポルノ的な性質を持つことが判明し、Genevieve Ohによる別の調査では、deepfakeポルノ動画の数が2018年から毎年ほぼ倍増していることが判明しています。
ペイウォールの向こう側とはいえ、ディープフェイクを検出する技術は存在するのだから、ユーザーが写真や動画をアップロードできるすべてのプラットフォームは、それらを自動的にスクリーニングし、ディープフェイクを自動的にそのように表示してはどうか？彼らはすでに悪用されたコンテンツを特定し、削除することに失敗しているが、少なくともこの部分は、彼らが実際に気にしていれば、十分に簡単なはずだ。
目新しいものはない
最近、Katie Jglnによる記事が、テクノロジーを利用したジェンダーに基づく暴力の広範な歴史について掘り下げた。つい先日、米司法省は、ロイヤルカリビアンのクルーズ船内のトイレにカメラを設置し、40人の未成年者を含む150人を撮影したとされる男に対する告発状を公開しました。
TechSafetyには多くの有用なガイドがあり、コーネル大学のClinic to End Tech Abuse（CETA）にも、人々がプライバシーを保護し、オンラインで安全に過ごすためのリソースがあります。NYUと提携した彼らの幅広い研究は、特に女性差別やトランスフォビアに起因する場合、オンライン虐待やテクノロジーを利用した虐待がいかに体系的であるかを示しています。
査読付きの学術論文に加え、一般人にもわかりやすい以下のようなメディアの記事にもリンクしています：
- ワイヤレス・ロビーが家庭内暴力法案の行方を左右する - Axios
- 不要な接続：あなたのスマートホームは誰が管理しているのか？- ニューヨーク・タイムズ
- あなたをスパイしている可能性のあるソフトウェアを見分ける方法- The BBC
- 何百ものアプリがストーカーに被害者を追跡する力を与える - The New York Times
- アップルとグーグルが、家庭内虐待者に被害者をストーキングさせるシンプルな方法- WIRED
- ストーカーウェア」アプリが虐待相手に被害者をスパイさせる方法- MITテクノロジーレビュー
- 家庭内虐待者がスマートフォンを使ってパートナーをスパイする方法 - Vox
- デジタル虐待の被害者に安住の地はない - Slate
- デジタル家庭内虐待の検知に役立つ新ツール- Cornell Chronicle
- 家庭内虐待者のスパイ活動を容易にするアプリ- Cornell Chronicle（コーネル・クロニクル
- テクノロジーは親密なパートナーからの暴力の被害者をいかに失望させるか - Freedom to Tinker (Princeton CITP)
- 保護者監視アプリ：ストーカーウェアとどう違うのか？- マルウェアバイトラボ
虐待やストーカーなどの虐待を受けた人の声をテクノロジーデザインの中心に据えるという組織のビジョンと、彼らの研究の一部がGoogleとMetaによってスポンサーされているという事実の間には、興味深い並置がある。これらのハイテク企業が利益の一部を、自分たちが作り出した問題に光を当てるために使うのは素晴らしいことですが、スポンサーとなっている研究の結果を実際に考慮し、それに基づいて製品を改良しているなら、さらに素晴らしいことでしょう。
このようにテクノロジーが武器として使われる例は、他にも広くあります：
- 物理的な脅迫を含む、いじめや嫌がらせ。エコノミスト・インテリジェンス・ユニットによる広範なグローバルレポートでは、女性に対するオンライン暴力が経済や社会全体にどのような影響を与えるかも測定されています。多くの銃乱射事件は、オンラインでの暴力が現実世界での行動に結びついた例であり、最新の例では、テキサス州アレンのショッピングモールでの犯人が、黒人、アジア人、ユダヤ人、女性一般に対する暴言をソーシャルメディアのプロフィールにあげていたことが挙げられる。人種差別とジェンダーに基づく暴力の関連性は、長い間、文書化されてきました。
- Doxing（ドキシング）-特にトランスの人たちに対して使われ、しばしば、ターゲットが仕事をクビになり、家から追い出され、ターゲットとなった人を自傷行為に追い込むような努力を伴う。
- Apple AirTagsやその他の類似デバイス
- サーモスタット、錠前、照明などのスマートホームデバイス
ケイティ・イグルンが言うように、「現代のテクノロジー、そしてそれが生み出したオンラインの世界は、家父長制の延長に過ぎない」ことがよくあるのです。[現実の世界で経験する虐待、ハラスメント、暴力、女性差別、性差別、望まない性欲の亢進、客観視とまったく同じことを見て見ぬふりをし、しばしば可能にさえします。そして、家父長制の他の多くの手段（例えば、純潔文化や『伝統的』な性別役割）と同様に、私たちを元の場所に戻し、私たちの声を黙らせ、信用を失い、最も重要なことは、現状を守る方法として機能することがあまりにも多いのです」。
ストーカーウェアと “普通のアプリ “の間の曖昧な境界線
ストーカーウェア対策連合は、「ストーカーウェアという用語は、プライバシーを侵害する、あるいは侵害すると認識されるあらゆるアプリやプログラムを指す言葉としても口語的に使われることがあるが、親密なパートナーへの虐待の場面でストーカーウェアが使用されていることから、明確で狭い定義が重要だと考える」と指摘しています。この問題に関して深刻な混同の根拠があるということは、Google、Meta、その他多くの企業のメッセージング、メール、ソーシャルメディア、その他のサービスのためのアプリが、あなたの携帯電話に機密の許可を必要とし、あなたのデータを収集していることを考えると、良いことではありません。また、「正当なアプリや他の種類の技術が、そのような状況において役割を果たすことができ、またしばしば果たすことができる」ことも認めています。同じページでは、ストーカーウェアを検出するための推奨基準の1つとして、「デバイスユーザーの機密データ（位置情報、連絡先、通話/テキストログ、パスワード、ブラウザ履歴など）を継続的な同意および／または知識なしに収集および流出させることができるアプリ」を挙げています。世界で最もダウンロードされているアプリのうち、この基準を満たさないものがどれだけあるでしょうか？
このようにする必要はありません。子育てアプリが携帯電話に隠されている必要はありません。もし隠されているとしたら、それは子育てアプリではなく、ストーカーウェアです。携帯電話のGPSがデフォルトで有効になっている必要はありません。アプリは、デフォルトで（あるいは多くの場合、ずっと）位置情報（および他の多くの）権限を持つ必要はありません。代わりに、ユーザーは、合法的に必要とするアプリに対してのみ、必要に応じてこれらの権限を有効にすることを選択すべきです。すべての携帯電話は、使っていないアプリのパーミッションを自動的に取り下げるべきである。エアタグ、タイル、その他の類似製品は、作動時や使用時に大きな音で通知するようにし、規制当局はebayなどで販売されている「改造」バージョンを取り締まるべきである。
テック企業が、現在の監視資本主義システムで儲けている利益を犠牲にして、すべての人の人間性を思いやり、尊重することを期待することはできないのです。私たちは、そうするよう常にプレッシャーをかけていく必要があります。それまでは、私たちは安全ではありません。私たちはプライバシーの権利のために戦い続けなければなりません。