Get The Black Friday & Cyber Monday Deal

Save 62%

对隐私的漠视与技术武器化相伴而行。

数据挖掘和厌女症都需要在昨天得到制止。

Camera Wall, Toronto, Canada

当技术被设计用来暴露和诋毁用户时,其后果可能是残酷的。这就是为什么隐私是最重要的,大科技公司必须履行其责任。


为什么隐私很重要

这个故事是一个重要的提醒,说明为什么隐私很重要:即使你没有什么可隐藏的。我们不是数据或商业指标,我们是人,当公司没有看到这一点,就会有现实世界的后果。

大科技的责任

根据对Meta广告库的审查,3月份,一个用于制作 “DeepFake FaceSwap “视频的应用程序在Meta的服务上推出了230多个广告,包括Facebook、Instagram和Messenger。一些广告显示了看起来像色情视频的开头,播放着色情平台Pornhub的介绍性声音。几秒钟后,这些女性的脸被换成了著名演员的脸。这些广告的标题是 “用任何人替换脸部 “和 “用AI换脸技术享受生活”。

在NBC新闻要求Meta公司发表评论后,该应用程序的所有广告都从Meta公司的服务中删除。虽然视频中没有显示性行为,但其暗示性的性质说明了该应用程序如何可能被用来产生虚假的性内容,不仅是与著名女性,它还能与该应用程序的用户上传的一张人脸照片一起使用。同样的广告也出现在从苹果公司App Store下载的免费照片编辑和游戏应用程序上,该应用程序在2022年首次出现在App Store,供9岁以上的人免费下载,它也可以在Google Play上免费下载,在那里,它因 “暗示性主题 “而被评为 “青少年”。 苹果和谷歌都表示,他们后来在与NBC新闻联系从其商店删除了该应用程序。

记者的工作是筛选应用商店中的虐待性应用吗?

2021年12月,经过路透社的调查,同样的故事在一个不同的应用程序上发生了。

在谷歌和苹果的应用商店里,仍有几十个深层伪造的应用程序,其中大多数被用来生成未经同意的色情和 “裸体 “的人。虽然谷歌和苹果声称他们禁止生成诽谤性、歧视性或可能恐吓、羞辱或伤害任何人的内容的应用程序,但这恰恰是在他们眼皮底下发生的事情。谷歌已将 “非自愿合成的色情图像 “加入其禁止名单,允许任何人要求搜索引擎阻止将他们错误地描述为 “裸体或处于性暴露的情况 “的结果—但受害者应该负责解决这个问题,还是谷歌应该首先在防止这种类型的滥用方面做得更好?

随着深度伪造技术的改进和普及,未经同意的性图像的市场已经膨胀。一些网站允许用户在付费墙后面出售未经同意的深层伪造色情。DeepTrace在2019年的一项研究发现,网上96%的深假材料具有色情性质,而Genevieve Oh的另一项研究发现,自2018年以来,深假色情视频的数量每年几乎翻了一番。

既然检测deepfake的技术存在,尽管是在付费墙后面,为什么所有能让用户上传照片和视频的平台都不自动筛选,并自动将deepfakes标记为deepfakes呢?他们在识别和取下虐待性内容方面已经失败了,但至少这部分应该很容易,如果他们真的关心。

无新意

最近,Katie Jgln写了一篇文章,深入探讨了技术驱动的性别暴力的广泛历史。一些更 “老派 “的例子,比如藏在浴室里的摄像头,仍然在被使用:就在几天前,美国司法部公布了对一名男子的指控,他涉嫌在皇家加勒比游轮上的浴室里安装摄像头,拍摄了150人,包括40名未成年人。

TechSafety有许多有用的指南,康奈尔大学的 “结束技术虐待诊所”(CETA)也有资源帮助人们保护他们的隐私和保持网络安全,他们与纽约大学合作的广泛研究表明,网络虐待和技术促成的虐待是多么系统化,特别是在厌女症和变性人的驱动下。

除了他们的同行评议的学术出版物外,他们还链接了一些外行人更容易理解的媒体作品,如:

该组织的愿景是让虐待、跟踪和其他虐待行为的幸存者的声音成为技术设计的中心,而事实上他们的研究部分由谷歌和Meta公司赞助,这两者之间存在着有趣的并列关系。这些科技巨头将他们的部分利润用于揭示他们所帮助制造的问题,这很好,但如果他们真的考虑到他们所赞助的研究结果并相应地改进他们的产品,那就更好了。

其他广泛存在的以这种方式将技术作为武器的例子包括:

  • 欺凌和骚扰,包括身体威胁。攻击者模糊了在线和离线暴力之间的界限,经济学人信息部的一份广泛的全球报告中详细说明了这一点,该报告还衡量了针对妇女的在线暴力如何影响经济和整个社会。许多大规模枪击事件都是网络暴力转化为现实世界行动的例子,最新的例子是德克萨斯州艾伦商场的枪手,他在社交媒体上的个人资料充满了对黑人、亚洲人和犹太人以及一般妇女的咆哮。种族化暴力和基于性别的暴力之间的联系已经被记录了很久了
  • 诽谤—尤其是针对变性人的诽谤,往往伴随着让目标人物被解雇和被逐出家门的努力,并将目标人物推向自我伤害。
  • 苹果 AirTags和其他类似设备
  • 智能家居设备,包括恒温器、门锁和灯

正如Katie Jgln所说,很多时候,“现代技术—以及它创造的网络世界—只是父权制的延伸。[它对我们在现实世界中所经历的虐待、骚扰、暴力、厌女症、性别歧视、不受欢迎的过度性行为和物化现象视而不见,甚至常常使这些现象成为可能。就像父权制的许多其他工具—例如纯洁文化或 “传统 “的性别角色—它经常作为一种方式,把我们放回原位,沉默或诋毁我们的声音,最重要的是,保护现状。

缠扰软件和 “普通应用程序 “之间的模糊界限

反对缠扰软件联盟指出,“虽然缠扰软件一词有时也被俗称为任何确实或被认为侵犯个人隐私的应用程序或程序;但鉴于缠扰软件在亲密伴侣虐待情况下的使用,我们认为明确和狭义的定义非常重要。“在这个问题上存在严重的混淆理由,对于像谷歌、Meta和其他许多公司的信息、电子邮件、社交媒体和其他服务的应用程序来说,这不是一个好现象,这些应用程序需要你手机上的敏感权限并收集你的数据。他们也承认 “合法的应用程序和其他种类的技术可以而且经常在这种情况下发挥作用”。在同一页上,检测跟踪软件的建议标准之一是 “能够收集和渗入设备用户的敏感数据(例如,位置数据、联系人、通话/短信记录、密码、浏览器历史记录等)而无需用户持续同意和/或知情的应用程序”。世界上有多少下载量最大的应用程序不符合这个标准?

它不需要这样。养育孩子的应用程序从来不需要隐藏在手机上,如果是这样,它们是跟踪软件,而不是养育孩子的应用程序。手机不需要默认启用GPS。应用程序不需要在默认情况下(或在许多情况下)拥有定位(和许多其他)权限,相反,用户应该选择在需要时只为合法需要的应用程序启用这些权限。所有的手机都应该自动撤销你不使用的应用程序的权限。AirTags、Tiles和其他类似产品在激活/使用时应该始终有响亮的声音通知,监管机构应该打击在ebay等地出售的 “修改 “版本。

我们不能指望科技公司出于同情和尊重每个人的人性而牺牲他们在当前监控资本主义体系中的利润。我们需要不断增加对他们的压力,让他们这样做。在那之前,我们并不安全。我们必须继续为我们的隐私权而斗争。