父亲通过Gmail发送孩子的裸照,他的谷歌账户被永久封锁。

Gmail中由机器驱动的扫描在向医生发送孩子的裸体照片后标记了一个账户。现在这个账户被永远封锁了。

2022-10-27
Beware: If you send nude pictures via Google, your entire account might get blocked.
从前有一位父亲,什么都用谷歌:电子邮件、日历、照片、登录。但后来他通过Gmail与他们孩子的医生分享他儿子的裸体照片。这使他的整个谷歌账户被封锁。它被标记为传播儿童色情制品或CSAM(儿童性虐待材料的简称)。尽管调查很快就结束了,但谷歌的封锁仍在原地。这位父亲失去了对多年的电子邮件对话、日历条目、照片等的访问。这个例子表明,扫描CSA材料是多么有害。相反,我们需要网上的安全和隐私!

上述事件发生在COVID大流行期间,许多医生的诊所被关闭。纽约时报》首先报道了此事。

据 "纽约时报 "报道,这位父亲注意到他孩子的生殖器部位有异常,他应儿科医生办公室的要求发送照片进行远程诊断。由于他通过Gmail发送这些照片,谷歌可以访问这些照片,并扫描它们以发现潜在的犯罪活动。

谷歌的算法检测到了这些裸体图片,从而立即锁定了该账户。此案随后被转交给当局,当局开始进行调查,但很快就结束了,因为这位父亲没有犯下任何罪行。警方获得了谷歌关于他的所有信息,并决定这并不构成虐待或剥削儿童。

不管这个决定如何,这位父亲的谷歌账户仍然因为分享这些裸体照片而被锁定。

甚至当这位父亲再次向谷歌提出上诉,提供宣布他无罪的警方报告时,谷歌也拒绝了。然后他的账户由于不活跃而被永久删除。

这个谷歌账户就这样永远消失了。

这对每个Gmail用户来说意味着什么?

TL;DR: 小心:如果你通过Gmail发送裸体照片,你的整个账户可能会被封锁。

谷歌有一个自动工具来检测虐待儿童的图片。人工智能扫描每条Gmail信息,以寻找滥用性材料,如裸体儿童图片。该系统非常广泛,所以即使你与家人分享孩子在海滩或浴缸里的裸体照片,系统也可能将你的谷歌账户标记为分享儿童色情制品。

Gmail is very popular. But if you send naked pictures of a child, your account might get flagged for CSAM or pornography and blocked - even 
if you innocently share a picture of your own child with your family.

但是,一旦系统出错,后果就很严重。

你的账户可能会被永远锁定;这意味着将没有可能再次解锁账户。

鉴于你的谷歌账户,特别是你的电子邮件账户非常有价值,这是一个严重的风险。毕竟,你的电子邮件账户是你在线身份的大门。你将许多用于重设密码的服务连接到你的电子邮件账户,如亚马逊、Twitter、PayPal等。

这就是为什么选择一个安全的电子邮件供应商,一个保护你的数据和你的隐私是至关重要的。在Tutanota,我们努力工作,以确保没有人可以监视你,默认情况下,你的所有数据都会加密。看看你用加密的电子邮件得到的好处。

Gmail如何检测儿童的裸体照片

谷歌运行一个自动系统,扫描你发送的每条信息,以寻找潜在的儿童性虐待材料(CSAM)。

到目前为止,这个系统是自愿的,但欧盟想让客户端扫描CSA材料成为强制性的,这将是对每个人的隐私的破坏性侵犯。

这种扫描过程使谷歌能够标记其平台上的潜在犯罪活动。然而,该系统是相当广泛的,所以任何裸体儿童的照片都可以被标记出来。

如果谷歌将你标记为罪犯会发生什么?

当谷歌检测到你的账户有犯罪活动时(如分享裸体儿童照片),它会立即锁定你的整个谷歌账户。这包括谷歌的一切。Gmail、Google Drive、Google联系人,所有一切。

你将立即失去对你的所有数据、联系人、图片等的访问权--没有重新获得访问权的选择。

然后,谷歌将向当局报告你的资料,如果有搜查令,就会交出所有关于你的数据。

这甚至可能发生在你身上,如果你是完全无辜的,正如《纽约时报》报道的案例所表明的那样。

谷歌会在你被标记后解除封锁吗?

虽然当局很快得出结论,认为这位父亲是无辜的,但谷歌拒绝解锁他的账户。它永远消失了。

虽然这位父亲能够与停止调查的警察澄清误解,但谷歌什么也没做。

由于这个过程花费了很多时间,父亲的禁用账户在此期间被删除,因为它已经不活跃太久了。结果,这位父亲失去了很多重要数据,包括多年的家庭照片。

这里的主要问题是显而易见的:由于人工智能驱动的犯罪行为扫描的做法,自动标记和禁用滥用的账户,无辜者的账户被封锁了。而且,他们没有选择重新获得他们的谷歌账户。

在《纽约时报》的文章中,法律教授Hessick女士猜测:"从谷歌的角度来看,拒绝这些人使用他们的服务会更容易。否则,该公司将不得不解决更困难的问题,即 "什么是对孩子的适当行为,然后什么是适合拍摄或不适合"。

Keeping all your data in Gmail is dangerous: What if you lose access?

保持你的数据在本地,并为服务付费

许多谷歌用户报告说,要想再次解锁被锁定的账户是多么困难--或不可能(123。 显然,客户支持并不容易达到,尤其是无论如何他们只能告知而不能提供积极的帮助。

即使这位父亲在这种情况下实际上是正确的,他的例子表明,失去对谷歌的访问是多么 "容易"。因此,建议不要使用谷歌作为你唯一的备份或原始存储。