Meta将利用人工智能视觉分析技术,在Instagram和Facebook上识别未成年用户。

Meta将利用人工智能技术(例如照片扫描)来分析骨骼结构等视觉特征,从而识别未成年用户。尽管使用人工智能扫描和技术来判断用户年龄会引发隐私担忧,但Meta声称这“并非人脸识别”。

To ensure underage users are blocked from using Facebook and Instagram, Meta will use advanced AI systems including visual analysis of users’ images and videos.

随着全球范围内对年龄验证的推动,以及各国政府对科技巨头采取严厉措施以阻止未成年用户使用平台,Meta正致力于加强其针对未成年用户的监管措施。如今,这家科技巨头宣布将利用人工智能视觉分析技术,检测其平台上的儿童和青少年是否谎报年龄,或是否未满13岁。Meta利用人工智能扫描用户媒体内容的举措遭到了全球隐私活动家的强烈批评。 让我们来一探究竟!


Meta将利用先进的AI系统来识别未成年人账户。AI将分析用户的完整个人资料,从中提取上下文线索,并根据上下文推测年龄。例如,评论、图片说明、个人简介和帖子等内容。此外,还将通过视觉分析扫描照片和视频,寻找骨骼结构和身高等“视觉线索”来推测年龄。

Screenshot of Meta's blog post, "We’re also adding visual analysis as a new technique to aid our detection efforts. This technology allows our AI to scan photos and videos for visual clues about a person’s age that text might miss. We want to be clear: this is not facial recognition. Our AI looks at general themes and visual cues, for example height or bone structure, to estimate someone’s general age; it does not identify the specific person in the image. By combining these visual insights with our analysis of text and interactions, we can significantly increase the number of underage accounts we identify and remove." Screenshot of Meta's blog post, "We’re also adding visual analysis as a new technique to aid our detection efforts. This technology allows our AI to scan photos and videos for visual clues about a person’s age that text might miss. We want to be clear: this is not facial recognition. Our AI looks at general themes and visual cues, for example height or bone structure, to estimate someone’s general age; it does not identify the specific person in the image. By combining these visual insights with our analysis of text and interactions, we can significantly increase the number of underage accounts we identify and remove."

虽然 Meta 将使用 AI 视觉分析技术扫描图片和视频,但该公司希望明确指出,这并非人脸识别技术。截图来源:Meta

Meta将利用AI分析一切(仅用于检测未成年用户)

5月5日,Meta发布了一篇文章,其中透露了计划利用AI扫描图片和视频以获取视觉线索(如身高或骨骼结构),从而判断用户是否未满十三岁。该技术旨在将未成年用户从其平台上移除,并引导青少年使用更合适的账户类型,例如Meta Teens账户。这是Meta对其自有年龄验证技术投资的一部分。 这家科技巨头声称“这并非人脸识别”:

“我们需要明确一点:这并非人脸识别。我们的AI通过分析整体特征和视觉线索——例如身高或骨骼结构——来估算用户的年龄范围;它不会识别图像中的具体个人,”Meta在博客文章中表示。

若Meta判定某账户可能属于未成年人,该账户将被停用,并要求用户通过其年龄验证流程提供年龄证明,否则账户将被删除。目前,Meta的许多AI改进功能已在全球范围内应用,但部分先进AI系统(如视觉分析)目前仅在特定国家使用,Meta正致力于推动更大范围的推广。

一键开启隐私保护

Meta将扩大青少年账户的自动开通范围

2024年,Meta在Instagram上推出了“青少年账户”,这家硅谷科技巨头已逐步将该功能推广至Facebook和Messenger,面向不同地区的13至17岁用户。 这些专为青少年打造的账户旨在提升18岁以下Meta用户的隐私保护、安全保障及身心健康。在博客文章中,Meta还宣布计划扩展其技术,将自动将系统识别出的青少年用户转移至青少年账户保护机制——该机制已在欧盟和巴西的Instagram上实施,并在美国的Facebook上推行。

你能信任Meta吗?

这家科技巨头声称此类AI视觉分析并非人脸识别,但用户每次点击、评论、发帖及互动——更不用说图片和视频——都可能被Meta的AI系统扫描分析这一想法,恐怕难以让许多人接受。这种担忧不难理解,因为Meta曾因各类丑闻、侵犯用户隐私及不道德行为多次成为舆论焦点。

默认用户同意将Facebook和Instagram数据用于训练其AI模型,到2023年被美国30个州起诉,指控其蓄意在Facebook和Instagram上设计令人上瘾且危害青少年心理健康的功能,再到臭名昭著的“剑桥分析”丑闻——数百万Facebook用户的数据被窃取并用于定向政治广告。

更甚者,今年3月,Meta因误导用户关于其平台的安全性,且未能保护儿童的网络安全,违反了美国新墨西哥州的法律,被判处支付3.75亿美元罚款

因此,回顾Meta的过往,尤其考虑到如今每家科技巨头都在借助海量用户数据竞相开发最先进的人工智能模型,用户对Meta利用人工智能对用户数据进行视觉分析感到怀疑,也是可以理解的。 回顾近期其他AI数据滥用丑闻——例如领英(LinkedIn)未经同意便利用用户数据训练AI,或是谷歌(Google)在安卓系统上强推其Gemini AI——Meta的最新决定恐怕并非仅为保护儿童和青少年,这并不令人意外。

年龄验证时代

今年,全球范围内对年龄验证的推动力度更大,多个国家正在推行针对青少年的社交媒体禁令。如今,Meta和Google等科技巨头必须遵守规定,否则将面临后果。因此,各种年龄确认和年龄验证系统正在推出,例如,YouTube现在要求用户验证年龄Discord也计划推出年龄验证系统。

虽然可以理解Meta等科技巨头必须建立这些系统以符合法律要求,但这些平台的用户应保持警惕,并自问:在进行身份验证时,能否相信这些公司会真正尊重并保护其个人数据(如官方身份证件)?

在这个年龄验证的时代,我们必须自问:我们真的需要年龄验证来保护青少年免受社交媒体的负面影响,还是说我们需要彻底改变驱动社交媒体的算法——正是这些算法才是社交媒体对人们心理健康产生负面影响的根本原因?

手机屏幕上带有 Tuta 徽标的插图,手机旁边是一个放大的盾牌,盾牌上有一个复选标记,象征着 Tuta 加密技术的高度安全性。