元宣布,该公司将资助一个新的工具旨在帮助删除明确未成年人从互联网上的图像与非盈利儿童保护协会开始合作组织国家失踪及被剥削儿童中心。
(照片:贾斯汀沙利文/盖蒂图片社)
加州圣安瑟莫- 04年10月:在这张照片说明,Facebook和Instagram的iPhone应用程序在屏幕上看到10月04日2021年在加利福尼亚的圣安瑟莫。社交媒体应用Facebook、Instagram和WhatsApp正在经历一个全球宕机,开始在9点之前。(P.S.T.)周一上午。
取下来的工具
NCMEC和元宣布建立合作伙伴关系,使一个工具,帮助未成年人删除裸体,部分裸体,或从互联网上发自己的色情照片,。按边缘的报告,“拿下来”将作为元初始资金提供免费服务来创建这个工具。
首席执行官和总裁米歇尔DeLaune表示,这个工具旨在儿童面临绝望的情况下。“我们希望孩子们意识到这个服务,他们有一种如释重负的感觉,工具的存在是为了帮助把照片拿下来。NCMEC是来帮忙的,”她补充道。
元的平台,包括Facebook, Instagram, OnlyFans, Pornhub, Yubo,已经签署了这个新工具集成。成人也可以利用这个工具,例如,如果他们仍然在这些内容还未成年。父母或监护人也可以代表孩子的一份报告。
用户需要的内容在他们的设备,因为他们将提交一个基于web的工具,将图像转换成数字指纹,也被称为“散列”。These will be sent to NCMEC and shared with platforms and will use hash-matching technology to find and flag any attempts to upload the original images.
万博体育登录首页TechCrunch报道说,把它散列内容在浏览器中,这意味着这个工具不离开孩子或父母的设备。一旦试图上传原始图片,hash-matching技术将检测匹配和发送新上传的材料内容主持人进行审核。万博体育登录首页
这个过程确保工具没有被用于消除其他类型的图像不明确或性。元补充说,该公司将每天多次摄取新的散列快速块内容。
未成年性勒索
这个工具是一个未成年人的性勒索努力应对不断上升的问题。根据NCMEC,性勒索的报告从2019年到2021年翻了一番。布隆伯格报道说,十几岁的男孩已经成为最常见的关于这些事情的目标。
孩子们网上欺骗成分享亲密的和明确的图像。他们中的一些经验勒索的前景有这些照片传到网上,因为他们寻求资金。
元的全球主管安全,安提戈涅·戴维斯说,这个工具提供了一些控制回人,特别是那些在绝望和无助的情况下。“以这种方式威胁使人们在一个非常危险的境地,并可以带来灾难性的后果,”戴维斯说。
相关文章:元的AI扩大马克·扎克伯格形式社交媒体平台的新团队
