Facebook已经采取许多措施来对抗复仇的色情,这是一个类别指敏感内容,其他人——大多数,如果不是所有的他们在私人的时刻——共享没有他们的同意和有意让他们羞愧。

我只想说,报复的色情可以对人造成严重的后果出现在照片,他们如此广泛和普遍脸谱网利用人工智能和机器学习来摆脱他们。

人工智能来帮助Facebook打击报复色情

脸谱网索赔它的新人工智万博体育登录首页能技术可以检测near-nude图像或视频共享未经许可在Facebook上和Instagram。此前Facebook的早期版本的一个类似的功能,人们直接提交他们的私人照片来“教导”Facebook的识别算法。

与受害者提倡合作组织运行,程序将创建一个提交的“数字指纹”的图片所以Facebook可以阻止他们被分布在其网络。

不同的新技术,它不需要提交照片的受害者。万博体育登录首页Facebook说,这是至关重要的,因为报复色情受害者可能不敢报告内容本身。有时,他们甚至不知道他们的亲密照片被共享。

Facebook没有透露其新的人工智能技术是如何工作的,但他指出,这个过程包括的不仅仅是万博体育登录首页“检测裸体。”After the system flags an image or video, a Community Operations member will review the image and then remove it if it violate the company's policies. Facebook might disable the account as well. No AI is perfect, obviously. So Facebook says there's an appeal process in case the system gets it wrong.

为什么打击报复色情是重要

Facebook表示解决复仇色情是很重要的,因为未能遏制它可以影响人们的心理健康。受害者可能患有严重的焦虑、抑郁甚至自杀意念,有时创伤后应激障碍如果不能做任何关于他们的敏感内容被共享。

还会有后果的上下文中工作追求,比如失去工作或关系。更糟的是,一些国家以更少的宽松性文化意见可能彻头彻尾的惩罚的受害者。

前进,Facebook承诺它将创建受害者支持工具包通过与全球合作伙伴。