Facebook意外地在为Instagram做广告时使用了强奸威胁，就在一周前，该公司允许广告商瞄准“仇恨犹太人”和其他反犹类别等主题。

进攻Instagram广告是算法出错的最新例子，更糟糕的是，这家facebook旗下的公司对这个问题的反应并不好。

强奸威胁被用作Instagram广告

《卫报》记者奥利维亚·索伦(Olivia Solon)大约一年前在Instagram上上传了一张她收到的强奸威胁的照片，以展示她作为记者收到的仇恨信息。

“在杀你之前，我会强奸你，你这个肮脏的婊子!”大约一年后，索伦发现脸书用强奸威胁的照片来做广告社交网络上的Instagram。

Instagram正在使用我最“吸引人”的帖子之一，在Facebook上向其他人宣传它的服务pic.twitter.com/lyEBHQXMfa

-奥利维亚·索伦(@oliviasolon)2017年9月21日

Instagram决定利用强奸威胁的截图向索伦的妹妹宣传这个图片分享平台。最初的Instagram照片收到了一些评论和一些赞，但显然，这足以给它贴上“迷人”的标签，这就是脸谱网选择将用于Instagram广告的图片。

更糟糕的是Instagram对这一可怕错误的回应。

一位发言人说:“我们很抱歉发生了这样的事，我们不希望有人有这样的经历。”“这条通知是为了鼓励用户参与Instagram而发布的。通常一个人的Facebook好友中只有一小部分人会收到他的帖子。”

将强奸威胁描述为Instagram不希望其用户经历的体验，这是一种严重的轻描淡写，并凸显了过度依赖算法的危险。

算法的危险

索伦的强奸威胁图片被用作Instagram广告，显示出当Facebook这样的公司过度依赖算法来执行任务时，会发生什么。人类对算法为此类广告选择的图像进行过滤的监督，本可以防止此类错误发生。

脸书最近因为针对广告商的“犹太人仇恨者”目标，以及出售价值10万美元的广告而受到抨击俄罗斯“巨魔农场”在2016年美国总统大选期间，这一最新的失言给这家社交网络挖了一个更深的坑。随着Facebook推出新工具来防止用户滥用其平台，社交网络本身似乎是最大的违法者。