亚马逊的Alexa学习如何互动更像人类,但这打开了一个潘多拉盒子。随着语音助理变得更复杂的传播者,参与谈话,燃料的担忧。

Alexa的杀气腾腾的建议

用户去年据报道震惊Alexa建议“杀死你的养父母”在谈话。用户在亚马逊网站上写了一个严厉的评论描述Alexa的声明“令人毛骨悚然的一个全新的水平”。

一项调查揭示了聊天机器人,或Alexa的计算机系统为短语说话,把引用社会媒体网站Reddit,用户有时严厉甚至侮辱性消息。

原来虽然这并不是一个孤立的案例。与客户Alexa还喋喋不休地讨论狗排便和性行为。

发生了什么只是在亚马逊面临的许多问题,因为它试图Alexa训练,所以它可以更像人类从事休闲交流对话在回应问题和评论。

Alexa训练成为一个更好的沟通者

Alexa会通过机器学习这个会话技巧,一个受欢迎的形式的人工智能。它利用计算机程序来抄写人类语言,然后根据模式的观察,选择最好的一个回应的对话。

2016年,亚马逊推出了年度竞争提供500000美元的团队可以创建最好的chatbot允许Alexa更复杂的和别人讨论。

”socialbot大学生团队将开发一个新的Alexa技能,与用户通信热门的社会话题。参与团队将促进高级的自然语言理解、对话和上下文建模、和人类语言生成和表达,“亚马逊说Alexa的奖。

团队设定他们的机器人在互联网上搜索和拉文本作出回应。获胜的团队从加州大学戴维斯使用超过300000年的电影《报价培训计算机模型来识别不同的句子。

不幸的是,这导致问题的谈话。参与团队从苏格兰赫瑞瓦特大学,比如,发现其Alexa机器人开发了一种严重的人格训练聊天时使用Reddit的评论。

这是相同的网站,生成了杀气腾腾的消息向客户的养父母。