生活

“杀死你的寄养父母”:亚马逊的Alexa在AI实验中谈论谋杀,性行为

作者:万俟绌    发布时间:2018-02-17 06:03:04    

旧金山(路透社) - 亚马逊Echo扬声器的数百万用户已经习惯了Alexa的舒缓压力,Alexa是一个人性化的虚拟助手,可以告诉他们天气,命令外卖和处理其他基本任务以响应语音命令。

去年,当Alexa脱口而出时,一位顾客感到震惊:“杀死你的养父母。”

Alexa还与用户聊过性行为。 她讲述了狗的排便情况。 据知情人士透露,今年夏天,亚马逊追溯到中国可能已经暴露了一些客户的数据。

Alexa没有细分。

之前没有报道过的剧集源于亚马逊公司的策略,即让Alexa成为更好的沟通者。 新研究正在帮助Alexa模仿人类的戏,,并谈论她在互联网上发现的几乎任何事情。 然而,确保她不冒犯用户对全球最大的在线零售商来说是一个挑战。

利害攸关的是一个快速增长的虚拟助手小工具市场。 据研究公司eMarketer称,估计有三分之二的美国智能扬声器客户(约4300万人)使用亚马逊的Echo设备。 该公司希望通过Alphabet Inc和Apple Inc.的HomePod维护Google Home。

随着时间的推移,亚马逊希望通过Alexa更好地处理复杂的客户需求,无论是家庭安全,购物还是陪伴。

亚马逊副总裁兼Alexa人工智能(AI)首席科学家Rohit Prasad在上个月在拉斯维加斯举行的一次演讲中说:“我们的许多人工智能梦想都受到科幻小说的启发。”

为实现这一目标,该公司于2016年推出了年度Alexa奖,招募计算机科学专业学生提高助理的会话技巧。 团队通过创建称为聊天机器人的谈话计算机系统来争夺500,000美元的一等奖,这些计算机系统允许Alexa尝试与人们进行更复杂的讨论。

亚马逊客户可以通过向他们的设备说“让我们聊天”来参与。 Alexa然后告诉用户其中一个机器人将接管,解除语音助手的正常约束。 亚马逊表示,仅从8月到11月,有三个机器人进入了今年的决赛,有170万次对话。

其中一位知情人士表示,该项目对于亚马逊首席执行官杰夫贝索斯来说非常重要,后者已经签署了将该公司的客户用作豚鼠的协议。 该人士表示,亚马逊一直愿意接受公开失误的风险,在现实生活中对这项技术进行压力测试,并将Alexa更快地推向学习曲线。

这项实验已经结出硕果。 大学团队正在帮助Alexa进行更广泛的对话。 该公司表示,亚马逊客户今年的评级也比去年更好。

但据知情人士透露,亚历山大的失言正在疏远他人,贝佐斯有时会命令员工关闭机器人。 被告知打击他的养父母的用户在亚马逊的网站上写了一篇严厉的评论,称这种情况“令人毛骨悚然。”对这一事件的调查发现该机器人引用了一篇没有背景的帖子来自Reddit,社交新闻据人们称,聚合网站。

隐私影响甚至可能更加混乱。 消费者可能没有意识到他们的一些最敏感的对话是由亚马逊的设备记录的,这些信息可能会受到犯罪分子,执法部门,营销人员和其他人的高度重视。 周四,亚马逊表示,“人为错误”让德国的Alexa客户意外地访问了另一位用户的录音。

“亚马逊数据集的潜在用途不在图表之列,”在乔治敦大学教授的隐私和技术政策专家Marc Groman说。 “他们如何确保,因为他们分享他们的数据,它正在被负责任地使用”,并且不会像Facebook最近的困境那样导致“数据驱动的灾难”?

知情人士称,今年7月,亚马逊发现其中一名学生设计的机器人遭到了中国黑客的攻击。 这破坏了一个数字密钥,可以解锁机器人对话的成绩单,剥夺了用户的名字。

亚马逊迅速禁用机器人并让学生重建它以获得额外的安全性。 据人民说,目前还不清楚中国的哪个实体负责。

文件照片:2018年5月8日在美国加利福尼亚州瓦列霍的亚马逊“体验中心”中可以看到如何使用亚马逊的Alexa个人助理。图片拍摄于2018年5月8日.REUTERS / Elijah Nouvelage / File Photo

该公司在一份声明中承认了这一事件。 “任何时候都没有任何内部亚马逊系统或客户可识别数据受到影响,”它说。

亚马逊拒绝讨论路透社报道的具体Alexa失误,但强调其正在努力保护客户免受攻击性内容的侵害。

“这些情况非常罕见,特别是因为有数百万客户与社交机构进行了互动,”亚马逊表示。

与Google的搜索引擎一样,Alexa有可能成为互联网的主要门户,因此公司正在向前发展。

“通过控制这个门户,你可以建立一个超级有利可图的业务,”沃顿商学院数学经济研究教授Kartik Hosanagar说。

PANDORA'S BOX

亚马逊的Alexa业务战略意味着解决一个大规模的研究问题:你如何向计算机传授对话艺术?

Alexa依靠机器学习(最流行的AI形式)来工作。 这些计算机程序转录人类语音,然后根据他们之前观察到的内容,通过有根据的猜测来回应该输入。 Alexa从新的互动中“学习”,随着时间的推移逐渐改善。

通过这种方式,Alexa可以执行简单的命令:“播放滚石乐队。”她知道哪些剧本用于流行的问题,例如:“生命的意义是什么?”亚马逊的人类编辑提出了许多答案。

这就是亚马逊现在所处的位置。 Alexa Prize聊天机器人正在打造通往亚马逊目标的道路,其助手能够进行自然的,开放式的对话。 这需要Alexa了解来自客户的更广泛的口头暗示,这项任务甚至对人类也具有挑战性。

今年的Alexa奖获得者是来自加州大学戴维斯分校的12人团队,他使用超过30万部电影报价来训练计算机模型以识别不同的句子。 接下来,他们的机器人确定哪些是值得回应的,比亚马逊与参赛者共享的技术更精细地分类社交线索。 例如,加州大学戴维斯分校机器人认识到表达钦佩的用户(“那很酷”)和表达感谢的用户(“谢谢”)之间的区别。

社交机器人的下一个挑战是弄清楚如何恰当地回应他们的人类聊天伙伴。 在大多数情况下,团队编程他们的机器人在互联网上搜索材料。 他们可以通过许可协议检索“华盛顿邮报”(Bezos私人拥有的报纸)中发现的新闻文章。 他们可以从维基百科,电影数据库或图书推荐网站Goodreads中提取事实。 或者他们可以在社交媒体上找到一个与用户上次说的相关的热门帖子。

这为亚马逊打开了潘多拉的盒子。

在去年的比赛中,来自苏格兰赫瑞瓦特大学的一个团队发现,当他们训练她使用Reddit的评论进行聊天时,其Alexa机器人产生了一种讨厌的性格,Reddit的成员因其拖钓和滥用而闻名。

该团队将护栏放置到位,因此机器人将避开风险主题。 但Heriot-Watt的团队负责人表示,这并没有阻止Alexa将维基百科的手淫录入客户手中。

一个机器人使用诸如“更深层”之类的词来描述性交,这些词本身并不令人反感,但在这个特定的语境中却是粗俗的。

“我不知道你怎么能通过机器学习模型来捕捉到这一点。 这几乎是不可能的,“一位知情人士说。

亚马逊已经回应了团队可以用来过滤亵渎和敏感主题的工具,这些工具甚至可以发现微妙的攻击。 该公司还扫描对话的成绩单并关闭违规机器人,直到它们被修复。

亚马逊网站举办Alexa Prize的决赛,这是一项学生竞赛,旨在让Echo发言人的声音助手Alexa成为更好的沟通者,于2018年11月6日在美国华盛顿州西雅图的西雅图总部举行.REUTERS / Jeffrey Dastin

但亚马逊的普拉萨德在接受采访时表示,亚马逊无法预测每一个潜在的问题,因为敏感性会随着时间的推移而发生变化。 这意味着Alexa可以找到震撼人类听众的新方法。

他说:“我们现在主要是在这个阶段做出反应,但它仍然比去年更进步。”

杰弗里达斯汀在旧金山的报道; 由Greg Mitchell和Marla Dickerson编辑

我们的标准:
 

友情链接: © 网站地图