详解历史上三大人工智能失败案例
//www.uphiu.com.cn 物联中国
日期:2017-08-01 08:02:31来源:51cto 点击:1338
核心提示:尽管今天提到的大多数事故与AI本身并无直接联系,但却或多或少有AI因素涉及其中。随着AI技术的不断改进,我们必须对代表着我们判断方式的算法拥有充分的信心,因为在未来的实际应用中,算法有可能需要对复杂变量进行决策,甚至决定着人类生命财产能否安全无忧。下面,我们共同关注史上曾经出现的几个AI失败案例。T...

重庆时时彩龙虎和漏洞 www.uphiu.com.cn 尽管今天提到的大多数事故与AI本身并无直接联系,但却或多或少有AI因素涉及其中。随着AI技术的不断改进,我们必须对代表着我们判断方式的算法拥有充分的信心,因为在未来的实际应用中,算法有可能需要对复杂变量进行决策,甚至决定着人类生命财产能否安全无忧。

    下面,我们共同关注史上曾经出现的几个AI失败案例。

详解历史上三大人工智能失败案例

    Tay——微软的聊天机器人

    过去一年中,公认的一大AI失败案例正是微软Tay:“微软技术研究部与必应团队共同开发的聊天机器人,旨在实验对话交流内容的理解能力。Tay通过轻松愉快的对话与人类用户进行接触。Tay进行过的聊天越多,其智能程度就越高,并可为您带来更具个性化的使用体验?!?/p>

    Tay属于我们在自然语言理解(简称NLU)领域的一次尝试。其学习算法负责阅读、解释并适应用户提供的书面内容。其目标在于以个性化方式实现人机交互,这也正是众多技术巨头希望实现的关键性战略提升。与电影《她》中的假想类似,微软希望让Tay拥有与人相近的交流能力。在技术领域,商业成功通常经由三种方式实现:收购、参与与转换??梢钥吹?,微软的思路是提供完整的个性化体验,确保其能够通过严格的图灵测试,并重新定义我们的参与途径。

    但是,当Tay开始和人类聊天后,不到24小时,她就被“教坏”了,成为一个集反犹太人、性别歧视、种族歧视于一身的“不良少女”。

    Alexa错将色情内容提供给儿童

    通过相关视频可以看到,儿童用户要求Alexa“玩‘挖金子’”,但Alexa的回应却是“您希望收听色情内容……热辣的小妞与素人美女……”(注:挖金子游戏一词与女性卖春者相同。)虽然有人认为问题不在AI身上,而是语音命令出了问题。这种说法有一定道理,但可以肯定的是,Alexa本身应当拥有通过机器学习区分语境的能力。

    Inspirobot提供荒谬的建议

    InspiroBot的设计初衷在于提供用户感兴趣的每日格言。然而颇为讽刺的是,其往往无法带来能够让我们的一天充满活力的正能量言论——甚至有可能以黑色幽默的方式令人陷入低落。

为何失败

    答案可以归纳为三个方面——准确度、情景与训练。

    准确度

    AI技术几乎能够在一切行业当中带来实效。然而与反欺诈或者其它一些目标更为明确的场景相比,Tay的失败主要源自其准确度的缺失。除了语法正确的交互能力之外,聊天机器人需要提供明确定义参数之外的其它回应。由于实际用户所提供的回应同Tay在实验中所接触过的词汇及语法有所区别,因此很难提供一致且准确的交互结果。

    情景

    对于这里提到的三个AI案例乃至其它各类AI方案,情景认知仍是一大严峻挑战。具体来说,如果大家与Tay聊天、向Alexa咨询意见或者从InspiroBot处寻求激励,那么用户的时间、地点、情感、天气、身份、职位等因素都会影响到您对于所提供结果的解读与评价。

    Tay显然未能充分理解会话中的情景,因为它的训练与交互未能考虑到多种多样的情景因素。虽然能够识别词汇并在一定程度上建立一致性响应,但却无法理解在特定背景下的含义与重要度。

    同样的,InspiroBot同样遭遇失败。尽管其努力提供丰富且具有通用性的建议,但却缺乏对相关内容的理解、意义的把握以及潜在解释的认知。

    训练

    大家可能都听说过,“进来的是垃圾,出去的也只能是垃圾”。Tay并非在内部受控环境下进行训练,而是被发布至世界范围,通过与公众交互进行学习。然而在24小时之内,技术精湛的社区(特别是4chan与8chan)明显认为向学习算法提供有问题的内容更加有趣。不用说,他们成功毁掉了Tay这位AI领域的未成年人。

    在Alexa方面,情况则有所不同。通过语音命令触发适当响应,并通过训练以了解词汇、语法、音调、语调、节奏、重音以及发音方式的意义。然而,这种将过多因素考虑进来的作法本身令错误边界快速扩大,并最终导致失败。通过进一步训练,Alexa应该能够学会如何识别儿童的声音,并在必要时提示进行家长控制。

    另外,InspiroBot则可尝试使用较少的单词、句型模板以及经过验证的积极词汇,从而更轻松地提供真正具有激励效果的表达。然而,这种作法本身与AI设计目标有所冲突——大量参数过滤机制的存在并不利于机器学习的发展。

    拥抱失败

    失败是成功之母,而我们也应当以宽容的心态接受上述AI失败案例。事实上,对于真正相信并期待着AI技术获得成功的朋友,大家应当分享、讨论、分析并尝试解决这些失败难题。您对于哪些现有AI方案感到失望?不妨在评论中聊上一聊。


出处:51cto
郑重声明:本文仅代表作者个人观点,与物联中国(重庆时时彩龙虎和漏洞 www.uphiu.com.cn)无关。其原创性以及文中陈述文字和内容未经本站证实,对本文以及其中全部或者部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。
分享到:
延伸阅读
  • 资讯
  • 产业
  • 服务
  • 应用
  • 武汉市武昌区:打造“红色业委会”化解纠纷促和谐 2018-12-12
  • 营养-热门标签-华商生活 2018-12-11
  • 马拉维“红旗飘飘”十年间,中国工程印上了当地纸币 2018-12-11
  • 市委宣传部纪检组为扶贫提供坚强纪律保障 2018-12-10
  • 【理上网来·喜迎十九大】这五年,全面从严治党交出靓丽“赶考”答卷 2018-12-10
  • 健康饮酒的“正确姿势”: 酒可袪寒 饮前半饱更健康饮酒 酒精 2018-12-09
  • 消费提醒:购买二手车 留意隐形瑕疵 2018-12-08
  • 2017年“迎春杯”足球赛正式开幕 2018-12-07
  • 这是房产私有化的结果,如果没有房产私有化,人们就不会买房、炒房,从而也就不会产生目前诸多房地产乱象。 2018-12-07
  • 陕西守艺人丨传承自父亲的老油坊,是我人生的希望之光 2018-12-06
  • 江西省能源集团公司党委副书记胡运生等2人被调查 2018-12-06
  • 商务部回应中美经贸问题:中方谈判的大门始终是敞开的 2018-12-05
  • 泰晤士2018年大学排名出炉 国内大学上升明显 2018-12-05
  • 陕西国资经营公司来访省国资运营公司 2018-12-04
  • 在营造优质环境上下功夫 2018-12-03
  • 350| 884| 155| 828| 373| 906| 500| 702| 128| 256|