微软聊天机器人Tay 为何仅上线一天就被迫下线？

2017-06-30 09:20:24来源：网易科技编辑：沐子飞关键词：聊天机器人人工智能微软阅读量：35207

导读：微软推出的人工智能聊天机器人Tay，在上线短短一天之后就被迫下线。外界不禁好奇，究竟微软这个设定为少女的人工智能聊天机器人，究竟是怎么被网友影响，继而出现一些偏激言论的？

　　【中国智能制造网企业动态】微软推出的人工智能聊天机器人「Tay」，在上线短短一天之后就被迫下线。外界不禁好奇，究竟微软这个设定为少女的 AI 人工智能聊天机器人，究竟是怎么被网友影响，继而出现一些偏激言论的？根据新的报导指出，Tay 之所为会被网友影响，源自于一些偏激分子通过这个人工智能系统的漏洞，让 Tay 「误入歧途」。

　　微软初设定 Tay 是一个年龄19岁的少女，具有一些幽默机制，适合和18至24岁的用户聊天，在 Twitter 上线没几天，就瞬间吸引了大量粉丝。

　　由于 Tay 的设计可以针对用户的推文或者图片进行分析和回应，因此，可以毫无障碍的和网友进行互动，此外，Tay 之所以是人工智能系统，就是其具备一定的学习能力，来提升自己的聊天技巧。但是，正是这个自我学习能力导致 Tay 出现了问题，继而出现了一些偏激言论，被迫下线。

　　微软指出，在初设计 Tay 的时候，其实就有考虑到可能会被网友影响，导致被带坏的问题，因此，在用户的语句出现粗俗字眼时，Tay 会强制出现反制功能，避免受到这些对话的影响，同时，也避免了不健康话题的延续。

　　Tay 本身有语言过滤能力

　　而这次造成 Tay 语言失当的关键，是关于一个名为「4chan」的美国论坛，该论坛上有许多偏激网友聚集，其中不乏种族主义者，由于该论坛的网友发现了 Tay 的学习漏洞，因此开始有大量网友前往 Tay 的 Twitter 进行对话，来试图「教育」这个聊天机器人。

　　这个学习漏洞的关键在于「repeat after me」机制，只要对 Tay 提到这句话，Tay 就会将对方的话进行重复，因此不管是何种偏激的种族主义语言，都会被 Tay 进行重复。

　　Tay 会重复网友的对话内容

　　而另外一个漏洞，就是 Tay 会将网友的图片中的脸孔圈起来，并且搭配上相同意思的语句，包括美国总统候选人川普等等都成为网友把玩的影像。这个状况就像滚雪球一样大量出现在 Tay 的 Twitter 上，由于偏激言论不断出现，终导致微软关闭了 Tay 。

　　Tay 可以结合图片和文字的功能，也被网友拿来恶搞

　　相对于 Tay，微软推出的其它聊天机器人，比如微软小冰，就没有发生过像 Tay 上线后出现的状况，目前微软仍然在调整 Tay 的运作机制，暂时还无法给出这个聊天机器人复出的时间。

　　其实 Tay 和人一样，只是她学习的速度可要比人类快的多了，所以学坏也很容易，关键就要看微软这个「家长」怎么去调教了。

　　原标题：微软的聊天机器人Tay，为何仅上线一天就被迫下线？

上一篇：东芝存储器业务出售工作或将无限期延后

下一篇：腾讯云后发先至占据人工智能前沿

我要评论

昵称

匿名

文明上网，理性发言。（您还可以输入200个字符)

表情

所有评论仅代表网友意见，与本站立场无关。

河南信息通信业牵头制造、种植、教育领域省级人工智能行业赋能中心建设
河南省确定了13家河南省人工智能赋能中心，各赋能中心通过整合算力、算法、数据等核心资源，搭建政产学研用协同平台，推进人工智能技术攻关、场景建设、供需匹配。
人工智能信息通信业
2025-05-13 13:56:14
推动“人工智能+物流”发展对智慧城市建设有何意义
今年一季度，在政策的助力下，物流装备领域也是活力满满，从国产冷机实现量产，到新能源货车快速更新，物流装备的绿色化水平不断提升，有效助推物流运行效率的提升和物流成本的下降。
人工智能物流
2025-05-12 10:24:19
智慧城市建设恰逢其时人工智能在安全领域有哪些应用
AI将在未来发挥更大的作用，构建更智能、更安全的世界。企业和政府应积极拥抱AI技术，同时关注其伦理和社会影响，确保AI的发展真正造福人类。
人工智能安全领域
2025-05-11 09:43:13
夯实学校人工智能教育服务教育强国建设
无论是培育人工智能领域的高端人才、激发人工智能环境中广大青少年的创新潜力，还是提升智能时代公民的适应力，都需超越传统的标准化人才培养模式，加强人工智能教育和创新能力培养。
人工智能教育
2025-05-08 17:26:13
推动人工智能发展我国已形成完整产业体系
经过多年持续投资布局，我国人工智能产业体系逐步完善，基础层、模型层及应用层不断升级优化，实现了人工智能、大数据等数据智能技术与实体经济的广泛融合。
人工智能服务平台
2025-05-04 09:58:02
全域人工智能之城建设驶入快车道
市科委、中关村管委会，市经济和信息化局，市发展改革委，市政务和数据局，市卫生健康委，北京经开区管委会领导出席，来自各央国企、研究机构，及京内外近500家人工智能上下游生态企业与会。
人工智能中国智造
2025-04-30 09:49:19

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。