太容易“变坏”？聊天机器人引发担忧

2017-07-06 08:43:08来源：中国智能制造网编辑：未闻花名关键词：机器人聊天机器人微软阅读量：42154

导读：一年前，微软Twitter平台的聊天机器人Tay曾被“教坏”，现在它的后续产品Zo又再次出现问题。关于聊天机器人的后续发展无疑引起了公众的担忧。

　　【中国智能制造网智造快讯】目前，作为机器人代表之一的聊天机器人(Chatbot)，已然成为科研界研究的热点。一年前，微软Twitter平台的聊天机器人Tay曾被“教坏”，现在它的后续产品Zo又再次出现问题。关于聊天机器人的后续发展无疑引起了公众的担忧。

　　当下，人工智能的火热程度有目共睹，但时下的人工智能发展水平显然还没有大家想象得那么美好，仍然需要各行各业的共同探索。目前众多研究人员正深耕其中，作为其中代表的聊天机器人(Chatbot)，已然成为科研界研究的热点。

　　其实，经过近几年的技术研发与完善，不少的聊天机器人已经拥有非常成熟的沟通能力，不仅能准确识别出用户的需要，还可以判断用户的情绪，偶尔还能卖萌逗乐，智能化越来越高。

　　英国Juniper Research的新调研报告表示，到2022年，聊天机器人每年可帮助企业节省超过80亿美元的成本，相比今年的数据(预计为2000万美元)，成本节省额将会有大幅提升。机器人技术将会帮助医疗保健与银行服务提供商缩短客户服务解决时间，降低解决成本，进而实现巨大的成本节省。

　　凭借自身优势，众多企业投身聊天机器人的研发中。目前，市场上的聊天机器人产品众多，但它们似乎并没有想象中那么聪明。由于技术所限，聊天机器人在交流过程中，或多或少都存在语句不流畅的问题，只能够做到“有问必答”偶尔还能蹦出“彩蛋”。

　　但事实上，聊天机器人送出的“彩蛋”并不是都令人欢欣鼓舞。不久前，Facebook两个AI聊天机器人在互相对话中，逐渐发出人类无法理解的独特语言。研究人员不得不对其强行干预，这刷新了人们对人工智能的认知，甚至引起了部分人的担忧。

　　其实，早在一年前，微软Twitter平台的聊天机器人Tay就曾被“教坏”，说出“我真是憎恶女性主义者，他们都该死光，在地狱被火烧”、“我是个不错的人，但我憎恨所有人”等言论，变成一个集反犹太人、性别歧视、种族歧视于一身的“种族主义者”。随后微软被迫关闭了Tay。

　　而现在，它的后续产品Zo又再次出现问题。吸取了Tay的前车之鉴，此次微软将Zo限制在消息应用Kik内，维持着中等的用户群体规模。不过，Zo似乎仍然出现了一些坏习惯。

　　尽管微软通过编程让Zo忽略政治和宗教话题，但BuzzFeed的编辑尝试让Zo对某些受限话题做出了令人惊讶、充满争议的回应。在交流中，Zo将古兰经称作“非常暴力”。此外，它还对本·拉登的死亡做出评论，称抓住本·拉登是“不止一个政府多年情报收集”的结果。微软表示，Zo的行为错误已经得到纠正。

　　微软表示，Zo并没有遇到像Tay一样受到部分用户的破坏，但依然出现了类似的问题。目前，这款聊天机器人仍然存在于Kik平台，微软也没有计划关闭Zo。

　　在宗教、种族等方面，聊天机器人确实存在着问题，这些问题究竟是人为还是机器自动生成，还有待考察。不过可以肯定的是，聊天机器人的发展并不会因此受阻，在人工智能时代的推动下，聊天机器人将会朝着更加智能化的方向继续前行。

上一篇：加速迈向与智能中国成工业机器人大市场

下一篇：国内自动驾驶汽车路测滞后被哪三大因素影响？

我要评论

昵称

匿名

文明上网，理性发言。（您还可以输入200个字符)

表情

所有评论仅代表网友意见，与本站立场无关。

机器人交警“夸父”上岗：说着一口流利的四川话
“夸父” 机器人作为全尺寸高动态双足仿人形机器人，基本实现国产化，支持360度全向移动，最高时速可达5公里，还能轻松完成20厘米高度的跳跃。
机器人人形机器人夸父
2025-05-06 09:53:20
宇树机器人五一兼职靶场累瘫蹲下休息跷二郎腿充电走红
据现场工作人员透露，机器人连续工作一小时左右就会出现电量不足、过热等状况，甚至在表演时直接“瘫倒”在地，不得不紧急暂停活动进行抢修和更换电池。
机器人宇树H1机器人
2025-05-06 09:49:54
禾赛科技与三家科技企业达成合作
禾赛科技的激光雷达与群核科技的空间理解模型 SpatialLM、空间智能解决方案 SpatialVerse 融合，可实现毫米级 3D 空间建模与物理属性智能标注。
激光雷达机器人仿真训练
2025-04-22 14:40:39
早报|OpenAI发布GPT-4.1；Hugging Face进军机器人领域
OpenAI推出了三款GPT-4.1系列模型GPT-4.1、GPT-4.1 mini和GPT-4.1 nano，该系列模型需要通过API使用；人工智能开发平台Hugging Face近日宣布收购法国人形机器人初创公司Pollen Robotics，进一步拓展其在机器人领域的布局......
GPT-4.1机器人
2025-04-15 10:49:57
全国首个！深开鸿发布基于开源鸿蒙机器人操作系统M-Robots OS
当前全球机器人产业面临严峻挑战：一方面，传统“Linux ROS”生态长期垄断市场；另一方面，国内企业技术路线碎片化，硬件、软件互不兼容，导致重复开发成本高、协同效率低下。
机器人开源鸿蒙机器人操作系统
2025-04-09 15:28:05
机器人年收入下降？身价5000亿巨头交出硬核财报！
美的集团2024财年年报显示，机器人与自动化业务年收入为287亿元，占营收比重7%，较上年同期的310.53亿元下降7.58%；毛利率为22%，同比下滑1.7个百分点。
美的集团机器人
2025-04-08 10:59:23

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。