正在阅读:拉塞尔:应在机器人内部预置不确定性以防备背叛

拉塞尔:应在机器人内部预置不确定性以防备背叛

2017-05-03 09:11:44来源:新浪科技 编辑:一不做 关键词:机器人人工智能机器人编程阅读量:32919

导读:随着人工智能的发展,越来越多的科学家开始担忧人工智能会给人类带来各种难以预计的影响,拉塞尔建议,人类必须要在机器人内部预置不确定性,以防备它们的背叛。
  【中国智能制造网 智造快讯】随着人工智能的发展,越来越多的科学家开始担忧人工智能会给人类带来各种难以预计的影响,拉塞尔建议,人类必须要在机器人内部预置不确定性,以防备它们的背叛。


拉塞尔:应在机器人内部预置不确定性以防备背叛

 
  据国外媒体报道,随着人工智能的发展,越来越多的科学家开始担忧人工智能会给人类带来各种难以预计的影响,甚至可能是灾难。在近日开幕的“TED2017”大会上,计算机专家斯图尔特-拉塞尔再次发出警告称,人类制造出的事物(人工智能)将可能进化得比人类更聪明。拉塞尔建议,人类必须要在机器人内部预置不确定性,以防备它们的背叛。
 
  美国加州大学伯克利分校计算机教授斯图尔特-拉塞尔解释说,虽然他本人也支持人工智能的研究,但总感觉制造出一种比自身物种更为聪明的事物并不一定是好事情。拉塞尔建议,为了防止机器人接管我们人类,我们必须制造出无私心的机器人,即在它们的目标任务中存在一定程序的不确定性,应该教会它们人类价值观方面的知识。通过向人工智能系统中灌输“人类常识”,科学家必须重新定义人工智能,这样我们才能制造出有益的机器。
 
  拉塞尔表示,机器人应该按照某种法则或定律去编程,就比如科幻作家艾萨克-阿西莫夫提出的机器人三定律,以防止它们在执行任务时造成无意识的伤害。艾萨克-阿西莫夫所提出的机器人三定律主要内容包括:1)机器人不得伤害人类,或因袖手旁观使人类受到伤害;2)在不违背定律的前提下,机器人必须服从人类的命令;3)在不违背及第二定律的前提下,机器人必须保护自己。因此,在为机器人编程时,就必须将利他主义、谦虚谨慎的态度以及其它一些人类价值观方面的优越性编写进去。拉塞尔认为,“这是人类与人工智能互相适应、和谐相处的步。”
 
  不过,苹果Siri研发主管汤姆-格鲁伯对人类和人工智能的未来抱有较为乐观的态度。他认为,人工智能将可用于增强人类的忘记力,让人类不再会忘记任何事情。格鲁伯表示,“人工智能所带来的超人能力是不可避免的,这能够让我们记住每个人的名字,记住听过的每一首歌或者看过的任何事物。人工智能能够与人类协作,而不是许多人所担心的对抗,它们能够帮助我们人类战胜极限。如何利用这一强大的科学技术,我们有自己的选择。我们既可以让它们与我们竞争,也可以让它们与我们协作。它们只会让我们克服局限,做得更好。机器人变得越来越聪明,我们人类也会更加聪明。”
 
  (原标题:人工智能专家建议向机器人灌输人类价值观以防背叛)
我要评论
版权与免责声明:

凡本站注明“来源:智能制造网”的所有作品,均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品,未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:智能制造网”。违反上述声明者,本站将追究其相关法律责任。

本站转载并注明自其它来源(非智能制造网)的作品,目的在于传递更多信息,并不代表本站赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时,必须保留本站注明的作品第一来源,并自负版权等法律责任。如擅自篡改为“稿件来源:智能制造网”,本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多,如涉及作品内容、版权等问题,请与本站联系并提供相关证明材料:联系电话:0571-89719789;邮箱:1271141964@qq.com。

不想错过行业资讯?

订阅 智能制造网APP

一键筛选来订阅

信息更丰富

推荐产品/PRODUCT 更多
智造商城:

PLC工控机嵌入式系统工业以太网工业软件金属加工机械包装机械工程机械仓储物流环保设备化工设备分析仪器工业机器人3D打印设备生物识别传感器电机电线电缆输配电设备电子元器件更多

我要投稿
  • 投稿请发送邮件至:(邮件标题请备注“投稿”)1271141964.qq.com
  • 联系电话0571-89719789
工业4.0时代智能制造领域“互联网+”服务平台
智能制造网APP

功能丰富 实时交流

智能制造网小程序

订阅获取更多服务

微信公众号

关注我们

抖音

智能制造网

抖音号:gkzhan

打开抖音 搜索页扫一扫

视频号

智能制造网

公众号:智能制造网

打开微信扫码关注视频号

快手

智能制造网

快手ID:gkzhan2006

打开快手 扫一扫关注
意见反馈
我要投稿
我知道了