正在阅读:人工智能将毁灭人类?专家建议采取措施防备背叛

人工智能将毁灭人类?专家建议采取措施防备背叛

2017-06-09 11:36:26来源:中国智能制造网 编辑:半城明灭 关键词:人工智能机器人马斯克阅读量:48148

导读:计算机专家拉塞尔建议,人类必须要在机器人内部预置不确定性,以防备它们的背叛。
  【中国智能制造网 智造快讯】随着人工智能的发展,其对于就业等方面的影响正受到越来越大的关注,甚至于未来可能会引起人类末日危机的讨论也愈发激烈。对此,计算机专家拉塞尔建议,人类必须要在机器人内部预置不确定性,以防备它们的背叛。
 
  随着人工智能的发展,越来越多的科学家及科技精英开始担忧人工智能会给人类带来各种难以预计的影响,甚至可能是灾难。
 
  近日,特斯拉总裁兼SpaceX公司CEO埃隆·马斯克在推特上转发了一项研究,研究声称人工智能在2060年前会在所有任务的完成上超越人类。而马斯克认为这种转变会比科学家所认为的出现得更早,因为人工智能的水准正加速发展。他警告道,人工智能超越人类的那一天比近研究所预计的要早几十年,这是因为人工智能的发展是呈指数性上升的,而不是线性上升的。
 
  近几年,马斯克对人工智能的发展明确地表明了自己的态度。尽管他对促进这一科技的发展做出了巨大贡献,马斯克一直以来都警告说人类所建造的机器有一天可能会导致自身的毁灭。
 
  除了马斯克外,物理学家史蒂芬·霍金对于人工智能危机也不断提出警告。今年3月8日,史蒂芬·霍金向英国《独立报》表示,人类必须建立有效机制尽早识别威胁所在,防止新科技(人工智能)对人类带来的威胁进一步上升。霍金警告,未来人工智能可能会以生化战争或核子战争的方式摧毁人类。
 
  其实,早在2015年9月,霍金就发出过类似的警告:聪明能干的人工智能会让人类灭亡。霍金表示:一个超级聪明的人工智能可以非常好地实现它的目标,如果这些目标没有与我们人类一致,我们人类就麻烦了。
 
  而在GMIC 2017首日的峰会上,史蒂芬·霍金再次谈到了他对于当前人工智能技术发展的认识,他说“人工智能的成功有可能是人类文明史上大的事件, 但是人工智能也有可能是人类文明史的终结,除非我们学会如何避免危险。”
 
  即使把人工智能所带来的影响回归现实,放眼于短期未来,就业也成为业内主要的担忧。Microsoft和Facebook是美国乃至都非常成功的科技公司,近两位公司创始人Bill Gates和Mark Zuckerberg对未来美国的就业发出了同样的担忧。
 
  扎克伯格在哈佛的演讲中说到:“我们这一代人是非常艰难的,未来将会有数以百万计的工作被人工智能取代,比如无人驾驶汽车、卡车等等。我们父母毕业时,他们的目标是找到工作,但是今天,人工智能导致许多工作小时,社区成员之间的关系也渐渐变淡,许多年轻人感到沮丧。”
 
  此前早些时候,比尔·盖茨也表达了同样的担忧。盖茨在Twitter连发了14条推文,给将要毕业的大学生一系列建议。主要强调,未来人工智能的影响将覆盖社会的方方面面。建议毕业生从事和AI相关的职业。
 
  根据Forrester Research的数据,未来10年机器人将取代1500万工作岗位,相当于美国就业市场的10%。正如盖茨所说的,现在的人工智能和自动化领域就像是上世纪80年代的电脑,10年前的社交媒体。
 
  对于人工智能和可能给人类带来的“末日”危机,计算机专家斯图尔特·拉塞尔警告称,人类制造出的事物(人工智能)将可能进化得比人类更聪明。拉塞尔建议,人类必须要在机器人内部预置不确定性,以防备它们的背叛。
 
  拉塞尔解释说,虽然他本人也支持人工智能的研究,但总感觉制造出一种比自身物种更为聪明的事物并不一定是好事情。拉塞尔建议,为了防止机器人接管我们人类,我们必须制造出无私心的机器人,即在它们的目标任务中存在一定程序的不确定性,应该教会它们人类价值观方面的知识。通过向人工智能系统中灌输“人类常识”,科学家必须重新定义人工智能,这样我们才能制造出有益的机器。
我要评论
  • 2027中国—东盟AI合作年:智能经济落地,区域协同破题

    中国与东盟将2027年定为“人工智能合作年”。2027年被赋予特殊权重,是因为多个层面的政策目标和产业拐点在这一年集中交汇。国务院《关于深入实施“人工智能+”行动的意见》将2027年的刻度定为新一代智能终端和智能体应用普及率超过70%。
    人工智能具身智能智能体
    2026-11-16 14:59:12
  • 硬科技融资潮:机器人、AI芯片多项目拿到数亿元融资

    近期,全球AI基础设施、半导体芯片、具身智能机器人、量子计算、AI药物研发等赛道迎来一波密集融资,国内多家硅光芯片、空间感知芯片、端侧机器人芯片、超导量子计算、传感器厂商相继完成亿元级融资,海外机器人企业、储能型模块化AI数据中心公司也落地大额融资。
    机器人AI芯片
    2026-11-18 10:21:50
  • 福建省将推进“人工智能+”生态治理行动 构建省生态环境与绿色低碳行业大模型

    《福建省推动“人工智能+”行动方案(2026—2028年)》近日印发,将构建省生态环境与绿色低碳行业大模型,建设不少于10个应用场景。
    人工智能环保应用方案
    2026-11-17 11:55:50
  • 中国信通院联合发起可信具身智能倡议

    作为人工智能与机器人深度融合的软硬一体系统,具身智能进入物理世界后,将直接影响周围人、物和环境,复杂开放的环境也对系统稳定运行提出了更高要求。
    具身智能人工智能
    2026-11-17 11:29:10
  • 浙江省机器人产业发展协会第二届会员大会第三次会议顺利召开

    11月16日下午,浙江省机器人产业发展协会第二届会员大会第三次会议顺利召开。
    机器人
    2026-11-17 10:08:37
  • 投资6个亿!年产1000万套机器人轴承生产线在南京开工

    南京光力精工有限公司年产1000万套机器人轴承生产线项目近日在南京溧水区正式开工建设。这是溧水近期落地的又一个机器人及高端装备制造项目,也折射出核心零部件环节持续升温的产业节奏。项目投产后,年销售收入有望突破3亿元,产品将面向工业机器人、高端机床等下游行业,匹配相关领域对高精度通用设备零部件的市场需求。
    机器人机器人配件轴承
    2026-11-17 10:04:41
版权与免责声明:

凡本站注明“来源:智能制造网”的所有作品,均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品,未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:智能制造网”。违反上述声明者,本站将追究其相关法律责任。

本站转载并注明自其它来源(非智能制造网)的作品,目的在于传递更多信息,并不代表本站赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时,必须保留本站注明的作品第一来源,并自负版权等法律责任。如擅自篡改为“稿件来源:智能制造网”,本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多,如涉及作品内容、版权等问题,请与本站联系并提供相关证明材料:联系电话:0571-89719789;邮箱:1271141964@qq.com。

不想错过行业资讯?

订阅 智能制造网APP

一键筛选来订阅

信息更丰富

推荐产品/PRODUCT 更多
智造商城:

PLC工控机嵌入式系统工业以太网工业软件金属加工机械包装机械工程机械仓储物流环保设备化工设备分析仪器工业机器人3D打印设备生物识别传感器电机电线电缆输配电设备电子元器件更多

我要投稿
  • 投稿请发送邮件至:(邮件标题请备注“投稿”)1271141964.qq.com
  • 联系电话0571-89719789
工业4.0时代智能制造领域“互联网+”服务平台
智能制造网APP

功能丰富 实时交流

智能制造网小程序

订阅获取更多服务

微信公众号

关注我们

抖音

智能制造网

抖音号:gkzhan

打开抖音 搜索页扫一扫

视频号

智能制造网

公众号:智能制造网

打开微信扫码关注视频号

快手

智能制造网

快手ID:gkzhan2006

打开快手 扫一扫关注
意见反馈
我要投稿
我知道了