正在阅读:以人为科技创新底线 发展AI首先要做好风险管控

以人为科技创新底线 发展AI首先要做好风险管控

2016-08-01 15:30:29来源:中国甘肃网 原标题:科技创新应树立底线思维——以人工智能发展为例 关键词:人工智能机器人智能控制阅读量:30743

导读:我们可以从近期威胁、远期威胁和威胁三个层面来分析无限制发展人工智能可能带来的后果,为思考人工智能问题提供一种视角。
  【中国智能制造网 名家论坛】近,“人机大战”引起世人关注,人工智能发展引发的忧虑和争论开始从学术圈进入公众视野。要将这些思考引向深入,而不是停留于盲目乐观或意气用事上,就需要拓宽视阈、厘清思路,特别是要善用底线思维来把握问题。我们可以从近期威胁、远期威胁和威胁三个层面来分析无限制发展人工智能可能带来的后果,为思考人工智能问题提供一种视角。
  
  以人为科技创新底线 发展AI首先要做好风险管控
  
  近期威胁的一个表现是人工智能开始大批量取代蓝领工人和下层白领。这一点在发达国家的制造业中已表现得相当明显,我国一些工厂也正在用工业人工智能取代工人。从经济效益角度看,工业人工智能成本的下降已经使“取代”变得有利可图。蓝领工人和下层白领因为被工业人工智能取代而大批失业,当然不是社会之福。“汽车的出现没有让马车夫找不到新工作”只是以往的经验,这一次也许并非如此:大批蓝领工人和下层白领陆续失业,如果到达某个临界点,社会就有可能发生动荡。发展人工智能,必须充分考虑这一问题。
  
  近期威胁的另一个表现是军用人工智能的研发。近来,史蒂芬·霍金、比尔·盖茨和伊隆·马斯克等人共同呼吁世人警惕人工智能的盲目研发,特别要警惕军事用途人工智能的研发,认为这有可能产生比原子弹更可怕的武器。这一方面是因为军用人工智能有可能直接操控武器,一旦失控,后果难以设想;另一方面,即使没有失控,研发出这类更冷酷更的杀人武器,从根本上说也绝非人类之福。
  
  人工智能的远期威胁中,容易想到的就是它们可能的反叛。这一点很容易理解,《黑客帝国》《未来战士》等科幻影片中对此已做过大量设想。人工智能业界和一些盲目乐观的人士,经常用“人工智能还很初级”之类的说法来安慰公众,但这样的理由是站不住脚的,“老虎还小”不能成为养虎的理由。在这个问题上,“人造的东西不可能超过人”“可以为人工智能设立道德标准”之类的信念也是软弱无力的。因此,在发展人工智能时,我们对这一威胁一定要保持足够的警惕。
  
  人工智能的威胁更加发人深省。这种威胁并非建立在人工智能反叛的假定之上,而是恰恰相反。阿西莫夫为人知的是他提出的“机器人三定律”,但他另一个更重要的观点却少有人注意:所有依赖人工智能的文明都终将灭亡。他给出的理由之一是:“一个完全依赖机器人的社会,由于极度单调无趣,或者说得更玄一点,失去了生存的意志,终究会变得孱弱、衰颓、没落而奄奄一息。”这个看法是很有见地的。
  
  这里排除了人工智能反叛人类的可能,假定人工智能如我们所希望的那样,为人类承担了越来越多的工作。但是,结果会如何呢?正如有的媒体所说的:“未来机器人,也许能胜任任何工作”。如果“任何工作”都让人工智能承担,人类是不是就会变成整天混吃等死的寄生虫呢?如果真是这样,用不了多少时间,人类的机能和智力都将迅速退化,我们的人生就将变得毫无意义,这对人类来说是一种更为可怕的威胁。
  
  不怕一万,就怕万一。凡事要从坏处做准备,努力争取好的结果。认识到人工智能有近期、远期和三重威胁,要求我们在发展人工智能时必须慎重,不应盲目。树立底线思维,正是为了“为之于未有,治之于未乱”。在人工智能发展上首先要做好风险管控,这样发展起来的人工智能才是人类之福。
我要评论
  • 2027中国—东盟AI合作年:智能经济落地,区域协同破题

    中国与东盟将2027年定为“人工智能合作年”。2027年被赋予特殊权重,是因为多个层面的政策目标和产业拐点在这一年集中交汇。国务院《关于深入实施“人工智能+”行动的意见》将2027年的刻度定为新一代智能终端和智能体应用普及率超过70%。
    人工智能具身智能智能体
    2026-11-16 14:59:12
  • 中国信通院联合发起可信具身智能倡议

    作为人工智能与机器人深度融合的软硬一体系统,具身智能进入物理世界后,将直接影响周围人、物和环境,复杂开放的环境也对系统稳定运行提出了更高要求。
    具身智能人工智能
    2026-11-17 11:29:10
  • 中国信通院孙强等:从单点智能到群体协作,多智能体协同打开产业应用新空间

    当前,我国正在推进智能体规范应用、互联标准和典型场景建设,加快多智能体协同技术与产业需求深度融合,对深入实施“人工智能+”行动、培育智能经济新形态具有重要意义。
    智能体人工智能
    2026-11-17 09:00:06
  • 投资6个亿!年产1000万套机器人轴承生产线在南京开工

    南京光力精工有限公司年产1000万套机器人轴承生产线项目近日在南京溧水区正式开工建设。这是溧水近期落地的又一个机器人及高端装备制造项目,也折射出核心零部件环节持续升温的产业节奏。项目投产后,年销售收入有望突破3亿元,产品将面向工业机器人、高端机床等下游行业,匹配相关领域对高精度通用设备零部件的市场需求。
    机器人机器人配件轴承
    2026-11-17 10:04:41
  • 硬科技融资潮:机器人、AI芯片多项目拿到数亿元融资

    近期,全球AI基础设施、半导体芯片、具身智能机器人、量子计算、AI药物研发等赛道迎来一波密集融资,国内多家硅光芯片、空间感知芯片、端侧机器人芯片、超导量子计算、传感器厂商相继完成亿元级融资,海外机器人企业、储能型模块化AI数据中心公司也落地大额融资。
    机器人AI芯片
    2026-11-18 10:21:50
  • 福建省将推进“人工智能+”生态治理行动 构建省生态环境与绿色低碳行业大模型

    《福建省推动“人工智能+”行动方案(2026—2028年)》近日印发,将构建省生态环境与绿色低碳行业大模型,建设不少于10个应用场景。
    人工智能环保应用方案
    2026-11-17 11:55:50
版权与免责声明:

凡本站注明“来源:智能制造网”的所有作品,均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品,未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:智能制造网”。违反上述声明者,本站将追究其相关法律责任。

本站转载并注明自其它来源(非智能制造网)的作品,目的在于传递更多信息,并不代表本站赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时,必须保留本站注明的作品第一来源,并自负版权等法律责任。如擅自篡改为“稿件来源:智能制造网”,本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多,如涉及作品内容、版权等问题,请与本站联系并提供相关证明材料:联系电话:0571-89719789;邮箱:1271141964@qq.com。

不想错过行业资讯?

订阅 智能制造网APP

一键筛选来订阅

信息更丰富

推荐产品/PRODUCT 更多
智造商城:

PLC工控机嵌入式系统工业以太网工业软件金属加工机械包装机械工程机械仓储物流环保设备化工设备分析仪器工业机器人3D打印设备生物识别传感器电机电线电缆输配电设备电子元器件更多

我要投稿
  • 投稿请发送邮件至:(邮件标题请备注“投稿”)1271141964.qq.com
  • 联系电话0571-89719789
工业4.0时代智能制造领域“互联网+”服务平台
智能制造网APP

功能丰富 实时交流

智能制造网小程序

订阅获取更多服务

微信公众号

关注我们

抖音

智能制造网

抖音号:gkzhan

打开抖音 搜索页扫一扫

视频号

智能制造网

公众号:智能制造网

打开微信扫码关注视频号

快手

智能制造网

快手ID:gkzhan2006

打开快手 扫一扫关注
意见反馈
我要投稿
我知道了