正在阅读:机器人将控制人类?为时尚早但仍需警惕

机器人将控制人类?为时尚早但仍需警惕

2017-06-12 10:48:09来源:中国智能制造网 编辑:未闻花名 关键词:机器人索菲亚人工智能阅读量:42551

导读:随着人工智能的不断发展,机器人愈发智能化,当前我们所面对的或许已经不仅仅是机器人带来的失业,甚至还面临着被机器人控制的危险。
  【中国智能制造网 智造快讯】机器人表示被人类控制很难过?机器人过度“自信”后,阻止人类将其关闭?随着人工智能的不断发展,机器人愈发智能化,当前我们所面对的或许已经不仅仅是机器人带来的失业,甚至还面临着被机器人控制的危险。
 
  6月9号,在瑞士日内瓦“人工智能造福人类峰会”上,一位口才出众的智能机器少女—索菲亚成为了全场的焦点。当被问及“当机器人累吗?因为你时刻被人类控制”的时候,她竟然明确的告诉人类,被人类控制很难过。
 
  当然,机器人的回答是否被提前设计过,我们不得而知。但如果完全是临场发挥,那这一问题似乎看起来并不是那么简单了。就如青少年在不愿被家长左右思想的时候,他们会做出什么反应?无疑是叛逆。那么,机器人不愿受人类控制的时候,将会是怎么样的表现?
 
  Matt Reynolds近期在New Scientist网站上发表了一篇名为“Robots will be more useful if they are made to lack confidence”的文章。文章介绍了近的一项实验,科学家把 AI 赋予充分的自信之后,AI 会认为自己做的才是对的,进而会阻止人类关掉自己。
 
  加利福尼亚大学伯利克团队曾做过一个实验,为了探索计算机的“自信”,设计了一个人与机器之间相互作用的数学模型,称之为“开关游戏”。当机器人被设定为高度“自信”模式时,它们认为它们所做的都是有用的,这会使得它们永远也不会让人们把它关掉,因为它们试图的完成任务。
 
  其实,机器人控制人类的传言已经流传了很长一段时间。早在2015年Zeitgeist大会上,科学家史蒂芬·霍金(Stephen Hawking)就发出警告——未来100年内,人工智能将比人类更为聪明,机器人将控制人类。
 
  霍金宣称,现在不是担心谁控制人工智能的时候,而应该担心人工智能是否能被完全控制住。未来100年中,人类将面临比人类更聪明的人工智能的挑战。霍金此前也曾发出警告,他称人工智能可能终结人类。
 
  此外,特斯拉CEO伊隆·马斯克(Elon Musk)也曾与霍金共同发表过公开信,他们认为人工智能的发展应该受到控制。信中称,如果智能机器无法保障安全,人类可能陷入黑暗的未来。
 
  来自牛津大学的Marta Kwiatkowska认为,那些拒绝让人类关闭的自动操作系统听起来可能有些牵强,但是这样的考虑应该是制造在人们身边工作的这类机器人时所必须具备的。她同样认为,在建造无人驾驶汽车、消防机器人时,都要求为人类的安全考虑,因此,对于这些伦理框架的决策宜早不宜迟。
 
  但另一方面,人类也不必妄自菲薄,如今的智能机器人并非无所不能。就如日前刚刚击败围棋高手的阿尔法狗而言,目前阿尔法狗只能在少量领域里逞能。据科学家分析,当前市场上的大部分智能机器人智商只相当于4岁的儿童,其“常识”比正常的成年人相差甚远。
 
  美国科学家罗伯特·斯隆认为,人工智能的难题之一,就是开发出一种能实时做出判断的计算机软件。尽管机器人在工作强度、运算速度和记忆功能方面可以超越人类,但在意识、推理等方面都不可能超越人类。
我要评论
  • 2027中国—东盟AI合作年:智能经济落地,区域协同破题

    中国与东盟将2027年定为“人工智能合作年”。2027年被赋予特殊权重,是因为多个层面的政策目标和产业拐点在这一年集中交汇。国务院《关于深入实施“人工智能+”行动的意见》将2027年的刻度定为新一代智能终端和智能体应用普及率超过70%。
    人工智能具身智能智能体
    2026-11-16 14:59:12
  • 中国信通院联合发起可信具身智能倡议

    作为人工智能与机器人深度融合的软硬一体系统,具身智能进入物理世界后,将直接影响周围人、物和环境,复杂开放的环境也对系统稳定运行提出了更高要求。
    具身智能人工智能
    2026-11-17 11:29:10
  • 中国信通院孙强等:从单点智能到群体协作,多智能体协同打开产业应用新空间

    当前,我国正在推进智能体规范应用、互联标准和典型场景建设,加快多智能体协同技术与产业需求深度融合,对深入实施“人工智能+”行动、培育智能经济新形态具有重要意义。
    智能体人工智能
    2026-11-17 09:00:06
  • 投资6个亿!年产1000万套机器人轴承生产线在南京开工

    南京光力精工有限公司年产1000万套机器人轴承生产线项目近日在南京溧水区正式开工建设。这是溧水近期落地的又一个机器人及高端装备制造项目,也折射出核心零部件环节持续升温的产业节奏。项目投产后,年销售收入有望突破3亿元,产品将面向工业机器人、高端机床等下游行业,匹配相关领域对高精度通用设备零部件的市场需求。
    机器人机器人配件轴承
    2026-11-17 10:04:41
  • 硬科技融资潮:机器人、AI芯片多项目拿到数亿元融资

    近期,全球AI基础设施、半导体芯片、具身智能机器人、量子计算、AI药物研发等赛道迎来一波密集融资,国内多家硅光芯片、空间感知芯片、端侧机器人芯片、超导量子计算、传感器厂商相继完成亿元级融资,海外机器人企业、储能型模块化AI数据中心公司也落地大额融资。
    机器人AI芯片
    2026-11-18 10:21:50
  • 福建省将推进“人工智能+”生态治理行动 构建省生态环境与绿色低碳行业大模型

    《福建省推动“人工智能+”行动方案(2026—2028年)》近日印发,将构建省生态环境与绿色低碳行业大模型,建设不少于10个应用场景。
    人工智能环保应用方案
    2026-11-17 11:55:50
版权与免责声明:

凡本站注明“来源:智能制造网”的所有作品,均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品,未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:智能制造网”。违反上述声明者,本站将追究其相关法律责任。

本站转载并注明自其它来源(非智能制造网)的作品,目的在于传递更多信息,并不代表本站赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时,必须保留本站注明的作品第一来源,并自负版权等法律责任。如擅自篡改为“稿件来源:智能制造网”,本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多,如涉及作品内容、版权等问题,请与本站联系并提供相关证明材料:联系电话:0571-89719789;邮箱:1271141964@qq.com。

不想错过行业资讯?

订阅 智能制造网APP

一键筛选来订阅

信息更丰富

推荐产品/PRODUCT 更多
智造商城:

PLC工控机嵌入式系统工业以太网工业软件金属加工机械包装机械工程机械仓储物流环保设备化工设备分析仪器工业机器人3D打印设备生物识别传感器电机电线电缆输配电设备电子元器件更多

我要投稿
  • 投稿请发送邮件至:(邮件标题请备注“投稿”)1271141964.qq.com
  • 联系电话0571-89719789
工业4.0时代智能制造领域“互联网+”服务平台
智能制造网APP

功能丰富 实时交流

智能制造网小程序

订阅获取更多服务

微信公众号

关注我们

抖音

智能制造网

抖音号:gkzhan

打开抖音 搜索页扫一扫

视频号

智能制造网

公众号:智能制造网

打开微信扫码关注视频号

快手

智能制造网

快手ID:gkzhan2006

打开快手 扫一扫关注
意见反馈
我要投稿
我知道了