正在阅读:人工智能黑箱藏隐忧:如何让AI解释自身行为?

人工智能黑箱藏隐忧:如何让AI解释自身行为?

2017-04-14 16:19:47来源:cnbeta网站 编辑:齐之越 关键词:机器人人工智能AI阅读量:39851

导读:在发明AI以前,人类从未开发出创造者也无法理解其运行方式的机器。我们如何与这些不可预测、无法理解的人工智能机器交流或和睦相处呢?
  【中国智能制造网 智造快讯】虽然人类并非总是能够解释清楚自己的思维过程,但我们能找到通过直觉信任和判断某人的方法。机器也有类似人类的思维吗?此前,我们从未开发出创造者也无法理解其运行方式的机器,我们如何与这些不可预测、无法理解的人工智能机器交流或和睦相处呢? 
人工智能黑箱藏隐忧:如何让AI解释自身行为?
 
  据TechnologyReview报道,当机器人决定走特定路线前往仓库,或无人驾驶汽车决定左转或右转时,它们的人工智能算法是靠什么做出决定的?现在,AI还无法向人们解释自己做出某项决定的理由,这或许是个需要搞清楚的大问题。
 
  2016年,美国新泽西州蒙茅斯县安静的公路上出现一辆奇怪的无人驾驶汽车。这是芯片制造商英伟达的研究人员开发出的试验车,尽管它看起来与谷歌、特斯拉以及通用汽车公司研发的无人驾驶汽车没什么不同,但它展现出AI的更多力量。
 
  帮助汽车实现自动驾驶堪称是令人印象深刻的壮举,但同时也让人感觉有点儿不安,因为现在我们还不是非常清楚汽车如何作出决策。汽车传感器收集的信息被直接传给庞大的人工神经网络,后者可对数据进行处理,然后发出相应指令,指挥汽车方向盘、制动以及其他系统运行。
 
  表面看起来,它似乎能与人类驾驶员的反应相匹配。但是当其发生意外事件,比如撞上树或闯红灯时,我们可能很难从中找出原因。这些AI算法非常复杂,甚至就连设计它们的工程师都无能为力。现在我们还没有办法设计出这样的系统:它总是能够向人们解释为何要做出上述决定。
 
  这些无人驾驶汽车的“神秘意识”正指向一个与AI有关的、迫在眉睫的问题。这些汽车算法以AI技术(又被称为深度学习)为基础,近年来其已被证明是解决诸多问题的强大工具。这种技术被广泛用于图像字幕、语音识别以及语言翻译等领域。现在,同样的技术也被期望能够帮助诊断致命疾病、做出价值数百万美元的交易决策以及无数足以改变整个行业的其他事情。
 
  但是直到我们找到新的方式,能让深度学习等技术变得更容易被其创造者所理解、更容易向用户就自己的行为作出解释后,上述场景才会出现或应该出现。否则很难预测它们何时会出现故障,而且出现故障将是不可避免的。这也是英伟达无人驾驶汽车依然处于测试状态的原因之一。
 
  目前,数学模型正被用于帮助确定谁该获得假释、谁应获得贷款以及谁该求职被录用。如果你能接触到这些数字模型,很可能了解它们的推理过程。但是银行、军队、雇主以及其他人现在正将注意力转向更复杂的机器学习上,它可以帮助自动决策变得更令人匪夷所思,而深度学习可能从根本上改变了计算机的编程方式。麻省理工学院机器学习教授汤米·雅科拉表示:“这个问题不仅与当前有关,更攸关未来的许多问题。无论是投资决策、医疗决策亦或是军事决策,我们都不能简单地依赖这种黑箱 。”
 
  已经有人提议,将询问AI系统如何得出结论或做出决定作为一项基本法律权利。从2018年夏季开始,欧盟可能要求公司向用户提供其自动化系统作出决策的理由。这似乎是不可能的,即使对于表面来看相对简单的系统来说,比如使用深度学习服务广告或推荐歌曲的应用和网站。运行这些服务的计算机已经在进行自我编程,它们正以我们无法理解的方式工作,即使开发这些应用的工程师也无法明确解释它们的行为。
 
  这就引出许多令人难以置信的问题。随着技术的进步,我们可能很快就会越过一些门槛,帮助AI实现飞跃。虽然我们人类也并非总是能够解释清楚自己的思维过程,但我们能找到通过直觉信任和判断某人的方法。机器也有类似人类的思维吗?此前,我们从未开发出创造者也无法理解其运行方式的机器,我们如何与这些不可预测、无法理解的智能机器交流或和睦相处? 

我要评论
  • 2027中国—东盟AI合作年:智能经济落地,区域协同破题

    中国与东盟将2027年定为“人工智能合作年”。2027年被赋予特殊权重,是因为多个层面的政策目标和产业拐点在这一年集中交汇。国务院《关于深入实施“人工智能+”行动的意见》将2027年的刻度定为新一代智能终端和智能体应用普及率超过70%。
    人工智能具身智能智能体
    2026-11-16 14:59:12
  • 中国信通院联合发起可信具身智能倡议

    作为人工智能与机器人深度融合的软硬一体系统,具身智能进入物理世界后,将直接影响周围人、物和环境,复杂开放的环境也对系统稳定运行提出了更高要求。
    具身智能人工智能
    2026-11-17 11:29:10
  • 中国信通院孙强等:从单点智能到群体协作,多智能体协同打开产业应用新空间

    当前,我国正在推进智能体规范应用、互联标准和典型场景建设,加快多智能体协同技术与产业需求深度融合,对深入实施“人工智能+”行动、培育智能经济新形态具有重要意义。
    智能体人工智能
    2026-11-17 09:00:06
  • 投资6个亿!年产1000万套机器人轴承生产线在南京开工

    南京光力精工有限公司年产1000万套机器人轴承生产线项目近日在南京溧水区正式开工建设。这是溧水近期落地的又一个机器人及高端装备制造项目,也折射出核心零部件环节持续升温的产业节奏。项目投产后,年销售收入有望突破3亿元,产品将面向工业机器人、高端机床等下游行业,匹配相关领域对高精度通用设备零部件的市场需求。
    机器人机器人配件轴承
    2026-11-17 10:04:41
  • 硬科技融资潮:机器人、AI芯片多项目拿到数亿元融资

    近期,全球AI基础设施、半导体芯片、具身智能机器人、量子计算、AI药物研发等赛道迎来一波密集融资,国内多家硅光芯片、空间感知芯片、端侧机器人芯片、超导量子计算、传感器厂商相继完成亿元级融资,海外机器人企业、储能型模块化AI数据中心公司也落地大额融资。
    机器人AI芯片
    2026-11-18 10:21:50
  • 福建省将推进“人工智能+”生态治理行动 构建省生态环境与绿色低碳行业大模型

    《福建省推动“人工智能+”行动方案(2026—2028年)》近日印发,将构建省生态环境与绿色低碳行业大模型,建设不少于10个应用场景。
    人工智能环保应用方案
    2026-11-17 11:55:50
版权与免责声明:

凡本站注明“来源:智能制造网”的所有作品,均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品,未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:智能制造网”。违反上述声明者,本站将追究其相关法律责任。

本站转载并注明自其它来源(非智能制造网)的作品,目的在于传递更多信息,并不代表本站赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时,必须保留本站注明的作品第一来源,并自负版权等法律责任。如擅自篡改为“稿件来源:智能制造网”,本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多,如涉及作品内容、版权等问题,请与本站联系并提供相关证明材料:联系电话:0571-89719789;邮箱:1271141964@qq.com。

不想错过行业资讯?

订阅 智能制造网APP

一键筛选来订阅

信息更丰富

推荐产品/PRODUCT 更多
智造商城:

PLC工控机嵌入式系统工业以太网工业软件金属加工机械包装机械工程机械仓储物流环保设备化工设备分析仪器工业机器人3D打印设备生物识别传感器电机电线电缆输配电设备电子元器件更多

我要投稿
  • 投稿请发送邮件至:(邮件标题请备注“投稿”)1271141964.qq.com
  • 联系电话0571-89719789
工业4.0时代智能制造领域“互联网+”服务平台
智能制造网APP

功能丰富 实时交流

智能制造网小程序

订阅获取更多服务

微信公众号

关注我们

抖音

智能制造网

抖音号:gkzhan

打开抖音 搜索页扫一扫

视频号

智能制造网

公众号:智能制造网

打开微信扫码关注视频号

快手

智能制造网

快手ID:gkzhan2006

打开快手 扫一扫关注
意见反馈
我要投稿
我知道了