人机大战尘埃落定 AI黑箱之惑犹待解决

2017-06-05 16:18:42来源：中国智能制造网编辑：齐之越关键词：人工智能 AI 机器人阅读量：50249

导读：备受关注的“人机大战”——柯洁VS AlphaGo2.0已经结束了，但人工智能的黑箱之惑还没有得到有效解决。我们能不假思索地信任AI的判断吗？

　　【中国智能制造网智造快讯】备受关注的“人机大战”——柯洁VS AlphaGo2.0已经结束了，但人工智能的黑箱之惑还没有得到有效解决。某种程度上，人们对于AI黑箱问题的探索十分类似于人类对于自身大脑运作机制的探索。我们可以本能地相信大脑做出的决定，但是我们能不假思索地信任AI的判断吗？

　　备受关注的“人机大战”——柯洁VS AlphaGo2.0已经结束将近十天了，人们对这场历史性对决的讨论仍在继续。面对人工智能3比0完胜人类的比赛结果，有些人提出了这样的观点：这场比赛无论哪一方获胜，其实都是人类的胜利，因为人工智能也是人类的发明创造。这一说法当然有其合理性，但是在人工智能黑箱问题尚未得到解决的今天，这说法还是无可避免地带着一丝自我安慰的色彩。

　　困扰学界多年的AI黑箱之惑

　　人工智能黑箱问题并不是在近几年围棋程序屡胜人类之后才浮出水面，事实上，它已经困扰学界多年了。

　　美国卡内基梅隆大学机器人学兼职教师的Pomerleau早在26年前就开始了对黑箱问题的研究，那时他还是卡内基梅隆大学机器人技术研究生。他在悍马里安装了一台编程过的计算机，可以通过摄像机记录的信息解读路况，并储存他对各种路况作出的反应。Pomerleau希望这台机器能够获得更多关联独立控制驾驶。每一次的实验中，Pomerleau 都会运行系统几分钟，然后让汽车自行驾驶，一切都很顺利。但是，有一次悍马靠近一座桥时突然向一边急转弯。Pomerleau赶紧抓住方向盘才得以避免这场车祸。经过分析，Pomerleau弄清了原因：复杂如神经网络般的电脑程序一直把长满草的路边当向导，所以突然出现的大桥迷惑了它。而二十六年之后的今天，人工智能应用愈加发达和普遍，黑箱问题的破解难度也增加了许多，紧迫性也日益凸显。

　　学界目前对AI黑箱问题的几个解决办法

　　AI黑箱问题这么多年都没有解决，是不是意味着人类对其束手无策呢？也不尽然。目前，学界已经提出了几种解决办法。

　　创业公司OptimizingMind 发明了一项能观察智能机器决策过程的技术。　该算法的目的是创造“透明访问”系统以呈现机器学习是如何做出预期的。该系统以人脑的神经模型为基础，能把任何深度网络转化为该系统的模式。其目的是探索人工智能行为的潜在预期，并且找出人工智能思维模式的哪个方面对决策影响大。它可以为工程师大幅减少机器开发的时间，帮企业节省资源。

　　斯坦福大学的科学家则开发了一种神经网络错误检查工具Reluplex。这个新工具的用户可以询问应用了这个神经网络的系统，有关其属性的具体问题。但是它仍然无法测试有数百万个节点的网络。而Reluplex本身仍然需要独立验证。尽管如此，研究人员预期会有许多可能的用途。

　　某种程度上，人们对于AI黑箱问题的探索十分类似于人类对于自身大脑运作机制的探索，这大概是由于人类在开发人工智能时借鉴和模拟了人类的大脑和神经系统。目前这两个领域对各自的研究对象都还是知之甚少。我们不甚了解自己的大脑是如何运作的，但我们本能地相信它。同样地，我们也不甚了解AI是如何做出各种决定的，但是我们能不假思索地相信它吗(虽然大多数时候这些决定是合理的)？恐怕很难。因此，在大规模开发和利用人工智能之前，黑箱之惑是个需要尽早攻克的难题。这一问题得不到有效解决，AI普及推广之路上的疑云便会持久存在。

上一篇：工业革命新篇章老牌企业推动工业物联网发展

下一篇：5G网络切片担重角商业概念落地仍面临巨大挑战

我要评论

加速行业智能化——华为AI＋制造行业峰会2025成功举办
4月28日，华为AI＋制造行业峰会2025在广州盛大举行。在峰会上，华为以“三层五阶八步”方法论为制造行业智能化加速提出实施路径，并分享7大场景20个解决方案，基于自身实践助力智能制造走深走实，推动技术革新成为业务高质量发展的核心驱动力。
华为AI制造业解决方案
2025-04-29 16:59:22
全域人工智能之城建设驶入快车道
市科委、中关村管委会，市经济和信息化局，市发展改革委，市政务和数据局，市卫生健康委，北京经开区管委会领导出席，来自各央国企、研究机构，及京内外近500家人工智能上下游生态企业与会。
人工智能中国智造
2025-04-30 09:49:19
AI已经成为人形机器人最大的瓶颈？
在看似繁荣的表象下，行业共识正在逐渐浮现：人工智能(AI)技术的滞后，已成为人形机器人实现真正智能化的最大瓶颈。
人形机器人人工智能
2025-04-28 15:32:08
从“原子”到算法！人工智能领域的“元素周期表”诞生
研究团队发现，处于同一“主族“的算法(如支持向量机与核方法)具有相似的数学内核，而位于相同“周期“的算法(如决策树与随机森林)则共享相近的泛化能力图谱。
人工智能计算机科学
2025-04-27 17:01:21
宾利发布突破性人工智能皮革检测技术
人工智能皮革检测系统并不能完全取代宾利训练有素的工匠的技艺。通过自动化人工检测流程，该系统能够提供最高品质的皮革，工匠们可以用它来打造精致的手工缝制细节。
人工智能皮革检测技术
2025-04-27 14:42:55
早报|深圳大学人工智能学院正式揭牌成立；SK海力士完成96GB CXL内存模块验证
深圳大学人工智能学院正式揭牌成立,学院建设基础学科研究中心和算力平台，与腾讯云共建产业学院；SK海力士宣布，其基于CXL 2.0标准的DDR5 96GB内存模块已通过客户验证......
人工智能内存模块数据传输设备
2025-04-23 10:41:12

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。