正在阅读:解决机器学习debug问题需要更好的工具集

解决机器学习debug问题需要更好的工具集

2016-05-30 11:58:20来源:雷锋网 原标题:谷歌智能专家说 机器学习存在全新挑战 关键词:机器人学习人工智能机器人阅读量:31746

导读:机器学习更像是一个黑盒子编程方法,计算机程序自己有数据,自己可以生成概率逻辑,和基于传统布尔数学逻辑测试调试方法来验证系统完成不同。
  【中国智能制造网 名家论坛】谷歌研究(GoogleResearch)主管、人工智能专家PeterNorvig近在出席MIT的EmTechDigital大会时,发表了一些与主流人工智能和机器学习不同的观点。他将机器学习和传统软件编程进行了比较,强调我们所设计的机器学习,在系统调试和验证上存在全新挑战。
  
解决机器学习debug问题需要更好的工具集
 
  传统软件编程使用的是基于布尔数学体系的逻辑,按照这种逻辑,可以测试确认软件是否符合其设计初衷,在过去的几十年里,人们正是利用这一逻辑构建了各种软件调试工具和方法。
  
  相比之下,机器学习更像是一个黑盒子编程方法,计算机程序自己有数据,自己可以生成概率逻辑,和基于传统布尔数学逻辑的“true&false”测试调试方法来验证系统完成不同。
  
  对比传统编程,Norvig归纳总结了机器学习验证的情形:
  
  “现在的问题是,能够扩展应用到整个人工智能行业的机器学习验证方法,仍未成型。我们已经在这方面做了很多努力,投入了时间;对于如何使之奏效,我们也有了一点眉目,但是,相比于普通软件开发和验证数十年的经验,机器学习调试明显还没有达到预期。”
  
  如果调试机器学习如此困难,为什么还要使用它呢?尽管机器学习验证目前存在局限性,但是它在开发速度上依然具有一定优势。针对某些特定问题,比如语音识别或图像分类,复杂系统解决方案可以比传统编程方法快一倍、两倍、甚至三倍。举个例子,芯片制造商Nvidia公司工程师对一款自动驾驶汽车原型编写了100小时的训练数据程序。应用机器学习生产力对程序员来说吸引力,他们需要使用它,要求全新的验证方法。
  
  事实上,调试机器学习的出发点就是要区分相关问题固有的风险和危害,以及来自于问题发解决方案的技术的风险和危害。只有后者,也就是技术解决方案内部固有的风险和危害能够被控制。
  
  非定常性条件影响了传统编程和机器学习。所谓非定常性,就是指随着时间的过去,条件发生了变化,一开始,在相同条件下设计的系统非常有效,但慢慢地开始逐渐表现不佳。在传统编程中,当要发布一个开发新程序时,一般会先使用可验证的调试流程进行测试和验证,之后才会正式发布。
  
  但在机器学习中,似乎遗失了这种验证,因为机器学习并不适合传统编程技术那套步进式的流程:开发、测试、后发布。在机器学习里,会不断生成数据,然后同时再被机器学习系统不断获取,机器学习系统会进行再编程,继而导致那种步进式方法不能实行。
  
  针对机器学习验证问题,Norvig解释了自己的想法。传统测试套件认定是基于“true”、“false”、以及“equal”这些条件判断,而机器学习的测试认定则应该是根据评估测验,比如今天的试验结果90%不错,并且和昨天测试运行的结果一致。
  
  除了验证的问题很麻烦以外,验证机器学习系统产品所依据的事实很有可能是未知的,或者是主观性很强的。设想一下,例如我们设计一个机器学习系统来判断下图的这条裙子是金色搭配白色的,还是蓝色和黑色的,这问题连人类之间都没法达成一致。
  
  Norvig解释说:“对于一些问题,我们根本不知道正确答案是什么。因此,你又怎么可能训练一个机器学习算法判断某些根本没有答案的问题呢?”在Norvig看来,让机器学习寻求正确答案,只能依靠一种无偏见的方法,比如引入“陪审团”机制。人类生成数据去训练机器学习,然而人类本身就是具有偏见的,因此即便是在这种模式下,机器学习依然会存在一定偏见。要想匹配机器学习系统是否符合它们的设计初衷,评估的方法必须要能够识别并摈除偏见。
  
  传统软件是模块化的,每个模块的输入和输出都是独立的,因此很容易识别出哪个模块是bug。然而在机器学习中,尽管系统是利用数据进行开发的,但在系统内部,任何bug都能会被复制,终导致“牵一发而动全身”。虽然我们可以使用一些技巧去理解机器学习内部有错误,也有再训练机器学习系统的方法,但目前还没有办法能解决其中任何一个独立问题。
  
  在Norvig看来,解决机器学习debug问题需要一个更好的工具集,而整个工具集需要向前发展、更新。
我要评论
  • 2027中国—东盟AI合作年:智能经济落地,区域协同破题

    中国与东盟将2027年定为“人工智能合作年”。2027年被赋予特殊权重,是因为多个层面的政策目标和产业拐点在这一年集中交汇。国务院《关于深入实施“人工智能+”行动的意见》将2027年的刻度定为新一代智能终端和智能体应用普及率超过70%。
    人工智能具身智能智能体
    2026-11-16 14:59:12
  • 中国信通院联合发起可信具身智能倡议

    作为人工智能与机器人深度融合的软硬一体系统,具身智能进入物理世界后,将直接影响周围人、物和环境,复杂开放的环境也对系统稳定运行提出了更高要求。
    具身智能人工智能
    2026-11-17 11:29:10
  • 中国信通院孙强等:从单点智能到群体协作,多智能体协同打开产业应用新空间

    当前,我国正在推进智能体规范应用、互联标准和典型场景建设,加快多智能体协同技术与产业需求深度融合,对深入实施“人工智能+”行动、培育智能经济新形态具有重要意义。
    智能体人工智能
    2026-11-17 09:00:06
  • 投资6个亿!年产1000万套机器人轴承生产线在南京开工

    南京光力精工有限公司年产1000万套机器人轴承生产线项目近日在南京溧水区正式开工建设。这是溧水近期落地的又一个机器人及高端装备制造项目,也折射出核心零部件环节持续升温的产业节奏。项目投产后,年销售收入有望突破3亿元,产品将面向工业机器人、高端机床等下游行业,匹配相关领域对高精度通用设备零部件的市场需求。
    机器人机器人配件轴承
    2026-11-17 10:04:41
  • 硬科技融资潮:机器人、AI芯片多项目拿到数亿元融资

    近期,全球AI基础设施、半导体芯片、具身智能机器人、量子计算、AI药物研发等赛道迎来一波密集融资,国内多家硅光芯片、空间感知芯片、端侧机器人芯片、超导量子计算、传感器厂商相继完成亿元级融资,海外机器人企业、储能型模块化AI数据中心公司也落地大额融资。
    机器人AI芯片
    2026-11-18 10:21:50
  • 福建省将推进“人工智能+”生态治理行动 构建省生态环境与绿色低碳行业大模型

    《福建省推动“人工智能+”行动方案(2026—2028年)》近日印发,将构建省生态环境与绿色低碳行业大模型,建设不少于10个应用场景。
    人工智能环保应用方案
    2026-11-17 11:55:50
版权与免责声明:

凡本站注明“来源:智能制造网”的所有作品,均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品,未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:智能制造网”。违反上述声明者,本站将追究其相关法律责任。

本站转载并注明自其它来源(非智能制造网)的作品,目的在于传递更多信息,并不代表本站赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时,必须保留本站注明的作品第一来源,并自负版权等法律责任。如擅自篡改为“稿件来源:智能制造网”,本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多,如涉及作品内容、版权等问题,请与本站联系并提供相关证明材料:联系电话:0571-89719789;邮箱:1271141964@qq.com。

不想错过行业资讯?

订阅 智能制造网APP

一键筛选来订阅

信息更丰富

推荐产品/PRODUCT 更多
智造商城:

PLC工控机嵌入式系统工业以太网工业软件金属加工机械包装机械工程机械仓储物流环保设备化工设备分析仪器工业机器人3D打印设备生物识别传感器电机电线电缆输配电设备电子元器件更多

我要投稿
  • 投稿请发送邮件至:(邮件标题请备注“投稿”)1271141964.qq.com
  • 联系电话0571-89719789
工业4.0时代智能制造领域“互联网+”服务平台
智能制造网APP

功能丰富 实时交流

智能制造网小程序

订阅获取更多服务

微信公众号

关注我们

抖音

智能制造网

抖音号:gkzhan

打开抖音 搜索页扫一扫

视频号

智能制造网

公众号:智能制造网

打开微信扫码关注视频号

快手

智能制造网

快手ID:gkzhan2006

打开快手 扫一扫关注
意见反馈
我要投稿
我知道了