正在阅读:难敌对抗性图像的“愚弄” 机器视觉也有弱点?

难敌对抗性图像的“愚弄” 机器视觉也有弱点?

2016-07-29 14:01:03来源:逸炫 原标题:机器视觉的阿喀琉斯之踵 关键词:机器视觉智能控制机器人阅读量:32448

导读:近几年,我们经常听到机器视觉系统能有多好。现在,我们才发现他们还有蠢蠢的阿喀琉斯之踵。
  【中国智能制造网 名家论坛】现代科学了不起的进步之一就是机器视觉的兴起。近几年,新一代机器学习技术已经改变了计算机“看见”世界的方式。现在,机器在人脸识别和物品识别方面已经超越了人类,并将改变无数基于视觉的任务,例如驾驶、安全监控等等。机器视觉现在简直是超人。
  
  难敌对抗性图像的“愚弄”机器视觉也有弱点?
  
  从一些方面看,机器视觉比人类视觉更好。但是现在研究人员找到了一类能够轻松‘愚弄’机器视觉的‘对抗性图像’。但是有一个问题出现了。机器视觉研究人员已经注意到,这项新技术有一些让人担心的弱点。实际上,机器视觉算法有一个阿喀琉斯之踵,使它们被一些经过微扰的图像捉弄,而这些图像对于人类来说非常浅显易见。
  
  这些经过修改的图像被称为“对抗性图像,成为一种重要的威胁。“在人脸识别领域,一个对抗性例子可能由脸部非常细微的标记构成,因此人会正确识别出图像中的身份,而机器学习系统会将其识别为一个不同的人。”谷歌Brain的AlexeyKurakin、SamyBengio以及非营利机构OpenAI的IanGoodfellow说。
  
  他们在论文中称,这种对抗性攻击除了能影响完全在计算机中运行的系统,例如逃避垃圾邮件过滤器或病毒软件监测器,还能影响在物理世界中运行的系统,例如通过摄像头及其他传感器感知世界的机器人、视频监控系统以及图像和声音分类的移动应用。
  
  因为机器视觉还非常新,我们对于对抗性图像还知之甚少。没人知道如何好地创造它们、如何用它们来愚弄机器视觉系统、或者如何预防此类攻击。
  
  现在,Kurakin及同事的研究开始改变这一现状,他们对对抗性图像展开了系统研究。他们的研究说明了机器视觉系统在此类攻击之下多么脆弱。
  
  团队开始使用了一个机器视觉研究的标准数据库,名叫ImageNet。这个数据库的图像根据显示的内容进行分类。一个标准测试是基于这个数据库的一部分来训练一个机器视觉算法,然后利用数据库的另一个部分来测试算法能否良好进行分类。
  
  测试表现的测量方法是统计算法中高五项回答、甚至高一项回答中正确分类的频率(被称为前五准确率和前一准确率),或者中前五项或一项中回答不正确的频率(其前五错误率或者前一错误率)。
 
我要评论
  • 投资6个亿!年产1000万套机器人轴承生产线在南京开工

    南京光力精工有限公司年产1000万套机器人轴承生产线项目近日在南京溧水区正式开工建设。这是溧水近期落地的又一个机器人及高端装备制造项目,也折射出核心零部件环节持续升温的产业节奏。项目投产后,年销售收入有望突破3亿元,产品将面向工业机器人、高端机床等下游行业,匹配相关领域对高精度通用设备零部件的市场需求。
    机器人机器人配件轴承
    2026-11-17 10:04:41
  • 浙江省机器人产业发展协会第二届会员大会第三次会议顺利召开

    11月16日下午,浙江省机器人产业发展协会第二届会员大会第三次会议顺利召开。
    机器人
    2026-11-17 10:08:37
  • 意优科技合肥工厂开业,聚焦高性能协作机械臂

    11月13日,意优科技合肥工厂正式开业。意优集团高层领导、合肥高新区相关领导及客户代表出席活动,共同见证意优协作机械臂制造基地落地的重要时刻。合肥工厂未来达产后,预计年产机械臂约2000条,年产值可达4000万元。工厂将结合市场需求与业务发展节奏,稳步推进产线布局,逐步将规划转化为实际产出。
    机器人具身智能意优科技
    2026-11-17 10:01:15
  • 星动XHAND 1 Pro-U开启限量发售:英伟达GR00T 2、GEAR DexUMI官配五指灵巧手

    11月9日,英伟达科学家Jim Fan在CoRL现场发布GR00T 2并公布全栈开源计划,主题定为「机器人的夏天」。他指出,GPT-6 Astra并非带来颠覆:Astra(System 2)负责理解与规划,GR00T 2世界-动作模型WAM(System 1)负责快速执行,System 2越强,越需要高质量的System 1,系统瓶颈进一步转向物理世界。
    机器人具身智能灵巧手
    2026-11-17 09:56:47
  • 医管家携手普渡机器人、芯驰科技达成战略合作:以“AI智能化×车规级”探索医院后勤人机协同

    近日,医管家与普渡机器人、芯驰科技正式达成战略合作。三方将发挥各自在场景运营、具身智能机器人、高可靠车规级芯片方面的积累,以医院真实场景为验证和落地环境,以具身智能机器人为技术引擎,以车规级芯片为安全底座,共同探索面向医院后勤场景的机器人应用体系,推动医院后勤服务智能化升级。
    机器人具身智能服务机器人
    2026-11-17 09:39:52
  • 松延动力Bumi小布米OTA V3.2.0版本迎来全新升级!

    11月13日,松延动力Bumi小布米OTA V3.2.0版本迎来全新升级!此次OTA V3.2.0更新进一步聚焦语音交互、舞蹈表现、日常操作与多机协同,带来喜马拉雅语音联动、舞蹈BGM伴奏、语音交互开关、低电量自动收纳及云平台群控五项功能升级,让小布米更好用、更有趣,也为机器人拓展更多互动玩法。
    机器人具身智能
    2026-11-16 09:53:31
版权与免责声明:

凡本站注明“来源:智能制造网”的所有作品,均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品,未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:智能制造网”。违反上述声明者,本站将追究其相关法律责任。

本站转载并注明自其它来源(非智能制造网)的作品,目的在于传递更多信息,并不代表本站赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时,必须保留本站注明的作品第一来源,并自负版权等法律责任。如擅自篡改为“稿件来源:智能制造网”,本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多,如涉及作品内容、版权等问题,请与本站联系并提供相关证明材料:联系电话:0571-89719789;邮箱:1271141964@qq.com。

不想错过行业资讯?

订阅 智能制造网APP

一键筛选来订阅

信息更丰富

推荐产品/PRODUCT 更多
智造商城:

PLC工控机嵌入式系统工业以太网工业软件金属加工机械包装机械工程机械仓储物流环保设备化工设备分析仪器工业机器人3D打印设备生物识别传感器电机电线电缆输配电设备电子元器件更多

我要投稿
  • 投稿请发送邮件至:(邮件标题请备注“投稿”)1271141964.qq.com
  • 联系电话0571-89719789
工业4.0时代智能制造领域“互联网+”服务平台
智能制造网APP

功能丰富 实时交流

智能制造网小程序

订阅获取更多服务

微信公众号

关注我们

抖音

智能制造网

抖音号:gkzhan

打开抖音 搜索页扫一扫

视频号

智能制造网

公众号:智能制造网

打开微信扫码关注视频号

快手

智能制造网

快手ID:gkzhan2006

打开快手 扫一扫关注
意见反馈
我要投稿
我知道了