用“算法”模拟光束可攻击自动驾驶车辆专家呼吁重视AI安全

2021-03-11 13:25:27来源：TechWeb 关键词：AI AI算法阅读量：24859

导读：当不同频谱的光束打在同一个物体上，AI可能将该物体识别错误，比如将停车标识识别成顺利通行。

　　3月11日消息，阿里安全专家发布了一项新研究，只要用简单的激光笔，就可以让AI模型不再有效。在这个研究中，他们设计了一种算法，可模拟光束对AI模型进行“攻击”，这种测试方法在现实世界中得到了验证，且“攻击”极易操作，对现有基于AI的视觉系统更具威胁，例如基于AI视觉的自动驾驶。

　　当不同频谱的光束打在同一个物体上，AI可能将该物体识别错误，比如将停车标识识别成顺利通行。

　　“攻击AI远非需要人为去制造对抗样本，一支简单的激光笔就可以。我们想通过这个研究揭示AI模型一些之前没有被探索过的‘错误’，从而‘强壮’AI，让它未来能抵挡这种‘攻击’，也让相关从业者重视提高AI模型的安全性。”阿里安全图灵实验室负责人薛晖说道。

　　除了以“一束光”测试AI视觉的安全性，近图灵实验室发布了多项涉及AI安全的研究成果，比如多项文字识别与检测、利用自监督建立视频表征学习方法与提升半监督行为检测的算法框架、AI样本对抗、伪造人脸检测、AI对人脸与人声匹配的双重模态识别、视频描述AI生成技术等囊括AI“视觉”“听觉”“大脑”“免疫性”等多方研究，这10项涉及AI安全的新一代安全架构研究成果均被顶会CVPR2021收录。

　　“在AI安全前沿技术上进行探索，一是为了让AI更安全，二是为了让AI助力安全，三是为解决具体社会问题寻找提效的新途径。”薛晖说。

　　另外，薛晖还表示，安全部署要前置，无论是AI本身的安全，还是AI可以助力解决的安全问题与社会问题，这就是从源头构筑安全的核心理念。希望在广阔的AI安全研究的新领域中，能有更多新生力量加入，迸发出有创造性和想象力的研究，终应用到人们的生活中，真正服务大众，解决难题。

　　(原标题：用“算法”模拟光束可攻击自动驾驶车辆专家呼吁重视AI安全)

上一篇：两会声音汇总：各大代表热议5G发展

下一篇：AI免接触：研究人员借助智能扬声器监测心律

我要评论

昵称

匿名

文明上网，理性发言。（您还可以输入200个字符)

表情

所有评论仅代表网友意见，与本站立场无关。

加速行业智能化——华为AI＋制造行业峰会2025成功举办
4月28日，华为AI＋制造行业峰会2025在广州盛大举行。在峰会上，华为以“三层五阶八步”方法论为制造行业智能化加速提出实施路径，并分享7大场景20个解决方案，基于自身实践助力智能制造走深走实，推动技术革新成为业务高质量发展的核心驱动力。
华为AI制造业解决方案
2025-04-29 16:59:22
数据处理速度提升10倍 TDK光学新突破或成AI革命关键推手
这项名为“光子-电子混合集成技术“的创新，通过将光学信号传输与电子计算单元深度融合，突破了传统半导体材料在数据传输速率和能耗上的物理极限。
光学信号数据处理AI
2025-04-16 17:15:57
AI 消防新生态：智慧消防多场景应用
AI大模型凭借其强大的多模态数据处理能力、实时决策支持和知识迁移特性，正在消防领域开辟智能化转型的新路径。
AI智慧消防
2025-04-13 09:52:32
比尔·盖茨：我们生来不是为工作 AI将包揽大部分事情
在微软联合创始人比尔·盖茨构想的未来图景中，AI革命将用不足十年的时间完成对传统行业的深度改造。尤其在医疗和教育领域，人工智能系统将承担80%以上的常规诊断、药品研发和知识传授工作。
比尔·盖茨AI
2025-04-07 11:41:10
辽宁国资“拥抱AI”专项行动正式启动
辽宁国资“拥抱AI”专项行动启动仪式由辽宁省国资委、省科技厅、省数据局联合举办，带头利用人工智能赋能传统产业，加快构建数据驱动、人机协同、跨界融合、共创分享的智能经济形态。
AI人工智能
2025-04-04 09:11:51
曝前Cruise CEO的机器人初创公司筹集1.5亿美元，估值达20亿美元
尽管The Bot Company尚未推出产品且未有营收，但投资者对其充满信心，这主要源于AI模型驱动的机器人具备学习新任务的潜力，这一前景已引发美国硅谷的广泛关注。
机器人AI软件
2025-03-25 14:25:31

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。