正在阅读:降低80%的图像对抗风险 蚂蚁集团升级基于可信AI技术的内容安全解决方案

降低80%的图像对抗风险 蚂蚁集团升级基于可信AI技术的内容安全解决方案

2021-12-16 13:20:11来源:TechWeb.com.cn 关键词:AI网络安全阅读量:21486

导读:日前,由国际人工智能顶会NeurIPS 与 Facebook AI联合举办的图像相似匹配竞赛ISC2021落下帷幕。
  12月16日消息,日前,由国际人工智能顶会NeurIPS 与 Facebook AI联合举办的图像相似匹配竞赛ISC2021落下帷幕。本次比赛共有1635支参赛队伍参加,来自蚂蚁集团的TitanShield Team(titanshield2)斩获图像表征赛道冠军。
 
  据悉,此次夺冠团队采用的技术方案是由蚂蚁集团独立自研的、“基于特征兼容自监督学习框架”的预训练模型,能够针对性地解决内容安全风控领域常见的敏感信息更迭速度快、风控模型训练不及时等问题。作为可信AI技术研究及应用中的一环,该技术上线后可降低80%的图像对抗风险,将有助于极大地提升在内容安全等相关应用领域中的AI鲁棒性(Robustness)。
 
  作为人工智能下一阶段快速发展的瓶颈所在,安全和可信性决定了人工智能未来三十年的发展速度和应用深度;而AI的鲁棒性,即抗打击能力及稳定性,则成为了人工智能的第一场大考。“如果抵挡不住攻击,识别结果不可信,那么AI模型不仅失去了它存在的意义,还会成为另一个风险敞口”,蚂蚁集团资深技术专家博山表示。
 
  据悉,此次比赛中,夺冠团队所采用的“基于特征兼容自监督学习框架”的预训练模型,在图像识别领域,极大地缓解和应对了上述问题。首先,该技术能够基于公开数据集进行预训练,帮助AI提前完成同类风险预演。其次,在传统的AI识别中,模型识别依赖人工投喂标注了“特征”的样本;例如,模型在识别熊猫图片前,需要先“学习”熊猫的特征——“眼部有黑色毛发”、“常与竹子一同出现”等等。而借助“自监督学习”技术,该模型可以通过自主学习抓取“特征”,降低70%标注量,训练时间也从原本的一周缩短至3天。同时,创新的“特征兼容”方案,能够实现在两个业务场景或两家企业间,借助“特征”信息的兼容共享,实现风险联防。
 
  据悉,该模型及相关技术作为蚂蚁集团内容安全风控决策引擎的重要组成部分,目前已在支付宝内容安全场景中全面上线,可整体降低80%的图像对抗风险。
我要评论
文明上网,理性发言。(您还可以输入200个字符)

所有评论仅代表网友意见,与本站立场无关。

  • 不止光模块!中际旭创5000万元加码AI前沿布局

    光模块龙头中际旭创发布公告称,公司全资子公司中际旭创(上海)投资有限公司拟以自有资金5000万元,认购杭州光合叁期创业投资合伙企业(有限合伙)的出资份额,成为其有限合伙人。该基金主要投向人工智能、硬科技、新材料和绿色科技、医疗科技、绿色低碳及前沿科技等领域的早期及成长期项目,初始存续期限为8年,其中前4年为投资期。
    AI光模块新材料
    2026-11-16 10:57:13
  • AI、Wi-Fi7与物联网如何推动园区网络升级?

    Wi-Fi7部署通常不是一次性完成的,而是根据办公区域、建筑条件和业务需求分阶段推进。随着无线接入点数量增加,企业可能需要扩充接入端口、提升汇聚链路速率,并逐步调整核心网络的连接能力。
    物联网设备AIWi-Fi7
    2026-11-13 10:42:28
  • 高速光模块占比超50%,剑桥科技前三季度营收49.21亿元、净利增193%

    10月30日,剑桥科技发布2026年第三季度报告。前三季度公司实现营业收入49.21亿元,同比增长46.46%;归属于上市公司股东的净利润7.61亿元,同比增长193.35%。截至报告期末,高速光模块业务收入占公司营业收入的比例已超过50%,其中800G产品占高速光模块出货量的绝大部分。
    光模块AI剑桥科技
    2026-11-11 17:08:27
  • AI硬科技融资密集落地:九家企业相继完成融资,合计吸金超40亿元

    近日国内AI与硬科技赛道融资持续升温,Sand.ai、凌川科技、百奥几何、主动科技等九家企业先后完成融资;这些企业覆盖视频大模型、AI芯片、脑机接口、光互连、柔性传感、机器嗅觉等方向,合计融资额超过40亿元人民币,产业资本、国资平台与老股东成为主要出资力量。
    AI大模型人工智能芯片
    2026-11-09 10:27:08
  • 网络安全管理局召开新型工业化网络安全工作交流会

    10月30日,工业和信息化部网络安全管理局在北京市召开新型工业化网络安全工作交流会。会议传达了部党组关于新型工业化网络安全工作部署和“网络安全+工信领域”有关要求,介绍了新型工业化网络安全工作情况、面临形势以及下一阶段任务规划。
    新型工业化网络安全
    2026-11-04 10:31:41
  • 湖北通信管理局联合省经济和信息化厅部署2026年新型工业化网络安全专项行动

    湖北省通信管理局会同湖北省经济和信息化厅联合印发《湖北省2026年新型工业化网络安全专项行动工作方案》。提出,到2026年底,建立完善全省工业领域网络安全防护重点企业清单。
    新型工业化网络安全工业控制系统
    2026-10-28 09:07:51
版权与免责声明:

凡本站注明“来源:智能制造网”的所有作品,均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品,未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的,应在授权范围内使用,并注明“来源:智能制造网”。违反上述声明者,本站将追究其相关法律责任。

本站转载并注明自其它来源(非智能制造网)的作品,目的在于传递更多信息,并不代表本站赞同其观点或和对其真实性负责,不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时,必须保留本站注明的作品第一来源,并自负版权等法律责任。如擅自篡改为“稿件来源:智能制造网”,本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多,如涉及作品内容、版权等问题,请与本站联系并提供相关证明材料:联系电话:0571-89719789;邮箱:1271141964@qq.com。

不想错过行业资讯?

订阅 智能制造网APP

一键筛选来订阅

信息更丰富

推荐产品/PRODUCT 更多
智造商城:

PLC工控机嵌入式系统工业以太网工业软件金属加工机械包装机械工程机械仓储物流环保设备化工设备分析仪器工业机器人3D打印设备生物识别传感器电机电线电缆输配电设备电子元器件更多

我要投稿
  • 投稿请发送邮件至:(邮件标题请备注“投稿”)1271141964.qq.com
  • 联系电话0571-89719789
工业4.0时代智能制造领域“互联网+”服务平台
智能制造网APP

功能丰富 实时交流

智能制造网小程序

订阅获取更多服务

微信公众号

关注我们

抖音

智能制造网

抖音号:gkzhan

打开抖音 搜索页扫一扫

视频号

智能制造网

公众号:智能制造网

打开微信扫码关注视频号

快手

智能制造网

快手ID:gkzhan2006

打开快手 扫一扫关注
意见反馈
我要投稿
我知道了