OpenAI、蚂蚁集团、谷歌等联合编制的大模型安全国际标准正式发布

2024-04-18 09:22:04来源：TechWeb.com.cn 关键词：大语言模型生成式AI应用阅读量：25436

导读：日前，世界数字技术院(WDTA)发布了一系列突破性成果，包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。

　　4月17日消息，日前，世界数字技术院(WDTA)发布了一系列突破性成果，包括《生成式人工智能应用安全测试标准》和《大语言模型安全测试方法》两项国际标准。这是国际组织首次就大模型安全领域发布国际标准，代表全球人工智能安全评估和测试进入新的基准。

　　信息显示，此次发布的两项国际标准是大模型及生成式AI应用方面的安全测试标准。由OpenAI、蚂蚁集团、科大讯飞、谷歌、微软、英伟达、百度、腾讯等数十家单位的多名专家学者共同编制而成。

　　其中，《生成式人工智能应用安全测试标准》由WDTA作为牵头单位。该标准为测试和验证生成式AI应用的安全性提供了一个框架，特别是那些使用大语言模型(LLM)构建的应用程序。它定义了人工智能应用程序架构每一层的测试和验证范围，包括基础模型选择、嵌入和矢量数据库、RAG或检索增强生成、AI应用运行时安全等等，确保AI应用各个方面都经过严格的安全性和合规性评估，保障其在整个生命周期内免受威胁和漏洞侵害。

　　《大语言模型安全测试方法》由蚂蚁集团作为牵头单位。该标准则为大模型本身的安全性评估提供了一套全面、严谨且实操性强的结构性方案。它提出了大语言模型的安全风险分类、攻击的分类分级方法以及测试方法，并率先给出了四种不同攻击强度的攻击手法分类标准，提供了严格的评估指标和测试程序等，可解决大语言模型固有的复杂性，全面测试其抵御敌对攻击的能力，使开发人员和组织能够识别和缓解潜在漏洞，并最终提高使用大语言模型构建的人工智能系统的安全性和可靠性。

　　与会的WDTA人工智能安全可信负责任工作组组长黄连金表示，随着人工智能系统，特别是大语言模型继续成为社会各方面不可或缺的一部分，以一个全面的标准来解决它们的安全挑战变得至关重要。此次发布的标准汇集了全球AI安全领域的专家智慧，填补了大语言模型和生成式AI应用方面安全测试领域的空白，为业界提供了统一的测试框架和明确的测试方法，有助于提高AI系统安全性，促进AI技术负责任发展，增强公众信任。

　　据了解，近年来，世界各国都在加强对于大模型安全的研究和管控。我国先后发布了《全球人工智能治理倡议》《生成式人工智能服务管理暂行办法》《生成式人工智能服务安全基本要求》等，旨在促进生成式人工智能安全可信发展，推进全球人工智能治理领域合作共识。

上一篇：第六批专精特新“小巨人”企业培育和第三批专精特新“小巨人”企业复核工作

下一篇：我国发布全球首个海底智算中心平台！总算力超过2000PFlops 用海水散热

我要评论

昵称

匿名

文明上网，理性发言。（您还可以输入200个字符)

表情

所有评论仅代表网友意见，与本站立场无关。

大语言模型与生成式人工智能的区别
本文旨在通过对大语言模型和生成式人工智能的深入分析，了解这两种技术的区别，以及它们各自的行业应用和未来发展趋势。
大语言模型生成式人工智能
2024-09-02 10:09:27
启明创投发布2024生成式AI十大展望
2024世界人工智能大会上，启明创投围绕大语言模型、多模态模型、商业机会等做出2024生成式AI十大展望。
生成式AI大语言模型
2024-07-08 11:01:29
大手笔！“欧洲版OpenAI”获微软投资
从外媒最新的报道来看，除了对OpenAI大手笔的投资，微软也投资了有着欧洲版OpenAI之称的法国人工智能公司Mistral AI。
大语言模型聊天机器人
2024-02-28 09:02:16
早报|阿里云核心销售业务调整；讯飞医疗在港交所提交上市申请
教科文组织将于2月5日至6日在斯洛文尼亚克拉尼举办全球人工智能论坛，以评估全球人工智能治理进展；阿里云核心销售业务层面进行调整，将混合云事业部更名为政企事业部；1月26日晚，讯飞医疗科技股份有限公司向港交所提交上市申请书......
人工智能大语言模型
2024-01-29 09:29:30
阿里云通义千问开源72B、1.8B两款大语言模型并首度开源音频大模型
从18亿、70亿、140亿到720亿参数规模，通义千问成为业界首个“全尺寸开源”的大模型。此外，阿里云还首次开源音频理解大模型Qwen-Audio。
大语言模型音频大模型
2023-12-04 10:15:23
消息称谷歌将推迟至明年第一季度发布大语言模型Gemini
据两位知情人士透露，谷歌将推迟发布其大语言模型Gemini，发布时间从原定的今年11月份推迟到了2024年第一季度。
大语言模型AI聊天机器人
2023-11-20 10:03:06

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。