《人工智能服务器系统性能测试规范》国家标准征求意见

2024-04-10 09:26:44来源：仪表网关键词：人工智能服务器系统阅读量：23121

导读：本文件规定了人工智能服务器系统，完成深度学习训练及推理任务的性能（运行时间、能耗、实际吞吐率、能效、效率、弹性、承压能力等）测试方法。

　　近日，由中国电子技术标准化研究院、华为技术有限公司、中国科学院软件研究所、北京航空航天大学、浪潮电子信息产业股份有限公司等单位起草，TC28(全国信息技术标准化技术委员会)归口的国家标准计划《人工智能服务器系统性能测试规范》征求意见稿已编制完成，现公开征求意见。

　　当前具有代表性的通用 AI 测试基准、HPC 性能测试基准或服务器技术规范，如 MLPerf、AI Benchmark、benchcouncil、AI-HPL、Linpack、DAWNBENCH、T/CESA 1043-2019《面向深度学习的服务器规范》、GB/T 9813.3《计算机通用规范第 3 部分：服务器》《人工智能芯片面向云侧的深度学习芯片测试指标与测试方法》以及 AIIA DNN benchmark 等，在 AI 服务器系统性能测试方面，仍存在一些未解决的问题。

　　1) 通用服务器技术规范对 AI 服务器系统的性能测试的规定不深入、而且存在同质化倾向。在测试指标方面，仅端到端运行时间、能耗等不能准确反映AI 服务器系统。系统内部运行时效能方面，尚不存在标准化的测试方法。

　　2) 通用 AI 性能测试，使用公众可获得的模型、数据集。它们与行业(如金融、医疗)实际使用的模型、数据有较大差异。通用测试的结果，对行业指导意义不强，行业业务在 AI 服务器系统计算设施上的运行效果，无直接评判依据。

　　3) 当前的测试基准对测试科学(test technology)理论的实践相对较薄弱。这些测试基准对性能的理解、解释及测试方法仅限于稳定状态运行时间，而未考虑真实运行环境及系统自身现实状态。

　　针对以上问题，该标准拟结合测试技术，在通用及行业应用两方面，研究并标准化测试方法、用例，达到较为全面、准确的测试效果。

　　人工智能服务器系统，包含人工智能服务器、集群和高性能计算设施等形态。人工智能服务器系统，是各类深度学习模型(包含大规模预训练模型)的训练和推理的核心载体，是各行业应用人工智能技术提升生产效率的核心工具。人工智能服务器系统专为处理人工智能计算任务设计，在架构、运算方式和用途用法上，与通用服务器系统有较大差别，其测试过程、负载和指标等，皆有独特性。本文件提出人工智能服务器系统性能基准测试的方法，并对基准测试工具提出技术要求。

　　本文件规定了人工智能服务器系统，完成深度学习训练及推理任务的性能(运行时间、能耗、实际吞吐率、能效、效率、弹性、承压能力等)测试方法。本文件适用于人工智能服务器系统的性能评估。

上一篇：《智能服务预测性维护数据定义与接口》国家标准征求意见

下一篇：中国电子工业标准化技术协会关于发布《工业数字孪生产品测试方法》等十一项团体标准的公告

我要评论

昵称

匿名

文明上网，理性发言。（您还可以输入200个字符)

表情

所有评论仅代表网友意见，与本站立场无关。

全域人工智能之城建设驶入快车道
市科委、中关村管委会，市经济和信息化局，市发展改革委，市政务和数据局，市卫生健康委，北京经开区管委会领导出席，来自各央国企、研究机构，及京内外近500家人工智能上下游生态企业与会。
人工智能中国智造
2025-04-30 09:49:19
AI已经成为人形机器人最大的瓶颈？
在看似繁荣的表象下，行业共识正在逐渐浮现：人工智能(AI)技术的滞后，已成为人形机器人实现真正智能化的最大瓶颈。
人形机器人人工智能
2025-04-28 15:32:08
从“原子”到算法！人工智能领域的“元素周期表”诞生
研究团队发现，处于同一“主族“的算法(如支持向量机与核方法)具有相似的数学内核，而位于相同“周期“的算法(如决策树与随机森林)则共享相近的泛化能力图谱。
人工智能计算机科学
2025-04-27 17:01:21
宾利发布突破性人工智能皮革检测技术
人工智能皮革检测系统并不能完全取代宾利训练有素的工匠的技艺。通过自动化人工检测流程，该系统能够提供最高品质的皮革，工匠们可以用它来打造精致的手工缝制细节。
人工智能皮革检测技术
2025-04-27 14:42:55
早报|深圳大学人工智能学院正式揭牌成立；SK海力士完成96GB CXL内存模块验证
深圳大学人工智能学院正式揭牌成立,学院建设基础学科研究中心和算力平台，与腾讯云共建产业学院；SK海力士宣布，其基于CXL 2.0标准的DDR5 96GB内存模块已通过客户验证......
人工智能内存模块数据传输设备
2025-04-23 10:41:12
宝马押宝人工智能，能赌赢吗？
宝马在电池续航方面也取得了显著进展，宝马第六代动力电池技术搭载大圆柱电芯，能量密度提升至300Wh/kg，支持15分钟内完成80%电量快充。
宝马人工智能
2025-04-16 14:58:14

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。