当前位置：智能制造网资讯中心企业动态

DeepSeek第二炸：开源首个用于MoE模型训练通信库

2025-02-25 11:59:40来源：快科技关键词：DeepSeek MoE模型训练通信库阅读量：20741

导读：DeepSeek的DeepEP是首个用于MoE模型训练和推理的开源EP通信库，它填补了MoE模型专用通信工具的空白，为大规模分布式AI训练和实时推理场景提供了更高效的底层支持。

　　2月25日消息，今天是DeepSeek开源周第二日，一早，DeepSeek如约就放出了开源代码库DeepEP王炸。

　　据了解，DeepEP是首个用于 MoE 模型训练和推理的开源EP通信库，它填补了MoE模型专用通信工具的空白，为大规模分布式AI训练和实时推理场景提供了更高效的底层支持。

　　在这里，简单介绍一下DeepEP的技术性能特点：

　　1、高效通信架构

　　支持优化的全对全通信模式，实现节点内和节点间的NVLink与RDMA互联，提升数据传输效率。

　　2、多精度与调度优化

　　原生支持FP8低精度运算调度，降低计算资源消耗。

　　3、重性能内核

　　据介绍，高吞吐量内核可适用于训练和推理预填充场景，最大化数据处理能力。

　　4、低延迟内核

　　它针对推理解码场景设计，采用纯RDMA通信和自适应路由技术，减少延迟。

　　5、资源控制与重叠机制

　　通过灵活的GPU资源控制策略，实现计算与通信过程的高效重叠，避免资源闲置。

　　6、深度优化场景

　　针对NVLink到RDMA的非对称带宽转发场景进行专项优化，提升异构网络下的传输性能。

　　此外，它还支持SM（Streaming Multiprocessors）数量动态控制，平衡不同任务(如训练与推理)的吞吐量需求。

上一篇：曝富士康向本田提议建立四方合作联盟

下一篇：重磅！又一光伏巨头计划赴港上市！

我要评论

昵称

匿名

文明上网，理性发言。（您还可以输入200个字符)

表情

所有评论仅代表网友意见，与本站立场无关。

消息称黄仁勋与DeepSeek创始人梁文锋会面讨论设计新一代芯片
英伟达公司首席执行官黄仁勋在中国访问期间，与DeepSeek创始人梁文锋会面。据报道，黄仁勋与梁文锋讨论了如何设计符合中美两国监管要求的新一代芯片，以满足客户需求。
黄仁勋DeepSeek梁文锋
2025-04-20 10:35:20
拥抱DeepSeek的软件企业收入激增3倍，行业迎来爆发拐点？
今年3月，部分SaaS企业收入同比增长超过3倍，积极拥抱AI、拥抱DeepSeek的企业，如果能继续保持这样的增速，有望迎来真正的春天。
DeepSeekSaaS软件服务
2025-04-02 16:56:12
DeepSeek+旅游文旅行业迎来发展新纪元
在数字技术深度重塑全球产业格局的当下，DeepSeek作为一股创新力量，正深刻影响文旅行业。凭借强大的数据处理能力与智能分析系统，DeepSeek重新定义文旅服务模式与用户体验，开启文旅产业数字化转型的全新征程。
DeepSeek文旅
2025-03-31 09:42:08
海康观澜 DeepSeek“双模”驱动，海康威视发布“大模型一体化平台”
近日，基于海康“观澜”大模型 DeepSeek“双模”协同，海康威视发布“大模型一体化平台”，助力大模型能力在千行百业快速便捷落地。
观澜大模型DeepSeek
2025-03-26 11:21:48
扬州公路部门完成DeepSeek本地化部署
扬州市公路事业发展中心正式完成深度求索(DeepSeek)人工智能管理平台本地化部署。依托DeepSeek算法模型，系统可实时生成交通态势热力图，为拥堵疏导、施工规划及事故响应提供科学决策依据。
DeepSeek扬州公路
2025-03-21 08:46:14
接入DeepSeek 旷视AIS算法生产平台5.0版全新发布
近日，旷视正式发布自研的算法生产平台AIS（AI Service）5.0版！此次升级，包括接入DeepSeek等三大核心能力重磅亮相，助力企业AI生产力再跃升！
DeepSeek算法
2025-03-17 09:55:26

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。