当前位置：智能制造网资讯中心企业动态

破10万亿！达摩院实现全球最大AI预训练模型：远超谷歌、微软

2021-11-08 14:34:00来源：快科技关键词：AI阅读量：22596

导读：11月8日，阿里巴巴达摩院公布多模态大模型M6最新进展，其参数已从万亿跃迁至10万亿，规模远超谷歌、微软此前发布的万亿级模型，成为全球最大的AI预训练模型。

　　在人工智能前沿领域，中国AI实现突破。

　　11月8日，阿里巴巴达摩院公布多模态大模型M6最新进展，其参数已从万亿跃迁至10万亿，规模远超谷歌、微软此前发布的万亿级模型，成为全球最大的AI预训练模型。

　　同时，M6做到了业内极致的低碳高效，使用512 GPU在10天内即训练出具有可用水平的10万亿模型。

　　相比去年发布的大模型GPT-3，M6实现同等参数规模，能耗仅为其1%。

　　M6是达摩院研发的通用性人工智能大模型，拥有多模态、多任务能力，其认知和创造能力超越传统AI，尤其擅长设计、写作、问答，在电商、制造业、文学艺术、科学研究等领域有广泛应用前景。

　　与传统AI相比，大模型拥有成百上千倍“神经元”数量，且预先学习过海量知识，表现出像人类一样“举一反三”的学习能力。

　　因此，大模型被普遍认为是未来的“基础模型”，将成下一代AI基础设施。然而，其算力成本相当高昂，训练1750亿参数语言大模型GPT-3所需能耗，相当于汽车行驶地月往返距离。

　　今年5月，通过专家并行策略及优化技术，达摩院M6团队将万亿模型能耗降低超八成、效率提升近11倍。

　　10月，M6再次突破业界极限，通过更细粒度的CPU offload、共享-解除算法等创新技术，让收敛效率进一步提升7倍，这使得模型规模扩大10倍的情况下，能耗未显著增加。

　　这一系列突破极大降低了大模型研究门槛，让一台机器训练出一个千亿模型成为可能。

　　同时，达摩院联合阿里云推出了M6服务化平台，为大模型训练及应用提供完备工具，首次让大模型实现“开箱即用”，算法人员及普通用户均可方便地使用平台。

　　达摩院还推出了当前最大规模的中文多模态评测数据集MUGE，覆盖图文描述、文本生成图像、跨模态检索任务，填补了缺少中文多模态权威评测基准的空白。

　　作为国内首个商业化落地的多模态大模型，M6已在超40个场景中应用，日调用量上亿。

　　今年，大模型首次支持双11。M6在犀牛智造为品牌设计的服饰已在淘宝上线；凭借流畅的写作能力，M6正为天猫虚拟主播创作剧本；依靠多模态理解能力，M6正在增进淘宝、支付宝等平台的搜索及内容认知精度。

　　达摩院智能计算实验室负责人周靖人表示，“接下来，我们将深入研究大脑认知机理，致力于将M6的认知力提升至接近人类的水平，比如，通过模拟人类跨模态的知识抽取和理解方式，构建通用的人工智能算法底层框架；另一方面，不断增强M6在不同场景中的创造力，产生出色的应用价值。”

　　据了解，达摩院语言大模型PLUG近期也已升级至2万亿参数，成为全球最大中文语言模型，其所属AliceMind语言模型体系同样推出了服务化平台。

上一篇：共12座站点！蔚来打通粤东海滨线充换电网络

下一篇：光器件开发商三石园科技获数千万元A轮融资，沣扬资本独家投资

我要评论

昵称

匿名

文明上网，理性发言。（您还可以输入200个字符)

表情

所有评论仅代表网友意见，与本站立场无关。

加速行业智能化——华为AI＋制造行业峰会2025成功举办
4月28日，华为AI＋制造行业峰会2025在广州盛大举行。在峰会上，华为以“三层五阶八步”方法论为制造行业智能化加速提出实施路径，并分享7大场景20个解决方案，基于自身实践助力智能制造走深走实，推动技术革新成为业务高质量发展的核心驱动力。
华为AI制造业解决方案
2025-04-29 16:59:22
数据处理速度提升10倍 TDK光学新突破或成AI革命关键推手
这项名为“光子-电子混合集成技术“的创新，通过将光学信号传输与电子计算单元深度融合，突破了传统半导体材料在数据传输速率和能耗上的物理极限。
光学信号数据处理AI
2025-04-16 17:15:57
AI 消防新生态：智慧消防多场景应用
AI大模型凭借其强大的多模态数据处理能力、实时决策支持和知识迁移特性，正在消防领域开辟智能化转型的新路径。
AI智慧消防
2025-04-13 09:52:32
比尔·盖茨：我们生来不是为工作 AI将包揽大部分事情
在微软联合创始人比尔·盖茨构想的未来图景中，AI革命将用不足十年的时间完成对传统行业的深度改造。尤其在医疗和教育领域，人工智能系统将承担80%以上的常规诊断、药品研发和知识传授工作。
比尔·盖茨AI
2025-04-07 11:41:10
辽宁国资“拥抱AI”专项行动正式启动
辽宁国资“拥抱AI”专项行动启动仪式由辽宁省国资委、省科技厅、省数据局联合举办，带头利用人工智能赋能传统产业，加快构建数据驱动、人机协同、跨界融合、共创分享的智能经济形态。
AI人工智能
2025-04-04 09:11:51
曝前Cruise CEO的机器人初创公司筹集1.5亿美元，估值达20亿美元
尽管The Bot Company尚未推出产品且未有营收，但投资者对其充满信心，这主要源于AI模型驱动的机器人具备学习新任务的潜力，这一前景已引发美国硅谷的广泛关注。
机器人AI软件
2025-03-25 14:25:31

版权与免责声明：

凡本站注明“来源：智能制造网”的所有作品，均为浙江兴旺宝明通网络有限公司-智能制造网合法拥有版权或有权使用的作品，未经本站授权不得转载、摘编或利用其它方式使用上述作品。已经本网授权使用作品的，应在授权范围内使用，并注明“来源：智能制造网”。违反上述声明者，本站将追究其相关法律责任。

本站转载并注明自其它来源（非智能制造网）的作品，目的在于传递更多信息，并不代表本站赞同其观点或和对其真实性负责，不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、平台或个人从本站转载时，必须保留本站注明的作品第一来源，并自负版权等法律责任。如擅自篡改为“稿件来源：智能制造网”，本站将依法追究责任。

鉴于本站稿件来源广泛、数量较多，如涉及作品内容、版权等问题，请与本站联系并提供相关证明材料：联系电话：0571-89719789；邮箱：1271141964@qq.com。