直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:热点)
-
2024年1月10日零时起,全国铁路将实行新的列车运行图。调图后,全国铁路每日安排旅客列车11149列,较现图增加233列;每日开行货物列车22264列,较现图增加40列,列车开行结构不断优化,客货运 ...[详细]
-
股神巴菲特進場了,收購保險、石油企業!股神的通膨投資術:買進好公司|天下雜誌
股神巴菲特終於出手了。3月份以來,巴菲特的柏克夏海瑟威Berkshire Hathaway)公司做了兩項投資,一個是斥資116億美元買下保險公司Alleghany,此舉是柏克夏海瑟威公司自2016年以 ...[详细]
-
清明节将至,连日来,泉州市各地各部门纷纷举行各种活动,或请老同志讲党史、讲英雄事迹,或组织祭扫烈士纪念碑、瞻仰烈士陵园,缅怀革命先烈,弘扬红色传承。老兰讲党史听老人讲党史“1946年1月, ...[详细]
-
新春体育大游园活动平面图海峡网讯 (海西晨报 邓丽萍)2月16日14时30分至17时,一年一度的新春体育大游园将在市体育中心举行。单车达人花式炫技、健身型男大秀美肌、跳绳冠军一展绝技…& ...[详细]
-
如今随着厂家生产技术不断发展,玻璃也有了各种新的种类,拥有更多更强的功能,逐渐取代普通玻璃。举例来说,原本只能透光挡风的普通玻璃窗,使用夹胶玻璃后就具备了降噪隔热的功能,更加方便实用。我们将在下文简单 ...[详细]
-
滁州网讯全媒体记者包增光 通讯员吕 华)民生无小事,枝叶总关情。来安县坚持持续改善民生,把每一件民生实事办妥办好,切实提高群众生活品质。据介绍,今年50项民生实事,涉及该县47项,其中37项提前完成年 ...[详细]
-
天下晨間新聞 李克強又提降準,中國封城4大經濟衝擊|天下雜誌
中國持續封,對經濟4大影響達美、美國航空大漲,航空股終於要起飛了?訂價威力爆發,LVMH營收成長近3成您的閱讀篇數已達上限立刻訂閱全閱讀,即可享全站不限篇數閱讀 ...[详细]
-
...[详细]
-
10月10日上午,汉阴县城关一小举行了“红领巾爱祖国”庆祝中国少年先锋队建队75周年暨新队员入队仪式,259名新队员在这庄严而神圣的时刻光荣加入少先队。随着雄壮激昂的出旗曲响起,护旗手们迈着矫健的步伐 ...[详细]
-
天下晨間新聞 李克強又提降準,中國封城4大經濟衝擊|天下雜誌
中國持續封,對經濟4大影響達美、美國航空大漲,航空股終於要起飛了?訂價威力爆發,LVMH營收成長近3成您的閱讀篇數已達上限立刻訂閱全閱讀,即可享全站不限篇數閱讀 ...[详细]