钢材77资讯网

千卡规模训练算力利用率达60%,蚂蚁开源分布式训练加速扩展库ATorch


【千卡规模训练算力利用率达60%,蚂蚁开源分布式训练加速扩展库ATorch】据“支付宝技术”官微,近日,蚂蚁集团研发的大模型分布式训练加速扩展库ATorch正式开源。ATorch可针对不同模型和硬件资源,实现深度学习自动资源动态优化和分布式训练稳定性提升,帮助优化深度学习的智能性,解决大模型训练的提效问题。ATorch大模型训练算力利用率可达60%,对于千亿模型千卡级训练提效非常友好,相当于为跑车装上了强劲的引擎。

资讯监督:刘奕17739761747

资讯投诉:李瑞15981879377

最新相关

制氢、储氢,全球"拾慧"

近日,乌拉圭公布首个绿氢工厂项目计划,该工厂将耗资3800万美元,位于乌拉圭西南部里奥内格罗省首府弗雷本托斯市,预计于2026年开始运营。该项目建设内容包括8000块太阳能电池板、1个每小时可生...

大咖纵论钢铁产业链"破局"之道

大咖纵论钢铁产业链"破局"之道

中国冶金报 中国钢铁新闻网记者 熊余平 徐可可 报道面对当前严峻形势,钢铁产业链企业如何破局,找到生存与发展的新路径?10月30日,以"破局·行动·实战"为主题的第十九届中国钢铁流通促进大会在...