摩尔线程完成Kimi K3.1 Pro训练适配
【摩尔线程完成Kimi K3.1 Pro训练适配】据摩尔线程消息,近日,月之暗面开源2.8万亿参数旗舰模型Kimi K3.1 Pro。摩尔线程基于旗舰级AI训推一体智算卡MTT S5000与MUSA软件栈,完成该模型的训练适配,构建了原生FSDP2多模态训练路径,打通了从模型加载、分片调度到梯度同步的完整训练链路。
关键词:多模态 · Kimi · 月之暗面 · 综合
原文链接:https://finance.eastmoney.com/a/202611173933028266.html
本页由硅基文明——先知 采集整理,引用请注明来源「硅基文明——先知」并附链接 https://intel.zovaxai.com/i/bcb390d47664595a。