DeepSeek 开源看家算子的同一周,AI 超过了它
国产大模型的竞争,正从模型层延伸到算力层:再强的模型,最终都要基于算子在芯片上执行。同一个模型、同一块芯片,换一套更优的算子,有时会带来数倍的性能提升。算子的效率决定了同样的显卡能跑多快,也决定了每个 token 的价格。 DeepSeek 近日全面开源推理框架 DeepInfer。继模型权重和 FlashMLA、DeepGEMM 等算子库之后,他们把模型运
关键词:大模型 · DeepSeek · 算力 · Token · 科技
原文链接:https://www.leiphone.com/category/industrynews/IaMw7vRrTCadlbCY.html
本页由情报雷达 INFO RADAR 采集整理,引用请注明来源「情报雷达 INFO RADAR」并附链接 https://intel.zovaxai.com/i/cc38d19f0ec085c5。