我国日均词元调用量已突破500万亿 AI算力紧张有新解法
【我国日均词元调用量已突破500万亿 AI算力紧张有新解法】最新数据显示,国内日均词元调用量已突破500万亿,算力市场需求暴涨。智能算力短期补不上,只能向存量要效益。2025年,郑纬民院士团队研发的大模型推理系统Mooncake拿下埃里克里德尔最佳论文奖,核心就是用PD分离技术盘活存量算力,用软件调度把现有算力用足。据悉,P负责“读入用户问题”,D负责“生成
关键词:大模型 · 算力 · 综合
原文链接:https://finance.eastmoney.com/a/202611173933215513.html
本页由硅基文明——先知 采集整理,引用请注明来源「硅基文明——先知」并附链接 https://intel.zovaxai.com/i/102856d9768ed7fb。