16:24
北大与DeepSeek联合开源DSpark框架,高并发下生成速度提升超60%
格隆汇6月27日|DeepSeek联合北京大学正式发布DSpark推理加速框架,旨在解决大语言模型在高并发生产环境中的推理效率瓶颈。该框架已部署于DeepSeek-V4-Flash与DeepSeek-V4-Pro的预览版服务引擎中,相比此前生产环境采用的单token推测解码基线MTP-1,在同等吞吐量水平下可将单用户生成速度提升60%至85%。相关论文、训练代码及模型检查点已在GitHub平台DeepSpec项目中开源。

2026-06-271697.5k

商务、渠道、广告合作/招聘立即咨询

相关文章

暴涨!市值新高!被大模型带飞了

哥吉拉 · 3小时前

cover_pic

半小时飙升2倍!史上最魔幻一幕出现了

哥吉拉 · 2小时前

cover_pic

“鹰声” 嘹亮!植田和男埋下连续加息伏笔

林春木 · 31分钟前

cover_pic