20:19
首字延迟降低3.6倍,腾讯混元提出Stem稀疏注意力算法,长文推理加速新SOTA
格隆汇6月5日|腾讯混元宣布提出Stem稀疏注意力算法,已被机器学习顶会ICML-26收录。根据Stem算法×HPC算子的全栈加速方案,算法层面,Stem通过Token位置衰减(TPD)和输出感知度量(OAM)实现25%预算下的近无损精度;算子层面,HPC开源的Stem+BSA算子将稀疏收益转化为真实硬件加速,128K上下文下首字延迟降低3.7倍。
相关股票

HK 腾讯控股

2026-06-051393.0k

商务、渠道、广告合作/招聘立即咨询

相关文章

两大“抽水机”同时轰鸣,股市流动性压顶!

麦克斯 · 5小时前

cover_pic

SemiAnalysis大幅下调AI算力预测!

默德君 · 3小时前

cover_pic

黄仁勋才刚卸任,英特尔CEO又被告了

阿拉贡 · 6小时前

cover_pic