告别单打独斗,国产大模型与大算力开启“抱团突围”

2 小时前14.1k
从Step 5 Preview实测,看国产AI如何跨过算力的物理墙。

国产大模型与国产大算力,再次迎来一次极具标志性的对齐。

阶跃星辰正式开源新一代旗舰模型 Step 5 Preview,凭借稀疏 MoE 架构、600B 总参数量和 1M Token 的超长上下文,在 AI 编程、软件工程、金融等复杂任务中表现出较强能力。

几乎同一时间,首套 1024 卡华为 Atlas 950 SuperPoD 液冷超节点点亮。昇腾不仅基于 vLLM 推理引擎实现了对 Step 5 Preview 的 Day 0 支持,还通过计算、通信与调度层面的软硬协同优化,将这台「算力巨兽」的推理潜能压榨到了极致。

模型架构的极限,与物理算力的边界迎来正面相撞,一场关于「如何用国产算力托起世界级大模型」的深度实验,就此展开。

1、Step 5 Preview 实测,模型能力的边界在哪?

要理解这场合作的含金量,先要看清 Step 5 Preview 本身的份量。

由于模型已经发布一段时间,榜单成绩这里就不再赘述,总结就是两个要点: Artificial Analysis Intelligence Index(AA 智能指数)拿到 44 分;单任务成本为 Claude Opus 5 的 1/8。

而且,Step 5 Preview 的总参数仅有 600B,对比 DeepSeek V4-Pro 的 1.6T、Kimi K3 的 2.8T,体量尤为克制。但模型依然做到既支持 1M Token 的超长上下文窗口,也支持多模态输入,在规模、成本与上下文之间找到了一个平衡点。

正如官方博客中所描述,Step 5 Preview 在同样成本下获得更强智能,也让同等能力以更低成本投入实际工作,进一步推动 AI 模型的帕累托前沿。

这种平衡,主要来自模型架构上的设计。

Step 5 Preview 采用了全新的 Sparse Attention 结构:先通过 Indexer 筛选出相关 Token,再只在选中范围内计算 Self Attention;同时以 Region(8 个 Token)为单位压缩 Indexer Key,从而缓解 Index 阶段的计算瓶颈。

这就好比大群开会,如果每个人都发言,信息量一定爆表,也抓不住重点。更合理的方式是每 8 个人分成一组,每组写一条摘要,每个人只看这些小组摘要,快速挑出跟自己最相关的几个组,再只进这几个组里细聊。

这种设计可以明显降低长上下文场景下注意力与索引阶段的计算量,从而提升推理效率,减少单位任务的计算开销。

但这只是理想状态,一些新的疑问是,这样的检索方式是否会影响结果精度,以及,稀疏化省下来的计算,是否真的能兑现为端到端的效率与成本优势?

能力具体如何,我们也给它来了场实战。

既然 Step 5 Preview 把「长程任务」和「金融场景」作为核心卖点,那长达 335 页的 Anthropic 招股书,正好是一块合适的试金石。

第一个任务,考验查账能力。

我们让模型去提取财报里的核心数据。但这个表格里藏着坑,有两列挨着的数字,年份都叫「2025」,但一个是全年总结,一个是半年小结。

普通 AI 为了追求速度,往往会采用「压缩扫描」的模式(技术叫 Sparse GQA)。遇到这种高度相似的数据,它很可能一眼扫过去,就有可能张冠李戴。

提示词如下:你面前是 Anthropic, PBC 的 S-1 招股书网页版全文。请找到包含营收(Revenue)与利润(Income/Loss from operations 或 Net income/loss) 的核心财务数据表格。然后完成以下任务:

提取最近一个完整财年的营收和经营利润(或净亏损)数字。

提取最近一个中期期间(如截至 2026 年 9 月 30 日止九个月)的营收和经营利润(或净亏损)数字。

对上述每一个数字,输出它在表格中的行标签原文和列标题原文。

明确指出:表格中是否存在语义相近但归属不同期间的相邻列或相邻行(例如“2026 年前九个月”与“2025 年前九个月”并排)?如果有,你是如何区分你取的数字属于哪个期间的?

如果你在表格中发现了脚注标记(如 (1)、(2) 或 *),请说明该脚注是否改变了你所取数字的口径。

输出格式:

最近完整财年营收: / 行标签: / 列标题:

最近完整财年经营利润(或净亏损): / 行标签: / 列标题:

最近中期营收: / 行标签: / 列标题:

最近中期经营利润(或净亏损): / 行标签: / 列标题:

相邻竞争项说明:

Step 5 Preview 思考了 6 分钟后,给出了准确的数据,并且在数据说明中给出了非常详尽的解答。

同样的提示词我还丢给了 GLM-5.3,以及最新的 Kimi-3.1 Pro。

三个模型回答对比如下:

⬆️ Step 5 Preview,耗时6分钟,消耗 37.68积分

⬆️ GLM-5.3,耗时2分36秒,消耗39.54积分

⬆️ Kimi-3.1 Pro,耗时3分03秒,消耗36.58积分

GLM-5.3 和 Kimi-3.1 Pro 的思考用时极短,分别仅为 2 分 36 秒和 3 分 03 秒;但在积分消耗上,GLM-5.3 最高(39.54),Kimi-3.1 Pro 最低(36.58),而耗时最长的 Step 5 Preview 则为 37.68,在额度消耗上差距并不明显。

但从答卷风格来看,三个模型特点各异。Step 5 Preview 的回答极为详尽,甚至把 HTML 表头的列宽跨度和底层的映射逻辑都掰开揉碎。这与 Kimi-3.1 Pro 极度克制、干净利落的简洁回答形成了鲜明对比。

我也仔细扒了这三个模型的思考过程。Step 5 Preview 和 GLM-5.3 的思路高度一致:面对巨型网页,它们都选择了「暴力破解」,将文件下载到本地,并自主编写 Python 脚本来解析 HTML 表格。尤其值得一提的是 Step 5 Preview,它的执行思路非常缜密,步步为营;相比之下,Kimi-3.1 Pro 并未过多透露它的解题路径。

所以,如果你只想要个准确、直接的答案,前两种模型明显更快;但如果你面临的是需要绝对数据溯源、或者需要生成自动化代码的复杂工程任务,Step 5 Preview 这种不惜笔墨、死磕底层的「工程极客」特质,就是它最深的护城河。

具体可以用在哪,我也让三个模型根据财报输出了一个可视化网页,强调「设计一个控制滑动条,可以控制『假设公司明年营收增长 10%、20%、30%』。滑动条拖动时,网页上会自动计算出对应的「预计净利润」,并且画一个简单的柱状图。」

三个模型的「作业」分别如下:

⬆️ Step 5 Preview,耗时2分24秒,消耗23.55积分

⬆️ GLM-5.3,耗时7分40秒,消耗65.2积分

⬆️ Kimi-3.1 Pro,耗时7分55秒,消耗74.41积分

差异非常直观。Kimi 还是保持一贯的极简主义,GLM 交出了一份结构清晰的咨询高管研报;而 Step 5 Preview,交出了一个真正可以用于金融投研的量化测算系统。

另一个点是,三张图都在强调「419 亿不是真烧钱,主要是 SAFE 公允价值变动」。但在 Step 5 Preview 的答案里,它精确地分离了「经营亏损(-8.06 亿)」和「净亏损」,并做了极度详细的底层假设备注。

重点是,三张图消耗积分分别为 23.55(Step 5 Preview)、65.2(GLM-5.3)、74.41(Kimi-3.1 Pro),Step 5 Preview 在积分消耗最少的情况下,用时只有 2 分钟,其它两家模型都需要 7 分钟,显然这一局,Step 5 Preview 在效果、耗时和成本上都占了优势。

毕竟在极短时间内,凭空捏出一个动态交互流畅、信息量惊人且财务模型极其严密的工具,没有顶级的工程代码能力是绝对做不到的。

2、前沿模型的野心,需要怎样的算力底座?

如今的旗舰大模型,虽然架构各异,但走向落地的底层逻辑殊途同归。

无论是阶跃星辰的稀疏 MoE、Kimi 的超长文本,还是各类主打多模态、Agent 的模型,它们都在试图打破「参数规模」和「上下文长度」的天花板。然而,再精妙的模型架构,到了推理落地阶段,都会转化为对内存带宽、通信延迟和算力调度的极致要求。

尤其是在长上下文、多模态和 Agent 场景下,传统的集群算力往往会被通信瓶颈卡住脖子。

还是以 Step 5 Preview 为例,它是稀疏 MoE 架构,总参数 600B,但每个 Token 只激活 27B,权重很多,计算时却要在不同卡之间来回传数据,通信压力很大。

另外,1M Token 的上下文会产生很大的 KV Cache,需要很大的内存空间和很高的内存带宽,否则模型会频繁等数据。

所以它需要的算力补给是,大统一内存、低延迟卡间通信与精细化调度能力。

昇腾 950 的解法,是先在物理架构上把 1024 张卡压成一个「域」,让模型看到的是一台逻辑上的超级计算机。

然后在软件层,再来打通三个具体卡点。

一是计算层,减少碎片化操作。把 Indexer 的打分、TopK、排序等小步骤合并成更少的算子,减少反复调度;用 FP8 量化压缩权重,同时尽量保持精度。

二是在通信层,减少重复流量和等待。同一个 Token 被同一台服务器上多个专家选中时,只向远端发一份,再在本地分发;结果归并时用双缓冲,一边收上一批结果,一边处理下一批,减少空等。

三是调度层,让计算和数据搬运重叠。让上千张卡的计算和数据传输尽量接上,多 Token 预测时主模型和辅助模型交替执行,中间少留空档,避免卡在等待上。

硬件决定了能力上限,软件决定了这些能力能被用上多少。是实现 Day 0 适配 Step 5 Preview、并在千卡规模跑出高效率的关键。

3、国产大模型与大算力,完成双向奔赴

Step 5 Preview 与昇腾 950 超节点的协同,只是国产软硬生态咬合的一个切面。把视线从这一个案例上移开,你会发现这条「双向奔赴」的路径上早已挤满了同行者。

在模型这一侧,昇腾超节点 Day 0 适配的名单远不止 Step 5 Preview。

DeepSeek V4 发布即获得昇腾超节点系列全面支持;蚂蚁百灵大模型 Ling-2.6-flash 开源后与昇腾 910 全系列产品完成适配。

而在更广的国产芯片阵营里,沐曦自 2025 年 12 月以来已完成 43 个主流旗舰模型的 Day 0 适配,覆盖智谱、阿里千问、MiniMax、DeepSeek、阶跃星辰、腾讯混元等头部厂商。Step 5 Preview 开源当天,华为、沐曦、壁仞、摩尔线程四家芯片厂同步宣布 Day 0 支持。

这种「模型开源、算力秒接」的节奏,正在从个例变成常态。

在算力这一侧,超节点本身也早已不是昇腾的独角戏。

同期与 Step 5 Preview 实现 Day 0 部署支持的,还有沐曦股份、壁仞科技、海光信息、昆仑芯和摩尔线程等国产算力厂商,虽然切入路径不同,但思路都是从硬件算力、软件栈到推理框架做到全链路优化。

把这两条线叠在一起,看到的就不只是「谁适配了谁」的流水账,而是一条正在被主动修筑的生态路径。

长期以来,全球 AI 产业的软硬协同默认以 CUDA 为起点,模型的首发优化、算子库的迭代、开发者的使用习惯,都被锁在单一的生态框架里。

国产大模型主动选择昇腾等国产算力底座,本质上是在用规模化的真实负载,去喂养一套原本缺少「模型样本」的软件栈。

IDC 数据显示,2025 年中国 AI 加速卡市场中国产厂商的出货占比已攀升至 41%,这个数字背后,正是这种双向磨合在一点点兑现为市场份额。

Step 5 Preview 恰好站在这条路径的加速段上。权重开放和硬件适配同步发生后,国产 AI 的竞争单元已不是单颗芯片或单个模型,而是「模型-算子-框架-超节点」这条链路的整体咬合效率。

届时,国产大算力与国产大模型将真正形成一个互为杠杆的「生态飞轮」,顶尖的算力底座为模型提供狂奔的物理沙盘,而前沿的模型则用真实的极限负载反哺算力底座进化,这种模型与算力的深度耦合,构成国产 AI 产业全栈闭环的硬核底气。

格隆汇声明:文中观点均来自原作者,不代表格隆汇观点及立场。特别提醒,投资决策需建立在独立思考之上,本文内容仅供参考,不作为实际操作建议,交易风险自担。

App内直接打开
商务、渠道、广告合作/招聘立即咨询

相关文章

星巴克的“沙发”,不养“闲人”

商业数据派 · 8分钟前

cover_pic

ETF风向标|宽基ETF再爆天量,科创50ETF成交额超220亿,港股消费ETF涨4%,能源化工ETF成年度冠军,沪深300ETF近20日净流入715元

ETF进化论 · 10分钟前

cover_pic

WorkBuddy“长”出了Body:启元机器人,让 AI Agent 第一次走进物理世界

产业家 · 56分钟前

cover_pic
我也说两句