
叫板英伟达,谷歌两款新TPU主打“专业化”
11月9日,谷歌推出两款自研TPU芯片8tx和8iMax。
加上今年4月发布的8t和8i,谷歌第八代TPU阵容已扩充至四款,首次实现一年连发四款。此举被视为对英伟达的直接挑战。
谷歌再发两款新芯片
谷歌这次发布的两款新芯片,分工非常明确:一个解决数据安全,一个解决内存瓶颈。
先看TPU 8tx,它的核心卖点是“机密计算”。
通常,数据在存储或传输时可以加密,但在内存中处理时必须解锁。这对处理敏感信息的政府机构和受监管企业而言,是一个长期存在的安全隐患。
8tx的做法是将安全防护下沉到硬件层。即便芯片在运行中,也能对敏感数据和模型权重进行隔离。
硬件配置上,它沿用了TPU8t的芯片,但主机搭配了第五代AMDEPYC处理器,并采用低延迟的Boardfly网络。这使得其推理延迟最高可比8t降低一半,且性能损失微乎其微。
对客户而言,这意味着可以在同一个系统内用私有数据微调模型,免去了敏感数据在不同集群间搬运的风险。
再看TPU 8iMax,它直指“内存墙”问题。
当几十个AI智能体同时在庞大的代码库或长视频中进行协同推理时,内存带宽极易成为瓶颈。谷歌的解法是“双芯封装”:将两颗TPU8i芯片集成到单一封装中,使计算能力、片上SRAM和HBM带宽全部翻倍。
这种设计在现有机架空间内实现了双倍的芯片容量,直接提升了单位面积和单位功耗的计算密度,以应对多智能体并发时的卡顿问题。
该芯片主要面向编码助手、数学推理和药物发现等需一次性处理海量信息的任务。
需要注意的是,8tx和8i Max并非从零设计的新架构,而是基于现有处理器的重新设计版本,目的是满足特定客户的定制化需求。
谷歌芯片业务负责人Amin Vahdat表示,这四款TPU产品将针对不同的客户需求进行优化。他认为,这符合谷歌一贯坚持的理念,即未来将属于专业化,而专业化带来的优势依然十分显著。
降低开发门槛
硬件之外,谷歌这次在软件生态上下了更大的功夫。
长期以来,TPU的短板不在算力,而在“不好用”。开发者习惯了英伟达的CUDA生态,若要将代码迁移至TPU,往往需要重写大量底层代码,迁移成本极高。谷歌此次的系列动作,核心目的就是降低这道门槛。
在兼容性上,谷歌开源了Torch TPU。过去,PyTorch代码和HuggingFace上的模型想跑在TPU上,需要大量适配;现在,这些代码可以在TPU上原生运行,开发者不用推倒重来。这标志着谷歌正主动向主流开发者生态靠拢,以降低客户的迁移成本。
针对智能体时代的延迟痛点,谷歌开源了TPU Sync。当智能体处理百万级上下文时,数据在芯片内存与外部存储间频繁搬运,会导致延迟急剧上升。TPU Sync相当于为TPU集群增加了一个统一的内存调度层,将键值传输延迟和首字延迟降低了90%以上,直接缩短了智能体的响应时间。
在性能验证上,谷歌在InferenceX和AgentX这两项行业基准测试中,基于TPU的软件栈跑出了业界领先的性价比。这两项测试衡量的并非芯片的峰值速度,而是真实智能体编码和长上下文任务中的实际表现。谷歌试图借此证明,TPU在实际业务负载中具备成本优势。
这三步棋指向同一个目标:让TPU从“谷歌内部好用的算力”,转变为“开发者愿意接入的平台”。
毕竟,硬件参数再强,如果缺乏开发者生态的支撑,商业闭环也难以成立。
正面挑战英伟达
硬件和软件之外,市场数据也在为谷歌的“挑战”提供底气。
据谷歌披露,TPU的销售对9月份季度的业绩做出了重大贡献,谷歌云收入翻了一番多,达到307.1亿美元。
目前,TPU业务已拥有近100家客户,涵盖前沿实验室、交易公司、零售商和大学等,并且开始允许客户把TPU直接部署到自己的数据中心。
客户版图还在向外扩张。10月份,OpenAI被曝计划采购谷歌AI芯片以减少对英伟达GPU的依赖。同月,谷歌还宣布已与甲骨文达成合作,后者将从2027年起成为首家提供TPU的外部超大规模云服务商。
从云服务到客户自有数据中心,从自家模型到外部大客户,TPU正试图切入英伟达长期占据的私有化部署市场。
不过,挑战英伟达并非易事。
英伟达2027财年第二季度最新财报显示,当季营收达962.21亿美元,同比增长106%;其中数据中心业务收入为890亿美元,同比增长117%。
相比之下,谷歌云在截至9月的季度收入为307.1亿美元,两者体量仍有明显差距。
CUDA生态积累了十几年的开发者习惯和工具链,更不是靠一次开源就能轻易撬动的。
TPU能否从“谷歌自家好用”变成“开发者愿意用”,还要看客户自有数据中心的落地规模和实际采用率。
格隆汇声明:文中观点均来自原作者,不代表格隆汇观点及立场。特别提醒,投资决策需建立在独立思考之上,本文内容仅供参考,不作为实际操作建议,交易风险自担。


