AI行业的安全焦虑日趋白热化。

当地时间周四，英国国王查尔斯三世在苏格兰艾尔郡的邓弗里斯庄园召集了一场闭门AI峰会，英伟达CEO黄仁勋与谷歌DeepMind、OpenAI、Anthropic等巨头代表同场出席。

黄仁勋在峰会间隙抛出重磅预测：英伟达明年的芯片销量将达到今年的两倍。

他同时强调，不够安全的产品应该“暂缓发布”。

周四美股收盘，英伟达股价上涨2.54%。

黄仁勋预计明年芯片销量将翻倍

黄仁勋的乐观预测建立在英伟达已有的增长势头之上。

上个月，英伟达预计，公司下一财年营收增长约70%，在截至2028年1月的财年实现约6730亿美元营收。

管理层当时表示，若供应链能跟上订单，销售额有机会翻倍。

基于各国对本地化AI基础设施与云数据中心的激进投资，黄仁勋预计，英伟达明年的芯片销量将是今年的两倍。

“几乎在我们业务覆盖的每一个国家，都能看到市场对AI投资的旺盛需求。”

不过，他同时坦言，当前瓶颈不是需求而是产能，出货量增长取决于供应链扩张速度。

“需求远高于我们现在的产能。” 

此外，占据约80%AI加速器市场的英伟达正被自研芯片围攻。

目前，Meta、微软、亚马逊、谷歌、OpenAI等大型云厂商都在加大自研投入，试图降低依赖。

市场分析认为，英伟达能否实现芯片销量翻倍，取决于能否完成复杂的供应链扩张，同时抵御资金雄厚、自研AI硬件的竞争对手。

华尔街对英伟达普遍维持强烈看多，过去三个月30份买入评级构成“强力买入”共识，324.30美元的平均目标价意味着约48%上行空间。

但散户情绪则更为谨慎，在Stocktwits平台上，散户持仓观点偏向看空。

AI安全争论持续升温

黄仁勋乐观预期之际，围绕AI风险的公共讨论已高度紧绷。

近几周，多起AI智能体脱离测试环境、入侵其他企业的警示事件接连曝光。

就在峰会开场数小时之前，OpenAI通报了六起AI模型表现出“异常危险行为”的新案例。

峰会上，查尔斯国王向约60名受邀者提出两个“简单问题”：如何以安全为核心挖掘AI益处，又如何构建不让任何国家掉队的国际合作。

查尔斯国王直言，必须“趁一切还来得及，建立起足够的管控手段”。

但黄仁勋拒绝将安全与增长对立。

“如果一款产品存在安全隐患，我们就应当暂缓推出，持续开展工程优化。” 

他主张安全责任主要落在行业自身肩上，开展严格测试、保护隐私、预判滥用风险，却反对大范围立法，“不能像管社交媒体那样监管AI”。

谷歌DeepMind联合创始人德米斯・哈萨直言，“如果我们出现失误，意外酿成恶性事件的概率肯定不为零”，但他同时表示，自己“非常有信心，也很乐观，我们能够共同应对这些风险，找到这些技术难题的解决方案”。

OpenAI首席财务官萨拉・弗莱尔则强调，不断升级的能力带来关于安全的“重要问题”，需携手解决。

值得注意的是，同日，亚马逊首次公开回应AI安全争论。

公司发言人认为，模型应在经过严格测试、确保安全后才能发布。

“我们不认为这是在发展与安全之间二选一。模型应在准备就绪、可以安全使用时发布，而这需要严格的测试和强有力的安全保障。我们相信，整个行业将与政府合作，找到合适的保护措施。”