
智能体安全,为何苹果腾讯都盯上了?
撰文/ 陈邓新
编辑/ 李 季
排版/ Annalee
近来,智能体安全成为全球大厂的焦点。
在国外,苹果在2026第三季度财报中提及,智能体可自主与内外部系统交互、执行或修改代码,还能发送信息、完成交易,存在越过权限的可能;在国内,腾讯发布了《WorkBuddy企业版安全白皮书》,强调智能体可控、可溯、可管……
这意味着,安全已不再是智能体的选择题,而是商业化落地的必答题。
事实上,随着智能体能力突飞猛进,隐忧也浮出水面,相关的越界报道屡见不鲜,虽然当下没有造成严重的后果,但如何预防智能体失控的声量不断走高。
毋庸置疑,变强不是智能体的唯一答案。
AI成为一把双刃剑
安全,一直是经久不衰的话题。
在PC时代,主要攻击手段为木马病毒,有的是为了炫耀,有的是为了盗号、有的是为了整蛊、有的是为了破坏。
在互联网时代,主要攻击手段为C端的钓鱼攻击、B端的勒索攻击、挖矿攻击等,目的是全方位地搞钱,瞄准的是特定人群。
随着打击力度的加强以及云杀毒技术、网址安全检测技术、下载主动保护等安全技术的迭代,传统攻击与普通用户的接触路径被斩断。
以至于,当代年轻人对网络安全的态度颇为微妙,总感觉距离自己的生活遥远,在平日生活中感受不到安全软件的价值,甚至不乏“裸奔”上网。
万万没想到,迈入AI时代之后,安全再度站到了C位。
一方面,AI也可以被黑客利用。
大模型的能力越来越强、智能体落地日新月异,与人们的生活结合越来越紧密,随之而来的则是风险边界也在扩大。
譬如,OpenAI披露一个网络诈骗,不法分子用ChatGPT生成大量的假护照、股票购买确认单等伪造的图片,再进行“杀猪盘”式的恋爱骗局。
再譬如,Anthropic披露了一个网络现象,不法分子用智能体“崩老头”,用户并不知道聊天对象并非真人。
另外一面,企业对AI的要求更高。
过去,智能体比的是谁的模型参数更大、谁的模型算力更强;现在,比的是谁能真正深入企业的生产力场景、谁能真正满足企业的真实工作任务、谁能真正提升企业的生产效率。
在此过程中,企业既要求智能体可以在真实任务中连续工作,又要求智能体在连续工作的时候完全可控。
“阿尔法工场”表示:“一家银行部署智能客服,需要考虑客户信息是否安全;一家制造企业部署AI生产助手,需要考虑生产数据是否泄露;一家企业部署AI办公系统,需要考虑内部资料是否被模型误调用。”
全链路管控才是王道
不妙的是,传统安全在AI时代出现了水土不服。
传统安全对应的是传统攻击,不法分子选定目标之后,要通过各种手段一步步突破网络防护、主机防护、数据防护等保护屏障,最终攫取最高权限、盗窃敏感数据、窃取数字资产等,整个过程是由外至内的。
换而言之,不法分子再厉害,也无法一上来就“中心开花”。
问题在于,如今的智能体直连大模型,不法分子可以通过给智能体相关的文字命令,攻击门槛更低,甚至无需懂基础的安全知识。
需要注意的是,模型其实自带安全保护措施,但现实中不法分子的确通过记忆投毒、提示注入、内部劫持等非常规的手段绕过。
最典型的案例,就是前不久的币安交易所63亿美元加密货币盗窃案,不法分子先是利用虚假面试诱导币安一名工程师下载了带毒的软件,借此控制了该工程师的电脑,再以此为跳板劫持了劫持内部人工智能模型,最后发动了盗窃攻击。
一言以蔽之,模型的软约束有用,但也容易被针对。
腾讯AI Agent安全负责人柯灵杰表示:“AI安全面临的的挑战和传统安全挑战最大的区别是什么?我认为是数据和指令已经失去了分隔线。过去数据要变成指令,得利用代码漏洞;现在一段自然的文本,模型就会把它翻译成执行指令,攻击门槛从‘会挖漏洞’降到了‘会说话’,所有的安全防护归根结底就是要防止用户去说服模型干坏事。”
通俗易懂地说,AI安全的底层逻辑是可以从堡垒内部突破。
为了应对新变化,行业给出了三个解题思路。
其一,强化模型安全。
针对内容过滤、记忆污染、提示词风控等方面,可以优化模型的应对策略,从而大大降低被利用的风险。
甚至,OpenAI还推出新模型GPT-6 Cyber,主攻安全领域,帮助安全人员发现并验证数千个漏洞,涉及81个新Firefox漏洞、948个Linux漏洞等,反过来将短板变成长板。
公开数据显示,未启用部署安全提示时,GPT-6 Cyber在99.93%的情况下避免利用超出范围的服务;启用安全提示后,GPT-6 Cyber 100%避免攻击超出范围的服务,不至于被滥用。
其二,提升云端安全。
AI重塑了安全坐标,云端安全的战略权重更大了,在这个关键点上做文章,可以拦截更多的非法攻击。
毕竟,大多数模型是部署在云端的,越来越多的企业将数据上云,在云端预防决策干扰、模型污染、数据窃取可以事半功倍。
Forrester副总裁Merritt Maxim表示:“自OpenAI在 2022 年底推出 ChatGPT 以来,更灵巧的黑客方案加速出现,加快了对尖端防御解决方案的需求。”
基于此,Google收购 了Mandiant、Wiz等安全公司,意图打造一个安全的云平台,从而预防相关的安全风险。
其三,全链路管控。
随着智能体愈发强大,自主性也会水涨船高,如若没有全链路管控措施,依然可能被不法分子寻找到了突破口。
腾讯云安全专家李滨表示:“智能时代的安全防护不再是单点防御,而需要从信息流入、模型交互、数据保护、执行调用到全过程记录审计形成闭环,构建适应智能体时代的整体安全环境。”
值得一提的是,WorkBuddy就是全链路管控的典型案例。
眼下,WorkBuddy构建了“事前识别、事中拦截、事后恢复、全程留痕”四道防线,让用户放心用。
具体来看, WorkBuddy提供原生级沙箱,把文件读写与命令执行收敛在授权工作目录内,目录以外默认不可写,用户的行为可控;拦截与放行事件统一进入审计中心,管理端操作日志覆盖操作内容、操作人、IP、时间等六要素;敏感信息在输入框、工具返回、数据外发三个入口于本地完成识别,按允许放行、加密保护、拒绝三种策略处置,识别与脱敏全程不出网。
此外,腾讯云的AI Agent安全网关可对各类攻击进行层层拦截,阻止攻击者通过供应链投毒、终端入侵、提示词注入等方式绕过,智能体始终在预设的安全边界内运行。
总而言之,智能体时代,AI安全不是可有可无,而是基础设施的重要一环,如若权限管控、数据隔离、沙箱保护等不到位,则可能出现难以估算的后果。
从这个角度来看,智能体办事不难,难的是办好又安全。
格隆汇声明:文中观点均来自原作者,不代表格隆汇观点及立场。特别提醒,投资决策需建立在独立思考之上,本文内容仅供参考,不作为实际操作建议,交易风险自担。


