
AI进入狂奔模式,安全还能跟上吗?

“AI带给企业的不只是效率革命,也是一场安全重构。
2026年5月21日,香港Tech Fest Summit 2026不大的会场范围里,超过2000名技术从业者穿梭于三场Power Panel、十余场Fireside Chat、两个Workshop以及数十个展台。各种语言交织的讨论声里,众人讨论的焦点早已不是“企业要不要用AI”,而是当AI开始代理我们的企业流程、接管客户体验、编排内部系统之后,谁来保证安全?谁又来为AI的决策负责?
整场峰会始终贯穿着一种鲜明的张力:一边是Agentic AI、机器人、智能硬件与智慧城市的全面狂飙,它们正快速重构产业形态,颠覆传统软件与交互模式;另一边,则是软件供应链攻击、开源漏洞泛滥、AI治理缺失带来的安全隐患持续放大。AI赋能千行百业的速度前所未有,但安全防护的滞后性也愈发凸显。
从“透视中国AI 2030”到“Agentic AI”圆桌思辨,从帆软国际的企业数字化实践,到CleanStart的开源安全解决方案,再到多位CISO关于组织信任与治理体系的分享,这些看似分散的议题,最终都指向同一个核心问题:当AI开始深度介入企业核心系统,利用好AI的同时,安全如何前置,治理如何跟上。
而香港背靠大湾区、连接国际市场的独特区位,也让这场峰会成为观察全球AI与安全产业演进的重要窗口。在这里,既能看到中国AI产业的高速推进,也能感受到国际市场对合规、安全与可信治理的高度敏感。
当Agentic AI已成为组织的一部分
在普通话专场“透视2030:中国AI应用全景”两人对谈中,著名IT社区CSDN创始人、董事长蒋涛的开场白,就让全场安静下来。
“从业26年以来,我发现今天AI的发展,已经不是以年为单位,而是以周和月。”他随即举了一个数字:Anthropic在短短五个月内,年化收入从不足100亿美元迅速逼近500亿美元。“在这种高速进化过程中,你上个月建立的认知,到这个月可能已经完全过时了。”
这种演进速度,正在重塑软件行业本身。蒋涛认为,传统软件公司的护城河正在被快速削弱,因为“任何人都能写代码了”。他以短视频行业类比:过去拍视频需要专业团队,而当技术门槛被大幅降低后,大量普通人开始涌入创作,一个全新的短视频时代也随之到来。
更直观的变化,则发生在硬件与交互层面。另一位对谈嘉宾、Rokid技术副总裁王俊杰摘下自己佩戴的眼镜,对观众展示道:“这不是普通眼镜,而是AI眼镜。比如现在就能直接帮大家拍照,不需要再操作手机,而且它的耳机功能还能实时翻译,更像一个隐形助手,让人与人的交流依然自然流畅。”
他判断,到2030年,手机将从今天的“交互中心”逐渐退化为“边缘计算设备”,而AI眼镜、可穿戴设备等新终端,则可能成为下一代核心入口。

炉边谈话“透视2030:中国AI应用全景”现场,来源:数据猿
两位嘉宾还提到,中国AI产业正在形成越来越清晰的分层格局:一类是聚焦大模型、机器人等方向的硬核科技企业,依托本土技术能力抢占全球赛道;另一类则是深耕C端垂直场景的AI原生公司,深挖场景需求,实现技术与民生、产业的深度融合。AI不再是单一技术概念,而是渗透千行百业的底层基础设施。
在展区一侧,我们采访了帆软软件国际客户经理伍俊儒。作为中国领先的大数据BI与分析平台提供商,帆软早在2018年便开始服务香港市场,并将设立于湾仔的香港分公司,视作把握香港AI发展机遇的重要支点。
伍俊儒告诉数据猿,帆软正在经历明显的AI转型。除了传统“All in One”数据解决方案外,公司已推出AI驱动的新产品,可对接主流大语言模型,实现数据问答、自动生成报表等能力,覆盖从底层数据处理到可视化分析的完整链路。
她表示,帆软国际拥有独立研发团队,能够针对本地市场需求进行技术适配,并以AI+BI的融合方案,帮助本地及国际企业推进数智化转型。“不少客户原本就在使用帆软的BI产品,我们现在做的,就是让他们现有的数据体系无缝接入AI能力。”与此同时,在帆软看来,灵活性同样重要,“帆软的AI产品和BI产品既可以独立使用,也能联合部署。客户有弹性,我们才有空间。”

帆软国际展台,来源:数据猿
如果说“中国2030专场”和帆软国际展示的是AI技术演进的“速度”,那么“Agentic AI:重新定义客户体验与企业结构”圆桌讨论,则更多指向了企业治理的“广度”。来自技术、零售、娱乐等行业的中高层管理者围坐一堂,讨论的焦点不只是技术本身,更多是企业该如何应对AI深度介入组织之后带来的治理挑战。
圆桌伊始,台上嘉宾首先对“Agentic AI”进行了定义:普通AI代理只能按照预设步骤执行任务,而Agentic AI则具备自主推理、自我反思、记忆管理以及多智能体编排等四大核心能力,不再局限于简单自动化,而是开始深度参与企业决策与流程调度。
机遇背后,落地挑战也随之而来。业内嘉宾坦言,在Agentic AI时代,即便是不懂代码的市场经理,也可以通过自然语言指令,让AI自动编排完整业务流程。在大幅提升效率的同时,也带来了巨大风险,那些未经IT部门审核、私自搭建的AI应用,正逐渐成为企业治理的高风险区域。
目前,绝大多数企业在部署Agentic AI时,都面临治理难题。AI拥有自主决策能力后,一旦出现逻辑偏差、数据泄露或业务误判,责任边界将变得模糊;同时,AI高度依赖开源框架与海量数据训练,数据安全与合规风险也难以回避。人机协作边界不清、行业规范缺失、风控体系不成熟,正成为制约Agentic AI规模化落地的核心瓶颈。
不可否认,Agentic AI正在全方位重塑企业内部流程。一系列无法回避的新问题也摆在面前:如何在创新与风险之间取得平衡?是否需要设立CAIO(首席人工智能官)统筹并承担更多责任?如何守住数据安全、业务合规的底线?这些问题,逐渐成为各类企业迈向AI时代必须面对的必修课。

圆桌论坛现场,来源:数据猿
猝不及防的AI时代
那些安全公司能做些什么
如果说AI带来了技术发展的“速度”与对企业体系的深度“重构”,那么展会上数量占据半壁江山的安全公司,则在这场狂飙突进中不断提醒行业保持理性。在Tech Fest Summit 2026上,安全已不再只是“防火墙”和“杀毒软件”等传统概念,而是进一步演化为“软件供应链安全”与“主动式防御”。更值得注意的是,几乎所有安全厂商的展台,都已经开始全面拥抱AI。
总部位于新加坡、深耕亚太市场的端到端网络安全服务商Ensign InfoSecurity,就在展台上密集展示了多项AI相关能力:左侧是“Agentic SOC(安全运营中心)× CTEM(持续威胁暴露管理)”,右侧则是“Comprehensive Range of Agents(全面覆盖的智能体)”,将“AI化”直接写在了展台中央,也折射出这类安全企业全面拥抱AI时代的迫切感。
走进另一家安全公司CleanStart的展台时,最先吸引人的反而是它的名字。这家由Triam Security更名而来的企业,用“CleanStart”直白地表达了自己的价值主张。CleanStart工程解决方案总监Tarun Gupta对数据猿表示:“我们的目标很简单,就是让客户每一次启动容器时,面对的都是一个干净、零漏洞的镜像。”

CleanStart公司参展团队,来源:数据猿
在AI时代,企业对开源组件和开源镜像的依赖正不断加深,大量开发人员经常从Docker Hub等公共仓库直接拉取镜像,并以此为基础部署应用。然而问题在于,这些镜像中往往潜藏着漏洞、恶意代码,合规风险也不明,企业因此陷入“无穷无尽的补丁循环”:今天打完补丁,明天新的漏洞又出现了。
Tarun Gupta表示,CleanStart采取的是一条不同于传统安全厂商的路径。“我们的思路不是扫描出漏洞后再提醒用户修补,而是回到最初的源头。”他介绍道,CleanStart会从源头重新构建软件包,再基于这些软件包构建镜像,从而建立起一套能够在漏洞进入生产环境之前就将其识别并清除的机制。“当你的容器启动时,它本身就是干净的,而且我们还能帮助它持续保持干净。”
在Tarun Gupta看来,软件供应链攻击几乎每天都在发生,而随着越来越多开发者借助AI调用开源组件、快速构建应用,软件供应链变得更加脆弱和复杂。如今几乎每个人都可以开发应用程序,因此安全必须从源头开始。为此,CleanStart推出了软件供应链态势管理解决方案,以期帮助企业客户从源代码、软件包到镜像部署,实现对软件供应链全生命周期的安全管理。
在展馆另一侧,一家香港本土安全企业的技术负责人正向参观者介绍他们的核心能力。他说道,传统防火墙更像是在道路上设置路障,往往要等攻击者突破防线后,企业才意识到风险已经发生。“我们现在做的,是利用AI学习什么是‘不寻常’的网络行为,在攻击真正发生之前就发现苗头。”
据介绍,该公司的解决方案通过AI持续分析网络流量、终端行为以及各类异常模式,并结合中国内地头部威胁情报厂商的数据能力,实现跨平台联动,一旦识别出潜在威胁,系统便可自动联动防火墙或终端防护产品进行处置,将风险阻断在扩散之前。“AI就像一个副驾驶,时刻帮你盯着人类难以察觉的角落。”
由此我们可以看到,当越来越多的人讨论AI可能带来的安全隐患时,另一群安全从业者也在尝试用AI对抗风险。某种意义上,AI既可能成为新的攻击面,也正在成为更敏锐的防御工具。
安全不止于技术。本届大会专门设置了“应对Agentic AI与后量子威胁(Post-Quantum Threats)”圆桌论坛,香港金融管理局代表也参与了讨论。这释放出一个明确的信号:随着AI自主性(Autonomy)不断增强,监管层对于其潜在风险与治理问题正给予越来越高的关注。
安全的内涵也在不断扩展,它不再只是传统意义上的“防攻击”,还包括“防AI失控”以及“防后量子时代加密体系失效”。而在制度与组织层面,CISO(首席信息安全官)的角色也被重新定义。
作为本届Tech Fest Summit Workshop分会场的压轴活动,24位CISO共同参与撰写的新书《首席安全官的一天(A Day in the Life of a CISO)》正式发布。三位作者在现场分享时提到,在AI时代,技术能力只是CISO的基础能力,而真正决定其长期价值的,往往是沟通、共情以及建立信任等软技能。
谈及如何在复杂组织中建立信任,其中一位分享者结合自身实践,分享了他对“信任公式”的看法:
信任 =(可信度 + 可靠度 + 亲密度)÷ 自私度
他解释道,在CISO的工作场景中,可信度体现为专业技术能力,可靠度可以说是持续兑现承诺和按时交付,亲密度则来自人与人之间的理解与连接;而“自私度”则是分母:越计较个人得失,组织中的信任就越难建立。
在AI日益深度参与企业运营的背景下,安全管理者面对的已不只是技术问题,更是组织协同、跨部门沟通和信任构建的问题。某种程度上,未来CISO的竞争力,不仅来自对技术的理解,更来自对人与组织的理解。

《首席安全官的一天》新书发布会,来源:数据猿
纵观以上三个案例,一条清晰的逻辑链逐渐浮现。以CleanStart为代表的企业,着力解决开源供应链的“源头污染”问题,从软件构建环节降低漏洞与风险;不少香港本土安全厂商则通过AI驱动的威胁情报能力,实现风险提前识别,将防御从“事后响应”推向“事前预警”;而峰会尾声,多位CISO分享的信任构建与治理经验,则补上了人与组织管理的关键一环。
三者层层递进,共同构成了“源头防护—风险预判—治理担责”的安全闭环。这或许就是Tech Fest Summit 2026围绕安全议题所给出的最具系统性的答案。
AI越自主,安全越不能退让
回看整场峰会,行业拥抱AI的主线已经十分清晰:从Agentic AI到智能硬件,从企业数字化到智慧城市,AI正以前所未有的速度渗透各个产业场景。而另一条同样重要的暗线,也在悄然成形——安全正在从事后补救走向前置治理,从被动防御转向主动构建。
一个越来越明确的共识正在形成:AI可以不断追求更高的效率和更强的自主能力,但安全必须同步演进。智能体拥有的权限越高、介入核心业务越深,治理规则、风险边界和责任机制就越需要嵌入其全生命周期,而非等到问题发生后再去修补和纠偏。
事实上,随着AI从“辅助工具”逐步演变为能够自主规划、调用系统和执行任务的“数字员工”,企业面临的挑战正在发生根本变化。过去数字化转型解决的是“如何连接更多系统”,而AI时代需要回答的,则是“如何管理越来越自主的系统”。当决策链条中出现越来越多由AI参与甚至主导的环节,安全的意义也不再局限于技术防护,而开始延伸至治理机制、责任体系以及组织信任的重构。
技术可以持续突破边界,但数据隐私、业务合规与企业经营的底线始终不容忽视。未来企业之间的竞争,也将不只是比拼谁的模型更强、应用落地更快,而是谁能够率先建立与AI能力相匹配的治理框架、安全体系和风险管理能力。某种意义上,AI的上限决定企业能够跑多快,而安全与治理的成熟度,则决定企业最终能走多远。
当Agentic AI变得越来越聪明、越来越自主时,行业则更需要保持理性与克制。创新与安全从来不是非此即彼的选择,而是同一枚硬币的两面。唯有让创新与治理同行、效率与风控共生,人工智能才能真正从一项前沿技术,成长为企业可信、可控、可持续发展的核心生产力。
格隆汇声明:文中观点均来自原作者,不代表格隆汇观点及立场。特别提醒,投资决策需建立在独立思考之上,本文内容仅供参考,不作为实际操作建议,交易风险自担。


