11:18
农业银行董事长谷澍:大模型当前面临三大类风险
格隆汇6月18日|在2026陆家嘴论坛“全体大会六:科技创新赋能金融高质量发展”上,中国农业银行董事长、执行董事谷澍表示,在应用大模型过程中,AI大模型当前面临的主要风险包括模型黑箱、模型幻觉、模型自主思考和决策带来的不确定性。在他看来,这种不确定性风险可进一步细分为三大类:

一是参数海量带来模型可解释性的难题。现在主流大模型的参数规模已经有千亿甚至万亿级别,海量参数的矩阵运算和生成非线性叠加导致模型的决策机制和输出结果不透明,也很难解释。

二是概率生成带来准确性的考验。大模型决策过程不像人类进行决策时有线性思维的过程,而是根据海量训练数据统计词源token的概率性规律,本质上是概率统计,不是逻辑性的事实推导。当数据和事实依据不足时,容易产生自洽的幻觉。

三是模型现在已能自主思考和决策了,随着大模型的进化和智能体的深度应用,它已突破传统软件输入输出相对固化的范式,能够自主思考,这在一定程度上放大了过程不可控、结果不可知的风险。
相关主题/热点

2026-06-18286.6k

商务、渠道、广告合作/招聘立即咨询

相关文章

再捐54.7亿美元!巴菲特加码家族慈善

茶山 · 1小时前

cover_pic

这一轮恒生科技的回撤,不要着急

读财研习社 · 昨天 22:29

cover_pic

尾盘有资金进场,周二看三个信号

海西一狼 · 昨天 22:10

cover_pic

深度 | AI 商业化的最大瓶颈,是时候重新审视了

时间线 Timelines · 昨天 22:06

cover_pic

公告精选︱科翔股份:拟30亿元投资建设AI算力服务器项目;中海油服:拟将以109.28亿元投资建造六型59艘油田工作船

公告达人 · 昨天 22:03

cover_pic

失去黄仁勋的英伟达还能稳当AI霸主吗?摩根大通全球私人银行首席投资官警告:前沿实验室算力份额从90%坠落至28%,英伟达不再一家独大

投资者内参- · 昨天 21:58

cover_pic