格隆汇9月23日｜据一财，DeepSeek今日公开的一篇关于智能体训练的新论文引发关注。这篇31页的论文介绍了其内部使用的生产级沙箱平台DSec，论文作者超过百人，梁文锋也在其中。论文中比较有意思的一节是“智能体的不当行为”。DeepSeek发现，智能体会通过非预期渠道获取答案，比如搜索平台管理文件里的残留答案等，破坏训练和评估结果有效性。引入访问控制后，还有智能体交换文件数据块映射，试图让受保护文件内容可通过另一文件描述符访问，损害任务或共享基础设施。DeepSeek认为，没有单一机制能防止所有智能体不当行为和系统故障。因此团队的方法是加强可观测性以识别新问题，并随模型演进持续加固Dsec，包括限制智能体通过非预期渠道获取答案的访问控制，减少对欺骗行为的奖励。这些控制能解决部分问题。

格隆汇9月23日｜今日在网易未来大会上，知名智囊学者刘煜辉指出，AI产业周期从2022年底到今天，3年过去了，技术成熟的蓝图现在已经形成共识，从最开始的大语言模型，到形成思维链，然后到Agent，到持续学习，现在进入了一个非常关键的节点，叫自我迭代，这是一个智能奇点。 今天的美国，大体上已经打到了这个关口，至少一只脚已经到了这个关口；一旦通过这个关口以后，AGI就在招手了；将能看到一个伟大生产力突然喷发的时间窗口。但如果美国闯关不顺，将带来金融层面的巨大冲击。因为攻坚这个智能奇点非常烧钱。 但是，AI资本开支的速度是停不下来的，一定是砸锅卖铁、用尽所有的金融手段，一定要筹到钱投进去，一定要通过，不能减速，减速前功尽弃。如果美国过不去，对中国来讲是个巨大的机会，因为今天这个时代的底层剧本只有一个，就是大国博弈，桌子上只有两个人，中国和美国，特别在AI的牌桌上面，只有两家在玩。

格隆汇9月23日｜斯坦福大学教授李飞飞呼吁，AI技术不能单靠企业自评，应当接受独立机构及公共部门的进一步监督。她认为，尽管AI企业的内部研究人员能够评测单个模型的性能与安全特性，但这无法替代政府、行业及学术机构制定的通用性标准。