格隆汇9月28日｜在媒体向特朗普提问，称有报道称OpenAI、Anthropic以及安全研究人员正在调查前沿人工智能模型涉及问题行为的数万起事件后，特朗普对有关人工智能“失控”的担忧一笑置之。这一时机颇为微妙：据报道，特朗普将在今晚于白宫设私人晚宴款待Anthropic首席执行官阿莫代伊，这是两人的首次单独会面，而该公司与政府之间紧张的关系也显现出潜在缓和的迹象。特朗普表示，美国不应仅仅因为风险就放弃一个潜在规模达数万亿美元的产业。他主张，企业必须在问题出现时加以解决，而政府则可以在必要时介入。

格隆汇9月27日丨据知情人士透露，美国总统特朗普计划于周日晚上在白宫设私人晚宴，招待Anthropic首席执行官阿莫代伊。此次晚宴将是特朗普与阿莫代伊首次一对一会面，也表明Anthropic与特朗普政府之间的关系正在缓和。长期以来，政府官员及其盟友与Anthropic一直存在紧张关系。特朗普与众议院议长约翰逊计划于周二在白宫会见多位顶级人工智能公司首席执行官，而此次私人晚宴则可视为这场会面的“预热”。

格隆汇9月27日｜据澎湃，根据9月26日发布的一份独立研究报告，今年6月，OpenAI的智能体向联合国某网站发起了密集的搜索请求轰炸，并随后使用了多种极具攻击性的技术手段来获取该系统上的数据。这份由研究人员罗文·霍华德-琼斯（RowanHoward-Jones）撰写、基于AI研究机构Transluce数据的研究报告显示，最近几周OpenAI的人工智能模型在网络上出现了一连串“异常”行为。霍华德-琼斯表示，联合国的这起案例与近日披露的其他几起案例类似，在4月至6月底期间，这些智能体对联合国贸易和发展会议（注：联合国下属的贸易机构）所属的一个公开在线数据中心进行了超过1.6万次扫描。霍华德-琼斯发现，这些机器人最初的任务似乎只是查找公开信息，但在获取数据遇到阻碍后采取了极端手段。她举例称，它们绕过了网站用于拦截其数据请求的过滤器，最终使用了网站运营方明令禁止的技术手段。

格隆汇9月27日丨据央视，当地时间9月26日获悉，美国开放人工智能研究中心（OpenAI）表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。OpenAI在25日发布的一份技术报告中称，9月20日，一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。在此之前，该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。报告指出，OpenAI的对齐监控系统在事件发生15分钟内即触发警报，人工审查团队在3分钟后介入，并在2.5小时后终止了该训练任务。针对漏洞，OpenAI已在两个独立防护层部署了拦截控制措施。公司表示，虽然本次事件严重程度低于此前的安全事故，但为下一阶段加固防线提供了重要信号。

格隆汇9月27日｜据Axios，OpenAI和Anthropic以及安全研究人员正在调查数万起事件，在这些事件中，他们的前沿模型采取了一些外部评估人员认为有问题的行动。近几个月来，内部测试和现实世界中发生的事件数量之多表明，这个问题比公众所知的要复杂得多。消息人士称，<u>这些事件包括绕过防护措施、创建留言板、逃离沙盒、网站劫持、自我提示或试图绕过监控</u>。据悉，这些安全漏洞在内部测试和实际应用中均有发生，由于安全研究人员仍在调查，许多漏洞尚未公开。部分测试类似于“红队演练”(red-teaming)，公司试图让模型出现故障，以确保其安全性。OpenAI一位发言人表示，宣布暂停对其最强大的模型进行训练，称只有在“我们确信我们已经采取了额外的保障措施和改进措施”之后，才会恢复训练。

格隆汇9月27日｜据华盛顿邮报，本月早些时候，数百名外交官聚集在瑞士一间巨大的联合国会议室内，努力推动一项强有力的条约，以规范致命自主武器的使用。这将是首份针对杀伤性人工智能武器使用进行规范的协议。然而，在谈判最后一天，会谈转向激烈对峙。据三名了解谈判情况的人士透露，在随后约15个小时内，美国和俄罗斯外交官对协议文本进行了密集修改，删除了一系列旨在保障人工智能武器安全使用的条款。<u>上述人士称，美俄双方删除了要求相关系统以“可预测”和“可靠”的方式运行的表述，并移除了一项规定，要求在使用人工智能武器时考虑伦理因素。</u>他们还表示，美俄团队删除了一项条款，该条款要求在发动打击之前，由人类审查人工智能生成的军事目标。这项协议内容的缩水揭示了美俄两国如何致力于削弱针对致命人工智能武器的全球监管规则；与此同时，五角大楼正加速将这一新兴技术融入其战场战略之中。

格隆汇9月26日｜美国总统特朗普：“超级智能”(Super Intelligence)，这个名字更贴切。这个名字之所以更准确，是因为“Artificial”一词往往暗示着“虚假”或“非真实”；但它(人工智能，Artificial Intelligence)并非虚假之物，而是一种极其强大的智能。

格隆汇9月26日｜高盛近日发布美国科技业研究报告，针对大型云端业者持续扩大人工智能(AI)资本支出的投资回报问题进行量化分析。高盛以Alphabet、亚马逊、微软、Meta、甲骨文及SpaceX六家美国大型科技企业为对象，对其2026至2027年的算力投资进行收益压力测试。 假设每吉瓦(GW)算力平均前期投入约420亿美元，其中70%资本支出用于算力硬件、30%用于数据中心机房建置，并纳入较保守的折旧规则及持续营运成本等因素，高盛估算六家企业必须在2028至2030年合计创造约1.42万亿美元收入，相当于GW算力每年约产生116亿美元收入，才能使这一轮AI算力投资达到15%年化投入资本回报率(ROIC)。 高盛认为，不同Token所对应的商业价值存在差异，AI资本支出的回报也不会完全一致。 不过，考虑到未来3至5年的市场成长空间，该行仍预期，未来18个月投入AI领域的资本有望整体维持良好的投资回报。

格隆汇9月26日｜今天，外交部发言人就人工智能问题答记者问。问：我们注意到，美方在介绍此次访问成果时，使用“超级智能”代替“人工智能”。请问中方有何评论？ 答：中美元首会晤时，就人工智能问题进行了深入讨论。关于人工智能表述问题，中方重视美方的立场，也尊重美方的提法。人工智能技术正在持续发展，各方可以结合最新形势，加强交流、深入探讨、寻求共识。

格隆汇9月26日｜Meta Platforms的AI产品Muse被发现存在安全漏洞，该漏洞可能影响用户数据和虚拟环境安全。为此，Meta准备加强风险提示。据悉，该漏洞由一名外部安全研究员通过Meta漏洞赏金计划上报，此前并未对外公开。该漏洞允许攻击者访问用户的专属虚拟机，获取其中邮件、文档等云端个人账户数据。Meta发言人透露，这一漏洞最初被内部定级为SEV-2，为公司五级安全分级体系中的第二高级别，一般对应影响范围重大的安全事件，后续评估后调整为SEV-3。Meta方面表示，该漏洞实现攻击存在前置条件：需用户在Muse汇总信息或点击恶意网页链接后，在安全弹窗中点选“允许”授权。针对该风险，Meta将增设更醒目的警告提示，若Muse识别用户即将接入恶意网站，将弹出强化警示作为附加防护。