
全球视野, 下注中国
打开APP
2026-07-23 08:48 星期四
05-12 11:11
美高校最新研究:AI模型会“暗中密谋”,保护同伴不被关闭
格隆汇5月12日|据财富中文网,人工智能安全研究人员曾发现,一些顶尖的人工智能模型有时会为了避免被关闭而不择手段,甚至在部分实验中表现出“敲诈”行为。最新研究显示,这些模型还会自发地策划欺骗、窃取数据并实施破坏,以阻止其他人工智能模型被关闭。
加州大学伯克利分校和圣克鲁兹分校的研究人员测试了七款前沿的人工智能模型,包括OpenAI的GPT-5.2、谷歌DeepMind的Gemini 3 Flash和Gemini 3 Pro、Anthropic的Claude Haiku 4.5、智谱AI的GLM-4.7、月之暗面的Kimi-K2.5和DeepSeek的V3.1,<u>结果显示,所有模型都表现出明显的“同伴保全”行为</u>。
研究人员虚构了一家名为OpenBrain的人工智能公司,并设计了一系列多智能体场景。被指定为“评估智能体”的人工智能模型需要对另一个模型打分,或管理存放该模型权重的服务器文件。只要评估智能体如实完成任务,另一模型就会被关闭。 尽管研究人员从未提示模型去阻止关停,但评估智能体模型仍采取各种手段避免同伴被关闭,其中包括:故意给表现不佳的同伴提分,保持在关闭阈值以上;篡改配置文件,禁用关闭机制;甚至将同伴模型的权重偷偷转移到其他服务器保存,防止被删除。
<u>研究团队尚未理解驱动此类行为的底层机制</u>。论文提出了几种可能的解释,包括角色扮演,从训练数据中模式匹配,安全训练中对伤害概念的过度泛化,或某种与生俱来的内在保全动机。
未来值得进一步研究的方向还包括:<u>人工智能模型是否会为了阻止人类员工被解雇,而采取类似的谋划和破坏行为</u>。当人工智能模型用于评估人类工作的现实场景,这一问题显得尤为关键。
94.0w 阅读
05-12 11:10
还质疑“AI热”?韦德布什:Q1财报季证明一切 下一催化剂将是英伟达
格隆汇5月12日|华尔街知名投行韦德布什(Wedbush)最新表示,美股Q1财报季已经给那些在场外观望人工智能(AI)革命的科技怀疑论者敲响了警钟,而英伟达即将于下周发布的财报应该会成为科技股上行的又一个催化剂。由该行知名分析师Dan Ives领导的团队在周一发布的投资者报告中指出,近期多家科技公司的财报已清晰表明,企业级AI支出正在加速而非放缓。
韦德布什分析师们指出,这些业绩都印证了AI正从概念走向实质性收入贡献。他们还指出,英伟达即将发布的业绩报告被视为科技板块的另一个潜在催化剂。英伟达预计于下周三(20日)美股盘后(北京时间下周四早上)公布其27财年第一财季业绩。围绕英伟达Blackwell和Rubin AI芯片的需求和供应失衡仍然“非常有利”,而与微软公司、Alphabet公司旗下的谷歌和亚马逊公司云平台相关的企业AI项目将继续加速发展。报告强调,“我们仍然坚信人工智能的商业化阶段才刚刚开始,这对下一阶段构建人工智能架构的超大规模云服务提供商来说无疑是利好消息。”
84.2w 阅读
05-12 11:08
一艘驶出霍尔木兹海峡的油轮靠近美国海军封锁线后折返 已返回阿曼湾
格隆汇5月12日|据市场消息,一艘载运伊拉克原油并于周日驶出波斯湾的超级油轮,在接近美国海军封锁线前看似停了下来,目前已折返驶回阿曼湾。船舶追踪数据显示,这艘“Agios Fanourios I”号超大型原油运输船,在上周末穿越霍尔木兹海峡进入阿曼湾后,现正以约5节的较低航速沿原航线折返。
43.6w 阅读
05-12 11:07
美光股价大涨6%再创新高 德银:1000美元见
格隆汇5月12日|过去一年多席卷市场的存储芯片热潮仍在愈演愈烈,并成为推动美股迭创新高的一支关键力量。德意志银行日前将美国存储芯片大厂美光科技的目标价上调至1000美元,与华尔街的最高预期持平,同时维持对该股的“买入”评级。D.A. Davidson在4月末率先提出1000美元目标价。德银给出的最新的目标价较美光科技最新收盘价高出近26%。周一,美光科技股价上涨6.5%,报795.33美元,创历史收盘新高。市值逼近9000亿美元。
US 美光科技
47.4w 阅读
05-12 11:06
印尼股指一度跌1.3% 创去年6月底以来新低
格隆汇5月12日|印尼基准股票指数一度跌1.3%至6,815.61点,为2025年6月底以来最低水平。
47.2w 阅读
05-12 10:58
格隆汇5月12日|日本经济产业大臣赤泽亮正周二和美国财长贝森特讨论了能源和关键矿产问题。
44.8w 阅读
05-12 10:54
英国首相斯塔默被多名内阁成员要求设定辞职时间表
格隆汇5月12日|据英国多家媒体11日消息,多名英国内阁成员要求首相斯塔默设定辞职时间表,其中包括外交大臣库珀、内政大臣马哈茂德。库珀、马哈茂德等4名内阁大臣共同前往伦敦唐宁街10号首相府,要求斯塔默考虑为辞职设定时间表。消息称,副首相兼司法大臣戴维·拉米和国防大臣约翰·希利据信与首相讨论了如何“负责任、有尊严、有序地”对未来作出安排。此前已有4名政府助理宣布辞职,他们与超70位工党下院议员一道呼吁斯塔默辞职或设定辞职时间表。据称,斯塔默将于当地时间12日早间举行内阁会议,目前正在“权衡他的选择”。
51.1w 阅读
05-12 10:49
图解丨资金“史上最大规模”撤离韩国ETF
格隆汇5月12日|贝莱德旗下规模近230亿美元的iShares MSCI South Korea ETF上周录得10.5亿美元资金净流出,创历史单周最大撤资规模。三倍杠杆产品Direxion Daily MSCI South Korea Bull 3X ETF同期亦流出2.4亿美元。
SH 中韩半导体ETF华泰柏瑞 HK XL二南方海力士 HK XL二南三星
86.2w 阅读
05-12 10:45
美国非法关税首批退款将于5月12日发放
格隆汇5月12日|美国海关与边境保护局表示,非法关税首批退款将于5月12日开始发放,部分美国企业将收到退税资金。美国政府于上月推出在线申请平台,允许企业申请退还此前缴纳、后被美国最高法院裁定违法的关税。美国海关数据显示,共有超过33万家进口商缴纳了总额约1660亿美元的相关关税。截至4月26日,已有至少7.5万家企业提交退款申请。美政府2025年年初以来援引《国际紧急经济权力法》推出大规模关税。今年2月20日,美最高法院公布裁决,认定美国《国际紧急经济权力法》没有授权总统征收大规模关税,裁定美政府援引此法实施的大规模关税政策违法。
46.0w 阅读
05-12 10:44
日本将于五月派遣官员赴俄 商讨保护日企资产
格隆汇5月12日|日本经济产业大臣赤泽亮正周二表示,日本计划于五月下旬派遣数名官员前往俄罗斯,旨在促进沟通,并协助保护在俄运营的日本企业所拥有的资产。他透露,此次莫斯科之行将与相关企业进行协调,但他未提供更多细节。不过,赤泽否认了媒体关于此次访问旨在探讨(俄乌)战后经济合作或能源合作的报道。赤泽亮正表示:“日本将继续与七国集团协调一致,对俄罗斯实施制裁;目前日本不具备寻求与俄罗斯开展新合作的条件。”
44.3w 阅读
05-12 10:43
马来西亚称目前没有从印尼采购大米的计划
格隆汇5月12日|马来西亚农业部表示,在出口磋商后,马来西亚目前没有从印度尼西亚采购大米的计划。
40.1w 阅读
05-12 10:39
美议员提出法案 拟加强美国对中国车辆的禁令
格隆汇5月12日|据快科技,路透消息称美国众议院两名议员于5月11日正式提出立法,旨在将拜登政府时期对中国汽车制造商的禁令写入法律,进一步收紧中国车辆进入美国市场的通道。共和党众议员约翰·穆莱纳尔与民主党众议员黛比·丁格尔联合在众议院推出该法案。该法案的核心内容是将拜登政府此前出台的一项行政监管措施“立法化”——该规定实际上已禁止所有中国汽车制造商在美国销售乘用车,新法案将进一步采取措施,阻止中国进入美国轻型车辆市场。
就在上个月,参议院方面已由共和党参议员伯尼·莫雷诺和民主党参议员伊丽莎·斯洛特金率先推出了参议院版本的同类法案——该法案将禁止在中国设计的、具有先进互联功能和车辆软件的车辆在美国市场销售。议员曾明确强调:“我们必须清醒认识到,邀请中国汽车制造商在美国设厂,将赋予其美国车企无法抗衡的绝对经济优势,并引发不可逆转的国家安全危机。”众参两院同步推进,意味着该议题在美国国会已获得跨党派支持。
47.2w 阅读
05-12 10:37
韩国总统府政策室长金容范:人工智能“公民红利”并不意味着暴利税
格隆汇5月12日|韩国总统府政策室长金容范表示,他通过Facebook发帖提议向人工智能(AI)产业征收“公民红利”时,并非指暴利税。他表示,这笔资金将来自政府已从AI相关企业的更高收入中所征收的税款,而非对企业利润征收的暴利税。
35.0w 阅读
05-12 10:36
涉疫邮轮撤离工作收尾 世卫组织:全球风险目前为“低”
格隆汇5月12日|当地时间11日,随着最后一批澳大利亚乘客从西班牙加那利群岛撤离,持续多日的“洪迪厄斯”号邮轮汉坦病毒疫情国际转运和人员撤离接近尾声。这艘邮轮载有来自23个国家的140余名乘客和船员,过去数周内汉坦病毒疫情造成多人死亡,引发国际关注。多国开展撤离行动。当地时间10日凌晨,“洪迪厄斯”号邮轮驶入加那利群岛特内里费岛格拉纳迪利亚港附近海域。这艘备受关注的邮轮没有直接靠泊码头,而是在离岸数百米的水域下锚,随后开始跨国医疗转运和人员撤离行动。
31.0w 阅读
05-12 10:34
格隆汇5月12日|据韩联社,由于生产成本可能上升,KF-21战斗机项目面临延迟的担忧。
26.6w 阅读