
全球视野, 下注中国
打开APP
2025-06-07 18:16 星期六
04-07 11:53
流量高峰“不加价”,第四范式SageOne IA一体机全新升级,支持模型弹性伸缩
格隆汇4月7日|近期,第四范式一体机解决方案SageOne IA全新升级,推出“<u>模型弹性伸缩</u>”技术来应对流量波动。当前企业一般采用传统扩缩容方案,即当应用负载增加时,通过人工干预或系统按既定规则扩展计算节点,保证服务可用;当负载减少时释放多余的计算节点,这一定程度上增加了算力成本和IT运维复杂度。“模型弹性伸缩”是系统根据负载状况,自动灵活切换同一系列下不同参数大小的模型提供模型服务,<u>无需额外扩展计算节点,节省算力成本,提升资源使用效率的同时还大大降低运维工作量。</u>
例如在大模型推理场景下,负载较小时,满血版模型提供高精度的推理服务;进入高峰时段时,系统会自动将满血版降级为一个或多个蒸馏版/量化版模型实例,来处理大量并发请求。<u>结合模型预加载等技术,可避免模型服务切换时,导致服务中断或输出质量波动问题,做到用户无感知的平滑切换</u>;当流量回归常态后,系统再自动升级到满血版模型服务,并释放多余的较小参数模型实例。
同时,系统可预设多种基于负载的触发条件,如结合GPU使用率、请求队列长度、响应延迟等资源健康度指标,形成动态切换策略和任务路由机制,使弹性方案在实际应用中更贴近业务需求。
HK 第四范式
35.5w 阅读
04-07 11:51
格隆汇4月7日|印度标普BSE SENSEX指数跌1.2%。
32.5w 阅读
04-07 11:50
民爆光电:美国加征关税对公司的经营影响很小
格隆汇4月7日|民爆光电在互动平台表示,2024年度公司直接和间接出口至美国市场的产品占总收入的比例仅为7.3%,美国加征关税对公司的经营影响很小。
SZ 民爆光电
41.7w 阅读
04-07 11:49
多家头部量化机构透露上午没有大规模卖出
格隆汇4月7日|上午A股大幅回调,量化机构交易相对平静,没有进行大规模卖出的操作。多家头部量化已提前做好预期管理。虽然风控部门相对比较紧张,但目前还没有出现超出风控约束条件的情况。有量化机构表示,从过往经验和行情判断上,面对极端行情,“扛”过去反而是更好的选择。“私募不像公募需要披露日净值,等更新周净值时市场大概率已经修复。”另有量化机构表示,清明节前刚刚完成A500指增产品的发行,今天上午已经着手建仓。
50.9w 阅读
04-07 11:48
格隆汇4月7日|印度波动率指数飙升至19.37,为去年11月6日来最高。
35.7w 阅读
04-07 11:48
A股1567股跌停,创业板指跌9.7%,沪指跌6.3%
格隆汇4月7日|“贸易战”阴影笼罩,A股重挫。截至半日收盘,沪指跌6.34%报3130点,创业板指跌9.74%,深证成指跌8.01%,微盘股指数跌11%,北证50、中证2000跌超10%。市场半日成交超万亿,超5200股下跌,仅177股上涨,1567股跌停。
113.1w 阅读
04-07 11:47
格隆汇4月7日|印度股指Nifty 50指数跌5.1%,创去年6月4日来最大跌幅。
47.2w 阅读
04-07 11:46
格隆汇4月7日|日本经济产业大臣斋藤健:强烈敦促美国免除对日本的关税。以高度紧迫感密切关注市场动态。将对市场波动采取适当措施。对于市场水平不予评论。货币政策由日本央行决定。
36.1w 阅读
04-07 11:46
移为通信:本轮美国关税调整对公司的直接影响有限且可控
格隆汇4月7日|就美国加征关税影响,移为通信今日在互动平台表示,总体来看,本轮关税调整对公司的直接影响有限且可控。从市场端来看,公司产品覆盖全球140多个国家和地区,销售区域和客户结构的多元化加强了公司抵御国际风险的能力;从供应链端来看,公司加工环节主要是委外加工,具有一定的灵活性,目前公司在海外多个地区有代加工厂,实现多元化生产目标。
SZ 移为通信
26.9w 阅读
04-07 11:45
格隆汇4月7日|三星电子电视高管:将继续关注美国的关税,计划在全球10个左右的生产基地进行相应的分配。
23.9w 阅读
04-07 11:44
瑞银:关税模型显示 全球经济可能受到50-100BP的拖累
格隆汇4月7日|瑞银在一份报告中表示,全球关税模型估计,全球经济增长可能会受到50至100个基点的拖累。瑞银表示:“亚洲的情况可能会更糟,因为关税税率更高,而且对美国的出口敞口也更大。”瑞银表示:“我们估计,对增长的拖累最大的可能是泰国/新加坡(100-120个基点),其次是马来西亚(60-80个基点),然后是印尼和菲律宾(30个基点)。”
23.2w 阅读
04-07 11:44
石破茂:美国加征关税对日本来说如同“国难”
格隆汇4月7日|据日本《产经新闻》,当地时间7日上午,日本首相石破茂就美国的“对等关税”政策表示:对于日本来说如同国难。石破茂在参议院决算委员会会议上就美国“对等关税”问题再次表达了担忧,称“这对我国来说可以说是国难”,并表示将通过谈判争取减免。石破茂表示“希望能尽快访美”,并强调了向美国总统特朗普说明日本立场的必要性。
22.3w 阅读
04-07 11:43
美国加税名单里没有俄罗斯?白宫回应
格隆汇4月7日|据界面,当地时间4月6日,美国白宫国家经济委员会主任凯文·哈塞特谈及“美国未对俄罗斯加税”这一问题时表示,这是因为正在与俄罗斯和乌克兰进行谈判,特朗普总统是为了“不将这两个问题混为一谈”。哈塞特补充说,这不意味着俄罗斯将受到与任何其他国家完全不同的待遇。
17.9w 阅读
04-07 11:43
特朗普:有时你必须靠吃药来解决问题
格隆汇4月7日|据路透,当地时间4月6日,特朗普在空军一号上说,他并不担心市场损失,尽管美国股市已经蒸发了近6万亿美元的价值。特朗普还补充说,有时你必须靠吃药来解决问题。
17.1w 阅读
04-07 11:41
格隆汇4月7日|印度标普BSE SENSEX指数在盘前交易中下跌5.3%。
19.0w 阅读