您的位置:首页>国内 >
蚂蚁集团与vLLM联合开源Humming:高性能、灵活的量化推理内核
来源:每日经济新闻 2026-10-21 21:25:42


【资料图】

每经AI快讯,10月21日,据蚂蚁开源官微消息,蚂蚁集团与vLLM社区联合开源Humming,一个通用、高性能的量化推理算子库。Humming具备以下特点:广泛的设备支持,覆盖多种GPU,以及兼容CUDA编程的设备;丰富的量化支持,通过统一架构支持Dense和MoE中丰富的权重与激活格式组合,覆盖多种整数和浮点类型、位宽及缩放方式。出色的执行性能在多种典型负载中显著优于vLLM Marlin、FlashInfer和DeepGEMM等现有实现。

关键词: 蚂蚁集团 vllm 基础设施组件

相关文章

蚂蚁集团与vLLM联合开源Humming:高性能、灵活的

蚂蚁集团与vLLM联合开源Humming:高性能、灵活的量化推理内核,蚂蚁集团更多

2026-10-21 21:25:42

*ST春兴:截至2026年10月20日,公司股东总人数79,693

证券之星消息,*ST春兴(002547)10月21日在投资者关系平台上答复投资者更多

2026-10-21 21:07:37

一天涨了280亿元,宇树机器人触底反弹!

10月21日,宇树科技发布股票交易异常波动公告,连续三个交易日,股价累更多

2026-10-21 21:08:54

世名科技:向特定对象发行股票申请获深交所审核通

世名科技:向特定对象发行股票申请获深交所审核通过人民财讯10月21日电更多

2026-10-21 20:55:45

深一度|那个被篮球耽误的斯塔德迈尔,实现了儿时

深一度|那个被篮球耽误的斯塔德迈尔,实现了儿时的警察梦,姚明,警察,更多

2026-10-21 20:27:39

今日报丨14+9+7!老牌法拉利也是超跑!老詹化身中

14+9+7!老牌法拉利也是超跑!老詹化身中军统帅,76人攻防惊艳争冠有戏更多

2026-10-21 20:35:24

八马茶业(06980.HK)10月21日耗资23.45万港元回购1

格隆汇10月21日丨八马茶业(06980 HK)公告,10月21日耗资23 45万港元回更多

2026-10-21 20:09:16

热点!股票行情快报:大连重工(002204)10月21日

证券之星消息,截至2026年10月21日收盘,大连重工(002204)报收于5 0元更多

2026-10-21 20:07:53

瑞博生物-B(06938.HK)10月21日耗资1万港元回购200

格隆汇10月21日丨瑞博生物-B(06938 HK)公告,10月21日耗资1万港元回购2更多

2026-10-21 20:10:17

【报资讯】华勤技术:41万股限制性股票10月26日上

10月21日,华勤技术(603296 03296)发布公告,2023年限制性股票激励计更多

2026-10-21 20:00:32

焦点热议:格林生物:第三季度归母净利润同比下降1

【格林生物:第三季度归母净利润同比下降16 17%】格林生物10月21日公告更多

2026-10-21 20:00:29

英伟达携手医疗机构推进药物研发与精准癌症治疗,

英伟达携手医疗机构推进药物研发与精准癌症治疗,推出蛋白质设计开放模更多

2026-10-21 19:28:21

MHMarkets迈汇:看黄金消费结构变化

MHMarkets迈汇:看黄金消费结构变化更多

2026-10-21 19:29:07

这座220米的高塔 能把阳光“存”进盐里?

如果您在哈密市伊吾县淖毛湖附近的戈壁滩上旅行,就很难不注意到这座仿更多

2026-10-21 19:21:19

北控水务集团(00371.HK)10月21日耗资15.1万港元回

格隆汇10月21日丨北控水务集团(00371 HK)公告,10月21日耗资15 1万港元更多

2026-10-21 19:06:20

今日热文:10月21日港股煤炭行业沽空数据盘点,中

,证券之星APP更多

2026-10-21 19:15:57

黔源电力:截至2026年10月20日,公司股东人数为20

证券之星消息,黔源电力(002039)10月21日在投资者关系平台上答复投资者更多

2026-10-21 19:03:19

朝聚眼科(02219.HK)10月21日耗资38.5万港元回购16.2万股

格隆汇10月21日丨朝聚眼科公告,10月21日耗资38 5万港元回购16 2万股,更多

2026-10-21 19:03:12

中办、国办:全面实施“人工智能+”行动 推动人

【中办、国办:全面实施“人工智能+”行动推动人工智能全方位赋能千行更多

2026-10-21 19:07:22

HCLTech推出英伟达驱动的汽车软件验证方案,利用A

HCLTech推出英伟达驱动的汽车软件验证方案,利用AI与仿真加速测试,英伟更多

2026-10-21 18:26:20