当前位置: 首页 > 实时讯息 >

蚂蚁集团推出新款MoE大语言模型 使用国产AI芯片训练成本进一步降低

100次浏览     发布时间:2025-03-26 06:22:47    

【蚂蚁集团推出新款MoE大语言模型 使用国产AI芯片训练成本进一步降低】财联社3月24日电,近日,蚂蚁集团Ling团队发表了一篇技术成果论文。论文显示,蚂蚁集团推出了两款不同规模的MoE大语言模型——百灵轻量版(Ling-Lite)与百灵增强版(Ling-Plus),前者参数规模为168亿(激活参数27.5亿),Plus基座模型参数规模高达2900亿(激活参数288亿),两者性能均达到行业领先水平。除了自研性能领先的大模型以外,该技术论文最大的突破在于提出了一系列创新方法,以提升资源受限环境下AI开发的效率与可及性。实验表明,其3000亿参数的MoE(混合专家)大模型可在使用国产GPU的低性能设备上完成高效训练,性能与完全使用英伟达芯片、同规模的稠密模型及MoE模型相当。

相关文章:

白叙川许微微全文(春云离散不相逢小说)全文免费阅读无弹窗大结局_春云离散不相逢免费最新章节列表04-09

许我三千繁星愿:全章+结局楚砚风小说全文免费阅读04-09

海口发布交通管制、禁飞通告!时间及区域→04-09

数智住建③|“AI+”巡检数字人即将上线!开启福田区智慧物业新时代04-09

甘肃省科技重大专项项目“优质鲜食与加工马铃薯新品种选育”通过验收04-09

也曾偷藏欢喜:全文+后续+结局(乔喜商凛乔雪眠)全文免费阅读无弹窗大结局_(乔喜商凛乔雪眠)也曾偷藏欢喜:全文+后续+结局最新章节列表_笔趣阁(乔喜商凛乔雪眠)04-09

持续筑牢长江上游生态屏障!四川省人大常委会启动长江保护法执法检查04-09

贸易壁垒挡不住经济全球化04-09