{
title: "美团开源万亿大模型LongCat-2.0,国产算力首秀",
summary: "美团今日开源万亿参数大模型LongCat-2.0,总参数1.6万亿,平均激活480亿参数,是业界首个在五万卡国产算力集群上完成全流程训练与推理的模型。同步开放针对国产芯片优化的推理代码,标志着国产算力在超大规模模型训练领域取得关键突破。该模型在多个中文NLP基准测试中表现优异,为AI从业者提供了低成本、高自主可控的实践范本。",
content: "今天,美团正式宣布开源万亿参数大模型LongCat-2.0,并同步开放针对国产算力芯片深度优化的推理代码。这不仅是国内首个完全基于国产卡完成训练和推理的万亿参数模型,更标志着国产算力在超大规模AI模型落地中迈出了实质性的一步。对于AI从业者而言,这意味着不再需要依赖海外高端芯片,就能探索万亿参数模型的潜力。\n\nLongCat-2.0的总参数达到1.6万亿,但通过混合专家架构设计,平均每次推理仅激活约480亿参数,大幅降低了计算成本。美团透露,该模型在五万张国产算力卡组成的集群上完成全流程训练,训练过程历时数月,最终实现了与海外主流万亿模型相当的性能。在多个中文自然语言处理基准测试中,LongCat-2.0在文本生成、知识问答和代码理解等任务上均取得领先分数,部分指标甚至超越了同参数规模的模型。\n\n此次开源的核心亮点在于推理代码的国产化适配。美团针对国产芯片的指令集和内存架构进行了深度优化,使得模型在推理阶段的吞吐量提升了约30%,延迟降低了20%。这意味着,即使是中小型企业,也能利用现有国产服务器部署万亿级别模型,而无需额外采购昂贵的外国硬件。业内人士分析,这一举措将加速国产AI生态的成熟,降低行业对单一供应链的依赖。\n\n展望未来,LongCat-2.0的开源为AI社区提供了宝贵的实践参考。对于希望探索大模型落地的团队,建议从LongCat-2.0的推理代码入手,结合国产算力卡进行小规模实验,逐步验证模型在具体业务场景中的效果。同时,美团也计划在后续版本中进一步优化训练效率,并开放更多工具链。可以说,LongCat-2.0不仅是一个技术成果,更是国产算力走向自主可控道路上的重要里程碑。"
}
国内首个国产卡训推万亿大模型美团LongCat-2.0开源!
AITNT
2小时前
0
0