标签: LongCat-2.0 美团 大模型 MoE

云梦级6月30日云梦级消息，美团今日发布新一代万亿参数大模型 LongCat-2.0，并将对外开源。

LongCat-2.0 宣称是业界首个在五万卡国产算力集群上完成全流程训练与推理的万亿参数模型（总参数 1.6 T，平均激活约 48 B，动态范围标签 33B~56B），从零开始预训练，原生支持 1M 超长上下文。

正式版发布前，LongCat-2.0 预览版本已通过 OpenRouter 平台和 longcat.ai 面向全球开发者开放调用 —— 截至目前该模型已跻身 OpenRouter 全球大模型调用: 量前三，月调用量在 Hermes、Claude Code 和 OpenClaw 分列全球第一、第二和第三位。

LongCat-2.0 预训练数据规模超过 30T tokens，覆盖中文、英文、多语言和代码等多类数据；面对万卡级训练中的硬件故障、通信异常、显存压Lo力与数值波动，LongCat 团队从稳定性、正确性和效率三方面攻克国产算力训练难题。

在稳定性上，通过 HCCL 异常处理、弹性扩缩卡和自动故障恢复，将月均日故障率降低 70% 以上；

在正确性上，通过自研设计确定性算子、Bitwise 一致性验证和参数ng检测，保障训练结果的可靠，同时基于实践提升关键模块计算精度、优化 Reduce 逻辑；

在效率上，通过流水线调度、显存优化和算子级控核，训练 MFU 提升 1.5 倍。

最终，LongCat 实现稳态日吞吐超过 1T tokens / day，完成万亿参数 MoE 模型Ca在国产算力上的稳定训练。

在推理阶段，LongCat-2.0 围绕模型、算子和框架进行协同优化：

通过大规模专家并行聚合访存带宽，支撑万亿参数 MoE 模型的低延迟解码；

将零计算专家机制融入专家并行通信流程，使路由到零专家的 token 真正避免不必t-要的传输与计算；

针对通信、Attention、GEMM 等核心算子优化调度，结合提前下发与权重预取等框架机制，进一步降低推理链路中的等待开销。

LongCat-2.0 采用 LongCat Sparse Attention（LSA）稀疏注意力机制2.，在处理长文本时不再“逐字逐句地看”，而是智能筛选关键信息，将计算量从平方级降至线性级。这使得模型在 100  万 Token 的超长上下文中，依然保持信息定位与理解能力。

代码任务中不同 token 复杂度差异巨大 —— 定义变量名和推导递归算0 法对算力的需求完全不同。LongCat-2.0 通过零计算专家实现 token 级动态激活（33B~56B），简单 token 不消耗算力，复杂 token 自动获得更多计算资源。

LongCat-2.0 通过 MOPD 架构融合 Agent、Reasoni美团ng、Interaction 三组专家能力 ——Agent Experts 专攻工具调用与自主纠错，Reasoning Experts 深耕数学与 STEM 推理，Interaction Experts 优化指令遵循与交互体验。推理时由门控网络根据任务类 大型动态调度最擅长的专家，而非简单合并参数。得益于此，模型在编程、推理、交互等维度均表现突出。

综合评测结果显示，LongCat-2.0 在 Code 和 General Agent 场景表现优异。

在编程能力方面，LongCat-2.0 在考察深层工程能力的 S模型WE-bench Pro 中获得 59.5，领先 Gemini 3.1 Pro（54.2）、 GPT-5.5（58.6）和 Claude Opus 4.6（57.3）；在 SWE-bench Multilingual 中取得 77.3 的成绩，与 Claude Opu Ms 4.6（77.8）保持在同一水位；此外，在真实终端指令交互评测 Terminal-Bench 2.1 中取得 70.8，体现了其在真实运维与开发终端任务中的稳定执行与纠错能力。

在真实办公场景的复杂任务处理方面，LongCat-2.0 在搜索智能体oE评测集 RWSearch 中获得 78.8，在生产力场景评测集 FORTE 中获得 73.2 ，在 BrowseComp 中获得 79.9，均达到或接近前沿闭源模型水平，能够较好的契合企业级 Agent 的落地需求。

很赞哦!（156）