蚂蚁百灵开源 Ling-3.1-flash：支持 1M 上下文，本地仅需 4 卡 Hopper

蚂蚁集团旗下的百灵团队近日宣布开源其最新的高性能大语言模型 Ling-3.1-flash。该模型在长文本处理能力上实现了突破，最高支持 100 万 Token 的上下文长度，为企业和开发者处理海量文档提供了强有力的工具。

核心参数与性能表现

Ling-3.1-flash 采用了稀疏 MoE（混合专家）架构，其总参数量约为 560B，但在处理每个 Token 时仅激活约 25B 参数。这种设计在保证模型智能水平的同时，有效降低了推理成本。

在 Artificial Analysis 的公开评测中，该模型展现出优秀的性能指标：

• 智能指数：41
• 输出速度：约 210 Token/秒

这意味着在生成文本时，它不仅理解力强，而且反应迅速，非常适合对实时性要求较高的应用场景。

本地部署优化：显存与算力双降

对于技术团队而言，能否在本地低成本运行大模型是关键考量。蚂蚁百灵团队针对 Hopper GPU 架构进行了深度的量化优化，大幅降低了硬件门槛。

显存占用优化

通过采用 MXFP4 量化技术处理 routed experts 层，并保持 dense 层使用 block-FP8 格式，模型的权重占用空间从约 534GB 骤降至 292GB。

硬件需求降低

得益于显存的优化，原本需要 8 张 GPU 才能完整运行的配置，现在在 Hopper 平台上仅需 4 张卡 即可实现完整服务。这对于拥有服务器级 GPU 资源的团队来说，意味着可以以更少的硬件投入，运行同等规模的模型服务。

实用功能与场景解读

长资料处理

针对企业知识问答、办公助手等常见场景，这些系统往往需要先读取大量背景资料才能给出准确回答。Ling-3.1-flash 提供了长上下文并行推理方案（PCP/DCP），让模型能够高效处理长文档。

工具调用增强

模型加强了对 JSON Schema 的支持。对于开发者来说，这意味着模型可以更精准地与现有的业务接口进行对接，减少数据解析的错误率，简化了 API 集成的复杂度。

推理性能优化

为了减少长文本生成的开销，团队运用了算子融合与 DSpark 投机解码技术。在模拟生产环境的测试中，在 8 卡 Hopper 配置下，平均首 Token 时间为 604 毫秒，相邻输出 Token 平均间隔仅 3.28 毫秒。在 4 卡 Hopper 的吞吐测试中，模型达到约 1.36 QPS，同时满足首 Token 时间 P50 小于 3 秒、输出间隔 P90 小于 70 毫秒的严格约束。这为实际业务系统的容量规划和性能评估提供了可靠的数据参考。

获取方式与定价

目前，Ling-3.1-flash 已在 Hugging Face 和 ModelScope 平台上开源，开发者可以直接下载体验。

对于希望快速体验或进行二次开发的用户，官方提供了在线体验服务，并限时提供 2.5 折 优惠。

• Ling Studio（人民币）：输入 0.5 元，输出 1.5 元，缓存读取 0.1 元。
• OpenRouter（美元）：输入 0.075 美元，输出 0.225 美元，缓存读取 0.015 美元。

凭借其开源的特性和极具竞争力的本地部署成本，Ling-3.1-flash 有望成为长文本处理领域的热门开源选择。