腾讯混元Hy4发布:770B MoE架构与百万上下文,长周期智能体利器
腾讯混元Hy4 Preview正式上线,采用770B MoE架构,支持百万级上下文窗口,专为长周期任务规划、工具调用及复杂工作流设计的AI模型。
腾讯混元Hy4发布:专为“执行者”打造的长周期大模型
近日,腾讯推出了其最新的大语言模型——混元 Hy4 Preview。与以往侧重于“回答问题”的模型不同,Hy4 的核心定位非常明确:让 AI 从单纯的“问答者”转变为“执行者”。它具备理解复杂目标、规划工作流、调用工具并持续执行直至任务完成的能力。目前该模型已在 ApiHub 平台上线。
770B MoE 架构,兼顾性能与效率
Hy4 Preview 采用了先进的混合专家(MoE)架构,拥有 7700 亿的总参数量。但值得注意的是,在推理时每次仅激活 490 亿参数。这种设计既保证了模型拥有庞大的知识储备,又显著降低了计算成本,使得在实际部署中更加高效。
百万级上下文,解决智能体“健忘”痛点
对于开发者而言,Hy4 Preview 最吸引人的特性是其 约 100 万 tokens 的超长上下文窗口。这对于构建 AI 智能体(Agent)至关重要。
- 为什么需要长上下文?
在复杂的软件工程场景中,智能体往往需要同时处理大量信息。例如,修复一个大型应用的 Bug,它需要同时追踪:
- 任务需求与迁移计划
- 仓库结构与源代码
- 文档与依赖关系
- 终端输出与测试结果
- 工具调用记录与错误日志 如果上下文窗口过短,模型在处理长流程任务时容易“遗忘”关键信息,导致推理失败。百万级上下文让智能体能够在一个窗口内保持信息的连续性,从容应对复杂工作流。
专为长周期任务设计
Hy4 Preview 在多个维度上进行了强化,使其更适合作为智能体的基座模型:
- 复杂任务理解与规划:能将大目标拆解为可执行的子步骤。
- 上下文连续性:确保在多轮交互中保持决策的一致性。
- 工具使用与状态管理:能够精准执行指令并管理当前状态。
与传统的聊天机器人不同,智能体的工作流是一个动态循环:目标 -> 理解 -> 规划 -> 执行 -> 观察 -> 调整。Hy4 Preview 的价值在于,它能在一个长达几十甚至上百步的流程中,始终保持高质量的推理能力,而不是在中间环节迷失方向。
适用人群
这款模型特别适合以下领域的开发者:
- AI 智能体开发者:需要处理长期任务的场景。
- 编码助手:进行多步骤的代码重构、调试与验证。
- 自动化工作流构建者:金融研究、科学计算及办公自动化。
总之,Hy4 Preview 是腾讯在构建更“实用”的 AI 方面迈出的一步,它让大模型真正具备了处理复杂、长期任务的潜力。
本文基于 dev.to AI 的公开内容,由 AI 辅助整理改写后发布。
原标题:Tencent Hunyuan Hy4 Preview Is Here — 770B, 1M Context, and Built for Long-Horizon Agents | ApiHub
阅读原文