📰 小米公开 MiMo-V3 核心架构 HySparse2：面向长程多轮 Agent 优化推理效率

IT之家 9 月 24 日消息，小米 MiMo 今天公布面向 MiMo-V3 的核心架构 HySparse2，瞄准下一代长上下文 Agent。新架构旨在让模型以更低成本处理网页、文件、代码和工具调用记录，并从不断增长的任务历史中更准确地检索关键信息。

IT之家附官方详细介绍如下：

HySparse2 面向长程多轮 AGENT，更少的 Prefill 计算，更小的 KV Cache，更精准的长上下文检索。

从 Xiaomi MiMo-V2 系列开始，我们持续探索模型能力与计算效率的共同提升。MiMo-V2 系列采用的 Hybrid SWA 混合注意力架构，将全注意力（Full Attention）与滑动窗口注意力（Sliding Window Attention）结合，在保持模型效果的同时，让训练和推理更加高效。
查看原文 → ^↗