小米 MiMo 宣稱標準 8-GPU 節點突破 1,000 tokens/s，商用硬體能否繞過 Groq 與 Cerebras 專用路線

小米 MiMo 宣稱旗下 MiMo-V2.5-Pro UltraSpeed 在單台標準 8-GPU 節點上，對 1 兆參數 MoE 模型達到超過 1,000 tokens/s 的輸出速度。關鍵不在數字本身，而在路線選擇：不靠 Cerebras 的晶圓級整合壓縮頻寬瓶頸，也不靠 Groq 的 SRAM 密集架構換取延遲優勢，純用商用 GPU 達成。此為廠商宣稱，尚待第三方覆現。

MiMo-V2.5-Pro UltraSpeed 是 MiMo 系列最新推理優化版本，消息首現於 Reddit r/LocalLLaMA。發文者指出，該 8-GPU 伺服器定位是標準商用規格，非客製化加速器。1 兆參數 MoE 架構因路由機制分流運算，有效運算密度低於全稠密模型，但在商用 GPU 上維持超過千 token/s 仍屬高水準宣稱。

推論上，若數字能被獨立覆現，超高吞吐推理不再強制綁定專用晶片，自建推理棧的工程師在硬體選型上多出一條商用路線，Groq 與 Cerebras 的定價空間也可能承壓。目前這仍是廠商單方宣稱，在第三方基準出爐之前，只宜當成值得追蹤的方向訊號，不宜直接納入技術選型。