Xiaomi、1兆パラメータモデルで毎秒1000トークン超の推論速度を達成した「MiMo-v2.5-Pro-UltraSpeed」を発表
MiMo-v2.5-Pro-UltraSpeed: 1T model with 1000 tokens per second
XiaomiはTileRTと共同で、1兆パラメータモデル「MiMo-v2.5-Pro-UltraSpeed」を発表しました。このモデルは、毎秒1000トークンを超える推論速度を達成し、これはAIの推論速度が知能の境界を定義するという考えに基づいています。MiMo-v2.5-Pro-UltraSpeed APIは、従来のMiMo-v2.5-Proの3倍の価格で、約10倍の生成速度を提供します。このモデルは、2026年6月9日から6月23日まで、アプリケーションベースの期間限定で提供され、APIプラットフォームはplatform.xiaomimimo.com/ultraspeedです。この高速化は、FP4量子化とDFlashという新しい投機的デコーディング手法をモデル側で適用し、システム側ではTileRTの推論エンジンが最適化されたことで実現しました。これにより、従来のGPU上でモデルとシステムの共同設計(Codesign)のみで達成されました。この技術は、リアルタイムでの意思決定ループ、コーディングエージェントの生産性向上、さらには医療分野での応用も期待されています。
- Xiaomiが1兆パラメータモデル「MiMo-v2.5-Pro-UltraSpeed」を発表
- 毎秒1000トークン超の推論速度を達成
- API価格は従来のMiMo-v2.5-Proの3倍
- FP4量子化とDFlash(投機的デコーディング手法)を採用
- TileRTの推論エンジンが最適化に貢献
Xiaomiが1兆パラメータ規模のAIモデルを発表し、推論速度で毎秒1000トークン超という極めて高い性能を達成した点は注目に値する。FP4量子化と独自の投機的デコーディング手法「DFlash」、TileRTとのシステム協調設計により、従来GPU上で実現した点も重要。API価格が従来比3倍に設定されていることから、Xiaomiが高性能AIモデルを収益化する姿勢を明確にしており、AIサービス市場への本格参入を示唆している。医療やコーディングエージェントなどリアルタイム推論が求められる分野での応用期待も、投資検討材料となる。