Swift-Qwen3.8-27B: Qwen3.8-27Bの推論効率を58.3%向上させ、精度を維持しつつ速度を1.95倍に
Show HN: Swift-Qwen3.8-27B, -58.3% thinking, x1.95 speed, accuracy of xhigh
UkisAIは、Qwen3.8-27Bをベースにした推論効率の高いモデル「Swift-Qwen3.8-27B」を発表しました。このモデルは、推論マーカーとなるトークンを特定し、それらの使用を罰することで、思考トークンを58.3%削減しながらも、精度をほぼ維持(1%未満の低下)し、複数のタスクで1.95倍の速度向上を実現しました。LiveCodeBench v6のプロンプトを使用したテストでは、GPQA-Diamond、MMLU-Pro、C-Eval、IFBench、AIME 2026、HMMT (Nov 2025)、ERQA、Terminal-Bench 2.1、LiveCodeBench v6といったベンチマークで、トークン削減と速度向上が確認されています。また、BottleCap AIのThinkingCap-Qwen3.6-27Bから派生した転移学習コンポーネントも含まれています。INT4量子化評価でも、精度を維持しつつトークン削減効果が持続することが示されています。Swift-Qwen3.8-27Bは、研究目的で無料利用可能なOpenAI互換API(https://ukisai.com/api/swift/v1)で提供されており、GGUF形式も利用可能です。このモデルは、NVIDIA H100 GPUへのアクセス提供を受けたNVIDIA Innovation Labの協力のもと開発されました。
- UkisAIがQwen3.8-27Bをベースにした推論効率特化モデル「Swift-Qwen3.8-27B」を発表、思考トークンを58.3%削減しつつ精度低下1%未満、複数タスクで1.95倍の高速化を実現
- GPQA-Diamond、MMLU-Pro、C-Eval、IFBench、AIME 2026、HMMT、ERQA、Terminal-Bench 2.1、LiveCodeBench v6 などのベンチマークでトークン削減と速度向上を確認
- BottleCap AIのThinkingCap-Qwen3.6-27Bから派生した転移学習コンポーネントを組み込み
- INT4量子化評価でも精度を維持しつつトークン削減効果が持続すると確認
- 研究目的で無料利用可能なOpenAI互換APIとGGUF形式で提供、NVIDIA H100へのアクセス提供を受けたNVIDIA Innovation Labの協力で開発
推論時のトークン削減で同一精度を保ちつつ約2倍の高速化を達成した点は、推論コスト=GPU時間の直接的な削減につながるため、LLM運用企業の粗利改善に効く典型的な「効率化」テーマ。INT4量子化でも効果が持続するなら推論インフラ側のコスト構造(アクセラレータ需要の質的変化)にも波及し得る。ただし提供主体が小規模な研究プロジェクトで、APIが研究用途の無償提供にとどまるため、当面は商用収益に直結しない点は割り引いて見るべき。パラメータ数27B級・オープン系モデルの蒸留/圧縮手法として、他のモデル提供者への波及とベンチマーク再現性の検証を注視したい。